Ogni presentazione sulla governance dell'IA promette un umano nel loop. Poche reggono se un ispettore chiede all'operatore cosa ha fatto davvero.
Ho letto parecchie presentazioni sulla governance dell'IA. Quasi tutte contengono una slide con una piccola icona umana accanto a una freccia e la formula "human in the loop". Quasi nessuna reggerebbe a un ispettore che passa davanti alla slide, va a cercare la persona dietro l'icona e fa una sola domanda: su questa pratica, cosa ha fatto esattamente?
Quella domanda è tutto il tema. La sorveglianza non è uno schema, è un insieme di condizioni che al momento della decisione ci sono oppure no: chi rivede ha l'autorità di ribaltare, il tempo per rivedere, l'informazione necessaria per giudicare, la competenza per interpretarla, e una traccia che dimostri che l'ha fatto. Togliete una delle cinque e ottenete una sorveglianza decorativa, che è peggio di niente, perché fabbrica una rassicurazione falsa e, come vedremo, un fascicolo documentale contro di voi.