Tous les dossiers de gouvernance IA promettent un humain dans la boucle. Peu résistent à un inspecteur. Distinguer la supervision réelle du décor.
J'ai lu beaucoup de dossiers de gouvernance de l'IA. Presque tous contiennent une diapositive avec une petite icône humaine à côté d'une flèche, et la formule « humain dans la boucle ». Presque aucun ne résisterait à un inspecteur qui passerait devant la diapositive, irait trouver la personne derrière l'icône et poserait une seule question : sur ce dossier précis, qu'avez-vous fait exactement ?
Cette question est tout le sujet. La supervision n'est pas un schéma, c'est un ensemble de conditions qui tiennent ou non au moment de la décision : le relecteur a l'autorité de renverser, le temps de relire, l'information nécessaire pour juger, la compétence pour l'interpréter, et une trace prouvant qu'il l'a fait. Retirez l'une des cinq et vous obtenez une supervision décorative, qui est pire que rien, parce qu'elle fabrique une assurance fausse et, on va le voir, un dossier documentaire contre vous.