Pourquoi confier l'audit à une IA d'un autre fournisseur ?
Dans cette organisation, le rôle d'auditeur est assuré par une IA conçue par une entreprise différente de celle qui assure l'exécution. C'est le principe de base du système présenté dans cette série.
Pourquoi ce choix ? En une phrase : parce qu'on ne peut pas s'auditer soi-même.
L'auto-audit a ses limites
Dans les chapitres précédents, nous avons vu comment diviser l'organisation IA en trois rôles : exécution, audit et approbation finale. L'IA chargée de l'exécution effectue le travail, l'IA chargée de l'audit vérifie le résultat, et c'est ensuite un humain qui donne l'approbation finale.
Une question se pose alors. Que se passe-t-il si l'on confie l'audit à la même IA que l'exécution ?
La réponse est simple : cela n'a aucun sens.
Prenons un exemple. Imaginez une personne qui relit son propre texte pour en vérifier les erreurs. Comme elle sait ce qu'elle voulait dire en l'écrivant, elle le lira inconsciemment en lui donnant le bénéfice du doute. Les oublis se produisent plus facilement quand les connaissances et les intentions se recoupent.
Avec une IA, le même phénomène se produit de façon structurelle.
Un même modèle, une même façon de voir
Chaque IA est conçue par son entreprise avec ses propres « habitudes de pensée ».
Si l'on utilise en permanence des modèles d'un même fournisseur (une même entreprise qui conçoit l'IA), on s'oriente vers un style, une structure et des critères de jugement particuliers. Ce n'est pas un problème en soi, mais cela devient problématique dans un contexte d'audit. Si l'auditeur partage les mêmes habitudes de pensée, il risque de ne pas voir les erreurs ou les biais introduits par l'exécutant.
De façon plus concrète : les IA d'une même entreprise partagent souvent les mêmes données d'entraînement et la même architecture (c'est-à-dire la même structure de conception de l'IA). Elles ont donc tendance à faire des erreurs similaires. L'exécutant produit un résultat en jugeant que « cette décision est correcte », et l'auditeur du même type conclut qu'« il n'y a pas de problème ». C'est ainsi que naissent des angles morts structurels.
La raison d'utiliser un autre fournisseur
C'est pourquoi le rôle d'auditeur est délibérément confié à un autre fournisseur.
Le résultat produit par l'IA de l'entreprise A est vérifié par l'IA de l'entreprise B. L'IA de l'entreprise B repose sur une conception différente et un entraînement différent. Elle peut donc aborder sous un autre angle les aspects que l'IA de l'entreprise A aurait tendance à négliger.
Ce n'est pas une garantie absolue. Ce n'est pas non plus une formule magique qui résout tout. Cependant, cela réduit le risque que les mêmes schémas d'oubli se répètent, par rapport à une organisation qui utilise un seul et même fournisseur. C'est la principale raison de placer l'auditeur chez un autre fournisseur.
Dans une organisation humaine, cela ressemble à la différence entre un audit interne et un audit externe. Laisser uniquement des personnes de l'intérieur examiner un travail, ou faire appel à un regard extérieur : la seconde option préserve plus facilement l'objectivité. Ce principe est appliqué ici à l'organisation IA.
Point de conception : rôle et indépendance vont ensemble
Séparer les rôles et garantir l'indépendance sont deux choses qui fonctionnent ensemble.
On peut attribuer les trois rôles — exécution, audit, approbation finale — à des entités distinctes (c'est-à-dire des unités dotées chacune de leur rôle et de leurs responsabilités). Mais si toutes partagent la même base de jugement, la séparation perd son sens. La séparation des rôles et la séparation des bases de jugement : ces deux éléments réunis permettent au système de contrôle mutuel (ici : le mécanisme par lequel chacun empêche les autres d'aller trop loin) de fonctionner comme une organisation.
Dans la conception de cette série, l'exécution est assurée par Claude (Anthropic) et l'audit par Gemini (Google), avec un choix délibéré de fournisseurs différents. Il ne s'agit pas de savoir lequel est le meilleur, mais d'un choix de conception pour garantir une base de jugement indépendante.
Le rôle de l'auditeur n'est pas de rejeter
Un point à préciser.
Le rôle de l'auditeur n'est pas de rejeter ou de bloquer le travail de l'exécutant. Il s'agit de remplir une fonction de filtre : « détecter les problèmes s'il y en a, laisser passer s'il n'y en a pas. »
Quand la conception fonctionne bien, l'auditeur se fait presque oublier. Si le résultat de l'exécution est approprié, le processus passe simplement à l'étape suivante. L'auditeur se signale quand quelque chose dépasse le seuil d'alerte (c'est-à-dire la ligne à partir de laquelle un problème est détecté).
Cette structure, une fois mise en place et en fonctionnement, est plus discrète qu'on ne l'imaginerait. « Des IA qui se vérifient mutuellement » : dit ainsi, cela semble spectaculaire. Mais au quotidien, le traitement avance silencieusement.
Résumé de ce chapitre
- L'auto-audit a des limites structurelles
- Les IA d'un même fournisseur partagent les mêmes habitudes de pensée, ce qui les rend peu adaptées au rôle d'auditeur
- Confier l'audit à un autre fournisseur réduit le risque que les mêmes schémas d'oubli se répètent
- La séparation des rôles et la séparation des bases de jugement fonctionnent ensemble
- Le rôle de l'auditeur est de servir de filtre, pas de rejeter