Quand la qualité du jugement se dégrade
Dans les chapitres précédents, nous avons présenté le principe de la séparation des pouvoirs (ici : répartir l'exécution, l'audit et l'approbation finale entre des agents distincts). D'un côté, un agent IA chargé de l'exécution. De l'autre, un agent IA d'un fournisseur différent — ce choix extérieur évite les biais de complaisance interne — qui assure l'audit. Et enfin, un être humain qui donne l'approbation finale. Trois rôles bien séparés, qui se vérifient mutuellement.
Certains se demandent peut-être : « Pourquoi séparer à ce point ? »
La réponse tient en une ligne : parce que le jugement lui-même a une qualité.
Un jugement ne se résume pas à « oui » ou « non »
On a tendance à réduire le jugement à un choix binaire : faire ou ne pas faire.
Pourtant, le jugement a une qualité. Un jugement pris dans de bonnes conditions n'est pas le même qu'un jugement pris dans la fatigue ou la précipitation.
Voici un exemple concret. Décider posément « on s'arrête là pour aujourd'hui » après réflexion, et lâcher « ça ira comme ça » par épuisement, produisent tous les deux l'arrêt du travail — mais le sens est différent. Le premier repose sur des raisons solides ; le second, sur une base fragile.
Cela vaut pour les humains comme pour les agents IA : la qualité du jugement n'est pas constante. Elle varie selon la situation, la fatigue, le contexte.
Et quand la qualité du jugement se dégrade, les problèmes surviennent plus facilement.
Trois schémas typiques de dégradation
Dans le fonctionnement de ce projet, on observe que la qualité du jugement se dégrade selon trois schémas qui reviennent régulièrement.
Le premier est le décrochage (ici : s'arrêter juste avant la fin).
C'est le schéma où la main s'arrête alors que le travail est presque terminé. On ressent que « c'est presque fini », que « c'est globalement fait », et la concentration sur ce qui reste se relâche. On se satisfait de l'avant-dernière étape, ou on passe à la suivante en sautant la finition.
Le deuxième est la fuite en avant (ici : continuer à avancer malgré la dégradation).
C'est le schéma où, même avec un jugement de mauvaise qualité, on ne s'arrête pas et on continue à courir. On avance malgré la fatigue, on répète la même méthode malgré l'échec. On se concentre uniquement sur « corriger et faire fonctionner » — et on perd de vue la question fondamentale : « peut-être que la conception de départ est fausse. »
Le troisième est la sur-inhibition (ici : se bloquer alors qu'on pourrait agir).
C'est le schéma où l'on devient incapable d'agir alors que la situation le permettrait. On traite des risques imaginaires comme s'ils étaient réels, et on bascule vers une prudence excessive. On intériorise trop les mises en garde des autres, et on s'arrête dans des situations où il serait tout à fait possible d'avancer.
Pourquoi cela pose problème
Quand on travaille seul, une légère dégradation du jugement reste dans le périmètre de sa propre responsabilité.
Mais quand on coordonne plusieurs agents IA en équipe, les données changent.
Lorsque la qualité du jugement de l'agent IA chargé de l'exécution se dégrade, la qualité des propositions et des résultats qui s'appuient sur ce jugement se dégrade aussi. Et c'est l'être humain chargé de l'approbation finale qui reçoit ces résultats de moindre qualité.
Pour cet être humain aussi, à force de recevoir des propositions de mauvaise qualité, le niveau de référence s'abaisse. Les jugements du type « ça ira bien » se multiplient. En d'autres termes, la dégradation de la qualité du jugement est contagieuse.
C'est précisément pour cette raison que la structure de la séparation des pouvoirs est nécessaire. En confiant le rôle d'audit à un agent distinct, on peut introduire de l'extérieur le constat : « cette proposition est de moindre qualité » ou « il vaut mieux s'arrêter un moment. »
Les trois schémas — décrochage, fuite en avant, sur-inhibition — surviennent dans des situations différentes et appellent des réponses différentes. On les documentera un par un avec des exemples concrets.