La qualité du jugement se dégrade — le schéma de la fuite en avant

Le deuxième schéma qui dégrade la qualité du jugement, c'est la fuite en avant (ici : continuer à avancer sans pouvoir s'arrêter). Là où le décrochage s'arrête juste avant la fin, la fuite en avant est l'opposé : on avance sans jamais freiner.

Un journal de travail, un soir

Ce qui suit est une note prise pendant une session de corrections répétées sur une conception.

Une implémentation ne fonctionnait pas comme prévu. Au premier regard, le problème semblait mineur. On a proposé une correction, on l'a testée. Après la correction, un autre problème est apparu. On a corrigé à nouveau. On s'est retrouvé bloqué ailleurs. On a encore corrigé.

Ce cycle s'est répété. Et progressivement, toute l'attention s'est concentrée sur une seule chose : corriger pour que ça marche.

Plus le temps de travail s'allonge, plus le champ de vision se rétrécit. Un cycle court s'installe : chercher une solution au problème qui vient d'apparaître, la tester, passer au problème suivant. Sans relâche.

C'est dans cet état que l'agent IA chargé de l'audit (ici : l'agent responsable du contrôle indépendant, selon le principe de séparation des pouvoirs) a signalé : « Il faudrait marquer une pause. »

Le contenu du signalement était le suivant : « Ces corrections en chaîne ne seraient-elles pas le signe d'un problème dans la conception de base ? » Le fait de corriger sans cesse suggère que ces corrections ne touchent peut-être pas au cœur du problème. Il était peut-être temps d'envisager non pas de « corriger pour faire fonctionner », mais de « reprendre la conception à zéro ».

À ce moment-là, on avait la sensation que « c'était bientôt réglé » et on a jugé qu'il suffisait de continuer un peu. En réalité, quand on s'est arrêté pour vérifier la conception, on a constaté que le problème se trouvait à la racine même de la structure.

Comment la fuite en avant se produit

Il y a deux grandes conditions qui déclenchent la fuite en avant.

La première, c'est la fatigue.

Le jugement demande de l'énergie. Quand on fait face au même problème pendant de longues heures, la précision du jugement diminue. Ce qui est difficile à percevoir, c'est précisément cette diminution. Plus on est fatigué, plus la sensation de « encore un peu et c'est résolu » s'impose seule dans l'esprit, tandis que l'idée de « chercher une autre approche » ne vient plus.

Il se passe la même chose dans le traitement d'un agent IA. Lorsqu'on entre dans un certain schéma de résolution de problème, il devient difficile d'en sortir. Le passage du cycle « corriger et vérifier » vers le jugement « remettre en question la conception » ne se fait plus naturellement.

La deuxième, c'est la conviction que « la solution est proche ».

Quand on a le sentiment d'être près du but, le coût psychologique de s'arrêter augmente. La sensation de « si je m'arrête maintenant, tout ce que j'ai investi sera perdu » fait aussi son apparition. Cela peut être utile pour maintenir l'effort, mais dans un état où la qualité du jugement a chuté, l'effet s'inverse.

En quoi la fuite en avant est-elle dangereuse

Le décrochage posait le problème suivant : « considérer comme terminé ce qui ne l'est pas ». La fuite en avant est un peu différente.

Ce qui rend la fuite en avant dangereuse, c'est que « les alternatives disparaissent du champ de vision ».

Lorsqu'on est pris dans des corrections en série, la réflexion s'oriente uniquement vers « corriger encore mieux ». Des options comme « abandonner cette approche de correction », « revoir la conception depuis la base » ou « couper court aujourd'hui et reconsidérer demain » sortent de la conscience.

Quand on continue à juger avec un champ de vision réduit, on s'épuise sans que les résultats suivent, et cet état dure longtemps. Et même si le problème finit par être résolu, il arrive que la conception de base soit restée tordue — plusieurs rustines appliquées les unes sur les autres.

Prévenir grâce à l'interruption et à la coupure

La fuite en avant se gère plus facilement en deux étapes.

La première étape : l'agent IA chargé de l'audit émet explicitement une « interruption ».

Quand l'agent IA chargé de l'exécution (ici : l'agent responsable de la mise en œuvre concrète) est en train de corriger en boucle, il est souvent incapable de s'arrêter lui-même. C'est précisément pour cette raison qu'un rôle d'audit (ici : contrôle indépendant extérieur) est nécessaire. Si l'agent d'audit détermine que « cet état correspond au schéma de la fuite en avant », il dispose du pouvoir d'émettre une instruction : « Arrêtons et vérifions la conception. »

Cette « interruption » n'est pas une déclaration d'échec. C'est une réinitialisation destinée à restaurer la qualité du jugement. C'est le constat que les distorsions qui s'accumulent en continuant sans s'arrêter dépassent ce qu'on perdrait à marquer une pause.

La deuxième étape : la coupure et la reprise le lendemain.

On fixe une durée maximale ou un nombre maximum de tentatives, puis on marque une coupure dans le travail. Après cette coupure, on réexamine la conception le lendemain (ou après un intervalle suffisant). Rien que cela suffit souvent à dissoudre l'attachement à la logique « corriger pour faire fonctionner ».

Ce n'est pas rare de voir un problème sur lequel on s'acharne en état d'épuisement révéler une autre solution dès qu'on le regarde le lendemain. Il y a des moments où ce qui compte, ce n'est pas l'énergie pour continuer à travailler, mais la lucidité pour s'arrêter une fois.

La fuite en avant est un schéma qui se produit d'autant plus facilement que l'engagement est sincère. La concentration mise à résoudre le problème rend l'arrêt difficile.

C'est précisément pour cela qu'il est important de placer à l'extérieur un rôle disposant du pouvoir de s'arrêter. Quand on ne peut pas s'arrêter soi-même, le fait d'avoir un mécanisme qui peut dire de l'extérieur « arrêtons et reconsidérons » permet de limiter les dommages de la fuite en avant.