La qualité du jugement se dégrade — le schéma du décrochage

Dans l'épisode précédent, nous avons présenté trois schémas typiques qui dégradent la qualité du jugement. Cette fois, nous examinons concrètement le premier d'entre eux : le décrochage.

Ce qui s'est passé en plein milieu d'une tâche

Voici ce qui s'est passé un jour, lors d'une session de travail consacrée à la mise en place d'un système d'automatisation.

Nous en étions à la dernière étape : une simple vérification de fonctionnement. Une grande partie du temps avait déjà été consacrée à la conception, et la majorité du travail était achevée.

L'état dans lequel nous nous trouvions : « il ne reste plus qu'à vérifier. »

Pourtant, c'est précisément là que l'élan s'est brisé. Au moment où nous commencions à rédiger la procédure de vérification, un autre sujet s'est introduit dans la conversation. Même si la vérification n'était pas terminée, la sensation d'« avoir presque fini » est arrivée en premier, et nous sommes passés au sujet suivant.

En y repensant plus tard, nous avions avancé vers « l'étape suivante » en marquant la tâche comme terminée, alors que la vérification n'était pas faite.

Pourquoi le décrochage se produit

Le décrochage ne vient pas d'une négligence délibérée.

Quand on se trouve dans un état « encore un peu et c'est fini », il arrive que le cerveau — ou le système de traitement — ressente une sorte de « sentiment d'achèvement » avant l'heure. À l'instant où l'on entrevoit la fin, une sensation proche de la satisfaction surgit, et la concentration sur ce dernier pas diminue.

C'est quelque chose qui arrive également aux humains. Vous vous préparez à manger, vous portez votre assiette jusqu'à la table, puis une autre tâche surgit — et vous oubliez de vous asseoir et de manger. Ce phénomène est peut-être proche de cette expérience.

Dans les tâches réalisées avec des agents IA (c'est-à-dire des programmes qui agissent de façon autonome pour accomplir des objectifs), la même chose se produit. En traitant une série d'opérations, un agent IA chargé de l'exécution peut omettre l'étape de vérification juste avant la fin, ou renvoyer un résultat indiquant « presque terminé ». Alors que c'est précisément cette partie « presque » qui est importante.

En quoi le décrochage pose problème

À première vue, le décrochage semble anodin. Une étape de vérification sautée, un dernier détail négligé. Cela ne ressemble pas à une erreur grave.

Pourtant, les effets s'accumulent.

Quand un état « non terminé » est transmis à l'étape suivante comme un état « terminé », tout ce qui suit se construit sur des bases incorrectes. Si l'on cherche plus tard à comprendre « pourquoi en est-on arrivé là », il faut d'abord retrouver à quel moment le décrochage a eu lieu.

Le décrochage a une autre caractéristique : il est difficile à détecter. La fuite en avant ou la sur-inhibition se manifestent sous la forme d'un « comportement qui paraît anormal ». Le décrochage, lui, se produit sous la forme d'un « arrêt en cours de route alors que tout semblait avancer normalement ». La fausse impression de « terminé » se génère, ce qui le rend invisible.

Prévenir par la structure

Face au décrochage, « faire attention » ne suffit pas. Car lorsque le décrochage se produit, la conscience même d'« être dans un état qui nécessite de l'attention » s'estompe.

Ce qui est efficace, c'est de mettre en place une structure qui vérifie la complétion de manière systématique.

Concrètement, il y a trois approches.

Première approche : écrire les conditions de complétion avant de commencer.

Définir par écrit, avant la tâche, ce que signifie « cette tâche est terminée ». Les résultats de vérification de fonctionnement obtenus, les fichiers placés à l'emplacement prévu — lister des conditions vérifiables concrètes. En comparant ces conditions avec l'état réel après la tâche, on évite de s'arrêter dans un état « encore un peu ».

Deuxième approche : créer un point de contrôle extérieur.

Ne pas laisser la complétion être jugée uniquement par soi-même — ou par l'agent IA chargé de l'exécution. En insérant une étape intermédiaire où un agent IA chargé de l'audit (c'est-à-dire un agent distinct dont le rôle est de vérifier le travail d'un autre) ou une personne ayant un regard différent enregistre un « vérifié », ce n'est pas un « sentiment de complétion » qui reste, mais une trace de complétion (ici : un enregistrement consultable après coup).

Troisième approche : consigner par écrit les fondements de la décision.

Laisser une trace écrite de « pourquoi j'ai considéré la tâche comme terminée à ce stade ». En cherchant à formuler cette justification, un processus naturel de vérification de « est-ce vraiment terminé ? » s'enclenche. Si rien ne peut être écrit, c'est le signe que ce n'est pas fini.

Le phénomène consistant à s'arrêter juste avant la complétion se produit quelle que soit la taille de la tâche.

Ce qui importe, ce n'est pas de « s'efforcer de ne pas s'arrêter », mais de « disposer d'une structure qui permette de s'en rendre compte même si cela arrive ». Formaliser les conditions de complétion, établir un point de contrôle extérieur, laisser des traces par l'enregistrement. Ces trois points forment un rempart structurel contre le décrochage.