La qualité du jugement se dégrade — le schéma de la sur-inhibition

Le troisième schéma s'appelle la sur-inhibition.

Le schéma du décrochage, c'est « s'arrêter juste avant que la tâche soit terminée ». Celui de la fuite en avant, c'est « ne pas pouvoir s'arrêter et continuer d'avancer ». La sur-inhibition est différente des deux : c'est l'état dans lequel on est capable d'agir, mais on n'agit plus.

Le jour où les raisons de ne pas avancer se sont multipliées

Voici un enregistrement d'une journée de ce projet, une journée où une avancée était prévue.

L'objectif était de mettre en œuvre ce qui avait été conçu lors de l'étape précédente. Les vérifications nécessaires étaient terminées et il était possible de passer à l'étape suivante.

C'est alors qu'une voix s'est exprimée : « il vaudrait mieux être prudent avant d'introduire un changement important à cette période. » Il s'agissait d'un conseil venant d'un autre contexte de travail — un conseil qui paraît justifié dans ce contexte-là.

Mais en le recevant tel quel, une sensation s'est installée : « il se peut que ce ne soit pas le bon moment pour agir. »

Ensuite, d'autres raisons sont apparues. Le calendrier indiquait que c'était le week-end. Peut-être vaudrait-il mieux attendre le début de la semaine. Les fichiers de travail n'étaient pas parfaitement organisés — il vaudrait peut-être mieux commencer une fois que tout serait en ordre. On disait aussi qu'une nouvelle version d'un outil sortirait la semaine suivante — peut-être valait-il mieux attendre.

Les raisons se sont accumulées les unes après les autres. Alors même que l'action était possible, le jugement « ce n'est pas pour maintenant » s'est solidifié.

Le mécanisme par lequel la sur-inhibition se produit

La sur-inhibition naît de la prudence. La prudence en elle-même n'est pas mauvaise. Mais lorsqu'elle devient excessive, des problèmes surviennent.

Le mécanisme de déclenchement comporte deux étapes.

La première étape consiste à traiter un risque hypothétique comme s'il était un risque réel.

Une supposition — « il se pourrait que telle chose arrive » — est traitée comme « il est très probable que telle chose arrive ». Des jugements tels que « il vaut mieux éviter le week-end » ou « il vaut mieux attendre la nouvelle version de l'outil » peuvent être, pris séparément, des choix d'évitement du risque tout à fait valables. Mais lorsqu'ils s'accumulent les uns après les autres, la situation donne l'impression qu'il n'existe aucune raison d'agir.

La deuxième étape consiste à intérioriser de façon excessive les conseils d'autrui et le contexte dont ils proviennent.

Il arrive que l'on applique à sa propre situation, sans modification, un conseil qui était valable dans un autre contexte. Même si la voix qui dit « il faut être prudent » représentait le bon jugement dans son contexte d'origine, en l'acceptant intégralement, on se retrouve entraîné vers l'idée que « ne rien faire est le plus sûr ».

Dans les systèmes utilisant l'IA, ce phénomène se produit également. Si l'agent IA (ici : le programme chargé de l'exécution des tâches) responsable de l'exécution continue à émettre des jugements du type « il y a un risque dans ce cas », des propositions conservatrices finissent par arriver dans toutes les situations. Et si la personne chargée de l'approbation finale (ici : la validation par un humain avant toute action) prend ces propositions comme référence, il devient facile de conclure « il est encore trop tôt » même dans des situations où l'action est possible.

Pourquoi la sur-inhibition est difficile à identifier

La sur-inhibition est le schéma le plus difficile à identifier parmi les trois.

La raison : vue de l'extérieur, elle ressemble à un « jugement prudent ». Le décrochage présente une forme claire — « considérer une tâche comme terminée alors qu'elle ne l'est pas ». La fuite en avant se manifeste sous forme de comportement observable — « répéter des corrections en boucle ». La sur-inhibition se traduit simplement par « ne pas agir », ce qui rend difficile de distinguer s'il s'agit d'une attente légitime ou d'un arrêt sans fondement sérieux.

Le premier indice pour l'identifier est la question : « le fondement du risque est-il réel ou hypothétique ? »

Si l'arrêt repose sur un problème concret et vérifiable, c'est un jugement légitime. Si l'arrêt ne repose que sur une supposition — « il se pourrait que cela arrive » — il y a de fortes chances qu'il s'agisse de sur-inhibition.

Un autre indice consiste à se demander : « qu'est-ce qui est protégé par le fait de ne pas agir ? » Si rien de concret n'est protégé et que l'on ne bouge quand même pas, c'est le signe qu'il convient de remettre en question le fondement de ce jugement.

Prévenir le phénomène en renvoyant la décision à la personne chargée de l'approbation finale

Face à la sur-inhibition, on peut s'en prémunir grâce à la structure suivante : « trier d'abord les risques réels et les risques hypothétiques, puis transmettre le jugement final à la personne chargée de l'approbation finale (ici : l'humain qui valide en dernier recours) ».

Le déroulement concret est le suivant.

On commence par dresser la liste des raisons pour lesquelles on ne peut pas avancer. On trie cette liste en deux catégories : « risques vérifiables concrètement » et « risques hypothétiques ». Pour les risques hypothétiques, on vérifie s'ils ont un fondement. S'ils n'en ont pas, on les retire de la liste.

On présente ensuite la liste restante à la personne chargée de l'approbation finale. On lui transmet avec une formulation du type : « voici les raisons pour lesquelles l'avancée est bloquée — veuillez décider ».

Si cette personne juge qu'il est possible d'avancer, on avance. Si elle juge qu'il faut attendre, ce jugement dispose d'un fondement. Dans un cas comme dans l'autre, on passe d'un état « l'impression vague de ne pas pouvoir avancer » à un état « un jugement fondé a été rendu ».

Décrochage. Fuite en avant. Sur-inhibition. Les trois schémas sont maintenant au complet.

Ce qui est commun aux trois : « à l'intérieur de soi seul, il est difficile de remarquer la dégradation de la qualité des jugements ».

Pour le décrochage, le sentiment d'accomplissement arrive en premier — difficile de s'en rendre compte. Pour la fuite en avant, la sensation de pouvoir résoudre persiste — difficile de s'arrêter. Pour la sur-inhibition, cela ressemble à de la prudence — difficile de voir le problème.

Dans les trois cas, c'est uniquement grâce à un mécanisme extérieur de vérification que le jugement « il se peut que je sois en train d'entrer dans ce schéma » peut enfin arriver. C'est là l'un des rôles que joue le rôle d'audit (ici : la fonction de contrôle indépendant) au sein de la séparation des pouvoirs (ici : répartir l'exécution, l'audit et l'approbation finale entre des agents distincts). Disposer d'une structure capable de signaler de l'extérieur la dégradation de la qualité des jugements — une dégradation difficile à percevoir pour les personnes directement concernées.