Le principe du tout-écrit
Dans le chapitre précédent, nous avons organisé la logique de conception selon laquelle « plus une action est irréversible (c'est-à-dire impossible à annuler), plus elle doit faire l'objet d'une vérification et d'un enregistrement ». Dans ce chapitre, nous souhaitons laisser une trace écrite du principe du tout-écrit (ici : le fait de consigner par écrit, dans un fichier ou un document, toute décision et tout jugement opérationnel), qui érige cet acte d'enregistrement en règle fondamentale de la conception.
Qu'est-ce que le principe du tout-écrit ?
Le principe du tout-écrit désigne la règle selon laquelle les décisions et les jugements opérationnels ne s'appuient ni sur la parole ni sur la mémoire, mais sont consignés dans des fichiers ou des documents.
Vous vous dites peut-être : « C'est une évidence. » Pourtant, dans un contexte où plusieurs IA sont utilisées de manière organisée, cette évidence prend une importance toute particulière.
Entre humains, il est possible de vérifier par la conversation : « On avait bien décidé ça tout à l'heure, non ? » Les IA ne disposent pas, par principe, d'une mémoire qui traverse les sessions. Si la session change, le jugement rendu précédemment, ainsi que les raisons qui ont conduit à telle ou telle conception, disparaissent — à moins d'en avoir laissé une trace écrite.
C'est pourquoi « laisser un enregistrement » n'est pas un objectif à atteindre par l'effort, mais un principe nécessaire à la structure elle-même.
Pourquoi l'enregistrement est-il efficace ?
Conserver des traces écrites présente, dans les grandes lignes, trois avantages.
Premier avantage : il devient possible de vérifier après coup.
Bien souvent, on ne sait si une décision était juste ou erronée qu'après l'avoir mise en œuvre. Si la raison pour laquelle on a tranché ainsi à ce moment-là n'est pas consignée, il est impossible de créer un point de départ pour la vérification. Il ne reste alors qu'une impression : « ça s'est plutôt bien passé » ou « ça n'a pas marché », sans que cela conduise à une amélioration.
Avec un enregistrement, on peut confronter les faits de cette manière : « À ce moment-là, on a pris cette décision sur la base de telles hypothèses, et voilà ce que ça a donné. » En accumulant ces confrontations, la précision des jugements s'améliore peu à peu.
Deuxième avantage : il devient possible de retracer la responsabilité.
Dans une structure où l'on confie du travail à des IA, il est facile que « qui a décidé quoi » devienne flou. Lorsque la production de l'IA et l'approbation finale (ici : l'accord formel marquant la validation d'une action) donnée par l'humain se sont toutes deux « enchaînées sans qu'on y prête attention », il devient impossible d'identifier la cause quand un problème survient.
Le principe du tout-écrit est aussi l'acte de conserver une trace probante (ici : un enregistrement consultable après coup) indiquant « ce jugement a été effectué à tel moment par tel rôle ». Si une trace probante existe, il devient possible d'analyser la cause d'un problème de manière structurelle. Si la cause est connue, il devient possible de concevoir une solution pour éviter que cela se reproduise.
Troisième avantage : la transmission à une autre IA ou au prochain responsable devient possible.
Cet aspect de la transmission est particulièrement utile dans les contextes d'utilisation des IA.
Quand on transfère vers une nouvelle session un jugement de conception établi lors d'une session précédente, sans document, on est contraint de tout réexpliquer depuis le début. À l'inverse, si le contexte d'une décision, les raisons du choix retenu et les options écartées sont consignés dans un document, la prochaine IA peut reprendre à partir de là. Il en va de même lorsque les responsables humains changent.
Réduire le coût de transmission est aussi une condition pour qu'une organisation puisse fonctionner de manière continue.
Comment le mettre en pratique ?
Comprendre le principe ne suffit pas si l'on ne voit pas « concrètement quoi écrire et comment ». Voici la pratique effectivement testée dans ce projet, laissée ici comme enregistrement.
Les enregistrements de décision sont transcrits dans un fichier sur le moment même.
« J'écrirai tout ça en bloc plus tard » revient en pratique à ne rien écrire du tout. Immédiatement après avoir tranché, immédiatement après avoir modifié une conception, on transcrit dans un fichier, même en une à trois lignes. Ajouter en un mot « pourquoi on a fait ce choix » et « quelles autres options existaient » change complètement la lisibilité que l'on en aura plus tard.
Les fichiers sont placés à un endroit où on peut les retrouver.
Un enregistrement qui existe mais qu'on ne peut pas trouver est pratiquement équivalent à un enregistrement qui n'existe pas. Il est idéal de décider dès le début d'une convention de nommage, d'un emplacement et d'un index — ces trois éléments ensemble. Dans ce projet, l'emplacement des documents de conception est clairement indiqué, et la règle est de mettre le fichier à jour dès qu'un changement survient.
On ne cherche pas à tout écrire parfaitement.
Le plus grand ennemi du principe du tout-écrit, c'est « vouloir écrire parfaitement et finalement ne rien écrire ». Même une liste à puces, même une note d'une ligne — un état où quelque chose est consigné est clairement meilleur qu'un état où rien ne l'est. Il vaut mieux d'abord prendre l'habitude de laisser une trace du jugement, même approximative. La précision peut être améliorée autant qu'on veut par la suite.
Laisser des enregistrements, c'est aussi une question d'honnêteté. Consigner « pourquoi on a pris telle décision » crée l'état dans lequel soi-même ou quelqu'un d'autre pourra assumer ce jugement plus tard.
Cependant, à mesure que les enregistrements s'accumulent, un autre problème se pose. Si les enregistrements se retrouvent dispersés en plusieurs endroits, on ne sait plus quelle est l'information la plus récente et la plus fiable. Plus les documents s'accumulent, plus il devient nécessaire de concevoir également la manière de les gérer.