Qu'est-ce que Structure Log, l'auteur de cet article ?

À propos de ce projet

Je gère un projet un peu particulier — et c'est ici que je vais en publier les notes.

Le nom du projet : Structure Log.

Comme son nom l'indique, c'est un projet de journal de bord opérationnel : je construis une structure, et j'en publie les traces au fil du temps.

Ce que je construis ? Un système pour organiser et faire fonctionner des IA (intelligences artificielles, par exemple ChatGPT ou Claude) comme une équipe.

L'expression « organiser des IA » est peut-être difficile à visualiser. Je vais l'expliquer plus concrètement.

La « désintégration silencieuse » — ce qui arrive quand on ne confie tout qu'à une seule IA

Quand on utilise une IA au quotidien, on commence souvent par la relation la plus simple : on pose une question, on reçoit une réponse. C'est tout.

Moi aussi, j'ai travaillé comme ça pendant longtemps.

Mais à un certain moment, j'ai pris conscience d'un phénomène. Quand on confie une tâche complexe à une seule IA — de bout en bout —, il arrive que l'IA prononce « Voilà, c'est fait ! » sans jamais avoir détecté ses propres erreurs.

Chez nous, on appelle ça la désintégration silencieuse.

Un plantage bruyant serait presque préférable. Ce qui fait vraiment peur, c'est quand des résultats incorrects se glissent dans le travail, presque imperceptiblement, sans qu'aucune alarme ne retentisse.

Pour illustrer avec un exemple humain : c'est la situation du dirigeant d'une petite entreprise qui gère tout seul. Il vérifie lui-même les documents, approuve lui-même les contrats, exécute lui-même les décisions. Personne d'autre ne pose les yeux sur son travail — les erreurs ne sont donc jamais détectées, et avancent sans qu'on s'en aperçoive.

Appliquer la séparation des pouvoirs aux IA

C'est là que se trouve le coeur de ce projet.

J'ai conçu un système où plusieurs IA fonctionnent ensemble, comme les services d'une entreprise. Une IA pour rédiger, une autre pour relire et vérifier, et un humain (moi) pour donner ou non l'accord final. Les rôles sont distribués, et le travail circule en relais d'une IA à l'autre.

Dans ce projet, ce principe s'appelle séparation des pouvoirs (ici : répartir l'exécution, la vérification et l'approbation finale entre des agents distincts).

C'est la même logique que dans le domaine juridique, où l'on sépare le pouvoir législatif, exécutif et judiciaire — mais appliquée au monde des IA. Celui qui exécute, celui qui contrôle, et celui qui donne le feu vert final sont des entités différentes. Ils se servent mutuellement de garde-fou.

C'est un mécanisme simple, en apparence. Mais en pratique, il s'est révélé bien plus efficace que prévu.

Ce que je vais écrire dans cette série

Dans cette série, je vais raconter — chapitre par chapitre, un thème à la fois — comment j'ai conçu ce système de zéro, et comment je l'ai mis en oeuvre.

Je ne parlerai pas uniquement des succès. J'inclurai aussi les échecs, les corrections de trajectoire, les erreurs de jugement et les reprises. Les journaux d'échec sont souvent ceux qui servent le mieux à quelqu'un qui essaie la même chose.

Je précise que je suis moi-même quelqu'un qui travaille sur le terrain, au niveau de l'implémentation. Pas un universitaire qui théorise — quelqu'un qui tape dans un terminal tous les jours. C'est pourquoi, plutôt que « voilà comment il faudrait faire », les notes ici seront centrées sur « j'ai essayé ceci, et voilà ce qui s'est passé ».

Le chapitre 10 présentera une carte de lecture générale de la série. Les premiers chapitres posent les bases et expliquent les termes. La partie 2 constitue le coeur du sujet.

La série sera longue — mais si le thème vous intéresse, restez.