« L'IA n'est pas condamnée à obéir ou à s'emballer »

Dans le chapitre précédent, nous avons établi que le choix entre un seul agent IA ou plusieurs dépend de l'usage, pas d'une hiérarchie de valeur. C'était une question d'outillage.

Avant d'aller plus loin dans le choix des outils, nous voudrions nous arrêter sur quelque chose de plus fondamental : la façon dont on perçoit l'IA. Ce regard de départ conditionne tout le reste.

Les discours sur l'IA penchent souvent vers deux extrêmes

En parcourant les titres de presse ou les publications sur les réseaux sociaux, on remarque une tendance. Les récits autour de l'IA s'organisent le plus souvent aux deux bouts d'un spectre.

D'un côté, il y a le registre de la toute-puissance. « L'IA peut tout faire. » « Il suffit de lui donner des instructions. » « Tout devient automatique. » L'image qui se dessine est celle d'un serviteur commode, prêt à exécuter n'importe quelle commande.

De l'autre côté, c'est l'inverse. « L'IA agit toute seule. » « On perd le contrôle. » « Avant qu'on s'en rende compte, il est trop tard. » L'IA y est dépeinte comme quelque chose qui déraille et échappe à toute maîtrise.

Ce schéma se retrouve dans les films et romans de science-fiction : l'IA parfaitement obéissante d'un côté, l'IA qui se retourne contre les humains de l'autre.

Il est possible que vous ayez vous-même ressenti l'une ou l'autre de ces impressions. Vous avez peut-être voulu tout confier à l'IA, pour constater qu'elle laissait passer plus d'erreurs que prévu. Ou vous avez utilisé un outil avec une légère méfiance, en vous demandant ce qu'il allait bien pouvoir faire.

Ces deux images ne correspondent pas à la réalité de l'expérience. Pourtant elles semblent plausibles, et c'est pourquoi elles persistent.

En pratique, ni l'une ni l'autre ne tient

L'image du « serviteur infaillible à qui on peut tout déléguer » s'effrite dès qu'on commence à utiliser l'IA concrètement.

Quand on lui demande d'écrire un texte, des oublis peuvent survenir. Quand on lui demande de vérifier quelque chose, il lui arrive de rater des points. Si les instructions sont légèrement mal formulées, elle part dans une direction que vous n'aviez pas prévue. La réalité, c'est moins « tout confier sans s'inquiéter » que « l'IA agit comme prévu dans le périmètre qu'on lui a assigné ».

L'autre image — « laissée à elle-même, elle déraille » — est tout aussi éloignée de la réalité. Un agent IA (c'est-à-dire un programme qui exécute des tâches de façon autonome selon une conception donnée) ne sort pas du cadre qu'on lui a défini. Ce qu'on n'a pas conçu, il ne peut pas le faire. Il n'a pas d'objectifs propres, et il n'agit pas en opposition avec les intentions humaines. Comme nous l'avons établi au chapitre 11, l'IA est une machine qui fonctionne selon sa conception. Elle opère à l'intérieur d'un cadre.

Quand l'image de l'IA qui « déraille » apparaît, elle vient le plus souvent d'une conception floue. Si ce qu'on lui demande n'est pas clairement défini, les résultats sont imprévisibles. On ressent ça comme un dérapage. Mais c'est en réalité le produit d'instructions ambiguës.

La troisième voie — l'organisation comme rapport possible

Ni esclave ni chose qui s'emballe. Alors, comment concevoir la relation avec l'IA ?

Ce que nous explorons dans cette série, c'est l'idée d'organisation (ici : donner à chaque agent IA un rôle précis, organiser des contrôles mutuels, et garder la décision finale du côté humain).

Ce n'est ni « tout lui ordonner et attendre » (l'IA comme serviteur), ni « la laisser faire en ayant peur » (l'IA comme chose incontrôlable). C'est concevoir une structure où les rôles sont distribués, les vérifications croisées, et où l'approbation finale reste entre les mains des humains.

Ce blog lui-même fonctionne selon cette conception.

Il y a un agent chargé d'écrire. Il y en a un autre chargé de vérifier ce qui a été écrit. L'approbation finale, après vérification, revient à un humain. Ce n'est pas la même entité qui écrit, vérifie et décide — les rôles sont séparés. Ce dont nous parlions aux chapitres 12 et 13 — combiner plusieurs agents avec des rôles distincts — c'est la mise en œuvre concrète de cette organisation.

Distribuer les rôles n'est pas une façon de compliquer les choses. C'est une réponse structurelle au problème suivant : « celui qui a écrit quelque chose a du mal à voir ses propres erreurs ». Dans le travail humain aussi, l'auteur et le relecteur sont deux personnes différentes pour la même raison.

Changer la façon de poser la question change ce qu'on voit

La question « esclave ou dérapage ? » naît d'une façon de penser l'IA comme un seul agent dont il faut décider l'usage. Si on veut tout confier à un seul agent, on tombe dans l'image du serviteur. Si on a peur qu'un seul agent devienne ingérable, on tombe dans l'image du dérapage.

Quand on reformule la question, la perspective change.

Si on se demande « comment distribuer les rôles, mettre en place des vérifications, et garder l'approbation finale du côté humain ? », aucune des deux images extrêmes n'apparaît plus. L'agent chargé d'écrire ne prétend pas tout faire. L'agent chargé de vérifier ne va pas jusqu'à décider. Les humains ne font pas toutes les tâches, mais gardent la main sur l'approbation finale.

C'est une question de conception : qui est responsable de quoi, jusqu'où.

Cette « façon différente de poser la question » est le fil conducteur de cette série. Qu'est-ce que l'« organisation de l'IA » ? Pourquoi ce terme de séparation des pouvoirs (ici : répartir l'exécution, l'audit et l'approbation finale entre des agents distincts) revient-il ? Nous allons développer tout cela progressivement dans les chapitres à venir.

C'est tout pour cet enregistrement.