La séparation des pouvoirs — un terme à connaître
Dans le chapitre précédent, nous avons vu qu'il existe une troisième voie dans notre relation avec l'IA : ni l'esclavage, ni l'emballement incontrôlé, mais une organisation (ici : structurer les rôles et les mécanismes de contrôle). C'est dans ce contexte qu'est apparu le terme « séparation des pouvoirs ».
Ce chapitre pose les bases de ce terme. Ce n'est pas une notion difficile. Vous l'avez probablement croisée au collège. Nous souhaitons simplement vérifier avec soin où se trouve le cœur de l'idée — la partie que cette série veut emprunter.
Q. La séparation des pouvoirs, c'est quoi exactement ?
À l'origine, c'est un terme qui concerne l'organisation de l'État.
La séparation des pouvoirs désigne l'idée — et le mécanisme — de diviser le pouvoir de l'État en trois parties distinctes qui se surveillent mutuellement.
Un penseur français du XVIIIe siècle a soutenu que le pouvoir ne devait pas être concentré en un seul endroit. Cette idée est à l'origine du concept. Aujourd'hui, de nombreuses démocraties l'ont intégré comme fondement de leur constitution. Le Japon également.
Q. Quelles sont concrètement ces trois parties du pouvoir ?
Dans le cas du Japon, voici les trois :
Le pouvoir législatif (celui qui crée les lois) : c'est le pouvoir de faire les lois. C'est le rôle du Parlement. C'est là que l'on décide des règles à appliquer.
Le pouvoir exécutif (celui qui applique les lois) : c'est le pouvoir de faire fonctionner concrètement le pays sur la base des règles décidées. C'est le rôle du gouvernement et des ministères. Son rôle est de mettre en œuvre ce qui a été décidé.
Le pouvoir judiciaire (celui qui juge) : c'est le pouvoir de trancher les litiges et les infractions en se référant aux règles (les lois). C'est le rôle des tribunaux. Son rôle est de décider si un acte est contraire aux règles ou non.
En résumé : « créer », « appliquer », « juger ». Ces trois fonctions sont confiées à trois institutions séparées.
Q. Pourquoi diviser en trois parties ?
Parce que si tout est concentré en un seul endroit, il n'y a plus personne pour mettre le frein.
Imaginons une seule personne qui décide des règles, les applique elle-même, et qui juge ensuite si ses propres actes respectent ces règles. Dans ce cas, quoi qu'elle décide, personne ne pourrait lui dire « c'est anormal ».
La raison de diviser le pouvoir est précisément d'éviter cet état où « personne ne peut arrêter quoi que ce soit ».
Avec trois parties séparées, si l'une d'elles fait une erreur ou tente de s'emballer, les deux autres peuvent lui mettre un frein. Par exemple : si le pouvoir législatif tente d'adopter une règle déraisonnable, le pouvoir judiciaire peut l'arrêter en déclarant cette règle inconstitutionnelle.
Q. Qu'est-ce que les « freins et contrepoids » ?
Diviser le pouvoir, et faire en sorte que chaque partie freine les autres pour maintenir l'équilibre — cette idée s'appelle les freins et contrepoids (en anglais : checks and balances).
« Freins » signifie contenir les excès de l'autre partie. « Contrepoids » signifie un état d'équilibre où rien ne penche d'un seul côté.
C'est là que réside le cœur de la séparation des pouvoirs. Il ne s'agit pas simplement de diviser en trois. Les trois parties sont conçues pour se surveiller mutuellement et pouvoir intervenir quand c'est nécessaire.
C'est précisément cette structure de freins et contrepoids que cette série souhaite emprunter.
Q. La séparation des pouvoirs, c'est uniquement pour les États ?
Oui, à l'origine c'est un terme qui concerne l'organisation de l'État.
Cependant, l'idée de « diviser le pouvoir et faire en sorte que chaque partie contrôle les autres » ne se limite pas aux affaires d'État. La question de savoir ce qui se passe quand le pouvoir se concentre en un seul endroit — lorsque plusieurs personnes ou organisations pilotent quelque chose ensemble — est commune à tous les contextes.
Dans le chapitre précédent, nous avons évoqué l'idée de concevoir notre relation avec l'IA comme « une structure où les rôles sont divisés et se contrôlent mutuellement ». La séparation des pouvoirs apparaît comme le fondement de cette conception.
Ce que cette série veut emprunter, ce n'est pas d'appliquer le système étatique tel quel à l'IA. C'est la structure elle-même : ne pas concentrer le pouvoir en un seul endroit, le diviser, et faire en sorte que chaque partie surveille les autres.
Q. Dans cette série, à quoi correspondent les trois parties du pouvoir ?
Pour en donner la direction, trois catégories apparaîtront : le rôle d'exécution (l'agent qui agit), le rôle d'audit (l'agent qui vérifie), et le rôle d'approbation finale (l'agent qui décide en dernier).
C'est la conception des rôles : qui agit, qui contrôle, et qui prend la décision finale.
Les détails seront développés dans les chapitres suivants. Ce chapitre avait pour but de bien cerner ce que signifie le terme « séparation des pouvoirs » et où se trouve son cœur.
Pour résumer la séparation des pouvoirs en tant que terme : c'est un mécanisme qui divise le pouvoir en trois — le pouvoir législatif, le pouvoir exécutif et le pouvoir judiciaire — et qui maintient entre eux des freins et contrepoids (checks and balances), afin d'éviter la concentration du pouvoir en un seul endroit et tout emballement incontrôlé.
Ce principe de conception, né pour organiser les États, peut-il se connecter à l'organisation des agents IA ? Maintenant que les bases du terme sont posées, nous allons construire la réflexion, pas à pas.