Governance in an Institutional Environment Reconfigured by Artificial Intelligence. A Public Choice Institutionalism Perspective

Lorsque nous réfléchissons à la gouvernance de l'intelligence artificielle, la conversation se concentre souvent sur la machine elle-même. Nous nous demandons comment la construire en toute sécurité, comment s'assurer que son code ne dysfonctionne pas et comment garantir que ses décisions sont alignées avec les valeurs humaines. C'est comme vérifier le moteur d'une voiture pour s'assurer qu'il fonctionne sans accroc. Mais il existe une question bien plus vaste, plus profonde, qui est souvent négligée. Il ne s'agit pas seulement de la machine ; il s'agit du monde que la machine est en train de changer. À mesure que l'intelligence artificielle se diffuse, elle ne se contente pas de coexister avec nos lois et nos organisations existantes ; elle façonne activement ces dernières. Elle nous force à repenser la manière dont nous élaborons des règles, dont nous attribuons les responsabilités et dont nous organisons la société elle-même. Le défi n'est plus seulement de réparer un outil ; il s'agit de naviguer dans un paysage qui se dérobe sous nos pieds, où la nature même du travail, de l'autorité et de la prise de décision est en train d'être réécrite en temps réel.

C'est le puzzle central abordé par Paul Dragos Aligica, chercheur à l'Université George Mason. Il soutient que pour comprendre cette nouvelle réalité, nous devons cesser de considérer l'intelligence artificielle comme un problème unique à résoudre par une autorité unique. Au lieu de cela, il suggère de la voir comme un écosystème complexe où de nombreux groupes, règles et décisions interagissent. L'article propose que la meilleure façon de gérer ce monde mouvant soit à travers un concept appelé « polycentricité ». En termes simples, cela signifie un système où de nombreux centres de pouvoir existent côte à côte, chacun établissant ses propres règles et décisions, plutôt qu'un seul chef ou gouvernement tentant de tout contrôler d'en haut. Aligica construit cet argument en combinant deux idées puissantes : l'étude de la manière dont les gens font des choix lorsqu'ils ont des intérêts divergents, et l'étude de la manière dont les systèmes complexes s'organisent sans commandant central.

L'article commence par tracer une ligne nette entre deux types de problèmes différents. Le premier est le problème « étroit » : comment gouverner l'artéfact d'intelligence artificielle lui-même. Cela implique le travail technique de programmation, de surveillance et de garantie que le système se comporte comme prévu. Le second est le problème « large » : comment gouverner l'ensemble de l'environnement institutionnel que la technologie est en train de transformer. Aligica insiste sur le fait que le problème large est celui qui compte vraiment. Lorsque l'intelligence artificielle pénètre dans une société, elle déclenche une réaction en chaîne. Elle modifie la division du travail, ce qui signifie que certaines tâches autrefois effectuées par des humains sont désormais accomplies par des machines, tandis que les humains assument de nouveaux rôles différents. Ce changement n'est pas un simple échange ; il crée une cascade d'effets qui se répercute vers le haut à travers tout le système de règles.

Pour comprendre comment ce effet de cascade fonctionne, l'article utilise une logique similaire à celle des économistes étudiant la division du travail. Imaginez une usine où une nouvelle machine est introduite. Au début, la machine prend en charge les tâches répétitives et à haut volume. Mais cela force les travailleurs humains à changer leurs activités. Ils pourraient cesser de faire le travail de routine pour se concentrer sur les exceptions, les cas difficiles ou la supervision de la machine. Ce changement dans les rôles humains crée ensuite un besoin de nouvelles règles, de nouveaux superviseurs et de nouvelles manières de gérer les litiges. L'article décrit cela comme une « cascade ». Une seule décision d'utiliser l'intelligence artificielle pour une tâche donnée peut finalement forcer une réécriture des règles de plus haut niveau qui régissent la manière dont la société prend ses décisions. On passe des opérations quotidiennes d'une tâche spécifique, jusqu'aux règles qui décident qui a le pouvoir d'accomplir ces tâches, et enfin au niveau constitutionnel qui décide qui a le droit de modifier les règles elles-mêmes.

À mesure que cette cascade traverse le système, elle active des comportements humains familiers que les politologues étudient depuis des décennies. Lorsque de nouveaux rôles et pouvoirs sont créés, les individus et les organisations tentent de s'en emparer pour leur propre bénéfice. Cela mène à la « recherche de rente », où des groupes dépensent de l'énergie pour capturer les bénéfices d'une nouvelle règle plutôt que de créer de la valeur. Cela mène à la « capture réglementaire », où les personnes censées être responsables de la technologie finissent par dépendre des entreprises mêmes qu'elles sont censées réguler, parce que ces entreprises détiennent la seule expertise disponible. Cela crée également une « perte d'agence », où les personnes censées être aux commandes ne peuvent pas surveiller efficacement les décisions complexes et opaques prises par les machines ou les nouvelles bureaucraties construites pour les gérer. L'article soutient que ce ne sont pas des accidents, mais des conséquences inévitables de la manière dont fonctionnent les incitations humaines lorsque la structure de la société change.

Devant cette complexité, l'article évalue deux visions principales de la manière de gouverner ce nouveau monde. La première est la vision « monocentrée ». Il s'agit de l'idée d'une autorité centrale unique — un régulateur mondial ou un traité unifié — qui fixe un ensemble de règles pour tous. C'est une idée séduisante car elle promet l'ordre, une responsabilité claire et un endroit unique pour désigner un responsable si les choses tournent mal. Cependant, Aligica soutient que cette approche est à la fois irréaliste et dangereuse. Elle suppose qu'un centre unique puisse en savoir assez pour gérer une technologie qui évolue plus vite que n'importe quel gouvernement. Elle concentre également tout le pouvoir de capture, ce qui signifie que les entreprises ou les nations les plus puissantes pourraient facilement détourner l'ensemble du système pour servir leurs propres intérêts. De plus, un ensemble unique de règles ne peut pas s'adapter aux profondes différences de valeurs et de besoins entre les différentes cultures et sociétés.

L'alternative, et celle que l'article défend, est la vision « polycentrique ». Il ne s'agit pas d'un chaos généralisé, mais d'un système structuré où de nombreux centres de décision opèrent simultanément. Dans ce système, différentes villes, régions, entreprises et organisations peuvent tester différentes approches pour gouverner l'intelligence artificielle. Certains pourraient privilégier la vitesse, d'autres la sécurité, et d'autres encore la vie privée. Ces différents centres entrent en compétition et apprennent les uns des autres. Si une approche échoue, elle peut être abandonnée sans faire s'effondrer l'ensemble du système. Si une approche fonctionne bien, d'autres peuvent l'adopter. Crucialement, ce système repose sur l'« interopérabilité ». Cela signifie que même si différents centres ont des règles différentes, ils peuvent toujours communiquer entre eux et travailler ensemble grâce à des normes et des accords partagés. C'est comme un réseau de villes indépendantes qui commercent entre elles et respectent les lois les unes des autres sans avoir besoin d'un seul roi pour les gouverner toutes.

L'article soutient fermement que cette approche polycentrique n'est pas seulement un idéal théorique, mais la réalité qui émerge déjà. Le monde ne se dirige pas vers un gouvernement mondial unique pour l'intelligence artificielle ; il se dirige déjà vers une mosaïque de règles et de normes différentes. Tenter d'imposer une solution unique et descendante à cette réalité serait une erreur. Au lieu de cela, l'objectif devrait être de guider ce processus en évolution. L'article souligne que nous ne pouvons pas simplement concevoir un système parfait à partir de rien et l'installer. Le système est trop complexe et les changements sont trop rapides. Au lieu de cela, nous devons agir comme des jardiniers ou des navigateurs. Nous pouvons créer les conditions permettant aux bonnes solutions de croître et aux mauvaises d'être éliminées. Nous pouvons construire les ponts qui permettent aux différents groupes de coopérer, et nous pouvons protéger l'espace où de nouvelles idées peuvent être testées.

En conclusion, l'article affirme que la meilleure façon de gouverner l'intelligence artificielle est d'accepter que nous sommes au milieu d'un processus long et en cours de déploiement. Nous ne pouvons pas prédire l'issue finale, et nous ne devrions pas essayer de contrôler chaque détail. Au lieu de cela, nous devons nous concentrer sur la construction d'un cadre flexible qui permet l'expérimentation, l'apprentissage et l'adaptation. En adoptant une approche polycentrique, nous pouvons exploiter la diversité de la pensée humaine et la pression concurrentielle des différentes juridictions pour trouver des solutions qui fonctionnent. Nous pouvons gérer les risques de recherche de rente et de capture en veillant à ce qu'aucun groupe ne détienne tout le pouvoir. Et nous pouvons maintenir la légitimité de nos règles en veillant à ce qu'elles soient façonnées par les personnes qu'elles affectent, plutôt que d'être imposées par un centre lointain. La voie à suivre n'est pas de construire une machine parfaite pour contrôler le futur, mais de cultiver un système résilient capable d'apprendre et de s'adapter à mesure que le futur se déploie.