Frontier Technologies, Complex Externalities, and the Evolution of Private Order: Implications for AI Governance

Lorsqu'une nouvelle technologie arrive, elle apporte avec elle une promesse de bénéfices et une ombre de risque. Souvent, la véritable nature de ce risque reste cachée jusqu'à ce que la technologie soit réellement utilisée dans le monde réel. Cela est particulièrement vrai pour l'intelligence artificielle, un outil capable de remodeler notre façon de vivre, de travailler et de communiquer. Parce que les dangers sont si complexes et dépendent de situations spécifiques, il est difficile pour quiconque, y compris les responsables gouvernementaux, d'écrire les règles parfaites avant même que la technologie ne soit déployée. La question centrale à laquelle la société est confrontée n'est pas seulement de savoir comment empêcher les mauvais résultats, mais comment découvrir les bonnes manières de gérer ces risques à mesure que nous en apprenons davantage sur eux. Cela implique de comprendre les « externalités », un terme utilisé par les économistes pour décrire les coûts ou les bénéfices qui affectent des personnes ne faisant pas partie de l'accord initial. Lorsque une nouvelle technologie crée des problèmes pour les voisins ou des inconnus, ces problèmes sont des externalités. Le défi est que ces externalités sont souvent si emmêlées et imprévisibles qu'aucune autorité unique ne peut les cartographier à l'avance.

Deux chercheurs, Ali Palida et Nicholas Thielman, se sont donné pour mission d'explorer un autre angle de ce problème. Au lieu de demander comment le gouvernement devrait réguler l'intelligence artificielle, ils ont demandé comment la réglementation gouvernementale pourrait empêcher les groupes privés de trouver leurs propres solutions. Ils soutiennent que le processus d'utilisation d'une nouvelle technologie est une forme de découverte. En essayant des choses, les gens apprennent ce qui fonctionne, ce qui échoue et qui doit être protégé. Ce processus d'apprentissage permet à des groupes privés — comme les compagnies d'assurance, les organismes de certification de sécurité ou même des voisins négociant entre eux — de construire des règles flexibles qui s'adaptent à la situation spécifique. Les auteurs suggèrent que si le gouvernement intervient trop tôt avec une interdiction stricte ou une règle rigide, il pourrait bloquer les expérimentations mêmes nécessaires pour trouver la meilleure façon de gouverner la technologie.

Pour tester cette idée, les chercheurs ont examiné trois exemples historiques où de nouvelles technologies ont été confrontées à des incertitudes similaires. Le premier exemple concerne l'électricité à la fin des années 1800. Lorsque les premières lampes électriques et lignes électriques ont été introduites, elles ont causé des incendies fréquents, mais personne ne savait exactement quels appareils étaient sûrs. Le gouvernement n'est pas intervenu immédiatement pour fixer des normes de sécurité. Au lieu de cela, une organisation privée appelée Underwriters Laboratories a émergé. Fondé par des compagnies d'assurance inquiètes des pertes liées aux incendies, ce groupe a commencé à tester l'équipement électrique et à créer ses propres normes de sécurité. Au fil du temps, à mesure qu'ils testaient plus d'appareils et constataient ce qui provoquait des incendies, ils ont affiné leurs règles. Leur système privé est devenu si fiable que les villes ont adopté leurs normes dans la loi, et les fabricants ont cherché leur approbation pour vendre leurs produits. Les auteurs notent que ce système a fonctionné parce qu'il était flexible ; il pouvait changer à mesure que de nouveaux dangers étaient découverts par l'usage réel, plutôt que d'être figé par des règles écrites avant que quiconque ne connaisse les risques.

Le deuxième exemple provient du monde de l'assurance cyber. À mesure que les ordinateurs et Internet se sont développés, les pirates informatiques sont devenus une menace majeure, mais la nature de ces menaces changeait constamment. Une année, le risque principal pouvait être le vol de numéros de cartes de crédit ; l'année suivante, il pouvait s'agir d'un ransomware verrouillant les dossiers hospitaliers. Parce que les risques étaient si fluides, les régulateurs gouvernementaux peinaient à écrire des règles qui resteraient pertinentes. Les compagnies d'assurance privées, cependant, se sont adaptées rapidement. Elles ont commencé à proposer des polices exigeant que les entreprises respectent des normes de sécurité spécifiques pour obtenir une couverture. Si une entreprise ne mettait pas à jour sa sécurité, l'assureur augmentait le prix ou annulait la police. Cela a créé une boucle de rétroaction : à mesure que de nouveaux types d'attaques apparaissaient, les assureurs apprenaient des données de sinistres et mettaient à jour leurs exigences. Ce système privé permettait un ajustement constant et en temps réel des règles de sécurité, une chose qu'une bureaucratie gouvernementale lente aurait du mal à égaler.

La troisième histoire se déroule aux débuts de la radiodiffusion. Avant que le gouvernement ne crée une agence centrale pour gérer les fréquences radio, les stations interféraient souvent les unes avec les autres, créant un mélange chaotique de signaux. La croyance commune était que ce chaos ne pouvait être résolu que par une autorité centrale. Cependant, les chercheurs ont découvert qu'avant l'intervention du gouvernement, les stations de radio négociaient en réalité entre elles. Elles échangeaient des fréquences, convenaient d'horaires de diffusion ou rachetaient des concurrents pour éviter les interférences. Ce système privé de marchandage et de droits de propriété a permis à l'industrie de la radio de croître et de prendre de la valeur. Ce n'est que plus tard que le gouvernement a remplacé ce système privé flexible par un plan centralisé et rigide. Les auteurs soutiennent que ce changement ne s'est pas produit parce que le système privé avait échoué, mais parce que les politiciens et les diffuseurs puissants voulaient contrôler les ondes radio pour eux-mêmes. Le résultat fut un système moins adaptable et plus lent à innover.

Pour comprendre la mécanique de ce processus, les chercheurs ont construit un modèle simple de fonctionnement de la prise de décision lorsque l'avenir est inconnu. Dans leur modèle, une nouvelle technologie est utilisée et les résultats sont observés. Cette observation enseigne quelque chose de nouveau à tout le monde. Si un groupe de personnes affectées par la technologie peut se réunir et renégocier ses règles chaque fois qu'il apprend quelque chose de nouveau, il peut ajuster son approche pour s'adapter à la nouvelle réalité. Ils peuvent décider de cesser d'utiliser la technologie si elle est dangereuse, ou de modifier la façon dont elle est utilisée si elle est sûre mais nécessite des ajustements. Cependant, si une autorité extérieure impose une interdiction permanente ou une règle fixe qui ne peut être modifiée par accord privé, le processus d'apprentissage s'arrête. L'interdiction empêche l'expérience qui aurait révélé la vérité. Même si le groupe apprend plus tard que la technologie est sûre et bénéfique, il reste coincé avec l'ancienne règle car il ne peut pas négocier autour du veto du gouvernement.

Les chercheurs ont découvert que cela crée deux problèmes spécifiques. Premièrement, une interdiction permanente arrête l'apprentissage nécessaire pour comprendre les risques. Deuxièmement, même si le groupe apprend qu'un arrangement différent serait meilleur pour tout le monde, la règle gouvernementale fixe l'empêche de procéder à ce changement. Les auteurs soulignent que cela ne signifie pas que les règles gouvernementales sont toujours mauvaises. Parfois, une interdiction est nécessaire pour prévenir un désastre trop grave pour être risqué. Mais l'étude suggère que nous devons peser l'immédiateté de la sécurité d'une interdiction face au coût à long terme de l'arrêt de la découverte de meilleures solutions plus flexibles. Le but n'est pas de laisser les technologies dangereuses totalement sans surveillance, mais d'éviter de figer les règles avant d'avoir eu la chance d'apprendre ce qui fonctionne.

L'article conclut qu'une gouvernance efficace pour l'intelligence artificielle n'est peut-être pas quelque chose que nous pouvons concevoir parfaitement dès le départ. Au lieu de cela, elle pourrait être quelque chose qui émerge à mesure que nous utilisons la technologie et apprenons de nos erreurs. Les groupes privés, par le biais de contrats, d'assurances et de certifications, sont souvent mieux positionnés pour apprendre et s'adapter rapidement car ils ont un intérêt direct dans le résultat. Ils peuvent changer leurs règles dès que de nouvelles informations arrivent. L'intervention du gouvernement, bien que parfois nécessaire, comporte le risque de figer le système avant que les bonnes règles n'aient été découvertes. Les auteurs suggèrent que la meilleure voie à suivre est de laisser l'espace nécessaire pour que cette expérimentation privée ait lieu, en veillant à ne pas bloquer le processus même qui nous apprendra comment gérer la technologie en toute sécurité. Le défi pour les décideurs politiques est de protéger les populations contre les dommages immédiats sans couper la voie vers une gouvernance plus efficace et plus adaptée dans le futur.