AI Governance Under Political Constraints: The Case for Ex Post Liability
Cet article soutient que la responsabilité stricte ex post est l'instrument de gouvernance de l'IA le plus robuste face aux contraintes politiques, car elle évite les échecs de capture et de consensus qui affligent les réglementations ex ante, tout en offrant un cadre pour classer les outils complémentaires et évaluer les efforts visant à affaiblir la responsabilité civile.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'intelligence artificielle progresse plus vite que les règles censées l'encadrer. Alors que ces systèmes deviennent de plus en plus puissants, ils promettent de résoudre des problèmes difficiles en médecine et en science, mais ils portent également le potentiel de graves dommages, allant de la fraude généralisée à la perte de contrôle humain sur des machines critiques. Les gouvernements du monde entier tentent de décider comment gérer ce pouvoir avant qu'il ne cause des dégâts. La question centrale n'est pas seulement de savoir quelles règles écrire, mais de savoir comment les écrire de manière à ce qu'elles fonctionnent réellement. Le défi est que personne ne s'accorde précisément sur la dangerosité de ces systèmes, et les personnes qui les construisent exercent une influence bien plus grande sur les politiciens que le grand public. Ce déséquilibre rend difficile le passage de lois strictes exigeant que les entreprises prouvent que leur technologie est sûre avant de la commercialiser, car les politiciens ne parviennent pas à s'entendre sur ce que signifie « sûr » ou sur le niveau de risque acceptable.
Un nouvel article de Gabriel Weil, chercheur à l'Université de Houston, soutient que la meilleure façon de gérer cette incertitude est d'arrêter de tenter de prédire l'avenir pour commencer à payer pour le passé. Au lieu de forcer les entreprises à obtenir l'approbation du gouvernement avant de construire ou de commercialiser une nouvelle intelligence artificielle, l'article suggère un système où les entreprises sont tenues financièrement responsables de tout dommage que leur technologie cause réellement. Cette approche, connue sous le nom de « responsabilité ex post », transfère la charge de la sécurité sur les développeurs eux-mêmes. Si la technologie fonctionne bien et ne cause aucun problème, les entreprises ne paient rien. Si elle provoque un désastre, elles doivent payer pour les dommages. L'analyse de Weil suggère que cette méthode est plus robuste face à la pression politique et mieux adaptée à la nature inconnue de la technologie que la tentative d'établir des règles strictes à l'avance.
L'article commence par expliquer pourquoi les méthodes habituelles de régulation sont probablement vouées à l'échec dans le monde de l'intelligence artificielle. Typiquement, les gouvernements tentent de gérer le risque en établissant des règles, en exigeant des licences ou en taxant les entreprises pour les risques qu'elles créent. Par exemple, un gouvernement pourrait exiger qu'une entreprise prouve que son système est sûr avant qu'il ne puisse être utilisé, ou il pourrait prélever une taxe basée sur la quantité de puissance de calcul que le système utilise. Cependant, ces méthodes nécessitent un accord clair sur la dangerosité de la technologie. Pour fixer un taux d'imposition ou une règle de sécurité, les politiciens doivent d'abord décider exactement de l'ampleur du dommage attendu. Weil souligne que les experts ne parviennent pas à un consensus. Certains croient que le risque de catastrophe est presque certain, tandis que d'autres pensent qu'il est négligeable. Parce que la technologie est si nouvelle et complexe, il n'existe aucune donnée solide pour trancher ce débat. Sans une compréhension partagée du risque, toute règle ou taxe fixée par les politiciens sera probablement soit trop faible pour arrêter un désastre, soit si stricte qu'elle arrêtera tout progrès.
De plus, l'article soutient que le processus politique lui-même est biaisé contre une régulation efficace. Les personnes qui subiraient les conséquences d'une erreur commise par un système d'intelligence artificielle sont le grand public, qui est dispersé et non organisé. Les entreprises qui construisent ces systèmes sont peu nombreuses, riches et hautement motivées pour protéger leurs intérêts. Dans un système politique, les groupes organisés disposant d'argent ont généralement plus d'influence que le public diffus. Si un gouvernement tente d'imposer des règles strictes, ces entreprises peuvent faire du lobbying pour affaiblir les règles ou les rendre plus faciles à contourner. Elles peuvent également utiliser leur expertise technique pour confondre les régulateurs, qui dépendent souvent des entreprises elles-mêmes pour expliquer le fonctionnement de la technologie. Cela crée une situation où les règles finissent par protéger les entreprises plutôt que le public.
Weil propose que tenir les entreprises responsables des dommages réels qu'elles causent permet d'éviter ces pièges politiques. Sous un système de responsabilité stricte, une entreprise n'a pas besoin d'obtenir la permission pour construire un système, ni besoin de s'accorder sur un niveau de risque spécifique avec le gouvernement. Au lieu de cela, l'entreprise sait simplement que si son système blesse quelqu'un, elle devra payer. Cela fonctionne même lorsque personne ne sait exactement à quel point la technologie est dangereuse. Si la technologie s'avère sûre, l'entreprise ne paie rien. Si elle s'avère dangereuse, l'entreprise paie pour les dommages. Cela crée une incitation puissante pour que l'entreprise cherche par elle-même comment rendre le système sûr, car c'est elle qui devra régler la note si les choses tournent mal.
L'article aborde également une préoccupation courante : et si un désastre est si vaste qu'une seule entreprise ne peut pas payer ? Dans les cas où le dommage est trop important pour qu'une seule entreprise puisse le couvrir, l'auteur suggère d'utiliser des dommages punitifs. Cela signifie que si une entreprise prend un risque pouvant mener à une catastrophe, même si la catastrophe n'a pas encore eu lieu, elle pourrait être lourdement amendée si elle frôle un tel événement. Cette amende serait calculée en fonction du danger potentiel créé, et non seulement du dommage réellement causé. Cela garantit que les entreprises ont toujours une raison d'être prudentes, même si elles pensent qu'elles ne seront pas prises. Pour gérer le problème des entreprises n'ayant pas assez d'argent pour payer de petits accidents, l'article suggère de leur imposer de souscrire une assurance. Les compagnies d'assurance agiraient alors comme des régulateurs privés, vérifiant la sécurité des systèmes et appliquant des prix plus élevés pour les plus risqués.
L'auteur compare cette approche à d'autres idées actuellement débattues, telles que l'octroi d'un « port sûr » (safe harbor) ou d'une immunité contre les poursuites si les entreprises respectent certaines règles gouvernementales. L'article soutient que c'est un mauvais calcul. Si une entreprise est autorisée à éviter de payer pour les dommages simplement parce qu'elle a suivi une liste de contrôle, elle a moins de raisons d'aller au-delà des exigences minimales pour rendre ses systèmes véritablement sûrs. L'article examine également les récentes propositions législatives aux États-Unis et en Europe qui tentent d'échanger la responsabilité contre la régulation. Weil constate qu'aucune de ces propositions n'offre une bonne valeur. Elles tendent à affaiblir le système de responsabilité des entreprises sans fournir d'alternative assez forte pour protéger les gens.
L'article conclut que, bien que d'autres outils comme les exigences de transparence et la recherche sur la sécurité soient utiles, ils doivent soutenir un système de responsabilité, et non le remplacer. La façon la plus efficace de gouverner l'intelligence artificielle est de laisser le marché et les tribunaux faire le travail de tri des risques. En faisant payer aux développeurs les dommages qu'ils causent, le système les force à internaliser les coûts de leurs erreurs. Cette approche ne nécessite pas que les politiciens s'accordent sur l'avenir, ni qu'ils aient le pouvoir d'arrêter le progrès arbitrairement. Elle garantit simplement que ceux qui construisent la technologie sont ceux qui en assument le coût en cas d'échec. Dans un monde où les risques sont inconnus et la politique difficile, cette méthode offre la voie la plus fiable vers la sécurité.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.