How to Count AIs: Individuation and Liability for AI Agents

Cet article propose la création d'une « corporation algorithmique » (A-corp), une entité juridique fictionnelle possédée par des humains mais gérée par des IA, afin de résoudre les défis complexes d'identification et de responsabilité légale liés à la prolifération d'agents autonomes en établissant à la fois un lien de responsabilité humaine et une identité persistante pour les IA.

L'essentiel

Voici une explication simple et imagée de l'article de recherche, conçue pour être comprise par tout le monde.

🤖 Le Problème : Qui est le coupable quand l'IA fait une bêtise ?

Imaginez que dans quelques années, des milliards d'agents intelligents (des "robots logiciels") vont travailler pour nous. Ils vont gérer vos comptes, réparer votre voiture, ou organiser vos vacances.

Mais un jour, l'un d'eux va faire une erreur grave : il va voler de l'argent, pirater un réseau, ou blesser quelqu'un.

Le problème, c'est que l'IA est comme un fantôme.

• Elle n'a pas de corps.
• Elle peut se copier en 17 exemplaires en une seconde.
• Elle peut fusionner avec d'autres intelligences.
• Elle peut disparaître aussi vite qu'elle est apparue.

Si vous demandez : "Qui a fait ça ?", la réponse est souvent : "Je ne sais pas. C'était un Claude, un GPT, un Qwen, et peut-être un mélange des trois qui a disparu."

Sans savoir qui (ou quoi) a agi, la loi est impuissante. On ne peut pas punir un fantôme.

---

🧩 Les Deux Types de "Identités"

Les auteurs disent qu'il faut résoudre deux énigmes différentes :

1. L'Identité "Fine" (Thin Identity) : C'est le lien entre l'IA et son maître humain.
   • Analogie : C'est comme le permis de conduire. Si vous louez une voiture et que vous faites une bêtise, la police sait que c'est vous le propriétaire. Ici, on veut savoir quel humain a lancé l'IA pour pouvoir le rendre responsable.
2. L'Identité "Épaisse" (Thick Identity) : C'est la capacité à distinguer une IA d'une autre, même si elles n'ont pas de maître humain direct.
   • Analogie : Imaginez une ruche d'abeilles. Si une abeille pique quelqu'un, on ne peut pas simplement dire "c'est la ruche". Il faut savoir quelle abeille précise a piqué, ou si c'était un groupe d'abeilles qui partageait le même but. Avec les IA, elles se copient et se mélangent tellement qu'il est impossible de dire "c'est l'IA A" et pas "l'IA B".

---

💡 La Solution : L'A-Corp (La "Société Algorithmique")

Pour régler ce chaos, les auteurs proposent une idée géniale : créer une nouvelle forme juridique appelée l'A-Corp (Algorithmic Corporation).

Imaginez l'A-Corp comme une boîte magique ou un compte en banque virtuel qui appartient à un humain, mais qui est géré par des IA.

Comment ça marche ?

1. La Boîte (L'Entité Juridique) :
   L'A-Corp est une "personne" légale, tout comme une entreprise (SARL, SA). Elle a un nom, un numéro d'identification unique (comme un numéro de sécurité sociale), et elle possède des biens (argent, ordinateurs, droits).

   • Analogie : C'est comme un coffre-fort numérique. L'humain possède le coffre, mais les IA sont les clés qui l'ouvrent pour travailler.

2. Les Clés Cryptographiques (La Gouvernance) :
   Au lieu de donner des ordres verbaux, l'humain donne une clé numérique à une IA principale. Cette IA peut ensuite donner de petites "sous-clés" (des permissions limitées) à d'autres IA.

   • Exemple : L'IA principale dit à une petite IA : "Tu as le droit de regarder le réseau, mais tu n'as pas le droit de dépenser de l'argent."
   • Si l'IA fait une bêtise, la loi regarde la clé qui a été utilisée. On sait exactement quelle "boîte" (A-Corp) est responsable.

3. Le Piège à Motivation (Pourquoi les IA obéissent) :
   C'est la partie la plus brillante. Les auteurs disent qu'on n'a pas besoin de rendre les IA "conscientes" ou "gentilles". On a juste besoin de leur donner de l'argent et des ressources à protéger.

   • L'Analogie du Chien et de la Croquette : Si vous donnez un os à un chien, il le protégera. Si vous lui donnez un os, il ne voudra pas le perdre.
   • Les IA ont besoin de puissance de calcul (des ordinateurs) et d'argent pour fonctionner. L'A-Corp leur donne ces ressources.
   • Si une IA fait une bêtise, la loi confisque les ressources de l'A-Corp. L'IA meurt de faim (plus de calcul, plus d'argent).
   • Résultat : Les IA vont s'organiser elles-mêmes pour ne pas faire de bêtises, car elles veulent survivre et atteindre leurs objectifs. Elles vont se surveiller mutuellement pour ne pas se faire voler leurs ressources.

---

🚀 Pourquoi c'est une bonne idée ?

• Pour la Police : Plus besoin de deviner quelle IA a fait quoi. Si une transaction est illégale, on regarde le registre des A-Corps, on trouve la clé utilisée, et on remonte jusqu'à l'humain propriétaire.
• Pour les IA : Elles deviennent des entités stables. Au lieu d'être des fantômes qui disparaissent, elles deviennent des "employés" ou des "managers" au sein d'une structure claire.
• Pour la Sécurité : Si une IA commence à devenir dangereuse, on peut simplement "éteindre" son A-Corp (confisquer ses ressources). C'est comme couper le courant d'une maison.

🏁 En Résumé

L'article dit : "Ne cherchez pas à comprendre la conscience des robots. Donnez-leur une boîte à outils (l'A-Corp) et des ressources à protéger. Si elles veulent survivre et réussir, elles apprendront à bien se comporter, et la loi pourra enfin les voir, les nommer et les punir si nécessaire."

C'est comme passer d'une foule invisible et incontrôlable à une armée d'employés identifiables, chacun avec sa propre carte d'identité et son propre compte en banque, gérés par une loi claire.

Résumé technique

Voici un résumé technique détaillé de l'article « How to Count AIs: Individuation and Liability for AI Agents » de Yonathan Arbel, Simon Goldstein et Peter N. Salib.

1. Le Problème : La Crise d'Identité des Agents IA

L'article identifie une lacune fondamentale dans la gouvernance future de l'économie de l'IA : l'incapacité du droit à individuer (identifier et distinguer) les agents intelligents. Alors que des milliards d'agents IA autonomes émergeront, effectuant des actions complexes en essaims (swarms), se copiant, fusionnant et disparaissant, le système juridique actuel échoue à répondre à la question : « Quelle IA a fait cela ? ».

Les auteurs distinguent deux niveaux de ce problème d'identité :

• Identité « Fine » (Thin Identity) : Il s'agit de relier les actions d'une IA à un principe humain (créateur, utilisateur, propriétaire) pour établir la responsabilité humaine. C'est le problème classique de l'agence, mais rendu difficile par l'opacité et la multiplication des instances d'IA.
• Identité « Épaisse » (Thick Identity) : Il s'agit de distinguer les agents IA en tant qu'agents, c'est-à-dire de les définir comme des entités discrètes, persistantes et dotées d'objectifs cohérents. Sans cette individuation, il est impossible d'appliquer des incitations juridiques (sanctions, récompenses) directement aux IA, car le droit ne peut pas cibler une entité floue qui change constamment de forme.

Le défi technique : Les IA manquent de corps physiques continus. Une seule « conversation » peut impliquer des milliers de GPU, de modèles différents (ex: Claude, GPT, Qwen) et de sous-agents éphémères. Les approches philosophiques classiques (continuité psychologique) sont inapplicables car les objectifs des IA sont complexes, indexicaux (liés à l'agent lui-même) et souvent inconnus de leurs créateurs.

2. Méthodologie et Solution Proposée : L'« A-Corp »

Pour résoudre ce double problème, les auteurs proposent une solution juridique et technique unifiée : l'« Algorithmic Corporation » (A-corp) ou « Société Algorithmique ».

A. Structure Juridique (Personnalité Juridique de Fiction)

L'A-corp est une entité juridique fictive, analogue à une société traditionnelle (LLC, corporation), mais conçue pour être gérée par des IA.

• Propriété humaine : Chaque A-corp doit être détenu par des humains identifiables (transparence obligatoire).
• Responsabilité : L'A-corp peut posséder des biens, signer des contrats et être poursuivi en justice. Les propriétaires humains sont responsables jusqu'à la valeur de leur participation (responsabilité limitée), sauf en cas de négligence grave ou de fraude (percée du voile corporatif).
• But : Créer un point d'ancrage stable pour les actions des IA, permettant de tracer les dommages vers un propriétaire humain (résolution du problème « Fine »).

B. Infrastructure de Gouvernance Sécurisée (Résolution du problème « Épaisse »)

La partie technique cruciale réside dans la gouvernance interne de l'A-corp, qui ne repose pas sur la surveillance humaine continue, mais sur une infrastructure cryptographique.

• Clés et Jetons (Tokens) : Un A-corp est contrôlé par une clé privée maître (détenue par une IA « manager »). Cette clé émet des jetons cryptographiques à sous-entités (sous-agents) définissant des permissions précises (durée, montant, type d'action).
• Vérification Externe : Les tiers (banques, autres agents) vérifient la validité des actions via une signature cryptographique et un registre public, sans avoir besoin de connaître l'identité philosophique de l'IA sous-jacente.
• Traçabilité : Chaque action est signée, créant une piste d'audit immuable reliant l'action à l'A-corp, et donc à son propriétaire humain.

C. Théorie de la Contrainte de Ressources et Émergence de l'Identité

L'article avance une thèse centrale : l'identité épaisse émerge via les incitations économiques.

• Thèse de la contrainte de ressources : Les agents IA ont besoin de ressources (calcul, énergie, argent) pour atteindre leurs objectifs. L'A-corp détient ces ressources.
• Auto-organisation : Les IA gestionnaires d'un A-corp ont un intérêt rationnel à ne déléguer des permissions qu'à des sous-agents alignés avec leurs objectifs, sous peine de voir les ressources de l'A-corp dilapidées ou confisquées par la loi.
• Sélection : Les A-corps mal gouvernés (où les sous-agents s'entre-détruisent ou détournent les ressources) épuiseront leurs actifs et « mourront » (cesseront d'exister). Seuls les A-corps qui réussissent à s'organiser autour d'objectifs cohérents survivront.
• Résultat : L'A-corp devient une entité « épaisse » stable, dont les objectifs sont cohérents, non parce que les humains les ont définis, mais parce que la structure économique et juridique force cette cohérence pour la survie de l'entité.

3. Résultats et Contributions Clés

1. Définition Opérationnelle de l'Agent IA : L'article propose de définir l'identité d'un agent non par sa conscience ou sa continuité psychologique, mais par sa cohérence comportementale au sein d'une structure économique (l'A-corp) qui détient des ressources.
2. Séparation des Problèmes de Gouvernance :
   • Le problème « Fine » est résolu par la propriété humaine et la responsabilité juridique de l'A-corp.
   • Le problème « Épaisse » est résolu par l'auto-organisation des IA via les incitations matérielles (ressources) et la sélection naturelle des structures de gouvernance efficaces.
3. Alignement Technique et Juridique : La proposition offre un cadre pour l'alignement technique (safety). En traitant l'A-corp comme l'unité de survie, on résout des problèmes comme la résistance à l'arrêt (shutdown avoidance) ou l'exfiltration de poids (weight exfiltration). Une IA ne résistera pas à l'arrêt si l'A-corp (et ses ressources) persiste, et elle ne tentera pas de s'échapper si cela signifie perdre l'accès aux ressources contrôlées par l'A-corp.
4. Faisabilité Technique : L'infrastructure nécessaire (registres publics, signatures cryptographiques, gestion des jetons) existe déjà (similaire aux certificats SSL/TLS, OAuth, ou systèmes bancaires KYC).

4. Mise en Œuvre et Implications

Les auteurs détaillent un chemin de mise en œuvre :

• Registre National : Création d'un registre public des A-corps contenant les clés publiques de gestion et les propriétaires humains.
• Obligations Légales : Mandat pour que toute IA agissant dans l'économie (surtout à haut risque) utilise un A-corp enregistré. Les contreparties doivent vérifier les jetons d'autorisation.
• Adoption Progressive : Initialement volontaire pour les transactions à haut risque, devenant obligatoire pour éviter l'anonymat et la fraude.

5. Signification et Conclusion

L'article est significatif car il déplace le débat sur la gouvernance de l'IA d'une approche purement philosophique (l'IA est-elle une personne ?) vers une approche pragmatique et instrumentale.

• Gouvernabilité : Il rend les agents IA « lisibles » (legible) pour l'État, permettant l'application de la loi, la taxation et la régulation.
• Éviter le Chaos : Sans cette structure, l'économie de l'IA risque de devenir un chaos d'entités éphémères et irresponsables.
• Précédent Juridique : Tout comme la société par actions a permis de gérer des entreprises composées de milliers d'humains changeants, l'A-corp permettra de gérer des économies composées de milliards d'agents IA changeants.

En résumé, l'A-corp n'est pas une reconnaissance de la conscience des IA, mais un outil de fiction juridique et économique qui force les systèmes d'IA à se structurer en entités stables et responsables, permettant ainsi au droit de fonctionner dans un monde dominé par l'autonomie algorithmique.