Final Authority in AI Governance: Frontier-Provider Sovereignty and Action-Centered Deployer Governance

La grande lutte de pouvoir de l'IA : Qui tient la télécommande ?

Imaginez que vous venez de construire un assistant robotique super intelligent. Il est si brillant qu'il peut écrire du code, réserver des vols et même gérer votre compte bancaire. Mais voici la partie délicate : une fois que vous avez lâché ce robot dans le monde réel, qui peut appuyer sur le bouton « Arrêt » s'il commence à faire des choses bizarres ? Cette question est au cœur d'un nouveau débat dans le monde de la gouvernance de l'intelligence artificielle (IA).

Pour comprendre la lutte, nous devons connaître deux personnages principaux. D'abord, il y a le Fournisseur d'IA, le laboratoire ou l'entreprise brillante qui a construit le cerveau du robot. Ils savent comment le cerveau fonctionne, de quoi il est capable et où il pourrait tomber en panne. Ensuite, il y a le Déployeur, la personne ou l'entreprise qui utilise réellement le robot pour accomplir de vraies tâches, comme gérer un hôpital ou diriger une banque. Le Déployeur est celui qui doit gérer les dégâts si le robot commet une erreur.

Pendant un certain temps, beaucoup de gens pensaient que le Fournisseur devrait être le grand patron. La logique était simple : « Vous avez construit le cerveau, donc vous devez contrôler le corps. » Mais à mesure que les robots commencent à accomplir des tâches plus complexes, une nouvelle idée gagne du terrain. Elle suggère que la personne qui tient la télécommande — celle qui subit les conséquences si les choses tournent mal — devrait avoir le dernier mot sur ce que le robot fait réellement. Il ne s'agit pas de savoir qui est le plus intelligent ; il s'agit de savoir qui est responsable.

---

La grande question du document : Qui est le véritable patron ?

Ce document, écrit par Zexun Wang, explore un argument très spécifique sur l'endroit où doit résider l'« autorité finale » une fois que les systèmes d'IA sont profondément intégrés dans notre travail quotidien. L'auteur compare deux façons différentes de penser sur la question de savoir qui doit être aux commandes.

La première idée : La règle du « Bâtisseur de cerveau » (Souveraineté du Fournisseur de Frontière)
Imaginez un fabricant de voitures de course. Il sait exactement à quelle vitesse le moteur peut aller et où les freins pourraient lâcher. L'idée de la « Souveraineté du Fournisseur » soutient que, puisque l'entreprise d'IA connaît le mieux les capacités et les dangers de l'IA, c'est à elle de décider quand il est sûr de laisser l'IA agir. Elle agirait comme un gardien strict, testant l'IA et disant : « Non, tu ne peux pas faire ça encore », ou « Oui, tu peux y aller ». C'est le point de vue de certains grands laboratoires d'IA qui soutiennent qu'ils doivent contrôler la sortie de leurs modèles les plus puissibles pour prévenir les catastrophes.

La deuxième idée : La règle du « Siège du conducteur » (Souveraineté du Déployeur centrée sur l'action)
Maintenant, imaginez que vous êtes le conducteur de cette voiture de course. Même si le fabricant connaît le mieux le moteur, c'est vous qui conduisez sur une piste spécifique, avec un trafic spécifique, et c'est vous qui allez vous écraser si vous heurtez un mur. L'idée de la « Souveraineté du Déployeur » soutient que la décision finale sur le fait qu'une action de l'IA doive avoir lieu appartient à l'organisation qui l'utilise. Si une banque utilise une IA pour approuver un prêt, ou un hôpital pour planifier une chirurgie, c'est cette banque ou cet hôpital qui devra gérer les retombées juridiques et financières. Par conséquent, ils devraient être ceux qui donnent le signal final « Go » ou « No-Go ».

Ce que le document conclut : Le « Conducteur » doit avoir le dernier mot

L'auteur a examiné les règles et les directives de grandes instances telles que l'Union européenne, les États-Unis (NIST), Singapour, le Japon et le Canada. Il a également observé comment les entreprises utilisent l'IA actuellement.

Le document suggère que, bien que les constructeurs d'IA (les Fournisseurs) soient certainement nécessaires pour fixer les limites de sécurité et empêcher l'IA de faire des choses véritablement dangereuses, ils ne devraient pas être ceux qui prennent chaque décision sur ce que l'IA fait dans une entreprise réelle.

Voici pourquoi le document penche pour la règle du « Siège du conducteur » :

1. Le facteur « Qui paie ? » : Si une IA commet une erreur qui coûte des millions de dollars à une entreprise ou enfreint une loi, c'est l'entreprise (le Déployeur) qui est poursuivie ou amendée, et non l'entreprise d'IA qui a construit le modèle. Le document soutient que la personne qui paie le prix doit être celle qui détient les clés.
2. Le problème de la « Connaissance locale » : Une entreprise d'IA en Californie peut savoir que son modèle est intelligent, mais elle ne sait pas qu'une banque spécifique à Toronto a une règle interdisant l'envoi de données vers un certain pays, ou qu'un hôpital spécifique a une politique concernant la confidentialité des patients. Le « Fournisseur » ne peut pas voir les règles locales. Seul le « Déployeur » connaît le contexte spécifique.
3. La réalité du « Mélange de genres » : Les entreprises utilisent aujourd'hui l'IA provenant de sources multiples. Elles peuvent utiliser une IA pour écrire des e-mails, une autre pour analyser des données et une troisième pour le service client. Si l'entreprise d'IA tente de tout contrôler, cela devient désordonné car l'entreprise utilise un mélange d'outils. Le document suggère que nous avons besoin d'un système où l'action elle-même (comme « envoyer cet e-mail ») porte son propre permis d'autorisation, quel que soit l'outil d'IA qui effectue le travail.

La solution proposée : Les actions avec « Preuve de portabilité »

Pour résoudre cela, le document pointe du doigt un concept appelé Actions d'Agent avec Preuve de Portabilité (PCAA - Proof-Carrying Agent Actions). Voyez cela comme un passeport numérique pour chaque action entreprise par une IA.

Au lieu de simplement faire confiance à l'entreprise d'IA pour dire « C'est sûr », le système crée un certificat portable pour chaque action. Ce certificat indique :

• « Cette action a été examinée. »
• « Cette action a été approuvée par la bonne personne dans l'entreprise. »
• « Voici la preuve qu'elle a respecté les règles. »

De cette façon, même si l'entreprise d'IA change ou si la technologie est mise à jour, l'entreprise utilisant l'IA conserve un enregistrement clair de qui a autorisé quoi. Cela maintient le pouvoir là où il doit être : entre les mains de ceux qui font réellement le travail et qui en assument les conséquences.

Ce à quoi le document dit « Non »

Le document précise soigneusement ce qu'il ne cherche pas à argumenter.

• Il ne dit pas que les entreprises d'IA doivent être ignorées. Elles restent les expertes pour déterminer si un modèle est dangereux dans un sens général. Elles doivent toujours être celles qui disent : « Ce modèle est trop risqué pour être publié du tout. »
• Il ne dit pas que les entreprises sont autorisées à faire tout ce qu'elles veulent. Les constructeurs d'IA fixent toujours les limites de sécurité (comme une limitation de vitesse).
• Il ne prétend pas que c'est un problème résolu ou un système parfait. Le document suggère que c'est la meilleure façon de gérer les choses actuellement, étant donné la complexité et le mélange de l'utilisation de l'IA.

L'essentiel à retenir

La conclusion principale est une approche « par couches ». Pensez à un bâtiment à deux étages.

• L'étage supérieur (Le Fournisseur) : Les constructeurs d'IA vivent ici. Ils décident si le bâtiment est sûr pour y entrer et si l'ascenseur peut monter jusqu'au toit. Ils gèrent les risques majeurs et effrayants.
• Le rez-de-chaussée (Le Déployeur) : Les entreprises utilisant l'IA vivent ici. Elles décident quelles pièces entrer, qui peut franchir les portes et ce qui se passe si quelqu'un trébuche.

Le document soutient que, pendant longtemps, on a pensé que l'étage supérieur devait contrôler le rez-de-chaussée. Mais l'auteur suggère que c'est comme si un fabricant de voitures essayait de dire à un chauffeur de taxi exactement quel virage prendre à chaque intersection. Le fabricant connaît la voiture, mais le chauffeur connaît la route.

En fin de compte, le document suggère que l'avenir le plus sensé est un avenir où les constructeurs d'IA fixent les règles de sécurité, mais où les entreprises utilisant l'IA détiennent l'autorité finale pour décider des actions qui se produisent réellement, appuyées par une preuve claire et portable qu'elles ont bien fait les choses.