Implementing Computational Law in Wolfram Language for the Governance of Artificial Intelligence
Cet article présente une implémentation en langage Wolfram de la logique d'entrée/sortie réifiée pour la gouvernance de l'IA, démontrant sa capacité à traduire des normes juridiques en code exécutable pour un comportement d'agent auditable, tout en soulignant les limites actuelles de l'utilisation des grands modèles de langage pour automatiser ce processus de formalisation.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez d'enseigner à un robot super intelligent comment se comporter dans un monde rempli de règles. Le problème est que le cerveau du robot est une « boîte noire ». Vous ne pouvez pas jeter un coup d'œil à l'intérieur pour voir exactement comment il réfléchit ou pourquoi il prend une décision. C'est comme demander à un magicien d'expliquer un tour pendant qu'il est encore en train de l'exécuter. Habituellement, nous essayons de corriger cela en espérant que le robot apprenne à penser comme un humain, mais c'est risqué car le langage humain est désordonné, plein de sens cachés et truffé de failles.
C'est là que la Loi Computationnelle entre en jeu. Voyez cela comme la transformation d'un carnet de règles manuscrit et désordonné en un programme informatique strict. Au lieu d'écrire « Ne soyez pas méchant », vous écrivez un code qui dit : « Si l'Action X se produit, alors le Résultat Y doit se produire ». Ce domaine tente de rendre les règles juridiques si précises qu'un ordinateur peut les lire, les suivre et prouver qu'il les a suivies. Le document que nous examinons explore une manière spécifique de faire cela en utilisant un langage de programmation spécial appelé Langage Wolfram. Il traite les lois comme des équations mathématiques où l'on peut vérifier si un robot obéit aux règles, même si l'on ne comprend pas comment fonctionne le cerveau du robot. La grande question est la suivante : pouvons-nous simplement demander à une IA super intelligente (comme celle qui écrit ce texte) de traduire nos lois anglaises désordonnées en un code informatique parfait ?
La grande expérience du document : L'IA peut-elle écrire les règles ?
L'auteur, James K. Wiles, a décidé de tester cette idée. Il a construit un système dans le Langage Wolfram qui agit comme un « traducteur juridique ». Ce système utilise une logique spéciale appelée Logique d'Entrée/Sortie Réifiée. Pour comprendre cela, imaginez un distributeur automatique. Vous insérez une pièce (Entrée), et la machine vous donne un soda (Sortie). Dans ce système juridique, l'« Entrée » est un fait (comme « Il fait nuit ») et la « Sortie » est une règle (comme « Vous devez vous arrêter »). Le système gère également des concepts complexes comme la « réification », qui est simplement une façon sophistiquée de transformer un événement (comme « Alice donne un livre à Bob ») en un objet physique que l'ordinateur peut tenir, mesurer et dont il peut parler.
L'auteur a ensuite demandé à une IA puissante (GPT-4) d'agir comme le traducteur. Il a donné à l'IA quatre phrases juridiques simples en anglais et lui a demandé de les transformer en le code informatique dont le système a besoin.
Les résultats : Un mélange de magie et de bugs
L'expérience a montré que, bien que l'IA soit rapide et puisse écrire du code qui semble correct, elle n'est pas encore assez sûre pour être utilisée seule. Voici ce qui s'est passé avec les quatre phrases de test :
- Le test « Cravate et Blond » : L'IA a dû traduire une règle concernant les personnes qui ne portent pas de cravate ou qui sont blondes et qui doivent quitter une pièce. L'IA a écrit un code qui semblait fonctionner. Cependant, lorsque l'auteur a vérifié les mathématiques, il a découvert un bug silencieux : le code était défectueux de telle sorte qu'il disait « Vrai » pour tout le monde, même pour les personnes qui portaient des cravates et avaient les cheveux foncés. L'IA avait créé une règle qui ne vérifiait rien du tout.
- Le test « Chaque Homme » : L'IA a dû traduire « Chaque homme est obligé de courir ». L'IA a écrit un code qui fonctionnait, mais elle a commis une erreur dans la définition de « homme ». Au lieu de vérifier si une personne était réellement un homme, le code supposait simplement que la personne était un homme parce que la règle le disait. C'est comme un videur de club qui laisse entrer tout le monde parce qu'il a décidé que tout le monde est un VIP, plutôt que de vérifier les pièces d'identité.
- Le test « Manager et Secrétaire » : L'IA a tenté de traduire une règle où un secrétaire doit noter les tâches d'un manager. L'IA a écrit un code qui semblait parfait et a même ajouté un commentaire disant : « Dave n'est pas un manager, donc aucune obligation ». Mais quand le code a été exécuté, il a forcé la secrétaire à noter la tâche malgré tout, ignorant le commentaire. Le code de l'IA et sa propre explication se contredisaient.
- Le test « Satellite » : L'IA a dû écrire une règle stipulant qu'un satellite doit rester à 200 kilomètres de la Station Spatiale Internationale. L'IA a écrit un code utilisant de vraies données satellitaires, ce qui est impressionnant. Mais le calcul était faux : il mesurait la distance le long de la surface de la Terre (comme conduire sur une route) au lieu de la distance en ligne droite à travers l'espace. Deux satellites pouvaient être séparés de 400 kilomètres verticalement, mais le code dirait qu'ils se touchent.
Le verdict
Le document conclut que l'IA est un excellent assistant, mais un piètre patron. Elle peut rédiger les règles rapidement, mais elle commet des « erreurs silencieuses » — des erreurs qui ne font pas planter le programme mais qui font que le robot fait la mauvaise chose. L'auteur soutient que nous ne pouvons pas laisser l'IA écrire les lois pour d'autres IA. Au lieu de cela, nous avons besoin d'une approche d'équipe : l'IA rédige le code, mais les humains doivent vérifier chaque ligne avec des tests stricts pour s'assurer que la logique tient la route.
L'étude de cas « Fluffy » : Un chien de garde robotique
Pour montrer à quoi cela ressemble dans le monde réel, l'auteur a créé une étude de cas d'un chien de garde robotique nommé Fluffy. Fluffy appartient à une entreprise d'IA et opère sous un « contrat computationnel ». Il ne s'agit pas d'un contrat papier ; les règles sont inscrites directement dans le cerveau de Fluffy.
Le contrat comportait trois règles simples :
- Arrêter les intrus : Si une personne se trouve à moins de 100 mètres de la maison la nuit, Fluffy doit l'arrêter.
- Rester proche : Fluffy doit rester à moins de 200 mètres de la maison.
- Permission d'utiliser la force : Floli est autorisé à utiliser son taser, mais n'est pas obligé de le faire.
La partie intéressante est que les actions de Fluffy sont auditables. Si Fluffy utilise son taser, le système ne se contente pas de dire « Je l'ai fait ». Il produit un reçu symbolique qui dit : « J'ai utilisé le taser parce que : Fait A (Personne à 80m) + Fait B (Il fait nuit) + Règle 1 = Obligation de s'arrêter ». Cela crée une trace écrite claire et immuable qui prouve que le robot a suivi la loi.
Pourquoi cela importe
Le document soutient que nous devons cesser d'espérer que les robots « comprennent » nos lois et commencer à leur donner des lois qu'ils peuvent exécuter. Nous ne pouvons pas attendre de pouvoir voir à l'intérieur de la boîte noire de l'esprit d'une IA. Au lieu de cela, nous devons entourer la boîte noire d'une cage de règles exécutables.
L'auteur suggère que, bien que nous ne puissions pas transformer toutes les lois en code (certaines choses sont trop vagues, comme « être raisonnable »), nous pouvons et devons absolument transformer les règles pour les machines critiques pour la sécurité en code. L'objectif n'est pas de remplacer les juges humains, mais de nous donner des outils capables de vérifier si un robot respecte les règles en ce moment même, en temps réel.
Le document se termine par un avertissement : nous construisons des machines puissantes, et si nous ne leur donnons pas des règles claires et exécutables, nous pourrions nous retrouver face à un futur où un robot prend une décision terrible, et nous n'aurons aucune idée de la raison. En utilisant la loi computationnelle, nous pouvons garantir que même si le robot est une boîte noire, ses règles sont limpides, et que nous pouvons toujours vérifier s'il a fait ce qu'il était censé faire.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.