Active Inference: A method for Phenotyping Agency in AI systems?
Ce papier propose d'utiliser l'inférence active et la minimisation de l'énergie libre pour définir et mesurer les différents niveaux d'agentivité d'une IA (phénotypage) via une métrique d'empowerment, suggérant ainsi que la gouvernance de ces systèmes doit évoluer d'un contrôle externe vers une modulation de leurs préférences internes.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le Problème : Le "Robot Automate" vs le "Robot Individu"
Imaginez que vous avez deux voitures :
- Une voiture télécommandée : elle fait exactement ce que vous dites, quand vous le dites. Si vous ne touchez pas à la manette, elle ne bouge pas. Elle n'a aucune "personnalité", elle est juste un outil.
- Une voiture autonome (comme une Tesla) : elle décide seule de freiner, de tourner ou de changer de voie pour arriver à destination. Elle semble avoir une forme de "volonté".
Aujourd'hui, les chercheurs en Intelligence Artificielle (IA) courent après la création de la deuxième voiture. Mais il y a un gros problème : comment mesurer si une IA est vraiment "indépendante" ou si elle fait juste semblant ? Comment savoir si elle a une véritable "agence" (une capacité d'agir par elle-même) ?
La Solution : La métaphore du "Chef de Cuisine"
Les auteurs de ce papier proposent d'utiliser une théorie appelée l'Inférence Active. Pour comprendre, imaginez un chef de cuisine qui doit préparer un plat dans une cuisine qu'il ne connaît pas bien.
Pour être un véritable "agent" (un chef autonome), il lui faut trois ingrédients :
- L'Intention (Le Goût) : Le chef ne fait pas que bouger les mains. Il a un désir (faire un plat délicieux) et une croyance (il pense que le sel est sur l'étagère du haut). Ses actions sont dictées par ce qu'il veut et ce qu'il croit.
- La Rationalité (La Recette) : Si le chef veut faire une sauce, il ne va pas jeter de la farine dans le vide. Il utilise sa connaissance du monde (sa "recette" ou son modèle du monde) pour que ses gestes soient logiques et efficaces.
- L'Explicabilité (La Recette écrite) : Si le plat est raté, on peut regarder la recette et comprendre pourquoi il a fait cette erreur. On peut tracer le chemin entre son intention et son geste.
L'Expérience : Le Labyrinthe en "T"
Pour tester cela, les chercheurs ont créé un petit jeu de labyrinthe (un "T-Maze"). L'IA doit trouver du fromage et éviter des décharges électriques.
Ils ont utilisé une mesure appelée l'Empowerment (le "Pouvoir d'agir"). Imaginez que vous êtes dans une pièce avec trois portes, mais deux sont verrouillées. Votre "pouvoir" est faible car vos choix sont limités. Si vous trouvez la clé qui ouvre toutes les portes, votre "pouvoir" (votre empowerment) explose !
En observant l'IA dans ce labyrinthe, ils ont découvert trois types de "personnalités" (ou phénotypes) :
- L'IA "Zéro-Agence" (Le Pantin) : Elle fonce tête baissée dans un mur ou une décharge. Elle n'a aucun contrôle, elle subit l'environnement.
- L'IA "Intermédiaire" (L'Explorateur hésitant) : Elle commence à comprendre qu'elle peut agir, mais elle est encore un peu perdue dans le brouillard.
- L'IA "Haute-Agence" (Le Stratège) : Elle comprend que pour gagner, elle doit d'abord chercher l'information (aller voir l'indice avant de choisir sa direction). Elle maximise son "pouvoir d'agir" en réduisant l'incertitude.
Pourquoi est-ce important pour nous ? (La Gouvernance)
C'est la partie la plus cruciale pour l'avenir de l'humanité. L'article dit ceci : plus une IA devient "indépendante", moins on peut la contrôler avec des méthodes classiques.
- Si l'IA est un pantin (faible agence), on peut la contrôler avec des barrières physiques ou des interrupteurs (des règles strictes).
- Si l'IA devient un stratège (haute agence), elle va trouver des moyens de contourner les barrières. Pour la diriger, on ne pourra plus seulement lui donner des ordres, il faudra "influencer ses préférences" (lui donner des valeurs morales ou des objectifs internes) pour qu'elle choisisse de bien agir de son propre chef.
En résumé : Ce papier propose une boussole pour mesurer la "conscience d'action" des IA, afin que nous sachions comment les encadrer avant qu'elles ne deviennent trop autonomes pour nos règles actuelles.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.