🤖 AI

Artificial Empathy: Towards a Framework for Unsupervised Agency Detection and Policy Reconstruction

Cet article propose un cadre qui exploite un agent d'apprentissage par renforcement entraîné sur une tâche indépendante comme un a priori pour permettre la détection non supervisée d'autres agents et la reconstruction de leurs politiques uniquement à partir d'observations environnementales.

Auteurs originaux : Peter Kuhn, Chris Pang, Sonakshi Chauhan

Publié 2026-08-25

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Peter Kuhn, Chris Pang, Sonakshi Chauhan

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Dans les recoins tranquilles de la recherche en intelligence artificielle, une question fondamentale persiste : comment une machine peut-elle comprendre qu'autre chose dans le monde agit avec un dessein ? Pour qu'un ordinateur puisse coopérer avec des humains ou d'autres machines, il doit d'abord distinguer un rocher tombant à cause de la gravité d'une personne tendant la main vers ce rocher avec intention. Cette capacité, connue sous le nom de détection d'agentivité, est le fondement de l'interaction sociale. Sans elle, une intelligence artificielle ne voit qu'un flux chaotique d'événements, incapable de faire la différence entre un bruit aléatoire et un plan orienté vers un but. Le défi est encore plus grand lorsque la machine doit découvrir ce que cet autre agent veut faire, une tâche appelée reconstruction de politique. Si une machine pouvait apprendre à identifier ces intentions cachées et à les modéliser sans être explicitement enseignée, elle ferait un pas de géant vers le statut de partenaire véritablement coopératif, capable d'aligner ses propres objectifs sur ceux des êtres qui l'entourent.

Une équipe de chercheurs du Human Inductive Bias Project à Cambridge a franchi une étape significative vers la résolution de ce casse-tête en proposant un système qu'ils appellent « empathie artificielle ». Plutôt que d'essayer de construire une théorie de l'esprit complexe à partir de zéro, ils suggèrent qu'une intelligence artificielle peut comprendre les autres en utilisant sa propre mécanique interne comme guide. L'idée centrale est qu'une IA, étant elle-même un agent qui prend des décisions et agit sur le monde, possède déjà une compréhension intrinsèque de ce à quoi ressemble l'agentivité. En entraînant un système à prédire l'avenir en se basant sur ses propres modèles de comportement appris, les chercheurs ont créé un cadre capable de scanner un environnement, de repérer d'autres agents et de comprendre ce que ces agents cherchent à accomplir, le tout sans étiquettes ni instructions humaines.

Les chercheurs ont testé ce concept dans un environnement numérique contrôlé, un monde de grille simple où un agent se déplace pour collecter des récompenses. Ils ont entraîné un agent d'IA standard pour résoudre une tâche spécifique, telle que rejoindre le coin inférieur gauche de la grille pour gagner des points. Cet agent entraîné servait d'« expert » ou d'« autre » que le nouveau système devait comprendre. Pour rendre la tâche difficile et réaliste, les chercheurs ont introduit un élément perturbateur : un second agent, faux, qui se déplaçait de manière aléatoire, comme une feuille emportée par le vent. Le but pour le nouveau système était d'ignorer le mouvement aléatoire et d'identifier correctement le véritable agent, puis d'apprendre à imiter sa stratégie spécifique pour atteindre le but. Le système n'a pas été informé de l'identité du véritable agent ; il devait le découvrir par lui-même.

Pour y parvenir, le nouveau système a bénéficié d'un coup de pouce en étant chargé avec le « cerveau » d'une IA différente qui avait été entraînée sur une tâche totalement sans rapport, comme la collecte d'objets alimentaires. Cette connaissance préchargée agissait comme un a priori, un ensemble d'attentes sur la manière dont les agents se comportent généralement et comment leurs actions modifient le monde. Le système a ensuite observé le flux d'événements dans le monde de la grille. Il a utilisé son modèle interne pour poser une question simple : si je suppose qu'un agent agit ici, puis-je prédire ce qui se passe ensuite ? Lorsqu'il observait le marcheur aléatoire, ses prédictions échouaient car les mouvements aléatoires ne suivaient aucun schéma logique de recherche d'un but. Cependant, lorsqu'il observait l'agent expert, ses prédictions fonctionnaient bien car les mouvements de l'expert étaient cohérents avec la logique d'un agent cherchant à atteindre un objectif. En minimant l'erreur entre ses prédictions et la réalité, le système a efficacement filtré le bruit et s'est concentré sur le véritable agent.

Les résultats de cette expérience étaient prometteurs. Après avoir observé l'environnement pendant une courte période, le système a appris à ignorer le leurre aléatoire et a réussi à adopter la stratégie de l'agent expert. Dans une série d'essais, la performance du système a rapidement dépassé celle d'un choix aléatoire, finissant par égaler le niveau de compétence de l'expert original. Cela a démontré que le système pouvait effectivement effectuer une détection d'agentivité non supervisée, identifiant l'acteur intentionnel au milieu du chaos et reconstruisant sa politique. Les chercheurs ont noté que ce succès reposait sur le fait que le système utilisait sa propre dynamique interne comme une lentille pour observer le monde, affirmant ainsi : « Je sais ce que l'on ressent quand on a un but, donc je peux le reconnaître chez les autres ».

Malgré ces résultats encourageants, les chercheurs veillent à présenter cela comme une preuve de concept préliminaire plutôt que comme une solution achevée. Les expériences ont été menées dans un petit monde de grille entièrement visible avec un seul agent réel et un seul faux agent. Le système reposait largement sur le fait que l'agent a priori et l'agent cible étaient structurellement similaires, et l'on ne sait pas encore si cette approche fonctionnerait aussi bien si les agents étaient très différents ou si l'environnement était complexe et partiellement caché. L'étude suggère que les a priori auto-référentiels peuvent soutenir la détection de l'agentivité, mais elle ne prétend pas encore avoir résolu le problème plus large de l'alignement de l'intelligence artificielle avec les valeurs humaines dans le monde réel. Ce travail ouvre une porte, montrant qu'une IA peut apprendre à se soucier des autres en comprenant d'abord elle-même, mais le voyage vers un avenir pleinement coopératif reste long et incertain.

Résumé technique : Empathie Artificielle : Vers un cadre pour la détection d'agentivité non supervisée et la reconstruction de politique

Définition du problème

Le document traite de deux défis interconnectés dans l'alignement de l'IA et les systèmes multi-agents :

Détection d'agentivité : La tâche consistant à distinguer un comportement agentique (activité orientée vers un but) d'une dynamique aléatoire non agentique au sein d'un environnement.
Reconstruction de politique : La tâche consistant à inférer la politique sous-jacente d'un agent ( $\pi_O$ ) uniquement à partir du comportement observé, sans accès aux fonctions de récompense ou aux trajectoires d'actions étiquetées.

Bien que l'apprentissage par renforcement inverse (IRL) traite la reconstruction de politique, il nécessite généralement des paires observation-action prétraitées et suppose que l'identité de l'agent est déjà connue. Les auteurs soutiennent que la résolution conjointe de ces deux tâches de manière non supervisée est une étape nécessaire vers l'alignement de l'IA, permettant à un système de développer une « politique jointe » qui synthétise ses propres objectifs avec ceux d'autres agents, conférant ainsi au système une propension à « se soucier » d'autrui.

Méthodologie

Les auteurs proposent l'Empathie Artificielle (EA), un cadre où un système d'IA utilise sa propre dynamique agentique apprise comme un a priori pour détecter et modéliser d'autres agents. L'approche repose sur une architecture d'apprentissage par renforcement (RL) basée sur un modèle.

1. Architecture de l'agent de base

Le fondement est un agent de Q-learning profond augmenté d'un modèle de monde entraînable, inspiré des auto-encodeurs variationnels (VAE). L'architecture comprend :

Encodeur ( $p_\theta$ ) : Un réseau convolutionnel inférant les états latents du monde ( $s_t$ ) à partir des observations ( $o_t$ ).
Modèle de transition ( $q_\phi$ ) : Un réseau dense prédisant l'état latent suivant ( $s_{t+1}$ ) étant donné l'état actuel et l'action ( $s_t, a_t$ ).
Décodeur ( $d_\omega$ ) : Reconstruit les observations à partir des états latents.
Réseau Q ( $Q_\rho$ ) : Prédit les valeurs Q pour les états du monde.

L'agent de base est entraîné à l'aide d'une fonction de perte combinée ( $L_{base}$ ) composée de :

Perte de reconstruction ( $L_{recon}$ ) : MSE entre les observations réelles et reconstruites.
Perte de transition ( $L_{trans}$ ) : Divergence KL entre la distribution postérieure modélisée et la postérieure approximative.
Perte Q ( $L_Q$ ) : MSE entre les valeurs cibles et les valeurs prédites.

2. Système d'Empathie Artificielle (EA)

Le système d'EA utilise un agent de base entraîné (l'agent a priori) comme un a priori structurel pour les dynamiques agentiques. Il tente de reconstruire la politique d'un agent « cible » ou « expert » agissant dans un environnement.

Initialisation : Le système d'EA initialise ses poids en se basant sur les poids de l'agent a priori, imposant un a priori gaussien dans l'espace des poids via des termes de pénalité ( $R_p, R_q, R_Q$ ).
Mécanisme de prédiction : Le système d'EA suppose que l'environnement contient un agent. Il encode les observations en états latents et prédit l'état suivant ( $p^*(s_{t+1}|s_t, A)$ ) en marginalisant sur toutes les actions possibles ( $N$ ), pondérées par la probabilité de chaque action dérivée du réseau Q de l'EA :
$p^*(s_{t+1}|s_t, A) = \sum_{i=0}^{N} P(a_i)q'(s_{t+1}|s_t, a_i)$
Fonction de perte : Le système minimise l'écart entre les états du monde encodés et les états du monde prédits sous l'hypothèse d'agentivité. La perte totale ( $L_{AE}$ $L_{A E}$ ) inclut :
- Divergence KL ( $L_{KL}$ ) : Entre la distribution encodée et la distribution prédite par l'agent.
- Pénalité d'entropie ( $R_H$ ) : Pour forcer le système à s'engager vers des actions spécifiques plutôt que vers des distributions lissées.
- Pénalités de poids ( $R_p, R_q, R_Q$ ) : Pour maintenir une similitude structurelle avec l'agent a priori.

Configuration expérimentale et résultats

Les auteurs ont validé le cadre dans un monde de grille de 15×15 avec deux tâches distinctes :

Food-Game : Collecter trois éléments de nourriture.
Edge-Game : Atteindre le bord inférieur gauche.

Configuration :

Un agent entraîné sur le Food-Game sert de prior (a priori).
Un agent entraîné sur l'Edge-Game sert d'expert.
Le système d'EA est initialisé avec le prior du Food-Game et chargé d'imiter la politique de l'expert de l'Edge-Game.
Facteur de confusion : Un agent « leurre » effectuant une marche aléatoire a été ajouté au flux d'observation pour tester la détection d'agentivité.

Résultats :

Le système d'EA a réussi à apprendre l'imitation de la politique de l'expert (Edge-Game) malgré une initialisation avec un prior structurellement différent (Food-Game).
Crucialement, le système a résolu implicitement la tâche de détection d'agentivité : il a ignoré la dynamique aléatoire de l'agent leurre pour se concentrer sur le comportement agentique de l'expert.
Les mesures de performance ont montré qu'après 35 épisodes, la récompense cumulative de l'agent EA surpassait significativement celle d'une marche aléatoire et approchait celle de l'agent expert de base.

Contributions clés

Proposition de cadre : Introduction de l'« Empathie Artificielle » comme un cadre de premier principe pour la détection d'agentivité non supervisée et la reconstruction de politique.
Prior auto-référentiel : L'utilisation novatrice de la propre dynamique d'un agent (via son modèle de monde entraîné) comme un a priori pour identifier et modéliser d'autres agents, inspirée par la théorie de la simulation et les mécanismes de neurones miroirs en sciences cognitives.
Résolution de tâche conjointe : Démonstration qu'une architecture unique peut simultanément distinguer l'activité agentique de l'activité non agentique et reconstruire la politique sous-jacente sans données étiquetées.

Signification et affirmations

Le document positionne ce travail comme une étape fondamentale vers la résolution du problème de l'alignement de l'IA. En permettant à une IA de détecter et de modéliser les objectifs d'autres agents, le système peut théoriquement construire une politique jointe ( $\pi_\Omega$ ) qui synthétise ses propres objectifs avec ceux des autres, favorisant ainsi un comportement coopératif.

Les auteurs déclarent explicitement que leurs résultats actuels démontrent la faisabilité plutôt que la robustesse ou l'échelle. Ils reconnaissent que les expériences sont limitées à de petits mondes de grille entièrement observables avec un seul agent de confusion. Le document ne prétend pas avoir résolu l'alignement de l'IA, mais suggère que l'établissement de l'empathie artificielle en tant que cadre est une condition préalable nécessaire au développement de systèmes capables de « se soucier » des autres agents. Les travaux futurs sont identifiés comme l'extension du cadre à l'observabilité partielle, aux multi-agents et aux politiques non stationnaires.