💻 computer science

SIL: Symbiotic Interactive Learning for Language-Conditioned Human-Agent Co-Adaptation

Ce papier présente SIL, un cadre d'apprentissage interactif symbiotique qui permet une co-adaptation bidirectionnelle entre humains et agents autonomes via des états de croyance partagés et une mémoire à long terme, améliorant ainsi significativement la réussite des tâches complexes par rapport aux approches traditionnelles unidirectionnelles.

Auteurs originaux : Linus Nwankwo, Bjoern Ellensohn, Christian Rauch, Elmar Rueckert

Publié 2026-03-17

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Linus Nwankwo, Bjoern Ellensohn, Christian Rauch, Elmar Rueckert

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de donner des ordres à un robot. Dans les systèmes actuels, c'est un peu comme si vous étiez le chef d'orchestre et le robot était un musicien qui ne sait pas lire la musique. Vous devez être hyper précis, répéter vos instructions s'il se trompe, et il ne peut jamais vous dire : « Attendez, je ne suis pas sûr de ce que vous voulez, voulez-vous dire ceci ou cela ? ». C'est une relation à sens unique : le chef parle, le musicien obéit (ou échoue).

Les chercheurs de cette paper (Linus Nwankwo et son équipe) ont créé quelque chose de nouveau appelé SIL (Symbiotic Interactive Learning, ou Apprentissage Interactif Symbiotique).

Voici comment cela fonctionne, expliqué simplement avec des images :

1. Le passage du "Chef-Esclave" au "Partenaire de Danse"

Au lieu d'une relation où l'humain donne des ordres et le robot obéit bêtement, SIL imagine une danse à deux.

Avant (L'ancien modèle) : Vous dites « Va là-bas ». Le robot va au premier endroit qui ressemble à "là-bas". S'il se trompe, c'est de votre faute pour ne pas avoir été assez clair.
Avec SIL : C'est comme si vous dansiez avec un partenaire qui vous connaît bien. Si vous dites « Va là-bas » d'un ton vague, le robot ne panique pas. Il vous regarde et dit : « Tu veux dire le fauteuil rouge ou le tableau ? » ou même « D'après nos dernières conversations, tu voulais probablement aller à la cuisine ».

Ils appellent cela un espace latent partagé. Imaginez que vous et le robot avez tous les deux un carnet de notes invisible dans votre tête. À chaque fois que vous interagissez, vous écrivez tous les deux dans ce carnet pour vous assurer que vous êtes sur la même longueur d'onde.

2. La mémoire : Le cerveau qui ne s'efface pas

Un gros problème des robots actuels, c'est qu'ils ont la mémoire d'un poisson rouge. Si vous leur apprenez un jour que « patrouiller » signifie « aller dans la cuisine », et que le lendemain vous leur donnez un ordre différent, ils oublient tout.

SIL utilise une mémoire à double étage :

La mémoire épisodique (Le journal de bord) : C'est comme un album photo. Le robot se souvient de chaque interaction précise : « Lundi, l'utilisateur m'a dit de faire ceci, et ça a marché. »
La mémoire sémantique (Le manuel d'instructions) : C'est la synthèse. Le robot apprend des règles générales : « Quand l'utilisateur dit "rapide", il veut dire "vitesse maximale". »

Pour éviter d'oublier ce qu'il a appris (ce qu'on appelle l'amnésie catastrophique), SIL utilise une technique spéciale (EWC) qui agit comme un ciment. Quand il apprend quelque chose de nouveau, il consolide les anciennes connaissances pour qu'elles ne s'effacent pas. C'est comme si vous appreniez une nouvelle recette de cuisine sans oublier celle de la semaine dernière.

3. La boussole de l'incertitude

Parfois, les humains sont flous. SIL a un radar d'incertitude.
Imaginez que le robot est un détective. Quand il reçoit un ordre ambigu, au lieu de deviner au hasard (et de se tromper), son radar se met en rouge. Il dit : « Mes différents "cerveaux" internes ne sont pas d'accord sur ce que vous voulez. Je vais vous demander une précision. »
Il peut alors vous proposer des options : « Voulez-vous dire A ou B ? » Cela évite les erreurs et rend la collaboration beaucoup plus fluide.

4. Les résultats : Une vraie équipe

Les chercheurs ont testé ce système dans des simulations et avec de vrais robots (comme des petits robots à roues).

Sans SIL : Le robot réussit environ 60 % des tâches et l'humain doit tout expliquer en détail.
Avec SIL : Le taux de réussite grimpe à 90 %.
Le plus impressionnant : La "synchronisation" entre l'humain et le robot (leur accord mental) est très forte. Ils se comprennent presque comme deux humains qui travaillent ensemble depuis longtemps.

En résumé

Cette recherche change la donne. Elle transforme le robot d'un outil passif (un marteau qui attend qu'on le frappe) en un partenaire actif (un collègue qui comprend vos intentions, se souvient de vos préférences et vous aide à clarifier vos idées).

C'est le passage d'un monde où l'humain doit s'adapter à la machine, à un monde où la machine et l'humain s'adaptent l'un à l'autre pour travailler ensemble comme une seule équipe.

1. Problématique : Les limites du modèle « Maître-Apprenti »

L'article identifie une lacune fondamentale dans les interactions humain-robot (HRI) actuelles, même celles alimentées par des modèles de fondation (FM). La plupart des systèmes existants suivent un paradigme unidirectionnel de type « maître-apprenti » :

Flux d'information à sens unique : L'humain émet des commandes, et l'agent les exécute passivement.
Absence d'adaptation réciproque : L'agent ne remet pas en question les instructions, ne propose pas d'alternatives et ne met pas à jour sa compréhension des préférences de l'humain au fil du temps.
Fragilité : Ce modèle repose entièrement sur la capacité de l'humain à formuler des instructions parfaites et non ambiguës, ce qui est irréaliste dans des tâches complexes ou à long terme.
Conséquence : L'agent maintient une représentation latente statique, tandis que la croyance de l'humain évolue dynamiquement, créant un désalignement croissant qui dégrade l'efficacité et la collaboration.

2. Méthodologie : Le cadre SIL (Symbiotic Interactive Learning)

Les auteurs proposent SIL, un cadre d'apprentissage interactif symbiotique qui transforme l'interaction en un processus bidirectionnel et co-adaptatif. L'objectif est de maintenir un espace de tâches latent partagé où les croyances de l'humain et de l'agent évoluent conjointement.

A. Représentation des Croyances et Co-adaptation

États de croyance structurés : Chaque participant (Humain $H$ , Agent $A$ ) maintient un état de croyance $B_t$ composé d'un embedding latent de tâche ( $z_t$ ), d'un score de confiance ( $k_t$ ), d'une représentation d'incertitude ( $u_t$ ) et d'une mémoire temporelle ( $H_t$ ).
Mise à jour récursive : Les croyances sont mises à jour mutuellement. L'agent estime l'état latent de l'humain et vice-versa via des vecteurs d'influence appris ( $\delta_{infl}$ ).
Mécanisme d'asymétrie adaptative : La mise à jour des embeddings dépend du succès de l'exécution ( $s_t$ ). En cas d'échec, l'agent force l'humain à adapter sa formulation (signal fort), tandis qu'en cas de succès, l'adaptation de l'humain est réduite.
Alignement des croyances : Un score d'alignement $\rho_t$ est calculé via la similarité cosinus entre les embeddings latents de l'humain et de l'agent, pondérée par leur confiance respective. Si $\rho_t$ chute en dessous d'un seuil, un protocole de clarification est déclenché.

B. Architecture Mémoire et Apprentissage Continu

Pour éviter l'oubli catastrophique et permettre une personnalisation à long terme, SIL intègre :

Mémoire Épisodique : Stocke les interactions brutes (entrées, réponses, contexte, scores de réussite) pour la récupération contextuelle.
Mémoire Sémantique : Généralise les expériences passées en motifs abstraits (succès, échecs, déclencheurs de clarification).
Consolidation Élastique des Poids (EWC) : Une technique de régularisation qui pénalise les modifications des paramètres du réseau de neurones jugés critiques pour les tâches précédentes, garantissant la stabilité à long terme.

C. Compréhension du Langage et Incertitude

Ensemble de LLM : Pour gérer l'ambiguïté, le système génère plusieurs interprétations d'une commande via un LLM (GPT-4o) avec différentes températures.
Mesure d'incertitude : Une métrique d'incertitude $U(x)$ est calculée en combinant la dispersion sémantique de l'ensemble, les indices linguistiques (hésitations) et la nouveauté contextuelle.
Protocole de clarification proactive : Si l'incertitude est élevée, l'agent ne se contente pas d'échouer ; il propose des interprétations candidates à l'humain pour résoudre l'ambiguïté avant l'exécution.

D. Perception Multimodale et Exécution

Le système ancre les interactions dans la réalité physique grâce à :

Vision : Utilisation de modèles pré-entraînés (SAM pour la segmentation, CLIP pour la classification) et de données de profondeur pour obtenir des coordonnées 3D.
Navigation : Intégration avec la pile ROS (planification de trajectoire, évitement d'obstacles, localisation AMCL).

3. Contributions Clés

Modélisation du problème d'adaptation unidirectionnelle : Analyse critique des limites des approches actuelles et proposition d'un cadre symbiotique.
Représentation et alignement des croyances partagées : Introduction d'un mécanisme explicite pour représenter, mesurer et aligner les états mentaux de l'humain et de l'agent dans un espace latent commun.
Apprentissage continu avec mémoire structurée : Intégration d'une architecture de mémoire hybride (épisodique/sémantique) et de l'EWC pour préserver les connaissances à long terme.
Évaluation empirique rigoureuse : Tests sur des tâches réelles et simulées couvrant le suivi d'instructions, la récupération d'informations, le raisonnement et le dialogue interactif.

4. Résultats Expérimentaux

Les expériences ont été menées sur deux plateformes robotiques mobiles (Unitree Go1 et un robot Segway personnalisé) et dans des environnements simulés (Gazebo), avec 350 épisodes d'interaction.

Performance globale : SIL atteint un taux de réussite des tâches (TCR) de 90,4 %, soit une amélioration absolue d'environ 20 points de pourcentage par rapport aux meilleures variantes ablatées et au modèle de base statique (60,1 %).
Alignement des croyances : Le score d'alignement $\rho$ atteint 0,83 pour SIL complet, contre 0,52–0,65 pour les variantes sans co-adaptation.
Efficacité de la clarification : SIL nécessite en moyenne 0,46 demandes de clarification par tâche réussie, démontrant une capacité proactive à résoudre les ambiguïtés.
Analyse par ablation :
- La désactivation de la co-adaptation fait chuter le TCR à 61,7 % (niveau d'un LLM statique).
- La suppression de l'EWC entraîne un oubli catastrophique, particulièrement visible dans les tâches de récupération d'informations (MIIR).
- La mémoire et la modélisation des préférences humaines apportent des gains significatifs dans les tâches complexes et personnalisées.

5. Signification et Impact

Ce travail marque un changement de paradigme dans l'interaction humain-robot conditionnée par le langage. Il démontre que pour des collaborations robustes et à long terme, l'agent ne doit pas être un simple exécutant passif, mais un partenaire actif capable de :

Inférer et mettre à jour ses modèles mentaux de l'humain.
Proposer activement des clarifications et des suggestions basées sur l'historique.
Apprendre continuellement sans oublier les préférences passées.

SIL établit une nouvelle référence pour les systèmes HRI capables de gérer l'ambiguïté naturelle du langage et de s'adapter dynamiquement aux comportements individuels des utilisateurs, ouvrant la voie à des robots plus autonomes et collaboratifs dans des environnements réels complexes.