SC$^{2}$-WM: A Self-Correcting World Model with Closed-Loop Feedback for Vision-and-Language Navigation in Continuous Environments

Imaginez que vous enseigniez à un robot comment être un guide touristique dans un labyrinthe géant et invisible. Le robot possède une caméra et peut entendre votre voix, mais il ne peut pas voir toute la carte à la fois. Il ne voit que ce qui se trouve directement devant son objectif. C'est le monde de la Navigation par Vision et Langage (VLN). Le robot doit écouter une phrase comme « Passez devant le canapé rouge, tournez à gauche dans le couloir et arrêtez-vous devant la lampe », puis déplacer réellement son corps pour trouver cette lampe. La partie délicate est que le robot est « partiellement observable », ce qui signifie qu'il est comme s'il marchait dans une maison sombre avec une lampe torche ; vous ne voyez qu'un petit cercle de lumière et vous devez vous souvenir d'où vous êtes passé pour savoir où vous vous trouvez.

La plupart des robots d'aujourd'hui essaient de résoudre cela en élaborant un plan, puis en le suivant pas à pas, sans regarder en arrière pour voir s'ils sont toujours sur la bonne voie. C'est comme conduire une voiture en fixant une carte papier, en refusant de regarder à travers le pare-brise jusqu'à ce que l'on percute un mur. Si le robot commet une petite erreur au début — comme tourner légèrement trop à gauche — il continue de marcher dans cette mauvaise direction, et l'erreur s'accumule jusqu'à ce qu'il soit irrémédiablement perdu. Ce document présente une nouvelle façon de faire réfléchir les robots : au lieu de simplement marcher aveuglément, ils apprennent à « rêver éveillés » de ce qui va se passer ensuite, vérifient si ce rêve correspond à leurs sensations actuelles et corrigent leur trajectoire avant même de faire un pas.

Le robot qui rêve éveillé pour éviter de se perdre

Découvrez SC2-WM, un nouveau cerveau de robot conçu pour naviguer dans ces mondes 3D complexes et continus. Les auteurs de ce document ont remarqué que la plupart des robots sont comme des étudiants qui passent un examen sans vérifier leurs réponses. Ils lisent la consigne, font une supposition et bougent. S'ils se trompent, ils ne s'en rendent compte qu'au moment où ils percutent un mur ou restent coincés. Les chercheurs ont voulu donner au robot une « seconde paire d'yeux » qui vit à l'intérieur de sa propre tête.

Considérez SC2-WM comme un robot doté d'un super-pouvoir : la prévoyance. Avant que le robot ne déplace réellement ses jambes, il marque une pause et se demande : « Si je fais ce pas, à quoi ressemblera le monde dans une seconde ? ». Il crée un film mental du futur. C'est ce qu'on appelle un « Modèle de Monde » (World Model). C'est comme un joueur d'échecs qui ne se contente pas de déplacer une pièce ; il imagine le prochain coup de l'adversaire et l'état du plateau après celui-ci.

C'est ici que la magie opère. Le robot compare son « film mental » du futur avec sa réalité actuelle.

• La correction au niveau de l'état (State-Level) : Imaginez que vous marchez et que vous rêvez éveillé que vous devriez voir une cuisine, mais que vos yeux vous disent que vous êtes toujours dans une chambre. Votre cerveau dit : « Attendez, quelque chose ne va pas ! ». SC2-WM fait exactement cela. Il remarque le décalage entre sa prédiction et son état actuel. Il ajuste ensuite doucement sa carte interne pour corriger l'erreur avant de faire le pas. C'est comme un GPS qui réalise que vous avez manqué un virage et qui recalcule instantanément l'itinéraire avant que vous ne descendiez dans la mauvaise rue.
• La correction au niveau du modèle (Model-Level) : Parfois, la capacité de rêve du robot n'est pas assez bonne pour une nouvelle pièce étrange qu'il n'a jamais vue auparavant. Peut-être que les murs sont d'une couleur différente, ou que les meubles sont disposés de manière inhabituelle. Dans ces cas-là, le robot réalise : « Ma carte interne est obsolète ! ». Il déclenche alors un mode spécial d'« adaptation ». Il met rapidement à jour les règles de son propre cerveau pour mieux comprendre ce nouvel environnement spécifique. C'est comme un étudiant qui réalise que son guide d'étude est erroné pour ce test spécifique, et qui réécrit rapidement ses notes pour correspondre aux nouvelles questions.

Le document soutient que compter sur des récompenses externes (comme un humain disant « Bon travail ! » seulement à la toute fin) est trop lent et trop rare. Au lieu de cela, SC2-WM utilise un feedback interne. Il écoute son propre « pressentiment » (la différence entre ce qu'il attendait et ce qu'il voit) pour se corriger en temps réel.

Ce que les expériences ont montré

Les chercheurs ont testé ce robot « rêveur » dans deux mondes numériques majeurs : R2R-CE et RxR-CE. Ce sont des environnements 3D complexes remplis de meubles, de couloirs et d'instructions difficiles. Ils ont comparé SC2-WM à d'autres robots de pointe qui ne possèdent pas cette capacité d'autocorrection.

Les résultats ont été très prometteurs. Dans le jeu de données R2R-CE, lorsque le robot devait naviguer dans des pièces inconnues (comme une nouvelle maison qu'il n'avait jamais visitée), SC2-WM a amélioré son Taux de Succès (SR) de 7,1 % et son Succès pondéré par la longueur du chemin (SPL) de près de 7,8 % par rapport à la meilleure méthode précédente. Il a également parcouru des chemins plus courts, faisant en moyenne 5 mètres de moins que les autres, ce qui signifie qu'il errait moins.

Dans le jeu de données RxR-CE, encore plus difficile, qui comporte des instructions plus longues et plus complexes, le robot a amélioré son taux de succès de 9,1 % et l'efficacité de son parcours de 7,1 %. Les chercheurs ont également testé le robot sur un véritable robot physique, un Unitree GO2 quadrupède (un robot à quatre pattes semblable à un chien) équipé d'une caméra. Dans le monde réel, SC2-WM a atteint un taux de succès de 85 %, dépassant les 70 % du robot standard. Cela suggère que l'astuce du « rêve éveillé » fonctionne non seulement dans les simulations informatiques, mais aussi dans les pièces réelles et désordonnées.

Pourquoi cela importe

Le document suggère qu'en donnant aux robots la capacité de vérifier leurs propres prédictions internes, nous pouvons les rendre beaucoup plus fiables. Au lieu d'être des machines rigides qui suivent un script et échouent dès que les choses dévient légèrement, SC2-WM agit comme un explorateur prudent qui vérifie constamment sa boussole. Il n'a pas besoin qu'un humain lui dise qu'il a tort ; il le comprend en réalisant que son « rêve » ne correspond pas à la réalité.

Les auteurs précisent avec prudence qu'il ne s'agit pas d'une solution miracle qui résout tout instantanément. Ils ont découvert que le robot fonctionne mieux lorsqu'il possède une bonne mémoire des étapes récentes (environ 4 étapes en arrière) et lorsqu'il ne met à jour les règles de son cerveau que lorsque c'est vraiment nécessaire. Ils soulignent également que, bien que certaines autres méthodes utilisent des modèles d'IA massifs et lourds, SC2-WM est « léger » et fonctionne efficacement sur une seule carte graphique. Cela signifie qu'il pourrait éventuellement être installé sur de petits robots réels qui doivent naviguer dans nos maisons sans avoir besoin d'un supercalculateur dans le cloud.

En résumé, SC2-WM apprend aux robots à être un peu plus conscients d'eux-mêmes. En leur permettant de « penser à l'avance » et de corriger leurs propres erreurs avant qu'elles ne surviennent, nous pourrons enfin obtenir des robots capables de naviguer dans notre monde complexe et désordonné sans se perdre au premier couloir.