CASD: Chunk-Aligned Semantic Distillation for Multi-StageRobot Manipulation

Les robots capables de manipuler des objets dans le monde réel sont confrontés à un problème fondamental de synchronisation. Lorsqu'un humain demande à un robot de « mettre le bol dans le tiroir et de le fermer », l'instruction semble être une commande unique, mais la réalité physique est une séquence de moments distincts : tendre le bras vers le bol, le saisir, le déplacer, le lâcher, et enfin pousser le tiroir pour le fermer. Les robots modernes tentent souvent de résoudre cela en prédisant un bloc de mouvements futurs d'un seul coup, une technique qui les aide à se déplacer de manière fluide sans s'arrêter pour réfléchir après chaque micro-mouvement. Cependant, cette approche crée un angle mort. Si un robot prédit un bloc de vingt actions, et que le milieu de ce bloc correspond précisément au moment où il passe du fait de tenir le bol au fait de le lâcher, le guide interne du robot pourrait encore lui dire de « tenir » car c'était l'instruction pour la première moitié du bloc. Il ne réalise pas que l'objectif a déjà changé pour devenir « lâcher », ce qui entraîne des tentatives maladroites ou ratées.

Pour résoudre ce problème, des chercheurs d'Ant Group ont développé une méthode appelée Chunk-Aligned Semantic Distillation (Distillation Sémantique Alignée sur les Blocs). L'idée centrale est d'apprendre au robot non seulement ce qu'il fait en ce moment, mais aussi exactement quelle part de son prochain bloc d'actions appartient à chaque partie de la tâche. Au lieu de forcer le robot à choisir un label unique comme « déplacer » ou « fermer » pour un bloc entier de temps, le système calcule un mélange pondéré. Si un bloc d'actions est composé aux trois quarts de « déplacement » et d'un quart de « relâchement », le robot apprend à se préparer à un mélange des deux. Cela permet au robot de passer d'une étape à l'autre de manière fluide, en anticipant le changement avant qu'il ne se produise, plutôt que d'y réagir après coup.

Les chercheurs ont construit ce système en utilisant un processus d'entraînement en deux étapes qui sépare la « réflexion » de l'« exécution ». D'abord, ils ont utilisé un puissant modèle de langage hors ligne pour regarder des vidéos enregistrées d'humains accomplissant des tâches. Ce modèle a agi comme un enseignant, décomposant chaque vidéo en une chronologie d'étapes distinctes, telles que « saisir », « transporter » et « lâcher ». Pour chaque instant de la vidéo, l'enseignant a calculé exactement le temps que le robot passerait dans chaque étape au cours du prochain bloc d'actions. Il a ensuite créé une cible sémantique — une description du mélange futur des étapes — qui servait de réponse correcte pour ce moment précis.

Ensuite, ils ont entraîné un programme informatique distinct, appelé générateur, pour prédire ce mélange futur en utilisant uniquement la vue actuelle de la caméra du robot, son propre état physique et l'instruction textuelle. Le générateur a appris à observer le présent et à deviner la composition de l'avenir immédiat. Une fois ce générateur entraîné, les chercheurs ont gelé ses paramètres afin qu'ils ne changent plus. Ils ont ensuite attaché ce générateur gelé à la politique principale du robot. Désormais, chaque fois que le robot doit décider quoi faire, le générateur fournit instantanément un jeton de contexte sémantique décrivant le mélange d'étapes à venir. Le robot utilise ce jeton pour guider ses mouvements, voyant ainsi la transition avant qu'elle ne survienne. Crucialement, tout ce processus se déroule sans que le robot ait besoin d'appeler un grand modèle de langage ou de générer du texte pendant qu'il travaille ; le gros du travail de compréhension de la structure de la tâche a été effectué en amont et stocké dans le générateur gelé.

L'équipe a testé cette approche sur plusieurs systèmes d'apprentissage robotique différents et sur une variété de tests de référence, incluant des tâches impliquant un seul bras, deux bras travaillant ensemble et des scénarios de navigation complexes. Dans les tests standards, la méthode a montré des améliorations claires. Lorsqu'elle est combinée à un type spécifique de « cerveau » de robot connu sous le nom de modèle conjoint (Joint model), le taux de réussite sur un ensemble de tâches de manipulation est passé à 98,9 %, contre 98,0 % pour le même modèle sans la nouvelle méthode. Sur un autre ensemble de tâches à deux mains, l'amélioration est encore plus prononcée, passant de 90,6 % à 93,0 %. Le système s'est également montré robuste lorsque l'environnement changeait, par exemple lorsque l'éclairage variait ou que le robot partait d'une position différente, maintenant des taux de réussite élevés là où d'autres méthodes échouaient.

Cependant, les résultats n'ont pas été une victoire universelle pour tous les types de cerveaux de robots. Lorsque les chercheurs ont appliqué la méthode à une variante différente du système, la performance a légèrement chuté. Cela suggère que le bénéfice de ce guidage sémantique dépend fortement de la façon dont le système sous-jacent du robot est construit ; pour certaines architectures, le contexte supplémentaire aide à affiner l'action, tandis que pour d'autres, il peut introduire un léger décalage.

Un exemple spécifique tiré des tests illustre la différence que fait cette méthode. Dans une tâche où un robot devait déplacer un bol noir dans un tiroir et le fermer, un modèle de robot standard n'a pas réussi à lâcher le bol à temps, le tenant bien après qu'il aurait dû le lâcher, et a fini par dépasser le temps imparti. Le robot équipé de la nouvelle méthode, partant de la même position exacte et utilisant les mêmes graines aléatoires, a reconnu le changement plus tôt. Il a commencé à lâcher le bol au moment précis de la transition, accomplissant la tâche avec succès. Le système n'avait pas besoin de « penser » à la poignée du tiroir pendant qu'il tenait encore le bol ; le jeton sémantique qu'il recevait lui indiquait que la phase de « relâchement » occupait déjà une partie significative de son avenir immédiat.

Les chercheurs soulignent que cette approche ne nécessite pas que le robot génère un plan étape par étape ou une liste de sous-objectifs pendant qu'il se déplace. Au lieu de cela, elle repose sur une représentation mathématique compressée de la structure de la tâche, qui est générée une seule fois par cycle de décision. Cela permet de maintenir le système rapide et efficace, évitant les délais qui accompagnent souvent les processus de raisonnement complexes. La méthode parvient à combler le fossé entre la description de haut niveau d'une tâche et le minutage de bas niveau des actions physiques, permettant aux robots de gérer des instructions multi-étapes avec une fluidité qui imite l'anticipation humaine. Bien que la technique ne soit pas une solution miracle pour toutes les configurations de robots possibles, elle offre un moyen concret d'améliorer la compréhension par les machines du flux temporel de leurs propres mouvements, transformant une séquence rigide de commandes en une performance dynamique et consciente du contexte.