🤖 AI

CoTinyVLA: Chain-of-Thought Distillation for a Sub-Billion-Parameter Vision-Language-Action Model

CoTinyVLA est un modèle Vision-Langage-Action de moins d'un milliard de paramètres qui atteint une robustesse de pointe sur le benchmark LIBERO-Plus en exploitant des techniques de supervision structurées — incluant des entrées temporelles à double vue, la distillation hiérarchique de chaîne de pensée et l'augmentation par paraphrase — plutôt qu'en augmentant la taille du modèle.

Auteurs originaux : Minhyeok Lee, Chiyoung Kim, Chanhoe Gu, Seongrok Kim, Sanghyuk Roy Choi, Donghwan Hwang, Donghun Ryu, Seokhyun Kim

Publié 2026-07-29

📖 8 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Minhyeok Lee, Chiyoung Kim, Chanhoe Gu, Seongrok Kim, Sanghyuk Roy Choi, Donghwan Hwang, Donghun Ryu, Seokhyun Kim

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez un monde où les robots ne sont pas de simples machines sans âme suivant un code rigide, mais des compagnons utiles qui comprennent nos paroles et peuvent comprendre comment bouger leurs propres bras pour accomplir des tâches. C'est le rêve de l'« IA incarnée » (embodied AI), un domaine où les ordinateurs apprennent à voir le monde grâce à des caméras, à comprendre le langage humain et à traduire ces deux éléments en actions physiques. Pendant longtemps, les robots les plus intelligents avaient besoin de cerveaux massifs — des modèles informatiques avec des milliards de « neurones » — pour gérer cela. Ces modèles géants étaient comme des superordinateurs nécessitant de gros serveurs coûteux pour fonctionner, ce qui les rendait impossibles à intégrer dans un petit robot capable de rouler dans une maison ou d'aider dans une cuisine. La grande question que les chercheurs se sont posée est la suivante : pouvons-nous fabriquer un robot qui soit tout aussi intelligent et fiable, mais assez petit pour tenir dans un sac à dos ?

Ce document présente un nouveau cerveau robotique appelé CoTinyVLA. Considérez-le comme un cerveau de robot minuscule et super efficace qui parvient à surpasser les modèles massifs et lourds qui dominent actuellement le domaine, tout en utilisant une fraction de la mémoire. Les chercheurs n'ont pas seulement rétréci le cerveau ; ils lui ont appris une meilleure façon de penser. Au lieu d'essayer de mémoriser chaque situation possible, ils lui ont donné une « feuille de triche » pour le raisonnement. Ils lui ont appris à décomposer une tâche importante en un plan simple (comme une liste de tâches) puis à réfléchir à chaque petite étape avant de bouge. Ils lui ont également donné une paire d'yeux spéciale — l'un regardant de loin pour voir toute la pièce et l'autre sur son poignet pour voir exactement ce que sa main touche — et lui ont appris à regarder une courte vidéo des dernières secondes pour comprendre le mouvement. Le résultat est un modèle de robot de seulement 0,9 milliard de paramètres (minuscule comparé aux géants de 7 milliards) qui peut gérer des situations réelles complexes et désordonnées mieux que des modèles huit fois plus grands.

Le Problème : Gros Cerveaux, Petits Robots

Pendant des années, les meilleurs robots pour suivre des instructions ont été comme de gros chars d'assaut lourds. Pour comprendre une commande comme « ramasse la tasse bleue et pose-la sur la table », ces robots utilisent des modèles informatiques massifs de 3 à 7 milliards de paramètres. Bien que ces modèles soient incroyablement intelligents, ils sont aussi énormes. Ils nécessitent environ 20 gigaoctets de mémoire informatique rien que pour fonctionner. C'est comme essayer de faire tenir une bibliothèque entière dans un sac à dos ; cela ne rentre tout simplement pas dans les petits ordinateurs alimentés par batterie que l'on trouve sur les robots mobiles ou les dispositifs d'assistance.

Les chercheurs voulaient savoir : avons-nous vraiment besoin d'un cerveau aussi géant pour être intelligent ? Ou pouvons-nous construire un robot minuscule et efficace qui soit tout aussi bon pour gérer l'imprévisibilité désordonnée du monde réel ?

La Solution : Un Petit Cerveau avec une Grande Stratégie

L'équipe a construit CoTinyVLA, un cerveau de robot de seulement 0,9 milliard de paramètres. Pour rendre ce modèle minuscule aussi fort que les géants, ils n'ont pas seulement injecté plus de données ; ils ont changé sa façon d'apprendre et ce à quoi il prêtait attention. Ils ont utilisé trois astuces principales, qu'ils appellent « supervision structurée », pour apprendre au robot à mieux penser.

1. La Machine à Remonter le Temps aux « Deux Yeux »
Imaginez essayer d'attraper une balle. Si vous ne voyez qu'une seule image de la balle, vous ne savez pas si elle vient vers vous ou si elle s'éloigne. Vous avez besoin de voir une courte vidéo pour comprendre le mouvement.
CoTinyVLA est enseigné pour regarder le monde à travers deux « yeux » différents en même temps :

L'Œil à la Troisième Personne : Une caméra regardant toute la pièce pour voir où se trouvent les choses.
L'Œil du Poignet : Une caméra sur la main du robot pour voir exactement ce que le préhenseur touche.
Au lieu de simplement regarder l'instant présent, le robot regarde un court « film » des 16 dernières images (8 de chaque œil). Cela lui donne un sens du temps et du mouvement, l'aidant à comprendre à quelle vitesse les choses bougent et où elles vont.

2. La Feuille de Triche « Planifier et Penser »
C'est l'astuce la plus importante. Avant que le robot ne bouge, on lui apprend à écrire une histoire.

Le Plan : Au début d'une tâche, le robot écrit une liste de tâches de haut niveau (ex : « D'abord, attrape la tasse. Ensuite, lève-la. Enfin, pose-la sur la table »). Ce plan reste le même pour toute la tâche.
La Pensée : Avant chaque petit mouvement, le robot écrit une note rapide sur ce qu'il est en train de faire (ex : « Je ferme mon préhenseur » ou « Je lève la tasse »).
Le robot apprend cela en regardant un robot beaucoup plus grand et plus intelligent (un « enseignant » de 35 milliards de paramètres) résoudre les mêmes tâches. Le petit robot copie le processus de pensée de l'enseignant. Cela aide le petit robot à comprendre pourquoi il fait quelque chose, et pas seulement ce qu'il doit faire.

3. Le Jeu de la « Paraphrase »
Les robots se confondent souvent si vous dites la même chose d'une manière différente. Si un robot est entraîné uniquement sur la phrase « ramasse la tasse », il pourrait rester bloqué si vous dites « attrape le mug ».
Pour corriger cela, les chercheurs ont enseigné au robot avec 40 instructions de base, mais les ont développées en 800 versions différentes. Ils ont remplacé les mots (comme changer « ramasser » par « attraper » ou « lever »), modifié les descriptions des objets (comme « bol noir » à « bol sombre »), et ont même ajouté des formules de politesse comme « Pourriez-vous s'il vous plaît... ». Cela a appris au robot à comprendre le sens de la commande, et pas seulement les mots spécifiques.

Les Résultats : Le Petit Gagne Gros

Les chercheurs ont testé CoTinyVLA sur LIBERO-Plus, une suite de tests difficile conçue pour voir comment les robots gèrent les changements dans le monde. Ce test comprend plus de 10 000 scénarios différents où les choses sont déréglées : le robot commence dans une position étrange, l'éclairage change, l'arrière-plan est différent, ou les instructions sont formulées bizarrement.

Les résultats ont été surprenants. CoTinyVLA, avec ses minuscules 0,9 milliard de paramètres, a battu les modèles les plus puissants de 7 milliards de paramètres dans les quatre catégories majeures de tests :

Spatial : 90,8 % de réussite (battant les gros modèles de 4,7 points).
Objet : 87,3 % de réussite (battant les gros modèles de 2,8 points).
But (Goal) : 86,6 % de réussite (battant les gros modèles de 15,9 points).
Long : 80,7 % de réussite (battant les gros modèles de 3,0 points).

La plus grande victoire a été dans la catégorie « But », où le petit robot était presque 16 points meilleur que le meilleur robot géant. C'est particerment impressionnant car le petit robot fonctionne sur un ordinateur qui utilise seulement 2,25 GiB de mémoire, ce qui est assez petit pour tenir sur de nombreux robots du monde réel.

Pourquoi cela compte

Ce document montre que vous n'avez pas besoin d'un cerveau massif pour avoir un robot intelligent. En apprenant à un petit robot à « penser » de manière structurée (en établissant des plans et en vérifiant ses étapes) et en lui donnant le bon type d'entraînement visuel et linguistique, il peut gérer le monde réel complexe et imprévisible mieux que des modèles beaucoup plus grands.

Les chercheurs ont également découvert que la partie « Plan » du processus de pensée est cruciale. Si l'on retire au robot sa capacité à rédiger un plan, son taux de réussite chute de 40 à 45 points. Cela prouve que le robot ne fait pas que deviner ; il utilise réellement le plan pour guider ses actions.

En bref, CoTinyVLA prouve qu'avec les bonnes méthodes d'enseignement, un robot petit et efficace peut être tout aussi capable qu'un immense superordinateur, nous rapprochant ainsi d'avoir des robots intelligents et utiles dans nos maisons et nos lieux de travail.

Résumé Technique : CoTinyVLA

Énoncé du Problème

Les modèles de Vision-Langage-Action (VLA) sont apparus comme une interface unifiée pour traduire le langage naturel en contrôle robotique. Cependant, les systèmes de pointe atteignant une grande robustesse sur le benchmark LIBERO-Plus reposent généralement sur des architectures dont les noyaux (backbones) possèdent de 3 à 7 milliards de paramètres. Ces modèles exigent des ressources mémoire considérables (dépassant souvent 20 GiB en bfloat16), ce qui les rend incompatibles avec les budgets mémoire stricts des plateformes robotiques embarquées, telles que les manipulateurs mobiles et les humanoïdes.

Le défi central abordé par ce travail est de déterminer si un modèle compact (moins d'un milliard de paramètres) peut atteindre le même niveau de robustesse que les systèmes plus larges. Plus précisément, les auteurs cherchent à savoir si une supervision structurée — plutôt que la simple échelle — peut fournir la robustesse nécessaire face aux perturbations visuelles, cinématiques et linguistiques.

Méthodologie : CoTinyVLA

Les auteurs présentent CoTinyVLA, un VLA de 0,9 milliard de paramètres basé sur un noyau Qwen3.5-0.8B. Le modèle atteint sa robustesse grâce à trois composantes distinctes, chacune ciblant un axe spécifique du problème de robustesse :

1. Entrée Temporelle à Double Vue

Au lieu d'une image statique unique, le modèle reçoit un historique temporel à chaque étape de contrôle :

Entrées : Huit images en vue tierce et huit images de la caméra du poignet (16 au total), préfixées par des marqueurs textuels explicites (ex. : [Third frame i]).
Proprioception : Un vecteur de dimension 8 (pose de l'effecteur terminal + articulations de la pince) projeté sous forme de jeton (token) souple.
Raisonnement : Cela fournit un contexte temporel et multi-vues explicite, permettant au noyau compact d'inférer le mouvement, la vitesse d'approche et le contact objet-pince sans dépendre d'embeddings positionnels implicites.

2. Distillation de Chaîne de Pensée (CoT) Hiérarchique

Un enseignant de vision-langage de 35 milliards de paramètres (Qwen3.5-35B) génère des traces de raisonnement structurées pour un étudiant de 0,9 milliard. Le raisonnement est divisé en deux niveaux :

Plan au niveau de l'épisode : Généré une seule fois par épisode, décomposant l'instruction en une liste ordonnée de sous-objectifs en langage naturel.
Pensée au niveau du bloc (Chunk-Level Think) : Générée pour chaque bloc d'action, contrainte à un schéma fixe à trois emplacements :
- Phase : Étape de la sous-action actuelle (alignée avec le Plan).
- Gripper (Pince) : État discret (OPEN, CLOSED, PARTIALLY_CLOSED), dérivé de la proprioception pour éviter l'ambiguïté visuelle.
- Next (Suivant) : Description courte de l'action immédiate.
Objectif d'entraînement : Une somme pondérée de la perte de régression d'action et de l'entropie croisée du modèle de langage ( $\alpha=1.0, \beta=0.1$ ). L'étendue du raisonnement agit comme un objectif de prédiction structuré auxiliaire qui conditionne la tête d'action sans ajouter de paramètres lors de l'inférence.

3. Augmentation d'Instructions par Paraphrase

Pour éviter le surapprentissage (overfitting) sur les 40 instructions de base de l'ensemble d'entraînement :

Expansion : Chaque instruction de base est étendue en 20 paraphrases (800 variantes au total) via la substitution de verbes, le remplacement de synonymes d'objets et la variation de la politesse.
Stratégie d'entraînement : Pendant l'entraînement, l'instruction est remplacée par une paraphrase avec une probabilité de 0,8. Cela cible spécifiquement la robustesse face à l'axe de perturbation des Instructions Linguistiques.

Principales Contributions

Performance à Échelle Compacte : CoTinyVLA (0,9B) dépasse les bases de référence les plus fortes de 7B sur les quatre suites LIBERO-Plus (Spatial, Object, Goal, Long) avec des marges allant de 2,8 à 15,9 points, tout en opérant dans une empreinte mémoire d'inférence de 2,25 GiB.
Schéma de Raisonnement à Deux Niveaux : Les auteurs démontent que le Plan au niveau de l'épisode est "porteur de charge" (load-bearing). Des interventions lors des tests montrent que remplacer le Plan par un espace vide ou contradictoire provoque une chute de succès de 40 à 45 points. De plus, mettre en cache le Plan sur un épisode réduit de moitié le coût d'inférence en régime permanent.
Décomposition de la Robustesse : À travers des ablations contrôlées, l'article attribue des composantes spécifiques à des axes de perturbation précis :
- Augmentation par Paraphrase : Améliore principalement la robustesse à la variation linguistique (+12,3 points sur l'axe des Instructions Linguistiques).
- CoT Hiérarchique : Aide principalement aux perturbations de l'état physique (États Initiaux du Robot, Disposition des Objets).
- Structure d'Entrée : L'allocation d'un budget d'images fixe entre les caméras et le temps est une variable de conception qui vaut 8,6 points en score total.

Résultats Expérimentaux

Le modèle a été évalué sur LIBERO-Plus, qui perturbe 40 tâches de base à travers sept dimensions (Caméra, États Initiaux du Robot, Langage, Lumière, Arrière-plan, Bruit, Disposition) avec un total de 10 030 tâches perturbées.

Performance Globale : CoTinyVLA atteint 90,8 % (Spatial), 87,3 % (Object), 86,6 % (Goal) et 80,7 % (Long).
Comparaison avec les bases de référence 7B : Il mène la base de référence 7B la plus forte (OpenVLA-OFT+) de respectivement 4,7, 2,8, 15,9 et 3,0 points. Crucialement, les intervalles de confiance de ces différences excluent zéro.
Axes Difficiles : Le modèle montre ses plus grands gains là où les bases de référence sont les plus faibles. Sur la suite Goal, la base de référence la plus forte ne score que 39,9 % sur les États Initiaux du Robot, tandis que CoTinyVLA atteint 73,6 %.
LIBERO Standard : Sur le benchmark non perturbé, CoTinyVLA affiche une moyenne de 97,5 %, égalant la base de référence 7B la plus forte (RIPT-VLA) et surpassant les autres modèles de moins d'un milliard de paramètres.
Efficacité d'Inférence : L'inférence en boucle fermée culmine à 2,25 GiB de mémoire GPU. Le coût dominant est la génération autorégressive (76 % du temps en régime permanent), qui peut être divisé par deux en mettant en cache le Plan de l'épisode.

Signification et Revendications

L'article affirme que la robustesse habituellement attribuée aux noyaux de 3 à 7 milliards de paramètres ne nécessite pas ces derniers. Au lieu de cela, structurer la supervision le long des axes que le benchmark perturbe est suffisant pour surpasser des systèmes plus larges.

Leviers de Conception : Ce travail établit que la structure d'entrée (comment les images sont réparties entre les caméras et le temps) et la hiérarchie du raisonnement sont des variables de conception indépendantes qui peuvent être optimisées pour les modèles compacts.
Limites : Les auteurs notent que l'évaluation est limitée à la simulation (Franka Panda) et à un seul embodiment. Le transfert sim-to-real et la performance sur des horizons plus longs (où le score de la suite Long est le plus bas à 80,7 %) restent des défis. De plus, la méthode repose sur un enseignant puissant de 35B pour la distillation, et l'équivalence sémantique des paraphrases générées n'a pas été vérifiée de manière exhaustive au-delà des statistiques lexicales.

En conclusion, CoTinyVLA démontre qu'un modèle de 0,9B peut surpasser des systèmes huit fois plus grands sur l'ensemble des quatre suites de robustesse, à condition que le signal d'entraînement soit structuré pour traiter explicitement les variations temporelles, de raisonnement et linguistiques.