🤖 AI

Finetuning Vision-Language-Action Models Requires Fewer Layers Than You Think

Cet article présente un pipeline de compression structurelle sans entraînement qui identifie et supprime les couches redondantes dans les modèles Vision-Langage-Action, atteignant jusqu'à 50 % de réduction de profondeur et une accélération significative de l'entraînement et de l'inférence tout en maintenant ou en améliorant les performances à travers diverses tâches robotiques.

Auteurs originaux : Gia-Binh Nguyen, Trong-Bao Ho, Thien-Loc Ha, Khoa Vo, Philip Lund Møller, Quang T. Nguyen, Long Dinh, Tuan Dam, Vu Duong, Tung M. Luu, Trung Le, Tran Nguyen Le, Minh Vu, An Thai Le, Ngan Le, Daniel So

Publié 2026-06-19

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Gia-Binh Nguyen, Trong-Bao Ho, Thien-Loc Ha, Khoa Vo, Philip Lund Møller, Quang T. Nguyen, Long Dinh, Tuan Dam, Vu Duong, Tung M. Luu, Trung Le, Tran Nguyen Le, Minh Vu, An Thai Le, Ngan Le, Daniel Sonntag, James Zou, Jan Peters, Duy M. H. Nguyen, Ngo Anh Vien

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous possédez un cerveau de robot surpuissant et gigantesque. Ce cerveau est un modèle « Vision-Langage-Action » (VLA). Il peut voir le monde, comprendre vos instructions vocales et déterminer exactement comment bouger ses bras pour accomplir des tâches comme plier un vêtement ou ramasser une tasse.

Le problème, c'est que ces cerveaux sont gigantesques. Ils sont si volumineux que leur entraînement nécessite des jours de temps de calcul sur des superordinateurs, et les faire fonctionner en temps réel revient à essayer de conduire une Ferrari dans un marché bondé : c'est lent, coûteux et cela demande énormément de carburant (puissance de calcul).

Les auteurs de cet article se sont posé une question simple : « Avons-nous réellement besoin de tout ce cerveau ? »

La grande découverte : l'effet « Chambre d'écho »

Les chercheurs ont examiné ces cerveaux de robots géants et ont découvert quelque chose de surprenant. Ils ont découvert que ces cerveaux sont pleins de redondance.

Imaginez le cerveau comme une longue chaîne de montage de 50 ouvriers (couches).

L'ouvrier 1 regarde l'objet.
L'ouvrier 2 le regarde à nouveau et dit : « Oui, c'est une tasse. »
L'ouvrier 3 le regarde et dit : « Toujours une tasse. »
L'ouvrier 4 dit : « Définitivement une tasse. »

Les chercheurs ont découvert que sur de longues séquences de la chaîne de montage, les ouvriers ne font que répéter ce que l'ouvrier précédent a dit. Ils n'apportent rien de nouveau ; ils se contentent de faire écho à la même information. En termes techniques, ils ont constaté que des couches consécutives produisent des « pensées » (représentations) presque identiques.

La solution : les ciseaux « CKA »

Au lieu de garder les 50 ouvriers, l'équipe a inventé une méthode appelée CLP (Élagage de couches guidé par CKA).

Imaginez que vous avez des ciseaux intelligents capables d'écouter la chaîne de montage. Les ciseaux utilisent un outil appelé Alignement de Noyau Centré (CKA) pour mesurer à quel point deux ouvriers disent la même chose.

Si l'ouvrier 5 et l'ouvrier 6 disent exactement la même chose, les ciseaux les suppriment.
La ligne est reconnectée de sorte que l'ouvrier 4 transmette le message directement à l'ouvrier 7.

Crucialement, cela ne nécessite pas de réentraîner tout le cerveau à partir de zéro. C'est une « taille » unique effectuée avant que le robot n'apprenne une nouvelle tâche spécifique.

Les résultats : plus petits, plus rapides et plus intelligents

Après avoir éliminé le superflu, les résultats ont été impressionnants :

Le cerveau est devenu plus petit : Ils ont supprimé jusqu'à 50 % des couches. C'est comme transformer un gratte-ciel de 50 étages en un bâtiment de 25 étages, tout en restant aussi solide.
L'entraînement est devenu plus rapide : Comme le modèle est plus petit, lui apprendre une nouvelle tâche a pris 40 à 50 % de temps en moins. Si une tâche prenait auparavant 20 heures à apprendre, elle n'en prend plus que 10 environ.
Vitesse en temps réel : Le robot peut désormais réfléchir et bouger environ 30 % plus vite dans la vie réelle.
Meilleures performances dans certains cas : Étonnamment, dans les situations où le robot disposait de peu de données pour apprendre (comme ne voir une tâche que 100 fois), le cerveau plus petit était en fait plus performant que le cerveau géant.
- L'analogie : Pensez à l'étude pour un examen. Si vous avez un manuel énorme et confus (le grand modèle), vous risquez d'être submergé et de mémoriser les mauvaises choses (surapprentissage/overfitting). Si vous avez un résumé concis et clair (le modèle élagué), vous vous concentrez sur les faits les plus importants et réussissez mieux l'examen.

Où l'ont-ils testé ?

Ils n'ont pas testé cela uniquement dans une simulation informatique. Ils l'ont essayé sur :

Des robots virtuels : Dans des mondes de jeux vidéo comme LIBERO et RoboCasa.
Des robots réels : De véritables bras physiques (comme les robots UR10 et ALOHA) dans un laboratoire réel, effectuant des tâches comme plier des shorts, servir des serviettes et empiler des blocs.

L'essentiel à retenir

Cet article prouve que ces cerveaux de robots avancés sont « surdimensionnés ». Ils possèdent bien plus de couches qu'il n'en faut réellement pour accomplir la tâche. En utilisant une méthode simple, sans réentraînement, pour supprimer les couches répétitives, nous pouvons créer des robots plus faciles et moins coûteux à entraîner, plus rapides à exécuter, et tout aussi bons (voire meilleurs) dans leurs tâches.

En bref : Vous n'avez pas besoin d'un cerveau de 50 couches pour plier un t-shirt ; un cerveau rationalisé de 25 couches fait très bien l'affaire, et il le fait plus rapidement.

Résumé technique : Le réglage fin des modèles Vision-Langage-Action nécessite moins de couches que vous ne le pensez

Énoncé du problème

Les modèles Vision-Langage-Action (VLA), tels que $\pi_0$ et GR00T-N1.5, ont révolutionné la manipulation robotique en exploitant un pré-entraînement massif sur des jeux de données vidéo-robot pour générer des politiques de contrôle continu. Cependant, ces architectures de pointe (SOTA) s'étendent généralement sur des milliards de paramètres, créant de sévères goulots d'étranglement computationnels. Ces goulots d'étranglement se manifestent par des coûts matériels prohibitifs lors du réglage fin (fine-tuning) en aval, une latence opérationnelle élevée et une lourde surcharge de bande passante mémoire qui contraignent l'inférence en temps réel sur les périphériques (edge).

Les stratégies d'optimisation existantes font face à trois limitations critiques :

Portée étroite : De nombreuses méthodes ciblent d'anciens modèles autoregressifs basés sur des jetons textuels (ex. : OpenVLA) plutôt que les fondations modernes de contrôle continu.
Inefficacité de l'entraînement : Les méthodes sans entraînement (ex. : élagage de jetons, mise en cache) accélèrent souvent l'inférence mais ne parviennent pas à réduire le coût computationnel de la phase de réglage fin coûteuse en aval.
Complexité architecturale : Les méthodes adaptatives à l'entraînement (ex. : routage dynamique, sortie précoce) introduisent des modules auxiliaires et des objectifs d'entraînement complexes, modifiant la structure centrale du modèle et créant une friction avec les algorithmes d'apprentissage en aval.

La question centrale abordée est de savoir si des couches redondantes peuvent être supprimées avant le réglage fin sans sacrifier la performance de la politique.

Méthodologie : Élagueage de couches guidé par CKA (CLP)

Les auteurs proposent le CLP, un pipeline de compression structurelle qui est entièrement sans entraînement et ne nécessite aucun module de routage auxiliaire. L'idée centrale est que les backbones VLA modernes présentent une sévère redondance représentationnelle par couche, où des blocs transformateurs consécutifs produisent des représentations de jetons hautement corrélées.

Le cadre CLP fonctionne comme suit :

Diagnostic de la redondance : En utilisant un ensemble de calibration compact échantillonné à partir d'épisodes d'entraînement, la méthode effectue une passe avant unique pour extraire les représentations d'état caché.
Mesure de similitude : Elle emploie l'alignement de noyau centré (CKA - Centered Kernel Alignment) pour quantifier la similitude représentationnelle entre les couches adjacentes. Le CKA est choisi pour son invariance aux transformations orthogonales et à l'échelle isotrope, ce qui le rend robuste pour identifier les redondances structurelles.
Identification des couches : Des scores CKA élevés entre des couches consécutives indiquent une transformation de caractéristiques minimale. La méthode agrège les couches redondantes adjacentes en blocs contigus.
Élagage statique : Au sein de chaque bloc redondant, toutes les couches sauf la couche « ancre fonctionnelle » initiale sont définitivement supprimées. Ce processus est appliqué indépendamment au backbone du modèle Vision-Langage (VLM) et à la tête de politique de contrôle continu.
Adaptation en aval : Le modèle compressé résultant est ajusté sur la tâche cible en utilisant l'objectif d'entraînement natif. Aucune perte de distillation ou modification architecturale n'est requise.

Principales contributions

Adaptation accessible des SOTA VLA : L'article démontre que les fondations de contrôle continu de pointe ( $\pi_0$ , GR00T-N1.5) peuvent être ajustées avec une profondeur considérablement réduite, abaissant les coûts de mémoire, d'entraînement et d'inférence sans introduire de routage auxiliaire ou de modules de sortie précoce.
Compression du backbone avant réglage fin : L'introduction du CLP, un cadre simple basé sur la calibration qui identifie et supprime les blocs transformateurs de représentation redondants en utilisant le CKA avant l'adaptation en aval.
Validation multi-incarnation diversifiée : Évaluations approfondies à travers trois benchmarks de simulation (LIBERO, RoboCasa, SimplerEnv) et 10 tâches de manipulation en monde réel couvrant quatre incarnations robotiques (UR10, UR5, ALOHA à un bras, ALOHA bimanuelles).

Résultats expérimentaux

Les auteurs valident le CLP à travers des contextes de simulation et du monde réel, rapportant les conclusions clés suivantes :

Efficacité de la compression : Le CLP réduit la profondeur du modèle jusqu'à 50 % et les paramètres entraînables de 25 à 37 % à travers différents backbones ( $\pi_0$ $π_{0}$ , GR00T-N1.5, SmolVLA).
- Vitesse d'entraînement : Atteint une réduction de 40 à 50 % du temps d'entraînement (ex. : 1,94 $\times$ plus rapide sur les tâches réelles).
- Vitesse d'inférence : Délivre jusqu'à 30 % d'inférence en temps réel plus rapide.
- FLOPs : Réduit le coût computationnel jusqu'à 50 % (ex. : réduction de 49,3 % pour GR00T-N1.5).
Rétention de performance : Malgré un élagage important, l'architecture rationalisée égale ou dépasse les performances des modèles de base à pleine échelle.
- En simulation (LIBERO), le CLP maintient des taux de réussite compétitifs tout en réduisant les paramètres entraînables d'environ 30 %.
- Dans les déploiements réels, le CLP améliore les taux de réussite moyens (ex. : de 73,5 % à 75,9 % sur GR00T-N1.5) et surpasse les modèles complets sur des tâches spécifiques comme le service de serviette (+20 %) et le placement de tournevis (+15 %).
Effet de régularisation : Dans les régimes de données rares, la compression structurelle agit comme un régularisateur efficace. Par exemple, restreindre l'entraînement à 10 % des données de LIBERO a fait passer les taux de réussite de 77,7 % à 84,6 % avec le CLP, surpassant à la fois le baseline complet et les méthodes de routage dynamique comme MoLe-VLA.
Comparaison avec les baselines : Le CLP surpasse les méthodes d'élagage de jetons sans entraînement (qui ne réduisent pas les coûts de réglage fin) et les méthodes adaptatives à l'entraînement (qui ajoutent de la complexité) tant en termes d'efficacité que d'efficacité d'échantillonnage.

Signification et affirmations

L'article affirme que les VLA avancés nécessitent nettement moins de couches que ce qui était supposé précédemment. En révélant une « caractéristique architecturale hautement non triviale » de sévère redondance par couche, ce travail propose un paradigme hautement efficace en calcul pour l'apprentissage robotique à grande échelle.

Les auteurs soulignent que leur approche est « structurellement propre », évitant la friction du routage dynamique ou des pipelines de distillation. Ils soutiennent que la suppression des couches redondantes permet non seulement d'accélérer l'entraînement et l'inférence, mais agit également comme un régularisateur implicite, empêvant le surapprentissage dans les régimes à faibles données. Les conclusions suggèrent un changement de paradigme, s'éloignant de l'hypothèse selon laquelle des architectures VLA toujours plus croissantes sont nécessaires, pour pointer vers des politiques de fondation plus efficaces et durables qui peuvent être adaptées avec un overhead computationnel minimal.