Revisiting Parameter Redundancy in Vision-Language-Action Models: Insights from VLM-to-VLA Adaptation

Résumé Technique : Reconsidérer la Redondance des Paramètres dans les Modèles Vision-Langage-Action

Énoncé du Problème
Les modèles Vision-Langage-Action (VLA) ont fait progresser l'intelligence incarnée en adaptant les modèles de vision-langage (VLM) pré-entraînés à grande échelle aux tâches de contrôle robotique. Cependant, ces modèles héritent de dimensions de paramètres massives, créant des charges de calcul et de stockage importantes. Les efforts actuels d'optimisation de l'efficacité, particulièrement l'élagage (pruning) de paramètres, font face à un goulot d'étranglement critique : les modèles VLA présentent une sensibilité extrême à la suppression de paramètres. Un élagage même modéré entraîne souvent un « gouffre de performance » (performance cliff), nécessissant des mécanismes de récupération post-hoc comme le réglage fin supervisé (SFT) ou l'adaptation de bas rang (LoRA) pour restaurer la fonctionnalité.

Les auteurs contestent le paradigme d'ingénierie prédominant qui traite cette dégradation des performances comme un coût inévitable de l'élagage. Ils soutiennent que le recours généralisé à la récupération masque un problème fondamental : si un modèle élagué doit réapprendre à fonctionner, les paramètres supprimés étaient probablement non pas redondants, mais vitaux. Cela soulève la question de savoir si les critères d'élagage actuels suppriment indistinctement des paramètres critiques subissant une réorganisation fonctionnelle durant le processus d'adaptation du VLM vers le VLA.

Méthodologie
Le papier propose un cadre de diagnostic qui reformule l'élagage des VLA non pas comme un objectif d'optimisation, mais comme une intervention contrôlée pour analyser les rôles fonctionnels des paramètres. La méthodologie se compose de trois composantes centrales :

1. Quantification des Signaux d'Adaptation : Les auteurs définissent la divergence relative des paramètres ($\Delta W$) entre les poids du VLM pré-entraîné ($W^{VLM}$) et les poids du VLA adapté ($W^{VLA}$). Ils visualisent la distribution spatiale de cette divergence à travers différents modules (encodeurs de vision, backbones de langage et projecteurs cross-modaux) afin d'identifier des motifs structurés plutôt que du bruit aléatoire.
2. Élagage Contrôlé comme Sonde de Diagnostic : Pour établir un lien causal entre les signaux de divergence et l'importance fonctionnelle, les auteurs introduisent un protocole d'évaluation « sans récupération ». Ils appliquent l'élagage directement au modèle sans fine-tuning ultérieur. Ils comparent deux stratégies :
   • Élagage par plus grande différence : Supprimer les paramètres présentant la plus grande valeur de $|\Delta W|$.
   • Élagage par plus faible différence : Supprimer les paramètres présentant la plus petite valeur de $|\Delta W|$.
     En observant l'impact immédiat sur les taux de succès des tâches (SR), ils déterminent quels signaux de divergence sont corrélés à la redondance.
3. Schéma d'Élagage Conjoint Multi-Modules : Sur la base de la découverte que les signaux de redondance varient considérablement selon les modules (hétérogénéité modulaire), ils conçoivent une stratégie d'élagage différenciée. Ce schéma applique des règles d'élagage spécifiques aux encodeurs de vision, aux backbones de langage et aux projecteurs en fonction de leurs caractéristiques de divergence uniques, visant à réduire les paramètres sans déclencher d'effondrement de performance.

Contributions Clés

1. Cadre de Diagnostic : Les auteurs introduisent un nouveau cadre qui traite l'élagage comme une intervention contrôlée pour lier causalement la divergence induite par l'adaptation avec l'importance fonctionnelle des paramètres, découplant l'identification de la redondance de la récupération de performance.
2. Révélation du « Piège de la Récupération » : L'étude démontre que le recours prédominant à la récupération post-élagage dissimule la suppression indistincte de paramètres vitaux. Ils montrent que les signaux $\Delta W$ présentent une forte hétérogénéité modulaire, signifiant qu'une stratégie d'élagage uniforme est inefficace.
3. Stratégie d'Élagage Sans Récupération : Ils proposent un schéma d'élagage conjoint multi-modules qui exploite les signaux d'adaptation pour atteindre une compression significative (réduction de 12 % à 30 % des paramètres) tout en maintenant environ 90 % de la performance originale, entièrement sans fine-tuning ou compensation post-élagage.

Résultats Expérimentaux
L'approche a été évaluée sur le benchmark LIBERO en utilisant deux paires de modèles représentatives : OpenVLA (basé sur Prismatic/Llama-2) et $\pi0.5$ (basé sur PaLI-Gemma).

• Validation des Hypothèses :
  • Hypothèse I : Les expériences ont confirmé que les modèles nécessitant une récupération après élagage avaient probablement perdu des paramètres vitaux. Les modèles élagués selon des stratégies de « plus faible différence » (Lowest-diff) se sont effondrés immédiatement (ex: 0,0 % de SR) mais ont récupéré après un fine-tuning LoRA, prouvant que les paramètres supprimés n'étaient pas redondants.
  • Hypothèses II & III : L'utilité des signaux $\Delta W$ varie selon le module. Par exemple, dans le DINOv2 d'OpenVLA, l'élagage des têtes d'attention à plus grande différence a causé un effondrement, tandis que l'élagage des canaux FFN à plus faible différence a également causé un effondrement. Inversement, dans le module Projecteur, les deux stratégies ont mené à l'effondrement, indiquant qu'il s'agit d'un goulot d'étranglement fragile nécessitant une protection.
  • Hypothèse IV : Le schéma multi-module proposé a réussi à réduire les paramètres sans récupération.
• Métriques de Performance :
  • OpenVLA : La configuration « Moderate » a réduit les paramètres de 7,5B à 6,2B (12,4 Go de mémoire) tout en maintenant un taux de succès moyen de 62,3 % sur LIBERO, contre un échec catastrophique (1,0 % de SR) pour les méthodes de référence comme LLM-Pruner dans les mêmes conditions sans récupération.
  • $\pi0.5$ : La configuration « Moderate » a réduit la mémoire de 7,3 Go à 5,6 Go, maintenant un taux de succès moyen de 89,0 % (contre une base de 96,9 %), alors que les critères existants entraînaient un effondrement total des performances.

Signification et Revendications
Le papier affirme fournir une nouvelle voie pour le déploiement de politiques robotiques efficaces et robustes dans des environnements à ressources limitées. En déplaçant l'attention de « comment élaguer davantage et récupérer » vers « comment identifier la véritable redondance via les signaux d'adaptation », les auteurs démontrent que les modèles VLA contiennent une redondance structurée et significative qui peut être supprimée en toute sécurité sans mécanismes de récupération coûteux. L'étude suggère que la compréhension de l'évolution des paramètres, de la perception générale à l'action incarnée, est cruciale pour le déploiement efficace des VLA, offrant une alternative fondée sur des principes au paradigme actuel de « l'élagage puis de la récupération ».