Résumé Technique : Ω-QVLA

Énoncé du Problème

Les modèles Vision-Language-Action (VLA) intègrent la perception, le raisonnement et le contrôle dans une seule politique, utilisant typiquement un socle de grand modèle de langage (LLM) et une tête d'action basée sur la diffusion (DiT). Bien que prometteurs pour le contrôle de robots généralistes, ces modèles sont prohibitivement coûteux à déployer sur appareil en raison de leurs milliards de paramètres et de leurs exigences en mémoire.

Les efforts existants de quantification post-entraînement (PTQ) ont échoué à fournir une solution complète pour les modèles VLA. Les travaux antérieurs compressent généralement le socle LLM tout en laissant la tête d'action DiT en pleine précision (FP16) ou emploient des schémas de précision mixte. Cette hésitation découle de la croyance que la tête d'action DiT est intrinsèquement trop sensible à la quantification uniforme à faible nombre de bits. Contrairement à la génération de langage, où les erreurs de quantification peuvent être imperceptibles, les erreurs dans la tête d'action produisent des signaux de contrôle continus qui interfèrent directement avec les actionneurs physiques. Dans un contexte en boucle fermée, les perturbations induites par la quantification sont amplifiées par les forces de contact et la dynamique physique, entraînant une propagation cumulative des erreurs et un échec de la tâche. Par conséquent, aucune méthode antérieure n'a réussi à quantifier la tête d'action DiT complète d'un modèle VLA vers une précision uniforme à faible nombre de bits.

Méthodologie : Ω-QVLA

Les auteurs proposent Ω-QVLA, le premier cadre de PTQ sans réentraînement capable de compresser à la fois le socle de langage et l'intégralité de la tête d'action DiT d'un modèle VLA vers une précision uniforme W4A4 (poids 4 bits, activations 4 bits). Le cadre élimine le besoin d'allocation de précision mixte grâce à deux innovations fondamentales :

1. Rotation Composite SVD·Hadamard

Pour résoudre le déséquilibre énergétique au niveau des canaux et les valeurs aberrantes d'activation, les auteurs introduisent une stratégie de rotation à deux niveaux appliquée avant la quantification :

• Rotation SVD : Une décomposition en valeurs singulières (SVD) est calculée sur la matrice de poids $W = U\Sigma V^\top$. La matrice de rotation $R_{SVD} = U$ est appliquée pour égaliser l'énergie ligne par ligne des poids. Cela transforme l'espace des poids de telle sorte que l'énergie de chaque ligne soit directement contrôlée par le spectre singulier, éliminant la concentration d'énergie induite par les coordonnées.
• Rotation Hadamard : Puisque la rotation SVD est dérivée uniquement des poids, elle ne garantit pas l'uniformité dans l'espace des activations. Pour y remédier, les auteurs composent la rotation SVD avec une matrice Hadamard normalisée $H$. La rotation composite $R = R_{SVD} \cdot H$ agit comme une matrice de mélange uniforme qui redistribue l'énergie de tout canal dominant uniformément sur tous les canaux de sortie.
• Implémentation par Blocs : Pour éviter la surcharge computationnelle et mémoire d'une matrice de rotation dense $C_{in} \times C_{in}$, la méthode approxime la rotation par blocs. Les canaux sont réordonnés via une permutation en zigzag basée sur les normes des colonnes de poids afin de s'assurer que les canaux à forte norme et à faible norme sont distribués uniformément à travers les blocs, empêchant la concentration de valeurs aberrantes au sein d'une seule partition.

2. Mise à l'Échelle des Activations DiT par Étape

La mise à l'échelle statique standard est sous-optimale pour les modèles DiT car les magnitudes des activations fluctuent considérablement au cours du processus de débruitage multi-étapes.

• Dérive de la Plage Dynamique : Les auteurs observent que les statistiques d'activation dérivent au cours des étapes de débruitage, en particulier dans les couches recevant des entrées conditionnées par le temps (par exemple, les projections QKV suivant AdaLayerNorm).
• Calibration par Étape : Au lieu d'une échelle statique unique, Ω-QVLA emploie une table d'échelle précalculée, spécifique à chaque étape, chaque couche et chaque canal. Cette table est dérivée de trajectoires de calibration et récupérée lors de l'inférence pour absorber la dérive de la plage dynamique. Cela permet au quantificateur de s'adapter aux plages d'activation changeantes à chaque instant spécifique.

Contributions Clés

1. Quantification Unifiée W4A4 : Ω-QVLA est le premier cadre sans réentraînement à quantifier uniformément toute la pile VLA (socle LLM + tête d'action DiT) en W4A4, remettant en question l'hypothèse selon laquelle la tête d'action ne peut survivre à une quantification uniforme à faible nombre de bits.
2. Mécanisme de Rotation Composite : L'introduction d'une rotation composite SVD·Hadamard qui égalise simultanément l'énergie des poids par canal et diffuse les valeurs aberrantes résiduelles d'activation, répondant aux limites de l'utilisation des transformations SVD ou Hadamard isolément.
3. Calibration par Étape : Le développement d'un mécanisme de mise à l'échelle des activations par étape spécifiquement pour les modèles DiT afin de gérer la dérive de la plage dynamique dépendante de l'instant, ce qui est crucial pour maintenir la stabilité dans les processus itératifs de débruitage.

Résultats Expérimentaux

Le cadre a été évalué sur le benchmark LIBERO en utilisant deux politiques VLA de l'état de l'art : Pi 0.5 et GR00T N1.5.

• Performance en Simulation :

  • Pi 0.5 : A atteint un taux de réussite moyen des tâches de 98,0 % sous quantification W4A4, dépassant légèrement sa référence FP16 (97,1 %).
  • GR00T N1.5 : A atteint un taux de réussite moyen de 87,8 %, égalant sa référence FP16 (87,0 %).
  • Comparaison : Ces résultats surpassent nettement les bases de quantification complète W4A4 antérieures (par exemple, SmoothQuant, DuQuant, QuantVLA), qui échouaient souvent à maintenir les performances lors de la quantification des couches d'attention DiT. Par exemple, sur Pi 0.5, QuantVLA n'a atteint que 82,0 % de réussite, tandis qu'Ω-QVLA a atteint 98,0 %.
  • Efficacité Mémoire : Le cadre a réduit l'empreinte mémoire statique de 71,3 % par rapport au FP16, avec une surcharge de métadonnées négligeable (~90 Mo pour Pi 0.5).

• Manipulation en Monde Réel :

  • Des expériences ont été menées sur une plateforme ARX R5 à deux bras avec cinq tâches de manipulation bimanuelle (par exemple, Prendre une Coupe, Plier une Serviette).
  • Performance : Ω-QVLA a atteint un score de progression moyen de 51,0, surpassant la base FP16 (49,6). En revanche, la base QuantVLA s'est effondrée à 25,0.
  • Analyse Qualitative : Les tests en monde réel ont confirmé qu'Ω-QVLA produit des trajectoires de manipulation fluides et précises. Les méthodes de base présentaient des mouvements saccadés de l'effecteur terminal et des pics fréquents dans les dimensions d'action, entraînant des échecs de tâche sur de longues horizons.

Importance et Revendications

L'article revendique qu'Ω-QVLA renverse la croyance prévalente selon laquelle la tête d'action DiT est trop sensible pour être quantifiée uniformément. En s'attaquant directement aux sources d'instabilité — le déséquilibre énergétique au niveau des canaux et la dérive de la plage dynamique par étape de débruitage — les auteurs démontrent qu'une précision unifiée W4A4 est suffisante pour un déploiement VLA haute performance.

Les auteurs soulignent que leur approche ne nécessite aucun réentraînement et élimine la complexité de l'allocation de précision mixte. Les résultats suggèrent qu'une compression VLA efficace nécessite une optimisation holistique et consciente de l'action plutôt que le transfert direct de techniques de quantification centrées sur le langage. Bien que l'évaluation actuelle soit limitée aux socles basés sur DiT et à des benchmarks spécifiques, ce travail établit une nouvelle référence pour le contrôle de robots sur appareil, permettant le déploiement de politiques VLA à grande échelle sur du matériel avec des contraintes strictes de mémoire et de latence.