Mix-QVLA: Task-Evidence-Aware Mixed-Precision Quantization of Vision-Language-Action Models

Résumé Technique : Mix-QVLA

Énoncé du Problème
Les modèles vision-langage-action (VLA) unifient la perception, le raisonnement linguistique et le contrôle robotique en une politique unique, permettant une manipulation conditionnée par le langage. Cependant, leurs exigences substantielles en mémoire et en calcul entravent leur déploiement sur des plateformes robotiques aux ressources limitées. Bien que la quantification post-entraînement (PTQ) à précision mixte et bas-bit offre une voie de compression, les méthodes de quantification VLA existantes souffrent d'une limitation critique : elles estiment principalement la sensibilité des couches en se basant sur l'écart de l'action finale.

Les auteurs soutiennent qu'un faible écart dans la commande de mouvement finale ne garantit pas que le modèle quantifié a préservé la « structure d'évidence » interne soutenant la décision de la politique en pleine précision. Inversement, un écart important ne révèle pas où le calcul a échoué. Les méthodes existantes ne parviennent pas à examiner si la quantification perturbe l'évidence pertinente à la tâche à travers les différentes étapes internes de la politique (par exemple, l'ancrage visuel, le raisonnement linguistique), ce qui peut conduire à un ancrage de tâche incorrect même si le mouvement résultant semble fluide.

Méthodologie
Le papier propose Mix-QVLA, un cadre de PTQ à précision mixte sensible à l'évidence de la tâche, conçu pour préserver le chemin de décision interne des modèles VLA. La méthodologie se déroule en trois étapes principales :

1. Sensibilité de l'Évidence de Tâche par Couche :

   • Décision de Référence : Le cadre ancre l'évaluation de la quantification à une séquence de jetons d'action ($y^*$) à pleine précision générée par le modèle en pleine précision ($\theta_{FP}$).
   • Analyse des Frontières : Il évalue la préservation de l'évidence à quatre frontières fonctionnelles : la sortie de l'encodeur de vision, la sortie du projecteur, la représentation de la politique linguistique et la représentation de la tête d'action.
   • Cartographie de l'Évidence : Pour chaque frontière, il calcule une carte d'évidence de tâche pondérée par le gradient ($E$) en combinant les activations de frontière normalisées avec les gradients de l'objectif de probabilité logarithmique imposé par l'enseignant (teacher-forced). Cela identifie les caractéristiques qui sont à la fois actives et influentes pour la décision de référence.
   • Mesure de la Distorsion : La méthode compare les cartes d'évidence pleine précision et quantifiées à l'aide de deux métriques :
     • Masse d'Évidence : La force totale de l'évidence soutenant la décision.
     • Distribution de l'Attribution : L'allocation spatiale de l'évidence à travers les jetons/canaux (mesurée via la divergence de Jensen–Shannon).
   • Agrégation : Ces distorsions sont agrégées en un score de sensibilité par couche à l'aide d'un objectif de « goulot d'étranglement doux » (soft-bottleneck), qui garantit qu'une frontière fortement dégradée influence significativement le score final sans être diluée par d'autres frontières.

2. Sensibilité de l'Évidence de Tâche Temporelle :

   • Reconnaissant que les politiques VLA se déploient sur des trajectoires, Mix-QVLA traite la sensibilité comme étant dépendante du temps. Il cartographie les échantillons de calibration au progrès de la trajectoire normalisé ($\rho \in [0, 1]$) et calcule des scores de sensibilité par phase.
   • Le score de sensibilité temporelle final pour une couche est dérivé de la dégradation maximale observée à travers n'importe quelle phase de la trajectoire, capturant les couches qui deviennent critiques uniquement lors de phases d'exécution spécifiques.

3. Allocation de Précision Mixte :

   • Le cadre formule l'allocation de bits comme un problème d'optimisation sous contraintes. Il minimise la dégradation combinée de l'évidence de la tâche et de la sensibilité temporelle sous réserve de budgets de taille de modèle et de BitOps.
   • Une variable d'assignation binaire détermine la largeur de bits pour chaque couche, résolue via un solveur de type branch-and-bound. L'allocation résultante est fixée après la calibration et appliquée lors de l'inférence.

Principales Contributions

• Cadre Mix-QVLA : Un nouveau cadre PTQ qui estime la sensibilité des couches en se basant sur la préservation de l'évidence pertinente à la tâche à travers les frontières fonctionnelles et les étapes temporelles, plutôt que de se fier uniquement à l'écart de l'action finale.
• Analyse de l'Évidence de Tâche au Niveau des Frontières : Une approche de diagnostic qui mesure comment la quantification perturbe le chemin de décision interne du VLA, fournissant des estimations de sensibilité par couche qui distinguent la perte de masse d'évidence de la redistribution de l'attribution.
• Analyse de Sensibilité Sensible au Temps : Un mécanisme qui capture l'importance dépendante de la phase, distinguant les couches qui sont systématiquement fragiles de celles qui sont sensibles uniquement lors de phases d'exécution spécifiques.
• Validation Empirique : Évaluation approfondie sur des politiques de type OpenVLA démontrant une meilleure estimation de la sensibilité et de meilleurs compromis précision-efficacité par rapport aux critères de quantification basés uniquement sur l'action.

Résultats Expérimentaux
Les auteurs ont évalué Mix-QVLA sur le benchmark LIBERO en utilisant les politiques OpenVLA et OpenVLA-OFT.

• Performance : Sur OpenVLA-OFT, Mix-QVLA a réduit l'utilisation de la mémoire de 15,4 Go (BF16) à 4,1 Go sous quantification W4A4 tout en conservant un taux de succès moyen de 96,3 % (comparé à 97,1 % pour le modèle en pleine précision).
• Comparaison : Mix-QVLA a systématiquement surpassé ou égalé les méthodes de pointe (incluant SmoothQuant, OmniQuant, QVLA et DyQ-VLA) en termes de taux de succès moyen, tout en atteignant une empreinte mémoire plus faible et des accélérations d'inférence plus élevées (jusqu'à 1,52×).
• Ablation : Les expériences ont confirmé que la combinaison de la sensibilité de l'évidence de la tâche et de la sensibilité temporelle produit les meilleurs résultats (76,3 % de succès moyen sur OpenVLA), tandis que le recours à un seul de ces signaux entraîne une performance moindre.

Signification et Revendications
Le papier affirme que Mix-QVLA comble une lacune fondamentale dans la quantification VLA : la déconnexion entre la précision de l'action finale et l'intégrité du processus de décision interne. En mesurant et en préservant explicitement l'« évidence » qui soutient une décision en pleine précision, Mix-QVLA permet un déploiement à bas-bit plus robuste. Les auteurs déclarent que leur méthode améliore le compromis précision-efficacité pour le déploiement VLA à bas-bit, permettant une réduction significative de la mémoire et une accélération sans compromettre les taux de succès des tâches.

Limites
Les auteurs notent modestement que l'évaluation actuelle est limitée aux politiques de type OpenVLA et aux tâches de simulation LIBERO, nécessitant une validation supplémentaire sur des déploiements de robots réels et d'autres architectures. De plus, le score d'évidence de la tâche nécessite des passages de calibration hors ligne supplémentaires, et l'implémentation actuelle utilise une allocation de bits fixe plutôt qu'un basculement dynamique par étape temporelle. Enfin, les cartes d'évidence servent de signaux de diagnostic plutôt que de garanties causales du succès de la tâche.