Mix-QVLA: Task-Evidence-Aware Mixed-Precision Quantization of Vision-Language-Action Models

Sintesi Tecnica: Mix-QVLA

Problematica
I modelli Vision-Language-Action (VLA) unificano percezione, ragionamento linguistico e controllo robotico in un'unica policy, consentendo la manipolazione condizionata dal linguaggio. Tuttavia, i loro sostanziali requisiti di memoria e computazione ne ostacolano l'implementazione su piattaforme robotiche con risorse limitate. Sebbene la quantizzazione post-training (PTQ) a precisione mista a basso bit offra una via per la compressione, gli esistenti metodi di quantizzazione VLA soffrono di un limite critico: stimano principalmente la sensibilità dello strato basandosi sulla deviazione dell'azione finale.

Gli autori sostengono che una piccola deviazione nel comando di movimento finale non garantisce che il modello quantizzato abbia preservato la "struttura dell'evidenza" interna che supporta la decisione della policy a precisione intera. Al contrario, una grande deviazione non rivela dove il calcolo sia fallito. I metodi esistenti non riescono a esaminare se la quantizzazione interrompa l'evidenza rilevante per il compito attraverso le fasi interne della policy (ad esempio, grounding visivo, ragionamento linguistico), portando potenzialmente a un errato grounding del compito anche quando il movimento risultante appare fluido.

Metodologia
Il documento propone Mix-QVLA, un framework di PTQ a precisione mista consapevole dell'evidenza del compito (task-evidence-aware), progettato per preservare il percorso decisionale interno dei modelli VLA. La metodologia procede in tre fasi principali:

1. Sensibilità dell'Evidenza del Compito per Strato (Task-Evidence Layer Sensitivity):

   • Decisione di Riferimento: Il framework ancora la valutazione della quantizzazione a una sequenza di token d'azione a precisione intera ($y^*$) generata dal modello a precisione intera ($\theta_{FP}$).
   • Analisi dei Confini: Valuta la preservazione dell'evidenza in quattro confini funzionali: output dell'encoder visivo, output del proiettore, rappresentazione della policy linguistica e rappresentazione della testa dell'azione.
   • Mappatura dell'Evidenza: Per ogni confine, calcola una mappa di evidenza del compito ($E$) pesata dal gradiente, combinando le attivazioni del confine normalizzate con i gradienti dell'obiettivo di log-probabilità teacher-forced. Ciò identifica le feature che sono sia attive che influenti per la decisione di riferimento.
   • Misurazione della Distorsione: Il metodo confronta le mappe di evidenza a precisione intera e quantizzate utilizzando due metriche:
     • Massa dell'Evidenza (Evidence Mass): La forza totale dell'evidenza a supporto della decisione.
     • Distribuzione dell'Attribuzione (Attribution Distribution): L'allocazione spaziale dell'evidenza tra i token/canali (misurata tramite divergenza di Jensen–Shannon).
   • Aggregazione: Queste distorsioni vengono aggregate in un punteggio di sensibilità per strato utilizzando un obiettivo a "collo di bottiglia morbido" (soft-bottleneck), che assicura che un confine fortemente degradato influenzi significativamente il punteggio finale senza essere diluito dagli altri confini.

2. Sensibilità dell'Evidenza del Compito Temporale (Temporal Task-Evidence Sensitivity):

   • Riconoscendo che le policy VLA si sviluppano su traiettorie, Mix-QVLA tratta la sensibilità come dipendente dal tempo. Mappa i campioni di calibrazione sul progresso della traiettoria normalizzato ($\rho \in [0, 1]$) e calcola i punteggi di sensibilità per fase.
   • Il punteggio di sensibilità temporale finale per uno strato è derivato dalla massima degradazione osservata in qualsiasi fase della traiettoria, catturando gli strati che diventano critici solo in specifiche fasi di esecuzione.

3. Allocazione della Precisione Mista (Mixed-Precision Bit Allocation):

   • Il framework formula l'allocazione dei bit come un problema di ottimizzazione vincolata. Minimizza la combinazione della degradazione della sensibilità temporale e dell'evidenza del compito, soggetto a budget di dimensione del modello e BitOps.
   • Una variabile di assegnazione binaria determina la larghezza di bit per ogni strato, risolta tramite un risolutore branch-and-bound. L'allocazione risultante è fissa dopo la calibrazione e viene applicata durante l'inferenza.

Contributi Chiave

• Framework Mix-QVLA: Un nuovo framework PTQ che stima la sensibilità dello strato basandosi sulla preservazione dell'evidenza rilevante per il compito attraverso i confini funzionali e i passi temporali della traiettoria, piuttosto che affidarsi esclusivamente alla deviazione dell'azione finale.
• Analisi dell'Evidenza del Compatto a Livello di Confine: Un approccio diagnostico che misura come la quantizzazione interrompa il percorso decisionale interno del VLA, fornendo stime di sensibilità per strato che distinguono tra perdita di massa dell'evidenza e ridistribuzione dell'attribuzione.
• Analisi della Sensibilità Consapevole del Tempo: Un meccanismo che cattura l'importanza dipendente dalla fase, distinguendo gli strati costantemente fragili da quelli sensibili solo durante specifiche fasi di esecuzione.
• Validazione Empirica: Valutazione estesa sulle policy di tipo OpenVLA che dimostra una migliore stima della sensibilità e un migliore compromesso accuratezza-efficienza rispetto ai criteri di quantizzazione basati solo sull'azione.

Risultati Sperimentali
Gli autori hanno valutato Mix-QVLA sul benchmark LIBERO utilizzando le policy OpenVLA e OpenVLA-OFT.

• Performance: Su OpenVLA-OFT, Mix-QVLA ha ridotto l'uso della memoria da 15,4 GB (BF16) a 4,1 GB con quantizzazione W4A4 mantenendo un tasso di successo medio del 96,3% (rispetto al 97,1% del modello a precisione intera).
• Confronto: Mix-QVLA ha superato o eguagliato costantemente i metodi allo stato dell'arte (inclusi SmoothQuant, OmniQuant, QVLA e DyQ-VLA) in termini di tasso di successo medio, ottenendo al contempo un footprint di memoria inferiore e velocità di inferenza superiori (fino a 1,52×).
• Ablazione: Gli esperimenti hanno confermato che la combinazione della sensibilità dell'evidenza del compito con la sensibilità temporale produce i risultati migliori (76,3% di successo medio su OpenVLA), mentre affidarsi a un solo segnale comporta prestazioni inferiori.

Significatività e Rivendicazioni
Il documento sostiene che Mix-QVLA affronti una lacuna fondamentale nella quantizzazione VLA: la disconnessione tra l'accuratezza dell'azione finale e l'integrità del processo decisionale interno. Misurando e preservando esplicitamente l' "evidenza" che supporta una decisione a precisione intera, Mix-QVLA consente un deployment a basso bit più robusto. Gli autori affermano che il loro metodo migliora il compromesso accuratezza-efficienza per il deployment VLA a basso bit, consentendo una significativa riduzione della memoria e un aumento della velocità senza compromettere i tassi di successo del compito.

Limitazioni
Gli autori notano con modestia che la valutazione attuale è limitata alle policy di tipo OpenVLA e ai compiti di simulazione LIBERO, richiedendo ulteriore validazione su deployment robotici reali e altre architetture. Inoltre, il punteggio dell'evidenza del compito richiede passaggi di calibrazione offline aggiuntivi, e l'implementazione attuale utilizza un'allocazione dei bit fissa invece di uno switching dinamico per timestep. Infine, le mappe di evidenza fungono da segnali diagnostici piuttosto che da garanzie causali del successo del compito.