Riepilogo Tecnico: Ω-QVLA

Enunciato del Problema

I modelli Vision-Language-Action (VLA) integrano percezione, ragionamento e controllo in un'unica politica, tipicamente utilizzando un backbone di Large Language Model (LLM) e un modulo di azione basato su diffusione (DiT). Sebbene promettenti per il controllo robotico generalista, questi modelli sono proibitivamente costosi da distribuire su dispositivo a causa dei loro miliardi di parametri e dei requisiti di memoria.

Gli sforzi esistenti di quantizzazione post-allenamento (PTQ) non sono riusciti a fornire una soluzione completa per i modelli VLA. Il lavoro precedente comprime tipicamente il backbone LLM lasciando il modulo di azione DiT in precisione intera (FP16) o impiega schemi di precisione mista. Questa esitazione deriva dalla convinzione che il modulo di azione DiT sia intrinsecamente troppo sensibile alla quantizzazione uniforme a basso numero di bit. A differenza della generazione linguistica, dove gli errori di quantizzazione potrebbero essere impercettibili, gli errori nel modulo di azione producono segnali di controllo continui che interfacciano direttamente con gli attuatori fisici. In un contesto in ciclo chiuso, le perturbazioni indotte dalla quantizzazione vengono amplificate dalle forze di contatto e dalla dinamica fisica, portando a una propagazione cumulativa degli errori e al fallimento del compito. Di conseguenza, nessun metodo precedente ha quantizzato con successo l'intero modulo di azione DiT di un modello VLA a una precisione uniforme a basso numero di bit.

Metodologia: Ω-QVLA

Gli autori propongono Ω-QVLA, il primo framework PTQ senza allenamento in grado di comprimere sia il backbone linguistico che l'intero modulo di azione DiT di un modello VLA a una precisione uniforme W4A4 (pesi a 4 bit, attivazioni a 4 bit). Il framework elimina la necessità di un'allocazione di precisione mista attraverso due innovazioni fondamentali:

1. Rotazione Composita SVD·Hadamard

Per affrontare lo squilibrio energetico a livello di canale e i valori anomali delle attivazioni, gli autori introducono una strategia di rotazione a due livelli applicata prima della quantizzazione:

• Rotazione SVD: Viene calcolata una decomposizione ai valori singolari (SVD) sulla matrice dei pesi $W = U\Sigma V^\top$. La matrice di rotazione $R_{SVD} = U$ viene applicata per equalizzare l'energia riga per riga dei pesi. Questo trasforma lo spazio dei pesi in modo che l'energia di ogni riga sia controllata direttamente dallo spettro singolare, rimuovendo la concentrazione energetica indotta dalle coordinate.
• Rotazione Hadamard: Poiché la rotazione SVD è derivata esclusivamente dai pesi, non garantisce l'uniformità nello spazio delle attivazioni. Per affrontare questo aspetto, gli autori compongono la rotazione SVD con una matrice di Hadamard normalizzata $H$. La rotazione composita $R = R_{SVD} \cdot H$ agisce come una matrice di mescolamento uniforme che ridistribuisce l'energia di qualsiasi canale dominante uniformemente su tutti i canali di output.
• Implementazione a Blocchi: Per evitare il sovraccarico computazionale e di memoria di una matrice di rotazione densa $C_{in} \times C_{in}$, il metodo approssima la rotazione a blocchi. I canali vengono riordinati tramite una permutazione a zigzag basata sulle norme delle colonne dei pesi per garantire che i canali ad alta norma e a bassa norma siano distribuiti uniformemente tra i blocchi, prevenendo la concentrazione di valori anomali all'interno di una singola partizione.

2. Scalatura delle Attivazioni DiT per Passo

La scalatura statica standard è subottimale per i modelli DiT perché le grandezze delle attivazioni fluttuano significativamente durante il processo di denoising multi-passaggio.

• Deriva dell'Intervallo Dinamico: Gli autori osservano che le statistiche delle attivazioni derivano attraverso i passi di denoising, in particolare nei livelli che ricevono input condizionati dal tempo (ad esempio, proiezioni QKV successive ad AdaLayerNorm).
• Calibrazione per Passo: Invece di una singola scala statica, Ω-QVLA impiega una tabella di scala precalcolata, specifica per passo, per livello e per canale. Questa tabella è derivata da traiettorie di calibrazione e recuperata durante l'inferenza per assorbire la deriva dell'intervallo dinamico. Ciò consente al quantizzatore di adattarsi agli intervalli di attivazione in cambiamento a ogni specifico istante temporale.

Contributi Chiave

1. Quantizzazione Unificata W4A4: Ω-QVLA è il primo framework senza allenamento a quantizzare uniformemente l'intera pila VLA (backbone LLM + modulo di azione DiT) a W4A4, sfidando l'assunzione secondo cui il modulo di azione non può sopravvivere alla quantizzazione uniforme a basso numero di bit.
2. Meccanismo di Rotazione Composita: L'introduzione di una rotazione composita SVD·Hadamard che equalizza simultaneamente l'energia dei pesi per canale e diffonde i valori anomali residui delle attivazioni, affrontando le limitazioni dell'uso di trasformazioni SVD o Hadamard in isolamento.
3. Calibrazione per Passo: Lo sviluppo di un meccanismo di scalatura delle attivazioni per passo specifico per i modelli DiT per gestire la deriva dell'intervallo dinamico dipendente dall'istante temporale, che è critica per mantenere la stabilità nei processi iterativi di denoising.

Risultati Sperimentali

Il framework è stato valutato sul benchmark LIBERO utilizzando due politiche VLA all'avanguardia: Pi 0.5 e GR00T N1.5.

• Prestazioni in Simulazione:

  • Pi 0.5: Ha raggiunto un tasso medio di successo del compito del 98,0% sotto quantizzazione W4A4, superando leggermente il riferimento FP16 (97,1%).
  • GR00T N1.5: Ha raggiunto un tasso medio di successo dell'87,8%, eguagliando il riferimento FP16 (87,0%).
  • Confronto: Questi risultati superano significativamente le basi precedenti di quantizzazione completa W4A4 (ad esempio, SmoothQuant, DuQuant, QuantVLA), che spesso non riuscivano a mantenere le prestazioni quando quantizzavano i livelli di attenzione DiT. Ad esempio, su Pi 0.5, QuantVLA ha raggiunto solo l'82,0% di successo, mentre Ω-QVLA ha raggiunto il 98,0%.
  • Efficienza di Memoria: Il framework ha ridotto l'impronta di memoria statica del 71,3% rispetto a FP16, con un sovraccarico di metadati trascurabile (~90 MB per Pi 0.5).

• Manipolazione nel Mondo Reale:

  • Gli esperimenti sono stati condotti su una piattaforma ARX R5 a doppio braccio con cinque compiti di manipolazione bimanuale (ad esempio, Prendere la Tazza, Ripiegare l'Asciugamano).
  • Prestazioni: Ω-QVLA ha raggiunto un punteggio medio di progresso di 51,0, superando la baseline FP16 (49,6). Al contrario, la baseline QuantVLA è crollata a 25,0.
  • Analisi Qualitativa: I test nel mondo reale hanno confermato che Ω-QVLA produce traiettorie di manipolazione fluide e accurate. I metodi baseline hanno mostrato movimenti scattosi dell'effettore finale e frequenti picchi nelle dimensioni dell'azione, portando a fallimenti del compito su orizzonti temporali lunghi.

Significato e Affermazioni

Il documento afferma che Ω-QVLA sovverte la convinzione prevalente secondo cui il modulo di azione DiT è troppo sensibile per essere quantizzato uniformemente. Affrontando direttamente le fonti di instabilità—squilibrio energetico a livello di canale e deriva dell'intervallo dinamico per passo di denoising—gli autori dimostrano che una precisione unificata W4A4 è sufficiente per il dispiegamento ad alte prestazioni di VLA.

Gli autori sottolineano che il loro approccio richiede nessun ri-allenamento ed elimina la complessità dell'allocazione di precisione mista. I risultati suggeriscono che una compressione efficace dei VLA richiede un'ottimizzazione olistica e consapevole dell'azione piuttosto che il trasferimento diretto di tecniche di quantizzazione centrate sul linguaggio. Sebbene la valutazione attuale sia limitata a backbone basati su DiT e benchmark specifici, il lavoro stabilisce una nuova baseline per il controllo robotico su dispositivo, consentendo il dispiegamento di politiche VLA su larga scala su hardware con vincoli rigorosi di memoria e latenza.