Technische Samenvatting: Ω-QVLA

Probleemstelling

Vision-Language-Action (VLA)-modellen integreren perceptie, redenering en besturing in één beleid, waarbij doorgaans een grote taalmodel (LLM)-ruggengraat en een op diffusie gebaseerde actiehead (DiT) worden gebruikt. Hoewel deze modellen veelbelovend zijn voor algemene robotbesturing, zijn ze onbetaalbaar duur om op het apparaat te implementeren vanwege hun multi-miljard parameteraantallen en geheugeneisen.

Bestaande inspanningen voor post-training kwantisatie (PTQ) hebben geen volledige oplossing geboden voor VLA-modellen. Eerdere werken comprimeren doorgaans de LLM-ruggengraat terwijl de DiT-actiehead in volledige precisie (FP16) blijft, of maken gebruik van gemengde precisie-schema's. Deze aarzeling vloeit voort uit het geloof dat de DiT-actiehead inherent te gevoelig is voor uniforme kwantisatie met lage bitdiepte. In tegenstelling tot taalgeneratie, waar kwantisatiefouten misschien onmerkbaar zijn, produceren fouten in de actiehead continue besturingssignalen die direct interface met fysieke actuatoren. In een gesloten-lus setting worden kwantisatie-geïnduceerde verstoringen versterkt door contactkrachten en fysieke dynamica, wat leidt tot cumulatieve foutpropagatie en taalfalen. Bijgevolg heeft geen enkele eerdere methode het volledige DiT-actiehead van een VLA-model succesvol gekwantiseerd naar een uniforme precisie met lage bitdiepte.

Methodologie: Ω-QVLA

De auteurs stellen Ω-QVLA voor, het eerste trainingsvrije PTQ-framework dat in staat is om zowel de taalruggengraat als de volledige DiT-actiehead van een VLA-model te comprimeren naar een uniforme W4A4-precisie (4-bit gewichten, 4-bit activeringen). Het framework elimineert de noodzaak voor toewijzing van gemengde precisie door middel van twee kerninnovaties:

1. Composite SVD·Hadamard Rotatie

Om onbalans in energie op kanaalniveau en uitschieters in activeringen aan te pakken, introduceren de auteurs een tweeledige rotatiestrategie die wordt toegepast vóór kwantisatie:

• SVD Rotatie: Een singuliere waardenontbinding (SVD) wordt berekend op de gewichtsmatrix $W = U\Sigma V^\top$. De rotatiematrix $R_{SVD} = U$ wordt toegepast om de energieverdeling per rij van de gewichten te egaliseren. Dit transformeert de gewichtsruimte zodanig dat de energie van elke rij direct wordt gecontroleerd door het singuliere spectrum, waardoor energieconcentratie veroorzaakt door coördinaten wordt verwijderd.
• Hadamard Rotatie: Aangezien de SVD-rotatie uitsluitend is afgeleid van gewichten, garandeert deze geen uniformiteit in de activeringsruimte. Om dit aan te pakken, combineren de auteurs de SVD-rotatie met een genormaliseerde Hadamard-matrix $H$. De compositie-rotatie $R = R_{SVD} \cdot H$ fungeert als een uniforme mengmatrix die de energie van elk dominant kanaal gelijkmatig herverdeelt over alle uitvoerkanaalen.
• Implementatie per blok: Om de rekenkundige en geheugenoverhead van een dichte $C_{in} \times C_{in}$ rotatiematrix te vermijden, benadert de methode de rotatie in blokken. Kanalen worden opnieuw gerangschikt via een zigzag-permutatie op basis van de normen van gewichtskolommen om ervoor te zorgen dat kanalen met hoge en lage normen gelijkmatig over blokken worden verdeeld, waardoor concentratie van uitschieters binnen één partitie wordt voorkomen.

2. Per-stap DiT Activeringsvergroting

Statische schaling is suboptimaal voor DiT-modellen omdat de grootte van activeringen aanzienlijk fluctueert tijdens het multi-stap denoising-proces.

• Drift in dynamisch bereik: De auteurs observeren dat statistieken van activeringen drift over denoising-stappen, met name in lagen die tijd-geconditioneerde invoer ontvangen (bijv. QKV-projecties na AdaLayerNorm).
• Kalibratie per stap: In plaats van één statische schaal, hanteert Ω-QVLA een vooraf berekende tabel met schalen per stap, per laag en per kanaal. Deze tabel is afgeleid van kalibratietrajecten en wordt tijdens inferentie opgehaald om drift in het dynamische bereik op te vangen. Dit stelt de kwantisator in staat zich aan te passen aan de verschuivende activeringsbereiken op elk specifiek tijdstip.

Belangrijkste Bijdragen

1. Unificatie van W4A4-kwantisatie: Ω-QVLA is het eerste trainingsvrije framework dat de volledige VLA-stack (LLM-ruggengraat + DiT-actiehead) uniform kwantiseert naar W4A4, waardoor de aanname wordt uitgedaagd dat de actiehead niet bestand is tegen uniforme kwantisatie met lage bitdiepte.
2. Composite Rotatiemechanisme: De introductie van een compositie SVD·Hadamard-rotatie die tegelijkertijd de energie per kanaal van gewichten egaliseert en resterende uitschieters in activeringen diffundeert, waardoor de beperkingen van het gebruik van SVD- of Hadamard-transformaties in isolatie worden aangepakt.
3. Kalibratie per stap: De ontwikkeling van een mechanisme voor schaling van activeringen per stap, specifiek voor DiT-modellen, om tijdstip-afhankelijke drift in het dynamische bereik aan te pakken, wat cruciaal is voor het handhaven van stabiliteit in iteratieve denoising-processen.

Experimentele Resultaten

Het framework werd geëvalueerd op de LIBERO-benchmark met twee state-of-the-art VLA-beleidslijnen: Pi 0.5 en GR00T N1.5.

• Simulatieprestaties:

  • Pi 0.5: Bereikte een gemiddeld taalsuccespercentage van 98,0% onder W4A4-kwantisatie, iets hoger dan de FP16-referentie (97,1%).
  • GR00T N1.5: Bereikte een gemiddeld succespercentage van 87,8%, gelijkend op de FP16-referentie (87,0%).
  • Vergelijking: Deze resultaten presteren aanzienlijk beter dan eerdere W4A4-baselines voor volledige kwantisatie (zoals SmoothQuant, DuQuant, QuantVLA), die vaak faalden om prestaties te behouden bij het kwantiseren van de DiT-attentielagen. Bijvoorbeeld, op Pi 0.5 bereikte QuantVLA slechts 82,0% succes, terwijl Ω-QVLA 98,0% bereikte.
  • Geheugenefficiëntie: Het framework verkleinde het statische geheugengebruik met 71,3% ten opzichte van FP16, met verwaarloosbare metadata-overhead (~90 MB voor Pi 0.5).

• Manipulatie in de echte wereld:

  • Experimenten werden uitgevoerd op een dual-arm ARX R5-platform met vijf bimanuele manipulatietaken (bijv. Kopje oppakken, Handdoek vouwen).
  • Prestaties: Ω-QVLA bereikte een gemiddelde voortgangs-score van 51,0, wat de FP16-baseline (49,6) overtrof. Daarentegen stortte de baseline QuantVLA in tot 25,0.
  • Kwalitatieve analyse: Tests in de echte wereld bevestigden dat Ω-QVLA soepele, nauwkeurige manipulatietrajecten produceert. Baseline-methoden vertoonden schokkerige bewegingen van de eind-effector en frequente pieken in actiedimensies, wat leidde tot taalfalen op lange termijn.

Betekenis en Claims

Het artikel beweert dat Ω-QVLA de heersende overtuiging omverwerpt dat de DiT-actiehead te gevoelig is om uniform gekwantiseerd te worden. Door direct de bronnen van instabiliteit aan te pakken—energieonbalans op kanaalniveau en drift in het dynamische bereik tijdens denoising-stappen—tonen de auteurs aan dat een uniforme W4A4-precisie voldoende is voor hoogwaardige VLA-implementatie.

De auteurs benadrukken dat hun aanpak geen hertraining vereist en de complexiteit van toewijzing van gemengde precisie elimineert. De resultaten suggereren dat effectieve VLA-compressie een holistische, actiebewuste optimalisatie vereist in plaats van de directe overdracht van kwantisatietechnieken die op taal zijn gericht. Hoewel de huidige evaluatie beperkt is tot DiT-gebaseerde ruggengraten en specifieke benchmarks, legt dit werk een nieuwe basis voor robotbesturing op het apparaat, waardoor de implementatie van grootschalige VLA-beleidslijnen op hardware met strikte geheugen- en latentie-eisen mogelijk wordt.