🤖 machine learning

QuantWAMs: Calibrating at the Right Granularity for World Action Models

QuantWAMs is een post-training kwantiseringsframework dat kwantiseringsbeslissingen afstemt op de specifieke kalibratiecontext van World Action Models via drie nieuwe strategieën, wat efficiënte W4A4-implementatie mogelijk maakt met minimale prestatievermindering op zowel simulatiebenchmarks als real-robot manipulatietaken.

Oorspronkelijke auteurs: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Gepubliceerd 2026-07-31

📖 6 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren hoe hij een maaltijd moet koken of een toren van blokken moet bouwen. Om dit te doen, kijkt de robot niet alleen naar een foto en raadt hij het maar; hij gebruikt een "World Action Model". Zie dit model als een superintelligente, futuristische filmregisseur. Hij observeert de huidige scène, voorspelt wat er hierna zal gebeuren, en beslist tegelijkertijd wat de armen van de robot moeten doen om dat toekomstbeeld te realiseren. Het is een gesloten lus: de robot beweegt, de wereld verandert, de robot ziet de verandering, en beslist over de volgende zet. Dit is ongelooflijk krachtig, maar het is ook alsof je een blockbuster-film probeert af te spelen op een kleine, batterijgestuurde rekenmachine. De wiskunde die nodig is om de toekomst te voorspellen en de armen te bewegen is zo zwaar dat het meestal enorme, dure computers vereist.

Om deze robots praktisch te maken voor onze huizen en fabrieken, willen wetenschappers deze gigantische computerbreinen verkleinen zodat ze op kleinere chips passen. Hiervoor gebruiken ze een techniek genaamd "quantization" (kwantisatie), wat lijkt op het comprimeren van een high-definition film naar een kleiner bestand. Je ruilt een klein beetje beeldkwaliteit in voor een enorme winst in snelheid en opslagruimte. Echter, de standaardmanieren om deze bestanden te comprimeren zijn ontworpen voor statische afbeeldingen of eenvoudige tekst, niet voor een robot die constant beweegt en reageert op de wereld. Als je het brein van een robot comprimeert met de oude regels, kan hij beginnen te hallucineren, vergeten hoe hij een beker moet vasthouden, of tegen muren aanbotsen omdat de "compressie" de delicate balans van zijn besluitvormingslus heeft verstoord.

Hier komt het nieuwe paper, QuantWAMs, in beeld. De onderzoekers realiseerden zich dat om het brein van een robot te verkleinen zonder het te breken, je niet een universele compressietool kunt gebruiken. Je moet de compressie afstemmen op de specifieke "vibe" van de wereld van de robot. Ze ontdekten dat standaardmethoden drie grote fouten maken: ze kijken naar het brein van de robot in isolatie (ze negeren hoe acties de wereld veranderen), ze behandelen alle delen van het brein alsof ze hetzelfde zijn (ze negeren dat video- en actieonderdelen verschillend zijn), en ze gebruiken het verkeerde soort data om te beslissen wat er verkleind moet worden.

Het team stelde een nieuwe methode voor genaamd QuantWAMs die deze fouten oplost door het brein van de robot te behandelen als een complex orkest in plaats van een solo-instrument. Zo hebben ze het gedaan:

Ten eerste realiseerden ze zich dat sommige delen van het brein van de robot "coördinaat-compatibel" zijn, wat betekent dat ze dezelfde taal spreken en informatie kunnen delen, terwijl andere totaal verschillend zijn. Stel je een koor voor waarbij de sopranen en tenor's dezelfde bladmuziek kunnen delen, maar de drummers hun eigen muziek nodig hebben. De oude methoden probeerden iedereen dezelfde bladmuziek te geven, wat voor chaos zorgde. QuantWAMs groepeert zorgvuldig alleen de compatibele delen bij elkaar om hun "outlier"-data (de vreemde, luide noten die moeilijk te comprimeren zijn) te delen, waardoor de compressie de unieke stem van elke sectie niet vervormt.

Ten tweede veranderden ze hoe ze beslissen welke delen van het brein een hoge kwaliteit mogen behouden en welke gecomprimeerd kunnen worden. In plaats van naar het video-gedeelte en het actie-gedeelte apart te kijken, keken ze naar hoe ze samen werken. Het is als het beoordelen van een dansduo: je beoordeelt niet alleen de voetarbeid van de danser en de lift van de partner afzonderlijk; je beoordeelt hoe goed ze in sync bewegen. Door de "joint" gradiënt (de gecombineerde inspanning van video en actie) te analyseren, konden ze precies aanwijzen welke lagen van het brein het meest cruciaal waren voor het succes van de robot en de kritieke lagen met hogere precisie beschermen, terwijl de rest veilig gecomprimeerd kon worden.

Ten derde, en misschien wel het belangrijkste, stopten ze met het testen van het gecomprimeerde brein in een "nepwereld". Standaardmethoden testen de robot op een statische set afbeeldingen, zoals een rijexamen op een afgesloten circuit. Maar een echte robot rijdt altijd op een hobbelige weg waarbij elke bocht het volgende beeld verandert. De auteurs creëerden een "fixed-intervention audit" (audit met vaste interventie). Ze namen de echte, volledige bewegingen van de robot, pauzeerden deze en vroegen: "Als we op dit exacte moment het gecomprimeerde brein hadden gebruikt, zou de robot dan hersteld zijn?" Dit stelde hen in staat om het beschermingsschema dynamisch aan te passen, zodat de robot veilig blijft, zelfs wanneer de wereld chaotisch wordt.

De resultaten van deze nieuwe aanpak zijn indrukwekkend, hoewel de auteurs voorzichtig zijn en opmerken dat ze gebaseerd zijn op simulaties en specifieke praktijktests. Wanneer ze QuantWAMs testten op twee verschillende robotmodellen (Fast-WAM en LingBot-VA) met een zeer agressieve compressie-instelling (W4A4, wat betekent dat er 4-bits precisie wordt gebruikt voor zowel gewichten als activaties), daalde de prestatie van de robot nauwelijks. In simulatie lag het succespercentage slechts 0,2 tot 0,7 procentpunt lager dan de originele, ongecomprimeerde versie. Bijvoorbeeld, bij een taak genaamd RoboTwin 2.0 slaagde de gecomprimeerde robot 91,7% van de keren, vergeleken met 91,9% voor de originele versie.

Belangrijker nog, deze compressie kwam met enorme voordelen. De geheugenruimte die nodig was voor de video- en actieblokken van de robot daalde naar ongeveer 29% van wat de originele versie nodig had. Dit maakte de robot 1,4 tot 1,6 keer sneller in het nemen van beslissingen. Ze namen de gecomprimeerde robot zelfs mee naar de echte wereld met een AgiBot G2 robot om taken uit te voeren zoals het oppakken van een appel, het stapelen van blokken en het vouwen van een handdoek. In deze praktijktests slaagde de gecomprimeerde robot in 17 van de 30 pogingen, vergeleken met 19 van de 30 voor de versie met volledige precisie, wat bewijst dat het gecomprimeerde brein daadwerkelijk in een fysieke omgeving kan functioneren.

Het paper suggereert dat door respect te tonen voor de unieke, gesloten-lus aard van robotleren — waarbij acties de wereld veranderen, en de wereld de volgende actie weer verandert — we deze krachtige AI-modellen eindelijk klein genoeg kunnen maken om te draaien op de robots die we ooit in ons dagelijks leven zullen zien. Het is geen wondermiddel dat alles direct oplost, maar het is een cruciale stap naar het maken van robotbreinen die zowel slim als compact zijn.

Technische Samenvatting: QuantWAMs

Probleemstelling

World Action Models (WAMs) vormen een veelbelovend paradigma voor algemene robotmanipulatie door gezamenlijk toekomstige observaties en de acties te voorspellen die nodig zijn om deze te realiseren. De inzet ervan op echte robots wordt echter gehinderd door hoge computationele kosten die voortvloeien uit iteratieve denoising en closed-loop uitvoering, waarbij elke gegenereerde actie de observaties voor opeenvolgende voorspellingen verandert.

Bestaande Post-Training Quantization (PTQ) methoden zijn slecht geschikt voor WAMs vanwege drie fundamentele mismatches:

Objective Mismatch: Standaard PTQ optimaliseert open-loop doelen (bijv. perplexiteit, reconstructie van een enkele afbeelding) waarbij forward passes onafhankelijk worden gescoord. WAMs opereren in een closed-loop waarbij vroege kwantiseringsfouten voortplanten en cumuleren door staatsovergangen.
Structural Mismatch: Standaard methoden gaan vaak uit van homogene transformer-architecturen. WAMs maken vaak gebruik van gekoppelde paden (bijv. dual-stream Mixture-of-Transformers of shared-backbone ontwerpen) waarbij de berekening verdeeld is over heterogene stromen.
Distributional Mismatch: Kalibratieverdelingen in standaard PTQ profileren de gevoeligheid vaak op staten die onbereikbaar zijn in een closed-loop setting, wat leidt tot "fantoom" pieken in de denoising-stappen die het precisiebudget verkeerd aansturen.

Methodologie: QuantWAMs

QuantWAMs is een PTQ-framework dat is ontworpen om kwantiseringsbeslissingen af te stemmen op de specifieke kalibratiecontext van WAMs, gedefinieerd door modelstructuur, rollout-distributie en taakdoel. Het introduceert drie kernstrategieën:

1. Shared-Basis Outlier Calibration

Standaard outlier-preservatie verzamelt statistieken van activaties vaak ongecontroleerd over alle modules. QuantWAMs beperkt het poolen tot coördinaat-compatibele modules.

Mechanisme: Het poolt activatiebewijs alleen over modules die een gemeenschappelijke geordende basis delen (bijv. gedeelde value-paden in Fast-WAM of gedeelde input-kolommen in LingBot-VA).
Theoretische Basis: De methode modelleert kanaalstatistieken als een mix van cross-member heterogeniteit ( $\tau^2_c$ ) en binnen-member steekproefvariatie ( $\sigma^2_c$ ). Het afleiden van een "pooling crossover" punt ( $N^*$ ) bepaalt wanneer het poolen van data over modules het schattingsrisico verlaagt ten opzichte van per-context schatting.
Resultaat: Dit voorkomt instabiele maskers veroorzaakt door steekproefruis wanneer het aantal kalibratietrajecten ( $N$ ) laag is, terwijl de energie van kritieke outlier-kanalen behouden blijft.

2. Co-Training-Objective Saliency

In plaats van lagen te scoren op basis van een enkele stroom of gradiënten post-hoc te fuseren, wijst QuantWAMs gewichtsprecisie toe met behulp van de gezamenlijke video–actie gradiënt.

Mechanisme: Het berekent empirische Fisher-scores van de gecombineerde loss ( $\ell_{co} = \lambda_v \ell_v + \lambda_a \ell_a$ ) van de pre-trained WAM.
Differentiatie: In tegen tegenstelling tot "post-hoc fusie", die marginale doelen combineert na de buitenste productvorming, behoudt deze methode de coördinaatwijze interactieterm ( $\Xi_L$ ) die aanwezig is in de gezamenlijke gradiënt.
Granulariteit: Precisie wordt toegewezen op laagniveau (in plaats van element- of kolomniveau) om kalibratiestabiliteit te garanderen. De top 20% van de kandidaat Linear-lagen wordt geüpgraded naar een hogere precisie (bijv. W8) op basis van deze gezamenlijke scores.

3. Fixed-Intervention Rollout Auditing

Om de closed-loop aard van WAMs aan te pakken, herzien de methodologie de beschermingsschema's voor denoising-stappen met behulp van bereikbare closed-loop staten.

Mechanisme: Het voert een "fixed-intervention" audit uit op opgenomen FP16 rollouts. Voor elke staat in een traject wordt de stap opnieuw afgespeeld onder een onbeschermde (lage precisie) interventie om de lokale discrepantie ( $\ell_t$ ) te meten ten opzichte van de FP16 baseline.
Voordeel: Dit vermijdt het "self-masked" probleem van observationele profielen (waar een beschermde stap ongevoelig lijkt omdat de bescherming actief is) en het "onbereikbare staat" probleem van synthetische inputs.
Toepassing: Het profiel wordt gebruikt om de set beschermde denoising-stappen ( $T_q$ ) te auditeren en te vervangen door een nieuwe set ( $T_{replay}$ ) die de gevoeligheid op werkelijke closed-loop trajecten beter weerspiegelt, zonder het totale precisiebudget te veranderen.

Belangrijkste Bijdragen

Context-Aware Formulering: Het artikel formuleert PTQ voor WAMs rond drie specifieke contexten (structureel, distributioneel en doelgericht) die de precisiebeslissingen tijdens de inzet bepalen.
Theoretische Afleiding: Het leidt condities af voor wanneer activatiebewijs over modules gepooled kan worden (gestuurd door steekproefheterogeniteit en trajectaantal) en karakteriseert de sample-heterogeniteit crossover voor Top-K mask recovery.
Joint Gradient Saliency & Auditing: Het stelt een methode voor om video–actie gradiënten gezamenlijk te scoren op een kalibratiestabiele laagniveau en maakt gebruik van fixed-intervention replay op echte rollouts om de schema's voor denoising-stappen te herzien.

Experimentele Resultaten

Het framework werd geëvalueerd op twee WAM-implementaties (Fast-WAM en LingBot-VA) over RoboTwin 2.0, LIBERO, en real-robot manipulatie met een AgiBot G2.

Simulatieprestaties: Onder een dominante W4A4 (4-bit gewichten, 4- bit activaties) setting, vertoonde QuantWAMs een succespercentage in simulatie dat slechts 0,2–0,7 procentpunt verschilde van FP16.
- Op Fast-WAM (RoboTwin 2.0): 91,7% vs. 91,9% (FP16).
- Op LingBot-VA (LIBERO-Long): 98,0% vs. 98,5% (FP16).
Efficiëntie: Voor gerichte video- en actieblokken verminderde QuantWAMs het piekgeheugen voor gewichten en activaties tot ongeveer 29% van de FP16 baseline en leverde het 1,4–1,6× versnelling op blokniveau.
Validatie op de echte robot: Op een AgiBot G2 bij het uitvoeren van drie taken (het pakken van een appel, het stapelen van blokken, het vouwen van een handdoek), behaalde het gekwantiseerde beleid (QuantWAMs) een succespercentage van 56,7% (17/30 pogingen), vergeleken met 63,3% voor FP16 en 40,0% voor een baseline kwantiseringsmethode (Atom*).
Ablatie-studies: Gecontroleerde experimenten bevestigden dat:
- Shared-basis pooling de mask recovery en closed-loop succes verbetert.
- Joint co-training saliency beter presteert dan post-hoc fusie en single-stream doelen.
- Fixed-intervention rollout auditing een betere plaatsing van schema's oplevert dan synthetische of observationele profielen.

Betekenis en Claims

Het artikel beweert dat QuantWAMs de haalbaarheid van het inzetten van hoogwaardige WAM's op hulpbronnenbeperkte echte robots mogelijk maakt door de specifieke structurele en dynamische uitdagingen van closed-loop controle aan te pakken.

Bescheiden Claims: De auteurs geven expliciet aan dat hun resultaten geen formele non-inferioriteit of equivalentie met FP16 vaststellen, met name in de real-robot trials waar de steekproefomvang (10 trials per taak) te klein is voor een statistische vergelijking.
Scope Beperkingen: Het werk is beperkt tot twee specifieke WAM-architecturen, benchmark-specifieke kalibratie en efficiëntiemetingen op blokniveau. Het claimt niet het oplossen van end-to-end control-loop latentie of de overdracht naar onbekende taken.
Kerninzicht: De primaire bijdrage is de demonstratie dat kwantiseringsbeslissingen genomen moeten worden binnen de specifieke "kalibratiecontext" van de inzet van het model (structuur, distributie en doel), in plaats van te vertroukken op generieke, open-loop heuristieken.