🤖 machine learning

QuantWAMs: Calibrating at the Right Granularity for World Action Models

QuantWAMs è un framework di quantizzazione post-training che allinea le decisioni di quantizzazione al contesto di calibrazione specifico dei World Action Models attraverso tre strategie innovative, consentendo un dispiegamento W4A4 efficiente con una degradazione minima delle prestazioni sia sui benchmark di simulazione che sulle attività di manipolazione robotica reale.

Autori originali: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Pubblicato 2026-07-31

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di cercare di insegnare a un robot come cucinare un pasto o costruire una torre di blocchi. Per farlo, il robot non si limita a guardare un'immagine e indovinare; utilizza un "Modello d'Azione del Mondo" (World Action Model). Pensa a questo modello come a un regista cinematografico super intelligente e futuristico. Osserva la scena attuale, prevede cosa accadrà dopo e, contemporaneamente, decide cosa devono fare le braccia del robot per far sì che quel futuro si avveri. È un ciclo chiuso: il robot si muove, il mondo cambia, il robot vede il cambiamento e decide la mossa successiva. Questo è incredibilmente potente, ma è anche come cercare di proiettare un film blockbuster su una minuscola calcolatrice alimentata a batteria. La matematica necessaria per prevedere il futuro e muovere le braccia è così pesante che di solito richiede computer enormi e costosi.

Per rendere questi robot pratici nelle nostre case e nelle nostre fabbriche, gli scienziati vogliono rimpicciolire questi enormi cervelli informatici per farli entrare in chip più piccoli. Lo fanno utilizzando una tecnica chiamata "quantizzazione", che è come comprimere un film in alta definizione in un file di dimensioni ridotte. Si accetta di sacrificare una minima parte della qualità dell'immagine per un enorme guadagno in velocità e spazio di archiviazione. Tuttavia, i metodi standard per comprimere questi file sono stati progettati per immagini statiche o testo semplice, non per un robot che si muove e reagisce costantemente al mondo. Se si comprime il cervello di un robot usando le vecchie regole, potrebbe iniziare ad avere allucinazioni, dimenticare come impugnare una tazza o scontrarsi con le pareti perché la "compressione" ha rovinato l'equilibrio delicato del suo ciclo decisionale.

È qui che entra in gioco il nuovo articolo, QuantWAMs. I ricercatori si sono resi conto che per rimpicciolire il cervello di un robot senza romperlo, non si può usare uno strumento di compressione universale. Bisogna calibrare la compressione sulla "vibrazione" specifica del mondo del robot. Hanno scoperto che i metodi standard commettono tre grandi errori: guardano al cervello del robot in isolamento (ignorando come le azioni cambiano il mondo), trattano tutte le parti del cervello come se fossero uguali (ignorando che le parti video e quelle d'azione sono diverse) e utilizzano il tipo di dati sbagliato per decidere cosa rimpicciolire.

Il team ha proposto un nuovo metodo chiamato QuantWAMs che corregge questi errori trattando il cervello del robot come un'orchestra complessa piuttosto che come uno strumento solista. Ecco come ci sono riusciti.

In primo luogo, hanno capito che alcune parti del cervello del robot sono "coordinate-compatibili", ovvero parlano la stessa lingua e possono condividere informazioni, mentre altre sono totalmente diverse. Immaginate un coro dove le soprane e i tenori possono condividere lo stesso spartito, ma i percussionisti hanno bisogno dei loro. I vecchi metodi cercavano di dare a tutti lo stesso spartito, causando il caos. QuantWAMs raggruppa con cura solo le parti compatibili per condividere i loro dati "outlier" (le note strane, forti, difficili da comprimere), assicurando che la compressione non distorca la voce unica di ogni sezione.

In secondo luogo, hanno cambiato il modo in cui decidono quali parti del cervello debbano mantenere un'alta qualità e quali possano essere compresse. Invece di guardare la parte video e la parte d'azione separatamente, hanno osservato come lavorano insieme. È come giudicare un duo di danza: non valutate solo il gioco di piedi del ballerino e la spinta del partner separatamente; valutate quanto si muovono in sincronia. Analizzando il gradiente "congiunto" (lo sforzo combinato di video e azione), sono riusciti a individuare esattamente quali strati del cervello erano più critici per il successo del robot e a proteggere quelli con una precisione maggiore, comprimendo in sicurezza il resto.

Terzo, e soprattutto importante, hanno smesso di testare il cervello compresso in un mondo "finto". I metodi standard testano il robot su un insieme statico di immagini, come un esame del conducente su una pista chiusa. Ma un vero robot sta sempre guidando su una strada sconnessa dove ogni curva cambia la visuale successiva. Gli autori hanno creato un "audit a intervento fisso". Hanno preso i movimenti reali a piena precisione del robot, li hanno messi in pausa e si sono chiesti: "Se avessimo usato il cervello compresso in quel preciso momento, il robot sarebbe riuscito a riprendersi?". Questo ha permesso loro di regolare dinamicamente il programma di protezione, assicurando che il robot rimanga al sicuro anche quando il mondo diventa caotico.

I risultati di questo nuovo approccio sono impressionanti, anche se gli autori sottolineano con cautela che si basano su simulazioni e specifici test nel mondo reale. Quando hanno testato QuantWAMs su due diversi modelli di robot (Fast-WAM e LingBot-VA) utilizzando un'impostazione di compressione molto aggressiva, W4A4 (che significa utilizzare una precisione a 4 bit sia per i pesi che per le attivazioni), le prestazioni del robot sono scese appena. In simulazione, il tasso di successo era solo dello 0,2 - 0,7% inferiore rispetto alla versione originale non compressa. Ad esempio, in un compito chiamato RoboTwin 2.0, il robot compresso ha avuto successo nel 91,7% dei casi rispetto al 91,9% dell'originale.

Ancora più importante, questa compressione ha portato benefici enormi. La memoria richiesta per i blocchi video e d'azione del robot è scesa a circa il 29% di quella della versione originale. Questo ha reso il robot da 1,4 a 1,6 volte più veloce nel prendere decisioni. Hanno persino portato il robot compresso nel mondo reale utilizzando un robot AgiBot G2 per eseguire compiti come raccogliere una mela, impilare blocchi e piegare un asciugamano. In questi test nel mondo reale, il robot compresso ha avuto successo in 17 casi su 30, rispetto ai 19 su 30 della versione a piena precisione, dimostrando che il cervello compresso poteva effettivamente funzionare in un ambiente fisico.

L'articolo suggerisce che, rispettando la natura unica del ciclo chiuso del robot — dove le azioni cambiano il mondo e il mondo cambia l'azione successiva — possiamo finalmente rendere questi potenti modelli IA abbastanza piccoli da poter girare sui robot che vedremo un giorno nella nostra vita quotidiana. Non è una bacchetta magica che risolve tutto istantaneamente, ma è un passo cruciale verso il rendere i cervelli dei robot sia intelligenti che piccoli.

Sintesi Tecnica: QuantWAMs

Definizione del Problema

I World Action Models (WAM) rappresentano un paradigma promettente per la manipolazione robotica general-purpose, prevedendo congiuntamente le osservazioni future e le azioni necessarie per realizzarle. Tuttavia, il loro dispiegamento su robot reali è ostacolato dagli elevati costi computazionali derivanti dal denoising iterativo e dall'esecuzione in loop chiuso, dove ogni azione generata altera le osservazioni per le predizioni successive.

Gli esistenti metodi di Post-Training Quantization (PTQ) sono inadatti ai WAM a causa di tre discrepanze fondamentali:

Discrepanza di Obiettivo: La PTQ standard ottimizza obiettivi in loop aperto (ad es., perplexity, ricostruzione di singole immagini) dove i passaggi in avanti sono valutati indipendentemente. I WAM operano in un loop chiuso in cui gli errori di quantizzazione precoci si propagano e si accumulano attraverso le transizioni di stato.
Discrepanza Strutturale: I metodi standard spesso assumono architetture transformer omogenee. I WAM impiegano frequentemente percorsi accoppiati (ad es., Mixture-of-Transformers a doppio stream o design con backbone condiviso) in cui il calcolo è distribuito su stream eterogenei.
Discrepanza Distribuizionale: Le distribuzioni di calibrazione nella PTQ standard spesso profilano la sensibilità su stati irraggiungibili in un contesto di loop chiuso, portando a picchi di "denoising-step" fantasma che dirottano erroneamente il budget di precisione.

Metodologia: QuantWAMs

QuantWAMs è un framework di PTQ progettato per allineare le decisioni di quantizzazione con il contesto di calibrazione specifico dei WAM, definito da struttura del modello, distribuzione dei rollout e obiettivo del task. Introduce tre strategie principali:

1. Calibrazione degli Outlier su Base Condivisa (Shared-Basis Outlier Calibration)

La preservazione standard degli outlier spesso raggruppa le statistiche delle attivazioni tra tutti i moduli in modo indiscriminato. QuantWAMs restringe il raggruppamento ai moduli compatibili per coordinate.

Meccanismo: Raggruppa l'evidenza delle attivazioni solo tra i moduli che condividono una base ordinata comune (ad es., pathway di valore condivisi in Fast-WAM o colonne di input condivise in LingBot-VA).
Base Teorica: Il metodo modella le statistiche dei canali come un mix di eterogeneità tra i membri ( $\tau^2_c$ ) e variazione di campionamento entro il membro ( $\sigma^2_c$ ). Deriva un punto di "crossover di pooling" ( $N^*$ ) per determinare quando il raggruppamento dei dati tra i moduli riduce il rischio di stima rispetto alla stima per singolo contesto.
Risultato: Questo evita maschere instabili causate dal rumore di campionamento quando il numero di traiettorie di calibrazione ( $N$ ) è basso, preservando al contempo l'energia dei canali outlier critici.

2. Salienza Co-Training-Objective

Inve로 di valutare gli strati basandosi su un singolo stream o fondere i gradienti post-hoc, QuantWAMs assegna la precisione dei pesi utilizzando il gradiente congiunto video-azione.

Meccanismo: Calcola gli score empirici di Fisher dalla perdita combinata ( $\ell_{co} = \lambda_v \ell_v + \lambda_a \ell_a$ ) del WAM pre-addestrato.
Differenziazione: A differenza della "fusione post-hoc" che combina gli obiettivi marginali dopo il prodotto esterno, questo metodo mantiene il termine di interazione per coordinata ( $\Xi_L$ ) presente nel gradiente congiunto.
Granularità: La precisione è assegnata a una granularità di strato (anziché di elemento o colonna) per garantire la stabilità della calibrazione. Il top 20% dei layer Lineari candidati viene aggiornato a una precisione superiore (ad es., W8) in base a questi score congiunti.

3. Audit dei Rollout con Intervento Fisso (Fixed-Intervention Rollout Auditing)

Per affrontare la natura in loop chiuso dei WAM, il metodo rivede gli schemi di protezione dei denoising-step utilizzando stati di loop chiuso raggiungibili.

Meccanismo: Esegue un audit di "intervento fisso" su rollout FP16 registrati. Per ogni stato in una traiettoria, riproduce il passaggio sotto un intervento non protetto (bassa precisione) per misurare la discrepanza locale ( $\ell_t$ ) rispetto al baseline FP16.
Vantaggio: Questo evita il problema del "self-masked" dei profili osservazionali (dove un passaggio protetto appare insensibile perché la protezione è attiva) e il problema dello "stato irraggiungibile" degli input sintetici.
Applicazione: Il profilo viene utilizzato per auditare e sostituire l'insieme dei denoising-step protetti ( $T_q$ ) con un nuovo insieme ( $T_{replay}$ ) che rifletta meglio la sensibilità sulle effettive traiettorie in loop chiuso, senza cambiare il budget totale di precisione.

Contributi Chiave

Formulazione Consapevole del Contesto: Il paper formula la PTQ per i WAM attorno a tre contesti specifici (strutturale, distribuizionale e obiettivo) che determinano le decisioni di precisione al momento del dispiegamento.
Derivazione Teorica: Deriva le condizioni per cui l'evidenza delle attivazioni può essere raggruppata tra i moduli (governate dall'eterogeneità del campione e dal conteggio delle traiettorie) e caratterizza il crossover dell'eterogeneità del campione per il recupero della maschera Top-K.
Salienza del Gradiente Congiunto e Audit: Propone un metodo per valutare congiuntamente gli gradienti video-azione a una granularità di strato stabile per la calibrazione e utilizza il replay a intervento fisso su rollout reali per rivedere gli schemi dei denoising-step.

Risultati Sperimentali

Il framework è stato valutato su due implementazioni di WAM (Fast-WAM e LingBot-VA) su RoboTwin 2.0, LIBERO e manipolazione con robot reale con un AgiBot G2.

Performance in Simulazione: In un setting dominante W4A4 (pesi a 4 bit, attivazioni a 4 bit), QuantWAMs ha ottenuto tassi di successo nella simulazione che differiscono da FP16 solo dello 0,2–0,7%.
- Su Fast-WAM (RoboTwin 2.0): 91,7% vs 91,9% (FP16).
- Su LingBot-VA (LIBERO-Long): 98,0% vs 98,5% (FP16).
Efficienza: Per i blocchi video e azione target, QuantWAMs ha ridotto la memoria di picco di pesi e attivazioni a circa il 29% del baseline FP16 e ha fornito accelerazioni a livello di blocco di 1,4–1,6×.
Validazione su Robot Reale: Su un AgiBot G2 che esegue tre task (prendere una mela, impilare blocchi, piegare un asciugamano), la policy quantizzata (QuantWAMs) ha ottenuto un tasso di successo del 56,7% (17/30 prove), rispetto al 63,3% per FP16 e al 40,0% per un metodo di quantizzazione di base (Atom*).
Studi di Ablazione: Esperimenti controllati hanno confermato che:
- Il pooling su base condivisa migliora il recupero della maschera e il successo in loop chiuso.
- La salienza del co-training congiunto supera la fusione post-hoc e gli obiettivi a singolo stream.
- L'audit dei rollout con intervento fisso produce una collocazione degli schemi migliore rispetto ai profili sintetici o osservazionali.

Significato e Rivendicazioni

Il paper sostiene che QuantWAMs stabilisce la fattibilità del dispiegamento di WAM ad alte prestazioni su robot reali con risorse limitate, affrontando le sfide strutturali e dinamiche specifiche del controllo in loop chiuso.

Rivendicazioni Modeste: Gli autori dichiarano esplicitamente che i loro risultati non stabiliscono una non-inferiorità o equivalenza formale a FP16, in particolare nei test su robot reali, dove il campione (10 prove per task) è insufficiente per un confronto statistico.
Limitazioni dell'Ambito: Il lavoro è limitato a due specifiche architetture WAM, alla calibrazione specifica del benchmark e alle misurazioni di efficienza a livello di blocco. Non afferma di aver risolto la latenza del loop di controllo end-to-end o il trasferimento su task non visti.
Intuizione Centrale: Il contributo principale è la dimostrazione che le decisioni di quantizzazione devono essere prese all'interno del "contesto di calibrazione" specifico del dispiegamento del modello (struttura, distribuzione e obiettivo), piuttosto che fare affidamento su euristiche generiche in loop aperto.