ActDistill: General Action-Guided Self-Derived Distillation for Efficient Vision-Language-Action Models

Titolo: ActDistill: Distillazione Auto-Derivata Guidata dall'Azione per Modelli Efficiente Vision-Language-Action (VLA)

1. Il Problema

I recenti modelli Vision-Language-Action (VLA) hanno dimostrato una notevole flessibilità e capacità di generalizzazione, integrando percezione visiva, comprensione linguistica e generazione di sequenze di azioni continue per la robotica. Tuttavia, il loro dispiegamento pratico è limitato da:

• Elevato costo computazionale e latenza: Le architetture su larga scala, con interazioni cross-modali frequenti e decodifica complessa delle azioni, sono troppo pesanti per ambienti in tempo reale o con risorse limitate.
• Limitazioni delle strategie esistenti: I metodi attuali per l'efficienza (pruning di token, uscita anticipata, design architettonico leggero) si concentrano principalmente sulle correlazioni visione-linguaggio. Essi ignorano una proprietà fondamentale dei sistemi VLA: la trasformazione progressiva delle rappresentazioni visive e linguistiche in segnali di azione eseguibili.
• Conseguenze: Le tecniche di compressione standard spesso eliminano strati critici necessari per questa trasformazione "Vision-Language-to-Action" (VL-to-Action), causando perdita di informazioni cruciali per il grounding delle azioni e discontinuità semantica tra percezione e controllo, destabilizzando la politica robotica.

2. Metodologia: ActDistill

ActDistill è un framework di distillazione auto-derivato e guidato dall'azione che trasferisce la capacità di previsione delle azioni da un modello VLA "teacher" (su larga scala) a un modello "student" (leggero), allineando la compressione del modello al processo di trasformazione VL-to-Action.

Il framework si articola in tre componenti principali:

A. Incapsulamento Strutturato a Grafo (Graph-Structured Encapsulation)

• Obiettivo: Modellare le dipendenze gerarchiche nella previsione delle azioni.
• Meccanismo: Il modello teacher viene utilizzato per organizzare le rappresentazioni intermedie in grafi relazionali.
  • Ogni token della rappresentazione nascosta è un nodo.
  • Gli archi rappresentano dipendenze contestuali apprese, calcolate tramite affinità basate su attenzione.
  • Viene costruita una struttura sparsa (k-nearest neighbor) che isola le interazioni rilevanti per la manipolazione dai segnali di background irrilevanti.
• Output: Il teacher genera "capsule semantiche" strutturate che codificano le relazioni spaziali e linguistiche essenziali per il controllo, fornendo supervisione strutturata allo studente.

B. Distillazione Auto-Derivata Guidata dall'Azione (Action-Guided Self-Derived Distillation)

• Obiettivo: Addestrare uno studente leggero a ricostruire il processo decisionale del teacher sotto vincoli di efficienza.
• Meccanismo:
  • Lo studente non è una semplice copia compressa, ma una replica che impara a selezionare quali percorsi computazionali attivare.
  • Viene introdotto un Router Dinamico che, condizionato dai requisiti dell'azione (input visivo e linguistico), prevede i punteggi di attivazione per ogni strato.
  • Funzione di Perdita: L'addestramento combina:
    1. Perdita Semantica: Allineamento delle capsule semantiche dello studente con quelle del teacher (similitudine istanza e relazione).
    2. Perdita di Azione: Una perdita triple-MSE che garantisce coerenza tra l'azione predetta dallo studente, l'azione ground-truth e l'azione predetta dallo strato precedente (promuovendo un affinamento progressivo).
    3. Regolarizzazione di Bilanciamento del Carico: Evita che il router salti sistematicamente gli stessi strati, distribuendo l'attivazione in modo ottimale.

C. Inferenza Dinamica

• Durante l'inferenza, tutti i componenti ausiliari (teacher, grafi, capsule) vengono rimossi.
• Lo studente esegue solo gli strati selezionati dinamicamente dal router in base a una soglia di attivazione ($\tau$).
• Questo permette di generare azioni ad alta precisione con un costo computazionale drasticamente ridotto, adattando il percorso di calcolo alla complessità dell'input.

3. Contributi Chiave

1. Nuovo Paradigma di Efficienza: ActDistill è il primo framework che allinea esplicitamente la compressione del modello al processo di trasformazione VL-to-Action, utilizzando i priors delle azioni come segnale guida, invece di basarsi solo sulla ridondanza visione-linguaggio.
2. Architettura Ibrida: Introduce un'incapsulamento strutturato a grafo per preservare la trasformazione gerarchica e un meccanismo di routing dinamico che attiva selettivamente i percorsi computazionali critici per la previsione delle azioni.
3. Prestazioni Superiori: Dimostra sperimentalmente che è possibile mantenere le prestazioni dei modelli VLA su larga scala riducendo il calcolo (FLOPs) di oltre il 50% e ottenendo un aumento di velocità fino a 1.67x.

4. Risultati Sperimentali

Gli esperimenti sono stati condotti su benchmark embodied (LIBERO e SIMPLER) utilizzando architetture diverse (autoregressive come OpenVLA e basate su diffusione come CogACT).

• Prestazioni di Task:
  • Su LIBERO, ActDistill raggiunge un tasso di successo medio del 73.95% (contro il 74.95% del modello OpenVLA completo), superando le baseline esistenti (come VLA-Cache, FastV) specialmente nei task a lungo termine (LIBERO-Long).
  • Su SIMPLER, ottiene prestazioni comparabili o superiori al baseline CogACT (es. 74.08% vs 74.75% nel scenario Visual Matching) con un'efficienza significativamente maggiore.
• Efficienza:
  • Riduzione dei FLOPs a circa il 42-50% del modello originale.
  • Speed-up: Da 1.59x a 1.67x rispetto all'inferenza completa.
  • Riduzione della latenza di inferenza da ~48ms a ~28ms.
• Robustezza Reale: Test su un braccio robotico fisico (ARX5) hanno mostrato che ActDistill mantiene un tasso di successo del 62.5% (uguale al modello completo) riducendo il tempo di esecuzione da 10.2s a 6.3s, superando nettamente i metodi di caching tradizionali che mostrano un calo di prestazioni.
• Analisi Qualitativa: Le mappe di attenzione mostrano che ActDistill si concentra sulle regioni di interazione rilevanti (maniglie, contenitori target) piuttosto che su tutti gli oggetti visibili, indicando un ragionamento funzionale più efficace.

5. Significato e Impatto

ActDistill stabilisce un nuovo paradigma per l'intelligenza embodied efficiente.

• Superamento dei limiti attuali: Dimostra che l'efficienza nei VLA non deve essere ottenuta sacrificando la comprensione semantica o la stabilità del controllo, ma sfruttando la struttura intrinseca della trasformazione verso l'azione.
• Generalità: Il metodo è compatibile sia con modelli autoregressivi che basati su diffusione, rendendolo una soluzione scalabile per diverse architetture robotiche.
• Implicazioni Pratiche: Abilita il dispiegamento di modelli VLA complessi su hardware con risorse limitate (edge computing) senza compromettere la precisione delle azioni robotiche, un passo cruciale verso robotica autonoma e reattiva nel mondo reale.

In sintesi, ActDistill risolve il dilemma tra accuratezza ed efficienza nei VLA spostando il focus dalla semplice compressione dei dati alla preservazione della struttura semantica orientata all'azione, garantendo che il modello leggero mantenga la capacità di ragionamento spaziale e temporale necessaria per compiti robotici complessi.