🤖 machine learning

Per-Group Error, Not Total MSE: Fine-Tuning Vision-Language-Action Models for 11-DoF Mobile Manipulation

Questo articolo dimostra che per il fine-tuning di modelli Vision-Language-Action su manipolatori mobili con spazi articolari eterogenei, la selezione dei checkpoint basata sull'errore per gruppo piuttosto che sull'Errore Quadratico Medio totale è fondamentale per evitare l'occultamento di specifici guasti articolari e garantire prestazioni superiori del robot nel mondo reale.

Autori originali: Pau Montagut Bofi, Mario García Blasco, Tessa Pulli, Markus Vincze

Pubblicato 2026-06-02

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Pau Montagut Bofi, Mario García Blasco, Tessa Pulli, Markus Vincze

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di addestrare un robot per svolgere un lavoro complesso, come prendere una tazza e spostarla su un tavolo. Questo robot ha molti diversi "arti": una base rotolante (ruote), un collo (testa), una pinza (mano) e un braccio. Ogni parte si muove in modo diverso e ha un compito diverso.

Il documento di Montagut Bofi e colleghi della TU Wien affronta un problema complicato: come fai a sapere quando il tuo robot è "abbastanza bravo" per andare nel mondo reale?

La trappola del punteggio "medio"

Di solito, quando gli ingegneri addestrano un robot, guardano un singolo numero chiamato MSE Totale (Errore Quadratico Medio). Pensa a questo come alla media dei voti di uno studente.

Se uno studente prende un "A" in Matematica e un "A" in Storia, ma un "D" in Educazione Fisica, la sua media generale potrebbe comunque sembrare ottima. Ma se quello studente sta facendo domanda per diventare un atleta professionista, quel "D" in Educazione Fisica è un elemento invalidante, anche se la media è alta.

Gli autori hanno scoperto che nella robotica questa "trappola della media" è reale. Un modello robotico potrebbe avere un "Punteggio Totale" perfetto perché ha imparato a muovere le ruote e la testa perfettamente. Tuttavia, potrebbe essere ancora terribile nel muovere il braccio. Poiché le parti "facili" (le ruote) sono così brave, nascondono il fatto che la parte "difficile" (il braccio) sta fallendo.

L'esperimento: Due robot, una lezione

Il team ha testato due cervelli robotici differenti (modelli) su un robot Toyota HSR, che ha 11 diverse parti mobili.

Il Robot "Piccolo" (SmolVLA): Questo era un modello più piccolo addestrato specificamente sui dati di questo singolo robot.
- Il Problema: Mentre lo addestravano, il robot diventava molto bravo a muovere le ruote e la testa rapidamente. Ma il braccio e la pinza erano lenti nell'imparare.
- Il Risultato: Il "Punteggio Totale" sembrava ottimo, ma il robot continuava a fallire perché non riusciva a coordinare correttamente il braccio. Le ruote stavano "mascherando" gli errori del braccio.
Il Robot "Grande" (π0.5): Questo era un modello molto più grande, pre-addestrato, che aveva visto molti robot diversi in precedenza.
- Il Colpo di Scena: Il team ha cercato di "affinare" (fine-tuning) questo grande modello insegnandogli solo l'ultimo passaggio (la testa dell'azione) mentre congelava il resto del suo cervello.
- La Sorpresa: Questa versione affinata ha ottenuto un Pamenteggio Totale migliore rispetto al modello grande originale. Matematicamente, avrebbe dovuto essere il vincitore.
- La Realtà: Quando l'hanno messo sul robot reale, ha performato peggio del modello originale. Perché? Perché il processo di fine-tuning ha accidentalmente reso il braccio peggiore. Il modello si è concentrato così tanto sul sistemare la pinza e le ruote che ha dimenticato come muovere correttamente il braccio.

La Soluzione: Controlla i "Voti per Materia"

La scoperta principale degli autori è semplice ma potente: Smetti di guardare il Punteggio Totale. Inizia a guardare i "Voti per Materia".

Invece di un unico grande numero, hanno scomposto l'errore per parte del corpo:

Quanto è stato bravo il Braccio?
Quanto è stata brava la Pinza?
Quanto è stata brava la Base (ruote)?

Hanno scoperto che i "Voti per Materia" erano l'unica cosa in grado di predire come il robot si sarebbe effettivamente comportato nel mondo reale.

Per il robot piccolo, la Base era l'anello debole.
Per il robot grande, il Braccio era l'anello debole dopo il fine-tuning.

Il Punto Chiave

Se stai costruendo un robot con molte diverse parti mobili, non scegliere semplicemente il modello con l'errore complessivo più basso. Devi controllare quale parte specifica sta fallendo.

Analogia: Immagina di assumere uno chef. Se guardi solo il suo "Punteggio di Cucina Complessivo", potresti assumere qualcuno che è eccezionale nel tagliare le verdure ma terribile nel condire la zuppa. Devi controllare le abilità specifiche (tagliare, condire, impiattare) per vedere se è davvero adatto al lavoro.

In breve: Il documento sostiene che per i robot complessi, l'errore per gruppo (controllare ogni parte del corpo separatamente) è un segnale molto più affidabile rispetto all'errore totale (la media) quando si decide se un robot è pronto per lavorare.

Sintesi Tecnica: Errore per Gruppo, non MSE Totale: Fine-Tuning di Modelli Vision-Language-Action per la Manipolazione Mobile a 11-DoF

Problema

Il dispiegamento di modelli pre-addestrati Vision-Language-Action (VLA) su manipolatori mobili presenta una sfida unica dovuta all'eterogeneità dei loro spazi di azione. Mentre la maggior parte dei VLA (ad esempio, OpenVLA, RT-2) è addestrata su robot con bracci fissi con 6–7 gradi di libertà cartesiani, piattaforme come il Toyota Human Support Robot (HSR) richiedono il controllo di 11 giunti che spaziano tra un braccio, una pinza, la testa e la base ruotante.

Il problema centrale identificato è che le metriche di valutazione standard, nello specifico l'errore quadratico medio (MSE) aggregato, oscurano dinamiche critiche di performance in questi spazi eterogenei. Quando 11 dimensioni vengono collassate in un'unica metrica, i gruppi di giunti facili da predire (ad esempio, la pinza o la testa) possono mascherare gruppi che soffrono di sotto-apprendimento (underfitting) (ad esempio, la base mobile o il braccio). Di conseguenza, un checkpoint con il MSE totale più basso può non corrispondere al modello che performa meglio sul robot fisico, portando a fallimenti di deployment controintuitivi dove una metrica offline "migliore" produce un esito nel mondo reale "peggiore".

Metodologia

Modelli e Setup

Lo studio confronta due architetture VLA sottoposte a fine-tuning per l'HSR a 11-DoF:

SmolVLA (450 milioni di parametri): Un modello leggero basato su SmolVLM2-500M, configurato con una testa d'azione di flow-matching per un output a 11 dimensioni. È stato pre-addestrato su un sottoinsieme dei dati della comunità LeRobot (109k episodi, solo braccio fisso) ed è stato poi sottoposto a fine-tuning su dati di teleoperazione specifici per HSR.
$\pi$ 0.5 (3,3 miliardi di parametri): Un modello più grande basato su PaliGemma2 con una testa d'azione basata su diffusione. È stato pre-addestrato su un corpus diversificato che include la manipolazione mobile su molteplici embodiment.

Regimi di Addestramento

SmolVLA: Addestrato in due fasi: (1) Pre-addestramento su 109k episodi HSR per 20k step, e (2) Fine-tuning specifico per il compito di "pick-up" (3.971 episodi) per 50k step.
$\pi$ 0.5: Valutato utilizzando baseline pre-addestrate (80k e 100k step) e un regime di fine-tuning "expert-only" dove il backbone da 3 miliardi di parametri è stato congelato e solo la testa d'azione di circa 300 milioni di parametri è stata addestrata per un massimo di 5k step. Questo approccio è stato scelto a causa dei vincoli di memoria che impedivano il fine-tuning completo.

Protocollo di Valutazione

Gli autori propongono una decomposizione dell'errore per gruppo invece di fare affidamento sull'MSE aggregato. Il vettore di azione a 11 dimensioni viene suddiviso in quattro gruppi funzionali:

Braccio (5 giunti)
Pinza (1 giunto)
Testa (2 giunti)
Base (3 giunti)

La valutazione offline ha comportato il calcolo del Mean Squared Error (MSE) per ogni gruppo separatamente su dati non utilizzati durante l'addestramento (held-out). La validazione su robot reale è stata condotta sul Toyota HSR con 60 prove (20 per modello) su un compito di pick-up (tazza e scatola di cracker), valutata secondo una rubrica a 4 punti.

Risultati Chiave

1. SmolVLA: Il Collo di Bottiglia della Base Mobile

Dinamiche di Convergenza: Durante il fine-tuning, l'errore della pinza è diminuito rapidamente (miglioramento del 92,9%), mentre l'errore della base mobile è migliorato significativamente più lentamente (57,8%).
Ceto di Performance: La base mobile è rimasta la fonte dominante di errore, stabilendo di fatto il limite superiore per il MSE totale.
Esito nel Mondo Reale: Il miglior checkpoint di SmolVLA (40k step) ha ottenuto un punteggio medio sul robot reale di 3,5/4. I fallimenti sono stati caratterizzati da una navigazione accurata ma da una presa mal calibrata (avvicinamento all'oggetto ma mancata presa per circa 20 cm), coerentemente con il fatto che l'errore residuo del braccio era superiore all'errore della base in alcuni contesti, sebbene la base fosse il collo di bottiglia primario dell'addestramento.

2. $\pi$ 0.5: Il Disconnessione "Expert-Only"

Baseline vs. Fine-Tuned: La baseline pre-addestrata di $\pi$ 0.5 (80k step) ha raggiunto il punteggio più alto sul robot reale di 4,0/4 (20/20 successi).
Il Risultato Controintuitivo: Il fine-tuning "expert-only" ha ridotto il MSE totale da 1,04 a 0,95 (un miglioramento del 9%). Tuttavia, questo modello "migliore" ha performato peggio sul robot (3,75/4, 15/20 successi), con una differenza statisticamente significativa ( $p=0,010$ ).
Analisi per Gruppo: Il miglioramento nel MSE totale è stato guidato dai guadagni nei gruppi pinza e base. Tuttavia, l'errore del gruppo braccio è degradato significativamente (da 0,30 a 0,59 MSE). I fallimenti nel mondo reale (mancato sollevamento pulito dell'oggetto) sono correlati direttamente a questa degradazione del braccio, non al MSE totale o all'errore della base.

3. Affidabilità della Metrica

Fallimento del MSE Totale: Nell'esperimento $\pi$ 0.5, il modello con il MSE totale più basso (expert-only 3k) è stato il peggiore sul robot.
Successo per Gruppo: La metrica offline che ha costantemente predetto la classifica sul robot reale è stata l'errore del gruppo braccio.
Significatività Statistica: I test di Mann-Whitney hanno confermato che la versione $\pi$ 0.5 80k ha superato significativamente entrambe le varianti fine-tuned.

Contributi Chiave

Identificazione della "Trappola del MSE Aggregato": Il documento dimostra che per spazi di azione eterogenei, minimizzare il MSE totale può portare alla degradazione di gruppi di giunti critici (come il braccio) se la loro entità di errore è minore rispetto ad altri gruppi (come la pinza), causando il sacrificio di questi ultimi da parte dell'ottimizzatore.
Decomposizione dell'Errore per Gruppo: Gli autori introducono un metodo di valutazione sistematico che decompone l'errore per gruppo di giunti (braccio, pinza, testa, base), rivelando dinamiche di addestramento invisibili nelle metriche aggregate.
Validazione su Robot Reale dei Segnali Offline: Lo studio valida empiricamente, attraverso 60 prove su robot reale, che l'errore per gruppo è un segnale più fedele per la selezione dei checkpoint rispetto al MSE totale.
Identificazione del Collo di Bottiglia: Il lavoro evidenzia come il gruppo "collo di bottiglia" vari a seconda del modello e del regime di addestramento:
- Per SmolVLA, il collo di bottiglia era la base mobile (convergenza più lenta a causa della mancanza di esposizione nel pre-addestramento).
- Per l'expert-only di $\pi$ 0.5, il collo di bottiglia era il braccio (degradato a causa dei compromessi di ottimizzazione nel processo di fine-tuning).

Significato e Rivendicazioni

Il paper conclude che l'errore per gruppo è un segnale più affidabile rispetto al MSE totale per la selezione dei checkpoint VLA destinati al deployment su robot con spazi di azione eterogenei.

Gli autori sostengono che il disconnessione tra metriche offline e performance nel mondo reale è una conseguenza prevedibile del collassare gruppi di giunti eterogenei in un'unica metrica. Affermano che:

Un checkpoint può apparire competitivo sulle metriche aggregate pur fallendo su gruppi critici per il deployment.
Il gruppo di giunti specifico che limita la performance dipende dall'architettura del modello e dal regime di addestramento (diversità del corpus di pre-addestramento vs scarsità di dati di fine-tuning).
Per i professionari, riportare l'errore per gruppo è essenziale per identificare quale gruppo sia l'attuale collo di bottiglia (che si tratti della base in un nuovo modello o del braccio in un esperto sottoposto a fine-tuning) prima di fidarsi di un modello per il deployment.

Lo studio non pretende di risolvere il problema dello squilibrio di ottimizzazione sottostante (ad esempio, tramite pesatura dell'incertezza o bilanciamento del gradiente), ma lo identifica come il probabile motore delle dinamiche osservate, lasciando l'applicazione di tali tecniche al lavoro futuro. Il confronto tra SmolVLA e $\pi$ 0.5 è strutturato come un confronto pratico tra checkpoint disponibili piuttosto che uno studio architettonico controllato, riconoscendo le differenze nei corpus di pre-addestramento.