← Ultimi articoli
🤖 machine learning

Fine-Tuning VLAs with Self-Demonstrated Generative Control for Multi-Task Manipulation

Questo articolo propone un metodo di fine-tuning auto-supervisionato che sfrutta i rollout di interazione online da modelli Vision-Language-Action (VLA) zero-shot per consentire a nuovi embodiment robotici di apprendere nuove abilità dai dati esperti, preservando al contempo le loro capacità originali di seguire istruzioni e la conoscenza pregressa dei compiti.

Autori originali: Prachi Garg, Steve Xing, Prahit Yaugand, Saurabh Gupta, Derek Hoiem

Pubblicato 2026-08-21
📖 7 min di lettura🧠 Approfondimento

Autori originali: Prachi Garg, Steve Xing, Prahit Yaugand, Saurabh Gupta, Derek Hoiem

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

I robot hanno lottato a lungo per comprendere la differenza tra un comando e una realtà. Per decenni, gli ingegneri sono stati in grado di programmare una macchina per muovere il proprio braccio con perfetta precisione, ma quella macchina non riusciva a comprendere una semplice frase come "prendi la tazza rossa". Negli ultimi anni, è emerso un nuovo tipo di intelligenza artificiale per colmare questo divario. Questi sistemi, noti come modelli visione-linguaggio-azione, sono addestrati su enormi quantità di dati per comprendere come le parole, le immagini e i movimenti fisici si connettano tra loro. Possono guardare una scena, leggere una richiesta e decidere cosa fare, offrendo uno sguardo su un futuro in cui ai robot si potrà dire cosa fare in linguaggio naturale anziché tramite istruzioni codificate. Tuttavia, rimane un problema ostinato: questi modelli sono spesso addestrati su un robot specifico in un ambiente controllato e, quando i ricercatori provano a usarli su una macchina diversa, anche solo leggermente differente, il robot spesso fallisce. Potrebbe comprendere perfettamente le parole ma inciampare nell'atto fisico di afferrare un oggetto, o peggio, potrebbe dimenticare del tutto come seguire le istruzioni quando è costretto a imparare un nuovo compito.

Un team di ricercatori dell'Università dell'Illinois Urbana-Champaign ha trovato un modo per risolvere questo problema senza dover raccogliere migliaia di ore di nuove dimostrazioni umane. Hanno scoperto che quando un robot fallisce nell'esecuzione di un compito, i suoi tentativi falliti contengono comunque informazioni preziose. Lasciando che il robot provi a fare le cose da solo e imparando da tali tentativi, possono insegnargli nuove abilità mantenendo intatta la sua capacità di comprendere il linguaggio. Il loro approccio prevede un processo in due fasi. Per prima cosa, prendono un "cervello" robotico pre-addestrato e gli mostrano una piccola quantità di dati esperti: solo quattordici minuti di un essere umano che guida il robot attraverso un compito specifico, come prendere un cubo. Questo insegna al robot le abilità motorie fini necessarie per quella specifica macchina. Ma se si fermassero lì, il robot dimenticherebbe tutto ciò che sapeva in precedenza, come ad esempio dove posizionare un oggetto o come gestire diversi tipi di articoli. Per risolvere questo problema, i ricercatori lasciano che il robot si eserciti da solo utilizzando le istruzioni che già comprende. Hanno chiesto al robot di provare vari compiti che aveva già visto, hanno registrato ciò che faceva e hanno utilizzato quelle registrazioni come dati di addestramento supplementari. Questo metodo, che chiamano apprendimento auto-supervisionato, permette al robot di ripassare le sue vecchie abilità mentre ne impara di nuove, impedendo efficacemente di dimenticare ciò che già sapeva.

I risultati di questo esperimento sono stati sorprendenti. Quando il team ha testato il loro metodo su un vero robot con due braccia, il robot ha imparato a prendere oggetti e a posizionarli in cesti con alti tassi di successo, anche per compiti che non gli erano stati esplicitamente insegnati da un essere umano. In un set di test, un robot addestrato solo su dimostrazioni umane per prendere oggetti ha completamente dimenticato come posizionarli, fallendo nel movimento di spostare l'oggetto in un contenitore il 100% delle volte. Quando i ricercatori hanno aggiunto i dati di pratica auto-generati dal robot al training, il tasso di successo per il posizionamento degli oggetti è balzato al 55%, e la capacità del robot di seguire le istruzioni è migliorata significativamente. Il robot non ha solo imparato ad afferrare le cose; ha imparato a comprendere l'intera frase, sapendo quando fermarsi dopo aver preso qualcosa e quando spostarsi in una seconda posizione per appoggiarlo. Ciò è stato vero anche quando gli oggetti erano nuovi o la disposizione degli articoli nella stanza era diversa da quella vista dal robot in precedenza.

I ricercatori hanno testato questa idea anche in un ambiente simulato, un mondo digitale dove i robot possono apprendere rapidamente senza il rischio di rompere l'hardware. In queste simulazioni, hanno scoperto che l'addestramento su nuovi compiti utilizzando solo dati umani causava la perdita della capacità del robot di eseguire i compiti precedenti, con tassi di successo che scendevano da oltre il 90% a meno del 17%. Mescolando i propri dati di pratica auto-generati, hanno recuperato la capacità di eseguire i vecchi compiti, riportando i tassi di successo a oltre il 70%, migliorando al contempo le prestazioni sui nuovi compiti. Ciò suggerisce che i tentativi del robot stesso, anche quando falliscono, portano con sé una sorta di memoria del mondo fisico che lo aiuta a rimanere flessibile. Il team ha osservato che questo approccio è particolarmente utile perché non richiede l'accesso ai dataset originali massicci utilizzati per addestrare il robot, che sono spesso tenuti segreti dalle aziende che li creano. Invece, il robot genera il proprio materiale di apprendimento direttamente sul pavimento di fabbrica o in casa.

Uno dei risultati più sorprendenti è stato quanto bene questo metodo preservasse la capacità del robot di gestire compiti per i quali non era stato addestrato. I ricercatori hanno testato una competenza chiamata "spingere", che non faceva parte dei dati di addestramento né delle dimostrazioni umane né della pratica auto-generata. Un robot addestrato solo su dati umani per prendere e posizionare oggetti tendeva a ignorare l'istruzione di spingere e invece cercava di prendere l'oggetto, fallendo il compito. Il robot addestrato con il metodo auto-supervisionato, tuttavia, comprendeva correttamente l'istruzione di spingere ed eseguiva il movimento nel 70% dei casi. Ciò indica che l'approccio auto-supervisionato aiuta il robot a mantenere la sua comprensione più ampia del movimento, invece di sovrascriverla con un insieme ristretto di abitudini. I ricercatori hanno osservato che il robot poteva persino gestire situazioni complesse, come girarsi per guardare dietro di sé quando un oggetto non era visibile, un comportamento che il robot addestrato solo con dati umani non mostrava.

Lo studio evidenzia un cambiamento fondamentale nel modo in cui i robot possono essere adattati a nuovi ambienti. Inveve di considerare i fallimenti di un robot come rumore inutile, i ricercatori li hanno trattati come una risorsa. Utilizzando le proprie azioni come una forma di ripasso, hanno creato un sistema che è sia adattabile che robusto. Il team ha dimostito che con una minima guida umana, combinata con la pratica del robot stesso, una singola politica può imparare a eseguire una vasta gamma di compiti su una nuova macchina. Questo approccio risolve il problema dell'oblio catastrofico, in cui l'apprendimento di qualcosa di nuovo causa la perdita di tutto ciò che il sistema sapeva in precedenza. I ricercatori hanno scoperto che questo metodo funziona non solo per compiti semplici come impilare blocchi, ma anche per compiti complessi e ad alto contatto, come inserire ingranaggi in una tavola in movimento, dove il tasso di successo è migliorato dal 30% al 90%.

Sebbene il metodo sia potente, i ricercatori riconoscono che non è perfetto. Il robot a volte eredita piccole stranezze dai propri dati auto-generati, come incastrarsi in un ciclo di presa e rilascio di un oggetto, o trascinare il bordo di un cesto mentre cerca di inserire il bucato all'interno. Questi problemi derivano dal fatto che il robot impara dai propri tentativi imperfetti. Per prevenire comportamenti non sicuri, i ricercatori hanno filtrato manualmente gli esempi peggiori prima di utilizzarli per l'addestramento, ma hanno notato che automatizzare questo processo sarà un passo necessario per scalare la tecnologia. Nonostante queste limitazioni, il lavoro offre una strada promettente per rendere i robot più pratici e facili da implementare. Suggerisce che la chiave per un robot versatile non risiede solo nella raccolta di più dati umani, ma nell'insegnare alla macchina a imparare dalle proprie esperienze, permettendole di portare con sé la propria conoscenza mentre passa da un compito all'altro.

Sommerso dagli articoli nel tuo campo?

Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.

Prova Digest →