🤖 AI

Latent Goal Prediction from Language for Model-Based Planning

Il documento introduce LAGO, un framework che consente una pianificazione basata su modelli a lungo raggio robusta decomponendo dinamicamente le istruzioni linguistiche in sottogruppi latenti intermedi e rollout condizionati all'azione all'interno di uno spazio latente unificato, superando così i limiti sia dei target visivi che del disallineamento cross-modale rumoroso.

Autori originali: Samuel Barbeau, Simon Roy, Giovanni Beltrame, Christian Desrosiers, Nicolas Thome

Pubblicato 2026-06-23

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Samuel Barbeau, Simon Roy, Giovanni Beltrame, Christian Desrosiers, Nicolas Thome

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di cercare di insegnare a un robot come navigare in un labirinto complesso o come spostare oggetti in una stanza, ma puoi dare istruzioni solo in linguaggio naturale, come "Vai al punto rosso" o "Metti il cubo nel cassetto".

Questo articolo presenta un nuovo sistema chiamato LAGO (Latent Goal Prediction from Language) che aiuta i robot a pianificare questi viaggi lunghi e complicati molto meglio di quanto sia possibile fare finora. Ecco come funziona, suddiviso in concetti semplici:

Il Problema: I problemi del "Traduttore Difettoso" e del "Lungo Cammino"

Attualmente, i robot che cercano di pianificare in anticipo affrontano due veri mal di testa:

Il problema del "Troppo Lontano": Se chiedi a un robot di andare in un posto molto lontano, esso cerca di immaginare l'intero viaggio in un unico salto gigante. Ma proprio come cercare di prevedere il meteo tra un mese, piccoli errori nella sua immaginazione si accumulano e il piano cade a pezzi prima ancora di iniziare.
Il problema "Linguaggio vs Immagine":
- Se dai al robot un'immagine dell'obiettivo, egli sa esattamente dove andare, ma è rigido. Non può gestire facilmente situazioni nuove.
- Se dai al robot delle parole, è flessibile, ma è difficile tradurre "Vai dal drago" in coordinate precise per il cervello del robot. I metodi esistenti spesso si confondono o richiedono computer enormi e lenti per comprendere le parole.

La Soluzione: La strategia "Fermati e Controlla" di LAGO

LAGO risolve questo problema agendo come un escursionista con una mappa e una serie di checkpoint.

Invece di cercare di immaginare l'intero escursione di 100 miglia in un colpo solo, LAGO la suddivide in piccoli passi gestibili.

La Mappa "Latente": Il robot non pensa in pixel grezzi (come vede una telecamera) o in parole grezze. Pensa in un "codice segreto" (uno spazio latente) che rappresenta il mondo.
Il Traduttore: LAGO è addestrato per prendere la tua frase in inglese (ad esempio, "Vai dal villico") e tradurla istantaneamente in una sequenza di checkpoint invisibili in quel codice segreto.
Il Processo:
1. Tu dici: "Vai dal villico".
2. LAGO non dice solo "Ok". Predice un percorso: "Prima, immagina di essere qui (Checkpoint 1), poi qui (Checkpoint 2), poi qui (Checkpoint 3)..." fino al villico.
3. Il robot pianifica la sua mossa successiva per raggiungere il primo checkpoint.
4. Una volta arrivato lì, aggiorna la sua posizione e predice il prossimo set di checkpoint basandosi su dove si trova realmente ora.

L'Analogia: La "Valle Liscia" vs La "Montagna Rugosa"

Il documento utilizza una splendida analogia visiva per spiegare perché questo funziona meglio:

Metodi Vecchi: Immagina di cercare di far rotolare una palla verso la cima di una montagna indovinando l'intero percorso in una volta sola. Il terreno è irregolare e pieno di buche (errori). La palla si blocca o rotola nella direzione sbagliata perché il percorso è troppo lungo e complesso per essere visto chiaramente.
LAGO: Immagina la stessa montagna, ma LAGO scava una valle sinuosa e liscia con pietre di passaggio chiare (i sub-obiettivi) che conducono alla cima. Il robot deve solo saltare da una pietra all'altra. Anche se manca leggermente una pietra, la valle lo guida nuovamente sulla strada giusta. Non deve mai guardare l'intera montagna contemporaneamente; deve solo guardare la pietra successiva.

Perché questo è un grande passo avanti

È Veloce: A differenza di altri sistemi che utilizzano enormi e lenti modelli di IA per comprendere il linguaggio, LAGO è leggero e veloce, rendendolo adatto alla pianificazione in tempo reale.
È Robusto: Nei test, quando la distanza dall'obiettivo diventava molto lunga, altri metodi fallivano completamente (0% di successo). LAGO continuava a avere successo, anche quando il viaggio era difficile.
Colma il Divario: Combina il meglio di entrambi i mondi: la flessibilità di comprendere il linguaggio umano e la precisione dei bersagli visivi.

Cosa Fa (e Cosa Non Fa)

Fa: Prende un'istruzione linguistica e una visione attuale del mondo, poi genera un piano fluido e passo dopo passo nel "pensiero" del robot per raggiungere l'obiettivo. Funziona navigando in ambienti simulati come un piano 2D, muovendo un cavallo in un mondo simile a un gioco o spingendo un cubo con un braccio robotico.
Non Fa: Il documento non afferma che questo funzioni su robot fisici reali ancora, né sostiene di risolvere problemi al di fuori di questi compiti simulati specifici. È un framework di pianificazione, non un robot fisico in sé.

In breve, LAGO insegna a un robot a smettere di cercare di "vedere" tutto il futuro in una volta sola e invece concentrarsi su una serie di traguppi piccoli e chiari predetti dalle tue parole, rendendo i lunghi viaggi molto meno soggetti a errori.

Sintesi Tecnica: Predizione di Obiettivi Latenti da Linguaggio per la Pianificazione Basata su Modelli

Definizione del Problema

Il reinforcement learning (RL) basato su modelli che utilizza modelli del mondo (World Models - WM) offre un paradigma promettente per il controllo efficiente dal punto di vista dei campioni, simulando traiettorie future in uno spazio latente compatto. Tuttavia, questi sistemi affrontano due colli di bottiglia fondamentali:

Specificazione dell'Obiettivo: Definire obiettivi ottimizzabili è difficile. Gli obiettivi visivi (immagini) forniscono gradienti locali precisi ma offrono una guida scarsa per obiettivi distanti e sono impraticabili per ottenere compiti complessi. Il linguaggio offre flessibilità ma soffre di un allineamento cross-modale rumoroso nei modelli contrastivi o di un'inefficienza computazionale nei grandi modelli generativi, che sono inadatti all'elevata frequenza di campionamento richiesta dalla pianificazione basata su modelli.
Pianificazione a Lungo Orizzonte: La pianificazione su lunghi orizzonti è ostacolata dall'accumulo di errori di predizione. Piccole imprecisioni nelle dinamiche latenti si accumulano durante i rollout, degradando l'affidabilità delle traiettorie immaginate. Gli approcci esistenti spesso aggirano questo problema aumentando l'astrazione temporale (frame skip) o limitando la valutazione a orizzonti brevi, limitandone l'applicabilità a compiti complessi e temporalmente estesi.

Gli approcci attuali faticano a combinare la precisione degli obiettivi basati su immagini con la flessibilità della specificazione basata sul linguaggio, mantenendo al contempo la robustezza contro gli errori di predizione su orizzonti lunghi.

Metodologia: LAGO

Gli autori introducono LAGO (Latent Goal Prediction from Language), un framework progettato per predire sequenze di stati di obiettivi intermedi da istruzioni linguistiche e rollout condizionati dalle azioni all'interno dello stesso spazio latente.

Architettura

LAGO è costruito su una Architettura Predittiva di Embedding Congiunto (JEPA) che opera in uno spazio latente condiviso. Supporta due modalità operative tramite un singolo predittore $\pi(\cdot)$ :

Predizione della Transizione al Passo Successivo: Condizionato su azioni a basso livello per predire lo stato latente immediatamente successivo.
Predizione del Subgoal (Sotto-obiettivo): Condizionato su istruzioni linguistiche e uno scalare di completamento $\rho$ (che stima il progresso del compito) per predire subgoals latenti intermedi.

Componenti Chiave:

Encoder Visivo: Utilizza un DINOv2 ViT congelato per codificare le osservazioni RGB in token di patch.
Condizionamento Multi-Modale: Le istruzioni linguistiche vengono incorporate e proiettate in uno spazio di condizionamento condiviso. Uno scalare di completamento $\rho \in [0, 1]$ è anch'esso proiettato. Un embedding specifico per la modalità distingue tra condizionamento all'azione e condizionamento al subgoal.
Addestramento Unificato: Il modello è addestrato congiuntamente utilizzando un obiettivo di errore quadratico medio (MSE). Minimizza l'errore tra lo stato predetto e quello reale (usando il condizionamento all'azione) e tra il subgoal predetto e quello reale (usando il condizionamento linguistico e $\rho$ ).

Strategia di Pianificazione

LAGO trasforma la pianificazione a lungo orizzonte in una sequenza di obiettivi localmente trattabili:

Generazione dei Subgoal: Dato uno stato corrente e un'istruzione linguistica, LAGO genera $K$ subgoals latenti a scalari di completamento uniformemente spaziati ( $\rho_k = k/K$ ). Fondamentalmente, questi subgoals sono predetti indipendentemente dallo stato corrente (non autoregressivamente) per evitare l'accumulo di errori.
Re-predizione Online: I subgoals vengono re-predetti ad ogni passo di Controllo Predittivo del Modello (MPC), permettendo all'agente di adattarsi al proprio stato in evoluzione.
Costo di Traiettoria Soft Minimum (JLAGO): Per valutare le sequenze di azioni candidate, LAGO impiega una funzione di costo soft-minimum. Invece di richiedere che una traiettoria raggiunga un particolare subgoal in un tempo specifico, misura il miglior allineamento ottenuto tra ogni subgoal e qualsiasi timestep lungo il rollout. Questo è controllato da un parametro di temperatura $\tau$ , permettendo una convergenza fluida verso i subgoals piuttosto che criteri di completamento discreti e fragili.

Contributi Chiave

Framework LAGO: Un modello del mondo addestrato a mappare le istruzioni in linguaggio naturale direttamente verso stati target all'interno del proprio spazio latente, colmando il divario tra la precisione visiva e la flessibilità linguistica.
Decomposizione Dinamica dei Subgoal: Un'estensione della predizione degli obiettivi per generare sequenze di subgoals latenti intermedi. L'approccio utilizza la continua re-predizione online e un costo di traiettoria soft-min per consentire una pianificazione robusta a lungo orizzonte senza la necessità di una rilevazione esplicita del completamento del subgoal.
Protocollo di Valutazione Basato sulla Distanza: Un metodo di valutazione sistematico che varia la difficoltà del compito in base alla distanza dall'obiettivo. Ciò rivela che i metodi precedenti degradano bruscamente oltre il loro orizzonte di pianificazione effettivo, mentre LAGO rimane robusto.

Risultati Sperimentali

Gli autori hanno valutato LAGO in quattro ambienti: TwoRoom (navigazione 2D), Kingdom (navigazione 2D con layout dinamici e pericoli irreversibili), OGBench Cube (manipolazione) e OGBench Scene (manipolazione complessa).

Robustezza a Lungo Orizzonte: Negli ambienti TwoRoom, Kingdom e OGBench Cube, i baseline di obiettivo basati su immagini (DINO-WM, Temporal Straightening, LeWM) sono falliti completamente all'aumentare della difficoltà del compito (distanza) (ad esempio, scendendo allo 0% di tasso di successo ad alte difficoltà). Al contrario, LAGO ha mantenuto alti tassi di successo (ad esempio, 90% di successo a difficoltà 115 in TwoRoom).
Obiettivi Linguistici vs. Visivi: LAGO condizionato su obiettivi testuali ha superato significativamente i baseline di obiettivi linguistici (LIV, PE-Core, Robo-Dopamine). Ad esempio, in Kingdom, LAGO ha raggiunto un tasso di successo del 96,9% rispetto al 52,6% del baseline LIV fine-tuned.
Efficienza: LAGO ha dimostrato un'elevata efficienza di inferenza (circa 11ms per osservazione) rispetto ai grandi modelli di ricompensa generativi come Robo-Dopamine (circa 451ms), rendendolo praticabile per l'MPC in tempo reale.
Studi di Ablazione: Le prestazioni sono rimaste stabili per $K \ge 4$ subgoals. La temperatura $\tau$ del soft-min è stata trovata robusta entro un intervallo ragionevole.

Significato e Rivendicazioni

Il paper sostiene che LAGO riesce a colmare il divario tra la precisione degli obiettivi basati su immagini e la flessibilità del controllo guidato dal testo. Radicando il linguaggio nello spazio latente del modello del mondo e scomponendo i compiti in subgoals intermedi, il framework mitiga l'accumulo di errori di predizione.

Gli autori affermano che il loro lavoro consente una pianificazione robusta e precisa a lungo orizzonte puramente dal linguaggio, evitando il rapido degrado osservato nei metodi precedenti quando l'orizzonte di pianificazione si estende oltre la portata immediata. Sottolineano che ciò è ottenuto senza richiedere supervisione di azioni o ricompense durante la fase di pianificazione, affidandosi invece alla guida strutturata dei predetti subgoals latenti. Il lavoro è presentato come un passo verso l'affrontare sfide di pianificazione sempre più complesse, combinando i punti di forza delle modalità visive e linguistiche all'interno di un unico, efficiente framework di pianificazione.