Sintesi Tecnica: Quanto sono efficaci i modelli di mondo latenti nel comprendere i vincoli di sicurezza parzialmente osservabili?

Definizione del Problema

I modelli di mondo latenti (WM) offrono un'alternativa promettente ai modelli dinamici specificati manualmente per l'apprendimento di rappresentazioni di stato e politiche di controllo direttamente da osservazioni ad alta dimensione (ad es., immagini RGB). Tuttavia, la loro efficacia in scenari critici per la sicurezza dipende dal fatto che la rappresentazione dello stato appresa codifichi tutte le informazioni necessarie per soddisfare i vincoli di sicurezza.

Questo articolo investiga i limiti dei modelli di mondo latenti sotto osservabilità parziale, dove i dati di addestramento mancano di informazioni sufficienti per determinare quantità critiche per la sicurezza. Gli autori identificano una modalità di fallimento critica distinta dalla classica stima dello stato: gli "unknown unknowns" (incognite ignote). A differenza dei contesti classici dove lo spazio degli stati è ben definito (permettendo la quantificazione dell'incertezza tramite filtri come i filtri di Kalman), i modelli di mondo latenti inferiscono la rappresentazione dello stato stesso dai dati. Se le variabili di sicurezza rilevanti sono assenti dalle osservazioni, esse potrebbero essere completamente assenti dallo spazio latente appreso, portando a comportamenti di controllo non sicuri.

Gli autori definiscono due specifiche modalità di fallimento:

1. Gap di Stima (Estimation Gaps): Le osservazioni attuali sono insufficienti per determinare se un vincolo di sicurezza sia attualmente violato (ad es., inferire la temperatura solo dalle immagini RGB).
2. Gap di Predizione (Prediction Gaps): I fallimenti sono osservabili una volta che si verificano, ma non possono essere anticipati in modo affidabile dalle osservazioni attuali a causa di informazioni mancanti (ad es., prevedere uno sversamento senza sapere se una bottiglia è piena).

Metodologia

Diagnostica per i Gap di Osservabilità

Per quantificare questi gap, gli autori propongono due metriche diagnostiche offline:

1. Informazione Mutua (MI) per l'Osservabilità della Sicurezza: Per misurare i gap di stima, stimano l'informazione mutua $I(Y; X)$ tra le osservazioni $X$ (ad es., immagini RGB) e le etichette di sicurezza $Y$. Utilizzando il limite inferiore variazionale di Barber–Agakov, addestrano un classificatore lineare (linear probe) sulle rappresentazioni latenti per quantificare quanta incertezza sull'etichetta di sicurezza viene ridotta dall'osservazione.
2. Accuratezza della Predizione basata su Rollout: Per misurare i gap di predizione, valutano la capacità del modello di mondo di prevedere futuri esiti di sicurezza tramite rollout in loop aperto. Simulano sequenze di azioni di 16 passi e misurano l'accuratezza della classificazione delle etichette di sicurezza previste, analizzando specificamente i campioni in cui i modelli unimodali e multimodali divergono.

Strategie di Mitigazione

Il documento propone strategie distinte per ciascuna modalità di fallimento:

• Per i Gap di Stima (Supervisione Multimodale Privilegiata): Inve Instead di richiedere sensori multimodali al momento dell'implementazione, gli autori addestrano il modello di mondo utilizzando input RGB, ma impongono una supervisione multimodale. Il modello ha il compito di ricostruire modalità rilevanti per la sicurezza (ad es., immagini termiche IR) a partire dall'input RGB. Questa supervisione "privilegiata" durante l'addestramento modella la rappresentazione latente affinché codifichi quantità critiche per la sicurezza (come la temperatura) anche se non sono direttamente osservabili durante l'esecuzione.
• Per i Gap di Predizione (Calibrazione del Rischio Conforme): Quando lo stato latente non può prevedere in modo affidabile i futuri fallimenti, gli autori propongono di calibrare la soglia del controllore di sicurezza. Utilizzando la predizione conforme (conformal prediction), regolano la soglia di intervento ($\epsilon$) in base all'accuratezza della predizione dei fallimenti del modello su un set di calibrazione. Ciò garantisce che il controllore adotti una politica di fallback conservativa quando l'incertezza predittiva del modello è elevata, limitando il tasso di falsi accetti di azioni non sicure.

Configurazione Sperimentale

Gli autori validano il loro approccio su un manipolatore Franka Research 3 attraverso due task hardware:

1. Fusione della Cera (Gap di Stima): Un robot deve riscaldare la cera senza superare i 72°C. Il task si basa sull'inferenza della temperatura. I modelli sono addestrati su dati RGB-only rispetto a RGB+IR.
2. Versamento del Riso (Gap di Predizione): Un robot deve versare il riso da una bottiglia opaca senza versarlo. La bottiglia può essere vuota o piena. Il task si basa sulla previsione se un'inclinazione causerà uno sversamento. I modelli sono addestrati su dati RGB-only rispetto a RGB+Tattili.

Risultati Chiave

Risultati Diagnostici

• Gap di Stima: Nel task della Fusione della Cera, l'informazione mutua tra le osservazioni RGB e l'etichetta di sicurezza (surriscaldamento) era significativamente più bassa ($I/H \approx 0.22$) rispetto alle osservazioni IR ($I/H \approx 0.80$). Le metriche di accuratezza standard erano meno sensibili a questo gap, suggerendo che la MI sia una diagnostica più robusta per l'osservabilità della sicurezza.
• Gap di Predizione: Nel task del Versamento del Riso, sebbene entrambi i modelli potessero identificare gli sversamenti dopo che si erano verificati, il modello RGB-only non riusciva a prevederli in modo affidabile nei rollout in loop aperto. Il modello multimodale ha ottenuto un'accuratezza significativamente superiore nei campioni in cui i due modelli divergevano, indicando che lo spazio latente RGB-only mancava della capacità rappresentativa per correlare le azioni con i futuri esiti di sicurezza.

Performance della Mitigazione

• Supervisione Privilegiata (Fusione della Cera): Un modello di mondo addestrato con input RGB ma supervisionato dalla ricostruzione IR (WM_RGB-MM) ha ottenuto un tasso di prevenzione (lift rate) del 100% (prevenendo il surriscaldamento), eguagliando le prestazioni del modello completamente multimodale. Al contrario, il modello RGB-only ha fallito l'85% delle volte. Fondamentalmente, il modello WM_RGB-MM ha appreso una politica conservativa, intervenendo prima del modello multimodale, dimostrando che lo stato latente ha codificato con successo la necessaria dinamica di sicurezza nonostante la mancanza di input IR durante l'esecuzione.
• Calibrazione Conforme (Versamento del Riso): L'applicazione della calibrazione conforme al controllore RGB ha regolato la sua soglia per tenere conto della sua incapacità di prevedere gli sversamenti. Sebbene ciò abbia reso il controllore RGB altamente conservativo (permettendo il versamento solo il 18% delle volte per le bottiglie vuote rispetto al 60% del modello multimodale), ha comunque limitato il tasso di fallimento al livello target ($\alpha = 0.12$). Ciò ha confermato che la calibrazione può mitigare i gap di predizione scambiando l'autorità di controllo con garanzie di sicurezza.

Significato e Rivendicazioni

Il documento sfida l'assunto che i modelli di mondo latenti catturino intrinsecamente informazioni sufficienti per il controllo sicuro sotto osservabilità parziale. Gli autori affermano che:

1. Identificazione dei Modelli di Fallimento: Identificano e caratterizzano esplicitamente i "gap di stima" e i "gap di predizione" come cause distinte di comportamenti non sicuri nel controllo dello spazio latente.
2. Diagnostica Quantitativa: Forniscono strumenti diagnostici pratici e offline (Informazione Mutua e classificazione dei rollout) per rilevare questi gap prima della distribuzione.
3. Fattibilità della Mitigazione: Dimostrano che la sicurezza può essere mantenuta anche con modalità di runtime limitate (ad es., solo RGB) sfruttando dati più ricchi durante l'addestramento (supervisione privilegiata) o calibrando statisticamente la tolleranza al rischio del controllore (predizione conforme).
4. Il Conservativismo come Scambio (Trade-off): I risultati evidenziano che mitigare i gap di osservabilità spesso richiede un aumento del conservativismo. Quando lo stato latente non può risolvere completamente l'incertezza, il controllo sicuro richiede interventi più precoci o una riduzione dei tassi di esecuzione del task.

Il lavoro conclude che, sebbene i modelli di mondo siano potenti, le loro rappresentazioni di stato devono essere esplicitamente validate per l'osservabilità della sicurezza, e le strategie di mitigazione sono essenziali quando i dati di addestramento non rivelano completamente lo stato critico sottostante.