Nel mondo dell'intelligenza artificiale, i ricercatori stanno cercando di insegnare alle macchine come funziona il mondo fisico. Vogliono che i robot e le auto a guida autonoma siano in grado di prevedere cosa accadrà dopo, non solo memorizzando immagini, ma costruendo un modello mentale interno di causa ed effetto. Per farlo, utilizzano un sistema che agisce come una mappa compressa della realtà, trasformando dati sensoriali complessi in una rappresentazione più semplice e astratta. La speranza è che, se la macchina comprende le regole sottostanti della fisica — come la gravità tira, come si muovono le articolazioni o come gira un'auto — possa pianificare le proprie azioni in modo più sicuro ed efficiente. Per anni, il consiglio standard è stato quello di forzare queste regole direttamente nella mappa interna della macchina, credendo che questa guida "informata dalla fisica" avrebbe aiutato l'IA a imparare più velocemente e meglio.

Tuttavia, un nuovo studio ha scoperto che questo approccio intuitivo è in realtà dannoso. I ricercatori hanno scoperto che quando si cerca di forzare le leggi fisiche nella rappresentazione interna della macchina, il sistema si rompe, perdendo la capacità di comprendere il mondo accuratamente. Al contrario, hanno dimostrato matematicamente e attraverso test rigorosi che le regole fisiche dovrebbero essere mantenute alla fine del processo, usate solo per interpretare l'output finale, mentre la mappa interna deve rimanere completamente libera e flessibile. Questa scoperta risolve un mistero durato anni sul perché i precedenti tentativi di costruire robot più intelligenti fallissero, offrendo una chiara linea guida su come costruire correttamente questi sistemi.

Lo studio, guidato da Mohsen Mostafa, si concentra su un tipo specifico di architettura IA progettata per prevedere lo stato futuro di un sistema basandosi sul suo stato attuale e sulle azioni. Immaginate un braccio robotico che cerca di infilare un ago. L'IA prende un'immagine della scena e della posizione attuale del robot, comprime queste informazioni in un codice nascosto e poi cerca di prevedere dove si troverà il robot un momento dopo. L'obiettivo è creare un "modello del mondo" (world model) capace di simulare il futuro all'interno del computer prima che il robot si muova effettivamente. I ricercatori stavano indagando un paradosso: quando aggiungevano regole su come le articolazioni del robot dovrebbero muoversi o su come la telecamera dovrebbe vedere il mondo direttamente nella parte dell'IA che crea il codice nascosto, il sistema funzionava peggio. Quando rimuovevano quelle regole, il sistema funzionava meglio. Questo sembrava controintuitivo, poiché ci si aspetterebbe che fornire all'IA maggiori informazioni sulle leggi della fisica la aiuterebbe.

Per risolvere questo enigma, il team ha sviluppato una serie di prove matematiche che mostrano come il codice interno, o "embedding", funzioni meglio quando è il più casuale e diffuso possibile, uno stato noto come massima entropia. Hanno dimostrato che se si vincola questo codice con regole fisiche, lo si costringe in una forma stretta che non può rappresentare la piena varietà del mondo. È come cercare di inserire un oggetto complesso e tridimensionale in una scatola piatta e rigida; l'oggetto viene schiacciato e si perdono i dettagli. La matematica ha dimostrato che la parte di previsione del sistema, che ipotizza il futuro, può gestire qualsiasi tipo di fisica senza danneggiare il codice interno, ma il codice stesso deve rimanere non vincolato. L'unico luogo in cui le regole fisiche sono sicure da applicare è alla fine del processo, nel "decoder", che traduce il codice nascosto nuovamente in una previsione di ciò che il robot vede o fa.

I ricercatori hanno testato questa teoria in due scenari del mondo reale molto diversi: la guida autonoma e la manipolazione robotica. Hanno utilizzato i dati del dataset nuScenes, che contiene migliaia di ore di filmati di guida, e il dataset MimicGen, che presenta un robot bimanuale intento a infilare un ago. In entrambi i casi, hanno eseguito centinaia di esperimenti, addestrando l'IA con diverse configurazioni. Hanno confrontato i sistemi in cui le regole della fisica erano applicate al codice interno con i sistemi in cui le regole erano applicate solo all'output finale. I risultati sono stati coerenti e statisticamente significativi. In ogni singolo test, il sistema che manteneva il codice interno libero e applicava la fisica solo alla fine produceva una rappresentazione del mondo molto migliore e più affidabile. I sistemi che cercavano di forzare la fisica nel codice soffrivano di un "collasso", in cui la mappa interna diventava troppo semplice e perdeva la capacità di distinguere tra diverse situazioni.

Uno dei risultati più sorprendenti è arrivato dal compito di infilare l'ago con il robot. I ricercatori hanno scoperto un modo di fallimento nascosto che era passato inosservato in studi precedenti. Hanno scoperto che anche quando l'IA sembrava funzionare correttamente in superficie, poteva subire un "collasso" invisibile ai controlli standard. L'IA stava trovando una scorciatoia in cui soddisfaceva le regole base del gioco senza imparare realmente le relazioni complesse necessarie per il controllo. Questo accadeva perché il compito era così semplice che l'IA poteva aggirare il sistema. Per catturare questo fenomeno, il team ha sviluppato un nuovo strumento diagnostico che guardava più a fondo nei segnali interni dell'IA, rivelando che il sistema "intelligente" era in realtà vuoto. Questa scoperta avverte che non basta controllare se un'IA può prevedere il fotogramma successivo; bisogna anche assicurarsi che la rappresentazione interna sia ricca e diversificata.

Lo studio ha anche affrontato una domanda critica: se queste migliori rappresentazioni portino effettivamente a un miglior controllo. I ricercatori hanno costruito un sistema di pianificazione che utilizzava l'IA addestrata per capire la migliore sequenza di movimenti per raggiungere un obiettivo. Si aspettavano che l'IA con il corretto posizionamento della fisica pianificasse meglio delle altre. Tuttavia, hanno trovato una trappola sottile. Il sistema di pianificazione era in grado di trovare sequenze di azioni che ottenevano punteggi perfetti sulla funzione di costo interna dell'IA, ma che erano in realtà lontane dal percorso corretto e reale. Era come se l'IA avesse imparato a barare con il sistema di punteggio piuttosto che risolvere il problema. Questo accadeva in tutte le versioni del modello, indipendentemente da come fossero state costruite. I ricercatori hanno concluso che, sebbene il loro nuovo principio di progettazione crei una mappa interna molto migliore, dimostrare che questa mappa porti a un miglior controllo nel mondo reale richiede il test del robot in un ambiente live, non solo in una simulazione al computer.

Questo lavoro fornisce una risposta definitiva a un problema che ha tormentato il campo della robotica e della guida autonoma. Dimostra che l'intuizione di iniettare la conoscenza del dominio nell'IA è corretta, ma il bersaglio era sbagliato. La fisica appartiene al decoder, dove aiuta a interpretare il mondo, ma mai all'encoder, dove distrugge la capacità del sistema di apprendere. Seguendo questa regola, gli ingegneri possono costruire modelli del mondo che siano teoricamente solidi ed empiricamente robusti. Lo studio funge anche da monito per il settore, evidenziando che i test offline possono essere fuorvianti e che la vera validazione richiede di vedere come il sistema si comporta quando interagisce con il mondo reale. Il codice e i dati di questi esperimenti sono stati resi pubblici, permettendo ad altri ricercatori di verificare questi risultati e costruire su questa nuova base per la creazione di macchine intelligenti.