In de wereld van kunstmatige intelligentie proberen onderzoekers machines te leren hoe de fysieke wereld werkt. Ze willen dat robots en zelfrijdende auto's voorspellen wat er hierna zal gebeuren, niet alleen door plaatjes te onthouden, maar door een intern mentaal model van oorzaak en gevolg op te bouwen. Om dit te doen, gebruiken ze een systeem dat fungeert als een gecomprimeerde kaart van de werkelijkheid, waarbij complexe sensorische gegevens worden omgezet in een eenvoudigere, abstracte representatie. De hoop is dat als de machine de onderliggende regels van de fysica begrijpt — hoe zwaartekracht trekt, hoe gewrichten bewegen of hoe een auto afslaat — het zijn acties veiliger en efficiënter kan plannen. Jarenlang was het standaardadvies om deze regels direct in de interne kaart van de machine te dwingen, in de overtuiging dat deze "fysica-geïnformeerde" sturing de AI sneller en beter zou laten leren.

Echter, een nieuwe studie heeft ontdekt dat deze intuïtieve aanpak eigenlijk schadelijk is. De onderzoekers vonden dat wanneer je probeert fysieke wetten in de interne representatie van de machine te dwingen, het systeem instort en het vermogen verliest om de wereld accuraat te begrijpen. In plaats daarvan hebben ze wiskundig bewezen en via rigoureuze tests aangetoond dat fysieke regels helemaal aan het einde van het proces moeten worden gehouden, waarbij ze alleen worden gebruikt om de uiteindelijke output te interpreteren, terwijl de interne kaart zelf volledig vrij en flexibel moet blijven. Deze ontdekking lost een langlopend mysterie op over waarom eerdere pogingen om slimmere robots te bouwen faalden, en biedt een duidelijk blauwdruk voor hoe deze systemen correct te construeren.

De studie, geleid door Mohsen Mostafa, richt zich op een specifiek type AI-architectuur die ontworpen is om de toekomstige staat van een systeem te voorspellen op basis van de huidige staat en acties. Stel je een robotarm voor die probeert een naald te rijgen. De AI neemt een foto van de scène en de huidige positie van de robot, comprimeert deze informatie in een verborgen code, en probeert vervolgens te voorspellen waar de robot een moment later zal zijn. Het doel is om een "wereldmodel" te creëren dat de toekomst binnen de computer kan simuleren voordat de robot daadwerkelijk beweegt. De onderzoekers onderzochten een paradox: wanneer zij regels toevoegden over hoe de gewrichten van de robot zouden moeten bewegen of hoe de camera de wereld zou moeten zien, direct in het deel van de AI dat de verborgen code creëert, presteerde het systeem slechter. Wanneer zij die regels verwijderden, werkte het systeem beter. Dit leek contra-intuïtief, aangezien men zou verwachten dat het geven van meer informatie over de wetten van de fysica de AI zou helpen.

Om dit puzzelstuk op te lossen, ontwikkelde het team een reeks wiskundige bewijzen die aantonen dat de interne code, of "embedding", het beste werkt wanneer deze zo willekeurig en verspreid mogelijk is, een staat die bekend staat als maximale entropie. Ze bewezen dat als je deze code met fysieke regels beperkt, je deze in een smalle vorm dwingt die niet de volledige variëteit van de wereld kan representeren. Het is alsof je probeert een complex, driedimensionaal object in een platte, rigide doos te passen; het object wordt geplet en je verliest de details. De wiskunde toonde aan dat het voorspellende deel van het systeem, dat de toekomst raadt, elke vorm van fysica kan afhandelen zonder de interne code te schaden, maar de code zelf moet onbeperkt blijven. De enige plek waar fysieke regels veilig toegepast kunnen worden, is aan het uiterste einde, in de "decoder", die de verborgen code terugvertaalt naar een voorspelling van wat de robot ziet of doet.

De onderzoekers testten deze theorie in twee zeer verschillende real-world scenario's: autonoom rijden en robotische manipulatie. Ze gebruikten data uit de nuScenes-dataset, die duizenden uren aan rijbeelden bevat, en de MimicGen-dataset, die een bimanuele robot bevat die probeert een naald te rijgen. In beide gevallen voerden ze honderden experimenten uit, waarbij de AI werd getraind met verschillende configuraties. Ze vergeleken systemen waarbij de fysica-regels werden toegepast op de interne code met systemen waarbij de regels alleen werden toegepast op de uiteindelijke output. De resultaten waren consistent en statistisch significant. In elke enkele test produceerde het systeem dat de interne code vrij hield en fysica alleen aan het einde toepaste, een veel betere en betrouwbaardere representatie van de wereld. De systemen die probeerden fysica in de code te dwingen, leden onder een "instorting", waarbij de interne kaart te simpel werd en het vermogen verloor om tussen verschillende situaties te onderscheiden.

Een van de meest verrassende bevindingen kwam voort uit de robotische draad-taak. De onderzoekers ontdekten een verborgen foutmodus die in eerdere studies over het hoofd was gezien. Ze ontdekten dat zelfs wanneer de AI aan de oppervlakte correct leek te werken, deze kon "instorten" op een manier die onzichtbaar was voor standaardcontroles. De AI vond een kortere weg waarbij hij aan de basisregels van het spel voldeed zonder daadwerkelijk de complexe relaties te leren die nodig zijn voor controle. Dit gebeurde omdat de taak zo eenvoudig was dat de AI het systeem kon omzeilen. Om dit te vangen, ontwikkelde het team een nieuwe diagnostische tool die dieper in de interne signalen van de AI keek, wat onthulde dat het "slimme" systeem eigenlijk hol was. Deze ontdekking waarschuwt dat het simpelweg controleren of een AI het volgende frame kan voorspellen niet genoeg is; men moet ook waarborgen dat de interne representatie rijk en divers is.

De studie pakte ook de kritische vraag aan of deze betere representaties daadwerkelijk leiden tot betere controle. De onderzoekers bouwden een planningssysteem dat de getrainde AI gebruikte om de beste opeenvolging van bewegingen te bepalen om een doel te bereiken. Ze verwachtten dat de AI met de juiste plaatsing van de fysica beter zou plannen dan de anderen. Echter, ze stuitten op een subtiele valstrik. Het planningssysteem was in staat om actiesequenties te vinden die perfect scoorden op de interne kostenfunctie van de AI, maar die in werkelijkheid ver verwijderd waren van het ware, juiste pad. Het was alsof de AI had geleerd om het scoresysteem te manipuleren in plaats van het probleem op te lossen. Dit gebeurde bij alle versies van het model, ongeacht hoe ze waren gebouwd. De onderzoekers concludeerden dat hoewel hun nieuwe ontwerpprincipe een veel betere interne kaart creëert, het bewijzen dat deze kaart leidt tot betere real-world controle, testen van de robot in een live omgeving vereist, en niet alleen in een computersimulatie.

Dit werk biedt een definitief antwoord op een probleem dat het veld van robotica en autonoom rijden al geruime tijd teistert. Het laat zien dat de intuïtie om domeinkennis in AI te injecteren juist is, maar dat het doelwit fout was. Fysica behoort thuis in de decoder, waar het helpt de wereld te interpreteren, maar nooit in de encoder, waar het het vermogen van het systeem om te leren vernietigt. Door deze regel te volgen, kunnen ingenieurs wereldmodellen bouwen die theoretisch solide en empirisch robuust zijn. De studie dient ook als een waarschuwing voor het vakgebied, waarbij wordt benadrukt dat offline tests misleidend kunnen zijn en dat echte validatie vereist is door te kijken naar hoe het systeem presteert wanneer het interactie heeft met de echte wereld. De code en data voor deze experimenten zijn openbaar gemaakt, zodat andere onderzoekers deze bevindingen kunnen verifiëren en kunnen voortbouwen op deze nieuwe fundering voor het creëren van intelligente machines.