SC$^{2}$-WM: A Self-Correcting World Model with Closed-Loop Feedback for Vision-and-Language Navigation in Continuous Environments

Stel je voor dat je een robot leert om een gids te zijn in een gigantische, onzichtbare doolhof. De robot heeft een camera en kan je stem horen, maar kan niet de hele kaart in één keer zien. Het ziet alleen wat direct voor zijn lens staat. Dit is de wereld van Vision-and-Language Navigation (VLN). De robot moet luisteren naar een zin als "Loop langs de rode bank, sla linksaf bij de gang, en stop bij de lamp," en vervolgens echt zijn lichaam bewegen om die lamp te vinden. Het lastige deel is dat de robot "gedeeltelijk observeerbaar" is, wat betekent dat het is alsof je door een donker huis loopt met een zaklamp; je ziet alleen een kleine cirkel van licht en je moet onthouden waar je bent geweest om te weten waar je bent.

De meeste robots van vandaag proberen dit op te lossen door een plan te maken en dit vervolgens stap voor stap uit te voeren, zonder terug te kijken om te zien of ze nog wel op de goede weg zijn. Het is alsof je een auto bestuurt terwijl je naar een papieren kaart staart en weigert uit het raam te kijken totdat je tegen een muur rijdt. Als de robot in het begin een kleine fout maakt — zoals iets te ver naar links draaien — blijft hij in die verkeerde richting lopen, en stapelt de fout zich op totdat hij hopeloos verdwaald is. Dit artikel introduceert een nieuwe manier voor robots om na te denken: in plaats van alleen maar blindelings te lopen, leren ze te "dagdromen" over wat er volgende zal gebeuren, te controleren of die dagdroom overeenkomt met hun huidige gevoelens, en hun koers te corrigeren voordat ze zelfs maar een stap zetten.

De Robot die Dagdroomt om Niet Verdwaald te raken

Maak kennis met SC2-WM, een nieuw "robotbrein" ontworpen om door deze lastige, continue 3D-werelden te navigeren. De auteurs van dit artikel merkten op dat de meeste robots lijken op studenten die een toets maken zonder hun antwoorden te controleren. Ze lezen de instructie, doen een gok en bewegen. Als ze een fout maken, merken ze het pas wanneer ze tegen een muur botsen of vast komen te zitten. De onderzoekers wilden de robot een "tweede paar ogen" geven dat in zijn eigen hoofd leeft.

Zie SC2-WM als een robot met een superkracht: vooruitziendheid. Voordat de robot daadwerkelijk zijn benen beweegt, pauzeert hij en vraagt zichzelf af: "Als ik deze stap zet, hoe ziet de wereld er dan één seconde vanaf nu uit?" Hij creëert een mentale film van de toekomst. Dit wordt een "World Model" genoemd. Het is als een schaker die niet alleen een stuk verplaatst, maar ook de volgende zet van de tegenstander en de toestand van het bord daarnaal voor zich ziet.

Hier gebeurt de magie. De robot vergelijkt zijn "mentale film" van de toekomst met zijn huidige realiteit.

• De "State-Level" Correctie: Stel je voor dat je loopt en je dagdroomt dat je een keuken zou moeten zien, maar je ogen vertellen je dat je nog steeds in een slaapkamer bent. Je brein zegt: "Wacht, er klopt iets niet!" SC2-WM doet precies dit. Het merkt de discrepantie op tussen de voorspelling en de huidige staat. Het geeft vervolgens een zachte duw aan de interne kaart om de fout te herstellen voordat de stap wordt gezet. Het is als een GPS die beseft dat je een afslag hebt gemist en direct de route herberekent voordat je een verkeerde straat inrijdt.
• De "Model-Level" Correctie: Soms is het dagdroomvermogen van de robot niet goed genoeg voor een vreemde nieuwe kamer die hij nog nooit heeft gezien. Misschien hebben de muren een andere kleur of staat het meubilair vreemd opgesteld. In die gevallen realiseert de robot zich: "Mijn interne kaart is verouderd!" Het activeert dan een speciale "adaptatiemodus". Het werkt de regels van het eigen brein snel bij om deze specifieke nieuwe omgeving beter te begrijpen. Het is als een student die beseft dat zijn studiegids niet klopt voor deze specifieke toets, en daarom snel zijn aantekeningen herschrijft om aan te sluiten bij de nieuwe vragen.

Het artikel betoogt dat vertrouwen op externe beloningen (zoals een mens die pas aan het einde zegt: "Goed gedaan!") te traag en te zeldzaam is. In plaats daarvan gebruikt SC2-WM interne feedback. Het luistert naar zijn eigen "onderbuikgevoel" (het verschil tussen wat het verwachtte en wat het ziet) om zichzelf in realtime te corrunen.

Wat de Experimenten Lieten Zien

De onderzoekers testten deze "dagdromende" robot in twee grote digitale werelden: R2R-CE en RxR-CE. Dit zijn complexe 3D-omgevingen vol meubels, gangen en lastige instructies. Ze vergeleken SC2-WM met andere toprobots die niet over deze zelfcorrigerende vaardigheid beschikken.

De resultaten waren zeer veelbelovend. In de R2R-CE dataset, wanneer de robot door onbekende kamers moest navigeren (zoals een nieuw huis dat hij nog nooit had bezocht), verbeterde SC2-WM de Success Rate (SR) met 7,1% en de Success weighted by Path Length (SPL) met bijna 7,8% ten opzichte van de vorige beste methode. Het liep ook kortere paden, waarbij het gemiddeld 5 meter minder afstand aflegde dan de anderen, wat betekent dat het minder ronddwaalde.

In de nog moeilijkere RxR-CE dataset, die langere en complexere instructies bevat, verbeterde de robot de succesrate met 9,1% en de pad-efficiëntie met 7,1%. De onderzoekers testten de robot ook op een echte fysieke robot, een Unitree GO2 quadruped (een viervoetige, hondachtige robot) met een camera. In de echte wereld behaalde SC2-WM een succesrate van 85%, waarmee het de standaardrobot met 70% versloeg. Dit suggereert dat de "dagdroom"-truc niet alleen werkt in computersimulaties, maar ook in rommelige, echte kamers.

Waarom Dit Belangrijk Is

Het artikel suggereert dat door robots het vermogen te geven om hun eigen interne voorspellingen te controleren, we ze veel betrouwbaarder kunnen maken. In plaats van rigide machines die een script volgen en falen wanneer er iets een klein beetje misgaat, gedraagt SC2-WM zich als een voorzichtige ontdekkingsreiziger die constant zijn kompas controleert. Het heeft geen mens nodig om te zeggen dat het fout gaat; het komt er zelf achter door te beseffen dat de "dagdroom" niet overeenkwam met de realiteit.

De auteurs merken er voorzichtig bij op dat dit geen wondermiddel is dat alles direct oplost. Ze ontdekten dat de robot het beste werkt wanneer hij een goed geheugen heeft van recente stappen (ongeveer 4 stappen terug) en wanneer hij de regels van zijn brein alleen bijwerkt wanneer dat echt nodig is. Ze wijzen ook erop dat hoewel sommige andere methoden enorme, zware AI-modellen gebruiken, SC2-WM "lichtgewicht" is en efficiënt draait op een enkele grafische kaart. Dit betekent dat het uiteindelijk kan worden geplaatst op kleine, echte robots die onze huizen moeten navigeren zonder een supercomputer in de cloud nodig te hebben.

Kortom, SC2-WM leert robots om een beetje meer zelfbewust te zijn. Door hen te laten "vooruitdenken" en hun eigen fouten te corrigeren voordat ze gebeuren, kunnen we eindelijk robots krijgen die door onze complexe, rommelige wereld kunnen navigeren zonder verdwaald te raken in de eerste de beste gang.