SC$^{2}$-WM: A Self-Correcting World Model with Closed-Loop Feedback for Vision-and-Language Navigation in Continuous Environments

Stellen Sie sich vor, Sie bringen einem Roboter bei, ein Reiseleiter in einem riesigen, unsichtbaren Labyrinth zu sein. Der Roboter hat eine Kamera und kann Ihrer Stimme hören, aber er kann nicht die gesamte Karte auf einmal sehen. Er sieht nur das, was direkt vor seinem Objektiv liegt. Dies ist die Welt der Vision-and-Language Navigation (VLN). Der Roboter muss einer Anweisung wie „Gehe am roten Sofa vorbei, biege in der Flur links ab und halte beim Tisch mit der Lampe an“ folgen und tatsächlich seinen Körper bewegen, um diese Lampe zu finden. Der schwierige Teil ist, dass der Roboter „teilweise beobachtbar“ ist, was bedeutet, dass es ist, als würde man durch ein dunkles Haus mit einer Taschenlampe laufen; man kann nur einen kleinen Lichtkreis sehen und muss sich daran erinnern, wo man gewesen ist, um zu wissen, wo man sich befindet.

Die meisten heutigen Roboter versuchen, dies zu lösen, indem sie einen Plan erstellen und diesen dann Schritt für Schritt ausführen, ohne zurückzublicken, um zu sehen, ob sie noch auf dem richtigen Weg sind. Es ist wie das Fahren eines Autos, während man auf eine Papierkarte starrt und sich weigert, aus dem Fenster zu schauen, bis man gegen eine Wand fährt. Wenn der Roboter frühzeitig einen winzigen Fehler macht – etwa wenn er etwas zu weit nach links abbiegt – läuft er in dieser falschen Richtung weiter, und der Fehler häuft sich an, bis er hoffnungslos verloren ist. Dieses Paper führt einen neuen Weg vor, wie Roboter denken: Anstatt nur blind zu laufen, lernen sie zu „tagträumen“, was als Nächstes passieren wird, prüfen, ob dieser Tagtraum mit ihren aktuellen Gefühlen übereinstimmt, und korrigieren ihren Kurs, noch bevor sie überhaupt einen Schritt machen.

Der Roboter, der tagträumt, um sich nicht zu verlaufen

Lernen Sie SC2-WM kennen, ein neues Robotergehirn, das entwickelt wurde, um in diesen kniffligen, kontinuierlichen 3D-Welten zu navigieren. Die Autoren dieses Papers stellten fest, dass die meisten Roboter wie Studenten sind, die eine Prüfung ablegen, ohne ihre Antworten zu überprüfen. Sie lesen die Anweisung, machen eine Vermutung und bewegen sich. Wenn sie falsch liegen, merken sie es erst, wenn sie gegen eine Wand prallen oder stecken bleiben. Die Forscher wollten dem Roboter ein „zweites Paar Augen“ geben, das in seinem eigenen Kopf lebt.

Betrachten Sie SC2-WM als einen Roboter mit einer Superkraft: Voraussicht. Bevor der Roboter seine Beine bewegt, hält er inne und fragt sich selbst: „Wie wird die Welt in einer Sekunde aussehen, wenn ich diesen Schritt mache?“ Er erstellt einen mentalen Film der Zukunft. Dies wird als „Weltmodell“ bezeichnet. Es ist wie ein Schachspieler, der nicht nur ein Stück zieht, sondern auch den nächsten Zug des Gegners und den Zustand des Brettes danach im Geist durchspielt.

Hier geschieht die Magie. Der Roboter vergleicht seinen „mentalen Film“ der Zukunft mit seiner aktuellen Realität.

• Die Korrektur auf State-Ebene: Stellen Sie sich vor, Sie gehen spazieren und träumen davon, eine Küche zu sehen, aber Ihre Augen sagen Ihnen, dass Sie sich noch im Schlafzimmer befinden. Ihr Gehirn sagt: „Warte, etwas stimmt nicht!“ SC2-WM macht genau das. Es bemerkt die Diskrepanz zwischen seiner Vorhersage und seinem aktuellen Zustand. Dann korrigiert es sanft seine interne Karte, um den Fehler zu beheben, bevor es den Schritt macht. Es ist wie ein GPS, das merkt, dass man eine Abzweigung verpasst hat, und sofort die Route neu berechnet, bevor man in die falsche Straße fährt.
• Die Korrektur auf Model-Ebene: Manchmal ist die Tagträum-Fähigkeit des Roboters nicht gut genug für einen seltsamen neuen Raum, den er noch nie gesehen hat. Vielleicht haben die Wände eine andere Farbe oder die Möbel sind seltsam angeordnet. In diesen Fällen erkennt der Roboter: „Meine interne Karte ist veraltet!“ Dann löst er einen speziellen „Adaptionsmodus“ aus. Er aktualisiert schnell seine eigenen Gehirnregeln, um diese spezifische neue Umgebung besser zu verstehen. Es ist wie ein Student, der merkt, dass sein Lernzettel für diese spezifische Prüfung falsch ist, und deshalb schnell seine Notizen umschreibt, damit sie zu den neuen Fragen passen.

Das Paper argumentiert, dass das Vertrauen auf externe Belohnungen (wie ein Mensch, der erst am Ende „Gut gemacht!“ sagt) zu langsam und zu selten ist. Stattdessen nutzt SC2-WM internes Feedback. Es hört auf sein eigenes „Bauchgefühl“ (den Unterschied zwischen dem, was es erwartet hat, und dem, was es sieht), um sich in Echtzeit selbst zu korrigieren.

Was die Experimente zeigten

Die Forscher testeten diesen „tagträumenden“ Roboter in zwei großen digitalen Welten: R2R-CE und RxR-CE. Dies sind komplexe 3D-Umgebungen voller Möbel, Flure und kniffliger Anweisungen. Sie verglichen SC2-WM mit anderen Top-Robotern, die nicht über diese selbstkorrigierende Fähigkeit verfügen.

Die Ergebnisse waren sehr vielversprechend. Im R2R-CE-Datensatz, als der Roboter in ungesehenen Räumen navigieren musste (wie in einem neuen Haus, das er noch nie besucht hatte), verbesserte SC2-WM die Erfolgsrate (Success Rate, SR) um 7,1 % und die Pfadlänge gewichtete Erfolgsrate (Success weighted by Path Length, SPL) um fast 7,8 % im Vergleich zur bisher besten Methode. Er legte auch kürzere Wege zurück, was im Durchschnitt 5 Meter weniger Distanz bedeutete als die anderen, was zeigt, dass er nicht so sehr umherwanderte.

Im noch schwierigeren RxR-CE-Datensatz, der längere und komplexere Anweisungen enthält, verbesserte der Roboter seine Erfolgsrate um 9,1 % und seine Pfadeffizienz um 7,1 %. Die Forscher testeten den Roboter auch auf einem echten physischen Roboter, einem Unitree GO2 Quadruped (einem vierbeinigen, hundähnlichen Roboter) mit einer Kamera. In der realen Welt erreichte SC2-WM eine Erfolgsrate von 85 % und schlug damit den Standardroboter mit 70 %. Dies deutet darauf hin, dass der „Tagträumen“-Trick nicht nur in Computersimulationen, sondern auch in unordentlichen, realen Räumen funktioniert.

Warum das wichtig ist

Das Paper legt nahe, dass wir Roboter wesentlich zuverlässiger machen können, indem wir ihnen die Fähigkeit geben, ihre eigenen internen Vorhersagen zu überprüfen. Anstatt starre Maschinen zu sein, die einem Skript folgen und scheitern, wenn die Dinge leicht von der Norm abweichen, agiert SC2-WM eher wie ein vorsichtiger Entdecker, der ständig seinen Kompass prüft. Er braucht keinen Menschen, der ihm sagt, dass er falsch liegt; er findet es heraus, indem er realisiert, dass sein „Tagtraum“ nicht mit der Realität übereicht.

Die Autoren weisen vorsichtig darauf hin, dass dies kein Allheilmittel ist, das alles sofort löst. Sie fanden heraus, dass der Roboter am besten arbeitet, wenn er ein gutes Gedächtnis für die letzten Schritte (etwa 4 Schritte zurück) hat und wenn er seine Gehirnregeln nur dann aktualisiert, wenn er es wirklich muss. Sie weisen auch darauf hin, dass während einige andere Methoden massive, schwere KI-Modelle verwenden, SC2-WM „leichtgewichtig“ ist und effizient auf einer einzelnen Grafikkarte läuft. Das bedeutet, dass er schließlich auf kleinen, realen Robotern eingesetzt werden könnte, die unsere Häuser navigieren müssen, ohne einen Supercomputer in der Cloud zu benötigen.

Kurz gesagt: SC2-WM lehrt Roboter, ein wenig selbstbewusster zu sein. Indem sie lernt, „vorauszudenken“ und ihre eigenen Fehler zu korrigieren, bevor sie passieren, könnten wir endlich Roboter erhalten, die in der Lage sind, in unseren komplexen, chaotischen Welten zu navigieren, ohne sich schon im ersten Flur zu verlaufen.