← Neueste Arbeiten
💬 NLP

VisualPatchWorld: Code World Models as Latent Structured Representations for Planning

VisualPatchWorld führt einen neuartigen Ansatz zur Konstruktion von Weltmodellen ein, indem es Dynamiken als ausführbaren Code darstellt, der mittels qualitativer Sondierung ausgewählt und aus Daten angepasst wird, um eine interpretierbare, editierbare und hocheffektive Planung zu ermöglichen, die bestehende codebasierte Baselines übertrifft.

Ursprüngliche Autoren: Jiaxin Bai, Jiaxuan Xiong

Veröffentlicht 2026-07-29
📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

Ursprüngliche Autoren: Jiaxin Bai, Jiaxuan Xiong

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen einem Roboter beizubringen, wie er durch ein unordentliches Zimmer navigiert, einen Becher aufhebt und ein Getränk ausgießt, ohne zu verschütten. Um dies zu tun, benötigt der Roboter ein „Weltmodell“ – eine mentale Landkarte davon, wie die Welt funktioniert. Dies ist vergleichbar mit einer Videospiel-Engine, die im Inneren des Robotergehirns läuft. Wenn der Robot wissen möchte, was passiert, wenn er einen Stuhl schubst, kann er nicht einfach raten; er muss den Schub zuerst in seinem Kopf simulieren.

Lange Zeit haben Wissenschaftler versucht, diese mentalen Landkarten auf zwei sehr unterschiedliche Arten zu bauen. Der erste Weg ist wie das Training eines superintelligenten, aber geheimnisvollen Schülers. Man zeigt dem Roboter tausende Videos von Vorgängen, und er lernt, die Zukunft vorherzusagen, indem er Muster in einem verborgenen, mathematischen Raum findet. Er ist großartig im Raten, aber wenn er einen Fehler macht, weiß niemand, warum – es ist wie eine Black Box, in der die Regeln unsichtbar sind. Der zweite Weg ist wie das Erstellen eines detaillierten, manuellen Bauplans. Ingenieure schreiben jede einzelne physikalische Gesetzmäßigkeit (Gravitation, Reibung, Kollisionen) in Code. Das ist sehr klar und leicht zu korrigieren, aber es ist unglaublich schwierig, einen Bauplan für jedes mögliche Zimmer oder jedes Objekt in der Welt zu schreiben. Die große Frage ist: Können wir das Beste aus beiden Welten bekommen? Können wir den Roboter lehren, die Regeln der Welt durch das Beobachten von Videos zu lernen, aber am Ende eine klare, lesbare Anweisung statt eines geheimnisvollen Black-Box-Modells zu erhalten?

Genau das adressiert das Paper „VisualPatchWorld“. Die Forscher Jiaxin Bai und Jiaxuan Xiong schlagen eine neue Methode vor, bei der sie die Regeln der Welt als Code behandeln. Anstatt den Roboter die Zukunft in einem verborgenen mathematischen Raum erraten zu lassen, bringen sie ihm bei, ein einfaches, ausführbares Programm zu schreiben, das beschreibt, wie sich Objekte bewegen. Stellen Sie sich vor, man bittet einen Roboter, ein Video eines Balls zu beobachten, der eine Rampe hinunterrollt, und fragt ihn dann, ob er ein kurzes Python-Skript schreiben kann, das besagt: „Wenn der Ball auf einer Schräge ist, füge Geschwindigkeit zu seiner Bewegung hinzu.“

Der Ansatz des Teams funktioniert in zwei cleveren Schritten. Zuerst führt der Roboter einige schnelle, „aktive Sondenuntersuchungen“ durch – wie ein Detektiv, der eine Theorie testet, indem er einen Verdächtigen ansticht. Er probiert verschiedene Arten von Bewegungsregeln aus (z. B. „Gleitet das Objekt wie auf Eis oder haftet es wie auf Sand?“), um die qualitative Form der Regel zu bestimmen. Sobald er den richtigen „Entwurf“ der Regel ausgewählt hat, erfolgt der zweite Schritt: das Ausfüllen der spezifischen Zahlen (wie genau schnell es gleitet), indem er aufgezeichnete Videos der Roboterbewegung beobachtet. Das Ergebnis ist ein Stück Code, das der Roboter wie einen Mini-Simulator ausführen kann. Er kann den Code betrachten, ihn verstehen und ihn nutzen, um seine nächsten Schritte zu planen.

Die Ergebnisse sind sehr vielversprechend. Bei Tests in vier verschiedenen Aufgaben – wie dem Navigieren durch ein Labyrinth, dem Greifen nach einem Objekt, dem Schieben von Dingen und dem Stapeln von Würfeln – erreichte ihre Methode, genannt VisualPatchworld (VPW), eine Erfolgsquote von 69,0 % bei der Planung. Dies ist ein bedeutender Sprung, der die bisherigen besten codebasierten Methoden um 23,5 Prozentpunkte übertrifft. Die größten Verbesserungen traten bei Aufgaben auf, bei denen das Wissen über die Art der Bewegung entscheidend war. Zum Beispiel erreichten die alten Methoden in einer Aufgabe, bei der ein Roboterarm nach etwas greifen musste, nur einen Erfolg von 8 %, während VPW auf 72 % sprang. In einer Aufgabe, die das Schieben eines Blocks beinhaltete, funktionierten die bisherigen Codemethoden kaum (nahezu Null Erfolg), während VPW 22 % erreichte.

Das Paper weist jedoch vorsichtig darauf hin, dass dies noch nicht die perfekte Lösung für alles ist. Während der selbst geschriebene Code des Roboters bei Navigation und Greifen fast so gut war wie eine perfekte Physik-Engine, hatte er noch Schwierigkeiten mit komplexen Schiebeaufgaben, bei denen Dinge kollidieren und abprallen. Um dies zu beheben, schlagen die Autoren einen „Hybrid-Ansatz“ vor: Lassen Sie den Code des Roboters die Hauptarbeit der Planung leisten, aber überprüfen Sie die besten paar Pläne noch einmal mit einer perfekten Physik-Engine, bevor der Roboter tatsächlich handelt. Diese kleine Überprüfung schließt den verbleibenden Großteil der Lücke.

Letztendlich legt dieses Paper nahe, dass wir uns nicht zwischen einer geheimnisvollen KI, die rät, und einem starren Ingenieur, der jede Regel von Hand schreibt, entscheiden müssen. Indem wir Roboter lehren, zuerst die Struktur der Welt zu lernen und dann die Details einzufüllen, können wir Weltmodelle erschaffen, die nicht nur mächtig genug sind, um komplexe Aktionen zu planen, sondern auch klar genug, damit Menschen sie lesen, verstehen und korrigieren können, falls etwas schiefgeht. Es ist ein Schritt hin zu Robotern, die nicht nur „wissen“, wie sie sich bewegen sollen, sondern die auch die Regeln des Spiels erklären können, das sie spielen.

Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?

Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.

Digest testen →