💻 computer science

SkillWrapper: Generative Predicate Invention for Task-level Robot Planning

Dieses Paper stellt SkillWrapper vor, eine Methode, die Foundation Models nutzt, um automatisch formale, beweisbar schlüssige und vollständige symbolische Prädikate aus rohen RGB-Beobachtungen zu erfinden, was es Robotern ermöglicht, Black-Box-Fähigkeiten in abstrakte Repräsentationen zur Lösung ungesehener Langzeitaufgaben zu generalisieren.

Ursprüngliche Autoren: Ziyi Yang, Benned Hedegaard, Ahmed Jaafar, Yichen Wei, Skye Thompson, Shreyas S. Raman, Haotian Fu, Stefanie Tellex, George Konidaris, David Paulius, Naman Shah

Veröffentlicht 2026-06-09

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Ziyi Yang, Benned Hedegaard, Ahmed Jaafar, Yichen Wei, Skye Thompson, Shreyas S. Raman, Haotian Fu, Stefanie Tellex, George Konidaris, David Paulius, Naman Shah

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie hätten einen Roboter, der auf physischer Ebene unglaublich stark und geschickt ist. Er kann eine Teekanne aufheben, Tee eingießen und eine Schüssel auf einen Teller stapeln. Aber im Moment ist dieser Roboter wie ein brillanter Pianist, der zwar nur einzelne Tasten drücken kann, aber keine Musiktheorie versteht. Er kann eine einzelne Note spielen, aber er weiß nicht, wie man ein Lied komponiert oder ein ganzes Konzert plant.

Dies ist das Problem, das SkillWrapper löst.

Das Problem: Der „Black Box“-Roboter

Derzeit kommen viele Roboter mit „Black Box“-Fähigkeiten (Skills) daher. Dies sind vorprogrammierte Aktionen (wie „Objekt aufheben“ oder „Flüssigkeit eingießen“), die für sich genommen gut funktionieren. Aber wenn man möchte, dass der Roboter eine komplexe, mehrstufige Aufgabe ausführt – wie zum Beispiel „Eine Tasse Tee zuberechen“ – weiß er nicht, wie er diese Fähigkeiten miteinander verknüpfen soll.

Um einen Roboter dazu zu bringen, eine komplexe Aufgabe zu planen, müssen Menschen normalerweise manuell ein Regelwerk für den Roboter schreiben. Sie müssen erklären: „Um Tee einzugießen, muss der Roboter zuerst die Teekanne halten und die Tasse muss leer sein.“ Das ist mühsam, langsam und unmöglich für jeden neuen Roboter oder jede neue Umgebung zu erledigen.

Die Lösung: Dem Roboter beibringen, sein eigenes Regelwerk zu schreiben

Die Forscher haben ein System namens SkillWrapper entwickelt. Anstatt dass ein Mensch das Regelwerk schreibt, bringt SkillWrapper dem Roboter bei, sein eigenes „Vokabular“ und seine eigenen „Regeln“ zu erfinden, indem er sich selbst beim Ausprobieren zusieht.

So funktioniert es, unter Verwendung einer einfachen Analogie:

1. Die „Versuch und Irrtum“-Phase (Aktive Datenerhebung)

Stellen Sie sich einen Roboter in einer Küche vor. Er kennt die Regeln noch nicht. SkillWrapper sagt dem Roboter: „Versuche, die Teekanne aufzuheben. Versuche jetzt, den Schwamm aufzuheben. Versuche nun, die Schüssel zu stapeln.“

Erfolg: Der Roboter hebt die Teekanne auf.
Fehler: Der Roboter versucht, den Schwamm aufzuheben, aber er ist zu rutschig und lässt ihn fallen.

Der Roboter zeichnet diese Momente auf: „Ich habe versucht, die Teekanne aufzuheben, und es hat funktioniert. Ich habe versucht, den Schwamm aufzuheben, und es ist fehlgeschlagen.“

2. Der „Aha!“-Moment (Generative Prädikat-Invention)

Das ist der magische Teil. Der Roboter schaut sich seine Erfolge und Misserfolge an und fragt sich: „Warum hat das eine funktioniert und das andere nicht?“

Früher mussten Computer von Menschen gesagt bekommen, was die Antwort war (z. B. „Der Schwamm ist zu rutschig“). Aber SkillWrapper nutzt ein Foundation Model (eine super-intelligente KI, die Bilder und Sprache versteht, wie eine sehr fortgeschrittene Version von ChatGPT oder DALL-E).

Der Roboter zeigt der KI zwei Bilder: eines von einem erfolgreichen Aufheben und eines von einem misslungenen Aufheben.
Die KI betrachtet die Bilder und erfindet ein neues Wort (ein Prädikat), um den Unterschied zu beschreiben.
Die KI sagt: „Ah! Der Unterschied ist, dass die Teekanne einen Griff hat, aber der Schwamm rutschig ist. Lass uns eine neue Regel namens GripperEmpty oder ObjectIsStable erfinden.“

Der Roboter erschafft ein neues, für Menschen lesbares Konzept, das erklärt, warum die Aktion funktionierte oder fehlschlug. Es ist, als würde der Roboter plötzlich das Wort „rutschig“ lernen und erkennen: „Oh, ich kann rutschige Dinge mit meinem aktuellen Griff nicht aufheben!“

3. Das Regelwerk erstellen (Operator Learning)

Sobeder der Roboter diese neuen Wörter (Prädikate) erfunden hat, beginnt er, eine logische Landkarte aufzubauen.

Regel: „Um zu Gießen, musst du eine Teekanne Halten und die Tasse muss Leer sein.“
Regel: „Um zu Stapeln, muss der Teller Flach sein.“

Der Roboter gruppiert diese Regeln zusammen, um ein Symbolisches Modell zu bilden. Dies ist eine High-Level-Karte der Welt, die die unordentlichen Details (wie der exakte Winkel des Arms) ignoriert und sich auf die Logik konzentriert (wie „ist die Tasse leer?“).

4. Der große Plan (Aufgabenplanung auf Ebene der Aufgabe)

Wenn Sie dem Roboter nun ein komplexes Ziel wie „Mache Tee“ geben, gerät er nicht in Panik. Er nutzt einen Standard-Planungsalgorithmus (die gleiche Art von Logik, die auch in der Spiel-KI oder in der Logistiksoftware verwendet wird), um in seinem neuen Regelwerk nachzusehen.

Er sieht das Ziel: „Tasse enthält Tee.“
Er prüft die Regeln: „Ich muss Gießen.“
Er prüft die Voraussetzungen: „Habe ich eine Teekanne? Ist die Tasse leer?“
Er erstellt einen Schritt-für-Schritt-Plan: Teekanne aufheben -> Zur Tasse bewegen -> Gießen.

Warum dieses Paper besonders ist

Das Paper behauptet drei wesentliche Dinge, die dies von bisherigen Versuchen unterscheidet:

Es beginnt bei Null: Im Gegensatz zu anderen Methoden, die eine vom Menschen vorgegebene Liste von Regeln benötigen, beginnt SkillWrapper mit nichts. Es erfindet das Vokabular von Grund auf neu, indem es dem Roboter einfach nur beim Bewegen zusieht.
Es ist mathematisch garantiert korrekt: Die Autoren haben nicht nur geraten, dass dies funktionieren würde. Sie haben mathematisch bewiesen, dass, wenn der Roboter diesen Prozess befolgt, die Regeln, die er lernt, korrekt (Sound) (er plant keine unmöglichen Dinge) und vollständig (Complete) (er übersieht keine Lösung, falls eine existiert) sind. Es ist so, als würde man beweisen, dass eine Brücke sicher zu überqueren ist, bevor man überhaupt jemanden darauf laufen lässt.
Es funktioniert in der realen Welt: Sie haben dies an echten Robotern getestet (nicht nur in Simulationen). Die Roboter lernten, komplexe Aufgaben zu planen, wie das Stapeln von Objekten oder das Eingießen von Flüssigkeiten, wobei sie nur Kamerabilder als Input verwendeten.

Das Fazit

SkillWrapper ist ein System, das es einem Roboter ermöglicht, die „Grammatik“ seiner eigenen Handlungen selbst zu lehren. Anstatt dass ein Mensch ein Handbuch schreibt, probiert der Roboter Dinge aus, scheitert, fragt eine intelligente KI „Warum ist das fehlgeschlagen?“, erfindet ein neues Wort, um das Problem zu beschreiben, und nutzt dieses Wort dann, um seinen nächsten Schritt zu planen. Dies ermöglicht es Robotern, komplexe Aufgaben in der realen Welt zu lösen, ohne dass ein menschlicher Experte jede einzelne Regel programmieren muss.

Technisches Resümee: SkillWrapper: Generative Prädikat-Invention für die robotergestützte Aufgabenplanung auf Aufgabenebene

Problemstellung

Der Aufbau autonomer Roboter, die zur langfristigen Aufgabenplanung fähig sind, erfordert die Überbrückung der Lücke zwischen niederschwelliger sensorischer/motorischer Steuerung und abstrakter Hochabstraktion. Während Menschen über komplexe Aufgaben (z. B. Kochen) nachdenken können, ohne ein Muskelsteuerung-Modell zu besitzen, verlassen sich Roboter typischerweise auf manuell spezifizierte Aufgabenmodelle (Vorbedingungen und Effekte), die von Domänenexperten definiert wurden. In realen Umgebungen ist die Akquisition dieser Modelle aufgrund komplexer Inter-Skill-Constraints und spezifischer körperlicher Verkörperungen nicht trivial.

Bestehende Ansätze zum Erlernen dieser Abstraktionen stehen vor einer Dichotomie:

Bottom-up-Methoden: Bieten theoretische Garantien (Korrektheit und Vollständigkeit), basieren jedoch oft auf eingeschränkten, strukturierten Zustandsräumen (z. B. Konfigurationsraum) oder haben Schwierigkeiten, von Pixel-Eingaben ohne Foundation Models zu skalieren.
Foundation Model (FM)-gesteuerte Methoden: Nutzen FMs, um semantisch bedeutsame Prädikate aus rohen sensorischen Eingaben zu generieren (ein Prozess, der als generative Prädikat-Invention bezeichnet wird). Diese Methoden verlassen sich jedoch typischerweise auf heuristische oder ad-hoc Verfahren und lassen formale Garantien vermissen, welche Eigenschaften die gelernten Abstraktionen erfüllen müssen oder wie die Korrektheit der resultierenden Modelle für die Planung sichergestellt werden kann.

Die zentrale Herausforderung, die dieses Paper adressiert, lautet: Wie können wir autonom sounde und vollständige symbolische Repräsentationen von Black-Box-Roboter-Skills aus rohen RGB-Beobachtungen unter Verwendung von Foundation Models erlernen und dabei formale Garantien für die Aufgabenplanung bereitstellen?

Methodik: SkillWrapper

Die Autoren schlagen SkillWrapper vor, ein aktives Lernframework, das autonom sounde und vollständige symbolische Modelle für Black-Box-Skills erwirbt. Das System operiert auf einer Domäne, die durch eine Menge objektzentrierter Skills ( $\Omega$ ) definiert ist, und lernt ein abstraktes Transitionsmodell $M = \langle P, A \rangle$ , wobei $P$ eine Menge von Prädikaten und $A$ eine Menge von Operatoren ist.

Die Methode durchläuft drei primäre Schritte:

1. Aktive Datensammlung

Anstatt zufälliger Exploration wählt SkillWrapper aktiv Sequenzen von Skill-Instanzen aus, die ausgeführt werden sollen. Es fordert ein Foundation Model (FM) auf, Kandidaten-Skill-Sequenzen zu generieren, welche dann anhand zweier Achsen bewertet werden:

Balance ( $b$ ): Priorisiert Sequenzen, bei denen das Verhältnis von erfolgreichen zu fehlgeschlagenen Ausführungen nahe an einem Zielwert liegt (z. B. 0,5). Dies stellt sicher, dass sowohl positive als auch negative Beispiele gesammelt werden, was für kontrastives Lernen entscheidend ist.
Coverage ( $c$ ): Priorisiert Sequenzen, die die Entropie aufeinanderfolgender Skill-Paare maximieren. Dies stellt sicher, dass das System diverse Inter-Skill-Abhängigkeiten beobachtet.
Das System wählt die Pareto-optimale Teilmenge an Sequenzen aus und führt diese aus, wobei Übergänge $\langle s, \omega, s' \rangle$ aufgezeichnet werden, die Ausführbarkeit und Ergebnisse erfassen.

2. Generative Prädikat-Invention

SkillWrapper beginnt mit einer leeren Prädikatmenge ( $P = \emptyset$ ). Es erfindet neue Prädikate nur dann, wenn das aktuelle Modell die beobachteten Übergänge nicht erklären kann. Die Invention wird durch zwei formale Bedingungen ausgelöst:

Bedingung 1 (Vorbedingungs-Inkonsistenz): Das Modell sagt voraus, dass eine Skill-Instanz erfolgreich sein wird, aber sie schlägt fehl (oder umgekehrt), und die aktuellen Prädikate können den erfolgreichen Zustand nicht vom fehlgeschlagenen Zustand unterscheiden.
Bedingung 2 (Effekt-Inkonsistenz): Das Modell kann nicht zwischen den Effekten einer erfolgreichen Ausführung und einer fehlgeschlagenen Ausführung desselben Skills unterscheiden (selbst unter Berücksichtigung unterschiedlicher Objektargumente durch eine Lifting-Funktion).

Wenn dies ausgelöst wird, fordert das System ein FM (speziell ein Vision-Language Model) auf, ein Kandidaten-Prädikat zu generieren, das die konkurrierenden Fälle semantisch unterscheidet. Ein Kandidat wird bewertet, indem geprüft wird, ob er die Fähigkeit des Modells verbessert, den Datensatz zu erklären (d. h. ob er die Konstruktion von Operatoren ermöglicht, die erfolgreiche und fehlgeschlagene Übergänge korrekt trennen).

3. Operator-Lernen

Unter Verwendung der akkumulierten Daten und der aktuellen Prädikatmenge lernt SkillWrapper Operatoren (Aktionen mit Vorbedingungen und Effekten).

Clustering: Übergänge werden basierend auf ihren „gelifteten abstrakten Änderungen“ (Unterschieden in den abstrakten Zuständen) geclustert.
Ableitung der Vorbedingungen: Für jeden Cluster werden die Vorbedingungen als Schnittmenge der abstrakten Anfangszustände der Übergänge in diesem Cluster abgeleitet.
Typ-Handhabung: Um Überverallgemeinerung in Domänen mit überlappenden Objektkategorien zu verhindern, weist das System Parameter konservativ der niedrigsten Ebene der Typ-Hierarchie zu, die mit den Daten konsistent ist.

Theoretischer Rahmen

Das Paper etabliert eine formale Theorie für generative Prädikat-Invention und liefert die ersten beweisbaren Garantien für diese Klasse von Methoden:

Soundness (Korrektheit der Logik): Das gelernte Modell sagt die Effekte eines Plans korrekt voraus; wenn ein Planer eine Sequenz vorhersagt, die zu einem Zustand führt, führt die Ausführung tatsächlich dorthin.
Completeness (Vollständigkeit): Das Modell lässt keine realen Lösungen aus; wenn eine Lösung in der Umgebung existiert, kann der Planer einen abstrakten Plan finden.
Correctness (Richtigkeit): Die Autoren beweisen, dass das von SkillWrapper gelernte Modell in Bezug auf die beobachteten Daten empirisch korrekt ist (Theorem 1) und asymptotisch gegen ein korrektes Modell unter einem stationären $\beta$ -mischenden Prozess konvergiert (Theorem 2).

Experimentelle Ergebnisse

Die Autoren evaluierten SkillWrapper sowohl in der Simulation als auch an realen Robotern.

Simulation (Robotouille)

In einer simulierten Küchenumgebung mit sechs Objekten und fünf Skills wurde SkillWrapper gegen Folgendes verglichen:

Expert Operators: Manuell definierte PDDL-Modelle.
System Predicates: Ground-Truth-Simulator-Prädikate (Oracle).
ViLa: Ein Baseline-Modell, das direktes FM-Prompting zur Aktionsauswahl nutzt.
Ablationsstudien: Varianten ohne aktive Datensammlung-Heuristiken oder ohne den spezifischen Prädikat-Inventions-Algorithmus.

Ergebnisse:

SkillWrapper übertraf alle Nicht-Privilegierte Baselines (einschließlich ViLa und Random Exploration).
Bei „schwierigen“ Problemen (bis zu 15 Schritten) übertraf SkillWrapper sogar die System-Predicates-Baseline, was zeigt, dass gelernte Abstraktionen in komplexen Planungsszenarien effektiver sein können als Ground-Truth-Simulator-Prädikate.
Es identifizierte korrekt 100 % der unmöglichen Aufgaben, eine Voraussetzung für Soundness.

Real-Roboter-Experimente

Die Experimente wurden an einem Franka Emika Panda (Tabletop) und einem bimanualen Kuka iiwa Manipulator durchgeführt.

Generalisierung: Ein in eingeschränkten Trainingsumgebungen (Teilmengen von Objekten) gelerntes Modell generalisierte erfolgreich auf eine Testumgebung, die alle Objekte enthielt, und löste ungesehene, langfristige Aufgaben.
Dateneffizienz: In einem bimanualen Setting mit Sackgassen verbesserte SkillWrapper die Leistung über Iterationen hinweg und übertraf innerhalb von fünf Iterationen alle Baselines. Das System zeigte, dass eine geführte aktive Datensammlung entscheidend für das Lernen in Umgebungen mit irreversiblen Aktionen ist.

Bedeutung und Ansprüche

Das Paper behauptet, die erste Arbeit zur generativen Prädikat-Invention zu sein, die provanchement Soundness und Completeness für die Aufgabenplanung garantiert.

Zentrale Beiträge umfassen:

Formale Theorie: Eine Charakterisierung der Bedingungen, unter denen ein gelerntes Modell nachweislich sound und vollständig ist, was die mangelnde theoretische Strenge früherer FM-gesteuerter Ansätze adressiert.
SkillWrapper-System: Ein prinzipgesteuertes System, das Foundation Models nutzt, um interaktiv Daten zu sammeln, Prädikate zu erfinden und interpretierbare symbolische Repräsentationen ohne manuelle Spezifikation zu lernen.
Empirische Validierung: Umfangreiche Belege dafür, dass diese gelernten Repräsentationen es Robotern ermöglichen, Black-Box-Skills zu kombinieren, um ungesehene, langfristige Aufgaben in der realen Welt unter Verwendung klassischer Planner zu lösen.

Die Autoren kommen zu dem Schluss, dass SkillWrapper einen vielversprechenden Weg zur skalierbaren symbolischen Modell-Lernprozessen bietet, der es Robotern ermöglicht, über hochgradige Ziele nachzudenken, ohne handgefertigte Abstraktionen oder privilegiertes Wissen über die Dynamik der Umgebung zu benötigen. Das Werk räumt Einschränkungen ein, wie die Annahme deterministischer Dynamiken und die Unfähigkeit, FM-Ausgaben direkt zu steuern, und deutet auf zukünftige Arbeiten in probabilistischen Settings und der Handhabung von Rauschen hin.