💻 computer science

SkillWrapper: Generative Predicate Invention for Task-level Robot Planning

Dit artikel introduceert SkillWrapper, een methode die fundamentele modellen gebruikt om automatisch formele, bewijsbaar correcte en volledige symbolische predicaten te verzinnen vanuit ruwe RGB-observaties, waardoor robots in staat worden gesteld om black-box vaardigheden te generaliseren naar abstracte representaties voor het oplossen van onbekende taken met een lange horizon.

Oorspronkelijke auteurs: Ziyi Yang, Benned Hedegaard, Ahmed Jaafar, Yichen Wei, Skye Thompson, Shreyas S. Raman, Haotian Fu, Stefanie Tellex, George Konidaris, David Paulius, Naman Shah

Gepubliceerd 2026-06-09

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ziyi Yang, Benned Hedegaard, Ahmed Jaafar, Yichen Wei, Skye Thompson, Shreyas S. Raman, Haotian Fu, Stefanie Tellex, George Konidaris, David Paulius, Naman Shah

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot hebt die ongelooflijk sterk en behendig is op fysiek niveau. Het kan een theepot oppakken, thee inschenken en een kom op een bord stapelen. Maar op dit moment is deze robot als een briljante pianist die alleen individuele toetsen kent, maar de muziektheorie niet begrijpt. Hij kan een enkele noot spelen, maar weet niet hoe hij een liedje moet componeren of een heel concert moet plannen.

Dit is het probleem dat SkillWrapper oplost.

Het Probleem: De "Black Box" Robot

Momenteel komen veel robots met "black box" vaardigheden. Dit zijn vooraf geprogrammeerde acties (zoals "Object oppakken" of "Vloeistof schenken") die goed werken op zichzelf. Maar als je een robot een complexe, meerstaps taak wilt laten uitvoeren — zoals "Een kop thee zetten" — weet hij niet hoe hij deze vaardigheden aan elkaar moet rijgen.

Om een robot een complexe taak te laten plannen, moeten mensen meestal handmatig een regelboek schrijven. Ze moeten uitleggen: "Om thee in te schenken, moet de robot eerst de theepot vasthouden en moet de kop leeg zijn." Dit is tijdrovend, traag en onmogelijk te doen voor elke nieuwe robot of omgeving.

De Oplossing: De Robot Leren Zijn Eigen Regelboek te Schrijven

Onderzoekers hebben een systeem ontwikkeld genaamd SkillWrapper. In plaats van dat een mens het regelboek schrijft, leert SkillWrapper de robot om zijn eigen "vocabulaire" en "regels" uit te vinden door naar zichzelf te kijken terwijl hij dingen probeert.

Zo werkt het, met een eenvoudige analogie:

1. De "Trial and Error" Fase (Actieve Datacollectie)

Stel je een robot voor in een keuken. Hij kent de regels nog niet. SkillWrapper zegt tegen de robot: "Ga eens proberen de theepot op te pakken. Probeer nu de spons op te pakken. Probeer nu de kom te stapelen."

Succes: De robot pakt de theepot op.
Falen: De robot probeert de spons op te pakken, maar hij is te glad en de robot laat hem vallen.

De robot legt deze momenten vast: "Ik probeerde de theepot op te pakken, en dat werkte. Ik probeerde de spons op te pakken, en dat mislukte."

2. Het "Aha!" Moment (Generatieve Predicaat-inventie)

Dit is het magische deel. De robot kijkt naar zijn successen en mislukkingen en vraagt zich af: "Waarom werkte het ene wel en het andere niet?"

In het verleden hadden computers nodig dat mensen het antwoord gaven (bijv. "De spons is te glad"). Maar SkillWrapper gebruikt een Foundation Model (een superintelligente AI die afbeeldingen en taal begrijpt, zoals een zeer geavanceerde versie van ChatGPT of DALL-E).

De robot laat de AI twee foto's zien: één van een succesvolle opname en één van een mislukte opname.
De AI bekijkt de afbeeldingen en verzint een nieuw woord (een predicaat) om het verschil te beschrijven.
De AI zegt: "Ah! Het verschil is dat de theepot een handvat heeft, maar de spons is glad. Laten we een nieuwe regel verzinnen genaamd GripperEmpty of ObjectIsStable."

De robot creëert een nieuw, voor mensen leesbaar concept dat uitlegt waarom de actie werkte of faalde. Het is alsof de robot plotseling het woord "glad" leert en beseft: "Oh, ik kan geen gladde dingen oppakken met mijn huidige greep!"

3. Het Bouwen van het Regelboek (Operator Learning)

Zodra de robot deze nieuwe woorden (predicaten) heeft uitgevonden, begint hij een logische kaart te bouwen.

Regel: "Om te Gieten, moet je een Theepot Vasthouden en de Kop moet Leeg zijn."
Regel: "Om te Stapelen, moet het Bord Vlak zijn."

De robot groepeert deze regels om een Symbolisch Model te vormen. Dit is een hoogwaardige kaart van de wereld die de rommelige details (zoals de exacte hoek van de arm) negeert en zich richt op de logica (zoals "is de kop leeg?").

4. Het Grote Plan (Taakniveau Planning)

Nu, wanneer je de robot een complexe opdracht geeft zoals "Maak thee", raakt hij niet in paniek. Hij gebruikt een standaard planningsalgoritme (hetzelfde soort logica dat wordt gebruikt in de AI van videogames of logistieke software) om in zijn nieuwe regelboek te kijken.

Hij ziet het doel: "Kop bevat thee."
Hij controleert de regels: "Ik moet Gieten."
Hij controleert de voorwaarden: "Heb ik een theepot? Is de kop leeg?"
Hij bouwt een stapsgewijs plan: Pak Theepot op -> Beweeg naar Kop -> Giet.

Waarom dit Papier Speciaal is

Het artikel beweert drie belangrijke zaken die dit anders maken dan eerdere pogingen:

Het begint bij nul: In tegen tegenstelling tot andere methoden die mensen nodig hebben om ze een startlijst van regels te geven, begint SkillWrapper met niets. Het verzint het vocabulaire vanaf de grond af door simpelweg naar de bewegingen van de robot te kijken.
Het is wiskundig gegarandeerd correct: De auteurs hebben niet alleen gegokt dat dit zou werken. Ze hebben met wiskunde bewezen dat als de robot dit proces volgt, de regels die hij leert Sound (het zal geen onmogelijke dingen plannen) en Complete (het zal geen oplossing missen als er een bestaat) zijn. Het is alsof je bewijst dat een brug veilig is om over te steken voordat je mensen erover laat lopen.
Het werkt in de echte wereld: Ze hebben dit getest op echte robots (niet alleen in simulaties). De robots leerden complexe taken te plannen, zoals het stapelen van objecten of het schenken van vloeistoffen, waarbij ze alleen camerabeelden als input gebruikten.

De Kernboodschap

SkillWrapper is een systeem dat een robot in staat stelt om de "grammatica" van zijn eigen acties aan zichzelf te leren. In plaats van dat een mens een handleiding schrijft, probeert de robot dingen, faalt, vraat een slimme AI "Waarom faalde dat?", verzint een nieuw woord om het probleem te beschrijven, en gebruikt die term vervolgens om zijn volgende zet te plannen. Dit stelt robots in staat om lange, ingewikkelde taken in de echte wereld op te lossen zonder dat er een menselijke expert nodig is om elke regel te programmeren.

Technische Samenvatting: SkillWrapper: Generatieve Predicaat-inventie voor Taakniveau Robotplanning

Probleemstelling

Het bouwen van autonome robots die in staat zijn tot planning op lange termijn vereist het overbruggen van de kloof tussen laag-niveau sensorische/motorische controle en hoog-niveau abstract redeneren. Terwijl mensen kunnen redeneren over complexe taken (bijv. koken) zonder te modelleren op het niveau van spiercontrole, vertrouwen robots doorgaans op handmatig gespecificeerde taakmodellen (precondities en effecten) die zijn gedefinieerd door domeinexperts. In real-world settings is het verwerven van deze modellen niet triviaal vanwege complexe inter-skill beperkingen en specifieke embodiment in de omgeving.

Bestaande benaderingen voor het leren van deze abstracties kampen met een dichotomie:

Bottom-up methoden: Bieden theoretische garanties (soundness en completeness) maar vertrouwen vaak op beperkte, gestructureerde toestandsruimten (bijv. configuratieruimte) of hebben moeite met schalen van pixel-niveau inputs zonder foundation models.
Foundation Model (FM) gedreven methoden: Gebruiken FMs om semantisch betekenisvolle predikaten te genereren uit ruwe sensorische inputs (een proces dat generatieve predicaat-inventie wordt genoemd). Deze methoden vertrouwen echter meestal op heuristische of ad-hoc procedures, waarbij het gebrek aan formele garanties over welke eigenschappen de geleerde abstracties moeten voldoen of hoe de correctheid van de resulterende modellen voor planning gewaarborgd kan worden, een probleem vormt.

De kernuitdaging die dit artikel aanpakt is: Hoe kunnen we autonoom sound en complete symbolische representaties van black-box robotvaardigheden leren van ruwe RGB-observaties, gebruikmakend van foundation models, terwijl we formele garanties bieden voor planning op taakniveau?

Methodologie: SkillWrapper

De auteurs stellen SkillWrapper voor, een actief leerframework dat autonoom sound en complete symbolische modellen verwart voor black-box vaardigheden. Het systeem werkt op een domein dat wordt gedefinieerd door een set object-gecentreerde vaardigheden ( $\Omega$ ) en leert een abstract transitiemodel $M = \langle P, A \rangle$ , waarbij $P$ een set predikaten is en $A$ een set operatoren.

De methode doorloopt drie primaire stappen:

1. Actieve Datacollectie

In plaats van willekeurige exploratie selecteert SkillWrapper actief sequenties van skill-instanties om uit te voeren. Het bevraagt een Foundation Model (FM) om kandidaat-skillsequenties te genereren, die vervolgens worden gescoord op basis van twee assen:

Balans ( $b$ ): Prioriteert sequenties waar de ratio tussen succesvolle en mislukte executies dicht bij een doelstelling ligt (bijv. 0,5). Dit zorgt voor de verzameling van zowel positieve als negatieve voorbeelden, wat cruciaal is voor contrastief leren.
Dekking ( $c$ ): Prioriteert sequenties die de entropie van opeenvolgende skill-paren maximaliseren. Dit zorgt ervoor dat het systeem diverse inter-skill afhankelijkheden observeert.
Het systeem selecteert de Pareto-optimale subset van sequenties en voert deze uit, waarbij transities $\langle s, \omega, s' \rangle$ worden vastgelegd die executabiliteit en uitkomsten vatten.

2. Generatieve Predicaat-inventie

SkillWrapper begint met een lege predicaatset ( $P = \emptyset$ ). Het verzint nieuwe predikaten alleen wanneer het huidige model de geobserveerde transities niet kan verklaren. De inventie wordt getriggerd door twee formele condities:

Conditie 1 (Precondition Inconsistentie): Het model voorspelt dat een skill-instantie zal slagen, maar deze faalt (of andersom), en de huidige predikaten kunnen de succesvolle staat niet onderscheiden van de gefaalde staat.
Conditie 2 (Effect Inconsistentie): Het model kan het verschil niet onderscheiden tussen de effecten van een succesvolle executie en een mislukte executie van dezelfde skill (zelfs bij rekeninghouding met verschillende object-argumenten via een lifting-functie).

Wanneer dit wordt getriggerd, vraagt het systeem een FM (specifiek een Vision-Language Model) om een kandidaat-predicaat te genereren dat de conflicterende gevallen semantisch onderscheidt. De kandidaat wordt geëvalueerd door te controleren of het de bekwaamheid van het model om de dataset te verklaren verbetert (d.w.z. of het de constructie van operatoren mogelijk maakt die succesvolle en mislukte transities correct scheiden).

3. Operator Learning

Met behulp van de verzamelde data en de huidige set predikaten leert SkillWrapper operatoren (acties met precondities en effecten).

Clustering: Transities worden geclusterd op basis van hun "lifted abstract changes" (verschillen in abstracte toestanden).
Precondition Afleiding: Voor elk cluster worden precondities afgeleid als de intersectie van de abstracte initiële toestanden van de transities in dat cluster.
Type Afhandeling: Om overgeneralisatie in domeinen met overlappende objectcategorieën te voorkomen, wijst het systeem conservatief parameters toe aan operatoren met het laagste niveau in de type-hiërarchie dat consistent is met de data.

Theoretisch Kader

Het artikel legt een formele theorie vast voor generatieve predicaat-inventie en biedt de eerste bewijsbare garanties voor deze klasse methoden:

Soundness (Correctheid van uitvoering): Het geleerde model voorspelt correct de effecten van een plan; als een planner voorspelt dat een sequentie een bepaalde staat bereikt, leidt de uitvoering daadwerkelijk naar die staat.
Completeness (Volledigheid): Het model laat nooit echte oplossingen weg; als een oplossing bestaat in de omgeving, kan de planner een abstract plan vinden.
Correctheid: De auteurs bewijzen dat het geleerde model van SkillWrapper empirisch correct is met betrekking tot de geobserveerde data (Theorem 1) en asymptotisch convergeert naar een correct model onder een stationair $\beta$ -mixing proces (Theorem 2).

Experimentele Resultaten

De auteurs evalueerden SkillWrapper in zowel simulatie als op echte robots.

Simulatie (Robotouille)

In een gesimuleerde keukenomgeving met zes objecten en vijf skills werd SkillWrapper vergeleken met:

Expert Operators: Handmatig gedefinieerde PDDL-modellen.
System Predicates: Ground-truth simulator predikaten (oracle).
ViLa: Een baseline die directe FM-prompting gebruikt voor actieselectie.
Ablaties: Varianten zonder actieve datacollectie-heuristieken of zonder het specifieke predicaat-inventie algoritme.

Bevindingen:

SkillWrapper presteerde beter dan alle non-privileged baselines (inclusief ViLa en random exploratie).
Op "harde" problemen (tot 15 stappen) presteerde SkillWrapper beter dan de System Predicates baseline, wat aantoont dat geleerde abstracties effectiever kunnen zijn dan ground-truth simulator predikaten in complexe planningsscenario's.
Het identificeerde correct 100% van de onmogelijke taken, een vereiste voor soundness.

Real-Robot Experimenten

Experimenten werden uitgevoerd op een Franka Emika Panda (tafel) en een bimanuele Kuka iiwa manipulator.

Generalisatie: Een model dat geleerd is in beperkte trainingsomgevingen (subsets van objecten) generaliseerde succesvol naar een testomgeving met alle objecten en loste ongeziene, langdurige taken op.
Data Efficiëntie: In een bimanuele setting met 'dead ends' verbeterde SkillWrapper de prestaties over iteraties heen en overtrof alle baselines binnen vijf iteraties. Het systeem toonde aan dat geleide actieve datacollectie cruciaal is voor leren in omgevingen met onomkeerbare acties.

Betekenis en Claims

Het artikel beweert dat dit het eerste werk op het gebied van generatieve predicaat-inventie is dat bewezenbare garanties biedt voor soundness en completeness voor taakniveau planning.

Belangrijke bijdragen zijn onder meer:

Formele Theorie: Een karakterisering van de condities waaronder een geleerd model bewezen sound en complete is, wat de theoretische strengheid van eerdere FM-gedreven benaderingen adresseert.
SkillWrapper Systeem: Een geprincipeerd systeem dat foundation models gebruikt om interactief data te verzamelen, predikaten te inventeren en interpreteerbare symbolische representaties te leren zonder handmatige specificatie.
Empirische Validatie: Uitgebreid bewijs dat deze geleerde representaties robots in staat stellen om black-box vaardigheden te combineren om ongeziene, langdurige taken in de echte wereld op te lossen met standaard klassieke planners.

De auteurs concluderen dat SkillWrapper een veelbelovende weg biedt naar schaalbare symbolische model-lering, waardoor robots kunnen redeneren over hoog-niveau doelstellingen zonder dat daar handmatig ontworpen abstracties of geprivilegieerde kennis van de omgeving voor nodig zijn. Het werk erkent beperkingen, zoals de aanname van deterministische dynamica en het onvermogen om FM-outputs direct te controleren, wat wijst op toekomstig werk in probabilistische settings en het omgaan met ruis.