💻 computer science

VASO: Formally Verifiable Self-Evolving Skills for Physical AI Agents

VASO is een nieuw framework dat de zelfevolutie van door LLM's gegenereerde robotvaardigheidscontracten mogelijk maakt door middel van formele verificatie, waarbij tegenvoorbeelden worden gebruikt om herbruikbare vaardigheden iteratief te verfijnen tegen temporele veiligheidsspecificaties zonder de gewichten van het basismodel aan te passen, waardoor een hoge mate van naleving op fysieke agenten wordt bereikt met minimale optimalisatiesamples.

Oorspronkelijke auteurs: Yunhao Yang, Neel P. Bhatt, Kevin Wang, Samuel Tetteh, Zhangyang Wang, Ufuk Topcu

Gepubliceerd 2026-06-05

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yunhao Yang, Neel P. Bhatt, Kevin Wang, Samuel Tetteh, Zhangyang Wang, Ufuk Topcu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: "Slimme" Robots die niet te vertrouwen zijn

Stel je voor dat je een zeer getalenteerde, creatieve chef (de AI) inhuurt om recepten (vaardigheden) te schrijven voor een robotkeuken. De chef kan binnen enkele seconden een recept schrijven voor "Maak een broodje" of "Vermijd de kat".

Er is echter een addertje onder het gras: Alleen omdat het recept in het Engels goed klinkt, betekent dit niet dat de robot niet het hele huis afbrandt.

Huidige methoden proberen dit op te lossen door de robot het recept te laten proberen, te kijken of het misgaat, en de chef te vragen het te herschrijven. Dit is als het proeven van een soep en zeggen: "Het is te zout, probeer het opnieuw." Maar dit vertelt je alleen dat de soep deze ene keer te zout was. Het bewijst niet dat het recept veilig is voor elke mogelijke situatie (zoals wanneer het fornuis te heet wordt, of wanneer een kat op het aanrecht springt).

De Oplossing: VASO (De "Wiskundige Redacteur")

De auteurs introduceren VASO, een systeem dat fungeert als een strenge, wiskundige redacteur voor deze robotrecepten. In plaats van alleen de soep te proeven, controleert VASO het recept tegen een reeks onbreekbare veiligheidswetten (zoals "Raak nooit vuur aan" of "Stop altijd als er iemand in de buurt is").

Zo werkt VASO, stap voor stap:

1. De "Vertaler" (De Brug)

Robots spreken "code" (beweeg naar links, stop, versnel), maar veiligheidsregels zijn geschreven in "logica" (Als Persoon Gezien, Dan Stop).

De Analogie: Stel je voor dat de robot een buitenlander is die alleen "Robot" spreekt, en de veiligheidsinspecteur alleen "Logica" spreekt.
Wat VASO doet: Het creëert een vertaler (een labeling function) die de bewegingen van de robot direct omzet in logische stellingen. Hierdoor kan de veiligheidsinspecteur precies begrijpen wat de robot doet.

2. De "Wiskundige Check" (Formele Verificatie)

Voordat de robot het recept zelfs maar probeert, voert VASO een wiskundige simulatie uit.

De Analogie: Denk hierbij aan een vluchtsimulator voor een piloot. Voordat het vliegtuig opstijgt, draait de simulator miljoenen scenario's om te zien of het vliegplan tegen een berg botst.
Wat VASO doet: Het controleert of het recept ooit de veiligheidsregels zou kunnen breken. Als de wiskunde zegt: "Ja, dit recept kan een crash veroorzaken," zegt het niet simpelweg "Fout". Het vindt het exacte moment waarop de crash plaatsvindt (het "tegenvoorbeeld" of "counterexample").

3. De "Tekstuele Gradiënt" (De Feedbackloop)

Dit is het magische deel. Meestal, wanneer een wiskundige check faalt, moet je de hele code herschrijven. VASO is slimmer.

De Analogie: Stel je voor dat de wiskundige check een briefje naar de chef stuurt met de tekst: "Je recept zegt 'Loop vooruit' zelfs als er een persoon aanwezig is. Verander die regel naar 'Stop'."
Wat VASO doet: Het zet de wiskundige fout om in een tekstuele instructie (een "textual gradient"). Het vertelt de AI-chef precies hoe hij het recept zelf moet herschrijven om de fout te herstellen.
Cruciaal detail: De hersenen van de AI-chef (het onderliggende model) blijven bevroren. We trainen niet de chef opnieuw; we bewerken alleen de specifieke receptenkaart die hij heeft geschreven.

Waarom dit een grote zaak is

Het paper testte dit op twee echte robots: een grondrobot (zoals een Roomba op steroïden) en een drone.

Het resultaat: VASO kreeg de robots om de veiligheidsregels 97,2% van de tijd te volgen met minder dan 100 pogingen.
De vergelijking: Andere methoden (zoals simpelweg de AI vragen om het opnieuw te proberen, of het brein van de AI opnieuw trainen) waren ofwel minder veilig, of namen veel meer tijd in beslag en kostten meer rekenkracht.

Het "Zelfevoluerende" Deel

Het paper noemt dit "Self-Evolving Skills" (Zelf evoluerende vaardigheden).

De Oude Manier: Je traint een robot op een miljoen voorbeelden, en het leert een algemeen "gevoel" van wat het moet doen.
De VASO-Manier: Je geeft de robot een specifieke vaardigheid (zoals "Rijden"), controleert deze met wiskunde, vindt de fout, en actualiseert de definitie van de vaardigheid. Nu is die zelfde vaardigheid beter voor elke toekomstige taak. Het is also�s het upgraden van de blauwdruk van een automotor, zodat elke auto die vanuit die blauwdruk wordt gebouwd veiliger is, in plaats van alleen één specifieke auto te repareren.

Samenvatting in één zin

VASO is een systeem dat wiskundig bewijs gebruikt om fouten in robotinstructies te vinden, deze fouten vertaalt naar eenvoudige tekstuele feedback, en automatisch de "recepten" van de robot herschrijft om ze perfect veilig te maken, zonder de hersenen van de AI opnieuw te hoeven trainen.

Wat het paper niet beweert

Het beweert niet dat dit al werkt voor medische chirurgie of beslissingen over leven en dood (het werd getest op navigatie en drones).
Het beweert niet dat de robot "bewust" is of veiligheid "begrijpt"; de robot volgt simpelweg de wiskundig geverifieerde regels.
Het beweert niet dat dit direct voor elke mogelijke robotsituatie werkt; het is afhankelijk van het feit dat de "vertaler" (labeling function) correct is geschreven. Als de vertaler een fout maakt, kan de wiskundige check een vals gevoel van veiligheid geven.

Technische Samenvatting: VASO – Formeel Verifieerbare Zelf-Evoluerende Vaardigheden voor Fysieke AI-Agenten

Probleemstelling

Herbruikbare robotvaardigheden dienen als de interface tussen fundamentele modellen en fysieke controle, waardoor belichaamde agenten langdurige taken kunnen uitvoeren onder veiligheidsbeperkingen. Hoewel fundamentele modellen de kosten voor het genereren van deze vaardigheden vanuit natuurlijke taal hebben verlaagd, hebben ze het probleem van vaardigheidsassurantie (skill assurance) niet opgelost. Bestaande methoden voor zelf-evolutie vertrouwen op "zachte" feedbacksignalen—zoals uitvoeringsresultaten, unit tests, omgevingsbeloningen of LLM-zelfkritiek. Deze signalen bieden slechts trace-niveau bewijs, wat aantoont dat een vaardigheid werkte op gesamplede executies, maar biedt geen garantie dat de door de vaardigheid geïnduceerde plannen voldoen aan temporele veiligheidscertificaten onder ongeteste omstandigheden. In de robotica is een enkele zeldzame maar ernstige veiligheidsschending (bijv. een grondrobot die beweegt nadat een persoon is gedetecteerd) onacceptabel, terwijl zachte feedback vaak faalt om deze randgevallen te detecteren.

De kernuitdaging is het sluiten van de lus tussen formele verificatie en vaardigheidsevolutie zonder enkel onveilige plannen te filteren of modelgewichten te finetunen. Er is behoefte aan een representatie waarbij formele tegenvoorbeelden direct de contracten van herbruikbare vaardigheden kunnen bijwerken, zodat verbeteringen inspecteerbaar, herbruikbaar en verifieerbaar zijn.

Methodologie: VASO-framework

De auteurs stellen VASO (Verification-Guided Automated Skill Optimization) voor, een gesloten-lus framework voor de zelf-evolutie van door LLM gegenereerde robotvaardigheidcontracten. VASO werkt door vaardigheden te behandelen als semantische contracten die een formele interface koppelen aan een planner-gerichte interface.

1. Verifieerbare Vaardigheidsrepresentatie

Een vaardigheid $sk$ wordt gedefinieerd als een tupel $(G, \psi_{sk}, C_{sk})$ :

$G$ (Globale Specificaties): Een set LTL-formules die veiligheidsbeperkingen vertegenwoordigen die altijd moeten gelden.
$\psi_{sk}$ (Lokale Regel): Een LTL-formule die de specifieke intentie of het doel van de vaardigheid definieert.
$C_{sk}$ (Semantisch Contract): Het kerncomponent bestaande uit:
- $L_{sk}$ (Propositie-gealigneerde Labelingsfunctie): Een functie die lage-niveau robotstatussen, observaties en besturingscommando's mapt naar atomaire logische proposities. Dit overbrugt de kloof tussen fysieke executie en symbolische modelcontrole.
- $C^p_{sk}$ (Tekst-gebaseerde Plan Template): Een gedragsmatige prior die de planner begeleidt bij het genereren van uitvoerbare commando's (bijv. API-aanroepen of trajecten).

2. Tweelaags Verificatieproces

VASO hanteert een hiërarchisch verificatieproces om vaardigheden te verfijnen:

Vaardigheidsniveau-verificatie (Haalbaarheidscheck): Voordat er plannen worden gesampled, controleert het framework of de lokale regel $\psi_{sk}$ logisch consistent is met de globale specificaties $G$ . Er wordt een universeel transitiesysteem geconstrueerd om de bevredigbaarheid te verifiëren. Als de lokale regel in strijd is met de globale veiligheid (bijv. een regel die beweging beveelt wanneer een persoon wordt waargenomen), wordt de vaardigheid afgewezen en wordt het fundamentele model geraadpleegd om de lokale regel te verfijnen.
Planniveau-verificatie (Gedragscheck): Zodra een haalbare vaardigheid is verkregen, genereert een planner een uitvoerbaar plan $\pi$ . Dit plan wordt gecompileerd naar een symbolisch transitiesysteem (automaat) met behulp van de labelingsfunctie $L_{sk}$ . Een modelchecker (NuSMV) verifieert het plan tegen $G \land \psi_{sk}$ .

3. Optimalisatie via Tekstuele Gradiënten

Wanneer verificatie faalt, geeft de modelchecker een tegenvoorbeeld-trace terug. VASO zet deze trace om in een tekstuele gradiënt (bijv. "schendt specificatie: $G(\text{persoon\_waargenomen} \to X \text{ stop})$ "). Deze tekstuele feedback wordt teruggevoerd naar het fundamentele model om het semantische contract $C_{sk}$ en de lokale regel $\psi_{sk}$ bij te werken.

Belangrijke beperking: De gewichten van het fundamentele model blijven bevroren. De optimalisatie vindt volledig plaats op het niveau van de prompt/het contract, waarbij het herbruikbare vaardigheidsartefact wordt verfijnd in plaats van de modelparameters of een enkele taakprompt te tunen.
Proces: De lus wisselt af tussen voorwaartse generatie (Contract $\to$ Plan $\to$ Automaat) en achterwaartse verfijning (Automaat $\to$ Tekstuele Gradiënt $\to$ Bijgewerkt Contract).

Belangrijkste Bijdragen

Verifieerbare Zelf-Evoluerende Vaardigheidsrepresentatie: Het paper introduceert een vaardigsstructuur die expliciet de verbinding legt tussen temporele-logica specificaties, propositie-gealigneerde robotsemantiek en planner-gerichte templates. Dit maakt het mogelijk dat door LLM gegenereerde vaardigheden gebruikt kunnen worden voor planning terwijl ze tegelijkertijd blootgesteld blijven aan formele verificatie.
Formele Tegenvoorbeelden als Optimalisatiefeedback: De auteurs ontwikkelen een tweelaags verificatieproces waarbij tegenvoorbeeld-traces worden omgezet in tekstuele gradiënten. Dit maakt de verfijning van het herbruikbare vaardigheidcontract mogelijk, in plaats van enkel een specifiek plan af te wijzen of een prompt te tunen.
Validatie op Fysieke Agenten: Het framework wordt gevalideerd op echte robotplatforms (Clearpath Jackal en PX4 quadcopter), waarbij wordt aangetoond dat geoptimaliseerde vaardigheden een hoge mate van formele specificatie-compliance kunnen bereiken zonder het onderliggende fundamentele model te finetunen.

Empirische Resultaten

Het framework werd geëvalueerd op 11 temporele-logica specificaties over 400 gegenereerde plannen op twee robotplatforms.

Compliance: VASO bereikte 97,2% formele-specificatie compliance met minder dan 100 optimalisatiesamples (minder dan 20 minuten per vaardigheid).
Vergelijking: Het presteerde beter dan zero-shot baselines, prompt-optimalisatiemethoden (zoals LAD-VF) en fine-tuning gebaseerde benaderingen (zoals RLVF). Opvallend genoeg bereikte VASO hogere veiligheidsscores dan fine-tuning methoden terwijl het slechts een fractie van de trainingskosten en -tijd vereiste.
Generalisatie: Geoptimaliseerde vaardigheden vertoonden sterke generalisatie naar ongeziene taakprompts binnen dezelfde taakfamilie, waarbij hoge veiligheids- en taakvoltooiingspercentages werden behouden zonder extra verfijning.
Automatische Alignement: De studie toonde aan dat automatisch gegenereerde propositie-gealigneerde labelingsfuncties presteerden op gelijke voet met handmatig vervaardigde mappings, waardoor de noodzaak voor handmatige domeinkennis voor het definiëren van symbolische abstracties werd geëlimineerd.

Betekenis en Claims

Het paper claimt het eerste framework te zijn dat de lus sluit tussen formele verificatie en zelf-evolving LLM-gegenereerde vaardigheden voor fysieke AI-agenten.

Paradigmaverschuiving: In tegen tegenover standaard geverifieerde planning-pipelines, die verificatie gebruiken als een louter pass/fail filter voor eenmalige plannen, gebruikt VASO de reden voor afwijzing (het tegenvoorbeeld) om de bron van het plan (de herbruikbare vaardigheid) te verbeteren.
Efficiëntie en Veiligheid: Door het vaardigheidcontract te optimaliseren in plaats van modelgewichten, biedt VASO een mechanisme voor het genereren van veiligere, betrouwbaardere gedragingen die inspecteerbaar en herbruikbaar zijn over verschillende taken, waarmee de kritieke flessenhals van vaardigheidsassurantie in fysieke AI wordt aangepakt.
Beperkingen: De auteurs erkennen dat de formele garanties voorwaardelijk zijn op de correctheid van de door AI gegenereerde propositie-gealigneerde labelingsfunctie. Fouten in het mappen van lage-niveau dynamiek naar symbolische proposities kunnen leiden tot spuriose verificatieresultaten, hoewel empirische gegevens suggereren dat dit zelden voorkomt (<1% degradatie in veiligheidsscores). Het huidige framework gaat ook uit van sequentiële, niet-gelijktijdige executie.