VLA-Scope: Shift-Aware Failure Prediction for Vision-Language-Action Models

Robots worden steeds beter in staat om de wereld te begrijpen via zicht en spraak, maar ze hebben nog steeds moeite wanneer de wereld op onverwachte manieren verandert. Stel je een robot voor die getraind is in een schoon, goed verlicht laboratorium om een rode beker op te pakken. Als je de beker naar een rommelige tafel verplaatst, het licht dimt, of de robot vraagt om een blauwe kom op te pakken in plaats daarvan, kan de robot bevriezen of een fout maken. Dit gebeurt omdat het "brein" van de robot, een type kunstmatige intelligentie dat verbindt wat de robot ziet met wat hem wordt verteld te doen, deze specifieke combinatie van beelden en instructies nog nooit heeft gezien. In de wetenschappelijke wereld staat dit bekend als een "out-of-distribution" situatie: de robot staat voor iets dat buiten zijn trainingsgegevens valt. Lange tijd hebben onderzoekers geprobeerd systemen te bouwen die deze onbekende momenten simpelweg als gevaarlijk kunnen markeren. Echter, een robot kan een vreemde situatie vaak succesvol afhandelen, of hij kan juist falen terwijl de situatie er normaal uitziet. Weten dat iets onbekend is is niet genoeg; we moeten weten of de robot op het punt staat te falen terwijl hij daadwerkelijk de taak probeert uit te voeren.

Een team van onderzoekers aan de Texas Tech University en de Purdue University heeft een nieuwe methode ontwikkeld genaamd VLA-Scope om dit probleem op te lossen. In plaats van alleen te controleren of een situatie vreemd is voordat de robot begint, observeert hun systeem de robot terwijl hij werkt, waarbij het combineert wat de robot ziet met hoe hij beweegt om te voorspellen of een taak fout zal gaan. Het systeem werkt in twee afzonderlijke fasen. Eerst kijkt het naar de initiële afbeelding en de instructie die aan de robot wordt gegeven om te beslissen of de situatie bekend of vreemd is. Als de situatie vreemd is, classificeert het systeem vervolgens precies hoe deze verschilt—of de camerahoek is verschoven, of het licht is veranderd, of de objecten in een nieuwe opstelling staan. Deze classificatie fungeert als een context, wat het systeem helpt te begrijpen welk type uitdaging de robot ervaart.

Zodra de robot begint te bewegen, treedt de tweede fase van het systeem in werking. Het kijkt niet alleen naar de ogen van de robot; het kijkt ook naar zijn handen. Het systeem volgt de specifieke commando's die de robot naar zijn motoren stuurt, zoals hoe ver hij zijn arm beweegt, hoeveel hij zijn pols draait, en of hij zijn grijper opent of sluit. Cruciaal is dat het ook naar de interne "gedachten" van de robot kijkt terwijl hij deze commando's genereert, waardoor een lopende samenvatting wordt gemaakt van het besluitvormingsproces van de robot in de loop van de tijd. Door de type vreemde situatie die aan het begin is geïdentificeerd te combineren met de realtime geschiedenis van de bewegingen en beslissingen van de robot, berekent het systeem een risicoscore. Deze score vertelt ons op elk gegeven moment hoe waarschijnlijk het is dat de robot er niet in slaagt de taak te voltooien.

De onderzoekers testten deze aanpak met behulp van een krachtig robotmodel genaamd OpenVLA bij tien verschillende taken waarbij objecten in een gesimuleerde omgeving werden verplaatst. Ze creëerden honderden scenario's waarin de robot te maken kreeg met veranderingen in achtergrond, verlichting, camerastandpunt en objectindeling. In deze tests bleek het systeem opmerkelijk goed in het herkennen wanneer de robot een onbekende situatie betrad, waarbij het het type verandering in ongeveer 91 procent van de gevallen correct identificeerde. Belangrijker nog, wanneer de robot de taak daadwerkelijk uitvoerde, kon het systeem met hoge nauwkeurigheid falen voorspellen. Nadat de robot zestig acties had uitgevoerd, bereikte het vermogen van het systeem om onderscheid te maken tussen een taak die zou slagen en een die zou falen een niveau van precisie dat aanzienlijk beter was dan eerdere methoden.

De studie vond dat alleen al weten dat de robot in een vreemde situatie verkeert, niet voldoende was om falen te voorspellen. Het systeem moest zien hoe de robot op die situatie reageerde. Bijvoorbeeld, als een robot een object probeert op te pakken in een visueel chaotische omgeving, kon het systeem detecteren of de robot kleine, aarzelende aanpassingen maakte of grote, onvoorspelbare bewegingen maakte die op een naderende crash duidden. De onderzoekers ontdekten dat de meest nauwkeurige voorspellingen voortkwamen uit het combineren van de initiële context van de vreemde situatie met het geaccumuleerde bewijs van het gedrag van de robot over de tijd heen. Deze aanpak stelde hen in staat om fouten te vangen die andere methoden misten, zoals een robot die leek goed te functioneren, maar eigenlijk vastzat in een lus van correcties die uiteindelijk tot een tijdgebrek zou leiden.

Een van de belangrijkste inzichten van dit werk is dat falen vaak een proces is, en geen enkel moment. Een robot kan een taak correct beginnen, maar naarmate hij tegen moeilijkheden aanloopt, veranderen zijn bewegingen op subtiele wijze, wat problemen signaleert. Door deze veranderingen te observeren en te vergelijken met het type uitdaging waar de robot voor staat, kan het systeem falen vroegtijdig waarschuwen. De onderzoekers toonden aan dat deze methode zelfs werkt wanneer de robot midden in een taak zit, wat een vangnet biedt dat een menselijke supervisor in staat stelt in te grijpen voordat een fout permanent wordt. Het systeem behaalde deze resultaten zonder het onderliggende brein van de robot te veranderen of nieuwe vaardigheden te vereisen; het voegde simpelweg een laag van observatie toe die de acties van de robot in realtime interpreteert.

De bevindingen suggereren dat voor robots om echt betrouwbaar te zijn in de echte wereld, we niet kunnen vertrouwen op statische controles die pas aan het begin van een taak plaatsvinden. We hebben dynamische monitors nodig die de relatie begrijpen tussen de omgeving en het gedrag van de robot. Het VLA-Scope framework laat zien dat door te kijken naar zowel de context van het probleem als de geschiedenis van de acties van de robot, we een veel duidelijker beeld kunnen krijgen van wat er waarschijnlijk mis zal gaan. Dit betekent niet dat de robot perfect is, maar het betekent dat we een betere manier hebben om te weten wanneer hij worstelt. Het onderzoek biedt een praktisch hulpmiddel om robotische systemen veiliger en betrouwbaarder te maken, zodat we wanneer ze voor het onverwachte staan, de problemen zien aankomen voordat ze gebeuren.