Predictive Zonotope Reduction: Precise Runtime Monitoring under Uncertainty

Robots die zich door de echte wereld bewegen, vertrouwen op sensoren om hun omgeving te begrijpen. Deze sensoren zijn echter nooit perfect. Een camera kan moeite hebben met mist, of een afstandsmeter kan gaan trillen door elektrische ruis. Wanneer een robot een beslissing neemt op basis van deze imperfecte metingen, loopt hij het risico een actie te ondernemen die ofwel te voorzichtig, ofwel gevaarlijk roekeloos is. Om robots veilig te houden, gebruiken ingenieurs een veiligheidssysteem dat een runtime-monitor wordt genoemd. Dit systeem werkt als een waakzame bewaker die het gedrag van de robot constant controleert aan de hand van een reeks regels om ervoor te zorgen dat hij binnen veilige grenzen blijft. De uitdaging ligt in het weergeven van de onzekere positie van de robot. Als de monitor ervan uitgaat dat de robot zich op exact één plek bevindt, kan het een gevaar missen dat net buiten dat punt loert. Als het ervan uitgaat dat de robot overal in een groot gebied zou kunnen zijn, zal het te vaak het alarm slaan, waardoor de robot onnodig stopt. Het doel is om een representatie te vinden die nauwkeurig genoeg is om nuttig te zijn, maar simpel genoeg om snel te berekenen.

Een wiskundige vorm die een zonotoop wordt genoemd, is een populair hulpmiddel geworden voor deze taak. Stel je een wolk van mogelijke locaties voor waar de robot zich kan bevinden, gevormd als een uitgerekte, meerdimensionale ballon. Terwijl de robot beweegt en nieuwe sensormetingen verwerkt, groeit en verandert deze wolk van vorm. Het probleem is dat elke nieuwe informatie de complexiteit van de wolk vergroot, waardoor het steeds moeilijker wordt om deze te berekenen. Uiteindelijk wordt de wolk zo groot dat de computer die de monitor aanstuurt het niet meer kan bijhouden, vooral als de robot draait op een klein, op batterijen werkend apparaat. Om dit op te lossen, moeten ingenieurs de wolk periodiek verkleinen, een proces dat reductie wordt genoemd. Ze doen dit door de complexe vorm te vervangen door een iets grotere, eenvoudigere vorm die nog steeds alle mogelijke locaties bevat. Het nadeel is dat er veel verschillende manieren zijn om deze wolk te verkleinen, en elke methode levert een ander resultaat op. Sommige methoden zijn beter in het compact houden van de vorm in bepaalde situaties, terwijl andere in andere situaties beter werken. Traditioneel kiezen ingenieurs één methode en houden ze die de hele reis vast, ook al verandert de beste keuze terwijl de robot beweegt.

Onderzoekers van het CISPA Helmholtz Center for Information Security en de Technische Universiteit van München hebben een nieuwe aanpak ontwikkeld die verandert hoe deze beslissing wordt genomen. In plaats van vast te houden aan een enkele methode, behandelt hun systeem, genaamd Predictive Zonotope Reduction, de keuze van hoe de wolk te verkleinen als een reeks beslissingen. Het vraagt niet alleen "wat is de beste manier om de wolk nu te verkleinen?", maar ook "wat is de beste manier om het nu te verkleinen, en dan ook in de volgende paar stappen, om de algehele vorm zo compact mogelijk te houden?". Om dit te beantwoorden, gebruikt het systeem een techniek die is geleend van robotica-besturing, waarbij een computer een paar stappen vooruit plant om de gevolgen van zijn huidige actie te zien. Het simuleert verschillende paden en kijkt naar hoe elke keuze van verkleiningsmethode de vorm van de wolk in de nabije toekomst zou beïnvloeden. Door vooruit te kijken, kan het systeem een methode kiezen die misschien niet perfect is voor het directe moment, maar de wolk zo instelt dat deze later veel nauwkeuriger is.

Het draaien van deze complexe simulatieses in realtime is echter te traag voor veel robots. Om het systeem snel genoeg te maken voor praktisch gebruik, hebben de onderzoekers een klein computerprogramma geleerd om het besluitvormingsproces van de trage, zorgvuldige planner na te bootsen. Ze gebruikten een proces genaamd policy distillation, waarbij een neuraal netwerk, optredend als een student, leert van de "docent"-planner. Het student-netwerk hoeft de toekomst niet te simuleren; het kijkt simpelweg naar de huidige vorm van de wolk en rangschikt de beschikbare verkleiningsmethoden van best naar slecht. Dit stelt het systeem in staat om bijna direct hoogwaardige beslissingen te nemen. Om te garanderen dat het systeem robuust blijft, combineerden ze verschillende van deze student-netwerken tot een groep, waarbij ze stemmen over de beste keuze. Als de groep het niet zeker weet, grijpt een reserve-planner in om de definitieve beslissing te nemen. Deze combinatie van vooruitkijken, leren van ervaring en stemmen voor veiligheid zorgt ervoor dat het systeem op zeer bescheiden hardware, zoals een Raspberry Pi 5, kan draaien terwijl het een hoge precisie behoudt.

De onderzoekers testten hun nieuwe systeem op een gesimuleerde vijf-gewrichtige robotarm die beweegt in een virtuele omgeving. Ze programmeerden de arm om te bewegen terwijl de sensoren werden blootgesteld aan realistische fouten, wat de soort ruis nabootst die in real-world apparaten wordt gevonden. Ze lieten de arm honderden verschillende bewegingen uitvoeren en vergeleken hun nieuwe dynamische systeem met oudere methoden die een enkele, vaste manier gebruikten om de onzekerheidswolk te verkleinen. De resultaten waren opmerkelijk. Het nieuwe systeem verminderde het aantal valse alarmen met een aanzienlijke marge. In de tests triggerden de oude vaste methoden bijna 30 procent van de tijd onnodige noodstops terwijl de robot eigenlijk veilig was. Het nieuwe voorspellende systeem verlaagde dit percentage naar minder dan 2 procent. Dit betekent dat de robot vrijer en zelfverzekerder kon bewegen, wetende dat de veiligheidsmonitor niet vals alarm sloeg. Het systeem bereikte dit terwijl het met een snelheid van 100 keer per seconde draaide, snel genoeg om de snelle bewegingen van een echte robot bij te houden.

De studie onthulde ook iets verrassends over hoe deze verkleiningsmethoden samenwerken. De onderzoekers ontdekten dat de methode die op zichzelf het beste presteerde, niet altijd de methode was die het meest werd gekozen door hun slimme systeem. Sterker nog, het systeem koos regelmatig een methode die alleen gebruikt vaak slecht presteerde. Dit kwam omdat het slimme systeem begreep dat het gebruiken van een andere methode eerst de wolk op een manier kon hervormen waardoor de "slechte" methode later heel goed zou werken. Het was een les in timing en sequentie: de beste zet is niet altijd de sterkste zet in isolatie, maar de zet die de beste toekomst voorbereidt. Door tussen methoden te schakelen, hield het systeem de onzekerheidswolk veel compacter dan welke enkele methode dan ook ooit op zichzelf zou kunnen bereiken.

Dit werk demonstreert dat veiligheidssystemen voor robots niet statisch hoeven te zijn. Door het beheer van onzekerheid te behandelen als een dynamisch, vooruitziend probleem, kunnen ingenieurs monitors creëren die zowel veiliger als efficiënter zijn. Het vermogen om deze geavanceerde berekeningen op kleine, goedkope hardware uit te voeren, opent de deur voor meer robots om veilig te opereren in complexe, onvoorspelbare omgevingen. De onderzoekers hebben aangetoond dat een robot met de juiste aanpak zijn eigen onzekerheid beter kan begrijpen, wat leidt tot minder fouten en een betrouwbaardere prestatie in de echte wereld.