Adaptive Cost-Sensitive Machine Learning for Autonomous Robot Navigation Failure Prediction: When Not All Errors Are Equal

Autonome robots worden een alledaags gezicht in magazijnen, ziekenhuizen en zelfs op stadsstraten, met de taak om van het ene punt naar het andere te bewegen zonder menselijke hulp. Hiervoor vertrouwen ze op een complexe mix van sensoren en software die een kaart van de wereld bouwt en een route erdoorheen plant. Jarenlang was het primaire doel van onderzoekers om deze machines sneller en nauwkeuriger te laten bewegen. Echter, een ander soort probleem is ontstaan: hoe weten we wanneer een robot een gevaarlijke fout gaat maken voordat het gebeurt? In de wereld van veiligheid zijn niet alle fouten gelijk aan elkaar. Een robot die zijn beoogde pad iets mist, is een irritatie, maar een robot die tegen een persoon of een muur botst, is een catastrofe. Traditionele computerprogramma's behandelen deze twee uitkomsten vaak simpelweg als "fouten", waarbij ze geen onderscheid maken tussen een klein ongemak en een levensgevaarlijke gebeurtenis. Deze kloof in begrip heeft onderzoekers ertoe aangezet een meer dringende vraag te stellen: kunnen we robots leren hun eigen fouten te voorspellen, en nog belangrijker, kunnen we hen leren meer te geven om de fouten die er echt toe doen?

Rifa Ferzana, een onderzoeker aan de Universiteit van Edinburgh, heeft deze uitdaging aangepakt door opnieuw na te denken over hoe robots leren gevaar te voorzien. In plaats van een robot simpelweg te vragen of hij zal falen, vraagt de nieuwe aanpak de robot om de ernst van die fout te voorspellen. Stel je een robot voor die door een kamer navigeert vol obstakels. Als hij een beetje uit koers raakt, verspilt hij een beetje tijd. Als hij te dicht bij een muur komt, loopt hij het risico een botsing te veroorzaken. Als hij met snelheid tegen een muur botst, veroorzaakt hij schade. Ferzanas werk bouwt een systeem waarbij de robot wordt getraind om te herkennen dat deze drie scenario's zeer verschillende gewichten dragen. Het onderzoek beweegt weg van een simpele "geslaagd of gezakt"-test en creëert in plaats daarvan een trainingsomgeving waarin de robot leert dat het missen van een bijna-botsing veel kostbaarder is dan het missen van een kleine afwijking in het pad.

Om dit idee te testen, creëerde de onderzoeker een virtuele wereld waarin een kleine, wieltjesgestuurde robot door een arena van twintig bij twintig meter moest navigeren, gevuld met acht willekeurig geplaatste cirkelvormige obstakels. De robot kreeg een doel en een set sensoren om zijn omgeving te zien, vergelijkbaar met een auto met een bestuurder. Het team genereerde tweeduizend afzonderlijke reizen, of episodes, voor de robot om te voltooien, wat totaal ongeveer één miljoen momenten van beweging betekende. In deze gesimuleerde wereld werd de robot blootgesteld aan diverse omstandigheden, zoals ruisende sensoren die vage metingen gaven of plotselinge veranderingen in zijn eigen bewegingscommando's. Het doel was niet alleen om te zien of de robot de reis kon voltooien, maar om te zien of een computerprogramma naar de huidige staat van de robot kon kijken en kon voorspellen of hij op het punt stond een ernstige fout te maken.

De kern van de ontdekking ligt in hoe het computerprogramma leert. Bij standaardtraining kijkt een computer naar duizenden voorbeelden en probeert zo vaak mogelijk het juiste antwoord te krijgen. Als het een fout maakt, krijgt het een straf. In dit nieuwe systeem is de straf niet voor elke fout hetzelfde. Wanneer de robot een kleine fout maakte, was de straf klein. Wanneer het een bijna-botsing was, was de straf vijf keer groter. Wanneer het op de drempel van een botsing stond, was de straf vijfentwintig keer groter. Deze eenvoudige verandering in hoe de computer wordt onderwezen, dwong het programma om veel beter op de gevaarlijke situaties te letten. De resultaten waren opmerkelijk. Toen de onderzoekers deze "kostgevoelige" training gebruikten, steeg het vermogen van het systeem om hoog-ernstige fouten op te sporen van ongeveer tachtigenvijfentachtig procent naar bijna tweeennegentig procent.

De studie ging een stap verder door een laag context toe te voegen. De onderzoekers realiseerden zich dat een bijna-botsing niet altijd even gevaarlijk is. Een langzame benadering van een muur met heldere sensoren is minder riskant dan een snelle benadering met wazige sensoren. Om hiervoor rekening mee te houden, werd het systeem bijgewerkt zodat het de alertheid aanpaste op basis van de snelheid van de robot, de nabijheid van obstakels en de onzekerheid van de sensoren. Als de robot snel bewoog of de sensoren moeite hadden, werd het systeem automatisch conservatiever en sloeg het eerder alarm. Deze adaptieve aanpak tilde de detectiegraad nog verder omhoog, waarbij bijna elke hoog-ernstige gebeurtenis in de simulatie werd opgemerkt.

De onderzoekers waren echter voorzichtig om eerlijk te zijn over de afruil. Door het systeem zo gevoelig te maken voor gevaar, begon het ook vaker alarm te slaan wanneer er geen echt gevaar was. Dit staat bekend als een vals alarm. De studie toonde aan dat hoewel het adaptieve systeem uitstekend was in het vangen van bijna elke crash, het dit deed door veel veilige momenten als risicovol te bestempelen. Wanneer de onderzoekers de systemen onder dezelfde omstandigheden vergeleken, was de adaptieve methode slechts iets beter in het onderscheiden van echt gevaar en veiligheid dan de eenvoudigere methode. Het belangrijkste voordeel was niet dat het systeem slimmer werd in het rangschikken van risico's, maar dat het bereid was om voorzichtiger te zijn. Het koos ervoor om vaker alarm te slaan om er zeker van te zijn dat geen enkel gevaarlijk evenement gemist werd.

Om te garanderen dat deze bevindingen niet slechts het result van de computersimulatie waren, testte het team hun methode op echte wereldgegevens van een robot die in eerdere studies was gebruikt. Deze robot, uitgerust met vierentwintig ultrasone sensoren, had de taak om een muur te volgen. Hoewel deze robot niet ontworpen was om te botsen, brachten de onderzoekers de bewegingen in kaart naar hun ernstschaal. De resultaten hielden stand: de kostgevoelige training stelde het systeem in staat om noodmanoeuvres met perfecte nauwkeurigheid te detecteren, een significante verbetering ten opzien van de standaardmethoden. Dit bevestigde dat de aanpak niet alleen in een virtuele wereld werkt, maar ook met gegevens van werkelijke machines.

De studie onderzocht ook wat er gebeurt als een robot daadwerkelijk botst. In de hoofdsimulatie waren de veiligheidscontroles van de robot zo goed dat hij niets raakte. Om het vermogen van het systeem om echte botsingen te voorspellen te testen, creëerden de onderzoekers een tweede, moeilijkere simulatie waarin de robot een grotere kans had om tegen obstakels te botsen. In deze hardere omgeving verbeterde het vermogen van het systeem om een botsing te voorspellen van tachtigenvijf procent naar bijna tweeennegentig procent. De kosten van het missen van een botsing daalden drastisch, van duizend eenheden aan potentiële schade naar slechts honderd. Dit bewees dat de methode effectief is, zelfs voor het meest ernstige type falen, hoewel dit gepaard ging met een hoog aantal valse alarmen, waarbij bijna tachtig procent van de veilige momenten als risicovol werden gemarkeerd.

De onderzoekers concludeerden dat het meest waardevolle aspect van dit werk niet alleen de cijfers zijn, maar de verschuiving in perspectief. Zij betoogden dat de robotica-gemeenschap moet stoppen met het behandelen van alle fouten als gelijkwaardig. Een systeem dat negentig negen procent accuraat is maar de ene crash mist die de robot vernietigt, is een falen in een veiligheidskritische wereld. Door machines te leren hun fouten te wegen volgens de consequenties, kunnen we systemen bous die de menselijke veiligheid en de bescherming van apparatuur prioriteit geven boven eenvoudige efficiëntie. De studie suggereert dat deze aanpak een gefundeerde manier biedt om te beslissen hoe voorzichtig een robot moet zijn, waardoor ingenieurs het veiligheidsniveau kunnen bijstellen afhankelijk van de omgeving. Hoewel het systeem een afruil vereist van meer frequente valse alarmen, beargumenteren de onderzoekers dat dit een prijs is die het waard is te betalen in situaties waarin een botsing catastrofaal is. Het werk staat als een demonstratie dat machines, met de juiste training, kunnen leren begrijpen dat niet alle fouten gelijk aan elkaar zijn.