💻 computer science

InFeR: Informed Failure Resilience in Learned Visual Navigation Control

Het artikel stelt InFeR voor, een algemeen raamwerk dat imitatieleerpoli's voor visuele navigatie verbetert door gebruik te maken van een Variational Information Bottleneck voor het detecteren van uit-distributie-fouten en Grad-CAM voor het lokaliseren van foutbronnen om autonome herstel mogelijk te maken, alles zonder dat extra trainingsdata voor fouten of herstel nodig is.

Oorspronkelijke auteurs: Zishuo Wang, Joel Loo, David Hsu

Gepubliceerd 2026-05-19

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Zishuo Wang, Joel Loo, David Hsu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot leert door een huis te lopen door haar een video te laten zien van een mens die dit perfect doet. Dit heet Imitatieleer. De robot bekijkt de video, leert het patroon en probeert het na te bootsen.

Er is echter een groot probleem: Wat gebeurt er als de robot iets tegenkomt dat ze nog nooit heeft gezien?

Misschien rent er plotseling een kat voorbij, of staat een deur dicht die in de trainingsvideo open stond, of wordt de camera bedekt met zwarte verf. In deze momenten "buiten de verdeling" (out-of-distribution, OOD) gokt een standaard robotbeleid gewoon blindelings. Het kan doorlopen tegen de kat, tegen de deur aanrijden, of in cirkels draaien, vaak zonder dat de robot beseft dat het in de problemen zit.

InFeR is een nieuw raamwerk dat dit probleem oplost. Denk er als het ware aan als het geven van een "zesde zintuig" en een "herstelplan" aan de robot, zonder dat er video's van crashes of mislukkingen aan haar hoeven te worden getoond.

Hier is hoe InFeR werkt, opgesplitst in eenvoudige stappen:

1. De "Stress-test" training (VIB)

Meestal worden robots alleen getraind op "goede" dagen. InFeR verandert hoe de robot denkt tijdens de training. Het maakt gebruik van een techniek genaamd een Variational Information Bottleneck (VIB).

De Analogie: Stel je voor dat je leert voor een toets. Een normale student leert de exacte antwoorden uit het hoofd. Een student die InFeR gebruikt, wordt geleerd de kernconcepten zo goed te begrijpen dat hij direct kan zeggen of een vraag "raar" of "onzin" is in vergelijking met wat hij heeft geleerd.
Hoe het werkt: InFeR dwingt de robot om zijn visuele informatie te comprimeren tot een zeer specifieke, schone mentale kaart. Als de robot iets vreemds ziet (zoals een zwart scherm of een plotselinge hindernis), wordt deze mentale kaart "ontwricht" of past hij niet in het patroon. De robot weet direct: "Hé, dit lijkt niet op de trainingsdata!"

2. De "Schijnwerper" (Grad-CAM)

Zodra de robot weet dat er iets mis is, moet ze weten wat er mis is. Is het een kat? Een muur? Een kapotte camera?

De Analogie: Stel je voor dat de robot naar een rommelige kamer kijkt. In plaats van alleen te zeggen "Ik ben in de war", zet InFeR een stralende rode schijnwerper op het specifieke object dat de verwarring veroorzaakt.
Hoe het werkt: Het systeem gebruikt een tool genaamd Grad-CAM om te kijken naar de interne "gedachten" van de robot en het exacte deel van de afbeelding dat het probleem veroorzaakt, te markeren. Als een stoel het pad blokkeert, markeert de robot de stoel. Als de camera bedekt is, markeert hij het hele zwarte scherm.

3. Het "Herstelplan" (Heuristisch beleid)

Nu de robot weet dat ze in de problemen zit en weet waar de problemen zitten, moet ze het oplossen. Omdat de robot nooit video's heeft gezien van hoe ze zich moet herstellen van een crash, kan ze niet zomaar een nieuwe truc "leren". In plaats daarvan geeft InFeR haar een eenvoudige, slimme set regels.

De Analogie: Denk hieraan als een "Get Out of Jail Free"-kaart met een paar specifieke zetten.
- Als de schijnwerper links staat: De robot draait naar rechts om weg te komen van de hindernis.
- Als de schijnwerper rechts staat: De robot draait naar links.
- Als de robot vastzit in een hoek: Ze probeert achteruit te gaan.
- Als de camera kapot is (zwart scherm): Ze weet dat ze dit niet alleen kan oplossen en stopt, wachtend op hulp van een mens.

De Resultaten

De onderzoekers testten dit op een echte robot (een Boston Dynamics Spot) in de echte wereld. Ze toonden de robot geen video's van crashes. Ze leerden haar gewoon de "InFeR"-manier.

De Test: Ze lieten de robot een route van 300 meter lopen (binnen en buiten) en introduceerden problemen zoals geblokkeerde paden, plotseling bewegende obstakels, en bedekten zelfs de camera.
Het Resultaat: De robot detecteerde deze problemen succesvol, bedacht wat ze veroorzaakte, en herstelde zichzelf. Ze kon achteruit gaan, wegdraaien van obstakels, of om hulp vragen als de situatie onmogelijk was. Ze voltooide de lange reis zonder dat een mens de controle hoefde over te nemen.

Waarom dit belangrijk is

De meeste eerdere methoden konden alleen zeggen: "Ik denk dat ik faal", en stopten dan gewoon en wachtten op een mens. InFeR is speciaal omdat het zegt: "Ik faal, ik zie waarom (de kat is er), en ik weet wat ik moet doen (naar links draaien)."

Het verandert een robot die blindelings een script volgt in een robot die zich kan aanpassen, gevaar kan herkennen en zichzelf kan redden, allemaal zonder extra trainingsdata van rampen.

Technische Samenvatting: InFeR – Informatieve Stooringsbestendigheid in Gelerende Visuele Navigatiebesturing

Probleemstelling
Nabootsingsleren (Imitation Learning, IL) heeft aanzienlijke successen geboekt in visuele navigatie, maar blijft inherent beperkt door zijn afhankelijkheid van trainingsdata. Beleid dat is getraind op succesvolle demonstraties, faalt vaak onvoorspelbaar wanneer het scenario's tegenkomt die buiten de verdeling liggen (Out-of-Distribution, OOD) (bijvoorbeeld sensorstoringen, dynamische obstakels of geblokkeerde paden). Huidige benaderingen voor omgang met storingen lijden onder twee primaire beperkingen: ze richten zich vaak uitsluitend op detectie, wat leidt tot menselijke ingrijpen in plaats van autonome herstel; en ze vertrouwen vaak op externe detectoren die geen toegang hebben tot de interne representaties van het beleid, waardoor ze geen echte storingsmodi vastleggen of bruikbare inzichten bieden voor herstel. Het artikel betoogt dat ware storingsbestendigheid vereist dat niet alleen storingen worden gedetecteerd, maar ook dat hun oorzaken autonoom worden herkend en dat er zonder extra demonstraties van storingen of herstel van wordt hersteld.

Methodologie: Het InFeR-kader
InFeR is een algemeen kader dat is ontworpen om standaard IL-beleid te versterken met "informatieve storingsbestendigheid" met behulp van slechts één statische dataset van succesvolle demonstraties. Het werkt in twee hoofdfasen:

OOD-bewuste beleidsopleiding ( $\pi_{IL-OOD}$ ):
- Variational Information Bottleneck (VIB): De kerninnovatie bestaat uit het hertrainen van het IL-beleid met een VIB-verlies. Dit regulariseert de latente ruimte tussen de visuele encoder en de actie-decoder. Het doel is om inputobservaties te comprimeren terwijl de informatie die cruciaal is voor actievoorspelling maximaal behouden blijft.
- Structurering van de latente ruimte: Door de latente representatie te dwingen dicht bij een prior (een eenheids-Gaussische verdeling) te blijven, dient de KL-divergentie tussen de gecodeerde latente kenmerken en de prior als een scalair OOD-score. Een hoge divergentie geeft een OOD-input aan.
- Conformal Prediction (CP): Om met tijdvariabele dynamiek om te gaan en willekeurige drempelwaarden te vermijden, past InFeR functionele conformal prediction toe op een kalibratiedataset van trajecten. Dit genereert tijdvariabele bovengrenzen voor de KL-scores, waardoor een statistisch onderbouwde methode voor binaire OOD-detectie ( $b_t$ ) wordt geboden.
- Grad-CAM voor herkenning: Om de bron van de storing te identificeren, past InFeR Grad-CAM toe op de kenmerkkaarten van de visuele encoder met behulp van de gradiënten van de op KL gebaseerde OOD-score. Dit produceert een hittekaart ( $M_t$ ) die de beeldregio's lokaliseert die verantwoordelijk zijn voor de OOD-detectie.
Heuristisch herstelbeleid ( $\pi_{Rec}$ ):
- Aangezien data over storingen en herstel ontbreekt, hanteert InFeR een heuristisch herstelbeleid dat wordt geleid door de OOD-herkenningshittekaart.
- Het beleid kiest uit een discrete set macro-acties: terugtrekken, naar links draaien, naar rechts draaien of hulp vragen.
- Beslissingslogica: De hittekaart wordt gediskretiseerd in horizontale bakken. Als OOD-kenmerken worden gedetecteerd in de linker- of rechterbakken, roteert de robot zich weg daarvan. Als de robot geblokkeerd is of de OOD-regio centraal ligt, trekt de robot terug (het omkeren van een opgeslagen reeks eerdere acties). Als herstelpogingen falen na een maximaal aantal pogingen ( $t_{max}$ ), stopt de robot en vraagt hij om menselijke hulp.

Belangrijkste Bijdragen

Informatieve Storingsbestendigheid: Het artikel definieert en implementeert een kader dat verder gaat dan eenvoudige storingsdetectie door bronherkenning en autonome herstel te omvatten, gebaseerd op de interne latente representaties van het beleid.
Data-efficiënte Opleiding: InFeR bereikt OOD-bewustzijn en herstelcapaciteiten zonder extra demonstraties van storingen of herstel, en vertrouwt uitsluitend op de oorspronkelijke dataset met succesvolle demonstraties.
Architectuur-onafhankelijkheid: Het kader is ontworpen om algemeen te zijn en kan verschillende IL-beleidsarchitecturen versterken (bijvoorbeeld op CNN gebaseerde beeld-doelbeleid en recurrente padvolgende beleid) zonder hun kernstructuren te wijzigen.
Integratie van Detectie en Herkenning: In tegenstelling tot externe detectoren, integreert InFeR zowel detectie als herkenning direct in het beleid, waarbij het de latente ruimte gebruikt om inputs binnen de verdeling te onderscheiden van OOD-inputs en de specifieke visuele kenmerken die de anomalie veroorzaken, te lokaliseren.

Experimentele Resultaten
De auteurs hebben InFeR geëvalueerd op een Boston Dynamics Spot-robot in echte binnen- en buitenomgevingen, met testen tegen vier storingssoorten: sensorstoring, geblokkeerde paden (doodlopende wegen en lokale minima), dynamische obstakels op korte afstand en onuitvoerbare beeld-doelen.

Prestaties van Detectie en Herkenning: InFeR presteerde beter dan state-of-the-art baselines (inclusief op dichtheid gebaseerde methoden, one-class discriminators en reconstructie-gebaseerde auto-encoders) in zowel OOD-detectie als herkenning. Het gebruik van KL-scores en Grad-CAM op latente vectoren bleek aanzienlijk effectiever en minder ruisgevoelig dan reconstructiefout-metrieken op hoogdimensionale afbeeldingen.
Herkansucces: InFeR-gemoduleerde beleid detecteerden en herstelden succesvol van diverse storingen. Bijvoorbeeld, InFeR-DEC (gebaseerd op het DECISION-beleid) voltooide autonoom een route van 300 meter met complex terrein, en herstelde van lokale minima en dynamische obstakels.
Belang van Herkenning: Vergelijkingen met een "Blind"-variant (die de hittekaart negeert en willekeurige corrigerende acties kiest) toonden aan dat geïnformeerd herstel aanzienlijk efficiënter en effectiever is, met name in dynamische scenario's. InFeR-DEC herstelde tot 2x sneller dan de blinde variant.
Generaliseerbaarheid: Het kader toonde consistente prestaties over twee verschillende beleidsarchitecturen (GNM en DECISION), wat de toepasbaarheid op verschillende visuele navigatieparadigma's valideert.

Betekenis
Het artikel stelt dat InFeR een belangrijke stap voorwaarts is naar veilige en robuuste visuele navigatie met nabootsingsleren. Door beleid in staat te stellen storingen autonoom te detecteren, te herkennen en te herstellen zonder externe supervisie of extra trainingsdata, adresseert InFeR een kritieke kloof bij het implementeren van geleerde navigatiesystemen in open wereld, ongestructureerde omgevingen. De auteurs stellen dat deze aanpak geleerde besturingssystemen in staat stelt om langafstandsnavigatie in complexe scenario's aan te pakken, waar traditionele IL-beleid anders onvoorspelbaar zouden falen.