I-FailSense: Towards General Robotic Failure Detection with Vision-Language Models

Probleemstelling

Robotica in open werelden vereist niet alleen nauwkeurige taakuitvoering, maar ook de capaciteit om fouten automatisch te detecteren voor robuuste inzet. Hoewel recente doorbraken in Vision-Language Models (VLM's) de ruimtelijke redenering en taakplanning van robots hebben verbeterd, blijven deze modellen beperkt in het herkennen van hun eigen falen.

Er wordt een onderscheid gemaakt tussen twee soorten fouten:

1. Controlefouten: Fysieke fouten zoals het niet kunnen grijpen van een object of het laten vallen ervan. Deze zijn relatief makkelijk te detecteren via visuele aanwijzingen.
2. Semantische misalignement-fouten (Semantic Misalignment Errors): Dit is de kernfocus van het paper. Hierbij voert de robot een handeling uit die op zich semantisch zinvol is (bijvoorbeeld een object grijpen en verplaatsen), maar die niet overeenkomt met de gegeven taal-instructie (bijvoorbeeld de instructie is "til de blauwe blok op", maar de robot tilt de rode blok op).

Het huidige probleem is dat bestaande VLM's moeite hebben met het grondig verankeren (grounding) van taal-instructies in zowel de ruimtelijke als temporele dimensies van robotbewegingen. Bestaande methoden richten zich vaak op controlefouten, terwijl semantische misalignementen, die wijzen op een gebrek aan begrip van de instructie, onderbelicht blijven.

Methodologie: I-FailSense

De auteurs introduceren I-FailSense, een open-source framework dat is ontworpen voor foutdetectie met een specifieke focus op semantische misalignement. De aanpak bestaat uit drie hoofdbestanden:

1. Dataverzameling (DSMF)

Om het probleem aan te pakken, bouwen de auteurs een nieuw type dataset genaamd DSMF (Semantic Misalignment Failure datasets) uit bestaande benchmarks (zoals CALVIN en DROID).

• Positieve voorbeelden: Expert-trajectoires gekoppeld aan de originele, correcte instructie.
• Negatieve voorbeelden: Expert-trajectoires gekoppeld aan een andere instructie binnen dezelfde taakcategorie (bijv. een traject waarbij een blok naar links wordt gedraaid, gekoppeld aan de instructie "draai het blok naar rechts"). Dit creëert subtiele, semantische misalignementen die moeilijk te onderscheiden zijn.

2. Architectuur en Training

I-FailSense is gebaseerd op een pre-getrainde VLM (PaliGemma2-mix-3B) en volgt een tweestaps post-training pipeline:

• Fase 1: Parameter-efficiënte fijnafstelling (PEFT): De basis-VLM wordt gefine-tuned met LoRA (Low-Rank Adaptation) modules op de taalcomponenten en de projectie-laag tussen de visuele encoder en de taalmodellen. Hierbij worden de meeste gewichten van het pre-getrainde model bevroren.
• Fase 2: Grounded Arbitration (FS Blocks): Er worden lichte classificatiekoppen, genaamd FailSense (FS) blocks, toegevoegd aan meerdere interne lagen van de taalmodellen van de VLM.
  • Elk FS-block neemt features van een specifieke diepte van het model en voert een binaire classificatie uit (succes/falen).
  • De architectuur van een FS-block gebruikt een hybride attention pooling (MLP + Multi-Head Attention) gevolgd door residuale MLP-blokken.
  • Ensembling: De voorspellingen van de verschillende FS-blocks en de originele output van de VLM worden samengevoegd via een stemmechanisme (voting). Dit zorgt voor een robuuste eindvoorspelling die rekening houdt met verschillende niveaus van redeneringsabstractie.

Belangrijkste Bijdragen

1. Nieuwe Dataset-strategie: Een methode om datasets voor semantische misalignement-fouten te genereren uit bestaande expert-demonstraties, wat een cruciale lacune in de huidige literatuur opvult.
2. I-FailSense Framework: Een innovatieve architectuur die de interne representaties van een VLM benut via meerdere lagen en een stemmechanisme, in plaats van alleen te vertrouwen op de eindoutput.
3. Generalisatie: Het bewijs dat training op semantische misalignement-fouten leidt tot sterke generalisatie naar andere foutcategorieën (zoals controlefouten) en nieuwe omgevingen.

Resultaten

De experimenten tonen aan dat I-FailSense aanzienlijk beter presteert dan state-of-the-art (SOTA) zero-shot VLM's (zoals GPT-4o, Qwen2.5-VL en de basis PaliGemma2):

• Semantische Misalignement Detectie (CALVIN): I-FailSense bereikt een nauwkeurigheid van 90% op de DSMF-CALVIN dataset, vergeleken met ongeveer 68-69% voor de beste zero-shot VLM's. Het model reduceert ook de "false positives" aanzienlijk.
• Generalisatie naar Controlefouten (AHA Dataset): Hoewel I-FailSense uitsluitend is getraind op semantische misalignement, bereikt het 89% nauwkeurigheid op de AHA-dataset, die voornamelijk bestaat uit controlefouten. Dit is een verbetering van +19 punten ten opzichte van een model dat specifiek op die dataset is getraind. Dit suggereert dat het leren van semantische verankering ook helpt bij het detecteren van fysieke controlefouten.
• Sim-to-Real Transfer: Bij overdracht naar real-world data (DSMF-DROID) presteert het model met minimale fijnafstelling van de FS-blocks. Hoewel training puur op simulatie-data de recall in de echte wereld verlaagt, bereikt het model met training op real-world data een nauwkeurigheid van 74%, wat vergelijkbaar is met veel grotere zero-shot modellen, maar met de helft minder parameters.
• Multi-PoV: Het gebruik van zowel exocentrische (externe) als egocentrische (grijper) camera's verbetert de prestaties in real-world scenario's, waar de omgeving chaotischer is.

Significantie

Dit werk is een belangrijke stap voorwaarts voor autonome robotica:

• Autonome Reflectie: Het stelt robotagenten in staat om hun eigen gedrag te evalueren zonder externe supervisie, wat essentieel is voor leren uit fouten en zelfcorrectie.
• Efficiëntie: Het toont aan dat het toevoegen van lichte classificatiekoppen aan een bestaande VLM effectiever is dan het trainen van enorme modellen van scratch of het vertrouwen op zero-shot inferentie.
• Veiligheid en Betrouwbaarheid: Door in staat te zijn om subtiele semantische fouten te detecteren (waar de robot "iets doet" maar het "verkeerde" doet), wordt de betrouwbaarheid van robots in open werelden significant verhoogd. Dit is een voorwaarde voor de veilige inzet van foundation models in de robotica.

Kortom, I-FailSense bewijst dat het combineren van semantische foutdetectie met een architectuur die gebruikmaakt van diverse interne representaties, leidt tot robuuste en generaliseerbare foutdetectie in complexe robotische omgevingen.