RC-NF: Robot-Conditioned Normalizing Flow for Real-Time Anomaly Detection in Robotic Manipulation

Probleemstelling

Recente vooruitgangen in Vision-Language-Action (VLA) modellen hebben robots in staat gesteld complexe taken uit te voeren op basis van natuurlijke taal. Deze modellen worden echter doorgaans getraind via imitatielearning op expertdemonstraties. Hierdoor worstelen ze met betrouwbaarheid in dynamische, real-world omgevingen, vooral onder Out-of-Distribution (OOD) omstandigheden.

• Huidige beperkingen: Bestaande methoden voor runtime-monitoring zijn vaak gebaseerd op statische state-classificatie (wat vereist dat alle fouten vooraf worden gedefinieerd) of gebruiken zware Vision-Language Models (VLM's) voor redenering. De laatsten leiden tot hoge latentie (meerdere seconden), wat te traag is voor tijdige ingrepen bij robots.
• De noodzaak: Er is behoefte aan een systeem dat in real-time (onder 100 ms) kan detecteren of de uitvoeringstoestand van de robot en de beweging van objecten consistent blijven met de bedoelde taak, zonder dat voorafgaande kennis van specifieke foutscenario's nodig is.

Methodologie: RC-NF

De auteurs stellen RC-NF (Robot-Conditioned Normalizing Flow) voor, een onbewaakt (unsupervised) model voor anomaliedetentie dat als plug-and-play module fungeert.

1. Kernarchitectuur:

   • RC-NF is gebaseerd op Normalizing Flows (NF), die een bi-directionele mapping creëren tussen een complexe verdeling (robot- en objecttoestanden) en een eenvoudige kansverdeling (Gaussisch).
   • Het model wordt uitsluitend getraind op positieve samples (succesvolle demonstraties). Tijdens inferentie wordt een anomalie-score berekend op basis van de waarschijnlijkheidsdichtheidsfunctie (log-likelihood). Een lage waarschijnlijkheid (hoge negatieve log-likelihood) duidt op een afwijking.

2. Robot-Conditioned Point Query Network (RCPQNet):

   • Dit is de kerninnovatie: een nieuwe affine coupling layer binnen de normalizing flow.
   • Decoupling: RCPQNet ontkoppelt de verwerking van robottoestanden en objectkenmerken, terwijl interactie behouden blijft.
   • Input:
     • Robottoestand: Joins, gripper-status en pose.
     • Taak-embedding: Een vector die de taakprompt encodeert (via sferische uniforme encoding).
     • Objectrepresentatie: Een puntenset (point set) afgeleid van objectmaskers (verkregen via SAM2 uit videostreams).
   • Verwerking: De robottoestand fungeert als "query tokens" en de objectpunten als "memory tokens" binnen een Transformer-architectuur. Dit genereert context-afhankelijke schaal- en verschuifparameters ($\gamma$ en $\beta$) voor de flow.

3. Anomalie-Handling:

   • State-level OOD: Als de robot fysiek uit de trainingsverdeling drift (bijv. object valt uit de gripper), maar de taak nog geldig is, triggert RC-NF een homing-procedure om de trajectorie te corrigeren.
   • Task-level OOD: Als de omgeving de taak onmogelijk maakt (bijv. een lade sluit terwijl de robot deze moet openen), triggert RC-NF taakhervorming (replanning) via een hogere bestuurslaag.

Nieuwe Benchmark: LIBERO-Anomaly-10

Om de prestaties te evalueren, stellen de auteurs een nieuwe benchmark voor, gebaseerd op LIBERO-10, met drie specifieke anomalie-types:

1. Gripper Open: De gripper blijft open terwijl hij het object zou moeten grijpen (robottoestand klopt niet met objectpositie).
2. Gripper Slippage: De gripper glijdt, wat leidt tot abnormale trajectfluctuaties.
3. Spatial Misalignment: De robot beweegt naar de verkeerde locatie (bijv. verkeerde vak in een kast), wat een semantisch-spatiale afwijking test.

Resultaten

De experimenten zijn uitgevoerd in simulatie (LIBERO-Anomaly-10) en in de echte wereld met een Franka Research 3-arm en het VLA-model $\pi_0$.

• Prestaties: RC-NF behaalt State-of-the-Art (SOTA) resultaten op alle anomalie-types.
  • Het overtreft de beste bestaande methoden (zoals FailDetect en VLM-based monitors zoals GPT-5 en Gemini) met ongeveer 8% AUC en 10% AP.
  • VLM's presteren goed op visuele fouten maar zakken in op ruimtelijke redenering (Spatial Misalignment), terwijl RC-NF dit perfect oppakt door te focussen op trajectafwijkingen.
• Snelheid: Het systeem detecteert anomalieën binnen 100 ms, wat essentieel is voor real-time interventie.
• Ablatiestudies:
  • Het verwijderen van taak-embeddings leidt tot een drastische daling in prestaties bij ruimtelijke fouten, wat aantoont dat taakcontext cruciaal is.
  • Het verwijderen van de "Dual-Branch Point Feature Encoding" (vooral de Dynamic Shape branch) veroorzaakt de grootste prestatiedaling, wat de belangrijkheid van het modelleren van relatieve bewegingen benadrukt.

Bijdragen en Significantie

De belangrijkste bijdragen van dit werk zijn:

1. RC-NF Model: Een onbewaakt, robot-geconditioneerd normalizing flow-model dat anomalieën detecteert zonder voorafgaande kennis van fouten.
2. RCPQNet Architectuur: Een innovatieve laag die robottoestanden en objectpunten decoupeert maar interactief verwerkt, wat zorgt voor robuuste en expressieve representaties.
3. LIBERO-Anomaly-10: Een nieuwe benchmark die specifieke, realistische robotfouten test.
4. Real-World Toepasbaarheid: Bewijs dat RC-NF als plug-and-play module de robuustheid en aanpasbaarheid van VLA-modellen (zoals $\pi_0$) in dynamische omgevingen aanzienlijk verbetert.

Conclusie:
RC-NF lost het probleem van trage of onnauwkeurige monitoring in robotica op door een snelle, onbewaakte benadering te gebruiken die direct in de besturingslus kan worden geïntegreerd. Dit stelt robots in staat om veilig en adaptief te opereren in onvoorspelbare omgevingen door zowel fysieke drift als taakgerelateerde fouten onmiddellijk te detecteren en te corrigeren.