ReViP: Mitigating False Completion in Vision-Language-Action Models with Vision-Proprioception Rebalance

Het artikel introduceert ReViP, een nieuw VLA-framework dat de foutieve taakvoltooiing in robotmanipulatie vermindert door een onbalans tussen visuele en proprioceptieve signalen te corrigeren via progressiebewuste visuele aanwijzingen, wat resulteert in een aanzienlijke verbetering van de robuustheid en het succespercentage.

De kern

ReViP: De "Oog-En-Hand" Balans voor Robots

Stel je voor dat je een robot hebt die een taak moet uitvoeren, zoals een kopje van de tafel naar de kast brengen. Normaal gesproken kijkt de robot naar zijn camera's (zijn ogen) en voelt hij zijn eigen bewegingen (zijn zintuigen of "proprioceptie").

Het probleem dat dit nieuwe onderzoek, ReViP, oplost, is een rare fout die robots vaak maken: de "Valse Voltooiing".

Het Probleem: De Robot die in een Droom Leeft

Stel je voor dat je robot een kopje vastpakt en begint te lopen naar de kast. Plotseling valt het kopje uit zijn grijper en belandt het op de vloer.

Een slimme mens zou zeggen: "Oh nee, het is gevallen! Ik moet terug en het oppakken."
Maar de oude robots (zoals de modellen in dit onderzoek) doen iets raars. Ze kijken niet naar de vloer. Ze kijken alleen naar hun interne logboek: "Ik heb het vastgepakt, ik loop naar de kast, dus ik ben bijna klaar."

Omdat ze blindelings vertrouwen op hun eigen gevoel van "ik ben onderweg", stoppen ze met bewegen en zeggen ze: "Taak voltooid!", terwijl het kopje nog steeds op de vloer ligt. Ze hebben de taak niet gedaan, maar hun interne staat zegt van wel. Dit noemen de auteurs Valse Voltooiing. Het is alsof je een auto bestuurt met je ogen dicht, alleen leunend op je gevoel dat je naar huis rijdt, terwijl je eigenlijk in een sloot bent beland.

De Oplossing: ReViP (Herbalanceren van Oog en Hand)

De onderzoekers hebben een nieuwe methode bedacht, ReViP, om dit te fixen. Ze noemen het een "herbalancing" van visie (oog) en proprioceptie (gevoel).

Hier is hoe het werkt, met een creatieve analogie:

1. De Waarnemer (De "Kijkende Vriend")
Stel je voor dat de robot een team is van twee personen:

• De Motor: Die voelt de bewegingen en zegt: "We gaan naar de kast!"
• De Waarnemer (ReViP's nieuwe toevoeging): Een slimme assistent die continu naar de camera's kijkt.

In de oude robots luisterde de Motor naar de Waarnemer, maar de Waarnemer werd vaak genegeerd. ReViP geeft de Waarnemer een nieuwe rol. Deze assistent kijkt niet alleen naar de beelden, maar vraagt zich actief af: "Staat het kopje nog in de hand? Nee? Dan is de taak nog niet klaar, ongeacht wat de Motor zegt."

2. De Rem en het Gaspedaal
ReViP werkt als een slimme rem die automatisch wordt ingetrapt als er iets mis is.

• Als de robot probeert de taak af te ronden op basis van zijn oude plan (de Motor), maar de Waarnemer ziet dat het kopje gevallen is, dan remt ReViP het oude plan af.
• Het zegt tegen de robot: "Stop! Kijk eens naar de vloer. Het kopje ligt daar. Plan B: Ga terug en pak het op."

Dit zorgt ervoor dat de robot niet meer in zijn eigen droom blijft hangen, maar echt reageert op wat er in de wereld gebeurt.

Wat hebben ze getest?

Om te bewijzen dat dit werkt, hebben ze een speciale testbaan bedacht (een "Benchmark") waar ze robots bewust in de problemen brachten:

• Het laten vallen: Ze lieten robots objecten laten vallen tijdens het bewegen.
• Verwisselen: Ze wisselden het doelobject met een lelijk nep-object.
• Verplaatsen: Ze verplaatsten de kast terwijl de robot onderweg was.

De oude robots faalden hier vaak en zeiden "Taak klaar!" terwijl ze het niet hadden gedaan. De robot met ReViP zag de fout, stopte, pakte het object opnieuw op, en deed de taak écht af.

Waarom is dit belangrijk?

Vroeger waren robots als een kind dat blindelings een liedje zingt, zelfs als het publiek wegloopt. Ze volgden hun interne ritme.
Met ReViP wordt de robot als een volwassen mens: hij luistert naar zijn eigen gevoel, maar kijkt ook constant om zich heen. Als hij ziet dat het misgaat, past hij zijn plan direct aan.

Kort samengevat:
ReViP zorgt ervoor dat robots niet meer "in hun hoofd" blijven hangen als er iets misgaat. Ze leren weer naar hun ogen te kijken, waardoor ze echte, succesvolle taken uitvoeren in plaats van te doen alsof ze klaar zijn. Dit maakt robots veiliger en betrouwbaarder voor het echte werk in onze huizen en fabrieken.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "ReViP: Mitigating False Completion in Vision-Language-Action Models with Vision-Proprioception Rebalance", geschreven in het Nederlands.

Titel

ReViP: Het Mitigeren van Valse Voltooiing in Vision-Language-Action Modellen door Herbalancing van Visie en Proprioceptie

1. Het Probleem: Valse Voltooiing (False Completion)

Het paper identificeert een kritieke foutmodus in Vision-Language-Action (VLA) modellen voor robotmanipulatie, genaamd "False Completion" (valse voltooiing).

• Definitie: Dit treedt op wanneer een robotbeleid (policy) de taak als voltooid verklaart of stopt, terwijl het doelobjectief visueel nog niet is bereikt.
• Oorzaak: De auteurs attribueren dit aan een modaal onbalans (modality imbalance). Bestaande VLA-modellen vertonen een staats-dominante bias (state-dominant bias). Ze vertrouwen te sterk op interne proprioceptieve signalen (bijv. de verwachte positie van de arm of de geschatte greepstatus) en negeren visuele feedback die aangeeft dat de taak is mislukt (bijv. een object dat uit de greep valt).
• Gevolg: Zelfs als de robot visueel ziet dat het object is gevallen of de verkeerde greep heeft, blijft het beleid de geplande beweging uitvoeren en verklaart het de taak succesvol, in plaats van te corrigeren. Dit staat haaks op menselijke gezond verstand en logisch redeneren.

2. Methodologie: Het ReViP Framework

Om dit probleem op te lossen, stellen de auteurs ReViP (Vision-Proprioception Rebalance) voor. In plaats van proprioceptieve signalen simpelweg te verwijderen (wat de algemene prestaties verslechtert), herbijt ReViP het evenwicht tussen visuele waarneming en interne staat.

Het framework bestaat uit twee hoofdcomponenten:

A. Task-Stage Observer (TSO)

• Doel: Het extraheren van "progress-aware visual cues" (visuele aanwijzingen over de voortgang) uit de huidige observatie en taakinstructie.
• Implementatie: Een externe Vision-Language Model (VLM), specifiek Qwen2.5-VL, fungeert als observer. Deze analyseert de real-time beelden en de instructie om de fysieke staat van de robot en de objecten te bepalen.
• Output: De TSO genereert een beknopte, gestructureerde beschrijving van de huidige taakfase (bijv. "Het boterblok is niet vastgegrepen door de arm"). Deze tekstuele cues worden omgezet in continue vectorrepresentaties (embeddings) die de voortgang van de taak weerspiegelen.

B. Task-Stage Enhancer (TSE)

• Doel: Het adaptief herbijten van de visuele en proprioceptieve signalen op feature-niveau.
• Mechanisme: De TSE gebruikt een TS-FiLM (Task-Stage Feature-wise Linear Modulation) mechanisme.
  • De visuele cues van de TSO worden gebruikt om moduleringsparameters ($\gamma_t$ en $\beta_t$) te genereren via een compacte bottleneck.
  • Deze parameters worden toegepast op de visuele en taal-prefix tokens van het VLA-model.
  • Effect: Dit versterkt de kanalen die overeenkomen met visuele bewijzen (zoals een gevallen object) en dempt afleidende informatie die voortkomt uit de staats-dominante bias. Hierdoor wordt het beleid gedwongen om te reageren op de huidige visuele realiteit in plaats van blind te vertrouwen op de interne staat.

3. Belangrijkste Bijdragen

1. Identificatie van Valse Voltooiing: Het paper definieert en analyseert systematisch "False Completion" als een fundamenteel probleem van modaal onbalans in VLA-modellen.
2. False-Completion Benchmark Suite: De auteurs introduceren de eerste benchmark speciaal ontworpen om deze foutmodus te evalueren. Deze suite bevat 8 taken met drie gecontroleerde verstoringen:
   • Object Drop: Objecten vallen tijdens de uitvoering.
   • Distractor Swap: Doelobjecten en afleidende objecten wisselen van positie.
   • Relayout: De ruimtelijke configuratie van de omgeving verandert.
3. Het ReViP Framework: Een nieuw architectuurconcept dat visuele cues injecteert om de coupling tussen semantische waarneming en proprioceptieve dynamiek te moduleren.
4. Uitgebreide Evaluatie: Validatie in simulatie (LIBERO, RoboTwin 2.0) en in de echte wereld, wat aantoont dat de methode robuust is.

4. Resultaten

De experimenten tonen aan dat ReViP significant beter presteert dan bestaande state-of-the-art (SOTA) baselines zoals $\pi_0$, $\pi_0$-Fast, en OpenVLA.

• False-Completion Benchmark: ReViP verbetert de gemiddelde succesratio met 26% ten opzichte van het $\pi_0$-model.
  • Bij Object Drop taken (waar herpakken nodig is) stijgt de succesratio van 24% ($\pi_0$) naar 62,4% (ReViP).
  • Bij Distractor Swap taken (waar onderscheid nodig is) stijgt de score van 6% naar 26%.
• Generieke Simulatie (LIBERO): ReViP bereikt een gemiddelde succesratio van 96,7% op de LIBERO-benchmarks, wat een verbetering is ten opzichte van de achterliggende modellen en andere VLA-modellen.
• Dual-Arm (RoboTwin 2.0): De methode schaalt goed naar complexe dual-arm taken, met een gemiddelde succesratio van 21% tegenover 10% voor de beste baseline ($\pi_0$).
• Echte Wereld: Experimenten met een fysieke ROKAE-robotarm bevestigen dat ReViP objecten kan herpakken na een val en fouten kan corrigeren, terwijl baselines vaak doorgaan met een mislukte taak.
• Efficiëntie: ReViP voegt slechts een beperkte latentie toe (62,4 ms vs 44,6 ms voor $\pi_0$) en behoudt een besturingsfrequentie van 16 Hz, wat voldoende is voor real-time operaties.

5. Betekenis en Conclusie

Dit paper is significant omdat het een fundamentele beperking in huidige robotica-modellen aanpakt: het gebrek aan vertrouwen in visuele feedback wanneer deze in conflict raakt met de verwachte interne staat.

• Paradigmaverschuiving: Het bewijst dat het simpelweg verwijderen van proprioceptieve data geen oplossing is (dit verlaagt de algemene prestaties), maar dat herbalancing via intelligente visuele cues de juiste route is.
• Robuustheid: ReViP maakt robots veiliger en betrouwbaarder in dynamische omgevingen waar onverwachte gebeurtenissen (zoals vallende objecten) voorkomen.
• Toekomst: De introductie van de False-Completion Benchmark biedt een nieuwe standaard voor het evalueren van de robuustheid van toekomstige VLA-modellen, en de open-source code faciliteert verdere ontwikkeling in de gemeenschap.

Kortom, ReViP zorgt ervoor dat robots "zien" wat er echt gebeurt, in plaats van blind te vertrouwen op wat ze denken dat er gebeurt, waardoor ze effectiever kunnen herstellen van fouten en complexe taken succesvol kunnen voltooien.