Technische Samenvatting: Test-Time Scaling voor World Action Models via Zero-Shot Geometrische Verificatie

Probleemstelling

World Action Models (WAMs) vormen een veelbelovend paradigma voor visuomotorische controle door toekomstige visuele observaties en actie-chunks gezamenlijk te voorspellen vanuit multi-view inputs en taalinstructies. In tegenstelling tot actie-georiënteerde policies, bieden WAMs een "verbeelde" rollout voor de uitvoering, wat een unieke kans biedt voor test-time selectie: de robot kan inspecteren of de voorspelde toekomst intern consistent is voordat hij een actie uitvoert.

Hoewel test-time scaling (extra rekenkracht besteden aan het samplen en selecteren van kandidaten) effectief is gebleken voor taalmodellen, brengt de toepassing ervan op robotica specifieke uitdagingen met zich mee. Bestaande methoden voor robotische selectie vertrouwen vaak op:

1. Vaste sampling-budgetten bij elk besluitvormingspunt, ongeacht de noodzaak, wat leidt tot inefficiënt gebruik van rekenkracht.
2. Getrainde signalen (bijv. geleerde beloningsmodellen, verifier-objectieven of model-interne confidence heads) die specifieke interfaces of fine-tuning vereisen.
3. Modelspecifieke signalen die niet generaliseren over verschillende WAM-backbones.

De kernvraag die wordt behandeld is: Wanneer moet een robot extra rekenkracht besteden aan het samplen van aanvullende toekomsten, en hoe moet hij tussen hen selecteren zonder afhankelijk te zijn van taakspecifieke labels of getrainde verifiers?

Methodologie: Gated GeoBoN

De auteurs stellen Gated GeoBoN voor, een training-vrij, twee-fasen selectief test-time scaling framework. De methode maakt gebruik van signalen die van nature vrijkomen bij WAM-inferentie—specifiek de voorspelde toekomstige frames en gegenereerde acties—zonder dat er grondwaarheid (ground-truth) toekomstige observaties of taaksucces-labels nodig zijn.

1. Fase 1: Action–Future Consistency Gate (Selectieve Sampling)

De eerste fase fungeert als een lichtgewicht filter om te beslissen of aanvullende sampling noodzakelijk is.

• Mechanisme: Het systeem vergelijkt de gegenereerde actie met de beweging die zichtbaar is in de voorspelde toekomst.
• Implementatie:
  • Het berekent dichte optische flow ($F$) tussen de huidige observatie en het voorspelde toekomstige frame.
  • Het projecteert de beweging van de end-effector (afgeleid van de actie-chunk via forward kinematics) naar het camerabeeld ($\Delta u$).
  • Het berekent de cosine agreement ($c$) tussen de voorspelde visuele flow en de geprojecteerde actiebeweging binnen een capsule-regio rond de end-effector.
• Beslissingslogica: Als de agreement score $c$ onder een drempelwaarde $\tau_{gate}$ valt, wordt de initiële rollout gemarkeerd als intern inconsistent. Het systeem triggert vervolgens de sampling van $N_{max}-1$ aanvullende rollouts. Als de gate wordt gepasseerd, wordt de initiële rollout direct uitgevoerd, wat rekenkracht bespaart.

2. Fase 2: Cross-View Geometric Evaluator (GeoBoN)

Als de gate wordt getriggerd, of in een setting met een vast budget, gebruikt het systeem een Best-of-N (BoN) selector om kandidaten te rangschikken.

• Mechanisme: Deze fase evalueert de cross-view geometrische consistentie van de voorspelde toekomsten.
• Implementatie:
  • Een bevroren geometrie foundation model (VGGT-Ω) wordt gebruikt om camera-geometrie en diepte te schatten.
  • Voor elke kandidaat-rollout worden de voorspelde toekomstige frames van de primaire view en de wrist view verwerkt.
  • Het systeem projecteert de 3D-puntenkaart van de wrist view naar het primaire camerabeeld en vergelijkt de geprojecteerde diepte ($d_{proj}$) met de diepte die direct door het geometrie-model voor de primaire view wordt voorspeld ($d_{vggt}$).
  • De rangschikkingsmetriek is de cross-view diepte-reprojectie inconsistentie (logaritmische ratio van dieptes).
• Selectie: De kandidaat met de laagste inconsistentie score wordt geselecteerd voor uitvoering.

Belangrijkste Bijdragen

1. Identificatie van Geometrische Consistentie als Selector: Het paper identificeert cross-view geometrische consistentie als een robuust, training-vrij signaal voor het rangschikken van WAM-rollouts. Het stelt GeoBoN voor, een Best-of-N selector met een vast budget die werkt zonder taaklabels of grondwaarheid toekomsten.
2. Gated GeoBoN Framework: De auteurs introduceren een twee-fasen framework dat een action–future consistentie gate combineert met GeoBoN. Dit stelt het systeem in staat om dure sampling en geometrische evaluatie alleen aan te roepen wanneer de initiële rollout onbetrouwbaar lijkt, waardoor het grootste deel van de prestatiewinst van "always-on" scaling wordt teruggewonnen tegen een fractie van de kosten.
3. Uitgebreide Validatie: Het framework wordt gevalideerd over vijf benchmark–backbone settings (RoboCasa, LIBERO Long, RoboTwin 2.0 met Cosmos Policy, X-WAM, LingBotVA, en Motus) met behulp van closed-loop evaluaties en offline diagnostiek.

Experimentele Resultaten

De evaluatie toont aan dat de voorgestelde methode de taaksuccespercentages verbetert terwijl de computationele kosten worden beheerd:

• Fixed-Budget GeoBoN: In alle settings verbeterde het gebruik van een vast budget van $N=8$ kandidaten de taaksucces vergeleken met single-rollout inferentie.

  • RoboCasa: Verbeterde de gemiddelde groepssucces van 66,3% naar 68,4% (Cosmos Policy) en van 80,8% naar 82,5% (X-WAM).
  • LIBERO Long: Verbeterde de Cosmos Policy succes van 97,5% naar 99,3%.
  • RoboTwin 2.0: Verbeterde de Motus succes van 87,8% naar 89,9%.
  • Opmerking: Prestaties verzadigen soms of verslechteren licht bij zeer grote budgetten ($N=16$), toegeschreven aan de selectie van spurieuze outliers met een lage score.

• Gated GeoBoN Efficiëntie: Door de gate mogelijk te maken, triggert het systeem aanvullende sampling op slechts 14,2% tot 34,5% van de besluitvormingspunten.

  • Het herstelt gemiddeld 74,8% van de "always-on" succeswinst.
  • Bijvoorbeeld, op RoboCasa met Cosmos Policy behaalde het 67,9% succes (vs. 68,4% voor always-on) met slechts 24,7% van de latentie.

• Selector Diagnostiek: Offline analyse bevestigde dat cross-view reprojectie een consistenter selector is dan confidence-gebaseerde of consensus-gebaseerde alternatieven. Het presteerde beter dan een modelspecifieke geleerde value head (Cosmos Policy) in alle geteste budgetten.

• Falen-analyse: Het paper identificeert een specifiek faalscenario: false low-score selection. Naarmate de kandidaat-pool ($N$) groter wordt, neemt de kans toe dat een kandidaat wordt geselecteerd met een spurieuze lage reprojectiefout (ondanks dat deze visueel identiek is aan anderen). Deze "multiple-comparisons effect" verklaart waarom prestaties kunnen verslechteren bij een hoge $N$.

Betekenis en Claims

Het paper claimt dat WAMs niet louter profiteren van het samplen van meer toekomsten, maar van het gebruik van de geëxposeerde toekomsten om te beslissen wanneer meer rekenkracht nodig is.

• Training-vrije Generalisatie: In tegen tegenoverdragende methoden die geleerde verifiers of specifieke model-interfaces vereisen, werkt Gated GeoBoN met elke multi-view WAM door gebruik te maken van bevroren geometrie foundation modellen.
• Efficiënte Scaling: Het gating mechanisme demonstreert dat "always-on" scaling vaak onnodig is; een lichtgewicht consistentiecheck kan betrouwbare rollouts effectief filteren, waardoor zware rekenkracht wordt gereserveerd voor onzekere scenario's.
• Geometrische Consistentie als Proxy: De studie stelt vast dat cross-view geometrische consistentie een sterke, taak-label-vrije proxy is voor de kwaliteit van de rollout, die model-interne confidence signalen en geleerde value heads in verschillende benchmarks overtreft.

De auteurs concluderen dat deze aanpak een praktische weg biedt om robotische controle-policies te verbeteren door de inherente structuur van WAM-rollouts te gebruiken voor besluitvorming tijdens de inferentie zonder extra training.