Technische Samenvatting: See2Act – Diffusiemodellen voor Actieve Perceptie in Robotimitatie

Probleemstelling

Huidige methoden voor imitatie-leren (IL) voor visuomotorische controle gaan doorgaans uit van volledige observeerbaarheid en vaste gezichtspunten, waarbij het vermogen om te "zien" en te "handelen" met elkaar worden verstrengeld. In realistische omgevingen worden objecten frequent geoccludeerd (afgeschermd), waardoor robots actief moeten zoeken naar taakrelevante informatie voordat ze deze kunnen manipuleren. Bestaande benaderingen kampen met een fundamentele beperking: demonstraties verstrengelen de selectie van het gezichtspunt met de manipulatie, terwijl standaard IL deze zaken apart behandelt of ervan uitgaat dat de vereiste visuele informatie al zichtbaar is.

• Fixed-view policies falen wanneer taakrelevante regio's geoccludeerd zijn.
• Multi-view of passive-view selectie methoden (bijv. het selecteren van het beste gezichtspunt uit een vooraf ingestelde set) leren de policy niet hoe de camera te bewegen om occlusies dynamisch op te lossen.
• Data-inefficiëntie: Het simpelweg uitbreiden van demonstraties met extra gezichtspunten verhoogt de vereisten voor hoeveelheden data combinatorieel, zonder de policy te leren welke gezichtspunten nuttig zijn voor specifieke acties.

De kernuitdaging is het leren van een policy die gezamenlijk bepaalt waar te kijken en hoe te handelen vanuit beperkte demonstraties, met name onder zware occlusie.

Methodologie: See2Act

De auteurs stellen See2Act voor, een op diffusie gebaseerd imitatie-leerframework dat actie-denoising koppelt aan viewpoint-verfijning binnen een enkele generatieve loop. Het centrale inzicht is dat de diffusie-traject dient als een traject over zowel acties als gezichtspunten.

1. Trainingsstrategie

De policy wordt volledig in simulatie getraind met behulp van een digitale tweeling (digital twin), waarbij gebruik wordt gemaakt van offline manipulatie-datasets.

• Keyframe Acties: Demonstraties worden gedecomposeerd in doel-keyframe acties ($a_0$), die de end-effector posities vertegenwoordigen voor pick/place operaties.
• Viewpoint Anchoring: In plaats van een vast wereldframe, worden acties gerepresenteerd in het cameraraam. Voor elke diffusie-tijdstap $t$ wordt een camera-pose $C_t$ gegenereerd.
  • Anchors: Het traject wordt verankerd tussen een breed globaal beeld ($C_T$) en een doel-gecentreerd beeld ($C_0$) afgeleid van de keyframe actie $a_0$.
  • Interpolatie: Tussenliggende poses $C_t$ worden gegenereerd via lineaire interpolatie voor positie en Spherical Linear Interpolation (SLERP) voor oriëntatie tussen $C_T$ en $C_0$.
• Noising Process: De doelactie $a_0$ wordt getransformeerd naar het cameraraam $C_t$ om een viewpoint-afhankelijke doelwaarde $\hat{a}_0$ te creëren. Gaussische ruis wordt toegevoegd om een ruisige actie $\hat{a}_t$ te creëren.
• Doelstelling: Een visuele encoder en een ruis-voorspellingsnetwerk worden getraind om de ruis $\epsilon$ te voorspellen gegeven de observatie $O_t$ (gerenderd vanuit $C_t$) en de ruisige actie $\hat{a}_t$. Het model leert de actie te denoisen terwijl het impliciet het bijbehorende informatieve gezichtspunt leert.

2. Inferentie: Actieve Viewpoint Inferentie

Tijdens de testfase voert de policy een gekoppeld omgekeerd diffusieproces uit:

1. Initialisatie: Start met een globaal beeld ($C_T$) en een ruisige actie-schatting.
2. Iteratieve Verfijning: Bij elke denoising-stap $t$:
   • Leg de huidige observatie $O_t$ vast.
   • Voorspel de ruis en update de actie-schatting in het cameraraam.
   • Transformeer de verfijnde actie-schatting terug naar het wereldframe.
   • Herpositioneer de Camera: Bereken een nieuwe, meer doel-gecentreerde camera-pose $C_{t-1}$ op basis van de bijgewerkte actie-schatting (met behulp van dezelfde interpolatielogica als tijdens de training).
   • Leg de nieuwe observatie $O_{t-1}$ vast.
3. Executie: Deze loop gaat door tot $t=0$, wat resulteert in een definitieve actie en een sequentie van camera-poses die actief occlusies oplossen. De policy selecteert de rollout met de kleinste variantie in veranderingen van de camera-pose om stabiliteit te garanderen.

Belangrijkste Bijdragen

1. See2Act Framework: Een viewpoint-agnostische policy die de koppeling tussen viewpoint en actie leert door gebruik te maken van digitale tweelingen en een nieuwe trainingsstrategie waarbij camera-trajecten volledig worden gesuperviseerd door actie-labels.
2. Actieve Viewpoint Inferentie: Een mechanisme tijdens de testfase dat iteratief de camera-pose van de robot en de voorspelde actie simultaan verfijnt, wat de robot in staat stelt om autonoom occlusies op te lossen zonder aparte planningsfasen of beloningen.
3. Benchmark Prestaties:
   • Ravens: Behaalde een gemiddeld succespercentage van 91% op vier nieuwe, occlusion-zware taken, waarmee het fixed-view, multi-view en zoom-only baselines aanzienlijk overtrof.
   • RLBench: Behaalde een gemiddeld succespercentage van 81,1% over negen taken, waarbij het state-of-the-art 3D en multi-view policies (zoals RVT-2, PerAct) overtrof, ondanks het gebruik van slechts één actief herpositioneerd 2D-beeld per stap.
4. Zero-Shot Sim-to-Real Transfer: Gedemonstreerd op een fysieke UR10 robot met een op de pols gemonteerde dieptecamera. Met slechts 50 demonstraties verzameld in een digitale tweeling, behaalde de policy een succespercentage van 95% op real-world pick-and-place taken met aanzienlijke occlusies, zonder enige real-world fine-tuning.

Experimentele Resultaten

• Occlusie Resolutie: Op de Ravens-taken (bijv. bin-picking, put-within-shelf) faalden fixed-view baselines (Conv-MLP, Diff-MV) (0% succes). Passive view selection (Diff-MV-Entropy) behaalde maximaal 64%, maar had moeite met complexe occlusies. See2Act behaalde tot 100% succes, wat aantoont dat iteratieve actieve verfijning noodzakelijk is om verborgen regio's te ontsluiten.
• Zoekgedrag: In de bin-search taak vertoonde See2Act emergent zoekgedrag, waarbij de camera werd georiënteerd om alternatieve bakken te inspecteren wanneer het huidige beeld leeg was, waarbij het 100% succes behaalde waar baselines 0% scoorden.
• Precisie Manipulatie: In real-world shelf-kitting (vereist een tolerantie van 1–2 mm), behaalde See2Act 95% succes vergeleken met 25% voor fixed-view methoden. Het vermogen om de camera dicht bij het doel te bewegen tijdens de denoising leverde de geometrische details die nodig zijn voor hoge-precisie insertie.
• Robuustheid: De policy toonde robuustheid tegen out-of-distribution initiële camera-poses, waarbij de prestaties slechts marginaal daalden (8–10%) wanneer gestart werd vanuit viewpoints buiten de trainingsdistributie.

Betekenis en Claims

Het artikel claimt dat See2Act een kritiek gat in het imitatie-leren opvult door manipulatie te behandelen als een gekoppeld proces van actie-verfijning en het verwerven van visueel bewijs.

• Verenigd Leren: Het demonstreert dat "waar te kijken" en "hoe te handelen" gezamenlijk geleerd kunnen worden uit offline data zonder expliciete viewpoint-annotaties of reinforcement learning beloningen voor perceptie.
• Efficiëntie: De aanpak bereikt robuuste prestaties met beperkte data (50 demo's) en transfereert zero-shot naar de echte wereld, waarbij de sim-to-real kloof wordt overbrugd door diepte-observaties en actieve viewpoint-verfijning te gebruiken.
• Beperkingen: De auteurs erkennen dat het vereisen van een nieuwe observatie bij elke denoising-stap latentie introduceert, wat de executie trager maakt dan fixed-view methoden. Toekomstig werk suggereert het uitbreiden van het framework naar dichte traject-voorspelling voor behendige en dynamische manipulatie.

Het werk vestigt dat actieve perceptie, wanneer ingebed direct in de diffusie-denoising loop, robots in staat stelt om partiële observeerbaarheid op te lossen op een manier die fixed-view, multi-view en passieve selectie methoden niet kunnen.