Technische Samenvatting: MirrorDuo

Probleemstelling

Beeldgebaseerde behavior cloning (BC) biedt een schaalbaar pad voor het verwerven van robotvaardigheden, maar kampt met aanzienlijke beperkingen in de efficiëntie van gegevensgebruik, met name bij het generaliseren over ruimtelijke variaties in werkruimte-indelingen of asymmetrische scèneconfiguraties. Ho'ewel methoden die gebruikmaken van 3D-inputs (bijv. puntenwolken) SE(3) rigide transformatie-equivariantie kunnen exploiteren om getransformeerde demonstraties te synthetiseren, levert het toepassen van dergelijke transformaties op 2D RGB-beelden vaak inconsistente resultaten op. Bestaande pogingen om symmetrie in 2D te benaderen, zoals SO(2) rotatie van third-person beelden, zijn beperkt tot in-domain settings en slagen er niet in bredere generalisatie te ondersteunen. Bovendien blijft reflectiesymmetrie—een natuurlijke eigenschap van veel manipulatietaken (bijv. links-rechts pick-and-place varianten)—onderbelicht in beeldgebaseerde policies vanwege uitdagingen bij het handhaven van de semantische consistentie tussen gespiegelde beelden en 6-DoF end-effector acties, vooral wanneer visuele artefacten (bijv. asymmetrie van de robotpols, achtergrondtexturen) aanwezig zijn.

Methodologie: MirrorDuo

De auteurs stellen MirrorDuo voor, een algemene formulering voor het integreren van reflectiesymmetrie in visuomotorisch leren. De kerninnovatie is een reflectiegebaseerde transformatie die gezamenlijk opereert op RGB-observaties (zowel eye-in-hand als third-person), proprioceptieve staten en volledige 6-DoF end-effector acties om een semantisch en fysiek consistente gespiegelde tegenhanger te genereren voor elke originele demonstratie.

Belangrijke Technische Componenten

1. Pose Space Mirroring:

   • Om consistentie met beeldspiegeling (horizontale flip) te garanderen, definiëren de auteurs een spiegelingsoperatie in de pose-ruimte. Voor een end-effector pose $X_H$ in het camerakader, wordt de gespiegelde pose $X^*_H$ afgeleid via $X^*_H = X_C E X^{-1}_C X_H E$, waarbij $E = \text{diag}([-1, 1, 1, 1])$.
   • Camera Extrinsics Independence: Om afhankelijkheid van vaak niet-beschikbare camera extrinsics ($X_C$) te vermijden, herparameteriseert de methode poses naar lokale coördinatensystemen (delta pose $\Delta X_H$ of relatieve pose $\delta X_H$). Dit maakt de spiegelingsoperatie uitdrukbaar als $\Delta X^*_H = E \Delta X_H E$, waardoor de aanpak dataset-agnostisch is.
   • SO(3) Discontinuity Handling: Reflectie in SO(3) kan abrupte veranderingen in rotatie veroorzaken. Om ervoor te zorgen dat de robot de gespiegelde vaardigheid start vanuit een bijna identieke configuratie, dwingt de methode een constante uitlijningsrotatie $Q$ af die de gemiddelde tool-as van de initiële poses naar de wereld X-as brengt, wat discontinuïteiten mitigeert.

2. Unified Mirroring Operator ($M$):

   • De methode definieert een unificerende operator $M$ die horizontale flipping toepast op beelden ($M_I$) en elementgewijze vermenigvuldiging met een tekenpatroon vector $\rho$ op gevectoriseerde poses en acties. Dit creëert een gepaard dataset van originele en gespiegelde tuples $(o_t, a_t)$ en $(M(o_t), M(a_t))$.

3. Twee Complementaire Toepassingen:

   • MirrorAug (Data Augmentation): Een strategie waarbij tijdens batch sampling een deel van de trainingsdata wordt vervangen door de gespiegelde tegenhanger. Dit breidt de trainingsdistributie uit naar gespiegelde configuraties zonder de netwerkarchitectuur te wijzigen.
   • MirrorDiffusion (Structural Prior): Een reflectie-equivalente diffusiepolicy waarin de spiegeltransformatie is ingebed als een inductieve bias binnen het latente diffusieproces. De policy netwerk gebruikt E(n)-equivalente Steerable CNN's om af te dwingen dat de ruisvoorspellingsfunctie commuteert met reflectietransformaties ($\pi(M(o)) = M(\pi(o))$).

4. Afhandeling van Visuele Asymmetrie:

   • De auteurs erkennen dat spiegelen visuele out-of-distribution (OOD) artefacten introduceert (bijv. een rechterhandige robot die er links handig uitziet in de spiegel, of asymmetrische tafeltexturen).
   • Om dit te mitigeren, combineert de aanpak MirrorDuo met Random Overlay (het augmenteren van achtergronden) en pretrained visual backbones (ResNet-18 op ImageNet) om de robuustheid tegen taakonrelevante variaties te vergroten.

Belangrijkste Bijdragen

• Reflection-Consistent Formulation: Een nieuwe methode om gespiegelde demonstratieparen te genereren die consistent zijn over 2D-beelden, 3D-proprioceptie en 6-DoF acties, wat effectief "één verzamelen, één gratis krijgen" bereikt.
• Dual Utility: Het framework dient zowel als een data augmentatiestrategie (MirrorAug) als een structurele prior voor equivariant policy leren (MirrorDiffusion), aanpasbaar aan standaard pipelines zoals Behavior Cloning (BC) en Diffusion Policies.
• Generalisatie naar Ongeziene Spiegels: De methode maakt efficiënte skill transfer mogelijk naar gespiegelde werkruimtes met slechts nul of vijf demonstraties in de doelconfiguratie, wat de standaard baselines aanzienlijk overtreft in low-data regimes.
• Robuustheid tegen Asymmetrie: Het artikel demonstreert dat reflectiesymmetrie kan worden benut, zelfs in de aanwezigheid van significante visuele asymmetrieën (robotontwerp, achtergrondtexturen), wanneer het wordt gecombineerd met lichtgewicht visuele generalisatietechnieken.

Experimentele Resultaten

De auteurs evalueerden MirrorDuo op de MimicGen dataset (simulatie) en een real-world Franka Emika setup met twee taken: een plush toy pick-and-place (één zijde) en block stacking (twee zijden).

• One-Side Transfer (Simulatie & Real):

  • In settings waarbij demonstraties beperkt waren tot één zijde van de werkruimte, faalden standaard policies getraind op originele data om te generaliseren naar de gespiegelde zijde (succespercentages nabij 0% voor sommige baselines).
  • MirrorAug gecombineerd met visuele generalisatie (Random Overlay + Pretrained weights) stelde policies in staat om bijna in-domain performance te bereiken op de gespiegelde zijde met slechts 5 extra opposite-side demonstraties.
  • MirrorDiffusion (equivariant) faalde bij zero-shot transfer door ruisinjectie die de globale symmetrie verbreekt tijdens het reverse diffusieproces, maar herstelde de performance met minimale opposite-side data.

• Two-Side Data Efficiency:

  • Wanneer demonstraties verdeeld waren over beide zijden, verbeterde MirrorDuo de data-efficiëntie aanzienlijk.
  • In low- tot medium-data regimes (50–200 demos), leverden MirrorAug en MirrorDiffusion consistente prestatiewinsten op (bijv. +31% op Square D0) ten opzien van baselines.
  • In high-data regimes vlakte de prestatiewinst af, en in sommige complexe long-horizon taken werd een lichte prestatiedaling waargenomen, toegeschreven aan gefragmenteerde beslissingsgrenzen veroorzaakt door conflicterende observatie-distributies van bijna identieke taken.

• Real-World Validatie:

  • Op de real-world plush toy taak bereikte Diffusion Policy (M, O, P) (MirrorAug + Overlay + Pretrained) 83,3% succes op de gespiegelde setup met slechts 5 gespiegelde demos, wat overeenkomt met de in-domain performance.
  • Standaard Diffusion Policy getraind op one-side data behaalde slechts 3,3% succes op de gespiegelde setup.
  • De auteurs merken op dat hoewel MirrorDiffusion theoretisch elegant is, de standaard Diffusion Policy met MirrorAug en visuele generalisatietechnieken praktischer bleek, superieure prestaties bood onder uitdagende visuele condities en snellere training convergentie vertoonde.

Betekenis en Claims

Het artikel claimt dat MirrorDuo reflectiesymmetrie vestigt als een krachtige en onderbelichte inductieve bias voor schaalbaar, generaliseerbaar robotleren. Door gebruik te maken van de overlap tussen originele en gespiegelde domeinen, stelt de aanpak robots in staat om te generaliseren naar ongeziene werkruimteconfiguraties met minimale aanvullende data.

De auteurs benadrukken dat het projecteren van 3D reflecties naar 2D visuele observaties complexiteit introduceert (visuele asymmetrieën), maar dat deze uitdagingen effectief kunnen worden beheerd. Het werk demonstreert dat reflectie-consistent leren zeer compatibel is met beeldgebaseerde pipelines, wat een praktische oplossing biedt voor de hoge kosten van het verzamelen van diverse robotdemonstraties. Het artikel concludeert dat het combineren van reflectiesymmetrie met lichtgewicht visuele generalisatietechnieken policies in staat stelt om visuele asymmetrieën van zowel de robot als de omgeving te tolereren, wat robuuste inzetbaarheid in uiteenlopende real-world settings faciliteert.