💻 computer science

MirrorDuo: Reflection-Consistent Visuomotor Learning from Mirrored Demonstration Pairs

MirrorDuoは、単一のRGBキャプチャから鏡像反転させたデモンストレーションのペアを生成する、反射ベースのデータ拡張および構造的事前知識手法であり、これにより視覚運動方策の性能を大幅に向上させ、ワークスペースの変化に対する効率的なゼロショットまたはフューショットのスキル転移を可能にする。

原著者： Zheyu Zhuang, Ruiyu Wang, Giovanni Luca Marchetti, Florian T. Pokorny, Danica Kragic

公開日 2026-06-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Zheyu Zhuang, Ruiyu Wang, Giovanni Luca Marchetti, Florian T. Pokorny, Danica Kragic

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

ロボットに、おもちゃを拾って箱に入れるようなタスクを教える場面を想像してみてください。通常、ロボットをうまく教えるには、さまざまな角度や位置から多くの例を見せる必要があります。もし、テーブルの左側だけでそのタスクを行う方法だけを見せた場合、右側でやるように指示されると、ロボットは混乱してしまいます。こうした多様な例を集める作業は、時間がかかり、コストも高く、非常に退屈なものです。

MirrorDuoは、シンプルなトリックを用いてこの問題を解決する新しい手法です。そのトリックとは、**「一つ集めれば、もう一つが無料で手に入る」**というものです。

仕組みは以下の通りです。日常的な例えを使って説明します。

1. 魔法の鏡のトリック

ロボットの学習データをフォトアルバムだと考えてください。もし、ロボットの腕がテーブルの左側にあるカップを動かしている写真を撮ったとしたら、MirrorDuoは「魔法の鏡」のように機能します。その写真を瞬時に「鏡合わせの画像」へと作り変え、ロボットの腕がテーブルの右側で全く同じ動きをしている様子を見せてくれるのです。

落とし穴： 現実の世界では、単に写真を左右反転させただけでは、ロボットの腕が不自然に見えることがあります（例えば、左利きの人を無理やり右利きに見せているような状態です）。
解決策： MirrorDuoは賢明です。単に画像を反転させるだけでなく、ロボットの「筋肉の記憶」（腕の位置や動きに関する内部的な数学的計算）も同時に反転させます。これにより、反転した画像と反転した動きが完璧に一致するようにし、何もないところから、全く新しい有効な学習例を生み出します。

2. このトリックを使う2つの方法

この論文では、この「無料」のデータを活用する2つの主要な方法を提案しています。

「データ増幅器」（MirrorAug）： テスト勉強をしているところを想像してください。手元には10問の練習問題があります。MirrorDuoはその10問を反転させ、少しずつ異なるものの、同じ概念を教える10問の新しい練習問題を追加します。すると、追加の作業なしに、より優れた準備ができる20問の学習問題が手に入ります。
「組み込みの対称性」（MirrorDiffusion）： 家を建てる場面を想像してください。単にレンガを積み上げるのではなく、鏡の中を歩いても構造が成立するように設計します。MirrorDuoはロボットの脳（ニューラルネットワーク）に直接組み込むことができます。これにより、ロボットに対して「左」と「右」は同じコインの表裏であることを理解させ、新しい空間に対しても自然に汎用性を発揮できるように強制します。

3. なぜこれが大きな意味を持つのか

研究者たちは、コンピュータシミュレーションと実物のロボットアームを用いてテストを行いました。結果は以下の通りです。

ゼロからヒーローへ： もし、左側でのタスクの例をたった5つだけ見せた場合、通常のロボットは右側で行おうとするとほぼ100%失敗します。しかし、MirrorDuoを使えば、ほとんど追加のトレーニングなしで、ロボットは70〜80%の確率で成功しました。まるで、左側を見ただけで、ロボットが突然右側のことを「理解した」かのようです。
散らかった部屋への対応： 現実の部屋は完璧な鏡ではありません。片側は木製のテーブルで、もう片側は白いテーブルかもしれません。また、広い角度から見るとロボットの腕の見え方も変わります。論文では、こうした「視覚的な乱れ」があっても、MirrorDuoは非常によく機能することが示されています。特に、訓練中に背景の色をランダムに変えるなどの追加の視覚的テクニックを組み合わせることで、ロボットをよりタフにすることができます。
スイートスポット（最適解）： この手法は、データが「少ない」ときに最も効果を発揮します。もし数千もの例があれば、ロボットはすでに学ぶべきことをすべて学んでいるため、恩恵は少し小さくなります。しかし、データの収集が困難でコストのかかるシナリオにおいては、これはゲームチェンジャーとなります。

まとめ

MirrorDuoは、ビデオを記録するために人を雇うことなく、学習データを倍増させる巧妙な方法です。反射（左対右）を自然な対称性として扱うことで、非常に少ない例からでも、ロボットがスキルをより速く学習し、鏡合わせのような新しい環境に適応することを可能にします。これは、「片側」のレッスンを「両側」の習得へと変えるものなのです。

技術要約: MirrorDuo

問題提起

画像ベースの行動クローニング（BC）は、ロボットのスキル獲得におけるスケーラブルな経路を提供しているが、ワークスペースのレイアウトにおける空間的な変化や、非対称なシーン構成に対する汎化性能において、著しいデータ効率の制約に直面している。点群などの3D入力を活用する手法は、SE(3)剛体変換の等変性を利用して変換されたデモンストレーションを合成できるが、このような変換を2D RGB画像に適用すると、一貫性のない結果をもたらすことが多い。第三者視点の画像をSO(2)回転させるような既存の2D近似手法は、インドメインの設定に限定されており、より広範な汎化をサポートするには至っていない。さらに、反射対称性（例：左手・右手のピックアンドプレースのバリエーション）は、多くの操作タスクにおける自然な特性であるが、視覚的なアーティファクト（例：ロボットの手首の非対称性、背景のテクスチャ）が存在する場合の、ミラー画像と6自由度エンドエフェクタ動作間の意味的一貫性の維持という課題により、画像ベースのポリシーにおいては未だ十分に探索されていない。

手法: MirrorDuo

著者らは、反射対称性を視覚運動学習に組み込むための一般的な定式化として、MirrorDuoを提案している。その核心となる革新は、RGB観測（アイインハンドおよび第三者視点）、固有受容感覚状態、および完全な6自由度エンドエフェクタ動作に対して共同で作用し、すべての元のデモンストレーションに対して意味的かつ物理的に一貫したミラー対応を作成する、反射ベースの変換である。

主要な技術コンポーネント

ポーズ空間のミラーリング:
- 画像のミラーリング（水平反転）との整合性を確保するため、著者らはポーズ空間におけるミラーリング操作を定義している。カメラフレームにおけるエンドエフェクタのポーズを $X_H$ とすると、ミラーリングされたポーズ $X^*_H$ は、 $X^*_H = X_C E X^{-1}_C X_H E$ （ここで $E = \text{diag}([-1, 1, 1, 1])$ ）によって導出される。
- カメラ外部パラメータへの独立性: カメラ外部パラメータ（ $X_C$ ）への依存を避けるため、本手法はポーズをローカル座標系（デルタポーズ $\Delta X_H$ または相対ポーズ $\delta X_H$ ）に再パラメータ化する。これにより、ミラーリング操作を $\Delta X^*_H = E \Delta X_H E$ として表現することができ、このアプローチはデータセットに依存しないものとなる。
- SO(3)の不連続性の処理: SO(3)における反射は回転の急激な変化を引き起こす可能性がある。ミラーリングされたスキルを元の構成に近い状態で開始させるため、本手法では、初期ポーズの平均ツール軸を世界X軸にマッピングする一定のアライメント回転 $Q$ を強制し、不連続性を緩和する。
統一ミラーリング演算子 ( $M$ ):
- 本手法は、画像に水平反転を適用する $M_I$ と、ベクトル化されたポーズおよびアクションに符号パターンベクトル $\rho$ による要素ごとの乗算を適用する演算子 $M$ を定義する。これにより、元のタプル $(o_t, a_t)$ とミラーリングされたタプル $(M(o_t), M(a_t))$ のペアデータセットが作成される。
2つの補完的な適用方法:
- MirrorAug (データ拡張): バッチサンプリング中に、トレーニングデータの一定割合をそのミラー対応のデータに置き換える戦略である。これにより、ネットワークアーキテクチャを変更することなく、ミラーリングされた構成を含むトレーニング分布を拡大する。
- MirrorDiffusion (構造的事前分布): 反射等変な拡散ポリシーであり、反射変換とノイズ予測関数が可換である（ $\pi(M(o)) = M(\pi(o))$ ）ことを強制するために、誘導バイアスとして潜在拡散プロセス内にミラー変換を組み込む。ポリシーネットワークは、E(n)-等変なSteerable CNNを利用する。
視覚的不対称性の処理:
- 著者らは、ミラーリングが視覚的なアウトオブディストリビューション（OOD）アーティファクト（例：右手型のロボットが鏡の中で左手型に見える、あるいは非対称なテーブルのテクスチャ）を導入することを認めている。
- これを軽減するため、本アプローチは Random Overlay（背景の拡張）および 学習済みビジュアルバックボーン（ImageNetによるResNet-18）と組み合わせることで、タスクに無関係な変動に対する堅牢性を高めている。

主要な貢献

反射一貫性の定式化: 2D画像、3D固有受容感覚、および6自由度アクション間で一貫したミラーデモンストレーションペアを生成する新しい手法であり、「一つ集めれば、もう一つは無料で手に入る」という効果を実質的に実現する。
二重の有用性: 本フレームワークは、データ拡張戦略（MirrorAug）と、等変ポリシー学習のための構造的事前分布（MirrorDiffusion）の両方の役割を果たし、Behavior Cloning (BC) や Diffusion Policies などの標準的なパイプラインに適応可能である。
未知のミラー環境への汎化: 本手法は、ターゲットの配置において、わずか0個または5個のデモンストレーションであっても、ミラーリングされたワークスペースへの効率的なスキル転移を可能にする。
非対称性への堅牢性: 軽量な視覚的汎化技術を組み合わせることで、顕著な視覚的不対称性（ロボットの設計、背景のテクスチャ）が存在する場合でも、反射対称性を活用できることを示している。

実験結果

著者らは、MimicGenデータセット（シミュレーション）および、プラッシュトイのピックアンドプレース（片側）とブロックスタッキング（両側）の2つのタスクを行う実世界のFranka Emikaセットアップを用いて、MirrorDuoを評価した。

片側転移 (シミュレーションおよび実世界):
- デモンストレーションがワークスペースの片側に限定されている設定では、元のデータで訓練された標準的なポリシーは、ミラー側の展開に失敗した（一部のベースラインで成功率がほぼ0%）。
- MirrorAug を視覚的汎化（Random Overlay + 学習済み重み）と組み合わせることで、反対側のデモンストレーションをわずか5個追加するだけで、ミラー側においてインドメインに近い性能を達成できた。
- MirrorDiffusion（等変）は、逆拡散プロセス中にノイズ注入がグローバルな対称性を破壊するため、ゼロショット転移に失敗したが、最小限の反対側データによって性能を回復した。
両側データ効率:
- デモンストレーションが両側に分散している場合、MirrorDuoはデータ効率を大幅に向上させた。
- 低〜中程度のデータレジーム（50〜200デモ）において、MirrorAugおよびMirrorDiffusionは、ベースラインに対して一貫した性能向上（例：Square D0で+31%）を示した。
- 高データレジームでは、性能向上はプラトーに達し、いくつかの複雑なロングホライゾンタスクでは、近接して同一のタスクによる相反する観測分布が原因で、決定境界の断片化によるわずかな性能低下が見られた。
実世界での検証:
- 実世界のプラッシュトイタスクにおいて、Diffusion Policy (M, O, P)（MirrorAug + Overlay + Pretrained）は、わずか5個のミラーデモでミラー設定において83.3%の成功率を達成し、インドメインの性能に匹敵した。
- 片側のデータで訓練された標準的なDiffusion Policyは、ミラー設定においてわずか3.3%の成功率であった。
- 著者らは、MirrorDiffusionは理論的には優れているが、標準的なDiffusion PolicyにMirrorAugと視覚的汎化技術を組み合わせた方が、困難な視覚的条件下で優れた性能を発揮し、訓練の収束も速いため、より実用的であると述べている。

意義と主張

本論文は、MirrorDuoが、スケーラブルで汎用的なロボット学習のための強力かつ未探索の誘導バイアスとして、反射対称性を確立するものであると主張している。元のドメインとミラーリングされたドメインの重複を活用することで、本アプローチは、最小限の追加データで未知のワークスペース構成へロボットを汎化させることを可能にする。

著者らは、3Dの反射を2Dの視覚的観測に投影することが複雑さ（視覚的不対称性）をもたらすものの、これらは軽量な視覚的汎化技術によって効果的に管理できることを強調している。本研究は、反射一貫性のある学習が画像ベースのパイプラインと高度に互換性があることを示しており、多様なロボットのデモンストレーション収集に伴う高コストに対する実用的な解決策を提供している。結論として、反射対称性を軽量な視覚的汎化技術と組み合わせることで、ロボットおよび環境の両方からの視覚的不対称性を許容し、変化する実世界の様々な設定への堅牢なデプロイを容易にできるとしている。