GPA-RAM: Grasp-Pretraining Augmented Robotic Attention Mamba for Spatial Task Learning

技術要約：GPA-RAM: 空間タスク学習のための把持事前分布拡張型ロボット・アテンション・マンバ（Grasp-Pretraining Augmented Robotic Attention Mamba）

問題提起
きめ細かなロボット操作においては、不正確な初期把持が誤差を伝播させることがあり、これを修正するための複雑なポーズ補正は、限られたデモンストレーションや平行ジョー型グリッパーを用いる場合には困難を極める。RVT2やACTといった近年の模倣学習（IL）手法は、高次元のアクションモデリングを改善しているものの、その方策表現は把持ポーズの事前分布を暗黙的なものとして扱う傾向があり、初期の把理品質に対して脆弱である。さらに、既存のTransformerベースの手法は、シーケンス長に対して二次関数的な計算コストを要するため、マルチビューRGB-D観測を用いたリアルタイム展開においてレイテンシの問題を引き起こす。核心となる課題は、別途の把持データセットを収集したり、法外な計算オーバーヘッドを課したりすることなく、いかにして把持に敏感な表現を強化するかである。

手法：GPA-RAMフレームワーク
著者らは、2つの相補的なモジュール、すなわち「把持事前分布拡張（GPA）」と「ロボット・アテンション・マンバ（RAM）」からなる統一フレームワーク、GPA-RAMを提案している。

1. 把持事前分布拡張 (GPA):

   • メカニズム: GPAは、追加のデータ収集や手動の把持ポーズ注釈を必要とせずに、エキスパートによるタスクデモンストレーションに含まれる把持ポーズの事前分布を直接組み込む。
   • プロセス: エキスパートのデモンストレーションに含まれる把持構成に基づいて、把持ポーズ検出器が事前学習される。メインの方策学習中、検出器の出力ヘッドは除去され、凍結された特徴バックボーンが保持される。これらの把理に敏感な特徴量は、空間的に整列され、「事前学習済み位置融合（PLoFusion）」モジュールを介してタスク方策の特徴量と融合される。
   • 統合: この設計は明示的な操作の事前分布を導入し、方策がスタッキングや挿入といったダウンストリームタスクのために学習された把持幾何学を活用することを可能にする。

2. ロボット・アテンション・マンバ (RAM):

   • アーキテクチャ: Transformerのグローバル自己注意（self-attention）における計算効率の問題に対処するため、RAMはアテンション機構と線形時間状態空間モデル（Mamba）を組み合わせたハイブリッドアーキテクチャを採用している。
   • 機能: マルチビューRGB-D観測は仮想的な視点へとレンダリングされる。RAMは、視点固有の特徴量相互作用のためにアテンションを使用し、シーケンス長に対して線形スケールで長距離の空間依存性を効率的にモデル化するためにMambaブロックを使用する。
   • バリアント:
     • 離散方策 (Discrete Policy): 粗から密へのRAMアーキテクチャを採用する。粗いステージが3D位置を予測してローカル領域を定義し、その後、キーフレーム予測のための精密な空間表現を生成するために再レンダリングが行われる。
     • 連続方策 (Continuous Policy): 高周波（例：50 Hz）で連続的なアクションシーケンスを生成するために、アクションチャンキングデコーダ（ACTから適応）と統合された単一ステージのRAMを利用する。

主な貢献

• GPAフレームワーク: デモンストレーションから把持ポーズの事前分布を操作方策に転移させるモジュール式の拡張であり、追加の注釈なしに精密な把持を向上させる。
• RAMアーキテクチャ: アテンションと状態空間モデルを組み合わせたハイブリッドネットワークにより、効率的な空間特徴抽出とリアルタイムのアクション生成を可能にし、計算コストの高いグローバル自己注意への依存を軽減する。
• 包括的な検証: 本フレームワークは、離散的なキーフレーム予測と連続的な両腕操作の両方をカバーする4つのプラットフォーム（シミュレーション上のFranka Panda、シミュレーション上のALOHA、物理的なUR5、および物理的なARX R5）にわたって検証されている。

実験結果
本論文は、複数のベンチマークにおいて大幅な性能向上を報告している：

• RLBench (離散タスク): GPA-RAMは18のタスクにおいて平均成功率**87.5%**を達成した。これは、従来のSOTAであるARP+（84.9%）を2.6ポイント、RVT2（79.3%）を8.2ポイント上回っている。また、モデルは最高の平均ランク（2.28）を達成しており、優れた一貫性を示している。
  • 具体的な利得: 「ペグ挿入（Insert Peg）」タスクにおいて、GPA-RAMはARP+の78.4%に対し95.0%の成功率に達した。「カップのスタッキング（Stack Cups）」では、ARP+の80.0%に対し84.8%を達成した。
• ALOHA (連続両腕タスク):
  • キューブ移動 (Cube Transfer): 成功率98%（ACTに対し12%の向上）。
  • 両腕挿入 (Bimanual Insertion): 成功率56%（ACTの16%に対し、40%の向上）。
  • 効率性: システムは約71 FPSで動作し、ACTのベースライン（約61 FPS）およびRT-1（約30 FPS）を上回っている。
• 実世界展開: 物理的なUR5およびARX R5ロボットにおいて、GPA-RAMはブロックの引き出しへの配置（成功率90–100%）やプレート移送（成功率100%）などのタスクにおいて堅牢性を示し、接触の多い挿入や制約のある環境においてベースラインを凌駕した。

意義と主張
本論文は、GPA-RAMが精密な操作と効率的なリアルタイム実行の間のギャップをうまく埋めていると主張している。GPAを通じて把持の事前分布を明示的にモデル化することで、従来の模倣学習（IL）の方策における一般的な失敗モードである、不正確な初期把持による誤差の伝播を軽減している。同時に、RAMアーキテクチャはTransformerベースの手法に関連するレイテンシのボトルネックを解消し、動的な環境に適した高頻度制御を可能にする。

著者らは、自身のアプローチがモジュール的であることを強調している。すなわち、GPAは既存のアーキテクチャ（RVT2とACTの両方で実証済み）を拡張可能であり、RAMは空間推論のためのグローバルアテンションに代わるスケーラブルな選択肢を提供する。これらの結果は、明示的な把持の事前分布と効率的な状態空間モデルを組み合わせることが、広範で専門的な把持データセットを必要とせずに、堅牢で汎用的なロボット操作を実現するための有効な道筋であることを示唆している。