💻 computer science

FOCI Policy: Focus on Object-Centric Interactions for Relational Manipulation Policies

本論文は、スキルを時間的にコンパクトな相互作用セグメントへと抽象化し、タスクに関連するオブジェクト間の空間的に不変な相対的 $SE(3)$ 運動へと抽象化することで、剛体関係的操作における汎化性能とデータ効率を向上させるオブジェクト中心のフレームワークであるFOCIポリシーを提案する。

原著者： Ze Fu, Pinhao Song, Yutong Hu, Renaud Detry

公開日 2026-09-09

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Ze Fu, Pinhao Song, Yutong Hu, Renaud Detry

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

ロボットは、物体をある場所から別の場所へ移動させるという単純な行為において、長らく苦戦してきました。工場での反復的な作業を行うようプログラムすることはできますが、一度の注視や短いデモンストレーションによって、新しい状況に対処する方法を教えることは、依然として深刻な課題です。現在のアプローチの多くは、ロボット自身の腕や指をどのように動かすかを正確に示して教えようとするものであり、本質的には一種の筋肉記憶を叩き込む作業です。この手法には膨大なデータが必要であり、物体の配置や部屋の構成のあらゆる可能性をカバーするために、しばしば数百回のデモンストレーションを必要とします。もしロボットが、例えばコップが左に数インチ移動したといった、わずかな変化に遭遇した場合、その硬直した指示はしばしば失敗します。研究者たちは現在、異なる道を模索しています。ロボットの体に焦点を当てるのではなく、物体同士の関係性に焦点を当てるように機械を教えているのです。ロボットのグリッパーが空間内をどのように動くかではなく、歯ブラシがコップに対してどのように動くかを理解することで、システムははるかに少ない労力でスキルを汎用化できる可能性があります。

KU Leuvenの研究チームは、「FOCI Policy」と呼ばれる新しいフレームワークを開発し、このアイデアを実践に移しました。彼らの研究は、多くの複雑なタスクは、物体が相互作用する短く決定的な瞬間によって支配されており、それ以外の動きは単なる移動に過ぎないことを示唆しています。例えば、水の入ったピッチャーを注ぐ方法を学ぶ場面を想像してみてください。ピッチャーを持ち上げてテーブルまで歩く動作には無数の方法がありますが、水が注ぎ口からグラスへと流れ落ちる瞬間は、厳密に制約されており、特定のパターンに従います。研究者たちは、もしロボットがこれらの短く、リスクの高い相互作用のフェーズを特定し、ノイズの多い変動のある移動時間を無視することができれば、タスクをはるかに効率的に学習できることを観察しました。彼らは、デモンストレーションビデオを自動的にスキャンし、物体が互いに触れ合ったり影響を与え始めたりする正確なタイミングを特定し、その特定のセグメントを抽出するシステムを構築しました。

この決定的なセグメントが分離されると、システムはロボットの正確な経路を暗記しようとはしません。代わりに、関与する2つの物体の間の相対的な動きを学習します。もし人間がワインボトルをラックに差し込む動作をデモンストレーションした場合、ロボットはロボットの腕の動きではなく、ラックに対するボトルの動きを学習します。このアプローチにより、スキルはロボットの特定の形状や部屋の正確なレイアウトから独立します。システムは、学習した関係性を新しい状況に適用することができ、たとえ物体が異なる位置にあっても、あるいはロボットが全く別のモデルであっても可能です。テストにおいて、研究者たちは各タスクに対してわずか1回のデモンストレーションでシステムを訓練しました。新しいシナリオに直面した際、ロボットはワインボトルを積み重ねたり、釘を打ち込んだり、液体を注いだりといった複雑な動作を成功させ、多くの場合、より多くのデータで訓練された他の手法を上回る成果を上げました。

結果は、視覚的条件が変化した際に特に顕著でした。一連の実験において、研究者たちは照明の変化、邪魔な物体の追加、あるいはアイテムの質感の変更といった、深刻な視覚的妨害を導入しました。100回のデモンストレーションで訓練された他の高度なシステムが、これらの条件下で成功率が劇的に低下した一方で、この新しい手法は、10分の1のデータしか使用していないにもかかわらず、高度に訓練されたモデルに匹敵するレベルのパフォーマンスを維持しました。これは、物体間の幾何学的な関係に焦点を当てることで、ロボットが視覚的なノイズに惑わされにくくなることを示唆しています。システムは実世界の物理的なロボットアームでのタスクに対しても堅牢であることが証明され、一度見ただけで、埃を掃いたり引き出しを開けたりといったタスクを正常に完了しました。

しかし、研究者たちは、このアプローチがすべての種類の動きに対して普遍的な解決策となるわけではないことにも注意を払っています。この手法は、穴にペグを差し込んだり、本を棚に置いたりするように、明確で区別された相互作用のフェーズを持つ剛体を用いたタスクに最適です。柔らかい物体をテーブルの上で押し続けるような、連続的な接触を伴うタスクや、物体があまりに小さかったり隠れていたりして、ロボットがその位置を確実に判断できない状況には、効果が低くなります。システムは物体を明確に見る能力に依存しており、もしロボットが物体の位置を推定できなければ、正しい相対的な動きを計算することはできません。こうした限界はあるものの、この知見は、ロボットの学習方法における説得力のある転換を提示しています。ロボットがどのように動くかという不要な詳細を削ぎ落とし、物体間の不可欠なダンスに焦点を当てることで、機械は以前考えられていたよりもはるかに少ないデータで新しいスキルを獲得できることを、研究者たちは示しました。この効率性は、ロボットが新しいタスクを数日ではなく数分で学習し、予測不可能な現実世界に素早く適応できる未来へと私たちを近づけています。

技術要約：FOCI POLICY

問題提起

ロボット操作ポリシーは、通常、観測からロボットの動作への直接的なマッピング（アクション中心型）を学習する。これらの手法は制御された環境下では効果的であるが、高次元のロボット状態空間をカバーするために大規模なデータセットを必要とし、新しい物体の構成やシーンのレイアウトへの汎化に苦慮することが多い。既存のオブジェクト中心型の手法は、中間的な物体表現（例：静的なゴールポーズや高密度なモーションフロー）をモデル化することで汎化性の向上を試みている。しかし、静的なゴールポーズは不可欠な相互作用ダイナミクスを捉えきれないことが多く、一方で高密度なモーションフローは学習コストが高く、ドリフトが生じやすい。

本論文が取り組む核心的な課題は、**関係的操作（relational manipulation）**である。これは、物体間の幾何学的および機能的な関係（例：歯ブラシをカップに挿入する）に成功が依存するタスクを指す。著者らは、多くのこうしたタスクが短く、厳密に制約された相互作用フェーズによって支配されている一方で、その前段階の輸送フェーズは比較的制約がなく、タスクとは無関係であることを指摘している。現行の手法は、これらの重要なフェーズを分離できていないことが多く、それが特に少数のデモンストレーション（シングルデモンストレーション）シナリオにおける非効率な学習や、低い汎化性能につながっている。

手法：FOCI POLICY

著者らは、操作スキルを時間と空間の2つの次元に抽象化する、相互作用中心のフレームワークであるFOCI POLICY（Focus on Object-Centric Interactions）を提案する。

1. 時間的抽象化：相互作用セグメント

デモンストレーションのエピソード全体 $[0, H]$ から学習するのではなく、本ポリシーはサブ区間 $[t_s, t_g]$ 内の相互作用セグメント $\tau_{rel}$ を自動的に抽出する。

検出メカニズム： システムは、セグメントの特定を**変化点検出（Change-Point Detection: CPD）**問題として扱う。グリッパーの線形速度、角速度、およびソース物体とターゲット物体の間の距離を組み合わせた多変量時系列 $\tilde{S}(t)$ を構築する。
アルゴリズム： RBFカーネルコスト関数を用いたPELTアルゴリズムを使用し、制約のない輸送が終了し、制約のある相互作用が始まる最適な遷移点 $t_s$ を特定する。これにより、手動のアノテーションなしに、機能的に重要なフェーズを分離できる。

2. 空間的抽象化：オブジェクト中心の定式化

本ポリシーは、抽出された相互作用セグメントを絶対的なロボット軌跡としてではなく、タスクに関連する物体間の相対的な SE(3) 運動として表現する。

定義： $T_{src}$ をソース物体（例：把持されたツール）の、 $T_{tgt}$ をターゲット物体（例：容器）のワールドフレームにおけるポーズとする。相互作用セグメントは、以下の相対運動として定義される：
$\tau_{rel} = \{ (T_{tgt}^{(k)})^{-1} T_{src}^{(k)} \}_{k=1}^n$
不変性： この定式化により、学習されたスキルはシーンの構成やロボットのエンボディメント（身体性）に対して不変となる。ポリシーは、物体が最初にどこに配置されているか、あるいはどのロボットがタスクを実行しているかにかかわらず、タスクを解決するために必要な相対運動を学習する。

3. ポリシー・アーキテクチャ

モデルは、物体の点群（ $P_{src}, P_{tgt}$ ）と言語指示（ $\ell$ ）を条件として、相互作用セグメントを予測する。

エンコーダ： 点群は PointNet++ を用いてエンコードされる。相互作用に関連する幾 truly な幾何学構造を捉えるために、特徴量はクロスアテンションを介して融合される。言語埋め込み（CLIP由来）は、幾何学的特徴と結合される。
2段階の予測：
1. ゴール予測： ガウス混合モデル（GMM）が最終的な相対ポーズ $T_{rel}^{(n)}$ を予測する。これにより、マルチモーダルな相互作用戦略（例：異なる挿入角度）が可能になる。
2. 軌跡生成： 予測されたゴールを条件として、中間ウェイポイントを生成する軌跡デコーダ。
アクションの復元： 推論時、予測された相対軌跡は、推定されたターゲット物体のポーズと固定オフセット（ $T_{ofs}$ ）を用いてワールドフレームに変換され、実行可能なエンドエフェクタ指令が生成される。

主な貢献

コンパクトな抽象化としての相互作用： 本論文は、タスクに関連する物体間相互作用（OOI）が、関係的操作のためのコンパクトな抽象化を提供することを実証している。変化点検出を用いた自動パイプラインを提案することで、タスクに関係のない変動性を排除した。
相互作用中心のポリシー・アーキテクチャ： 操作を物体間の相対的な SE(3) 運動としてモデル化する、2段階のポリシーを設計した。これにより、ロボットのエンボディメントやシーン構成に対する不変性が得られ、静的なゴールポーズや高密度なフローフィールドの限界を克服している。
データ効率の高い汎化： 本手法は、単一のデモンストレーションと単一のカメラで強力な性能を発揮する。シミュレーションおよび実世界の設定において、従来のオブジェクト中心型およびアクション中心型のベースラインを上回る結果を出しており、効果的な関係的操作には大規模な学習データが必ずしも必要ではないことを示唆している。

実験結果

著者らは、RLBench、COLOSSEUM、および実世界のタスクの3つのベンチマークでFOCI POLICYを評価した。

RLBench (関係的操作)： 明確な OOI を持つ8つのタスクにおいて、FOCI POLICY は単一のデモンストレーションによる学習で、5つのデモンストレーションで学習したベースライン（例：Imagination Policy, 3D Diffuser Actor, RVT2）よりも大幅に高い成功率を達成した。特に、Put-Roll や Put-Umbrella のような精度が重要なタスクにおいて、FOCI POLICY は1つのデモでそれぞれ約45%、約38%の成功率を達成したが、アクション中心型のベースラインはしばしば失敗（0-9%）した。
COLOSSEUM (視覚的堅牢性)： 深刻な視覚的摂動（テクスチャ、照明、ディストラクター、カメラのポーズ）の下でも、FOCI POLICY は、タスクごとに100回のデモンストレーションで学習された視覚言語行動（VLA）モデル（BridgeVLA, ActiveVLA）に匹敵する堅牢性を示した。FOCI POLICY は、わずか1%のデータを使用しているにもかかわらず、「全摂動（All Perturbations）」設定において、これらのVLAモデルを上回った（25.3% 対約20%）。
RLBench-18 (汎化性能)： 18のタスクにわたるシングルデモンストレーション設定において、FOCI POLICY は平均43.7%の成功率を達成した。性能は「接地しやすい（easy-to-ground）」タスクでは高かった（79.6%）が、「接地しにくい（hard-to-ground）」タスクでは低下した（7.8%）。これは、ボトルネックがポリシーの定式化自体ではなく、信頼性の高い相互作用のグラウンディング（ポーズ推定）にあることを示している。
実世界への展開： 単一のRGB-Dカメラを備えた Franka Emika Panda を用い、5つの多様なタスク（例：Insert-Tube, Pour-Liquid）において、単一のデモンストレーションのみで53%以上のタスク成功率を達成した。また、異なるロボットのエンボディメント（Robotiq グリッパー）への転移にも成功し、古典的なモーションプランニングとの統合による障害物回避も実現した。

意義と主張

本論文は、剛体的な関係的操作においては、物体間の相互作用をモデル化することがシンプルかつ効率的な帰納バイアスになると主張している。相互作用セグメント（相対運動が制約される特定の区間）に焦点を当てることで、本手法は以下を実現している：

データ効率： 単一のデモンストレーションからの複雑なスキルの学習。
汎化性能： 新しい物体のポーズ、シーン構成、さらには異なるロボットのエンボディメントに対する堅牢性。
簡潔さ： 相互作用ダイナミクスの学習を、絶対的なロボット制御やフル軌跡の模倣という複雑さから切り離している。

著者らは、効果的な関係的操作には、ポリシーが物体間の制約された相対運動を明示的にモデル化するように設計されていれば、必ずしも大規模な学習データを必要としないと結論づけている。連続的な接触（例：プッシング）を伴うシナリオや、ポーズ推定が失敗するような曖昧な幾何学・遮蔽を伴うタスクには限界があることを認めつつも、相互作用中心の定式化は、データ効率の高いロボット学習への強力な一歩であると位置づけている。