技術要約：SceneBot – コンタクト・プロンプトによる汎用ヒューマノイド全身トラッキング

問題提起

現在のヒューマノイド強化学習（RL）ポリシーは、自由空間における運動（歩行、走行、ダンスなど）のトラッキングにおいて大きな成功を収めているが、**接触を伴うタスク（contact-rich tasks）**には苦慮している。純粋な運動学的トラッキングだけでは、物体や不整地との相互作用において物理的な曖昧さを解決できないため、物体との相互作用には不十分である。例えば、手首を箱に向かって動かすという指示だけでは、ロボットが「手を伸ばしている」のか、「触れている」のか、あるいは「持ち上げている」のかを明確に指定できない。同様に、足を階段の端の近くに置くという指示も、階段を登るための十分な地面反力を生成することを保証しない。既存のパイプラインは、長期間のホライゾンにわたって物体および地形の両方との相互作用を調整するために必要なシーン認識能力を欠いており、多くの場合、高レベルのテレオペレーションに依存するか、複雑なロコ・マニピュレーション（移動と操作の融合）タスクへの汎化に失敗する。

手法

SceneBotは、自由空間のロコモーション、地形の踏破、および全身のマニピュレーションを単一のポリシー内で扱うために設計された、統合されたモーション・トラッキング・フレームワークである。その手法は、主に以下の3つのコンポーネントで構成される。

1. 後方視点によるシーン再構成（Hindsight Scene Reconstruction）

モーションとシーンの相互作用がペアになった大規模なデータセットの不足に対処するため、SceneBotは後方視点によるシーン再構成パイプラインを導入する。

• 入力: リターゲットされた人間の運動軌跡。
• シーン相互作用グラフ: システムは、ロボットの主要なリンク（手首、足、骨盤）とシーンの種類（地形、物体）の間の時間的な相互作用を捉えるヘテロジニアス・グラフを構築する。エッジは、低相対速度/加速度に基づいて追加され、衝突または力閉鎖（force-closure）の制約に違反する場合は削除される。
• アセット生成: 相互作用グラフに基づき、システムは地形のための妥当な2.5D標高マップと、可動アイテムのための平行プレート状の物体を再構成する。これにより、通常の人間運動データを、訓練に適した接触豊かなロボットとシーンの相互作用データへと変換する。

2. コンタクト条件付きポリシー訓練（Contact-Conditioned Policy Training）

コアとなるポリシーは、運動学的参照モーションと明示的なコンタクト・ラベルの両方を追従するように、**近接方策最適化（PPO）**を用いて訓練される。

• 入力: ポリシーは、運動学的コマンド（$g_t$）、固有受容状態（$s_t$）、ルート状態推定値（$p_{root,t}$）、およびバイナリのコンタクト・ラベル・ベクトル（$c_t$）を受け取る。コンタクト・ラベルは、どのロボット・リンクが地形や物体と接触すべきかを明示的に示す。
• 報酬構造: 訓練目的関数には、標準的なモーション・トラッキング報酬に加え、2つのコンタクト特有の項が含まれる。
  • コンタクト正確性報酬 ($r_{cr}$): ラベルが1のときに、ロボットが接触を確立することを促す。この報酬は非対称であり、接触が望まれる場合にのみアクティブになるため、自由空間での意図しない接触に対してペナルティを与えることはない。
  • コンタクト持続報酬 ($r_{dr}$): 安定した接触の維持を促すが、物体を離すことを拒むのを防ぐために0.5秒でクリップされる。
• 安定化: 学習の初期段階では、再構成された物体に対してヒューリスティックな「マジックフォース（magic force）」が適用される。これにより、安定した把握が達成されるまで物体が軌道を追従するようにし、把握失敗による頻繁な終了を軽減する。

3. インフラストラクチャフリーの状態推定（Infrastructure-Free State Estimation）

デプロイメントにおいて、SceneBotはSuperOdometryとオンボードセンサーを利用して、ロボットのグローバルなルート状態（位置、姿勢、線形速度）を推定する。

• センサー・フュージョン: ヘッドマウントIMU（Livokなど）は、激しい動きの最中に骨盤のダイナミクスを正確に表さない可能性があることを認識し、システムはカルマンフィルタを介して、骨盤搭載IMU（ピッチ/ロール用）とSuperOdometryによるヨー推定を融合させる。
• 初期化: ルートの高さは、重力方向に整列させたLiDARスキャンの下位5%の点を用いて推定される。

主な貢献

1. 統合フレームワーク: SceneBotは、自由空間のロコモーション、不整地の踏破、および全身の物体操作を単一のポリシー内でシームレスに統合できる、最初の汎用モーション・トラッキング・フレームワークとして提示される。
2. コンタクト・コンディショニング: 本論文は、高レベルの意思決定器が参照モーションとともにコンタクト・ラベル（どのリンクがシーンに触れるべきか）を提供する、新しいインターフェースを導入している。これにより、低レベルのポリシーは、完全なビジョンベースのタスク・ポリシーを必要とせずに、物理的な曖昧さを解決できる。
3. データ合成エンジン: 提案された後方視点によるシーン再構成アプローチは、既存の人間運動データセット（AMASS, OMOMO, Bones, Lafan）から、スケーラブルで接触豊かな訓練データを生成し、注釈付きの相互作用データの不足というボトルネックを克服する。
4. ゼロショット汎化: 本システムは、箱を階段の上で運ぶといった複雑な長期間のタスクを含め、未知のモーションや未知の環境に対して汎化する能力を示す。

実験結果

実験は、MuJoCoのシム・トゥ・シム（sim-to-sim）環境におけるUnitree G1ヒューマノイド・プラットフォーム上で実施され、実世界の状態推定によって検証された。

• 性能比較: SceneBotは、平坦な地形のシナリオにおいて、最先端の自由空間トラッカー（SONIC）と同等の性能を達成したが、シーン相互作用タスクにおいてはそれらを大幅に上回った。
  • 地形相互作用: グローバルなルート情報を取り除くと、成功率は100%（グローバル状態あり）から45%に低下した。
  • 物体相互作用: 手のコンタクト・ラベルがない場合、把握成功率はほぼゼロに低下した。
• アブレーション研究:
  • グローバル状態: グローバルなルート位置と速度を組み込むことは極めて重要である。ローカルなトラッキングのみでは、ドリフトやモーションと地形の不整合が生じる。
  • コンタクト・ラベル: コンタクト・ラベルを用いた訓練は成功に不可欠である。興味深いことに、ラベルを用いて訓練されたモデルは、テスト時にラベルをゼロにした場合でも、ラベルなしで訓練されたモデル（成功率45%）と比較して、より高い性能（成功率85%）を維持しており、これはコンタクト・コンディショニングがバランスのメカニズムの学習を簡素化していることを示唆している。
  • 再構成 vs リターゲット: 直接的なシーン再構成は、シーン認識型のリターゲット（例：OmniRetarget）よりも優れている。なぜなら、再構成は生成されたシーンがモーションに対して実現可能であることを保証するが、リターゲットは物体とのアライメントや貫入の制約に苦慮することが多いためである。
• 状態推定: 提案された状態推定パイプラインは、OptiTrackのグラウンドトゥルースに対して、平均ルート位置誤差 0.032 m、方位誤差 0.018 rad、線形速度誤差 0.092 m/s を達成し、実世界の試行において80%のタスク成功率を記録した。

重要性と主張

本論文は、SceneBotがヒューマノイド制御のための強力なインターフェースとしてコンタクト・コンディショニングを確立し、自由空間のモーション・トラッキングと複雑な接触を伴うシーン相互作用の間の溝を効果的に埋めるものであると主張している。後方視点による再構成を通じて訓練データを合成することで、本フレームワークは、タスク固有のチューニングを必要とせずに、多様で長期間のタスク（バスケットを持ち上げ、階段を登り、それを置くなど）を実行することを可能にする。著者らは、本研究を、ロボットがサポートや操作のために意図的に接触を利用できる「物理的知能（physical intelligence）」への基礎的な一歩として位置づけている。すべてのコードとデータはオープンソース化される予定である。