技術要約: AHEAD (Anticipatory Horizon Extrapolation with Adaptive Dynamics)

問題提起

Vision-Language-Action (VLA) モデルは、静的な操作タスクにおいては汎化性能を実現しているが、タスク実行中に物体が独立して動く場合には失敗する。現在のVLAは、現在の観測からアクションへのマッピングを行う際、観測と実行の間、シーンは静止しているという暗黙の仮定に基づいている。動的な環境（コンベア、ハンドオーバー、または重力による運動など）では、知覚、処理、および実行に内在するレイテンシにより、ロボットは古いシーンの状態に基づいて行動してしまう。その結果、ロボットは物体が「あった」場所ではなく、「あるであろう」場所を掴むことになる。

この問題に対する既存のアプローチは2つのカテゴリーに分類されるが、いずれも限界がある：

1. リアクティブ・ポリシー（反応型方策）: 高速な制御やアーキテクチャの変更を通じて、知覚からアクションへのループを短縮する。しかし、物体の速度が増すにつれ、残留レイテンシが依然として反応ウィンドウの大部分を消費してしまい、これらの手法は物体の将来の状態を予測するのではなく、物体の現在の位置に対して反応してしまう。
2. ワールドモデル: 未来のロールアウト（展開）を想像するために順方向のダイナミクスを学習する。しかし、既存の定式化の多くは、高価なピクセル空間において固定されたホライゾン（時間軸）にわたって全シーンをロールアウトするか、あるいはポリシーとダイナミクスの共同再学習を必要とするため、凍結された事前学習済みVLAとの互換性が低い。

核心となる課題は、凍結されたVLAを再学習させることなく、計算リソースを空間的および時間的次元に沿って適応的に割り当てながら、動的なシーンの変化を予測させる方法を見出すことである（レイテンシ予算は約200 ms）。

手法: AHEAD

AHEAD (Anticipatory Horizon Extrapolation with Adaptive Dynamics) は、凍結されたVLAに対し、その特徴量空間内で動作するモーション認識型の潜在ワールドモデルを拡張する、「予測してから行動する（predict-then-act）」ラッパーである。このシステムは、VLAのデコーダや言語接地（language grounding）を修正するのではなく、デコーダに到達する前の現在の観測トークンを、予測された未来のトークンに置き換えるものである。

パイプラインは、以下の4つの主要コンポーネントで構成される：

1. 言語およびモーション・サリエンス（空間的計算割り当て）

シーン全体を予測する計算コストを避けるため、AHEADはタスクに関連するパッチ・トークンのサブセットを選択する。

• モーション推定: 3つの連続するフレーム（$t-2, t-1, t$）間でRAFTオプティカルフローを計算する。これらを16x16のパッチに集約し、有限差分をとることで、トークンごとの速度（$V$）と加速度（$A$）を導出する。
• サリエンス・マスキング: 学習されたクロスアテンション層が、タスク指示に基づく言語的関連度スコアを計算する。トークンは、言語的に関連しているか、あるいは較正された閾値を超える運動量を示している場合に、予測対象として選択される。これにより、通常、トークン集合は$N=196$から$|S| \approx 30\text{--}60$へと削減される。

2. キネマティック条件付けを備えたフロー・マッチング・ワールドモデル

ワールドモデルは、アクションデコーダの入力分布と整合させるため、ピクセル空間ではなくVLAの潜在特徴空間内で動作する。

• アーキテクチャ: 4層のTransformerエンコーダが、選択されたモーション強化トークンをコンパクトな潜在状態 $z_t$ へと圧縮する。
• ダイナミクス: 高品質なサンプルを得るために、拡散（diffusion）ではなく条件付きフロー・マッチング（約5ステップのオイラー法のみで高精度なサンプルが可能）を使用し、ロールアウトがレイテンシ予算内に収まるようにする。
• キネマティック条件付け: モデルにデータから完全な物理学を学習させる代わりに、AHEADは一定加速度の運動学を用いて、ロールアウトの各ステップに沿って速度と加速度を解析的に伝播させる：$V_k = V_0 + A \cdot k \cdot \Delta t$。これにより、モデルは二次の物理学を学習することなく、加速度領域（重力、摩擦など）を扱うことが可能になる。
• 不確実性推定: モデルはステップごとに $S=5$ の並列サンプルを生成する。これらのサンプルの分散は、ステップごとの不確実性の推定値を提供する。

3. 適応的ホライゾン停止（時間的計算割り当て）

予測ホライゾン $K$ は固定されていない。ロールアウトは自己回帰的に進行するが、サンプルの分散（不確実性）が閾値 $\tau_u$ を超えた場合、または最大ホライゾン $K_{max}$ に達した場合に停止する。

• 根拠: 線形で不確実性が低い運動は長い先読みを可能にするが、カオス的な動きや衝突後の動きは、予測誤差の累積を防ぐために早期停止を誘発する。

4. 再注入とアクション

予測された未来のトークン $\hat{v}_{t+K}$ をデコードし、フル・トークングリッドに結合する（選択されなかった静的なパッチは変更されない）。この拡張されたトークングリッドが凍結されたアクションデコーダに送られ、予測された未来の状態に基づいてモーターコマンドが生成される。

主な貢献

1. Predict-Then-Act ラッパー: 7Bパラメータの基盤モデルを再学習させることなく、動的な物体操作を可能にする手法。
2. 適応的計算割り当て: 空間的（言語およびモーション・サリエンス経由）および時間的（不確実性駆動のホライゾン停止経由）に計算を割り当てるメカニズムを提供し、効率性と堅牢性を確保する。
3. 明示的なキネマティック条件付け: ロールアウトのステップにわたる解析的な速度と加速度の伝播により、複雑な物理を学習することなく、ワールドモデルの加速度領域への能力を拡張する。
4. 潜在空間における効率性: 特徴空間における条件付きフロー・マッチングの使用により、高価なピクセル再構成や共同学習を回避する。

実験結果

シミュレーション性能

Franka Emika Pandaアームを用い、20の動的シナリオ（一定速度、加速度/減速度、および複雑なマルチオブジェクト/遮蔽タスク）で評価した：

• 成功率: AHEADはすべてのシナリオにおいて 79%から97% の成功率を達成した。
• ベースライン: 最も強力なベースラインであるDreamVLAは、わずか 31%から58% であった。
• 具体的な利点: 加速度領域において、AHEADは87%以上の成功率を維持したが、最良のベースラインは30–48%に低下した。また、遮蔽タスク（ブロッカーの後ろにある物体をキャッチする）において、AHEADは79.4%を達成したが、ほとんどのベースラインは0%であった。

実機ロボット性能

UFactory xArm 7を用い、5つの動的タスクで評価した：

• コンベア・タスク: 移動する箱/物体を用いたピック・アンド・プレースにおいて、30/30の成功。
• 転がるボール: 30/30の成功。
• 投射体インターセプト（パドル）: 23/30の成功。
• 投射体キャッチ: 19/30の成功（2m先から投げられたボールをキャッチ）。
• ベースライン比較: すべてのベースラインは、投射体キャッチ・タスクにおいて 0/30 のスコアであった。
• レイテンシ: フルパイプラインはアクションステップあたり 約158 ms で動作し、約200 msのリアクティブ・バジェット内に収まっている。

アブレーション研究

• モーション・エスティメータ: RAFTをCoTracker3またはFarnebäckに置き換えると、性能が大幅に低下した。また、速度入力を完全に除去すると成功率は0%になった。
• キネマティック条件付け: 解析的な運動学的更新（学習されたダイナミクスのみに依存する場合）を削除すると、加速度タスクにおける性能が崩壊した。
• サリエンス・マスキング: 言語のみ、またはモーションのみのキューを使用した場合、統合されたアプローチよりも性能が悪化した。一様なランダム・マスキングは、さらに大幅に劣っていた。
• ホライゾン: 適応的停止は固定ホライゾンよりも優れた結果を示した。固定ホライゾンは、予測不足（短いホライゾン）または予測誤差の蓄積による過剰予測（長いホライゾン）のいずれかの問題を引き起こした。

意義と限界

本論文は、AHEADが、バックボーンを修正することなく、事前学習済みVLAに予測的ルックアヘッドを追加するためのアーキテクチャのテンプレートを提供することを主張している。小さなモーション認識型ラッパー（4.9Mパラメータ）が、静的なVLAと動的な操作の間の溝を埋め、リアクティブなベースラインが失敗する場面でも高い成功率を達成できることを示している。

著者が認める限界事項:

• 運動学的仮定: 一定加速度の仮定は、高度にカオス的な衝突後ダイナミクス（例：Plinkoドロップ）の下では成立せず、性能は緩やかに低下するが、イン分布の結果には及ばない。
• 深度モーション: RAFT由来のフローは画像平面上の運動のみを捉える。顕著な深度方向の運動を伴うシーンでは、深度拡張型フローが有利となる。
• 転移: 物理的評価は単一のプラットフォーム（xArm 7）に限定されている。バイマニュアル（両腕）システムやヒューマノイドへの転移は未検証である。
• 速度の不確実性: システムは、トラジェクタリーのサンプル全体に対して単一のRAFT速度推定を共有している。速度の不確実性を明示的に伝播させることで、キャリブレーションが改善される可能性がある。

結論として、AHEADはあらゆるカオス的なダイナミクスに対する普遍的な解決策ではないものの、予測ホライゾンとVLAの知覚・実行レイテンシを効果的に分離し、動的な環境における堅牢なインターセプトと操作を可能にすることを実証している。