技術要約：アクションチャンキングにおけるホライゾンの混合（Mixture of Horizons）

1. 問題提起

Vision-Language-Action (VLA) モデルは、視覚的観測と言語指示に基づき、将来のアクションのシーケンス（アクションチャンク）を予測することで、複雑なロボットタスクを実行する驚異的な能力を示してきました。これらのモデルにおける重要な設計上の選択肢は、アクションチャンクの長さ、すなわちホライゾン ($H$) です。

本論文は、単一の固定されたホライゾンを選択することに伴う固有のトレードオフを指摘しています。

• ロングホライゾン（長い展望）: 長期的な計画と先見性を向上させ、長期的な軌道を必要とするタスク（例：多段階の操作）において優れたパフォーマンスを実現します。しかし、これらはしばしば、きめ細かな局所制御や即時的な運動精度を低下させます。
• ショートホライゾン（短い展望）: 精密で高頻度な制御を可能にし、短期的なタスクにおいて高い成功率をもたらします。しかし、複雑で長期的な計画に必要なグローバルなコンテキストが不足しています。

既存のアプローチは通常、ヒューリスティックに選択された固定ホライゾンに依存しており、これが汎化性能におけるボトルネックとなっています。単一のホライゾンは、長期的な先見性と短期的な精度を同時に最適化することはできず、多様なタスクセットに対するモデルの適応性を制限しています。

2. 手法：ホライゾンの混合 (Mixture of Horizons, MoH)

このトレードオフを軽減するために、著者らは複数のアクションホライゾンを単一のモデル内に統合する、プラグアンドプレイ戦略である Mixture of Horizons (MoH) を提案しています。

コアアーキテクチャ

MoHは、長さ $H$ の標準的なアクションチャンクを、異なるホライゾン $\mathcal{H} = \{h_1, \dots, h_N\}$ （ここで $h_N = H$）を持ついくつかのセグメントへと再構成します。

1. 並列処理: モデルは、これらの切り詰められたチャンクを共有アクショントランスフォーマーを用いて並列に処理します。計算効率を確保するため、チャンクは長さ $H$ にパディングされ、位置 $k > h$ を無効にするホライゾン固有のアテンションマスクを用いて処理されます。VLMバックボーンは一度だけ計算され、軽量なアクショントランスフォーマーが無視できる程度のオーバーヘッドで並列のホライゾンを処理します。
2. ゲート付き融合 (Gated Fusion): 軽量な線形ゲーティングヘッド（わずか約2k個のパラメータを追加）が、異なるホライゾンからの予測を融合します。各タイムステップ $k$ において、ゲートは有効なホライゾン ($k \le h$) に対する重み $\alpha_{t,k,h}$ を計算し、最終的な融合予測を生成します：
   $$\hat{a}_{t,k} = \sum_{h \in \mathcal{H}: k \le h} \alpha_{t,k,h} \hat{a}^{(h)}_{t,k}$$
3. 学習目的関数: 全体の損失は、融合された予測に対する損失 ($L_{mix}$)、個々のホライゾン予測に対する損失の総和 ($L_{ind}$)、およびバランス損失 ($L_{bal}$) を組み合わせたものです。バランス損失は、Mixture-of-Expertsの文献に着想を得ており、ゲーティングネットワークがすべてのホライゾンを均等に利用するように促し、モデルが特定の好ましいホライゾンのみに収束（崩壊）することを防ぎます。

クロスホライゾン・コンセンサスによる動的推論

MoHは、予測の確信度に基づいて実行長を適応させる動的推論スキームを可能にします。

• メカニズム: 各タイムステップにおいて、モデルは異なるホライゾンからの予測を「投票者」として扱います。モデルは、融合されたアクションとホライゾン固有のアクションとの間の不一致（例：$\ell_1$ 距離）を計算します。
• 自己切断 (Self-Truncation): システムは、不一致がデータ依存の閾値（最初の $n$ ステップから導出）を下回り、かつ十分な数のホライゾンがアクティブである限り、アクションチャンクのプレフィックスを実行します。
• 利点: これにより、ロボットは滑らかで低リスクな動き（高いコンセンサス）の間は長いアクションシーケンスを実行し、重要な決定ポイントや微細な操作（低いコンセンサス）の間はより頻繁に再計画を行うことができ、安定性とスループットの両方を向上させます。

3. 主な貢献

1. 体系的な分析: 本論文は、アクションチャンキングにおける長期的な先見性と短期的な精度の間の根本的なトレードオフを明らかにする体系的な研究を提供し、固定ホライゾンが異なるタスクタイプ間でサブオプティマル（最適ではない）なパフォーマンスをもたらすことを実証しています。
2. MoH戦略: 複数のホライゾンを融合する、汎用的で低オーバーヘッドの手法を導入しています。MoHは、フローマッチング・ポリシー（例：$\pi_0, \pi_0.5$）と、ワンステップ回帰/分類ポリシーの両方と互換性があり、最小限のアーキテクチャ変更で適用可能です。
3. 動的推論: 著者らは、実行の安定性と効率を向上させるコンセンサスベースの動的推論メカニズムを提案しており、ベースラインに対して最大 $2.5\times$ 高いスループットを達成しながら、成功率を維持または向上させています。

4. 実験結果

著者らは、複数のベンチマークにおいて、フローベースのモデル ($\pi_0, \pi_0.5, \text{StarVLA}$) と回帰ベースのモデル ($\pi_{reg}$) に対してMoHを評価しました。

• LIBLIBERO ベンチマーク: MoHは、4つのタスクスイート（Spatial, Object, Goal, Long）すべてにおいて一貫して性能を向上させました。特筆すべきは、$\pi_0.5$ と MoH の組み合わせが、わずか30kイテレーション後に**平均成功率99%**を達成し、このベンチマークにおける新たなSOTA（最先端）を確立したことです。これは、短期的な性能を犠牲にすることなく、長期的なタスク（例：$\pi_0$ でのLong suiteにおける+3.2%）を改善し、トレードオフを効果的に解消しました。
• RoboTwin 2.0: MoHは、「イージー」（インドメイン）および「ハード」（ドメインランダム化）設定の両方で成功率を向上させ、強化された堅牢性と汎化性能を示しました。
• RoboCasa: より多様で未飽和な家庭環境において、MoHはベースラインのGR00Tモデルに対して一貫した向上（平均+3.4%）をもたらしました。
• 実世界実験: 7自由度マニピュレータに展開されたMoHは、短期間の物体配置から、長期間の引き出しの閉鎖、および微細な変形物操作（タオルの折り畳み）に至るまでのタスクにおいて、一貫した利点を示しました。
• アブレーション研究:
  • ホライゾンの密度: 適度に密なホライゾンのセット（例：ストライド $d=3$）が、利点と計算コストのバランスを取りつつ、最適なパフォーマンスを提供しました。
  • 多様性 vs アンサンブル: 性能向上は、一般的なアンサンブル効果ではなく、ホライゾンの多様性に起因していました。同一のホライゾンを使用した場合は、改善はほとんど見られませんでした。
  • ゲーティング: 学習可能なゲート付き融合は、単純な一様平均よりも優れた性能を示し、バランス損失はゲートの崩壊を防ぐために極めて重要でした。

5. 意義と主張

本論文は、MoHが現在のVLAアーキテクチャにおける決定的な限界、すなわち長期的な計画と短期的な制御の忠実度を同時に最適化できないという問題に対する、原理的な解決策を提供すると主張しています。

• プラグアンドプレイの効率性: 手法は計算効率が高く、軽量なアクショントランスフォーマーと共有パラメータの使用により、トレーニングおよび推論のオーバーヘッドを最小限に抑えています。
• 汎用性: MoHは特定のポリシータイプ（フローマッチングまたは回帰）やバックボーンに縛られておらず、VLAコミュニティに広く適用可能です。
• 動的な適応性: クロスホライゾン・コンセンサスを可能にすることで、MoHは適応的なクローズドループ制御を促進し、ロボットがタスクの不確実性や複雑さに基づいて計画ホライゾンを動的に調整できるようにします。

著者らは、MoHはアクション予測と実行の安定性を大幅に向上させるものの、VLAモデルの別の課題である視覚的知覚や指示への追従に関する制限を直接解決するものではないことを強調しています。本研究は、MoHを、より堅牢でスケーラブルなエンボディドAIシステムに向けた基礎的なステップとして位置付けています。