技術的概要：潜在推論 VLA（LaRA-VLA）

問題定義

ビジョン・ランゲージ・アクション（VLA）モデルは、マルチモーダルな観測と言語指示を連続的な制御コマンドにマッピングすることで、スケーラブルなロボティクス操作において大きな可能性を示しています。性能向上のための prevailing な戦略として、タスク分解と計画のための構造化された中間ステップを提供する Chain-of-Thought（CoT）推論が挙げられます。しかし、既存の CoT アプローチには 2 つの根本的な限界が存在します。

1. 高い推論オーバーヘッド: テキストベースの CoT 手法は、推論時に広範な離散推論トークンの生成を必要とします。これにより、莫大な計算コスト、過剰な KV キャッシュの使用、高いレイテンシが生じ、制御頻度がしばしば 5Hz 未満に低下し、リアルタイムのロボティクス制御には不十分となります。
2. 表現のミスマッチ: ほとんどの CoT 定式化は、離散表現（言語トークン、または VQ ベースのトークナイザーからの離散的な視覚トークン）に依存しています。これは、本質的に連続的なロボティクスの知覚と動作空間との間にミスマッチを生じさせます。推論を離散トークンに制限することは、具身的制御に必要な流動性を妨げる可能性があります。

手法：LaRA-VLA

これらの課題に対処するため、著者らは、マルチモーダルな CoT 推論を連続的な潜在表現に内在化させる統合フレームワークである**Latent Reasoning VLA（LaRA-VLA）**を提案します。推論時に明示的な推論痕跡を生成する代わりに、LaRA-VLA は推論と予測をすべて潜在空間内で行い、連続的な知覚と制御と整合させます。

1. データ構築

著者らは、シミュレーションおよび実世界環境の両方に対して構造化された CoT データセット（LIBERO-LaRA および Bridge-LaRA）を構築するための自動化された注釈パイプラインを開発しました。このパイプラインは、「まずアンカー、後に生成」というパラダイムを採用しています。

• セマンティックアンカー: Qwen3-VL を使用して、初期フレームと指示から操作対象の物体を特定します。
• 時間的アンカー: グリッパの状態変化に基づいてロボット軌道を原子段階にセグメント化することで生成されます。
• 注釈: システムは、簡潔なサブタスク記述、時間的に一貫したターゲット物体のバウンディングボックス（GroundingDINO と SAM3 を通じて）、およびエンドエフェクタ軌道から導出された動作推論を生成します。

2. モデルアーキテクチャ

LaRA-VLA は、一貫した視覚表現のために画像エンコーダを継承するQwen3-VLをバックボーン・ビジョン・ランゲージモデル（VLM）として利用します。

• 視覚ゴール潜在変数: 予測された視覚潜在変数を表す専用の <img next> トークンを導入し、トレーニングの初期段階における明示的な教師信号と整合を可能にします。
• アクションエキスパート: 最終段階では、アクション生成を自己回帰的なトークンデコーディングから分離します。16 層の Diffusion Transformer（拡散トランスフォーマー）がアクションエキスパートとして機能し、学習された潜在表現に条件付けられて連続的な動作軌道を生成します。

3. 3 段階のカリキュラム学習

学習パラダイムは、明示的な推論から潜在的な具身的推論への漸進的な移行に従います。

• ステージ I：明示的 CoT 微調整。 モデルは、明示的なテキスト CoT 注釈と視覚ゴール予測を備えたデータセットで微調整されます。離散的な CoT トークンを自己回帰的に生成し、表現の崩壊を防ぐために指数移動平均（EMA）ターゲットエンコーダを使用して将来の視覚潜在変数（$z_{t+1}$）を整合させることを学習します。アクショントークンも、逆動力学目的関数を通じて学習されます。
• ステージ II：カリキュラムに基づく置換。 離散的な CoT トークンが段階的にマスクされ、学習可能な連続的な潜在表現に置換されます。明示的トークンの割合はカリキュラムスケジュールに従って減少し、モデルは視覚予測目的と動作信号に導かれて、ますます潜在的推論に依存します。
• ステージ III：フローマッチングによる動作生成。 明示的な CoT 教師信号は除去されます。モデルはフローマッチング目的関数を用いて連続制御に適応します。アクションエキスパートは、マルチモーダル潜在コンテキスト（現在の視覚/テキスト入力、中間推論潜在変数、予測された将来の視覚潜在変数）に条件付けられた速度場を予測し、明示的な CoT 生成なしに連続的な動作軌道を生成します。

4. アテンション機構

専門的なアテンション機構がトークン間の情報フローを制御します。ステージ I と II では、将来の画像トークンは因果的にテキストと現在の画像トークンにアテンションします。ステージ III では、アクショントークンはアテンション計算から除外され、モデルは同じ制約の下でテキストとビジョントークンのみで動作し、効率的な推論を確保します。

主要な貢献

1. 潜在推論パラダイム: 本論文は、CoT 推論をテキストおよび視覚モダリティにわたる連続的な潜在表現に内在化させるパラダイムを導入し、連続的な知覚と制御と整合する推論効率の高い推論を可能にします。
2. LaRA-VLA フレームワーク: カリキュラムベースの学習戦略を通じてこのパラダイムを実現する統合 VLA モデルであり、明示的なマルチモーダル CoT 教師から潜在的な具身的推論への移行を、EMA ベースの視覚エンコーダによって安定化させます。
3. 構造化データセット: 具身的操作のためのマルチモーダル推論注釈（サブタスク分解、動作推論、ターゲット局所化）を備えた 2 つの構造化 CoT データセット（LIBERO-LaRA および Bridge-LaRA）の構築。

実験結果

著者らは、LaRA-VLA をシミュレーションベンチマーク（LIBERO、SimplerEnv）および長期のリアルロボット操作タスクで評価しました。

• シミュレーション性能: LIBERO ベンチマークにおいて、LaRA-VLA は 97.9% の最先端の平均成功率を達成し、No-CoT ベースライン（例：OpenVLA、$\pi_0$）および明示的 CoT 手法（テキストおよび視覚）の両方を上回りました。SimplerEnv-WidowX においては、68.8% の最高平均成功率を達成し、優れた実世界からシミュレーションへの汎化能力を示しました。
• 実世界性能: 実世界の長期タスク（果物の選別、ボウルの積み重ねなど）において、LaRA-VLA は比較対象の手法（ACT、ECoT、GR00T N1.5）の中で最高平均成功率を達成し、特に多段階推論と時間的調整を必要とするタスクで卓越した性能を発揮しました。
• 推論効率: LaRA-VLA は、明示的 CoT ベースのアプローチと比較して推論レイテンシを最大90%削減し、NVIDIA A100 GPU 上で135 msのロールアウト時間を達成しました。これにより、リアルタイムロボティクスに適した制御頻度が実現されました。
• ロバスト性: 非潜在ベースラインと比較して、モデルは視覚的摂動（ガウスノイズとぼかし）に対してより高いロバスト性を示し、潜在表現は破損下でも意味的に一貫性を維持しました。
• アブレーション研究: 結果は、潜在的 CoT 教師が明示的テキスト CoT よりも大きな改善をもたらすことを確認しました。潜在的テキストおよび視覚 CoT の組み合わせが最良の性能を示し、マルチモーダル整合の利点を浮き彫りにしました。

意義と主張

本論文は、LaRA-VLA が、推論時に明示的な Chain-of-Thought 生成なしに、具身的エージェントのための構造化推論を潜在空間内で効果的に実現できることを示していると主張しています。推論を連続的な潜在ダイナミクスに内在化させることで、このアプローチは離散トークンと連続制御との間の表現ミスマッチを解決し、計算オーバーヘッドを大幅に削減します。著者らは、このパラダイムが、冗長で離散的な推論痕跡の限界を超えた、効率的でリアルタイムかつ堅牢なロボティクス操作への実現可能な道筋を提供すると位置づけています。

著者らは限界も認めており、潜在的表現は明示的な教師なしで崩壊する可能性があること（ここでは潜在トークンの制限と EMA の使用によって緩和されている）、およびカリキュラム学習プロセスは移行段階でより高いコストを伴うことを指摘しています。しかし、この研究は、VLA モデルにおける効率的で動作指向の推論の基盤を確立しています。