技術要約: QuantWAMs

問題提起

World Action Models (WAMs) は、将来の観測結果とそれを実現するために必要なアクションを同時に予測することにより、汎用的なロボット操作を実現する有望なパラダイムを提示している。しかし、反復的なデノイジング（除去）プロセスと、生成されたアクションが次ステップの予測における観測値を変化させるクローズドループ実行に起因する高い計算コストが、実世界のロボットへの展開を阻んでいる。

既存の事後学習量子化 (Post-Training Quantization: PTQ) 手法は、以下の3つの根本的なミスマッチにより、WAMsには適していない。

1. 目的のミスマッチ: 標準的なPTQは、フォワードパスが独立してスコアリングされるオープンループの目的関数（例：パープレキシティ、単一画像の再構成）を最適化する。しかし、WAMsはクローズドループで動作するため、初期の量子化誤差が状態遷移を通じて伝播・累積する。
2. 構造のミスマッチ: 標準的な手法は、多くの場合、均質なトランスフォーマーアーキテクチャを想定している。これに対し、WAMsは、計算がヘテロジニアス（不均一）なストリーム間に分散されている、結合されたパスウェイ（例：二重ストリームのMixture-of-Transformersや共有バックボーン設計）を採用することが多い。
3. 分布のミスマッチ: 標準的なPTQにおけるキャリブレーション分布は、クローズドループの設定では到達不可能な状態における感度をプロファイリングしてしまうことがあり、その結果、精度予算を誤った方向に導く「幻影」のデノイジングステップのピークを生じさせる。

手法: QuantWAMs

QuantWAMsは、モデル構造、ロールアウト分布、およびタスク目的によって定義されるWAMs特有のキャリブレーション・コンテキストに量子化決定を適合させるために設計されたPTQフレームワークである。本手法は、以下の3つのコア戦略を導入している。

1. 共有基底によるアウトライヤー・キャリブレーション (Shared-Basis Outlier Calibration)

標準的なアウトライヤー保持手法は、統計量をすべてのモジュールに対して無差別にプールすることが多い。QuantWAMsは、プーリングを座標適合的なモジュールに限定する。

• メカニズム: 共通の順序付けられた基底（例：Fast-WAMにおける共有値パスウェイや、LingBot-VAにおける共有入力列）を共有するモジュール間でのみ、活性化のエビデンスをプーリングする。
• 理論的根拠: 本手法は、チャネル統計を、クロスメンバーの異質性 ($\tau^2_c$) と、メンバー内のサンプリング変動 ($\sigma^2_c$) の混合としてモデル化する。そして、モジュール間でデータをプーリングすることが、個別コンテキストでの推定と比較して推定リスクを低減する「プーリング・クロスオーバー」点 ($N^*$) を導出する。
• 成果: これにより、キャリブレーション・トラジェトリ数 ($N$) が少ない場合にサンプリングノイズによって不安定なマスクが生じるのを防ぎつつ、重要なアウトライヤー・チャネルのエネルギーを保持する。

2. 共同学習目的によるサリエンシー (Co-Training-Objective Saliency)

単一のストリームに基づいてレイヤーをスコアリングしたり、事後に勾配を融合したりするのではなく、QuantWAMsはビデオとアクションの共同勾配を用いて重みの精度を割り当てる。

• メカニズム: 学習済みWAMの結合損失 ($\ell_{co} = \lambda_v \ell_v + \lambda_a \ell_a$) から経験的フィッシャー・スコアを計算する。
• 差別化: 外積の後に周辺的な目的関数を組み合わせる「事後融合 (post-hoc fusion)」とは異なり、本手法は結合勾配に存在する座標成分の相互作用項 ($\Xi_L$) を保持する。
• 粒度: キャリブレーションの安定性を確保するため、精度は要素や列単位ではなく、レイヤー粒度で割り当てられる。候補となるLinear層の上位20%が、これらの共同スコアに基づいて高精度（例：W8）へとアップグレードされる。

3. 固定介入型ロールアウト監査 (Fixed-Intervention Rollout Auditing)

WAMsのクローズドループ特性に対処するため、本手法は、到達可能なクローズドループ状態を用いたデノイジングステップの保護スケジュールの修正を行う。

• メカニズム: 記録されたFP16のロールアウトに対して「固定介入」監査を実施する。各トラジェトリの各状態において、保護されていない（低精度な）介入下でステップをリプレイし、FP16のベースラインに対する局所的な不一致 ($\ell_t$) を測定する。
• 利点: これにより、観測プロファイルにおける「自己マスク」問題（保護が有効であるために、そのステップが感度がないように見える現象）や、合成入力による「到達不能な状態」の問題を回避できる。
• 適用: このプロファイルを用いて、総精度予算を変更することなく、実際のクローズドループ・トラジェトリ上の感度をより正確に反映する新しい保護デノイジングステップ集合 ($T_{replay}$) を監査・置換する。

主な貢献

1. コンテキスト認識型の定式化: 本論文は、展開時の精度決定を決定づける3つの特定のコンテキスト（構造、分布、目的）に基づいて、WAMsのためのPTQを定式化している。
2. 理論的導出: モジュール間で活性化のエビデンスをプーリングすべき条件（サンプルの異質性とトラジェトリ数によって制御される）を導出し、Top-Kマスク回復のためのサンプル異質性のクロスオーバーを特徴付けている。
3. 共同勾配サリエンシーと監査: ビデオとアクションの勾配をキャリブレーションに安定したレイヤー粒度で共同スコアリングする方法を提案し、実際のロールアウト上での固定介入リプレイを利用してデノイジングステップのスケジュールを修正する。

実験結果

本フレームワークは、Fast-WAM および LingBot-VA という2つのWAM実装を用い、RoboTwin 2.0、LIBERO、および AgiBot G2 による実機操作において評価された。

• シミュレーション性能: 優勢なW4A4（重み4ビット、活性化4ビット）設定において、QuantWAMsはFP16との成功率の差をわずか 0.2–0.7パーセントポイント に抑えた。
  • Fast-WAM (RoboTwin 2.0): 91.7% vs. 91.9% (FP16)。
  • LingBot-VA (LIBERO-Long): 98.0% vs. 98.5% (FP16)。
• 効率性: ターゲットとなるビデオおよびアクションブロックにおいて、QuantWAMsはピークの重みおよび活性化メモリをFP16ベースラインの約 29% まで削減し、ブロックレベルで 1.4–1.6倍 の高速化を実現した。
• 実機検証: 3つのタスク（リンゴのピックアップ、ブロックの積み重ね、タオルの折り畳み）を実行したAgiBot G2において、量子化されたポリシー（QuantWAMs）は、FP16の63.3%に対し、56.7%（30試行中17回成功）の成功率を達成した（ベースラインの量子化手法であるAtom*は40.0%）。
• アブレーション研究: 制御実験により、以下が確認された：
  • 共有基底のプーリングが、マスクの回復とクローズドループの成功率を向上させること。
  • 共同学習サリエンシーが、事後融合や単一ストリームの目的関数よりも優れていること。
  • 固定介入型ロールアウト監査が、合成または観測プロファイルよりも優れたスケジュールの配置を実現すること。

意義と主張

本論文は、クローズドループ制御特有の構造的・動的な課題に対処することで、リソース制約のある実機ロボットへの高性能なWAMsの展開可能性を確立したと主張している。

• 控えめな主張: 著者らは、特にサンプルサイズが統計的比較には不十分な（各タスク10試行）実機実験において、結果がFP16に対する形式的な非劣性や同等性を確立したものではないことを明示している。
• 範囲の制限: 本研究は、2つの特定のWAMアーキテクチャ、ベンチマーク固有のキャリブレーション、およびブロックレベルの効率性測定に限定されている。エンドツーエンドの制御ループのレイテンシ解決や、未知のタスクへの転移については主張していない。
• 核心的な洞察: 主要な貢献は、量子化の決定は、汎用的なオープンループのヒューリスティックに頼るのではなく、モデルの展開における特定の「キャリブレーション・コンテキスト（構造、分布、および目的）」の中で行われなければならないということを示した点にある。