🤖 machine learning

{\Omega}-QVLA: Robust Quantization for Vision-Language-Action Models via Composite Rotation and Per-step Scaling

本論文は、複合 SVD-アダマール回転とステップごとの DiT 活性化スケーリングを組み合わせることで、完全な視覚言語行動モデルに対する堅牢な W4A4 一様量子化を可能にする学習不要のポスト量子化フレームワークである $\Omega$ -QVLA を導入し、ベンチマークおよび実世界の操作タスクの両方で最先端のタスク成功率と大幅なメモリ削減を実現する。

原著者： Xinyu Wang, Mingze Li, Sicheng Lyu, Dongxiu Liu, Kaicheng Yang, Ziyu Zhao, Yufei Cui, Xiao-Wen Chang, Peng Lu

公開日 2026-05-28

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Xinyu Wang, Mingze Li, Sicheng Lyu, Dongxiu Liu, Kaicheng Yang, Ziyu Zhao, Yufei Cui, Xiao-Wen Chang, Peng Lu

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

想像してください。あなたは数十億ドル規模の天才的なロボット脳を持っていると。この脳は「ビジョン・ランゲージ・アクション（VLA）」モデルです。カメラを通じて世界を見、複雑な音声指示を理解し、タスクを実行するためにロボットアームをどのように動かすべきかを正確に計算できます。

問題は？この脳は巨大です。まるで、小さなバッテリー駆動の携帯ゲーム機で、巨大な高級映画館を動かそうとしているようなものです。実際のロボット上で動作させるには、メモリを占めすぎ、処理速度も遅すぎます。

これを解決するため、科学者たちは通常、数値を圧縮する（量子化と呼ばれるプロセス）ことで脳を「縮小」しようと試みます。これは、容量を節約するために高画質の4K映画を低解像度のMP4に変換するようなものです。

大きな問題：
以前のロボット脳の縮小尝试には重大な欠陥がありました。彼らは「思考」部分（言語モデル）を圧縮する一方で、「動作」部分（アクションヘッド）は完全な高品質解像度のまま残していました。なぜでしょうか？誰もが「動作」部分は繊細すぎると信じていたからです。圧縮しすぎると、数値があまりに「ぼやけて」しまい、ロボットが震えたり、ぎくしゃくしたり、物を落としたりすると考えられていたのです。

解決策：Ω-QVLA
この論文は、Ω-QVLAと呼ばれる新しい手法を紹介しています。これは、ロボットが崩壊することなく、思考部分と動作部分の両方を同じ小さなサイズ（W4A4 と呼ばれる）に成功裏に縮小した最初のツールです。

彼らがどのようにしてこれを実現したか、2 つの創造的な工夫を用いて説明します。

1. 「回転シャッフル」（複合回転）

想像してください。いくつかのカードが非常に重く（外れ値）、残りのカードは軽いトランプのデッキがあると。これらを小さな箱に詰めようとすると、重いカードが他のカードを押しつぶし、箱が壊れてしまいます。

ロボット脳では、いくつかのデータチャネルが「重い」（巨大な数値を持つ）のに対し、他のチャネルは「軽い」のです。

従来の方法： 単にすべてを押しつぶして詰め込む。重いカードが箱を押しつぶす。
Ω-QVLA の方法： 彼らは特別な「シャッフル」（SVD とハダマール回転と呼ばれる数学の組み合わせ）を使用します。デッキを回転させ、シャッフルして、重いカードの重みがデッキ全体に均等に分散されるようにします。こうすれば、単一のカードが箱を壊すほど重くなることはありません。これにより、情報の「形状」を失うことなく、データをより攻撃的に圧縮することが可能になります。

2. 「ステップごとの音量調整」（ステップごとのスケーリング）

ロボットの「動作」部分は、フレームごとに動画を滑らかにするビデオ編集者のような働き（ノイズ除去と呼ばれるプロセス）をします。

問題： データの「音量」（または強度）は、最初のフレームから最後のフレームまで激しく変化します。動画全体に固定された音量レベルを設定すると、最初は静かすぎて、最後は loud すぎて歪んでしまいます。
Ω-QVLA の方法： 彼らは「動的な音量調整」を作成し、動画の各ステップごとに感度を調整します。1 つの静的な設定を使うのではなく、システムは各特定の瞬間のデータを聞き取り、それに応じて圧縮スケールを調整します。これにより、動作中にデータが騒がしくなりすぎたり静かになりすぎたりしても、ロボットが混乱することを防ぎます。

結果

チームは、LIBERO というシミュレーションと実世界のロボットアームを用いて、2 つの有名なロボット脳（Pi 0.5 と GR00T N1.5）でこれをテストしました。

シミュレーション内： 圧縮されたロボットは、巨大な非圧縮のロボットと同等の性能を発揮しました。実際、あるテストでは、小さな圧縮ロボットがオリジナルよりも良い結果を出しました！
実世界で： 彼らは圧縮されたロボットを実際のテーブルに置き、コップを拾い、タオルを折り、ブロックを動かさせました。それは滑らかかつ正確に動作しました。
競合他社： これを試みた他の手法（QuantVLA）は、ロボットをぎくしゃくさせ、タスクを失敗させました。Ω-QVLA はそれを滑らかに保ちました。
節約された容量： 必要なメモリを**71%**削減しました。これは、プロットを失うことなく 4GB の映画ファイルを 1GB のファイルに変換するようなものです。

結論

この論文は、ロボット脳の「動作」部分は圧縮するにはあまりに繊細ではないことを証明しています。重いデータを分散させる賢い「シャッフル」と、変化する音量に対処する「ステップごとの」調整を使用することで、彼らはこれらの巨大なロボット脳を実際のロボットに収まるサイズまで縮小できました。これにより、ロボットはより高速で、安価になり、実世界での利用にready となりました。

技術概要：Ω-QVLA

問題定義

ビジョン・ランゲージ・アクション（VLA）モデルは、知覚、推論、制御を単一のポリシーに統合し、通常は大規模言語モデル（LLM）をバックボーンとし、拡散ベースのアクションヘッド（DiT）を利用する。汎用ロボット制御において有望である一方、これらのモデルは数十億パラメータとメモリ要件により、オンデバイスでの展開には莫大なコストがかかる。

既存の事後トレーニング量子化（PTQ）の取り組みは、VLA モデルに対する完全な解決策を提供できていない。先行研究では、通常 LLM バックボーンを圧縮する一方で、DiT アクションヘッドを FP16（単精度浮動小数点）のままにするか、混合精度方式を採用している。この躊躇は、DiT アクションヘッドが均一な低ビット量子化に対して本質的に敏感であるという信念に起因する。言語生成では量子化誤差が知覚されない場合があるのに対し、アクションヘッドの誤差は物理的なアクチュエータと直接インターフェースする連続的な制御信号を生成する。閉ループ設定では、量子化に起因する摂動は接触力や物理的ダイナミクスによって増幅され、累積的な誤差伝播とタスクの失敗を引き起こす。その結果、これまでに VLA モデルの完全な DiT アクションヘッドを均一な低ビット精度に量子化することに成功した先行手法は存在しない。

手法：Ω-QVLA

著者は、言語バックボーンと VLA モデル全体の DiT アクションヘッドの両方を均一なW4A4（4 ビット重み、4 ビット活性化）精度に圧縮できる、初のトレーニング不要の PTQ フレームワークΩ-QVLAを提案する。このフレームワークは、以下の 2 つの中核的な革新により、混合精度割り当ての必要性を排除する。

1. 複合 SVD・アダマール回転

チャネルレベルのエネルギー不均衡と活性化の異常値に対処するため、著者は量子化前に適用される 2 段階の回転戦略を導入する。

SVD 回転: 重み行列 $W = U\Sigma V^\top$ に対して特異値分解（SVD）を計算する。回転行列 $R_{SVD} = U$ を適用して重みの行方向のエネルギーを均等化する。これにより、重み空間を変換し、各行のエネルギーを特異スペクトラムによって直接制御可能とし、座標に起因するエネルギーの集中を除去する。
アダマール回転: SVD 回転は重みからのみ導出されるため、活性化空間における均一性を保証するものではない。これを解決するため、著者は SVD 回転を正規化されたアダマール行列 $H$ と合成する。複合回転 $R = R_{SVD} \cdot H$ は、支配的なチャネルのエネルギーをすべての出力チャネルに均一に再分配する均一な混合行列として機能する。
ブロックごとの実装: 密な $C_{in} \times C_{in}$ 回転行列による計算およびメモリオーバーヘッドを回避するため、本手法は回転をブロック単位で近似する。チャネルは、重みの列ノルムに基づいたジグザグ順列によって再順序付けられ、高ノルムチャネルと低ノルムチャネルがブロック間で均等に分散されるようにすることで、単一のパーティション内への異常値の集中を防ぐ。

2. ステップごとの DiT 活性化スケーリング

標準的な静的スケーリングは、活性化の大きさが多ステップのノイズ除去プロセス全体で大幅に変動するため、DiT モデルには最適ではない。

ダイナミックレンジのドリフト: 著者は、活性化統計量がノイズ除去ステップ間でドリフトすることを観察した。特に、時間条件付き入力を受け取る層（AdaLayerNorm に続く QKV 射影など）において顕著である。
ステップごとの較正: 単一の静的スケーリングの代わりに、Ω-QVLA は較正軌道から導出され、推論中に取得される、ステップごと、層ごと、チャネルごとのスケーリングテーブルを採用する。このテーブルは、動的レンジのドリフトを吸収するために使用される。これにより、量子化器は各特定のタイムステップにおける変化する活性化範囲に適応できる。

主な貢献

統合された W4A4 量子化: Ω-QVLA は、VLA スタック全体（LLM バックボーン + DiT アクションヘッド）を W4A4 に均一に量子化する初のトレーニング不要フレームワークであり、アクションヘッドは均一な低ビット量子化に耐えられないという仮説に挑戦する。
複合回転メカニズム: 複合 SVD・アダマール回転の導入により、チャネルごとの重みエネルギーを均等化すると同時に、残留する活性化の異常値を拡散させる。これにより、SVD 変換またはアダマール変換を単独で使用する際の限界を克服する。
ステップごとの較正: 反復的なノイズ除去プロセスにおける安定性を維持するために不可欠な、時間ステップ依存の動的レンジのドリフトを処理するための、DiT モデル専用のステップごとの活性化スケーリングメカニズムの開発。

実験結果

本フレームワークは、2 つの最先端 VLA ポリシーPi 0.5およびGR00T N1.5を用いたLIBEROベンチマークで評価された。

シミュレーション性能:
- Pi 0.5: W4A4 量子化下で**98.0%**の平均タスク成功率を達成し、FP16 基準（97.1%）をわずかに上回った。
- GR00T N1.5: **87.8%**の平均成功率を達成し、FP16 基準（87.0%）と一致した。
- 比較: これらの結果は、DiT 注意層を量子化する際に性能維持に失敗することが多い先行の W4A4 完全量子化ベースライン（SmoothQuant、DuQuant、QuantVLA など）を大幅に上回る。例えば、Pi 0.5 において QuantVLA は 82.0% の成功率にとどまったのに対し、Ω-QVLA は 98.0% に達した。
- メモリ効率: このフレームワークは、FP16 に対して静的メモリフットプリントを**71.3%**削減し、メタデータのオーバーヘッドは negligible（Pi 0.5 で約 90 MB）であった。
実世界操作:
- 実験は、5 つの両手操作タスク（カップの把持、タオルの折りたたみなど）を実行するデュアルアーム ARX R5 プラットフォームで行われた。
- 性能: Ω-QVLA は平均進捗スコア51.0を達成し、FP16 ベースライン（49.6）を上回った。対照的に、ベースラインの QuantVLA は 25.0 まで崩壊した。
- 定性的分析: 実世界でのテストにより、Ω-QVLA が滑らかで正確な操作軌道を生み出すことが確認された。ベースライン手法は、ジャークのあるエンドエフェクタの動きと、アクション次元における頻繁なスパイクを示し、長期的なタスクの失敗を招いた。

意義と主張

本論文は、Ω-QVLA が、DiT アクションヘッドは均一に量子化するには敏感すぎるという支配的な信念を覆すことを主張する。不安定性の源であるチャネルレベルのエネルギー不均衡とノイズ除去ステップの動的レンジのドリフトに直接対処することで、著者は、統合された W4A4 精度が高パフォーマンスな VLA 展開に十分であることを実証した。

著者は、自らのアプローチが再トレーニングを不要とし、混合精度割り当ての複雑さを排除することを強調している。結果は、効果的な VLA 圧縮には、言語中心の量子化技術の直接転送ではなく、包括的でアクションを認識した最適化が必要であることを示唆している。現在の評価は DiT ベースのバックボーンと特定のベンチマークに限定されているが、この研究は厳格なメモリおよびレイテンシ制約を持つハードウェアでの大規模 VLA ポリシーの展開を可能にする、オンデバイスロボット制御における新たな基準を確立した。