💻 computer science

Revisiting Parameter Redundancy in Vision-Language-Action Models: Insights from VLM-to-VLA Adaptation

本論文は、Vision-Language-Action（VLA）モデルにおけるパラメータの冗長性は一様であるという仮定に異を唱え、VLMからVLAへの適応過程における構造的な乖離パターンを明らかにすることで、事後的な回復を必要とせずに、元の性能の90%を維持しながら大幅なパラメータ削減（12%〜30%）を実現する、新しいマルチモジュール結合プルーニング戦略を提示する。

原著者： Fengnian Zhang, Tao Huang, Siyu Xu, Zhong Jin, Chang Xu

公開日 2026-07-01

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Fengnian Zhang, Tao Huang, Siyu Xu, Zhong Jin, Chang Xu

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

想像してみてください。あなたは、レシピを説明し、食材を特定し、食べ物について驚くほど詳細に語ることができる、素晴らしい一流シェフ（視覚言語モデル、または VLM）を抱えています。そして今、あなたは、このシェフを実際にキッチンで「料理」ができるロボット（視覚言語・行動モデル、または VLA）に変えようとしています。

これを行うために、あなたはシェフの脳を取り出し、そこにナイフを握ったり鍋をかき混ぜたりするための新しい「筋肉」の接続を追加しました。しかし、問題が発生しました。シェフの脳は巨大であり、数百万ものニューロンで満たされています。ロボットは動作が遅く、コストがかかり、場所も取ります。あなたは、ロボットが役に立たない金属の塊になってしまうことを恐れながらも、ロボットの脳を小さくして高速化したいと考えています。

旧来の手法：「切って、祈る」

伝統的に、エンジニアがこれらのロボットの脳を縮小しようとする際、彼らは単に「余分」だと思われる部分を切り取り始めていました。

結果： ロボットは即座に動作を停止しました。コップの持ち方や腕の動かし方を忘れてしまったのです。
解決策： エンジニアたちは、「まあ、それは予想通りだ」と言いました。そして、ロボットを再び機能させるために、何日も何週間もかけて「再学習（ファインチューニング）」を行いました。
この論文の大きな問い： 著者たちはこう問いかけました。「もし、切り取った後にすべてを教え直さなければならないとしたら、それは本当に『余分な』部分を取り除いたと言えるのだろうか？それとも、単に誤って手や目を切り落としてしまったのだろうか？」

彼らは、再学習に頼ることは、重要な部分を切り取ってしまったという事実を隠蔽しているのだと主張しています。もしある部分が本当に不要なものであれば、助けを借りることなく、切り取った後でもロボットは完璧に動作し続けるはずだからです。

新しい発見：「成長マップ」

著者たちは、ロボットが料理を学ぶ「前」と「後」の脳を観察しました。彼らは「古いシェフの脳（VLM）」と「新しいロボットの脳（VLA）」を比較しました。

彼らは、脳がランダムに変化したのではないことを発見しました。脳の変化は非常に具体的で組織的なパターンに従っており、まるで新しい「筋肉」の接続がどこで成長しているかを示す地図のようでした。

大きく変化した部分： これらは、ロボットの腕を制御することを学習している部分でした。
変わらなかった部分： これらは、依然としてトマトやスプーンを認識する必要がある部分でした。
奇妙な変化を見せた部分： ある層では変化が非常に大きく、別の層では極めて微小でした。

彼らは、この「変化のマップ」（彼らはこれを $\Delta$ W と呼んでいます）が秘密のガイドであることを理解しました。それは、どの部分がロボットのために重労働を担っているのか、そしてどの部分が単なるシェフ時代の「残り物」なのかを正確に教えてくれるのです。

実験：「制御された手術」

この理論を証明するために、彼らはロボットの脳に対して「制御された手術」を行いました。推測する代わりに、彼らはこの「変化マップ」を使用して、何を切り取るかを決定しました。

間違った切り方： 彼らは、変化が少ない部分（安全な残り物だと考えて）を切り取ってみました。結果： ロボットは即座に崩壊しました。動けなくなったのです。
正しい切り方： 彼らは、変化が大きかった部分（これらは新しい活動的な部分だと考えて）を切り取ってみました。結果： 驚くべきことに、ロボットはほぼ完璧に動作を維持しました！

比喩： ある家を想像してください。古いシェフがそこに住んでおり、本が詰まった図書室を持っていました（VLM）。ロボットが引っ越してくると、地下に新しいジムを作りました（VLAへの適応）。

旧来の手法は、ランダムに壁を壊すことでした。もし家が崩れたら、後で壁を再建すればよいと考えていました。
新しい手法は、新しいジムの設計図を見ることでした。彼らは、ジムの新しい支持梁こそが、変化した部分であることを突き止めました。そして、全く変化しなかった古い図書室の本こそが、実は屋根を支えていたのだということを発見しました。ジムの冗長な部分（あるいは、不可欠な変化した部分を保持することで）を切り取ることで、家を崩壊させることなく、家を縮小することができたのです。

結果：より小さく、より速く、再学習なしで

この「変化マップ」戦略を用いることで、彼らは2つの有名なロボットの脳（OpenVLA および $\pi$ 0.5）を 12%から30% 縮小することに成功しました。

魔法のような効果： 彼らはこれを、再学習やファインチューニングを一切行うことなく実現しました。カット直後でも、ロボットは即座に動作しました。
比較： 他の一般的な切り取り手法（「数値が大きい部分を切る」や「最も使われている部分を切る」など）を試した場合、ロボットは長時間再学習させない限り、完全に失敗しました。
効率性： 彼らはメモリを大幅に節約し（ロボットをより小さく安価なコンピュータで動作可能にし）、元の性能の約 90% を維持しました。

重要な教訓

この論文は、単に何を切り取るか推測したり、後で間違いを修正することに頼ったりすべきではないと結論付けています。動き方を学ぶ際に「脳がどのように変化したか」を見ることで、精密に「余分な」部分を見つけ出すことができます。これにより、シェフがロボットへと変化した際に起こった特定の「成長」を理解することで、限られたリソースで動作する、より小さく、より速く、より効率的なロボットを構築することが可能になるのです。

技術要約：Vision-Language-Action（VLA）モデルにおけるパラメータ冗長性の再検討

問題提起
Vision-Language-Action (VLA) モデルは、大規模な事前学習済みVision-Language Model (VLM) をロボット制御タスクに適応させることで、身体的知能を進展させてきた。しかし、これらのモデルは膨大なパラメータスケールを継承しており、計算およびストレージの大きな負担を生じさせている。現在の効率化の取り組み、特にパラメータ・プルーニング（枝刈り）は、重大なボトルネックに直面している。すなわち、VLAモデルはパラメータ除去に対して極めて高い感受性を示すことである。中程度のプルーニングであっても、しばしば「性能の崖（performance cliff）」を引き起こすため、機能を回復させるために教師あり微調整（SFT）やLow-Rank Adaptation (LoRA) といった事後的な回復メカニズムが必要となる。

著者らは、この性能低下をプルーニングに伴う不可避なコストとして扱う従来のエンジニアリング・パラダイムに異を唱えている。彼らは、回復への広範な依存は根本的な問題を隠蔽していると主張する。もし、プルーニングされたモデルが再び機能するために「再学習」を必要とするならば、除去されたパラメータは冗長ではなく、極めて重要であった可能性が高い。これは、現在のプルーニング基準が、VLMからVLAへの適応プロセスにおいて機能的な再編成が行われている最中の重要なパラメータを、無差別に除去してしまっているのではないかという疑問を投げかけている。

手法
本論文は、プルーニングを単なる最適化の目標としてではなく、パラメータの機能的役割を分析するための「制御された介入」として捉え直す診断フレームワークを提案している。その手法は、以下の3つのコアコンポーネントで構成される：

適応信号の定量化： 著者らは、事前学習済みVLMの重み ( $W^{VLM}$ ) と、適応されたVLAの重み ( $W^{VLA}$ ) の間の相対的なパラメータ偏差 ( $\Delta W$ ) を定義する。この偏差の空間的分布を、異なるモジュール（Vision Encoder、Language Backbone、およびCross-Modal Projector）にわたって可視化し、ランダムなノイズではなく構造化されたパターンを特定する。
診断プローブとしての制御されたプルーニング： 偏差信号と機能的重要性の間の因果関係を確立するため、著者らは「リカバリーフリー（回復不要）」の評価プロトコルを導入する。ここでは、その後のファインチューニングを行わずに、モデルに直接プルーニングを適用する。そして、以下の2つの戦略を比較する：
- 最大差分プルーニング（Highest-difference pruning）： $|\Delta W|$ が最大のパラメータを除去する。
- 最小差分プルーニング（Lowest-difference pruning）： $|\Delta W|$ が最小のパラメータを除去する。
  タスク成功率（SR）への即時的な影響を観察することで、どの偏差信号が冗長性と相関しているかを判断する。
マルチモジュール結合プルーニング・スキーム： 冗長性の信号がモジュールごとに大きく異なること（モジュール間の不均一性）の発見に基づき、差別化されたプルーニング戦略を設計する。このスキームは、独自の偏差特性に基づいて、Vision Encoder、Language Backbone、およびProjectorに対して特定のプルーニング・ルールを適用し、性能崩壊を引き起こすことなくパラメータ削減を目指す。

主な貢献

診断フレームワーク： 著者らは、プルーニングを、適応によって誘発された偏差とパラメータの機能的重要性を因果的に結びつけるための制御された介入として扱う新しいフレームワークを導入し、冗長性の特定と性能回復を切り離した。
「リカバリーの罠」の解明： 本研究は、事後の回復への依存が、重要なパラメータの無差別な除去を隠蔽していることを実証している。彼らは、 $\Delta W$ 信号が強いモジュール不均一性を示すこと、つまり一律のプルーニング戦略は効果的ではないことを示している。
リカバリーフリー・プルーニング戦略： 適応信号を活用して、事後のファインチューニングや補償を一切行うことなく、大幅な圧縮（12%～30%のパラメータ削減）を実現しながら、元の性能の約90%を維持するマルチモジュール結合プルーニング・スキームを提案する。

実験結果
このアプローチは、2つの代表的なモデルペア（OpenVLA [Prismatic/Llama-2ベース] および $\pi0.5$ [PaLI-Gemmaベース]）を用いてLIBEROベンチマークで評価された。

仮説の検証：
- 仮説 I: 実験により、プルーニング後に回復を必要とするモデルは、おそらく重要なパラメータを失っていたことが確認された。「Lowest-diff」戦略を用いてプルーニングされたモデルは即座に崩壊した（例：SR 0.0%）が、LoRAファインチューニング後に回復した。これは、除去されたパラメータが冗長ではなかったことを証明している。
- 仮説 II & III: $\Delta W$ 信号の有用性はモジュールによって異なる。例えば、OpenVLAのDINOv2において、最大差分のAttention Headをプルーニングすると崩壊したが、最小差分のFFN Channelをプルーニングしても崩壊を引き起こした。逆に、Projectorモジュールでは、両方の戦略が崩壊を招いた。これは、Projectorが保護を必要とする脆弱なボトルネックであることを示している。
- 仮説 IV: 提案されたマルチモジュール・スキームは、リカバリーなしでパラメータ削減に成功した。
パフォーマンス指標：
- OpenVLA: 「Moderate」構成では、パラメータ数を7.5Bから6.2B（12.4GBメモリ）に削減しながら、LIBEROにおいて62.3%の平均成功率を維持した。これは、同一のリカバリーフリー条件下におけるLLM-Prunerのようなベースライン手法による壊滅的な失敗（SR 1.0%）と比較して優れている。
- $\pi0.5$ : 「Moderate」構成では、メモリを7.3GBから5.6GBに削減し、89.0%の平均成功率（ベースラインの96.9%から低下）を維持した。一方で、既存の基準を用いた場合は、性能の完全な崩壊を招いた。

意義と主張
本論文は、リソース制約のある環境において、効率的かつ堅牢なロボット・ポリシーをデプロイするための新たな道を提供すると主張している。「いかに多くをプルーニングして回復させるか」から「適応信号を通じて真の冗長性をいかに特定するか」へと焦点を移すことで、著者らは、VLAモデルには、高価な回復メカニズムなしに安全に除去できる、高度に構造化された冗長性が含まれていることを示した。本研究は、一般的な知覚から身体的な行動へのパラメータの進化を理解することが、効率的なVLAデプロイメントには極めて重要であることを示唆しており、「プルーニングしてから回復させる」という現在のパラダイムに対する原理的な代替案を提示している。