🤖 AI

Finetuning Vision-Language-Action Models Requires Fewer Layers Than You Think

本論文は、Vision-Language-Actionモデルにおける冗長な層を特定して除去する、学習を必要としない構造圧縮パイプラインを導入するものであり、多様なロボットタスクにおいて性能を維持または向上させつつ、最大50%の深度削減と学習および推論の両方における大幅な高速化を実現している。

原著者： Gia-Binh Nguyen, Trong-Bao Ho, Thien-Loc Ha, Khoa Vo, Philip Lund Møller, Quang T. Nguyen, Long Dinh, Tuan Dam, Vu Duong, Tung M. Luu, Trung Le, Tran Nguyen Le, Minh Vu, An Thai Le, Ngan Le, Daniel So

公開日 2026-06-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Gia-Binh Nguyen, Trong-Bao Ho, Thien-Loc Ha, Khoa Vo, Philip Lund Møller, Quang T. Nguyen, Long Dinh, Tuan Dam, Vu Duong, Tung M. Luu, Trung Le, Tran Nguyen Le, Minh Vu, An Thai Le, Ngan Le, Daniel Sonntag, James Zou, Jan Peters, Duy M. H. Nguyen, Ngo Anh Vien

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

想像してみてください。あなたは、巨大で超知能なロボットの脳を持っています。この脳は「Vision-Language-Action（VLA）」モデルと呼ばれるものです。それは世界を見、あなたの言葉を理解し、シャツを畳んだりコップを持ち上げたりするために、腕をどのように動かすべきかを正確に判断することができます。

問題は、これらの脳が巨大すぎることです。あまりに大きいため、学習にはスーパーコンピュータによる数日間の時間が必要であり、リアルタイムで動かそうとすると、まるで混雑した市場の中をフェラーリで走ろうとするかのように、動作が遅く、コストがかかり、大量の燃料（計算資源）を必要とします。

この論文の著者たちは、シンプルな問いを投げかけました。「本当に、これほど大きな脳が必要なのだろうか？」

大発見：「エコーチェンバー（反響室）」現象

研究者たちは、これらの巨大なロボットの脳の内部を調査しました。そして、驚くべき事実を発見しました。これらの脳には**冗長性（無駄）**が満ちているのです。

脳を、50人の作業員がいる長い組立ラインと考えてみましょう。

作業員1が物体を見ます。
作業員2がそれを再び見て、「そうだ、コップだ」と言います。
作業員3がそれを見て、「まだコップだ」と言います。
作業員4が「間違いなくコップだ」と言います。

研究者たちは、この組立ラインの長い区間において、作業員たちが前の作業員の言葉を単に繰り返しているだけであることを見つけ出しました。彼らは新しい情報を付け加えているのではなく、単に同じ情報をエコー（反響）させているだけなのです。技術的な言葉で言えば、連続する層（レイヤー）がほぼ同一の「思考（表現）」を生み出していることを発見しました。

解決策：「CKA」というハサミ

すべての作業員を残す代わりに、チームはCLP（CKAガイド付きレイヤー・プルーニング）と呼ばれる手法を考案しました。

あなたが、組立ラインの声を聴くことができるスマートなハサミを持っていると想像してください。このハサミは、**CKA（Centered Kernel Alignment）**というツールを使用して、2人の作業員がどれだけ同じことを言っているかを測定します。

もし作業員5と作業員6が全く同じことを言っているなら、ハサミは彼らを切り取ります。
ラインは再接続され、作業員4はメッセージを直接作業員7へと渡します。

重要なのは、これが脳全体をゼロから学習し直す必要のない、トレーニングを必要としない「トリミング」であるという点です。これは、ロボットが新しい特定のタスクを学習する前に行われます。

結果：より小さく、より速く、より賢く

余分な脂肪を削ぎ落とした結果、その成果は目覚ましいものでした。

脳が小さくなった： 彼らは最大で**50%**の層を取り除きました。それは、50階建ての超高層ビルを、構造を維持したまま25階建てのビルに変えるようなものです。
学習が高速化した： モデルが小さくなったため、新しいタスクを教える時間が40〜50%短縮されました。以前は学習に20時間かかっていたタスクが、今では約10時間で済むようになりました。
リアルタイムの速度： ロボットは現実の世界で、思考し、動くスピードが約30%向上しました。
場合によってはパフォーマンスも向上： 驚くべきことに、ロボットが学習するためのデータが少ない状況（例えば、タスクを100回しか見ていない場合など）では、小さな脳の方が巨大な脳よりも優れた性能を発揮しました。
- 比喩： テスト勉強を想像してみてください。もし膨大な、かつ混乱を招くような教科書（大きなモデル）を持っていたら、圧倒されて間違ったことを暗記してしまうかもしれません（過学習）。もし簡潔で明快な要約（プルーニングされたモデル）を持っていれば、最も重要な事実に集中でき、テストでより良い結果を出せるのです。

テストの場

彼らはこれをコンピュータ上のシミュレーションだけでテストしたのではありません。以下の環境でテストを行いました。

仮想ロボット： LIBEROやRoboCasaといったビデオゲームのような世界。
実機ロボット： 研究室にある実際の物理的なアーム（UR10やALOHAロボットなど）を用い、ショートパンツを畳む、ナプキンを配る、ブロックを積み重ねるといったタスクを実行。

結論

この論文は、これらの高度なロボットの脳が「オーバーエンジニアリング（過剰設計）」であることを証明しています。彼らは仕事をこなすために必要な量よりも、ずっと多くの層を持っています。シンプルで、トレーニングを必要としない方法を使って、繰り返しの多い層を切り取ることで、学習コストが低く、動作が速く、そして（あるいはそれ以上に）仕事において優れたロボットを作ることができるのです。

要するに： シャツを畳むために50層もの脳は必要ありません。効率化された25層の脳があれば、それで十分ですし、しかもより速くこなせるのです。

テクニカルサマリー：VLAモデルのファインチューニングには、想定よりも少ない層数で十分である

問題提起

$\pi_0$ や GR00T-N1.5 といった Vision-Language-Action (VLA) モデルは、ビデオとロボットのデータセットを用いた大規模な事前学習を活用することで、連続的な制御ポリシーを生成し、ロボット操作に革命をもたらしました。しかし、これらの最先端（SOTA）アーキテクチャは通常、数十億のパラメータに及び、深刻な計算上のボトルネックを生じさせます。これらのボトルネックは、ダウンストリームのファインチューニングにおける法外なハードウェアコスト、高い動作レイテンシ、そしてリアルタイムのエッジ推論を制約する重いメモリ帯域幅のオーバーヘッドとして現れます。

既存の最適化戦略は、主に3つの決定的な限界に直面しています：

限定的な範囲： 多くの手法は、古いテキストトークン自己回帰ベース（例：OpenVLA）を対象としており、現代の連続制御基盤モデルには対応していません。
学習の非効率性： 学習フリーの手法（例：トークンプルーニング、キャッシュ）は、推論を加速させるものの、高価なダウンストリーム・ファインチューニング段階の計算コストを削減することはできません。
アーキテクチャの複雑性： 学習適応型の手法（例：ダイナミックルーティング、早期終了）は、補助的なモジュールや複雑な学習目的関数を導入するため、コアモデルの構造を変更し、ダウンストリームの学習アルゴリズムとの摩擦を生じさせます。

ここで検討される中心的な問いは、「ファインチューニングを行う前に、ポリシーの性能を損なうことなく冗長な層を取り除くことができるか？」という点です。

手法：CKAガイド付きレイヤー・プルーニング (CLP)

著者らは、完全に学習フリーであり、補助的なルーティングモジュールを必要としない構造圧縮パイプラインである CLP を提案しています。その核心となる洞察は、現代のVLAバックボーンは深刻な層間の表現の冗長性を示しており、連続するトランスフォーマーブロックが極めて相関の高いトークン表現を生成しているという点にあります。

CLPフレームワークは以下のように動作します：

冗長性の診断： トレーニングエピソードからサンプリングされたコンパクトなキャリブレーションセットを用い、単一のフォワードパスを実行して隠れ状態の表現を抽出します。
類似度の測定： 隣接する層間の表現の類似性を定量化するために、Centered Kernel Alignment (CKA) を採用します。CKAは、直交変換や等方的スケーリングに対する不変性を持つため、構造的な冗長性を特定する上で堅牢です。
層の特定： 隣接する層間のCKAスコアが高いことは、特徴量の変換が最小限であることを示します。この手法では、隣接する冗長な層を連続したブロックとして集約します。
静的プルーニング： 各冗長ブロック内において、最初の「機能的アンカー」層を除くすべての層を恒久的に削除します。このプロセスは、Vision-Language Model (VLM) バックボーンと連続制御ポリシーヘッドの両方に独立して適用されます。
ダウンストリーム適応： 得られた圧縮モデルは、ネイティブの学習目的関数を用いてターゲットタスクに対してファインチューニングされます。蒸留損失やアーキテクチャの変更は必要ありません。

主な貢献

SOTA VLAへのアクセシブルな適応： 本論文は、SOTAの連続制御基盤（ $\pi_0$ , GR00T-N1.5）が、補助的なルーティングや早期終了モジュールを導入することなく、大幅に削減された深さでファインチューニング可能であることを示しています。
事前ファインチューニングによるバックボーン圧縮： CKAを用いて、ダウンストリーム適応の前に表現的に冗長なトランスフォーマーブロックを特定・除去する、シンプルなキャリブレーションベースのフレームワークであるCLPを導入しました。
多様なマルチエンボディメント検証： 3つのシミュレーションベンチマーク（LIBERO, RoboCasa, SimplerEnv）および、4つのロボット形態（UR10, UR5, シングルアームALOHA, バイマニュアルALOHA）にわたる10の実世界操作タスクを通じて、広範な評価を行いました。

実験結果

著者らは、シミュレーションおよび実世界の環境においてCLPを検証し、以下の主要な知見を報告しています。

圧縮効率： CLPは、異なるバックボーン（ $\pi_0$ $π_{0}$ , GR00T-N1.5, SmolVLA）において、モデルの深さを最大50%、学習パラメータ数を25〜37%削減します。
- 学習速度： 学習時間を40〜50%削減します（例：実世界タスクにおいて1.94倍高速）。
- 推論速度： 最大30%高速なリアルタイム推論を実現します。
- FLOPs： 計算コストを最大50%削減します（例：GR00T-N1.5で49.3%の削減）。
性能の維持： 大幅なプルーニングにもかかわらず、合理化されたアーキテクチャはフルスケールのベースモデルと同等、あるいはそれを上回る性能を発揮します。
- シミュレーション（LIBERO）において、CLPは学習パラメータを約30%削減しながら、競争力のある成功率を維持します。
- 実世界への展開において、CLPは平均成功率を向上させ（例：GR00T-N1.5において73.5%から75.9%へ）、ナプキンサービング（+20%）やドライバー配置（+15%）といった特定のタスクではフルモデルを凌駕します。
正則化効果： データが乏しい状況において、構造圧縮は効果的な正則化として機能します。例えば、LIBEROのデータを10%に制限した場合、CLPを用いることで成功率は77.7%から84.6%へと上昇し、フルベースラインおよびMoLe-VLAのようなダイナミックルーティング手法を上回りました。
ベースラインとの比較： CLPは、学習コストを削減しない学習フリーのトークンプルーニング手法や、複雑さを増大させる学習適応型の手法と比較して、効率性とサンプル効率の両面で優れています。

意義と主張

本論文は、高度なVLAにはこれまで想定されていたよりも大幅に少ない層数が必要であることを主張しています。層ごとの冗長性が極めて深刻であるという「高度に非自明なアーキテクチャ特性」を明らかにすることで、本研究は、スケーラブルなロボット学習のための極めて計算効率の高いパラダイムを提示しています。

著者らは、彼らのアプローチが「構造的にクリーン」であり、ダイナミックルーティングや蒸留パイプラインによる摩擦を回避していることを強調しています。冗長な層を取り除くことは、学習と推論を加速させるだけでなく、モデルを暗黙的に正則化し、低データ環境における過学習を防ぐことにもつながると述べています。これらの知見は、VLAのアーキテクチャは常に巨大化していく必要があるという仮定からの転換を示唆しており、最小限の計算オーバーヘッドで適応可能な、より効率的で持続可能な基盤ポリシーへの道を示しています。