🤖 machine learning

Contrastive Representation Regularization for Vision-Language-Action Models

本論文は、ロボットの固有状態とビジョン・言語・アクションモデルの表現を整合させる軽量な表現正則化手法であるロボット状態認識コントラスト損失（RS-CL）を導入し、シミュレーションおよび実世界の操作ベンチマークの両方において性能を大幅に向上させることを示す。

原著者： Taeyoung Kim, Jimin Lee, Myungkyu Koo, Dongyoung Kim, Kyungmin Lee, Changyeon Kim, Younggyo Seo, Jinwoo Shin

公開日 2026-05-29

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Taeyoung Kim, Jimin Lee, Myungkyu Koo, Dongyoung Kim, Kyungmin Lee, Changyeon Kim, Younggyo Seo, Jinwoo Shin

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

以下は、視覚・言語・動作モデルのための対照的表現正則化に関する論文を、平易な言葉と創造的な比喩を用いて解説したものです。

全体像：「賢い脳」と「不器用な手」

あなたが、世界について驚くほど賢い脳を持つロボットを建造したと想像してください。その脳は数百万冊の本を読み、数十億枚の写真を見てきました。「キャビネットの扉」とはどのようなものか、「開く」とはどういう意味か、それを完璧な英語でどう記述するかを知っています。これが**視覚言語モデル（VLM）**です。

しかし、このロボットに実際にキャビネットを「開く」よう命じると、苦労します。なぜでしょうか？その脳が扉の「概念」を理解している一方で、自分の「腕」が動くときにどのような感覚を伴うのかを全く知らないからです。それは「固有受容感覚」、つまり関節の位置、どれだけの力を使っているか、手が空間のどこにあるかという内部感覚を理解していないからです。

この論文は、現在のロボットは、一度も包丁に触れたことのない天才シェフのようだと主張しています。サラダが「どうあるべきか」は知っていますが、野菜を切る動作の物理的な「感触」が欠如しているため、切ることができないのです。

問題点：「視覚の罠」

研究者たちは、これらのロボットが学習しようとする際、風景に気を取られてしまうことを発見しました。

従来の方法： 赤い壁の台所でキャビネットを開ける動画と、青い壁の台所でキャビネットを開ける動画をロボットに見せると、ロボットの脳は「これらは全く異なるタスクだ！」と考えます。背景の色や家具のスタイルによってそれらを分類してしまうのです。
現実： ロボットの腕の動きは、どちらの場合もほぼ同一です。壁の色が変わっても、腕を上に伸ばして取っ手を掴む「感触」は同じです。

ロボットの脳が「物理的な状態（腕の位置）」ではなく「視覚情報（赤い壁対青い壁）」に焦点を当てているため、特にカップを落とさずに掴むような精密さが求められる場面では、不器用な間違いを犯してしまいます。

解決策：「ロボット状態認識対照損失（RS-CL）」

著者たちは、RS-CLと呼ばれる新しい学習テクニックを導入しました。これは、ロボットの脳に対する「物理的な現実確認」とも言えるものです。

1. 「ソフトな指導」の比喩

あなたが学生に円を描くことを教える場面を想像してください。

従来の方法： ただ「円を描け」と言うだけです。学生はポスターにある円の絵を見て、インクを模写しようとします。
RS-CL の方法： 学生の手に手を添えて、「手首がどう動くか感じてごらん？手が『ここ』にあるときは円は小さく、手が『あそこ』にあるときは円は大きくなる」と伝えます。

RS-CL はこれをデジタル的に行います。ロボットの内部センサー（その「固有受容状態」）を見て、脳に次のように伝えます。「ロボットの腕が位置 A にあり、別の時に位置 B にあり、それらの位置が非常に似ているなら、背景が全く異なっていても、あなたの脳内の地図はこれらの 2 つの瞬間を類似していると扱うべきだ」と。

これは「ソフトな」重み付けシステムを使用します。ロボットの腕がほぼ同じ場所にある場合、脳は画像を類似していると見なすよう優しく促されます。腕が遠くにある場合は、異なるものと見なすよう促されます。これにより、脳は「風景」よりも「動き」に関心を持つように強制されるのです。

2. 「視点カットオフ」のトリック

ロボットは通常、複数のカメラ（手首カメラや部屋全体を映すカメラなど）を持っています。

問題点： 完全な視野を見せながらロボットを訓練すると、手首カメラに頼りすぎて部屋を無視したり、その逆になったりする可能性があります。
解決策： 研究者たちは**View Cutoff（視点カットオフ）**と呼ばれる方法を考案しました。地図を勉強している際、半分に手を当てて隠すと想像してください。見える半分だけを使って脳に全体像を理解させるのです。
仕組み： コンピュータは訓練中にランダムにカメラの視点の一つを「マスク（隠し）」ます。これにより、ロボットは片方のカメラが遮られた場合や角度が変わった場合でも機能する表現を学ぶように強制されます。これにより、ロボットの理解は「視点不変的」になります（どの角度から見ても、動作は同じであるという理解）。

結果：「不器用」から「精密」へ

この論文は、シミュレーションされたキッチン（RoboCasa-Kitchen）と実在のロボットアームでこの手法をテストしました。

シミュレーション： この修正以前、最良のロボットは約**65.7%**の成功率でした。RS-CL を用いると、**69.7%**まで跳ね上がりました。
「掴んで置く」タスクでの勝利： 最も大きな改善が見られたのは、小さな物体を掴んでボウルに入れるなど、精密さを要するタスクでした。成功率は**30.3%から41.5%**に向上しました。これは、半分はカップを落とすロボットから、ほぼ常に正しく行えるロボットへと変化したようなものです。
実在のロボット： 実在の物理的ロボットアームでは、困難なタスクの成功率が**45.0%から58.3%**に向上しました。

なぜこれが重要なのか（論文によると）

この論文は、この手法が軽量であり、追加が容易であると主張しています。ロボットをゼロから作り直す必要も、ロボットが動く新しい動画を数百万本与える必要もありません。既存の訓練プロセスに、この「物理的な現実確認（RS-CL）」を追加するだけです。

それは、「扉が何かを知っていること（視覚・言語）」と、「それを開けるために腕をどう動かすかを知っていること（動作）」の間の溝を埋めます。ロボットの脳に、思考を物理的な感覚と整合させるよう強制することで、ロボットは物を動かす実際の作業を、はるかに上手に行えるようになります。

一文で要約

この論文は、ロボットが背景の風景を見るのをやめ、自らの体の動きに注意を向けるように教え、その結果、より滑らかで正確な物理的動作を実現することを示しています。

技術的概要：ビジョン・ランゲージ・アクションモデルのための対照的表現正則化

問題定義

ビジョン・ランゲージ・アクション（VLA）モデルは、事前学習済みビジョン・ランゲージモデル（VLM）から得られる豊かな意味表現を活用することで、ロボット操作において大きな可能性を示しています。しかし、重要な限界が依然として存在します：汎用 VLM から導出される表現は、ロボット制御にとって最適ではないことが多いのです。VLM は大規模な視覚指示データセットで訓練されていますが、ロボット特有のモダリティ、具体的には低レベルの制御動作や固有受容感覚情報（関節位置、エンドエフェクタの状態など）への明示的な曝露が欠如しています。

その結果、VLA モデルが凍結された VLM 表現を条件として与えられる場合、埋め込みは視覚的外観（例：シーンのレイアウト、背景のテクスチャ）よりも制御に関連する要因よりも支配的になる傾向があります。このミスマッチにより、ロボットの物理状態や正確な動作予測に必要な信号を捉えられない表現が生じ、正確な位置決めを必要とするタスクにおいて性能が最適化されないことになります。

手法：ロボット状態認識対照損失（RS-CL）

VLM 表現とロボット信号との間のミスマッチに対処するため、著者は**ロボット状態認識対照損失（RS-CL）**を提案します。これは、追加の訓練段階やキュレーションされたデータセットを必要とせず、VLM 埋め込みとロボットの固有受容感覚状態の間のギャップを埋めるように設計された、シンプルで効果的な表現正則化技術です。

中核コンポーネント

表現レベルの拡張（ビューカットオフ）：
VLM を複数回順方向に通す必要がある高価なデータレベルの拡張を行う代わりに、著者は「ビューカットオフ」を導入します。この操作は、VLM 出力から単一の観測ビューに対応する特徴スライスをランダムにマスクするものです。これにより、計算オーバーヘッドを最小限に抑えながら表現レベルで代替埋め込みを生成し、効率的に多様な対照ペアを構築できます。
学習可能な要約トークン：
通常は長い VLM 系列全体に対照学習を適用する際の計算コストを処理するため、VLM 出力に学習可能な要約トークンを付加します。アダプターはこのトークンを処理して、対照学習に使用されるコンパクトな代表埋め込み（ $z$ ）を生成し、元の埋め込み（ $h$ ）は動作デコーダーのために利用可能なままにします。
ソフト重み付き対照目的関数：
RS-CL は、InfoNCE 損失に基づく教師あり対照学習フレームワークを利用します。すべての負のペアを均等に扱う標準的な対照損失とは異なり、RS-CL はロボットの固有受容感覚状態（ $q_i, q_j$ ）間のユークリッド距離に基づいて、類似度スコアにソフト重みを割り当てます。
- メカニズム： 固有受容感覚距離が小さい（物理状態が類似した）状態のペアには高い重みが割り当てられ、表現空間内でそれらの埋め込みを近づけるようにモデルを促します。距離が大きいペアは低い重みが割り当てられます。
- 数式： 損失は InfoNCE の重み付き変種として定義されます：
  $\mathcal{L}_{RS-CL} = - \sum_{i,j} w_{ij} \log \frac{\exp(\text{sim}(z_i, \tilde{z}_j)/\tau)}{\sum_k \exp(\text{sim}(z_i, \tilde{z}_k)/\tau)}$
  ここで、 $w_{ij}$ は固有受容感覚状態間の相対距離から計算されます。
訓練統合：
RS-CL は、標準的な動作予測損失（例：フローマッチング損失）に並行して補助目的関数として機能します。全体の目的関数は $\mathcal{L} = \mathcal{L}_{FM} + \lambda \mathcal{L}_{RS-CL}$ です。重み付け係数 $\lambda$ は訓練中に減衰し、初期段階では表現の洗練を強調し、後期段階では正確な動作予測を強調します。これにより、既存の VLA パイプラインと互換性のある単一段階のエンドツーエンド訓練が可能になります。

主要な貢献

新規目的関数： 連続的な距離に基づくソフトな教師信号を用いて、VLM 表現をロボットの固有受容感覚状態に明示的に整合させる RS-CL の導入。
効率的な設計： 追加の VLM 順方向パスなしで軽量かつ安定した対照学習を可能にする表現レベルの拡張戦略（「ビューカットオフ」）の開発。
互換性： RS-CL が標準的な VLA 訓練パイプラインと完全に互換性があり、追加のデータキュレーションや多段階訓練プロセスを必要としないことの証明。

実験結果

著者は、シミュレーションベンチマークおよび実ロボット実験において RS-CL を評価しました。

シミュレーションベンチマーク

RoboCasa-Kitchen： RS-CL は（300 回のデモンストレーションを使用して）69.7% の最先端の成功率を達成し、ベースラインの GR00T N1.5（65.7%）や $\pi_0$ （62.5%）などの他の強力なベースラインを上回りました。特に、正確な位置決めを必要とするピックアンドプレースタスクにおいて大幅な改善が見られ、成功率は 30.3% から 41.5%（+11.2%）に向上しました。
LIBERO： RS-CL は平均成功率を 95.7% から**96.4%**に向上させ、さまざまなマルチタスクスイート全体で堅牢性を示しました。
効率性： タイム対照ネットワーク（TCN）と比較して、RS-CL は時間的に構造化されたデータマイニングや追加の順方向パスを回避するため、計算オーバーヘッドが大幅に低い（TCN の 7.53 $\times 10^{12}$ FLOPs に対して 2.91 $\times 10^{12}$ FLOPs）ながら、より高い成功率を達成しました。

実ロボット実験

設定： 実験は、Robotiq 2F-85 グリッパーを備えた Franka Research 3 アームで行われました。
性能： 困難な操作タスクにおいて、RS-CL は成功率を45.0% から 58.3%（+13.3%）に向上させました。
一般化： この手法は、視覚的変化、物理的特性の変化（未見の物体）、照明条件、言語グラウンディングに対する堅牢性の向上を示しました。また、部分的な遮蔽（例：ふたを閉じる）を伴うタスクでも性能が向上しており、これはビュー不変の表現に起因すると考えられます。

一から訓練（From-Scratch Training）

さまざまな事前学習済み VLM バックボーン（Qwen2.5-VL、SigLIP2、GR00T N1.5）上で VLA モデルを一から訓練する際、RS-CL はすべてのアーキテクチャで一貫して性能を向上させました。これは、ロボットデータセットでのさらなる VLM 訓練に依存するベースライン（RoboBrain、VeBrain など）を上回っており、RS-CL による明示的な整合化が、一般的なドメイン適応単独よりも効果的であることを示唆しています。

意義と主張

本論文は、RS-CL が汎用 VLM とロボット制御の特定の要求との間の「モダリティギャップ」を効果的に解決すると主張しています。表現を固有受容感覚状態に明示的に整合させることで、この手法は埋め込み空間を再構成し、視覚的外観だけでなく、タスクの進捗やロボットの姿勢などの制御に関連する信号を捉えるようにします。

著者は、このアプローチが軽量でシームレスであり、複雑な多段階訓練や大規模なキュレーションされたロボットデータセットを必要としないことを強調しています。結果は、正確な動作予測、特に正確な位置決めを必要とするタスクにおいて、ロボット状態信号を表現学習プロセスに直接組み込むことが重要であることを示唆しています。この研究は、他のセンサー信号（物体の姿勢、触覚フィードバックなど）を統合し、VLA の能力をさらに発展させる今後の研究を促しています。