🤖 machine learning

Contrastive Representation Regularization for Vision-Language-Action Models

本文介绍了机器人状态感知对比损失（RS-CL），这是一种轻量级的表示正则化技术，能够将视觉 - 语言 - 动作模型的表示与机器人本体感知状态对齐，从而显著提升其在仿真和真实世界操作基准上的性能。

原作者： Taeyoung Kim, Jimin Lee, Myungkyu Koo, Dongyoung Kim, Kyungmin Lee, Changyeon Kim, Younggyo Seo, Jinwoo Shin

发布于 2026-05-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Taeyoung Kim, Jimin Lee, Myungkyu Koo, Dongyoung Kim, Kyungmin Lee, Changyeon Kim, Younggyo Seo, Jinwoo Shin

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗易懂的语言和富有创意的类比，对论文《用于视觉 - 语言 - 动作模型的对比表示正则化》的解释。

大局观：“聪明的大脑”与“笨拙的双手”

想象你建造了一个机器人，它拥有一颗对世界极其聪明的“大脑”。它读过数百万本书，见过数十亿张照片。它知道“橱柜门”长什么样，“打开”是什么意思，并能用完美的英语描述这一切。这就是视觉 - 语言模型（VLM）。

然而，当你要求这个机器人真正去打开橱柜时，它却束手无策。为什么？因为虽然它的大脑理解了门的概念，但它完全不知道自己的手臂在移动时是什么感觉。它不懂“本体感觉”——即对自身关节位置、用力程度以及手部在空间中确切位置的内在感知。

这篇论文指出，目前的机器人就像一位从未摸过刀的杰出厨师。它们知道沙拉应该是什么样子，却无法切菜，因为它们缺乏动作的物理“手感”。

问题所在：“视觉陷阱”

研究人员发现，当这些机器人尝试学习时，它们会被周围的景色分散注意力。

旧方法：如果你给机器人看一段在红墙厨房里打开橱柜的视频，再看一段在蓝墙厨房里打开橱柜的视频，机器人的大脑会想：“这是两个完全不同的任务！”它会按照背景颜色或家具风格将它们归类。
现实情况：在这两种情况下，机器人的手臂运动几乎完全相同。手臂向上移动并抓住把手的“感觉”是一样的，即使墙壁颜色发生了变化。

由于机器人的大脑专注于视觉（红墙与蓝墙），而不是物理状态（手臂的位置），它容易犯笨拙的错误，特别是在需要精确操作时，比如拿起杯子而不掉落。

解决方案：“机器人状态感知对比损失”（RS-CL）

作者引入了一种新的训练技巧，称为RS-CL。你可以将其视为机器人大脑的一次“物理现实核查”。

1. “软监督”类比

想象你在教一个学生画圆。

旧方法：你只是说：“画个圆。”学生看着海报上的圆图片，试图模仿那墨水线条。
RS-CL 方法：你握着学生的手说：“感受你的手腕是如何移动的？当你的手在这里时，圆很小；当你的手在那里时，圆很大。”

RS-CL 在数字层面实现了这一点。它查看机器人的内部传感器（其“本体感觉状态”），并告诉大脑：“如果机器人的手臂处于位置 A，而另一次处于位置 B，且这两个位置非常相似，那么即使背景看起来完全不同，你大脑的内部地图也应该将这两个时刻视为相似。”

它使用一种“软”权重系统。如果机器人的手臂几乎在同一个位置，大脑就会受到轻微的引导，将这些图像视为相似；如果手臂相距甚远，它就会被引导将它们视为不同。这迫使大脑更关注运动本身，而不是景色。

2. “视图截断”技巧

机器人通常拥有多个摄像头（如手腕摄像头和房间摄像头）。

问题：如果你通过展示完整视图来训练机器人，它可能会过度依赖手腕摄像头而忽略房间，反之亦然。
解决方法：研究人员发明了一种称为视图截断的方法。想象你在研究一张地图，但用手遮住了其中一半。你迫使大脑仅利用可见的一半来理解全貌。
工作原理：计算机在训练过程中随机“掩码”（隐藏）其中一个摄像头视图。这迫使机器人的大脑学习出一种即使一个摄像头被遮挡或角度发生变化也能生效的表示。它使机器人的理解变得“视图不变”（即无论从哪个角度观察，动作都是一样的）。

结果：从“笨拙”到“精准”

该论文在模拟厨房（RoboCasa-Kitchen）和真实机械臂上测试了这种方法。

模拟环境：在此修复之前，最佳机器人的成功率约为65.7%。使用 RS-CL 后，这一数字跃升至69.7%。
“抓取与放置”的胜利：最大的改进出现在需要精确度的任务中，例如拿起一个小物体并将其放入碗中。成功率从30.3%提升至41.5%。这就像从一个有一半时间会掉落杯子的机器人，变成了一个几乎总能做对的机器人。
真实机器人：在真实的物理机械臂上，困难任务的成功率从45.0%提升至58.3%。

为什么这很重要（根据论文所述）

论文声称，这种方法轻量级且易于添加。你不需要从头重建机器人的大脑，也不需要喂给它数百万个机器人移动的新视频。你只需将这种“物理现实核查”（RS-CL）添加到现有的训练过程中即可。

它弥合了“知道门是什么”（视觉 - 语言）与“知道如何移动手臂去打开它”（动作）之间的鸿沟。通过迫使机器人的大脑将其思想与其物理感觉对齐，机器人在实际移动物体方面变得更为出色。

一句话总结

这篇论文教导机器人停止关注背景景色，转而关注自身身体的运动方式，从而实现了更流畅、更精准的物理动作。

技术摘要：面向视觉 - 语言 - 动作模型的对比表示正则化

问题陈述

视觉 - 语言 - 动作（VLA）模型通过利用预训练视觉 - 语言模型（VLM）提供的丰富语义表示，在机器人操作领域展现了巨大潜力。然而，一个关键限制依然存在：源自通用 VLM 的表示往往对于机器人控制而言并非最优。尽管 VLM 在大规模视觉指令数据集上进行了训练，但它们缺乏对机器人模态的显式接触，特别是底层控制动作和本体感觉信息（例如关节位置、末端执行器状态）。

因此，当 VLA 模型基于冻结的 VLM 表示进行条件化时，嵌入向量往往被视觉外观（例如场景布局、背景纹理）所主导，而非控制相关因素。这种错位导致生成的表示无法捕捉机器人的物理状态或精确动作预测所需的必要信号，从而在需要精确定位的任务中导致性能次优。

方法论：机器人状态感知对比损失（RS-CL）

为解决 VLM 表示与机器人信号之间的错位问题，作者提出了机器人状态感知对比损失（RS-CL）。这是一种简单有效的表示正则化技术，旨在无需额外训练阶段或精心策划的数据集的情况下，弥合 VLM 嵌入与机器人本体感觉状态之间的鸿沟。

核心组件

表示级增强（视图截断）：
为了避免执行需要多次通过 VLM 前向传播的昂贵数据级增强，作者引入了“视图截断”。该操作随机掩码 VLM 输出中对应单个观测视图的特征切片。这在表示层面创建了替代嵌入，计算开销极小，从而能够高效地构建多样化的对比对。
可学习汇总令牌：
为了应对在完整 VLM 序列（通常较长）上应用对比学习的高计算成本，在 VLM 输出后附加了一个可学习的汇总令牌。适配器处理该令牌以生成用于对比学习的紧凑代表性嵌入（ $z$ ），而原始嵌入（ $h$ ）则保留供动作解码器使用。
软加权对比目标：
RS-CL 利用基于 InfoNCE 损失的监督对比学习框架。与将所有负样本对同等对待的标准对比损失不同，RS-CL 根据机器人本体感觉状态（ $q_i, q_j$ ）之间的欧几里得距离，为相似度分数分配软权重。
- 机制： 本体感觉距离较小（物理状态相似）的状态对被分配较高权重，鼓励模型在表示空间中将其嵌入拉近；距离较大的对则被赋予较低权重。
- 公式： 损失定义为 InfoNCE 的加权变体：
  $\mathcal{L}_{RS-CL} = - \sum_{i,j} w_{ij} \log \frac{\exp(\text{sim}(z_i, \tilde{z}_j)/\tau)}{\sum_k \exp(\text{sim}(z_i, \tilde{z}_k)/\tau)}$
  其中 $w_{ij}$ 由本体感觉状态之间的相对距离计算得出。
训练集成：
RS-CL 作为辅助目标与标准的动作预测损失（例如流匹配损失）并行运行。总目标为 $\mathcal{L} = \mathcal{L}_{FM} + \lambda \mathcal{L}_{RS-CL}$ 。权重系数 $\lambda$ 在训练过程中逐渐衰减，在早期阶段强调表示细化，在后期阶段强调精确动作预测。这使得单阶段、端到端的训练成为可能，并与现有 VLA 流水线兼容。

主要贡献

新颖目标： 提出 RS-CL，利用基于连续距离的软监督，显式地将 VLM 表示与机器人本体感觉状态对齐。
高效设计： 开发了一种表示级增强策略（“视图截断”），实现了轻量级、稳定的对比学习，无需额外的 VLM 前向传播。
兼容性： 证明了 RS-CL 完全兼容标准 VLA 训练流水线，无需额外的数据策划或多阶段训练过程。

实验结果

作者在仿真基准测试和真实机器人实验中评估了 RS-CL。

仿真基准测试

RoboCasa-Kitchen： RS-CL 实现了69.7%的最先进成功率（使用 300 次演示），超越了基线 GR00T N1.5（65.7%）以及其他强基线如 $\pi_0$ （62.5%）。值得注意的是，它在抓取 - 放置任务中取得了显著提升，成功率从 30.3% 提高到 41.5%（+11.2%），该类别需要精确定位。
LIBERO： RS-CL 将平均成功率从 95.7% 提升至96.4%，证明了其在不同多任务套件中的鲁棒性。
效率： 与时间对比网络（TCN）相比，RS-CL 在显著降低计算开销的情况下实现了更高的成功率（TCN 为 7.53 $\times 10^{12}$ FLOPs，RS-CL 为 2.91 $\times 10^{12}$ FLOPs），因为它避免了时间结构化数据挖掘和额外的前向传播。

真实机器人实验

设置： 实验在配备 Robotiq 2F-85 夹爪的 Franka Research 3 机械臂上进行。
性能： 在具有挑战性的操作任务中，RS-CL 将成功率从45.0%提升至58.3%（+13.3%）。
泛化能力： 该方法表现出对视觉变化、物理属性变化（未见过的物体）、光照条件和语言 grounding 的改进鲁棒性。在部分遮挡任务（例如盖上盖子）中也表现出性能提升，这归因于视图不变表示。

从零开始训练

当在各种预训练 VLM 骨干网络（Qwen2.5-VL、SigLIP2、GR00T N1.5）上从零开始训练 VLA 模型时，RS-CL 一致地提升了所有架构的性能。其表现优于那些依赖在机器人数据集上进一步训练 VLM 的基线（例如 RoboBrain、VeBrain），这表明通过 RS-CL 进行显式对齐比单纯的通用领域适应更有效。

意义与主张

该论文声称，RS-CL 有效地解决了通用 VLM 与机器人控制特定需求之间的“模态鸿沟”。通过将表示与本体感觉状态显式对齐，该方法重塑了嵌入空间，使其能够捕捉控制相关信号（如任务进展和机器人姿态），而不仅仅是视觉外观。

作者强调，这种方法轻量且无缝，避免了复杂的多阶段训练或大规模精心策划的机器人数据集的需求。结果表明，将机器人状态信号直接纳入表示学习过程对于精确的动作预测至关重要，特别是在需要精确定位的任务中。这项工作鼓励未来的研究整合其他传感器信号（例如物体姿态、触觉反馈），以进一步推动 VLA 能力的发展。