🤖 machine learning

Domain Arithmetic: One-Shot VLA Adaptation under Environmental Shifts

本文介绍了领域算术（Domain ARiThmetic, DART），这是一种基于类比的方法，通过利用子空间对齐的领域特定信息进行权重向量运算，实现了视觉-语言-动作模型向环境变化的快速单样本自适应，从而消除了对高成本多演示训练的需求。

原作者： Taewook Kang, Taeheon Kim, Donghyun Shin, Jonghyun Choi

发布于 2026-07-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Taewook Kang, Taeheon Kim, Donghyun Shin, Jonghyun Choi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大问题：机器人在新房间里迷失了

想象你有一个技术精湛的机器人厨师（一个 VLA 模型），它在一个特定的厨房（源域）中接受过训练。这个机器人知道如何切菜、搅拌汤品和摆盘，它已经看过成千上万段执行这些任务的视频。

现在，你把机器人移到了一个新厨房（目标域）。

摄像头的安装位置变了。
灯光变得略有不同。
甚至机器人现在换了一个品牌，手臂也有了细微的变化。

尽管机器人知道“如何烹饪”，但它却感到困惑。它认为刀的位置变了（因为视角变了），或者因为它无法识别食材（因为光线不对）。它无法完成以前能轻松完成的任务。

解决旧方法的办法：
为了教会机器人这个新厨房，你通常需要雇佣一名人类训练员，拍摄几十段机器人在新房间里执行每项任务的视频。这既昂贵、缓慢，又不切实际。

“单样本（One-Shot）”的梦想：
如果只需通过看仅仅一段关于某项任务的视频，就能教会机器人适应新厨房，那会怎样？这就是这篇论文的目标。

解决方案：DART（领域算术）

作者提出了一种名为 DART 的方法。他们并没有从头开始重新训练整个机器人，而是使用了一个巧妙的技巧，叫做“权重算术（Weight Arithmetic）”。

把机器人的大脑（它的神经网络权重）想象成一个巨大的指令库。

基础机器人： 拥有“如何切菜”（任务）和“如何在厨房 A 中观察”（源域）的指令。
新机器人： 需要“如何切菜”（任务）和“如何在厨房 B 中观察”（目标域）的指令。

问题在于，当你只给机器人看一段在新厨房里的视频时，它的脑部更新会变成两者的混合体。它学会了“如何在厨房 B 中切菜”，但它会过度沉溺于这个特定的任务，以至于忘记了如何在那个新厨房里处理其他任务。

魔法技巧：相减与相加

作者发现，机器人的大脑更新可以被分解为两个独立的部分，就像混合颜色一样：

任务颜色： “切菜”的指令。
领域颜色： “厨房 B 的灯光/摄像头”的指令。

他们发现这两个颜色是混合在一起的，但可以通过数学方法进行分离。以下是 DART 的工作原理：

获取“任务”参考： 机器人已经知道如何在旧厨房里切菜。他们提取一段在旧厨房切菜的视频，并计算出“任务向量”（纯粹的“切菜”指令）。
获取“新”更新： 他们提取一段在新厨房里切菜的视频，并计算出“新更新向量”。
相减（类比）：
- 想象“新更新”是一个由 切菜 + 新厨房 组成的奶昔。
- 想象“旧更新”是一个由 切菜 + 旧厨房 组成的奶昔。
- 如果你从“新更新”中减去“旧更新”，“切菜”的部分就会抵消掉！
- 结果： 你得到了一个纯粹的 “新厨房”向量。这个向量只包含关于新摄像头和灯光的信息，而不包含特定的任务指令。
相加： 他们将这个纯粹的“新厨房”向量加回到原始机器人的大脑中。
- 原始大脑 + 新厨房向量 = 一个能完成所有旧任务，但现在能在新厨房里完美观察的机器人。

清理噪声（子空间滤波）

这里有一个陷阱。当你减去两个东西时，有时会不小心留下“噪声”或“伪影”（就像从旧厨房里掉落的一粒尘埃，卡在了减法过程中）。

为了修复这个问题，DART 使用了 子空间滤波器（Subspace Filter）。

把机器人的大脑更新想象成一个 3D 形状。
滤波器会检查“新厨房”的形状是否与“旧厨房”的形状完美对齐。
如果形状的一部分没有对齐（即它只是随机噪声），滤波器就会将其切除。
这确保了机器人只学习新旧厨房之间的“真实差异”，而不是随机的故障。

为什么这很重要（实验结果）

作者在模拟环境和现实世界中测试了这些机器人。

测试： 他们改变了摄像头的角度、增加了摄像头噪声，甚至更换了机器人的手臂（例如将 Panda 机器人换成了 UR5e 机器人）。
结果：
- 旧方法： 失败了，或者需要大量的数据。
- 单样本微调（天真的做法）： 机器人学会了一个任务，但忘记了其他所有任务。
- DART： 机器人仅通过 一次演示 就适应了新环境，并且保留了执行所有其他任务的能力。它的表现优于所有其他方法。

总结类比

想象你是一位音乐家，在具有极佳音效的音乐厅里可以完美地演奏钢琴（源域）。
你搬到了一个狭小、有回声的客厅（目标域）。你尝试演奏，但声音听起来很奇怪，你发挥失常了。

旧的方法： 你请了一位老师，在客厅里录制你演奏每一首曲子的过程，持续数周。
DART 的方法：
1. 你在客厅里录制自己演奏一首曲子的声音。
2. 你在音乐厅里录制同一首曲子的声音。
3. 你使用计算机，从“客厅的声音”中减去“音乐厅的声音”。
4. 这就得到了一个“客厅音效”文件。
5. 你将这个文件应用到你的大脑中。现在，即使你只在客厅练习了一首歌，你也能在客厅里完美地演奏任何曲目。

底线是： DART 允许机器人通过数学手段隔离其大脑中的“环境”部分，并将其添加到现有知识中，从而通过仅需一个示例就能瞬间适应新环境（不同的摄像头、不同的机器人）。

技术摘要：领域算术 (DART) 用于单样本 VLA 适配

问题陈述

在规模化语料库上训练的视觉-语言-动作 (VLA) 模型展现出了强大的多任务能力，但在部署到具有环境偏移 (environmental shifts) 的新目标环境时，其性能会显著下降。这些偏移包括相机位姿的变化（视角偏移）、传感器校准的变化，或具身形态的修改（例如，从 Panda 机器人切换到 UR5e 机器人）。

现有的适配策略面临着关键瓶颈：

全数据微调 (Full-data Fine-tuning)： 需要针对目标域中的每个任务收集大量的专家演示，这在现实世界设置中（如家庭环境）的成本极高。
单样本微调 (One-shot Fine-tuning)： 虽然数据效率高，但仅基于单个演示的标准微调往往无法泛化到目标域中未见的任务。它并没有学习环境偏移，而是主要过拟合到了所演示的具体任务上，从而失去了多任务能力。

方法论：领域算术 (DART)

作者提出了 DART，一个基于类比的框架，旨在仅使用单个任务的一个演示来使 VLA 模型适配到偏移的环境中。该方法基于以下观察：单样本微调后的权重可以分解为可叠加、解耦的组件：任务特定方向 (task-specific directions) 和 领域特定方向 (domain-specific directions)。

核心洞察

通过子空间对齐分析，作者发现来自单样本微调的更新向量 ( $\Delta = \theta_{fine-tuned} - \theta_{base}$ ) 主要由任务特定方向主导。然而，存在一个一致且较小的领域特定组件，它编码了环境偏移。作者假设这些组件是线性可加且正交的，类似于语言模型中的“女王 = 国王 + 女人 - 男人”这一类比。

算法步骤

DART 提取一个可复用的领域向量 ( $\tilde{\delta}_{tgt}$ ) 来适配基础策略 ( $\theta_0$ )，而无需在大型数据集上进行重训。

更新向量计算：
- 计算目标域更新向量 ( $\Delta_{m,tgt}$ )，方法是在针对任务 $T_m$ 的单个目标域演示 ( $D_{m,tgt}$ ) 上对基础模型进行微调。
- 计算源域更新向量 ( $\Delta_{m,src}$ )，方法是在针对相同任务 $T_m$ 的单个源域演示 ( $D_{m,src}$ ) 上对同一个基础模型进行微调。
领域向量提取（类比操作）：
- 执行减法操作以隔离领域方向： $\delta_{tgt} = \Delta_{m,tgt} - \Delta_{m,src}$ 。
- 该操作抵消了共享的任务特定方向，从而留下了领域特定的偏移。
子空间过滤与缩放（降噪）：
- 直接相减可能会保留源域的人造痕迹或放大微调噪声。为了解决这个问题，DART 采用了两个精炼步骤：
  - 子空间过滤 (Subspace Filtering)： 利用奇异值分解 (SVD)，该方法识别并过滤掉源更新向量中不符合目标子空间的基向量。这防止了源特定噪声破坏提取出的领域向量。
  - 子空间缩放 (Subspace Scaling)： 最终的领域向量通过子空间对齐得分 ( $\gamma$ ) 进行缩放。如果源更新与目标更新对齐程度较差（表明存在高噪声或无关性），则会对该向量进行降权处理。
模型适配：
- 将精炼后的领域向量加回基础模型： $\theta^* = \theta_0 + \alpha \cdot \tilde{\delta}_{tgt}$ ，其中 $\alpha$ 是控制适配强度的标量系数。

核心贡献

可加性的经验证据： 本文提供了证据，证明 VLA 模型中的单样本微调权重可以分解为可共享、可叠加的任务特定方向和领域特定方向。
DART 框架： 一种基于类比的新颖方法，通过通过权重算术移除任务特定方向，从而从单样本微调的权重更新中提取可复用的领域向量。
子空间精炼： 引入了子空间过滤和缩放技术，以减轻在提取领域向量过程中的噪声和伪影，确保适配的鲁棒性。
架构无关性： 该方法被证明适用于不同的 VLA 架构（流匹配 $\pi0.5$ 和自回归 $\pi0-FAST$ ）以及多种偏移类型（视觉和具身）。

实验结果

作者在 LIBERO 基准测试（仿真环境）和 真实世界 UR10e 机器人设置上评估了 DART。

仿真（新视角）： 在小、中、大三种视角偏移下，DART 的表现显著优于基线（Zero-shot, One-shot Fine-tuning, FLA, 和 RETAIN）。例如，在 $\pi0.5$ 处理中等视角偏移时，DART 达到了 80.8% 的成功率，而 One-shot Fine-tuning 为 33.3%，FLA 为 76.4%。
组合扰动： DART 在组合视觉偏移（视角 + 噪声 + 光照）下保持了卓越的性能，展示了对复杂环境变化的鲁棒性。
跨具身： 在将策略从 Panda 机器人迁移到 UR5e 机器人时，DART 将成功率从 37.2% (Zero-shot) 提高到了 45.4%，并将进度率 (progress rate) 提高到了 73.8%，优于 One-shot Fine-tuning 和 Zero-shot 基线。
真实世界： 在具有新视角的 UR10e 机器人上，DART 仅使用单个演示进行适配，在五项任务（包括精细操作）中实现了 81.7% 的平均成功率，显著优于所有基线。
向量合并： 作者展示了来自不同目标领域的领域向量可以被合并成一个单一向量，从而允许单个模型同时适配多个环境。

重要性与主张

本文声称 DART 为 VLA 模型的部署瓶颈提供了一种数据高效的解决方案。通过利用权重更新的结构特性，DART 实现了单样本适配，在将模型迁移到新环境的同时，保留了基础模型的多任务能力。

作者强调，与以往需要大量数据或架构修改的方法不同，DART 是：

架构无关的： 适用于不同的 VLA 后端。
超参数鲁棒的： 在广泛的缩放系数 ( $\alpha$ ) 范围内表现稳定。
可组合的： 领域向量可以被合并，以处理多个偏移。

这项工作表明，适配所需的“领域知识”可以从单个演示中隐式学习，并且可以通过数学手段进行隔离，这为在多样化、非结构化的现实世界中部署通用机器人提供了一条切实可行的路径。