🤖 AI

EWAM: An Enhanced World Action Model for Closed-Loop Online Adaptation in Embodied Intelligence

本文介绍了 EWAM，这是一个闭环在线自适应框架，通过集成用于经验记忆、异常检测、策略路由和动作修正的四个可微神经层，增强了冻结的 Cosmos3 骨干网络，从而实现零样本具身智能，进而使其能够在无需额外演示或微调的情况下，实现对新任务布局的鲁棒自适应。

原作者： Xin Zhou, Cong Miao

发布于 2026-06-12

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Xin Zhou, Cong Miao

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有一个非常聪明的机器人厨师，名叫 Cosmos。Cosmos 阅读了数百万本食谱，并观看过无数个烹饪视频。它完全知道如何切菜、搅拌和摆盘。然而，当你把 Cosmos 置于一个布局略有不同的真实厨房，或者遇到一个滑溜溜的香蕉时，它有时会绊到自己的脚，或者抓向空气，以为自己正拿着香蕉，亦或是撞到柜台。

问题在于，Cosmos 就像一个只背下了教科书却从未在凌乱的厨房里实际下过厨的学生。它不知道在现实情况发生变化时该如何应对。

EWAM（增强世界动作模型）就像是给 Cosmos 配了一位聪明且经验丰富的副厨，这位副厨就站在它身边观察，并不断通过耳语进行纠正。

以下是这个“副厨”系统的运作方式，分为几个简单的部分：

1. 被冻结的大脑（骨干网络）

论文保留了 Cosmos 原有的“大脑”不动。他们并没有尝试从头开始重新教导 Cosmos，因为那样太慢了，而且可能会让它忘记已经掌握的知识。相反，他们保持主脑不变，并在其周围添加了四个新的“工具”。

2. 四个新工具（四个层级）

可以将这四个工具看作是帮助机器人的专业团队：

记忆手册（神经经验记忆层）：
- 作用： 当机器人面临一项新任务（比如把香蕉放进碗里）时，它不会从零开始。它会快速翻阅一本“记忆手册”，寻找以前见过的类似场景。
- 类比： 这就像一位厨师在说：“噢，我以前见过这个滑溜溜的香蕉！上次我必须轻轻地拿住它。”它利用过去的经验来指导当前的动作。
监视器（神经异常检测层）：
- 作用： 这一层不断检查：“我看到的和我预期的匹配吗？”如果机器人认为自己抓住了香蕉，但传感器显示没有重量，或者它快要撞到墙了，监视器就会大喊“停！”
- 类比： 这就像一名安全检查员，能在你爬梯子之前发现梯子摇晃。它能捕捉到“幻觉”（以为抓住了东西其实没抓到）以及碰撞事故。
交通警察（神经策略路由层）：
- 作用： 根据监视器的观察，交通警察决定下一步该做什么。
  - 绿灯： 一切看起来都很顺利？继续前进！
  - 黄灯： 有点不对劲？减速并仔细重新计算路径。
  - 红灯： 灾难正在发生？按下“撤销”键，回到上一个安全位置。
- 类比： 它是决策者，决定是直行、绕道，还是退回到安全的停车位。
修理包（神经动作修正层）：
- 作用： 如果机器人即将犯错，这一层会在错误发生之前微调机器人的手部动作。它会使动作变得平滑，这样机器人就不会压碎柔软的水果或错过碗。
- 类比： 这就像一位舞蹈教练，轻轻引导你的手臂，以免你在旋转时绊倒自己的脚。

3. “质量门控”（过滤机制）

这个系统非常挑剔。如果机器人尝试某项操作并失败了（比如掉落了香蕉），系统不会将这次失败记录在记忆手册中。它只保存那些成功且安全的尝试。

为什么？ 想象一下，如果你只通过观看人们车祸现场的视频来学习开车，你会学到错误的方式！EWAM 只向“优秀的驾驶”学习，确保机器人在不会产生困惑的情况下变得更聪明。

4. 结果：更快、更安全

论文在名为“RoboLab”的模拟器上测试了这些任务，例如把香蕉放入碗中或堆叠积木。

速度： 使用 EWAM 的机器人完成香蕉任务仅需 9 秒，而没有使用 EWAM 的机器人则需要 25 秒。
错误： 没有 EWAM 的机器人在每次尝试中会撞到物体或错过香蕉 13.5 次。配备 EWAM 的机器人仅犯了 2.2 次错误。
成功率： 两款机器人最终都达到了 100% 的成功率，但 EWAM 完成得更快，且碰撞次数极少。

核心总结

EWAM 并不是在教机器人一种新的语言；它是通过赋予它一个安全网和记忆力，使其能够瞬间适应混乱的现实环境。它将一个功能强大的预训练机器人，增加了一层“常识”层，帮助它避免碰撞、从滑动中恢复，并高效地完成任务。

重要提示： 论文指出这些结果是在计算机模拟（RoboLab）中得出的。他们尚未在真实的物理机器人或真实的厨房中进行测试，因此我们目前还不知道它在电脑之外的表现如何。

技术摘要：EWAM —— 一种用于闭环在线自适应的增强型世界动作模型

1. 问题陈述

机器人部署在开放环境中的现状受到高昂成本的阻碍，因为收集能够覆盖多样化物体姿态、场景布局和执行权变情况的演示数据非常困难。虽然世界动作模型（World Action Models, WAMs）成功地将未来状态预测与动作生成耦合在一起，但静态的离线流水线在面对执行层面的失配时仍然显得脆弱。这些失配包括物理碰撞、空抓以及感知诱导的幻觉（即高置信度的视觉预测未能与物理现实对齐）。此外，一旦部署，静态 WAM 在如何高效地将成功的局部经验转化为未来的优势方面存在困难，同时又必须避免通过未经过滤的在线学习导致策略退化。

核心挑战在于：如何在零样本协议（即不为目标任务收集新的演示数据）下，在保持预训练基础模型通用能力的同时，提高接触密集型机器人任务的执行质量和适应性。

2. 方法论：EWAM 架构

提出的**增强型世界动作模型（EWAM）**是一种基于冻结的 Cosmos3-Nano-Policy-DROID 主干构建的闭环在线自适应架构。EWAM 并非重新训练整个基础模型，而是在推理路径中插入四个可训练的神经层，以实现记忆检索、异常检测、策略路由和动作修正。

2.1 核心组件

该架构通过以下插入层修改了 Cosmos3-Nano-Policy-DROID 主干（包含视觉-语言编码器、自回归推理器和扩散 Transformer）的标准前向传播过程：

神经经验记忆层（Neural Experience Memory Layer）： 插入在扩散 Transformer（DiT）的中间层（ $l_{mem}=6$ ）。它从记忆数据库（ $M$ ）中检索任务相关的执行上下文，并将其注入 DiT 的隐藏表示中。这使得扩散过程能够基于当前上下文和历史经验进行调节，而无需修改主干权重。
神经异常检测层（Neural Anomaly Detection Layer）： 位于状态预测头之后，该层监测预测状态与实际状态之间的偏差。它计算一个包含以下指标的异常向量（ $\iota_t$ $ι_{t}$ ）：
- 预测与实现的不匹配（残差）。
- 碰撞风险。
- 空抓概率。
- 感知幻觉。
- 力违规。
神经策略路由层（Neural Policy Routing Layer）： 根据异常向量和记忆上下文选择执行策略：
- 直接执行： 若异常低于阈值，则继续执行。
- 保守重规划： 若检测到轻微异常，则触发动作修正。
- 回滚恢复： 若发生严重异常，则从记忆中恢复到稳定状态。
神经动作修正层（Neural Action Correction Layer）： 根据路由决策和异常信号优化原始动作输出（ $a^0_{t:t+H}$ ）。它在去噪阶段进行修正，以确保执行的安全与高效，或在回滚期间从记忆中检索保守动作。

2.2 闭环在线学习

EWAM 作为一个闭环循环运行，其执行结果由**质量门控（Quality Gate）**进行评估。

经验过滤： 只有满足严格安全和效率标准（例如：低夹持力、短路径长度、高任务得分）的轨迹才会被允许进入经验记忆（ $M$ ）。低质量样本会被记录用于诊断，但不会被纳入记忆更新，以防止“灾难性遗忘”或错误行为的累积。
自适应策略： 系统采用“记忆优先，适配器第二”的方法。即时自适应依赖于记忆检索。参数更新仅间歇性地应用于轻量级的插入层和适配器，使预训练的 Cosmos3-Nano-Policy-DROID 主干保持冻结状态。

3. 主要贡献

本文声称了三个主要贡献：

架构： 将 EWAM 形式化为一种基于 Cosmos3-Nano-Policy-DROID 的架构，其特点是拥有四个插入层（记忆、异常、路由、修正），这些层构成了一个具有可训练微分模块和受监督离散路由的闭环推理路径。
安全机制： 引入了分支感知型的经验过滤和回滚设计，防止不安全或低价值的轨迹污染记忆数据库和在线更新。
实证验证： 在 RoboLab 零样本操纵任务上的仿真结果表明，在保持冻结主干的同时，提高了执行质量（效率和故障减少）。

4. 实验结果

实验在 RoboLab 仿真环境中针对三个零样本操纵任务进行：BananaInBowlTask（香蕉入碗任务）、BananasInBinOneMoreTask（香蕉入筐再加一个任务）和 BlockStackingOrderAgnosticTask（堆叠块顺序无关任务）。

4.1 BananaInBowlTask 性能表现

在主要的局部测试中，EWAM 实现了 100% 的成功率，与基准模型 Cosmos3-Nano-Policy-DROID 持平。然而，它在效率和鲁棒性方面显著优于基准模型：

任务完成时间： 从 25.60s 降至 9.27s（减少了 63.8%）。
路径长度： 从 1.81m 降至 0.83m（减少了 54.1%）。
执行故障： 每回合从 13.5 次减少到 2.2 次（减少了 83.7%）。
- 碰撞减少了 90.6%。
- 空抓减少了 92.9%。

4.2 多任务泛化能力

在更复杂的 BlockStackingOrderAgnosticTask 任务中，EWAM 将成功率从 87.2%（基准）提升至 94.4%，同时减少了任务时间和路径长度。

4.3 消融实验

消融研究证实了各组件的必要性：

自我学习： 移除在线经验累积会导致性能大幅下降（任务时间从 9.27s 增加到 46.53s）。
记忆 vs. 更新： “仅记忆”（有检索无参数更新）变体比“仅更新”（有参数更新无检索）变体表现优出 13.6%，验证了“记忆优先”策略的有效性。
错误修正： 移除此层会导致任务时间增加 96.1%，凸显了其在处理碰撞和空抓方面的作用。

4.4 计算开销

四个神经层引入了额外的 10.2ms 延迟（+15.4%）和 130MB GPU 显存（+7.7%）。总推理时间为 76.4ms，作者指出这高于严格的 20Hz 控制频率预算，表明目前的实现最适合用于块级（chunk-level）重规划或异步推理。

5. 重要性与局限性

重要性：
本文认为 EWAM 提供了一种实用的架构，用于提高任务泛化能力并减轻收集新部署数据的压力。通过将经验记忆、实时错误修正和回滚恢复融合进冻结的 WAM 推理路径中，该方法即使在成功率已经饱和的情况下，也能提高执行效率和安全性。它证明了闭环融合可以在不损害预训练基础模型通用能力的前提下，产生实质性的质量提升。

局限性（如作者所述）：

仅限于仿真： 所有结果均来自 RoboLab 仿真；尚未建立 Sim-to-Real（仿真到现实）的迁移路径。
任务范围： 评估仅限于一小组容器操纵和堆叠任务。复杂的长程任务、动态干扰以及不受限的开放世界执行仍未得到验证。
架构特定性： 这些模块是专门为 Cosmos3-Nano-Policy-DROID 主干设计的。
回滚实现： 回滚恢复是通过仿真检查点进行验证的；实际机器人的阻抗恢复原语尚未得到验证。
数据约束： 经验过滤阈值是针对 RoboLab 配置的特定场景，可能并不具有普适性。

作者总结道，虽然 EWAM 阐明了在线经验应如何被纳入以进行自适应，但它仍然依赖于预训练的离线初始化，并且尚未解决不受限开放世界机器人执行的挑战。