💻 computer science

Ada3Drift: Adaptive Training-Time Drifting for One-Step 3D Visuomotor Robotic Manipulation

本文提出了 Ada3Drift 方法，通过将迭代细化过程从推理阶段转移至训练阶段，利用自适应漂移场和少样本调度策略，实现了仅需单次函数评估即可从 3D 点云生成高保真多模态动作的机器人视觉控制策略，在显著降低推理延迟的同时保持了优于现有单步生成方法的性能。

原作者： Chongyang Xu, Yixian Zou, Ziliang Feng, Fanman Meng, Shuaicheng Liu

发布于 2026-03-13

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Chongyang Xu, Yixian Zou, Ziliang Feng, Fanman Meng, Shuaicheng Liu

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一种名为 Ada3Drift 的新方法，旨在解决机器人“手眼协调”学习中的一个核心矛盾：既要反应快（像赛车手），又要动作准（像外科医生）。

为了让你轻松理解，我们可以把机器人学习做任务的过程，想象成教一个新手厨师做菜。

1. 核心难题：快与准的矛盾

在机器人领域，传统的“扩散模型”（Diffusion Policy）就像一位慢工出细活的老师傅。

优点：它能完美掌握多种做菜方法。比如，要绕过障碍物拿杯子，它可以同时学会“从左边拿”和“从右边拿”两种策略，并且知道什么时候该用哪种。
缺点：它太慢了。每次做动作前，它都要在脑子里反复推演几十次（就像老师傅反复试味、调整火候），才能把菜端出来。这对需要实时反应的机器人来说，就像让赛车手在起跑线上反复思考怎么踩油门，根本来不及。

最近出现了一些“速成班”方法（如 Flow Matching），它们像快餐厨师：

优点：速度极快，看一眼食材（3D 点云），马上就能端出一盘菜（生成动作），只需一步。
缺点：因为求快，它们学会了“折中”。如果老师傅教了“左手拿”和“右手拿”两种方法，快餐厨师为了省事，会直接生成一个“左手和右手同时伸出去”的奇怪动作。结果就是：机器人直接撞到了障碍物上，或者把杯子打翻了。

这就是论文要解决的问题：如何既保留老师傅的“多策略智慧”，又拥有快餐厨师的“极速反应”？

2. 核心创意：把“试错”从“考试”搬到了“平时练习”

作者发现了一个机器人世界的“不对称优势”：

训练时（平时练习）：机器人可以在强大的电脑里没日没夜地练，时间随便花，没有限制。
推理时（正式考试/干活）：机器人必须要在毫秒级内做出反应，不能卡顿。

以前的方法把“反复推演”放在了“考试”时（推理阶段），导致考试太慢。
Ada3Drift 的绝招是：把“反复推演”全部挪到“平时练习”时完成！

想象一下：

传统方法：考试时，学生还在草稿纸上反复计算（慢）。
Ada3Drift：平时练习时，老师就带着学生把各种可能的解题思路（多模态）都演练得滚瓜烂熟，甚至专门训练学生避开那些错误的“平均解”。等到考试时，学生只需要凭直觉（一步）就能写出完美答案。

3. 它是如何做到的？（三个魔法道具）

为了让这个“平时练习”更有效，Ada3Drift 用了三个巧妙的技巧：

A. “引力与斥力”场（Drifting Field）

想象机器人生成的动作是一个在操场上乱跑的学生。

引力：当学生跑向“专家示范”的正确路线（比如从左边拿杯子）时，有一个隐形的磁铁把他吸过去，让他更靠近正确答案。
斥力：当学生跑向“错误的平均路线”（比如手伸到中间撞墙）或者跑向其他错误的样本时，有一个隐形的弹簧把他弹开。
效果：通过这种推拉，机器人学会了清晰地分辨“左边拿”和“右边拿”是两个完全不同的动作，而不是混在一起变成“撞墙”。

B. “多温度”视角（Multi-scale Aggregation）

机器人的任务千奇百怪。

有的任务像穿针引线，动作差异只有几毫米（需要极细的视角）。
有的任务像搬大箱子，动作差异很大（需要宽泛的视角）。
Ada3Drift 就像戴了多副眼镜，同时用“高倍镜”和“广角镜”去观察动作分布，确保不管任务多难，都能看清所有的动作模式。

C. “循序渐进”的课程表（Sigmoid-scheduled Loss）

刚开始练习时，机器人脑子一片空白，如果直接让它去“区分左右”，它会晕头转向。

前期：先让它学个大概（用简单的误差损失），先把动作的轮廓画出来。
后期：等它稍微有点样子了，再启动“引力斥力”机制，把动作打磨得精准无比。
这就像教小孩写字，先练笔画，再练结构，最后练神韵，不能一上来就要求完美。

4. 成果如何？

论文在三个模拟环境（Adroit, Meta-World, RoboTwin）和真实的机器人手臂上做了测试：

速度：它只需要1 步就能生成动作，比传统扩散模型快了10 倍，完全满足机器人实时控制的需求（就像从“慢动作回放”变成了“直播”）。
精度：在需要精细操作的任务中（比如把杯子放在杯垫上，或者把积木叠起来），它的成功率最高。
真实世界表现：在真实的物理机器人上，它的平均成功率达到了 79%，远超其他快速方法。它生成的动作流畅、果断，再也没有那种“犹豫不决、左右摇摆”的撞墙动作了。

总结

Ada3Drift 就像是一位天才教练。它不再让机器人在比赛时（推理时）临时抱佛脚、反复计算，而是利用训练时的无限时间，通过巧妙的“推拉”训练，让机器人把各种复杂的动作策略都刻在肌肉记忆里。

结果就是：机器人既拥有了闪电般的反应速度，又保留了大师级的多策略决策能力，真正实现了“快、准、稳”的机器人操作。

Ada3Drift 技术总结

1. 研究背景与核心问题

背景：
基于扩散模型（Diffusion Models）的视觉运动策略（Visuomotor Policy）在机器人学习中表现出色，能够有效捕捉专家演示中的多模态动作分布。然而，扩散模型通常需要通过迭代去噪（Iterative Denoising）生成动作，导致推理延迟高（通常需要 10-100 次函数评估，NFE），难以满足机器人实时控制（10-50 Hz）的需求。

核心问题：
为了降低延迟，近期基于流匹配（Flow Matching）和一致性模型（Consistency Models）的单步生成方法（1 NFE）应运而生。但这些方法存在一个致命缺陷：多模态坍塌（Mode Averaging）。

图像生成 vs. 机器人控制： 在图像生成中，多模态平均仅导致图像模糊；但在机器人控制中，将两个有效的策略（例如“从左侧绕过障碍物”和“从右侧绕过”）平均，会产生一条直接撞向障碍物的物理不可行轨迹。
计算预算不对称性： 机器人系统具有“离线训练（无延迟限制）”与“在线推理（严格实时限制）”的计算预算不对称性。现有的单步方法完全放弃了迭代细化，而扩散模型将迭代放在推理阶段，导致效率低下。

目标：
如何在保持单步生成（1 NFE）高效性的同时，恢复多模态 fidelity（保真度），避免动作坍塌，实现实时的 3D 机器人操作。

2. 方法论：Ada3Drift

作者提出了 Ada3Drift（Adaptive 3D Training-Time Drifting），其核心思想是将迭代细化过程从推理阶段转移到训练阶段。

2.1 核心机制：训练时漂移场（Training-Time Drifting Field）

原理： 在训练过程中，引入一个漂移场 $V(\hat{x})$ ，引导模型预测的动作分布向专家演示的模态（Modes）靠近，同时排斥其他生成的样本。
作用：
- 吸引（Attract）： 将预测动作拉向最近的专家演示模态。
- 排斥（Repel）： 将预测动作推离其他生成的样本，以保持模态的多样性。
结果： 模型在训练阶段完成所有复杂的模态分离工作，推理时只需一次前向传播即可生成高保真的单步动作。

2.2 针对机器人少样本场景的自适应设计

由于机器人任务通常只有少量演示（Few-shot, 10-50 条），且动作分布几何结构多变，Ada3Drift 引入了三个关键设计：

多尺度场聚合（Multi-scale Field Aggregation）：
- 不同任务的动作模态空间尺度不同（如抓取角度差异微小 vs. 双臂协作差异巨大）。
- 方法：在多个温度参数 $\tau \in \{0.02, 0.05, 0.2\}$ 下计算漂移场，并进行加权聚合。这使得模型能同时捕捉紧密的局部模态和广泛的宏观结构，无需针对每个任务调整超参数。
Sigmoid 调度损失过渡（Sigmoid-scheduled Loss Transition）：
- 挑战： 在少样本训练初期，模型预测距离真实数据模态太远，直接应用漂移场会导致梯度混乱。
- 策略： 采用两阶段训练策略。
  - 早期（前 70%）： 以 MSE 损失为主，学习动作分布的粗略结构。
  - 后期（后 30%）： 通过 Sigmoid 函数逐渐增加漂移损失（Drift Loss）的权重，进行模态锐化（Mode Sharpening）。
- 效果： 避免了早期训练的不稳定，确保在模型具备基础能力后再进行精细的模态分离。
无时间步架构（Timestep-free Architecture）：
- 由于推理时不再需要去噪过程，移除了扩散模型中必需的“时间步嵌入（Timestep Embedding）”。
- 架构简化为一个 1D U-Net，直接映射高斯噪声到动作轨迹，降低了计算复杂度。

2.3 输入与输出

输入： 机器人本体状态（关节角、末端位姿等） + 3D 点云观测（Point Cloud）。
输出： 单步生成的未来动作序列（Horizon H=16），采用滚动时域（Receding-Horizon）执行。

3. 主要贡献

理论洞察： 首次明确指出在机器人动作空间中，多模态平均不仅是质量问题，更是安全性问题。提出了利用“计算预算不对称性”将迭代细化移至训练时间的范式。
算法创新： 提出了 Ada3Drift，结合了训练时漂移场、多尺度聚合和自适应损失调度，专门针对机器人少样本、多任务场景进行了优化。
性能突破： 在保持单步生成（1 NFE）的同时，实现了与多步扩散模型（10-100 NFE）相当甚至更优的性能，推理速度提升 10 倍。

4. 实验结果

实验在三个仿真基准（Adroit, Meta-World, RoboTwin）和真实世界机器人（Agilx Cobot Magic）上进行。

4.1 仿真基准表现

Adroit & Meta-World： Ada3Drift 在单步方法中取得了最高的平均成功率（78.9%），优于 FlowPolicy (77.0%) 和 MP1 (78.6%)。
对比多步模型： 在 Adroit 和 Meta-World 上，Ada3Drift 的表现匹配甚至超过了需要 10 次 NFE 的 DP3 模型（多步扩散），但推理成本降低了 10 倍。
RoboTwin（3D 感知）： 在需要精确 3D 空间推理的任务中，Ada3Drift 平均成功率为 71.2%，显著优于 DP3 (62.5%) 和 FlowPolicy (58.4%)。特别是在“放置杯子”和“堆叠碗”等任务上优势明显。

4.2 真实世界部署

任务： 在物理机器人上执行 5 个操作任务（如放置杯子、堆叠积木、推抽屉等），每个任务仅用 20 条专家演示训练。
结果： Ada3Drift 平均成功率达到 79%，显著优于 DP3 (68%)、FlowPolicy (57%) 和 MP1 (69%)。
定性分析： 真实世界视频中，基线方法（FlowPolicy/MP1）常出现犹豫、抖动或动作模糊（模态平均特征），而 Ada3Drift 生成的轨迹平滑、果断，能准确执行精细操作。

4.3 推理速度

Adroit 任务： Ada3Drift 推理速度达到 233.9 Hz (4.3ms/step)，相比 DP3 (18.7 Hz) 提升了 12.5 倍，完全满足实时控制需求。

5. 意义与总结

Ada3Drift 解决了机器人学习中“效率”与“多模态保真度”之间的长期矛盾。

安全性提升： 通过避免多模态平均，消除了机器人因动作模糊而导致的碰撞风险。
实时性突破： 证明了通过训练时优化，可以在推理阶段实现真正的单步生成，使基于扩散策略的机器人系统能够部署在高频控制回路中。
少样本适应性： 其自适应机制（Sigmoid 调度、多尺度聚合）使其在仅有少量专家演示的机器人任务中依然表现优异，具有很强的实用价值。

该工作为未来高效、安全、实时的具身智能（Embodied AI）控制策略设计提供了新的范式。