💻 computer science

MaskAdapt: Learning Flexible Motion Adaptation via Mask-Invariant Prior for Physics-Based Characters

MaskAdapt 提出了一种基于掩码不变先验的两阶段残差学习框架，通过训练对遮挡鲁棒的基策略并叠加残差策略，实现了物理驱动人形角色在运动组合及文本驱动局部目标跟踪等场景下的高效灵活运动适应。

原作者： Soomin Park, Eunseong Lee, Kwang Bin Lee, Sung-Hee Lee

发布于 2026-04-01

📖 1 分钟阅读☕ 轻松阅读

原作者： Soomin Park, Eunseong Lee, Kwang Bin Lee, Sung-Hee Lee

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇文章介绍了一个名为 MaskAdapt 的新系统，它的核心目标是让物理模拟的虚拟角色（比如游戏里的机器人或动画人物）变得更聪明、更灵活。

想象一下，你正在教一个刚学会走路的机器人跳舞。以前的方法要么让它从头学起（太慢），要么只允许它做固定的动作（太死板）。MaskAdapt 则像是一位**“超级教练”**，它能让机器人保留原本走路的本能，同时灵活地学会用特定的身体部位做新动作（比如一边走路一边挥手，或者一边跑步一边踢腿）。

为了让你更容易理解，我们可以把这个系统比作**“一位经验丰富的老厨师（基础策略）”和一位“灵活的配菜学徒（残差策略）”之间的配合**。

1. 核心挑战：如何“既会走路，又能随时变招”？

在物理模拟中，让角色动起来很难。如果让机器人完全重新学习一个新动作，它可能会忘记怎么走路，甚至摔跟头（这叫“灾难性遗忘”）。
以前的方法通常是：

方法 A：给机器人加个“外挂”模块，让它学新东西。但这往往不够灵活，或者一旦环境变了，机器人就晕头转向。
方法 B：让机器人只改一部分身体。但如果它没预料到要改这部分，它可能会因为“突然少了一只眼睛看路”而动作变形。

2. MaskAdapt 的解决方案：两阶段“特训”

MaskAdapt 采用了一个**“先练内功，再练招式”**的两阶段策略：

第一阶段：练就“盲眼也能走”的超级本能（Mask-Invariant Prior）

比喻：想象老厨师在练习切菜。平时他眼睛是睁开的，但教练故意时不时蒙住他的眼睛（这就是“掩码 Masking"），或者遮住他的一只手。
做法：在训练时，系统会随机“遮住”机器人身体的某些部位（比如遮住腿，或者遮住手臂），强迫它只用剩下的部分来维持平衡和动作。
关键创新：系统还加了一个**“一致性惩罚”**。如果蒙住眼睛时它切菜歪了，没蒙住时切得直，它就会受到“惩罚”。这迫使它学会：不管眼睛被遮住哪部分，我的动作核心逻辑必须保持一致。
结果：机器人练就了一种**“万能基础”。即使以后它的腿被“蒙住”了（或者需要被修改），它依然能稳稳地站着，不会乱套。这就叫“掩码不变性”**。

第二阶段：灵活的“配菜学徒”（Residual Policy）

比喻：现在老厨师（基础策略）已经稳如泰山了。这时候，来了一个灵活的学徒（残差策略）。
做法：学徒的任务很简单——只负责修改特定的部位。
- 如果老板说：“把左手改成挥手”，学徒就只调整左手的动作，老厨师继续负责走路和保持平衡。
- 如果老板说：“把右手改成踢腿”，学徒就只动右手。
优势：因为老厨师的基础太稳了，学徒可以大胆地只改局部，而不用担心整个机器人会散架。

3. 这个系统能做什么？（两大绝活）

论文展示了两个非常酷的应用场景：

绝活一：动态动作拼接（Motion Composition）

场景：就像玩积木。
例子：机器人原本在走路。
- 你给它一个指令：“把腿遮住，改成踢腿”。于是它一边走路，一边交替踢腿。
- 然后你换个指令：“把腿解开，遮住上半身，改成挥手”。于是它继续踢腿，但上半身开始挥手。
亮点：以前很难让机器人同时做这么多复杂的、动态切换的动作，但 MaskAdapt 可以像变魔术一样，随时切换身体不同部位的动作，而且过渡非常自然。

绝活二：文字驱动的局部控制（Text-Driven Partial Tracking）

场景：就像给机器人发微信指令。
例子：机器人正在走路。你输入文字：“挥手打招呼”。
- 系统会自动生成一个“挥手”的动作轨迹，并只让机器人的手臂去执行这个轨迹。
- 机器人的腿依然稳稳地走路，不会变成“边跑边挥手”那种滑稽的样子。
亮点：它不需要你手动去调每一个关节，只需要用自然语言告诉它“哪里”要动，“怎么”动，它就能精准执行。

4. 为什么它比以前的方法好？

以前的方法：就像让一个只会走路的机器人突然去学跳舞，它可能会因为重心不稳而摔倒，或者动作僵硬。
MaskAdapt：就像给机器人穿了一件**“防摔护甲”**（第一阶段训练出的稳健基础）。无论你怎么折腾它的局部（蒙眼、改动作），它都能稳稳地站住，只把你想改的地方改好。

总结

MaskAdapt 就像是一个**“懂变通的老司机”**。

它先通过“蒙眼训练”，学会了无论路况如何（身体哪部分被遮挡），都能保持车辆平稳行驶（基础策略）。
然后，它允许乘客（用户）随时指挥：“把左转向灯打开”、“把收音机声音调大”（残差策略）。
结果是：车（机器人）既开得稳，又能灵活响应各种复杂的指令，还能根据文字描述做出精准的动作。

这项技术让未来的虚拟角色、游戏 NPC 甚至机器人，能更自然、更智能地与人互动，不再只是机械地重复固定的动作。

1. 研究背景与问题 (Problem)

在基于物理的人形角色控制（Physics-Based Humanoid Control）领域，如何让预训练的角色控制器具备灵活的运动适应能力（Flexible Motion Adaptation）是一个长期挑战。现有的基于残差学习（Residual Learning）的方法虽然能够扩展技能，但存在两个主要局限性：

基策略对状态分布偏移的敏感性：传统的基策略（Base Policy）是在完整观测下训练的。当残差策略开始修改特定身体部位时，输入状态会发生显著变化（分布偏移），导致冻结的基策略产生不稳定的动作，破坏整体运动的协调性。
适应灵活性与语义控制的不足：现有的运动组合方法通常局限于固定的身体区域，或者缺乏将语义指令（如文本）与局部运动控制相结合的有效机制。

核心问题：如何训练一个鲁棒的基策略，使其在部分观测（即某些身体部位被“遮挡”或需要修改）下仍能保持稳定的运动先验，从而支持灵活的局部运动适应和语义驱动的控制？

2. 方法论 (Methodology)

作者提出了 MaskAdapt 框架，采用两阶段残差学习范式，核心在于引入“掩码不变性（Mask-Invariant）”先验。

第一阶段：训练掩码不变的基策略 (Mask-Invariant Base Policy)

目标是学习一个在部分观测下依然稳健的运动先验。

随机身体部位掩码 (Stochastic Body-Part Masking)：在训练过程中，随机遮挡（Mask）状态输入中的特定身体部位关节信息。策略接收的是被遮挡的状态 $\bar{s}_t$ 和掩码 $m_t$ 。
掩码不变性正则化 (Mask-Invariant Regularization, MI Loss)：
- 为了确保策略在不同掩码条件下行为一致，引入了 KL 散度损失函数。
- 强制策略在“完整观测”下的动作分布 $\pi(\cdot|s, m^0)$ 与在“部分观测”下的动作分布 $\pi(\cdot|\bar{s}, m)$ 保持一致。
- 目的：迫使策略学会利用可见的观测信息来推断被遮挡部分的行为，从而在后续残差学习修改这些部位时，基策略不会崩溃。
训练目标：结合 PPO 目标函数与 MI Loss ( $L = L_{PPO} + \lambda_{MI} L_{MI}$ )。训练完成后，基策略 $\pi$ 被冻结。

第二阶段：残差策略训练 (Residual Policy Training)

在冻结的基策略之上训练残差策略 $\psi$ ，仅修改目标部位，保持其他部位不变。

动作合成：最终动作 $\hat{a}_t = w_{gain} \cdot \pi(\bar{s}_t, m_t) + \psi(\Delta a_t | s_t, a_t, m_t)$ 。
条件判别器：使用基于掩码 $m$ 的条件判别器 $D^\psi(s, s' | m)$ ，确保在特定掩码配置下生成的运动是真实的。

两大应用场景

动态运动组合 (Dynamic Motion Composition)：
- 用户通过动态变化的掩码指定需要修改的身体部位。
- 残差策略根据掩码信息，将新的运动（如踢腿、挥臂）叠加到基运动（如行走、跳跃）上，实现多部位、序列化的灵活组合。
文本驱动的局部运动跟踪 (Text-Driven Partial Motion Tracking)：
- 利用预训练的自回归扩散模型（如 DART）作为运动生成器 $G$ 。
- 输入文本指令 $c$ 和历史运动，生成未来轨迹。
- 从轨迹中提取指定身体部位（如手臂）的局部运动目标，引导残差策略进行跟踪，而基策略保持底层运动（如行走）不变。

3. 关键贡献 (Key Contributions)

掩码不变性先验 (Mask-Invariant Prior)：提出了一种新的训练范式，通过随机掩码和一致性正则化，使基策略在部分观测下保持鲁棒，解决了传统残差方法中基策略因状态分布偏移而不稳定的问题。
灵活的局部适应机制：打破了以往方法对固定适应区域的限制，支持动态变化的掩码，允许在单序列中对不同身体部位进行按需适应。
文本驱动的物理控制：首次将文本条件生成的运动轨迹与基于物理的残差控制无缝集成，实现了语义指导下的局部运动编辑，同时保持物理合理性。
性能提升：在运动组合和局部跟踪任务中，相比现有的 SOTA 方法（如 CML, AdaptNet, MaskedMimic），在保持基运动稳定性的同时，显著提高了适应区域的跟踪精度和多样性。

4. 实验结果 (Results)

实验在 IsaacGym 仿真环境及 Unitree G1 真机上进行了验证。

基策略鲁棒性 (Base Policy Robustness)：
- 使用归一化香农熵 ( $H_{norm}$ ) 衡量运动多样性。
- 无 MI Loss 时，掩码导致熵值大幅下降（0.7448），运动陷入死循环。
- 加入 MI Loss 后，熵值恢复至 0.9025，接近无掩码基线（0.9124），证明策略在部分观测下仍能生成多样化的运动。
运动组合 (Motion Composition)：
- 在“跳跃 + 交替踢腿”、“行走 + 旋转手臂”等任务中，MaskAdapt 在保留基运动和适应新运动两方面均优于 CML。
- 定性分析显示，MaskAdapt 能实现平滑的过渡和更自然的肢体协调，而 CML 常出现动作延迟或执行不完整。
目标驱动任务 (Goal-Driven Tasks)：
- 在“击打（Strike）”任务中，MaskAdapt 的成功率（64.2%）显著高于 CML（46.5%）和 AdaptNet（1.0%），证明其能更有效地学习新的肢体动作（如用手腕击打）。
文本驱动局部跟踪 (Text-Driven Tracking)：
- 相比从头训练（From-Scratch）和 CML，MaskAdapt 在手臂运动跟踪误差（Tracking Error）上最低（0.0423m vs 0.0699m），且能完美保持底层行走姿态，未出现步态崩溃。
真机验证：在 Unitree G1 机器人上成功演示了行走中叠加拳击动作，验证了方法的物理可行性。

5. 意义与影响 (Significance)

理论价值：提出了“掩码不变性”作为构建鲁棒物理控制先验的新思路，为处理状态分布偏移和局部适应问题提供了新的理论框架。
应用价值：
- 游戏与动画：允许角色在保持基础动作（如行走、奔跑）的同时，根据剧情或玩家输入灵活地执行局部动作（如挥手、踢腿、躲避），无需重新训练整个策略。
- 机器人控制：为具身智能体提供了在复杂动态环境中进行局部技能调整的能力，特别是在需要结合高层语义指令（文本）进行精细操作时。
局限性：当冲突的运动被分配给紧密相关的身体部位（如一条腿踢腿，另一条腿跳跃）时，方法可能会失效，因为某些动作本质上需要多部位的高度协调。

总结：MaskAdapt 通过引入掩码不变性先验，成功解决了物理角色控制中“稳定性”与“灵活性”的矛盾，实现了从固定技能到灵活、语义驱动的运动适应的跨越。