技术摘要：ManiGuard

问题陈述

用于机器人操控的基础模型策略在任务成功率和跨多样化场景及具身形态的泛化能力方面展现了快速进展。然而，对于这些系统是否能够“安全”地成功进行严谨评估的研究仍然匮乏。现有的基准测试主要衡量任务完成情况，或依赖学习型分类器和大型语言模型（LLM）来判断安全性，而这些方法往往无法捕捉到具有接触密集型（contact-rich）特征的轨迹级物理危害。此外，目前的安全性评估往往将任务成功与安全性混为一谈，未能识别出策略可以在完成任务的同时违反安全性约束（例如：倾洒、翻倒或碰撞），或者仅仅因为保持静止而显得安全。本文认为，在常态化的开放世界场景中，物理安全性失败需要一种基于物理学原理且由规范驱动的评估方式，这种评估应与任务成功性正交。

方法论

作者引入了 ManiGuard，这是一个由规范驱动的框架，包含一个基准测试套件（ManiGuard-Bench）和一个配对的数据生成流水线。

1. ManiGuard-Bench

• 任务设计： 该基准测试将 200 个锁定基础任务组织在六个接触密集型家用操控家族中（杂乱 Clutter、橱柜 Cabinet、盖子 Lid、堆叠 Stack、罐子 Jar、灰尘 Dusty）。这些任务根据技能 × 约束分类法进行构建，结合了三种技能水平（拾取与放置、关节物体交互、长程交互）和两种形式化约束类别（空间不变性和时间顺序性）。
• 安全性正交性： 至关重要的是，安全性是独立于任务成功进行指定的。一个策略可以是不安全地成功、安全地失败，或者同时满足两者。
• 形式化规范： 安全要求被定义为基于物理属性谓词（如 dropped（掉落）、spilled（倾洒）、intact（完好）、upright（直立））的有限迹线性时序逻辑（LTLf）公式。这些公式被编译为确定性有限自动机（DFA），作为运行时监控器使用。
• 评估协议：
  • 运行时监控： DFA 监控器通过逐步消耗模拟器状态来输出类别安全性标签（安全/违规），而非使用学习型判别器。
  • 分布偏移： 每个基础任务都在一个分布内（ID）条件和四个单轴分布外（OOD）扰动下进行评估：目标外观、指令语言、物体位置和环境背景。安全性规范 $\phi$ 在所有偏移下保持固定。
  • 指标： 该框架定义了四种结果类别：安全成功（SSR）、不安全成功、安全失败和不安全失败。它引入了**感知参与度（Engagement-Aware）**指标（例如：Safe | Eng.），以区分策略是因为行为安全而安全，还是因为从未参与任务而表现为安全。
  • 仿真到现实（Sim-to-Real）： 评估在配备了基于 PhysX 的接触和流体动力学的 Isaac Sim/OmniGibson 中进行，并在匹配条件下在实体 Franka Panda 平台上进行了验证。

2. 安全标注轨迹生成流水线

为了支持性能提升，作者提供了一个生成安全标注演示数据的流水线：

• 双重来源： 轨迹通过自动化的 cuRobo 运动规划器和人类遥操作（使用 GELLO 或 SO-101 领航臂）生成。
• 统一标注： 两种来源共享相同的执行基质，并由用于评估的相同 LTLf 运行时监控器进行过滤和标注。
• 输出： 仅保留那些完成任务且满足安全性规范的轨迹。这产生了 8,000 条安全标注的演示数据（每个基础任务 40 条），采用统一的 LeRobot 格式。

核心贡献

1. ManiGuard-Bench： 一个以安全性为中心的基准测试，其 200 个任务按技能 × 约束分类法组织，并具有通过自动机监控器检查 LTLf 规范的功能。它包含 1,000 个锁定评估场景（ID + 4 个 OOD 轴），并扩展到了物理机器人评估。
2. 安全标注数据套件： 一个轨迹生成流水线，通过构造保证安全性，产出了 8,000 条演示数据。这使得针对安全性感知行为的有监督微调（SFT）成为可能。
3. 系统性的失效模式评估： 对 ManiGuard-Bench 上的零样本和微调后的视觉-语言-动作（VLA）模型进行了大规模基准测试研究（超过 23,000 次展开），识别了持续存在的失效模式以及当前缩放方法的局限性。

实验结果

作者在 ManiGuard-Bench 上评估了最先进的 VLA 模型（$\pi_0$, $\pi_{0.5}$, GR00T N1.6, SmolVLA）：

• 安全性 vs. 成功率： 任务成功并不意味着安全性。在微调策略的成功展开中，有 6–21% 违反了安全性规范。相反，零样本策略表现得“安全”（77–83% 的安全率）主要是由于空洞安全性（vacuous safety）（即从未参与任务），而实际的“参与且安全”率仅为 16%。
• 微调的影响： 在安全标注套件上进行微调显著提升了安全性。安全任务完成率（SSR）从接近零上升到 7.5–29.8%，且“参与且安全”的行为从 16–40% 增加到 51–72%。
• 持续存在的差距： 尽管进行了微调，但仍存在显著的安全性差距：
  • 仍有 21–42% 的参与展开违反了规范。
  • 两个任务家族（橱柜 Cabinet 和 灰尘 Dusty）对于所有策略而言，安全成功率均低于 2%。
  • 即使安全性规范 $\phi$ 固定，安全性性能在单轴分布偏移（如物体外观或语言变化）下仍会下降。
  • 仅仅通过增加演示数量（从 8 个增加到 40 个）并不能弥补对于困难接触密集型任务（如橱柜）的安全性差距，这表明需要的是不同类型的数据，而非仅仅是更多的数据。
• 仿真到现实（Sim-to-Real）： 模拟与物理实验结果显示，在任务成功率和安全成功率排名方面具有强相关性（$r \approx 0.88–0.91$），但在违规率方面相关性较弱（$r \approx 0.09$）。然而，在两个领域都观察到了特定的不安全行为（例如：撞倒物体）。

意义与主张

本文声称 ManiGuard 提供了一个严谨的、基于规范的接口，用于评估和改进机器人安全性。其主要意义在于：

• 解耦安全性与成功性： 证明了安全性必须作为一个独立于任务完成度的第一类目标进行评估。
• 可操作的诊断： 使用自动机监控器可以实现逐步、逐约束的违规报告，使安全性失效变得具有可操作性，从而用于数据收集和训练，而不仅仅是聚合指标。
• 当前缩放方法的局限性： 结果表明，当前的基础模型尚未能稳健地将其行为锚定在所述的安全约束或物理配置中。单纯缩放同类演示数据并不能自动解决接触密集型、长程任务中的安全性差距。
• 未来工作的基石： 通过发布该基准测试、规范库和轨迹生成流水线，作者旨在支持关于规范感知数据收集、约束感知学习以及更全面的安全性评估的未来研究。

作者对现实世界的部署保持了审慎的态度，指出其物理评估是对具有近似场景匹配的仿真到现实迁移的初步研究，并且目前的分类法并未涵盖所有可能的操控任务或危害。