Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control

本文提出了一种结合控制障碍函数与保形风险控制的新型概率安全控制框架，通过动态调整安全裕度来量化预测误差，从而在复杂人机交互中提供形式化安全保证，显著降低了碰撞率并保持了任务成功率。

要点

这篇论文介绍了一种让机器人更安全、更聪明地与人共处的新方法。你可以把它想象成给机器人装上了一个“会看眼色、懂风险的智能安全气囊”。

为了让你更容易理解，我们把这篇论文的核心内容拆解成几个生动的比喻：

1. 核心难题：机器人怎么猜人的心思？

想象一下，你正在开车，前面有个行人。行人可能往左走，也可能往右走，甚至可能突然停下。这种不确定性就是机器人面临的最大挑战。

• 以前的做法：要么机器人像个“胆小鬼”，不管人怎么动，它都离得远远的，结果效率很低，路都走不通；要么机器人像个“愣头青”，完全按理想情况走，结果容易撞到人。
• 这篇论文的目标：让机器人既不像胆小鬼那样过度保守，也不像愣头青那样鲁莽，而是能根据当时的风险程度，动态调整自己的“谨慎程度”。

2. 两大法宝：CBF 和 CRC

这篇论文把两个高科技概念结合在了一起：

• **法宝一：控制障碍函数 **(CBF)

  • 比喻：想象机器人身上有一层看不见的“力场”。如果人离得太近，这个力场就会变强，强行把机器人推回安全路线。
  • 作用：这是机器人的“保命底线”，确保它不会撞车。

• **法宝二：共形风险控制 **(CRC)

  • 比喻：这是机器人的“风险雷达”和“经验老道的教练”。
  • 以前的问题：传统的“力场”大小是固定的。但人的行为是千变万化的。
  • CRC 的妙处：它不依赖死板的数学公式（比如假设人总是走直线），而是通过观察历史数据（就像教练看回放），实时计算：“现在这个人的动作很飘忽，预测不准，所以我们要把‘力场’撑大一点，多留点余地”；“现在这人走得很稳，预测很准，那我们就把‘力场’收小一点，让机器人跑快点”。

3. 它是如何工作的？（动态调整的艺术）

论文提出了一种算法，让机器人能实时调整安全距离（也就是那个“力场”的大小）：

1. 观察与预测：机器人看着行人，预测他下一秒可能去哪。
2. 评估风险：
   • 如果预测很模糊（比如行人犹豫不决，可能左可能右），CRC 就会说：“风险高！把安全系数 $\lambda$ 调大！” -> 机器人立刻变得很谨慎，减速或绕远。
   • 如果预测很清晰（比如行人径直走过），CRC 就会说：“风险低！把安全系数 $\lambda$ 调小！” -> 机器人可以大胆一点，保持高效通行。
3. 执行：机器人根据这个调整后的“安全系数”，计算出下一步怎么走，既保证不撞人，又尽量不走冤枉路。

4. 实验结果：真的有效吗？

作者做了很多实验，比如让机器人在拥挤的人群中穿过，或者和行人面对面相遇：

• 对比组 A（传统方法）：要么撞人（38% 的碰撞率），要么为了安全根本不敢动（效率极低）。
• 对比组 B（固定安全距离）：虽然安全了，但机器人像个慢吞吞的老太太，效率很差。
• 本论文的方法（动态调整）：
  • 碰撞率极低（只有 3%）。
  • 效率很高：它知道什么时候该快，什么时候该慢。
  • 行为更像人：在人多、不确定时，它会像有礼貌的人一样“停下来等一等”；在安全时，它会流畅地通过。

5. 总结：为什么这很重要？

这就好比给机器人装了一个**“有智慧的直觉”。
以前的机器人要么太笨（不懂变通），要么太鲁莽（不懂风险）。这篇论文的方法让机器人学会了“看情况办事”**：

• 在高风险场景下（比如小孩乱跑），它自动变成“超级保镖”，寸步不离。
• 在低风险场景下（比如行人很配合），它自动变成“高效助手”，快速完成任务。

一句话概括：
这就是一种让机器人不再死板，而是能像老司机一样，根据路况和行人的“脾气”动态调整驾驶风格，从而在绝对安全的前提下，实现最高效率的新技术。

技术摘要

这是一份关于论文《Safe Probabilistic Planning for Human-Robot Interaction using Conformal Risk Control》（基于共形风险控制的人机交互安全概率规划）的详细技术总结。

1. 研究背景与问题 (Problem)

在自主机器人（如自动驾驶、服务机器人）部署于人类环境时，核心挑战在于人类行为的不确定性。这种不确定性具有两个显著特征：

• 多模态性 (Multimodal)：人类可能有多种不同的行为模式（例如，从左侧或右侧通过）。
• 历史依赖性 (History-dependent)：未来的行为取决于过去的交互历史。

现有的安全控制方法面临以下局限：

• 传统控制屏障函数 (CBF)：通常假设确定性模型或简单的分布假设（如高斯分布），难以处理复杂的人类行为分布，且往往过于保守或无法提供形式化的概率安全保证。
• 基于采样的方法：虽然能处理复杂分布，但缺乏形式化的安全保证，且计算成本高，难以满足实时性要求。
• 现有共形预测 (Conformal Prediction) 方法：主要关注预测集的覆盖率（Coverage），难以直接控制安全约束违反的风险 (Risk)，且通常假设数据是交换的（exchangeable），而机器人交互数据具有时间序列依赖性。

核心问题：如何在不依赖特定分布假设的情况下，为具有时间依赖性和多模态不确定性的人类行为提供形式化的概率安全保证，同时避免机器人行为过于保守，从而在安全性和任务效率之间取得平衡？

2. 方法论 (Methodology)

论文提出了一种名为 CRC-CBF 的新框架，将控制屏障函数 (CBF) 与共形风险控制 (Conformal Risk Control, CRC) 相结合。

2.1 核心框架

• 离散化与鲁棒 CBF：
  • 将连续时间动力学离散化，并引入鲁棒安全集（Robust Safe Set），通过零阶保持（Zero-Order Hold）控制律和鲁棒性边界 $\eta$ 来补偿离散化误差。
  • 定义安全屏障证书 $B(x, u)$，要求 $B \ge 0$ 以确保安全。
• 概率安全约束：
  • 由于人类行为 $u_H$ 是随机的且未知，机器人无法直接满足确定性约束。
  • 目标转化为：以高概率 $1-\gamma$满足安全约束，即$\Pr(u_R \in \text{SafeSet}) \ge 1-\gamma$。
• 共形风险控制 (CRC) 的应用：
  • 风险量化：定义损失函数 $L(\lambda) = \max\{0, |B_{\text{true}} - \hat{B}_{\text{pred}}| - \lambda\}$，其中 $\lambda$ 是安全裕度（Safety Margin）。
  • 非交换性 CRC：针对时间序列数据（非交换性），采用几何衰减权重重新加权损失函数，以处理人类行为预测中的时间依赖性。
  • 动态裕度调整：通过优化算法计算最小的安全裕度 $\hat{\lambda}$，使得加权风险期望值低于用户指定的风险阈值 $\alpha$。

2.2 算法流程

1. 离线校准 (Offline Calibration)：
   • 利用真实行人数据训练随机人类行为模型。
   • 结合名义机器人策略，生成大量交互轨迹。
   • 计算真实屏障值与预测屏障值的误差，利用非交换性 CRC 计算不同上下文下的最优安全裕度 $\hat{\lambda}$。
   • 训练一个预测模型（如 LSTM），输入当前交互上下文（状态、距离、预测值等），输出动态安全裕度 $\lambda$。
2. 在线控制 (Online Control)：
   • 在每一步 $k$，根据当前上下文通过 LSTM 预测 $\hat{\lambda}_k$。
   • 构建带裕度的安全约束集 $C_{\hat{\lambda}_k}$。
   • 求解二次规划 (QP)：最小化与名义控制输入的偏差，同时满足概率安全约束。

3. 主要贡献 (Key Contributions)

1. 新颖的安全控制框架：首次将共形风险控制 (CRC) 与控制理论中的 CBF 结合，为人机交互提供了高概率的安全保证。
2. 理论分析：建立了基于 CRC 的不确定性量化与概率安全保证之间的严格理论联系，证明了在有限样本和非交换数据下，该方法能提供形式化的安全边界。
3. 轻量级自适应算法：提出了一种假设较少（Assumption-light）的算法，能够根据交互上下文动态调整安全裕度，无需预先知道人类行为的具体分布。
4. 处理时间依赖性：通过引入几何衰减权重的非交换性 CRC，有效解决了人机交互中历史依赖和非平稳分布带来的挑战。
5. 实证验证：在单智能体和多智能体（基于真实行人数据训练）场景下进行了广泛实验，验证了方法的有效性。

4. 实验结果 (Results)

实验在单智能体（正面相遇）和多智能体（人群交互）场景下进行，对比了以下基线：

• CBF-QP：不考虑人类不确定性。
• Fixed CRC-CBF：使用固定的安全裕度。
• MPPI：基于采样的方法（无形式化保证）。

关键指标表现：

• 安全性 (碰撞率/约束违反率)：
  • CBF-QP：碰撞率极高（多智能体场景下 38.8%），因为它忽略了不确定性。
  • Fixed CRC-CBF：安全性最高（几乎无碰撞），但过于保守，导致任务成功率极低（多智能体下仅 31.6%）。
  • Online CRC-SF (本文方法)：在保持极低碰撞率（多智能体 3.0%）的同时，显著提高了任务成功率（84.8%），远优于固定裕度方法。
• 效率与控制平滑度：
  • 本文方法在控制努力和平滑度上表现优异，接近最优基线，避免了固定裕度带来的过度制动或路径偏离。
• 适应性：
  • 定性分析显示，当预测不确定性高时，机器人会主动“减速等待”；当不确定性低时，机器人行为更激进，体现了动态调整的有效性。

5. 意义与影响 (Significance)

• 理论突破：填补了共形预测在安全关键控制领域应用的空白，特别是从“覆盖率”向“风险控制”的范式转变，为处理非平稳、时间依赖的交互数据提供了理论工具。
• 实际应用价值：该方法无需对噪声分布做高斯假设，直接利用数据驱动的方式量化风险，非常适合部署在真实世界中行为复杂且不可预测的人类环境。
• 平衡安全与效率：解决了传统安全控制中“要么不安全，要么太保守”的困境，通过动态调整安全裕度，使机器人能够在风险可控的前提下最大化任务效率。
• 可扩展性：框架具有通用性，可应用于自动驾驶、服务机器人等多种人机协作场景。

总结：该论文提出了一种基于数据驱动的风险感知安全滤波器，利用共形风险控制动态调整 CBF 的安全裕度。实验证明，该方法在复杂的人机交互环境中，能够以高概率保证安全，同时显著优于传统方法，实现了安全性与任务效率的最佳平衡。