⚡ electrical engineering

Distributionally Robust Safety Under Arbitrary Uncertainties: A Safety Filtering Approach

本文提出了一种分布鲁棒安全过滤框架，该框架通过将安全认证简化为一维切换时间搜索并采用具有有限样本保证的基于采样的过程，确保非线性系统在任意分布不确定性下的概率安全性。

原作者： Daniel M. Cherenson, Haejoon Lee, Taekyung Kim, Dimitra Panagou

发布于 2026-05-14

📖 1 分钟阅读☕ 轻松阅读

原作者： Daniel M. Cherenson, Haejoon Lee, Taekyung Kim, Dimitra Panagou

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你正在驾驶一辆速度极快、性能卓越的赛车。你有一位“名义驾驶员”，他极其擅长高速驾驶并完美地走赛车线。然而，这位驾驶员并不知道路面会有坑洼、突发的阵风，或者道路可能会以他从未见过的方式变得湿滑。如果他们开得太快，可能会发生撞车。

为了保障你的安全，副驾驶座上有一位“备份驾驶员”。这位驾驶员速度稍慢且更为谨慎，但他们是生存大师。他们确切知道如何在情况失控时将车辆驶入一个安全、缓慢的轨道。

问题在于：你何时应该从“快速驾驶员”切换到“安全驾驶员”？

如果切换得太早，你会开得太慢而错失比赛；如果切换得太晚，你就会撞车。

本文介绍了一种名为**DRS 守门员（DRS-gatekeeper）**的新型“安全过滤器”。它就像一个超级智能的副驾驶，决定移交控制权的精确时刻。以下是其工作原理，使用简单的类比来说明：

1. 问题：“我们不知道天气”

大多数安全系统假设它们知道“天气”（即不确定性）。它们可能会说：“我们知道风速始终在 5 到 10 英里/小时之间。”但在现实世界中，风速可能在一分钟内是 2 英里/小时，下一分钟变成 50 英里/小时，或者遵循我们从未见过的奇怪模式。

如果你的安全系统假设风很温和，但实际上却是飓风，你的车就会撞毁。作者将这种情况称为分布歧义（Distributional Ambiguity）——我们不知道游戏的真实规则，只能基于过去的数据进行猜测。

2. 解决方案：“沃瑟斯坦伞（Wasserstein Umbrella）”

为了应对这种未知的天气，作者使用了一种名为**沃瑟斯坦歧义集（Wasserstein Ambiguity Set）**的数学工具。

类比： 想象你有一张风通常如何吹的地图（你的“名义分布”）。但你知道这张地图可能略有错误。因此，你在地图周围画了一把巨大的、看不见的“伞”。这把伞代表了风实际可能表现出的所有可能方式，包括那些奇怪且意想不到的模式。
目标： 该系统不仅检查车辆在“通常”的风下是否安全，还检查车辆在该伞内所有可能的风模式下是否安全。

3. 技巧：“一维搜索”

检查伞内每一种可能的风模式通常对计算机来说是一场噩梦。计算耗时太长，而计算机还在思考时，车就已经撞毁了。

作者发现了一个巧妙的捷径。因为他们已经准备好让“备份驾驶员”接管，所以不需要计算整个未来。他们只需要找到一个数字：切换驾驶员的确切秒数。

类比： 系统不是模拟每一种可能的未来风暴，而是问：“如果我在 1 秒时切换到安全驾驶员，我安全吗？2 秒呢？3 秒呢？”
他们将一个庞大复杂的数学问题转化为对最晚可安全切换时刻的简单搜索。

4. “采样”安全网

由于他们无法检查每一种可能的风况（因为有无限多种），他们使用了一种采样技巧。

类比： 想象你想知道一座桥是否能承受一辆重型卡车。你不需要用世界上每一辆卡车来测试它。你只需用 1000 辆随机卡车进行测试。
该系统使用随机的“风”样本模拟车辆路径 1000 次。
安全提升： 为了考虑到真实的风况可能比他们的样本更糟糕，他们添加了一个“安全缓冲”（扩大故障阈值）。如果车辆在模拟的风中存活了 99% 的情况加上这个额外的缓冲，他们就有信心即使天气怪异，车辆也能在现实世界中存活。

5. 现实世界测试

作者在三种截然不同的机器上测试了这种“安全过滤器”，以证明其有效性：

双宾斯车辆（一种简单的机器人车）： 它必须在障碍物周围导航。即使机器人的传感器感到困惑，新过滤器也能使其比旧方法更安全。
一级方程式赛车： 这辆车在具有复杂物理特性的真实赛道上行驶。该过滤器允许车辆高速行驶（使用名义驾驶员），但在赛道条件变得棘手时，恰好在需要时切换到备份。它比标准的赛车人工智能安全得多。
F-16 战斗机： 这是最难的测试。这架喷气式飞机在狭窄的峡谷中低空高速飞行。风和飞机自身的气动特性都是不可预测的。标准方法（未使用此过滤器）要么撞毁，要么离墙壁太近。新过滤器使喷气式飞机保持安全，低空高速飞行，仅在绝对必要时才切换到备份。

核心结论

本文提出了一种“安全守门员”，它让高性能机器人和车辆能够快速、高效地执行任务。它不猜测未来，而是为可能范围内最坏的情况做好准备。

这就像有一个副驾驶说：“我相信你能开得快，但我在观察天气。如果风变得哪怕比我们预期的稍微奇怪一点，我会立即接管方向盘，以免我们撞车。”这使得在即使世界规则不明确的情况下，也能在保持高性能的同时不牺牲安全。

技术摘要：任意不确定性下的分布鲁棒安全性

问题陈述

确保自主机器人系统的安全性受到非线性动力学、执行器限制以及由模型失配、感知误差和外部干扰引起的不确定性的制约。虽然安全过滤器（或“守门员”）提供了一种模块化解决方案，即在安全面临风险时从高性能标称策略切换到经认证的回退策略，但现有方法在分布模糊性下仍面临显著局限。

当前方法通常依赖于以下两者之一：

鲁棒安全过滤器：假设最坏情况的确定性界限，这可能导致过度保守。
随机安全过滤器：假设已知特定的扰动分布（例如高斯分布），当真实分布未知、部分可观测或发生偏移（分布偏移）时，这些方法会失效。
分布鲁棒（DR）规划：虽然前景广阔，但将 DR 约束直接集成到一般非线性系统的安全过滤器中在计算上是不可行的。它通常需要在模糊集内的最坏情况分布上求解高维优化问题，使得实时实施变得不可行。

本工作解决的核心挑战是：如何在任意不确定性结构（非加性、非仿射）下，为一般非线性系统提供概率安全性保证，且真实噪声分布未知，同时不产生在线 DR 轨迹优化的计算成本。

方法论：DRS-gatekeeper

作者提出了分布鲁棒随机守门员（DRS-gatekeeper），这是一种扩展了基于回退的安全过滤框架的实时安全过滤器。该方法将 Wasserstein 模糊集与有限样本统计分析相结合，以认证安全性。

核心架构

系统通过在高性能标称策略（ $\pi_N$ ）和预验证的回退策略（ $\pi_B$ ）之间进行切换来运行。回退策略旨在以高概率使特定安全集 $\mathcal{C}$ 前向不变（即 $\alpha$ -概率受控不变集）。目标是在确保安全的前提下，尽可能长时间地保持在标称策略上，并在安全受到损害之前切换到回退策略。

关键技术组件

分布鲁棒机会约束（DRCC）：
该方法不是针对单一标称分布 $\hat{P}_t$ 进行优化，而是确保针对由半径为 $\beta$ 的 $\infty$ -Wasserstein 距离定义的模糊集 $\mathcal{B}_\beta(\hat{P}_t)$ 的安全性。该集合包含所有与可用数据一致的分布。其目标是满足：
$\inf_{Q \in \mathcal{B}_\beta(\hat{P}_t)} \Pr_{w \sim Q} [\text{安全性}] \geq 1 - \varepsilon$
通过切换时间搜索实现降维：
作者利用基于回退的过滤结构，而不是在线求解高维 DR 优化问题。安全认证问题被简化为在标称策略和回退策略之间的切换时间 $s_t$ 上进行一维搜索。
基于采样的认证与有限样本保证：
该方法采用了一种受蒙特卡洛启发的方法：
- 并行推演：对于每个候选切换时间 $m$ ，算法从标称分布 $\hat{P}_t$ 生成 $N$ 个独立的噪声轨迹样本。
- Wasserstein 膨胀阈值：为了在不直接从模糊集采样的情况下考虑该集合，算法为每次推演计算安全裕度 $H$ 。然后，它不仅统计 $H < 0$ 时的“失败”，还统计 $H < L_H \beta$ 时的失败，其中 $L_H$ 是安全函数的 Lipschitz 常数， $\beta$ 是模糊半径。这有效地膨胀了失败集，以覆盖模糊集内的最坏情况分布（引理 1）。
- 统计界限：利用观测到的失败次数，使用二项分布和用户指定的置信水平 $1-\delta$ 计算真实失败概率的上界。
- 选择：算法选择最新的切换时间 $s_t$ ，使得失败概率的统计上界保持在阈值 $(\varepsilon - \alpha)/(1 - \alpha)$ 以下。

理论保证

本文提供了形式化证明（定理 1）：如果关于安全函数 Lipschitz 连续性的假设以及存在有效回退策略的假设成立，则 DRS-gatekeeper 以至少 $1-\delta$ 的概率满足 DRCC。该保证独立于轨迹维度或样本数量 $N$ ，尽管 $N$ 会影响过滤器的保守性。

主要贡献

DRS-gatekeeper 算法：引入了一种针对具有任意扰动结构和分布模糊性的非线性系统的实时安全过滤器。
有限样本证书：通过计算指定置信水平下的最坏情况失败概率上界，推导出了 Wasserstein 模糊集下的概率安全证书。
计算效率：将无限维 DR 安全问题重构为一维搜索，通过并行采样实现实时实施。
实证验证：在三个复杂度递增的不同领域展示了该方法：Dubins 车辆、一级方程式赛车和 F-16 战斗机。

实验结果

作者通过仿真实验验证了 DRS-gatekeeper，并将其与基线方法（包括分布鲁棒控制障碍函数 DR-CBF 和模型预测路径积分控制 MPPI）进行了比较。

Dubins 车辆：与 DR-CBF 相比，DRS-gatekeeper 在不同的失败概率（ $\varepsilon$ ）和模糊半径（ $\beta$ ）下实现了显著更高的安全率（高达 100%，而 DR-CBF 为 15-75%，具体取决于参数）。虽然在某些情况下到达目标的时间略长，但该方法提供了更可靠的性能 - 安全性权衡。
一级方程式赛车：在具有复杂非高斯经验不确定性的 7 维状态场景中：
- 在高斯噪声下，DRS-gatekeeper 保持了 96% 的安全性，而 MPPI 为 92%。
- 在经验噪声下（模拟分布偏移），MPPI 的安全性降至 76%，而 DRS-gatekeeper 保持了 94% 的安全性。
- 该方法以最小的回退干预（<1.5%）和适合实时控制的计算时间（约 21 毫秒）实现了这些结果。
F-16 战斗机：在 12 维状态、4 输入的场景中，飞机在湍流和模型残差下穿越狭窄峡谷：
- 基线最优轨迹跟踪方法仅实现了 40% 的安全性（考虑完整视界时为 88%，仍低于 95% 的目标）。
- DRS-gatekeeper 将安全率提高到了 88%（以每次迭代 95% 为目标，累积效应显著），且回退使用率低（13.9%），计算开销极小（12.2 毫秒）。
- 该方法成功处理了导致 DR-CBF 不适用于该系统的高相对阶和输入约束。

意义与主张

本文声称，DRS-gatekeeper 解决了自主安全领域的一个关键差距：能够在不承受在线 DR 优化计算负担的情况下处理任意不确定性结构和分布偏移。通过利用基于回退的架构和基于 Wasserstein 的鲁棒性，该方法为复杂的、高维的非线性系统提供了严格的概率安全性保证，而传统的鲁棒或随机过滤器在这些系统中要么失效，要么过于保守。作者强调，他们的方法对于真实噪声分布未知或非平稳的系统尤为重要，例如在高速赛车或湍流下的空中机动中。