💻 computer science

DriveSafer: End-to-End Autonomous Driving with Safety Guidance

DriveSafer 是一种面向端到端自动驾驶的新型安全框架，它通过训练阶段的约束和推理阶段的引导，明确将生成式规划器导向安全行为，与最先进模型相比，在 NAVSIM 基准测试中显著降低了灾难性故障和合规性违规。

原作者： Shounak Sural, Raj Rajkumar

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Shounak Sural, Raj Rajkumar

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在教一个全新且极具天赋的机器人驾驶员在城市街道上行驶。这个基于“端到端”人工智能构建的机器人，就像一个观看了数百万小时驾驶视频的天才儿童。它能处理复杂的交通状况、汇入高速公路，并对行人做出反应，表现几乎胜过任何人。

然而，有一个问题：虽然这个机器人在“平均”驾驶表现上非常出色，但它偶尔会出现“大脑空白”，导致灾难性的事故。它可能会突然决定开上人行道、撞向行人，或者无视“右转”标志，径直驶入对向车道。这些并非小错误，而是灾难性的故障，使得该机器人无法安全地用于现实世界。

本文介绍了DriveSafer，这是一个新系统，其设计目的不仅仅是让机器人整体成为“更好”的驾驶员，而是专门阻止这些危险的“大脑空白”。可以将 DriveSafer 想象为一位安全教练，它在两个截然不同的阶段与机器人协同工作：在其“ schooling"（训练）期间，以及在其实际“驾驶”（推理）期间。

问题所在：“平均”陷阱

作者们注意到，以往的安全检查就像只根据学生的平均考试成绩来评分。一个学生可能平均分为 95%，但依然会在最重要的一场考试中不及格：即“不要撞墙”测试。即使是现有最好的机器人驾驶员（例如名为DiffusionDrive的机器人），虽然平均得分很高，但在罕见且危险的情况下仍会发生碰撞。

解决方案：DriveSafer

DriveSafer 像一位严厉但乐于助人的导师，主要使用两种工具：

1. 训练时间：“安全作业”

当机器人学习时，DriveSafer 会在其课程中加入特殊的“安全作业”。

类比：想象教一个孩子骑自行车。与其只是让他们骑，不如给他们装上辅助轮（约束），并在他们倾斜过度时给予轻微的推动（损失函数）。
工作原理：该系统教导机器人遵守三条具体规则：
1. 留在道路上：不要驶离路面或开上人行道。
2. 保持距离：不要过于靠近其他车辆或行人。
3. 平稳行驶：不要做出会让乘客晕车的突然、 jerky 动作。
如果机器人试图学习违反这些规则的路径，它将会受到“惩罚”（数学得分下降），从而迫使它从一开始就养成更安全的习惯。

2. 推理时间：“安全双重检查”

即使经过良好的训练，机器人在实际驾驶时仍可能产生瞬间的犹豫或困惑。DriveSafer 在机器人执行动作之前增加了一个“第二意见”步骤。

类比：想象你正准备穿过一条繁忙的街道。你向左看，然后向右看，接着心想：“等等，如果我向左迈一步会怎样？那样可能更安全。”在迈出一步之前，你在大脑中生成几个快速的“如果……会怎样”的情景。
工作原理：
- 机器人生成其主要计划（例如，“左转”）。
- DriveSafer 立即生成几个替代计划（例如，“左转但稍慢一点”，或者“左转但稍微向右偏移”）。
- 它将所有这些选项与地图以及其他车辆的位置进行核对。
- 如果原始计划看起来可能会撞到人或驶离道路，DriveSafer 将拒绝该计划，并选择最安全的替代计划。

结果：更少事故，更安全道路

作者在著名的驾驶基准测试NAVSIM上测试了该系统，该测试充满了棘手且真实的场景。

重大胜利：与之前的最佳机器人驾驶员相比，DriveSafer 将灾难性故障（碰撞或驶离道路）的数量减少了48%。
人行道问题：具体而言，车辆驶出允许道路区域的故障减少了**65%**以上。
视觉证据：论文展示了这样的例子：旧机器人曾径直撞向人群或开上人行道，而 DriveSafer 成功地将车辆引导至安全停车点或不同的路径。

总结

简而言之，DriveSafer是一个框架，它承认：“我们不能仅仅指望机器人是完美的；我们需要主动阻止它犯下危及生命的错误。”通过在训练期间结合严格的安全规则，并在驾驶期间实施“双重检查”系统，它将一个才华横溢但鲁莽的机器人驾驶员转变为一个更安全驾驶员，专门针对那些可能导致实际伤害的最坏情况。

技术摘要：DriveSafer

问题陈述

尽管端到端（E2E）自动驾驶模型在复杂基准测试中展现出日益增长的能力，但在安全关键场景中，它们仍极易发生大量灾难性故障。作者观察到，许多此类故障源于对物理约束和安全要求的违反，导致碰撞、驶出允许区域或偏离预期方向等不安全行为。

当前的评估指标（如与真实轨迹的 L2 距离误差）往往掩盖了这些关键故障。一个模型可能在轨迹误差指标上达到最先进水平，却仍表现出危险的“盲目”行为。论文指出，平均规划质量的提升是不够的；主要挑战在于灾难性故障的“长尾”（定义为预测驾驶员模型评分，即 PDMS，为 0）。这些故障包括：

与移动物体（车辆或行人）发生碰撞。
驶出允许的可行驶区域（例如，驶上人行道）。
严重偏离预期行驶方向。

方法论

作者提出了DriveSafer，这是一个故障感知安全框架，旨在明确引导生成式 E2E 规划器走向安全行为。该框架基于基础模型DiffusionDrive运行，并通过两个协同阶段引入安全约束：

1. 安全感知训练

DriveSafer 通过在基础损失（ $L_{base}$ ）之外引入专门的、基于物理信息且具备安全意识的损失函数，修改了训练目标。总损失定义为：
$L_{total} = L_{base} + \lambda_{DAC}L_{DAC} + \lambda_{Col}L_{Col} + \lambda_{Comf}L_{Comf}$

可行驶区域合规性（ $L_{DAC}$ ）： 对偏离基于底层地图推导出的可行驶区域掩码的预测轨迹进行惩罚。
碰撞避免（ $L_{Col}$ ）： 对进入周围智能体特定距离阈值（ $d_{col}$ ）内的轨迹进行惩罚。
舒适性（ $L_{Comf}$ ）： 减少突然的运动变化（加加速度），以确保乘客舒适。

为了解决基线模型无法预测未来智能体位置（这限制了推理过程中的碰撞感知能力）的问题，作者引入了一个轻量级适配器层。该层预测其他道路智能体在未来时间步的运动，从而实现联合预测与规划。

2. 推理时安全引导

认识到扩散模型的随机性以及潜在的传感器噪声，DriveSafer 在推理过程中采用引导策略以拒绝不可行轨迹：

替代假设生成： 系统基于扩散模型预测的首要模式生成替代轨迹。这些替代方案包括：
- 航向和速度的变化（5% 的波动）。
- 亚米级的横向轨迹偏移。
- 利用扩散模型中排名第二和第三的模式。
安全评分与选择： 利用预测的智能体位置和底层地图，使用安全指标对这些替代轨迹进行评分。最安全的轨迹被选为最终输出，从而有效地将车辆“推离”不安全行为。

主要贡献

论文概述了四项主要贡献：

DriveSafer 框架： 一个以故障为中心的安全约束框架，用于 E2E 规划，通过训练时和推理时的协同安全约束来针对灾难性故障。
安全感知训练策略： 引入专门的损失函数（可行驶区域、碰撞、舒适性）以及一个集成的轻量级预测模块，用于联合预测与规划。
推理时引导： 一种生成并评估替代轨迹的方法，以引导规划器输出符合安全要求的结果。
性能提升： 在 NAVSIM 基准测试中，与最先进基线相比，灾难性故障显著减少。

实验结果

该框架在NAVSIM基准测试（特别是 navtest 分割集）上进行了评估，该数据集包含密集的城市交通和复杂场景。

灾难性故障减少： 与 DiffusionDrive 基线相比，DriveSafer 将灾难性故障（PDMS = 0）的数量减少了48%（案例数从 653 例降至 340 例）。
可行驶区域合规性： 可行驶区域合规性故障减少了65% 以上（从 448 例降至 154 例）。
总体 PDMS 评分： 模型取得了90.3的 PDMS 评分，比 DiffusionDrive 基线（88.1）提高了 2.2 分。
子指标： 在可行驶区域合规性（DAC）和自车进度（EP）子指标上观察到显著改进。
定性分析： 视觉示例展示了 DriveSafer 如何纠正基线模型驶离道路、违反预期方向或与行人及来车发生碰撞的场景。

意义与主张

论文认为，端到端自动驾驶的实用性目前受限于大量的灾难性故障，无论平均性能指标如何。DriveSafer 的意义在于其以故障为中心的视角，优先消除危及生命的场景，而非仅仅追求平均轨迹误差的边际改进。

作者主张，E2E 系统中的显式安全引导应致力于直接减少灾难性故障案例。通过将训练时的约束与推理时的引导相结合，DriveSafer 提供了一条通往更安全现实世界部署的路径。作者表示，其未来目标是将 DriveSafer 扩展至自动驾驶汽车（AV）的现实世界部署中，以评估其在真实世界条件下的影响，最终目标是将灾难性故障减少至零。