🤖 machine learning

Can Attribution Predict Risk? From Multi-View Attribution to Planning Risk Signals in End-to-End Autonomous Driving

本文提出了一种用于端到端自动驾驶的分层归因框架，该框架从多视角输入中提取统计信号，以在不依赖辅助监控模型的情况下有效预测规划风险并识别潜在碰撞。

原作者： Le Yang, Ruoyu Chen, Haijun Liu, Jiawei Liang, ShangQuan Sun, Xiaochun Cao

发布于 2026-05-08

📖 1 分钟阅读☕ 轻松阅读

原作者： Le Yang, Ruoyu Chen, Haijun Liu, Jiawei Liang, ShangQuan Sun, Xiaochun Cao

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在教一个机器人驾驶汽车。在过去，我们将机器人的“大脑”构建在独立的房间中：一个房间负责“感知”，另一个负责“思考”，第三个负责“转向”。但最近，工程师们构建了“端到端”机器人。它们就像一个超级聪明的单一大脑，直接观察道路并立即决定行驶方向，跳过了所有中间步骤。

问题在于？这些超级大脑是黑盒。它们会做出决策，但我们不知道为什么。如果机器人突然转向撞向一棵树，我们很难判断它是被阴影、奇怪的标志还是故障所迷惑。

这篇论文提出了一个重大问题：我们能否窥探机器人的大脑，看看它在关注什么，并利用这一点预测它是否即将犯下危险错误？

以下是作者如何解决这一问题的解释，辅以简单的类比：

1. “六眼”侦探

大多数自动驾驶汽车配备六个摄像头（就像拥有六只眼睛、向各个方向观察的人类）。机器人综合所有六个视角来决定行驶路径。

旧方法： 以往的方法试图通过撰写文本摘要（如日记条目）或训练一只独立的“看门狗”来监视机器人，以此解释机器人的思维。但文本可能含糊不清，而“看门狗”也无法确切知道机器人此刻在想什么。
新方法： 作者创建了一种名为分层归因的工具。这就像机器人用来扫描其自身六个摄像头 feeds 的高科技手电筒。它会高亮显示机器人做出决策所依赖的具体像素（图像中的微小点）。

2. “由粗到细”的搜索

扫描六个摄像头中的每一个像素既太慢又令人困惑。因此，作者设计了一种智能搜索策略：

步骤 1（粗粒度）： 想象你在查看一张城市地图。首先，你只看街区（例如，“前方的十字路口”或“左侧的车辆”）。机器人会快速对哪些街区最重要进行排名。
步骤 2（细粒度）： 一旦机器人确定了重要的街区，它就会放大查看该区域内的具体房屋和街道。
这使得系统能够在不被压垮的情况下，找到机器人使用的确切视觉线索。

3. 三个“风险信号”

一旦机器人高亮了图像中的重要部分，作者并没有仅仅查看图片；而是将这些高亮部分转化为三个简单的数字（统计量），作为“风险警报”。

可以将这些数字理解为检查机器人是否过于专注或过于分散：

信号 1：“隧道视野”计（归因熵）
- 比喻： 想象一名侦探在破案。一名优秀的侦探会查看许多线索（脚印、指纹、证人陈述）。而一名糟糕且危险的侦探可能只盯着一个线索（一只沾满泥巴的鞋子）。
- 数学原理： 如果机器人的注意力分散在图像的多个部分，该数值就高（安全）。如果它 intensely 盯着一个极小的点，该数值就低（危险）。
信号 2：“聚类”计（空间方差）
- 比喻： 想象一名学生正在参加考试。一名优秀的学生会将注意力分散在整个试卷上。而一名危险的学生可能只关注页面的左上角，而忽略其余部分。
- 数学原理： 这检查机器人的注意力是否聚集在单个摄像头视图的一个小角落里。如果是，这就是危险“聚类”的迹象。
信号 3：“独眼”计（跨摄像头基尼系数）
- 比喻： 你有六只眼睛。如果你安全驾驶，你会使用所有眼睛。如果你危险驾驶，你可能会忽略左右眼，只盯着前挡风玻璃。
- 数学原理： 这检查机器人是否忽略了 6 个摄像头中的 5 个，而过度依赖仅一个。如果注意力不平衡，该数值就会上升（危险）。

4. 结果：它有效吗？

该团队在三个不同的先进机器人驾驶员（BridgeAD、UniAD 和 GenAD）上对此进行了测试，使用了包含真实驾驶视频的大规模数据集。

预测： 他们发现，当这三个“风险信号”上升时（意味着机器人过于专注、过于聚类或过于片面），机器人犯错的可能性就大大增加（例如错过转弯或差点撞车）。
准确性： 他们的系统能够以约**77%**的准确率预测潜在碰撞（这一分数称为 AUROC）。这显著优于随机猜测。
泛化能力： 即使他们在从未见过的新场景上测试该系统，风险信号仍然有效。它不仅仅是死记硬背旧视频，而是真正理解了机器人的行为。

5. 为什么这很重要

作者并非声称该系统是能够阻止碰撞的“修复方案”。他们表示，这是一个诊断工具。

就像医生使用体温计来查看病人是否发烧（这是一个出问题的信号，即使体温计本身不能治愈流感）一样，该系统使用“归因信号”来告诉工程师：“嘿，这个机器人依赖于一组奇怪且狭窄的视觉线索。它即将犯错。”

这使得开发人员能够更快地发现危险场景，并理解为什么他们的机器人会失败，从而使自动驾驶汽车更安全、更透明。

技术摘要：归因预测端到端自动驾驶中的风险

问题陈述
端到端自动驾驶模型将原始多视角传感器输入直接映射为规划轨迹，在提升系统集成度的同时，也引入了不透明的决策过程。尽管现有的可解释性方法能够生成文本解释或训练辅助监控模型，但它们往往无法揭示轨迹生成背后的具体视觉证据，或者与规划过程脱节。目前存在一个关键缺口：确定归因图（通常用于事后解释）能否作为规划风险的预测信号。具体而言，尚不清楚规划器在六个相机视图上对视觉证据的依赖分布是否与轨迹误差或碰撞风险相关。

方法论
作者提出了一种专为多视角端到端规划器设计的分层归因框架。该方法包含三个主要组成部分：

分层由粗到细的归因：
- 输入与划分： 系统接收同步的六视角相机图像，并利用 SLICO 超像素分割将每个视图划分为子区域。
- 目标函数： 与旨在最大化类别置信度的基于分类的归因不同，该框架使用L2 轨迹一致性作为目标。它基于充分性（保留区域 $S$ 能维持原始轨迹）和必要性（移除区域 $S$ 会导致显著偏差）定义了一个集合函数 $F(S)$ 。
- 搜索策略： 为了解决在六维空间评估子集的计算成本，采用了由粗到细的贪婪搜索策略。
  - 粗粒度阶段： 将相邻子区域合并为组。算法对这些组进行全局排名，以识别高贡献簇。
  - 细化阶段： 在排名靠前的组内，算法利用前序组作为条件前缀，对单个子区域进行更精细的搜索。这生成了一个忠实于像素的显著性张量 $T$ 。
风险信号的推导：
将显著性张量视为联合多相机像素空间上的概率分布，作者提取了三个互补的统计量来量化“过度依赖”，并假设稳健的规划应避免将依赖集中在有限的证据上：
- 归因熵 ( $H$ )： 衡量归因在整个六维空间中的全局集中程度。低熵表明依赖于一组少量的视觉位置。
- 相机内空间方差 ( $\sigma^2_{sp}$ )： 表征归因在单个相机视图内的空间分布范围。低方差表明在视图内存在高度局部的依赖。
- 跨相机基尼系数 ( $Gini_{cam}$ )： 量化六个相机之间归因质量的失衡程度。高值表明对特定视图存在不成比例的依赖。
风险预测框架：
这些统计量被用作特征，以预测两个规划风险代理指标：
- 轨迹误差： 通过平均位移误差 (ADE) 进行测量。
- 碰撞风险： 一个二元指标，指示预测轨迹是否与障碍物相交。
  作者分别使用岭回归拟合 ADE，使用逻辑回归进行碰撞检测，并通过斯皮尔曼相关系数和 AUROC 评估性能。

主要贡献

预测性归因： 本文调查并验证了归因可以超越事后解释，作为端到端自动驾驶中规划风险的预测信号。
多视角归因算法： 一种新颖的由粗到细的归因方法，将六个相机视图视为统一的搜索空间，利用 L2 轨迹一致性而非分类置信度。
风险统计量： 定义了三个统计量（熵、空间方差、基尼系数），分别量化全局、视图内和跨视图的过度依赖。
实证验证： 在 nuScenes 数据集上使用三种不同的规划器（BridgeAD、UniAD、GenAD）进行的综合实验，证明了归因模式与风险之间的相关性。

实验结果
实验在 nuScenes 验证集上使用 BridgeAD、UniAD 和 GenAD 进行：

风险相关性： 归因统计量与规划风险显示出显著相关性。对于碰撞预测，联合模型在三种规划器上实现了 0.77 ± 0.04 的 AUROC。对于轨迹误差，斯皮尔曼相关系数达到 0.30 ± 0.07。
泛化能力： 风险信号泛化到了未参与训练的场景（80/20 划分），且退化可忽略不计（AUROC 0.77 ± 0.09），表明该信号与归因结构相关，而非特定的场景物体布局。
鲁棒性： 用随机采样基线（RISE）替换提出的分层归因，产生了较弱但一致的信号（AUROC 0.67 ± 0.11），表明风险统计量并非特定归因算法的产物。
控制变量： 即使控制场景物体配置（例如物体数量、空间分布），归因与风险之间的关联依然存在，证实该信号反映的是规划器的视觉依赖性，而非单纯的场景复杂度。
效率： 分层搜索比精确贪婪搜索（EAGLE）快得多，同时保持了高忠实度（比 RISE 更接近 EAGLE）。

意义与主张
本文主张，归因模式为端到端驾驶规划器中的决策级风险提供了有用的预警信号。通过将归因视为测量对象而不仅仅是可视化工具，该框架实现了可扩展的部署前审计。它使开发人员能够识别规划器对视觉证据的依赖过于集中、空间弥散或分布不均的场景，而这些情况往往与升高的风险同时发生。

作者保持谦逊的立场，强调这些统计量是诊断信号而非安全认证。他们指出，虽然这些信号在群体层面上与风险相关，但不能保证单个样本的安全性。该框架被呈现为现有输出端安全评估（如轨迹误差检查）和闭环仿真的补充工具，有助于比单纯的人工视觉检查更高效地定位易发生故障的场景。承认的主要局限性是高保真归因的计算成本，这目前排除了实时在线监控的可能性，但结果表明未来实现实时、高保真归因方法的潜力。