技术摘要：目标检测中的实例级事后不确定性量化

1. 问题定义

目标检测是自动驾驶中至关重要的安全组件，其中边界框预测的准确定量不确定性对于安全保障至关重要。目前的检测模型通常缺乏在训练期间量化边界框不确定性的能力。一旦针对安全性进行了微调，这些模型便无法被更改，因此需要**事后（post hoc）**不确定性量化方法，这类方法不需要重新训练或修改原始网络。

本文解决了估计每一个单独边界框（实例级）不确定性的挑战，同时满足四个关键约束：

• 非侵入式/事后（Non-intrusive/Post Hoc）： 该方法必须适用于预训练模型，且不改变其行为。
• 实例级（Instance-Level）： 不确定性必须在单个边界框层面进行估计，而不仅仅是全局模型不确定性。
• 推理速度（Inference Speed）： 估计过程必须足够高效，以满足在线自动驾驶系统的要求。
• 认知不确定性（Epistemic Uncertainty）： 该方法必须捕捉源于模型知识匮乏（参数不确定性）的不确定性，而非偶然噪声（aleatoric noise）。

现有解决方案面临显著的权衡：

• 基于采样的方法（例如 MC Dropout、深度集成/Deep Ensembles）： 虽然功能强大，但它们并非严格的事后方法，因为它们通常需要训练多个模型，或者产生的预测分布会偏离原始的最大后验（MAP）模型。
• 线性化方法（例如 使用拉普拉斯近似的广义线性模型 - GLM）： 这些方法是严格的事后方法并保留了 MAP 预测，但对于实例级不确定性而言，计算成本过高。为每个标量输出分量计算雅可比矩阵 $J(x)$ 需要进行单独的反向传播过程。对于一个预测 $m$ 个框且每个框有 9 个参数的检测器，这需要 $9m$ 次反向传播，对于实时应用来说太慢了。

2. 方法论：蒙特卡洛广义线性化模型 (MC-GLM)

作者提出了 MC-GLM，这是一种结合了拉普拉斯近似的事后保证与蒙特卡洛采样的高效性的近似推理方法。

核心概念

该方法通过在 MAP 估计 $\theta^*$ 附近进行拉普拉斯近似，来近似网络输出 $z = f(x; \theta)$ 的预测协方差 $\Sigma_z(x)$：
$$\Sigma_z(x) \approx J(x) \Sigma_\theta J(x)^\top$$
其中 $J(x)$ 是雅可比矩阵，$\Sigma_\theta$ 是参数的后验协方差（通过 KFAC 离线计算得出）。

MC-GLM 并不通过 $d$ 次反向传播（$d$ 为输出维度）来计算完整的雅可比矩阵 $J(x)$，而是通过蒙特卡洛采样来估计协方差。它认识到 $J(x)\Sigma_\theta J(x)^\top$ 等价于方向导数 $J(x)\eta$ 的协方差，其中 $\eta \sim \mathcal{N}(0, \Sigma_\theta)$。

算法步骤

1. 离线阶段： 计算 KFAC（基于 Kronecker 积近似曲率）对费舍尔信息矩阵（Fisher information matrix）的近似，以获得参数协方差 $\Sigma_\theta$。这一步是在训练数据上执行一次。
2. 在线阶段（针对输入 $x$）：
   • 计算基础预测 $z_0 = f(x; \theta^*)$。
   • 采样 $k$ 个权重扰动 $\eta_i \sim \mathcal{N}(0, \Sigma_\theta)$。采样过程利用了 KFAC 的块对角和 Kronecker 结构以提高效率。
   • 执行 $k$ 次带有扰动权重的前向传播：$z_i = f(x; \theta^* + \epsilon \eta_i)$。
   • 使用有限差分近似方向导数：$u_i \approx (z_i - z_0) / \epsilon$。
   • 构建由这些 $k$ 个方向导数组成的矩阵 $A(x)$。
   • 对 $A(x)$ 进行列中心化以获得 $\tilde{A}(x)$，并计算样本协方差：
     $$\hat{\Sigma}_{z, MC-GLM}(x) = \frac{1}{k-1} \tilde{A}(x) \tilde{A}(x)^\top$$
3. 实例级聚合： 对于目标检测，输出向量被重塑以按边界框对参数进行分组。该方法计算每个框的协方差张量 $\hat{\Sigma}_i(x) \in \mathbb{R}^{9 \times 9}$，在捕捉框内相关性的同时忽略跨框相关性，以提高效率。

关键效率特征

MC-GLM 的计算成本为 $k+1$ 次前向传播，其中 $k$ 是一个小的常数超参数（例如 10）。至关重要的是，该成本与检测到的实例数量 ($m$) 无关。相比之下，精确的 GLM 需要 $9m$ 次反向传播。这使得 MC-GLM 可以实现并行化，并能扩展到任何数量的检测结果而不会增加推理时间。

3. 主要贡献

• MC-GLM 框架： 一种为目标检测提供实例级、近似事后不确定性量化的新颖方法。
• 计算效率： 通过用固定次数的前向传播（$k$）取代昂贵的雅可比矩阵计算，该方法实现了相对于输出实例数量而非样本数量的线性时间复杂度。
• 事后兼容性： 该方法保证预测均值与原始预训练模型的输出（$f(x; \theta^*)$）一致，不像基于采样的贝叶斯方法会改变均值。
• 集成 KFAC： 该方法利用 KFAC 高效地进行离线计算参数协方差和结构化采样，使其在大规模检测器上具有可行性。

4. 实验结果

该方法在 nuScenes 数据集上使用 CenterPoint 3D 目标检测器进行了评估。

• 指标： 性能通过“准确给定确定性概率”($P(A|C)$)、“不确定给定不准确概率”($P(U|I)$) 以及“准确度 vs 不确定度曲线”($Avu$) 进行衡量。
• 对比基准：
  • MCI (Monte Carlo Integration)： 使用 MC Dropout。
  • GLM： 带有完整雅可比矩阵计算的精确拉普拉斯近似。
• 研究结果：
  • 不确定性质量： MC-GLM 在 $P(U|I)$ 指标上显著优于精确 GLM（对于 IoU 分别为 0.40 vs 0.14），表明其能更好地识别不准确的预测。它达到了与 GLM 和 MCI 相当的 $P(A|C)$ 水平。
  • 速度： MC-GLM 比 GLM 快得多。平均而言，由于需要 $9m$ 次反向传播，GLM 每个输入需要约 10,636 ms，而 MC-GLM 仅需约 542 ms（11 次前向传播）。MCI 稍快（约 525 ms）但未能满足事后要求。
  • 消融实验：
    • 费舍尔深度 (Fisher Depth)： 使用来自更深网络层的费舍尔信息可以提高 $Avu$，但会增加内存消耗；仅使用检测头（head-only）的近似提供了一个良好的折中方案。
    • 数据子采样： 在 5-10% 的训练数据上估计费舍尔矩阵即可获得相当的不确定性质量，从而降低了离线成本。
    • 超参数： 一个较小的有限差分步长（$\epsilon = 10^{-7}$）和适度的样本数（$k=10$）足以获得高质量的估计。

5. 重要性与主张

论文声称 MC-GLM 填补了安全关键型自动驾驶系统中的一个重要空白。它提供了一个实用的、实例级的不确定性量化工具，既符合严格的事后约束（无需重新训练，保留原始模型行为），又保持了适合实时部署的推理速度。

作者强调，以往的方法要么太慢（精确 GLM），要么会改变模型的预测分布（MC Dropout/集成方法），而 MC-GLM 提供了一个平衡的解决方案。它能够量化每个检测目标的认知不确定性，且计算成本是常数且独立于检测数量，这使得它在自动驾驶车辆的在线安全保障中具有可行性。