技术摘要：用于跨领域 OOD 检测的 PRISM

问题陈述

分布外（Out-of-Distribution, OOD）检测是神经网络部署于现实世界安全关键型系统中面临的一项关键挑战。虽然模型在分布内（In-Distribution, ID）数据上通常能取得高精度，但在面对偏离训练分布的输入时，可能会产生过度自信且错误的预测。现有的后验式 OOD 检测方法通常依赖于单一表示层级（例如 Logits 或倒数第二层特征），或通过深度选择或基于 OOD 校准的加权来聚合来自多个层的得分。

作者指出这些方法存在一个根本性的局限性：对于 OOD 检测而言，最具信息量的表示层级会随着不同的 OOD 类型和应用领域（自然图像、医学成像、工业检测）而发生显著变化。因此，固定的层级选择或在特定 OOD 验证集上校准的聚合策略具有脆弱性，且难以泛化到不同领域。此外，许多现有的多层方法需要依赖于 OOD 的校准或合成数据来学习层权重，这增加了复杂性，并降低了在缺乏代表性 OOD 数据场景下的可迁移性。

方法论：PRISM

本文提出了 PRISM（投影表示与中间层子空间建模，Projected Representation with Intermediate-layer Subspace Modeling），这是一种旨在实现跨领域鲁棒性的模型无关、后验式 OOD 检测方法。PRISM 遵循“先融合后建模”的原则，避免了层级得分聚合，而是倾向于在进行统计建模之前创建一个统一的特征表示。

该方法由三个主要步骤组成：

1. 统一多层特征构建：
   PRISM 不仅仅选择单一层，而是从网络中提取多个中间层的特征图（从浅层到深层）。对于卷积神经网络（CNN），通过全局平均池化聚合空间特征图；对于 Vision Transformers (ViT)，则对 Token 序列取平均值。每个生成的向量都经过 $\ell_2$ 归一化，以防止具有较大激活幅度的层在联合表示中占据主导地位。这些归一化后的向量被拼接成一个单一的高维多层特征向量 $\mathbf{z}(\mathbf{x})$。

2. ID 数据的子空间建模：
   PRISM 假设 ID 数据存在于该融合特征空间中的低维流形上。仅使用 ID 训练数据，它通过应用主成分分析（PCA）来估计一个主成分子空间 $\mathbf{W}$，该子空间捕捉了 ID 变异性的主要模式。在推理阶段，特征向量被分解为：

   • 投影 ($\mathbf{u}$): 与主成分子空间对齐的分量，捕捉与 ID 数据一致的语义模式。
   • 残差 ($\mathbf{r}$): 代表不受学习到的 ID 流形支持的特征的正交分量。

3. OOD 得分计算：
   PRISM 将两个互补的信号组合成一个单一得分，无需学习权重或 OOD 校准：

   • 投影马哈拉诺比斯距离 ($s_{\text{proj}}$): 在投影子空间中计算的类条件马哈拉诺比斯距离。它检测在学习到的流形内部发生的偏离类条件结构的偏差。
   • 残差能量 ($s_{\text{res}}$): 残差向量的平方 $\ell_2$ 范数。它捕捉正交于 ID 流形方向上的能量，从而检测新颖或不受支持的特征方向。

   最终的 OOD 得分是这两个项的负乘积：$s_{\text{PRISM}}(\mathbf{x}) = -s_{\text{proj}}(\mathbf{x}) \cdot s_{\text{res}}(\mathbf{x})$。这种乘法组合强调了那些在主成分子空间之内和之外都偏离 ID 结构的样本。所有统计量（均值、协方差、PCA 参数）均仅从 ID 数据中估计。

核心贡献

• 识别了聚合敏感性： 作者证明了层级聚合和基于 OOD 的校准对所选的 OOD 验证集高度敏感，会导致不稳定的跨领域行为。他们展示了最优层权重在不同的医学和自然图像偏移之间会发生显著变化。
• 统一的多层子空间建模： PRISM 引入了一种原则，消除了对层选择、得分聚合启发式方法以及 OOD 相关校准的需求。通过在建模前融合表示，它既保留了统计特征建模的鲁棒性优势，又捕捉了从浅层到深层的互补信息。
• 全面的跨领域评估： 该方法在自然、医学和工业基准测试（OpenOOD, OpenMIBOOD, ICONIC-444）上使用单一默认配置进行了评估。PRISM 在无需 OOD 校准的情况下，实现了最先进的平均 AUROC 和最佳的平均排名。
• 高效性： 与基准方法相比，该方法带来的推理开销极小（对于批大小 $\geq 16$ 时小于 1.0%），使其在实际部署中非常实用。

结果

在多种基准测试中对 22 种最先进的后验式方法进行的广泛实验得出以下发现：

• 整体性能： PRISM 在所有基准测试中实现了最高的平均 AUROC（93.92%），超过第二名（MDS++，89.13%）4.79 个百分点。
• 领域鲁棒性： 不同于表现出明显领域依赖变异性的竞争方法（例如，MDSEns 在医学数据上表现良好但在 ImageNet-1k 上表现较差；GRAM 在工业设置中表现出色但在医学任务中退化），PRISM 在自然、医学和工业领域均保持了一致的高性能。
• OOD 类别鲁棒性： PRISM 在从近 OOD 到极端 OOD 的类别中均保持了高 AUROC，表明其对不断增加的分布偏移具有鲁棒性。
• 架构泛化能力： PRISM 在包括 ResNet、Swin Transformer 和 ViT 在内的不同骨干架构上表现一致且优秀，无需针对特定架构进行调优。
• 消融研究： 论文证实了投影马哈拉诺比斯项和残差能量项对于实现最优性能都是必要的，因为它们捕捉了不同类型的几何偏差。统一的多层表示被证明比单层基准方法或简单的得分聚合更有效。

意义与主张

本文声称，PRISM 通过优先考虑可迁移的、仅依赖 ID 的部署，解决了当前 OOD 检测方法的不稳定性问题。通过融合从浅层到深层的表示并对统一的 ID 几何结构进行低维子空间建模，PRISM 避免了对特定基准测试的深度偏好和 OOD 相关校准的陷阱。

作者强调，虽然没有哪种后验式检测器在所有领域和 OOD 类型中都是普遍最优的，但 PRISM 提供了一个鲁棒的“默认”解决方案，能够整合不同表示深度的互补信息。这种方法降低了对开发过程中使用的特定 OOD 定义或验证集的敏感性，为在 OOD 数据可能稀缺或未知的多样化现实应用中识别分布偏移提供了一种更可靠的机制。其在自然、医学和工业领域通过固定配置实现最先进性能的能力，凸显了统一多层子空间建模对于跨领域鲁棒性的价值。