🤖 machine learning

MahaVar: OOD Detection via Class-wise Mahalanobis Distance Variance under Neural Collapse

本文介绍了 MahaVar，这是一种后验分布外检测方法，它利用了一个具有理论依据的观察结果，即由于神经坍缩几何结构，分布内样本表现出较高的类间马氏距离方差，从而在标准基准测试中实现了最先进的性能。

原作者： Donghwan Kim, Hyunsoo Yoon

发布于 2026-05-15

📖 1 分钟阅读☕ 轻松阅读

原作者： Donghwan Kim, Hyunsoo Yoon

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你有一位非常聪明的保安（一个神经网络），他花了数年时间来识别特定类型的人：“医生”、“消防员”和“厨师”。当看到有人穿着白大褂、戴着头盔或厨师帽时，这位保安工作出色。但是，如果一个随机游客穿着亮粉色的小丑服走进来，会发生什么呢？

在人工智能领域，这位游客被称为分布外（OOD）样本。问题在于，保安可能会感到困惑，并自信地说：“那肯定是个厨师！”因为小丑服包含了一些保安以前见过的颜色。这在现实生活中是危险的（就像自动驾驶汽车把塑料袋误认为岩石一样）。

这篇论文MahaVar提出了一种新方法，让保安能在这些“小丑”惹麻烦之前发现他们。以下是其工作原理的简单分解：

旧方法：“你有多近？”

以前，保安使用一种称为**马氏距离（Mahalanobis Distance）**的方法。想象保安有一张地图，上面为“医生”、“消防员”和“厨师”划定了特定的“区域”。

当新的人到来时，保安测量他们距离“医生”区域中心、“消防员”区域中心等的远近。
如果这个人非常靠近其中一个区域（比如“医生”区域），保安就假设他是医生。
如果他们距离所有区域都很远，保安就假设他们是局外人。

缺陷： 有时，一个困惑的游客可能距离所有区域都同样远，或者仅仅偶然地稍微靠近某一个区域。旧方法只查看最近的一个区域，而忽略了其他区域。

新发现：“陡峭的山峰”与“平缓的山丘”

这篇论文的作者注意到，当将这些距离从最近到最远排列时，它们呈现出一种有趣的现象。

对于真正的医生（分布内）： 距离看起来像一座陡峭的山峰。到“医生”区域的距离极小（即峰顶），但到“消防员”和“厨师”区域的距离极大。最近的那个距离与其余距离之间存在巨大的差距。
- 类比： 想象一名登山者正站在山顶。他们离山顶非常近，但离大本营和任何其他山峰都非常远。高度差巨大。
对于困惑的游客（分布外）： 距离看起来像一座平缓的山丘。这位游客既不靠近“医生”区域，也不靠近“消防员”区域。他们只是处于某种“无处可去”的中间状态。到所有区域的距离大致相同，且都处于中等偏大的水平。
- 类比： 想象一个人站在平坦的高原上。他们距离“医生”峰顶、“消防员”峰顶和“厨师”峰顶的距离都相同。没有陡峭的山峰，只有一片平坦、单调的景观。

“方差”的秘密

论文将这种差异称为方差。

高方差（山峰）： 一个距离极小，其余距离极大。这些数字剧烈波动。这意味着“我绝对是个医生”。
低方差（平缓山丘）： 所有距离都相似。这些数字平淡无奇且平坦。这意味着“我不属于任何特定群体”。

作者意识到，通过测量这些距离“波动”的程度（即方差），他们能够比仅仅查看最近的一个距离更好地分辨真实的 ID 样本和虚假的 OOD 样本。

解决方案：MahaVar

他们构建了一个名为MahaVar的新工具。

它仍然检查这个人离其最近的群体有多近（就像旧方法一样）。
但是，它还增加了一个“方差得分”。它会问：“到最近群体的距离是否显著不同于其他距离？”
如果答案是“是”（高方差），这很可能是一个真实的 ID 样本。
如果答案是“否”（低方差），这很可能是一个 OOD 样本。

为什么有效（“神经坍缩”理论）

论文利用称为**神经坍缩（Neural Collapse）**的概念解释了为什么会发生这种情况。
想象 AI 已经训练了很长时间，以至于“医生”区域收缩成了一个微小、紧密的点，而“消防员”和“厨师”区域则移动到了很远的地方，形成了一个完美的几何形状（像一颗星星）。

真正的医生会被拉进那个微小的“医生”点中。
不属于此处的游客则会卡在点与点之间的空白空间中漂浮。
由于这种几何结构，真实样本自然会形成那种“陡峭山峰”的模式，而虚假样本则形成“平缓山丘”的模式。

结果

作者在著名的图像数据集（如 CIFAR 和 ImageNet）上测试了这种方法。

结果： MahaVar 始终比以前的方法捕获了更多的“小丑”（OOD 样本），并且犯了更少的错误。
局限性： 它在 AI 训练良好且其大脑（维度）中有足够“空间”形成那些完美几何形状时效果最佳。在某些非常复杂的模型上，它仍然表现良好，但“陡峭山峰”不再那么陡峭。

总结

将MahaVar想象为一位不仅问“你离已知群体近吗？”还会问“你与该群体的关系相对于其他人是否独特？”的保安。如果你独特地靠近一个群体而远离所有其他群体，你很可能是一个真正的成员。如果你对所有人都只是“有点近”，那你很可能是一个冒牌货。这种简单的“检查离散度”的添加，使系统变得更加可靠。

技术摘要：MahaVar：基于神经坍缩下类间马氏距离方差的分布外检测

问题陈述
在现实世界环境中部署深度神经网络面临一个关键挑战：在封闭世界假设下训练的模型经常遇到落在训练分布之外（分布外，OOD）的测试样本。这些样本可能导致过度自信甚至灾难性的预测。虽然分布外（OOD）检测对于自动驾驶和医学成像等安全关键领域至关重要，但现有的事后方法（无需重新训练或访问 OOD 数据）通常依赖有限的信号。具体而言，基于马氏距离的检测器作为一种强有力的基线，通常仅关注到最近类条件高斯分布的最小距离，从而可能忽略跨所有类的距离结构几何特征。

方法论：MahaVar
作者提出了MahaVar，这是一种简单而有效的事后 OOD 检测器，它在标准马氏距离的基础上增加了类间距离方差项。该方法的逻辑基础如下：

经验观察：作者观察到，对于分布内（ID）样本，排序后的类间马氏距离表现出“显著的尖锐最小值结构”。到最近类的距离显著小于到其他所有类的距离，而其他距离保持较大且相对均匀。相比之下，OOD 样本的最小值表现不明显，到所有类的距离都相对较大且变异性较小。这种结构不对称性意味着，与 OOD 样本相比，ID 样本的类间距离具有更高的方差。
理论依据（神经坍缩）：本文基于神经坍缩（Neural Collapse）提供了理论分析，这是一种几何现象，即每个类的倒数第二层特征向该类均值坍缩，且类均值自身排列成单纯形等角紧帧（ETF）。在放宽的神经坍缩假设下（具体为类内紧凑性和类间分离性），作者证明了 ID 样本在结构上表现出严格高于 OOD 样本的类间距离方差。定理 4.3 和推论 4.4 确立了保证这种方差分离的充分条件，特别是当 OOD 样本与类均值保持足够的角度分离，或不位于类均值所张成的子空间内时。
评分函数：提出的 OOD 评分 $S(x)$ 结合了负的最小马氏距离与这些距离的类间方差：
$S(x) = -\min_{c} d_{Maha,c}(\hat{\phi}(x)) + \alpha \cdot \text{Var}_c[d_{Maha,c}(\hat{\phi}(x))]$
其中 $\hat{\phi}(x)$ 表示 L2 归一化的倒数第二层特征， $\alpha$ 是控制方差项权重的超参数。

主要贡献
本文做出了三项主要贡献：

经验发现：识别出一种此前未被利用的结构不对称性：ID 样本在类间马氏距离中表现出尖锐的最小值（高方差），而 OOD 样本表现出更平坦的分布（低方差）。
理论论证：对这一观察结果与神经坍缩几何特性之间的联系进行了原则性分析，证明在特定几何条件下，ID 样本在类间距离方差上严格优于 OOD 样本。
算法提出：引入了 MahaVar，这是一种将方差项集成到 Mahalanobis++ 框架中的事后检测器。

实验结果
作者遵循OpenOOD v1.5基准协议，在三个分布内（ID）设置（CIFAR-10、CIFAR-100 和 ImageNet）下，使用近 OOD 和远 OOD 评估设置对 MahaVar 进行了评估。

性能：在所有评估方法中，MahaVar 在 CIFAR-100 和 ImageNet 上实现了**最先进（SOTA）**的性能。
与基线比较：在所有三个基准测试中，就 AUROC 和 FPR@95 而言，它始终优于所有基于马氏距离的基线（包括 Mahalanobis 和 Mahalanobis++）。
鲁棒性：在大规模 ImageNet 基准测试中，在三种骨干架构（ResNet-50、Swin-B 和 ViT-B）上取平均值，MahaVar 实现了最佳的平均 AUROC 和 FPR@95。值得注意的是，虽然其他激活整形方法（如 ASH-S 和 SCALE）在基于 Transformer 的骨干网络（Swin-B、ViT-B）上性能显著下降，但 MahaVar 保持了稳定且优越的性能。
消融研究：实验证实，即使没有 L2 归一化，方差项也能提供有意义的互补信息，尽管 L2 归一化与方差的结合能产生最佳结果。该方法对距离度量（L1、L2、马氏距离）的选择也具有鲁棒性，其中马氏距离因其对协方差结构的处理能力而表现最佳。

意义与主张
本文主张，完整的类间距离结构包含比仅靠最近类距离更丰富的判别信息。通过利用神经坍缩的几何特性，MahaVar 提供了一种具有理论依据且经验上稳健的 OOD 检测方法。作者强调，这种方法对于重新训练模型不切实际的现实世界部署尤为有价值。

然而，作者对局限性保持了谦逊的态度：

在 CIFAR-10 上，基于 KNN 的方法仍实现了略高的 AUROC，这表明在类别数量较少的设置中，非参数方法可能更优越。
理论框架依赖于神经坍缩假设，这些假设假定网络处于训练末期且训练良好。作者指出，放宽这些假设以涵盖更通用的特征几何是未来的工作方向。
实际实现省略了理论证明中使用的全局均值中心化步骤，因为发现中心化会由于 ReLU 激活诱导的非负特征几何而降低 ResNet-50 的性能。