⚡ electrical engineering

MaRS: Robust Out-of-Distribution Detection via Mahalanobis Residual Scoring

本文介绍了 MaRS，一种无需标签的后验式分布外检测器，它通过利用重构残差上的马氏距离来捕捉方差感知偏差，克服了标准基于重构方法的局限性，从而在多种医学成像模态和分布偏移下实现了卓越的性能。

原作者： Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Francesco Di Salvo, Sebastian Doerrich, Christian Ledig

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

大问题：当 AI 感到困惑时

想象一下，你有一位非常聪明的 AI 医生，它已经学习了成千上万张健康成年人肺部的 X 光片。它非常清楚什么是“正常”的成年人肺部。

现在，想象一下如果给这个 AI 看一张儿童肺部的 X 光片。尽管它仍然是肺部，但形状和大小都不同。或者，想象一下如果这张 X 光片是用不同品牌的机器拍摄的，导致图像看起来稍微有些颗粒感。

对于 AI 来说，这些新图像看起来很“奇怪”。在技术术语中，它们被称为分布外数据 (Out-of-Distribution, OOD)。危险在于，AI 可能会尝试强行对它们进行诊断，并自信地给出一个错误的答案。我们需要一个“保安”，能在 AI 尝试进行诊断之前识别出这些奇怪的图像，并发出警告：“嘿，我没见过这样的东西；我不确定这个。”

旧方法：测量“距离”与“重构”

科学家们曾尝试通过几种方式来构建这个保安：

置信度检查： 询问 AI：“你有多确定？”（但 AI 可能会表现得非常自信却给出了错误答案）。
距离检查： 测量新图像与 AI 已知图像之间的距离。
重构检查： 这是本文关注的方法。想象你有一个机器，它试图根据它所知道的内容来重新绘制图像。
- 如果你给它看一个正常的肺部，它能完美地重绘它。
- 如果你给它看一个儿童的肺部，它就会感到吃力。它会试图强行将儿童的肺部变成成年人的样子，而“重绘”后的版本看起来会很混乱。
- 原图与那个混乱的重绘版本之间的差异被称为残差 (residual)（或误差）。

缺陷： 旧方法测量这种误差的方式就像使用一把标准直尺。它只是平等地累加所有的错误。如果 AI 在 100 个不同的地方都犯了微小的错误，总误差看起来就会很大。但如果它在某个特定方向上犯了一个巨大的、奇怪的错误，这把直尺可能会漏掉它，因为它对待每个方向的方式都是一样的。

新方案：MaRS（马哈拉诺比斯残差评分）

本文的作者意识到，AI 的错误并不是随机的。它们具有特定的形状。

类比：“弹性蹦床”

想象 AI 对“正常肺部”的认知就像一个被拉伸成特定形状的蹦床。

正常肺部（分布内）： 它们正好落在蹦床上。如果你在上面丢一个球，它会轻微跳动（微小误差），因为蹦床在某些方向上是有弹性的，而在其他方向上是僵硬的。
奇怪的肺部（分布外）： 它们试图坐在蹦床之外。

旧方法 (L2 范数)： 这种方法只是测量球在蹦床之上的总高度。它不在乎球在哪个位置。如果蹦床在某个方向上非常有弹性（容易拉伸），那么球在那里跳得很高并不一定意味着它很“奇怪”——这只是蹦床本身的特性。

MaRS 方法 (马哈拉诺比斯距离)： 这种方法更聪明。它观察的是蹦床的纹理。

它知道在某些方向上，蹦床是非常僵硬的（很难拉伸）。如果球在这些僵硬的方向上哪怕只有一点点偏移，那都是一件大事。
在其他方向上，蹦床是松软且有弹性的。如果球在这些松软的方向上有所偏移，那可能只是正常的噪声。

MaRS 使用一把特殊的“数学直尺”，它会放大僵硬方向上的误差，并忽略松软方向上的误差。这使得它能比旧直尺更好地识别出那些真正奇怪的图像。

他们是如何测试的

研究人员在三种不同类型的医学图像上测试了这个“智能直尺”：

显微镜切片（寻找癌细胞）。
胸部 X 光片（对比成年人与儿童）。
皮肤照片（对比不同类型的痣）。

他们使用了不同的“大脑”模型（骨干网络）来处理图像，范围从小型到大型模型不等。

结果

更好的检测能力： MaRS 比旧方法（如标准重构或距离检查）更准确地捕捉到了“奇怪”的图像。
无需标签： 它不需要被教导什么是“儿童肺部”或“不同的机器”。它只需学习什么是“正常”，就能识别出偏差。
适用于大模型和小模型： 无论 AI 是小型简单的模型还是庞大复杂的模型，它都表现良好。
秘诀所在： 论文发现，“奇怪”的信号通常隐藏在数据的安静、僵硬的方向中。旧方法忽略了这些安静的方向，但 MaRS 调高了它们的音量。

总结

本文介绍了 MaRS，这是一个帮助 AI 系统意识到自己正在看从未见过之物的新工具。它不再仅仅用一把简单的直尺来测量一张图片看起来有多“错”，而是使用一把智能且灵活的直尺，它清楚地知道哪些类型的错误至关重要，而哪些仅仅是正常的噪声。这使得医疗 AI 在面对新患者或新设备时更加安全、可靠。

技术摘要：MaRS —— 基于马哈拉诺比斯残差评分的鲁棒分布外检测

问题陈述
基础模型为医学图像提供了极具描述性的表示，但由于患者群体、成像设备或采集条件的改变，其可靠性会在分布偏移下下降。虽然分布外（Out-of-Distribution, OOD）检测对于安全的临床部署至关重要，但现有方法面临特定的局限性。基于置信度的方法往往因类别不平衡和校准失效而表现出脆弱性。基于距离的方法（如 Deep kNN、Mahalanobis）在高维嵌入空间中性能会退化，因为在这些空间中，最近邻距离的解释性降低，且协方差估计难以正则化。基于重构的方法通过学习分布内（In-Distribution, ID）流形并标记具有较大重构误差的样本，但在应用中普及率有限。作者认为，这种不一致性并非源于重构质量较差，而是源于如何对重构误差进行评分。标准方法使用统一的 $L_2$ 残差范数，这会塌缩残差的各向异性结构，从而抑制了发生在低方差方向上的信息性偏差。

方法论：MaRS
作者引入了 MaRS（Mahalanobis Residual Scoring，马哈拉诺比斯残差评分），这是一种无需标签、完全后验的 OOD 检测器，旨在作用于冻结的骨干网络特征。该方法由三个主要部分组成：

通过自动编码器进行流形投影： 给定一个产生特征 $z$ 的冻结骨干网络 $\Phi$ ，在 ID 特征上训练一个轻量级自动编码器 $(E, D)$ ，以最小化重构损失 $\|z - \hat{z}\|_2^2$ 。从几何上看，这实现了将 $z$ 投影到 ID 流形 $\Pi_{M_{ID}}(z)$ 上。重构残差定义为 $r(x) = z - \hat{z}$ 。
残差空间分析： 作者观察到，虽然 ID 残差较小且反映了重构缺陷，但 OOD 残差包含反映偏离已学习流形的系统性成分。至关重要的是，这些残差的分布具有高度的各向异性。
马哈拉诺比斯评分： MaRS 不使用统一的 $L_2$ 范数，而是计算残差空间中的马哈拉诺比斯距离：
$S_{MaRS}(x) = r(x)^\top \Sigma^{-1} r(x)$
其中 $\Sigma$ 是 ID 残差的协方差矩阵。通过特征分解 $\Sigma = U\Lambda U^\top$ ，该评分可以表示为在主成分上的平方投影的加权和：
$S_{MaRS}(x) = \sum_{i=1}^{D} \frac{(u_i^\top r(x))^2}{\lambda_i}$
这种公式放大了沿低方差（稳定）方向的偏差（其中 $\lambda_i$ 很小），并降低了高方差方向的权重（其中 $\lambda_i$ 很大）。与依赖类条件均值的嵌入空间马哈拉诺比斯方法不同，MaRS 是无需标签的，它依赖于单一的全局残差协方差，从而有效地抑制了类别语义变化，以隔离分布漂移。

核心贡献

MaRS 框架： 一个即插即用的、无需标签的 OOD 检测器，它将马哈拉诺比斯距离应用于自动编码器的重构残差。它直接作用于冻结的骨干网络特征，确保了计算效率和跨模态的可适应性，且无需对骨干网络进行微调。
识别残差各向异性： 本文识别出残差各向异性是此前被忽视的关键信号，用于 OOD 检测。研究表明，残差空间中基于方差的马哈拉诺比斯评分在性能上显著优于统一的 $L_2$ 聚合。
对架构和规模的鲁棒性： 作者展示了 MaRS 在不同骨干网络架构（监督式 ViT 和自监督 DINOv3）以及不同模型规模（Small 和 Base）下均保持鲁棒。此外，该方法受益于在**预归一化（pre-normalization）**特征上运行，在此处内在的各向异性方差结构得以保留，而传统的潜空间基准方法则需要进行归一化。

实验结果
作者在三种成像模态（组织病理学、胸部 X 光、皮肤病学）、多种类型的分布偏移（协变量偏移、近 OOD、远 OOD、语义偏移）以及不同的模型族中进行了广泛的实验。

性能： MaRS 一致地优于建立的基于置信度（MSP, ODIN, ViM）、基于距离（Deep kNN, OCSVM, Mahalanobis++）以及基于重构（Residual, AE）的基准方法。
统计显著性： 在 AUROC 和 FPR@95 指标上，MaRS 在 3 次运行和 5 个数据集划分中均显著优于 Mahalanobis++（最强的潜空间基准方法）（配对 Wilcoxon 符号秩检验， $p < 0.05$ ）。
消融研究发现： 对残差协方差的光谱分析显示，超过 90% 的方差集中在不足三分之一的主成分中。研究发现 OOD 偏差集中在剩余的低方差方向中。在低方差子空间中，OOD 与 ID 残差能量的比值大了 1.64 倍，证实了马哈拉诺比斯评分能有效隔离这些信息性信号。
归一化敏感性： 虽然归一化可以提升标准潜空间基准方法的性能，但它会通过压平方差谱并抑制其中最具代表性的低方差方向，从而降低 MaRS 的性能。

意义
本文声称，现有基于重构的 OOD 检测器的核心局限在于其隐含的各向同性重构误差假设。通过使用协方差感知的马哈拉诺比斯评分取代统一的 $L_2$ 聚合，MaRS 解决了这一局限性。作者断言，这种方法为冻结表示的后验 OOD 检测提供了一个简单而强大的原则，提供了一种鲁棒、无需标签的解决方案，能够跨医学影像模态和模型规模进行泛化，且不依赖于类别标签或预定义的子空间假设。这项工作表明，未来医学 OOD 检测的改进可能取决于对残差空间各向异性的更好建模，而非仅仅依赖于提高重构质量或骨干网络表示。