💻 computer science

Multi-AD: Cross-Domain Unsupervised Anomaly Detection for Medical and Industrial Applications

该论文提出了 Multi-AD，这是一个跨域无监督异常检测框架，它通过整合挤压-激励模块（squeeze-and-excitation blocks）、知识蒸馏和判别器网络，在检测多种医学和工业成像数据集中的细微异常方面达到了最先进的性能。

原作者： Wahyu Rahmaniar, Kenji Suzuki

发布于 2026-02-06

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Wahyu Rahmaniar, Kenji Suzuki

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名工厂的质量控制检测员，或者是一名正在观察 X 光片的医生。你的工作是发现错误——金属零件上的微小划痕，或是大脑扫描中的微小肿瘤。问题在于，“错误”的东西是罕见的。你拥有成千上万张完美、正常的图像，但只有寥寥数张损坏的样本。要训练计算机识别这些损坏的物品是很困难的，因为你没有足够的例子来展示给它看。

这篇论文介绍了一种名为 Multi-AD 的新计算机程序，它解决了这个问题。Multi-AD 并不向计算机展示“损坏”事物的例子，而是教计算机成为一个了解“完美”长什么样的专家。然后，它利用一个巧妙的技巧来发现任何不符合这种完美模式的东西。

以下是 Multi-AD 的工作原理，通过简单的概念进行拆解：

1. “老师”与“学生”（知识蒸馏）

想象一位大师级厨师（老师），他完全知道一个完美的蛋糕应该看起来、尝起来和感觉起来是什么样的。这位厨师从未见过烧焦的蛋糕，因为他们只在完美的食材上进行练习。现在，想象一位学生厨师（学生）正在努力学习。

在 Multi-AD 中，“老师”是一个强大的计算机模型，它研究了成千上万张完美的医学扫描图和工业照片。它对“正常”的模式了如指掌。“学生”是一个更小、更快的模型，它试图模仿老师的大脑。

技巧： 学生不仅仅是试图记住图片；它试图模仿老师的思维过程。当老师看一张正常的肝脏扫描图时，学生学习如何以同样的方式去看待它。
结果： 当学生看到一张带有缺陷（如肿瘤或划痕）的图片时，它会感到困惑。它会想：“等等，这看起来不像老师教给我的那样！”这种困惑就是报警铃，它在说：“这里出问题了。”

2. “裁判”（判别器）

为了确保学生真的在学习而不仅仅是在瞎猜，还有一个第三个角色：一个严格的裁判（称为判别器）。

裁判的工作是玩一场“真或假”的游戏。它观察老师看到的特征和学生产生的特征。
如果学生做得很好，裁判就无法分辨老师的视角和学生的视角之间的区别。
如果学生看到了奇怪的东西（异常情况），它的特征在裁判看来就会显得很“假”。裁判随后会大喊：“这不正常！”这迫使学生变得更加擅长发现差异。

3. “超级眼睛”（挤压与激励模块）

有时候，缺陷是非常微小的，比如螺钉上的发丝裂纹或视网膜上的一个小点。普通的相机可能会错过它。Multi-AD 使用了一种特殊的镜头，称为挤压与激励（Squeeze-and-Excitation, SE）模块。

这可以想象成黑暗房间里的一束聚光灯。计算机正在观察一张包含数千个细节的大图像。SE 模块的作用就像一束聚光灯，它会说：“忽略背景噪音；只关注这个特定的信息通道。”它帮助计算机忽略无关紧要的内容，并专注于那些指示问题的微小、微妙的线索。

4. 兼顾全局与细节（多尺度融合）

异常情况有各种各样的尺寸。一个损坏的机器零件可能有一个巨大的凹痕（大尺度），也可能有一个微小的划痕（小尺度）。

Multi-AD 不仅仅用一种方式观察图像。它同时通过四个不同的“缩放级别”来观察：

缩放 1： 观察精细的纹理（例如木材的纹理）。
缩放 2 & 3： 观察局部形状和结构。
缩放 4： 观察整个画面以观察大的形变。

然后，它将所有这些视角组合成一张最终的地图。这就像拥有一支由四名侦探组成的团队：一个寻找指纹，一个寻找脚印，一个寻找碎玻璃，还有一个观察整个犯罪现场。他们通过分享笔记来创建一张单一且完美的地图，标明问题所在。

他们测试了什么？

作者在两个截然不同的领域测试了这个系统：

医学： 他们使用了脑部扫描（MRI）、肝脏扫描（CT）和眼底扫描（OCT）。他们想看看它是否能发现肿瘤或疾病。
工业： 他们使用了著名的“MVTec AD”数据集，其中包括具有各种缺陷（如划痕、凹痕或缺失部件）的纹理（如地毯和皮革）以及物体（如瓶子、螺钉和药丸）的照片。

结果

论文声称，与其他顶尖方法相比，Multi-AD 是该领域的佼佼者。

在医学领域： 它正确识别异常图像的概率为 81.4%，并能精准定位问题位置的概率为 97.0%。
在工业领域： 它表现得甚至更好，识别不良产品的概率为 99.6%，定位精确缺陷的概率为 98.4%。

论文总结道，通过结合“老师-学生”学习、“裁判”游戏以及“超级眼睛”，Multi-AD 可以在无需预先展示“损坏”示例的情况下，发现医疗和工厂环境中的隐藏问题。它的成功在于它对“完美”的理解如此深刻，以至于任何不如完美的事物都会立刻显现出来。

技术摘要：用于跨领域无监督异常检测的多重异常检测（Multi-AD）框架

问题陈述

异常检测（AD）对于医学领域的早期疾病诊断和工业制造中的缺陷检测至关重要。然而，一个主要的瓶颈是标注异常数据的稀缺性。异常案例本质上是罕见的，获取标注数据——特别是在医学影像领域——不仅耗时耗力、成本高昂，且受观察者间差异性的影响。虽然自监督学习（SSL）通过在无标签“正常”数据上进行训练已成为一种解决方案，但其性能在训练数据有限或类内差异性较高（例如，多样化的解剖结构或复杂的工业环境）的情况下往往会退化。此外，现有的知识蒸馏（KD）方法通常局限于单领域应用，且在跨模态或跨领域迁移方面缺乏鲁棒性。

方法论：Multi-AD 框架

作者提出了 Multi-AD，这是一个卷积神经网络（CNN）框架，旨在实现针对医学和工业领域的稳健无监督异常检测。该方法通过结合领域无关特征学习与基于增强型教师-学生（T-S）架构的领域特定自适应，集成了三个核心组件：

1. 增强型骨干网络与挤压-激励（SE）模块

其骨干网络是一个改进的 WideResNet-50 架构，包含以下特性：

空洞卷积（Dilated Convolutions）： 应用于四个残差阶段，并采用递增的空洞率（ $r=1, 2, 4, 8$ ），以在保持空间分辨率的同时扩大感受野。这使得模型能够同时捕捉局部细节（如微小裂纹）和全局上下文（如结构畸变）。
挤压-激励（SE）模块： 集成在每个残差阶段中，用于执行通道维度的特征重新校准。该机制通过全局平均池化计算通道统计信息，并利用全连接层生成缩放因子，从而使网络能够强调信息丰富的特征并抑制无关特征。
多尺度特征融合： 一个卷积层将来自低层和高层的特征进行融合，以结合细粒度细节与高层语义信息。

2. 基于特征对齐的知识蒸馏（KD）

该框架采用 T-S 架构，其中预训练的**教师（T）模型（冻结状态）向可训练的学生（S）**模型传递知识。

训练机制： 模型仅在正常（无异常）数据上进行训练。
特征对齐： S 模型被训练以模仿 T 模型的特征表示。来自两个模型关键层的特征均经过 L2 归一化。
损失函数： 特征生成器损失（ $\mathcal{L}_G$ ）最小化了 T 模型和 S 模型在多个层级上归一化激活向量之间的欧几里得距离（通过余弦相似度实现）。这确保了 S 模型学习到正常数据的内在分布。

3. 判别器（D）网络与对抗训练

为了进一步精炼正常与异常数据之间的区别，引入了一个**判别器（D）**网络：

架构： 一个处理特征图并输出概率得分的卷积网络，用以指示输入是“真实”（T 模型特征）还是“伪造”（S 模型特征）。
对抗目标： D 网络通过二元交叉熵（BCE）损失进行优化，以区分 T 特征和 S 特征。相反，S 模型通过对抗项（ $\mathcal{L}_{adv}$ ）进行训练以“欺骗”D 网络，迫使 S 模型生成的特征图在分布上与 T 模型的正常分布无法区分。
总损失： S 模型的总损失结合了特征对齐项和对抗项： $\mathcal{L}_S = \mathcal{L}_G + \lambda \mathcal{L}_{adv}$ 。

4. 卷积增强型多尺度特征融合（MFF）

在推理阶段，通过计算 T 和 S 特征在多个层级（ $M_1$ 到 $M_4$ ）之间的像素级余弦差异来生成异常图。

精炼： 与简单的求和不同，所提出的 MFF 在融合前对每个尺度的异常图应用 1×1 卷积、批归一化（Batch Normalization）和 ReLU，以精炼特征图，从而解决尺度变化和空间错位问题。
聚合： 精炼后的特征图通过双线性插值进行组合，并使用高斯滤波器进行平滑处理，以生成最终的异常图。图像级的异常得分由该图的最大响应值导出。

核心贡献

论文概述了四个主要贡献：

跨领域框架： 一个统一的 AD 框架，实现了领域无关（共享）与领域特定（自适应）特征学习的解耦，展示了在医学（MRI、CT、OCT）和工业数据集上的泛化能力。
卷积增强型 MFF： 一个新颖的模块，通过在融合前精炼多尺度特征，提高了对大小不一的异常的定位能力。
liệu
自适应判别器： 集成了带有自适应注意力机制的 D 网络，实现了跨多种成像模态的精确异常定位。
精确定位： 提供了用于定位疾病和产品缺陷的准确异常图，并通过广泛的实验得到了验证。

实验结果

Multi-AD 在三个医学数据集（用于脑部 MRI 的 BraTS2021、用于视网膜 OCT 的 RESC 以及用于肝脏 CT 的 BTCV/LiTs）和 MVTec AD 工业基准测试上进行了评估。

医学性能： Multi-AD 实现了平均 图像级 AUROC 为 81.4%，像素级 AUROC 为 97.0%，超越了包括 PaDiM、PatchCore、SimpleNet、STFPM、RD4AD 和 MKD 在内的先进模型。
工业性能： 在 MVTec AD 上，该模型实现了平均 图像级 AUROC 为 99.6% 和 像素级 AUROC 为 98.4%，始终优于基于聚类和基于重构的方法。
消融研究：
- 去除 SE 模块 会降低像素级 AUROC，证实了其在聚焦信息丰富特征方面的作用。
- 去除 判别器（D） 会显著降低性能（例如，医学像素级 AUROC 从 97.0% 下降到 93.2%），凸显了对抗精炼的重要性。
- 去除 MFF 会导致定位精度明显下降，验证了卷积精炼对于多尺度融合的必要性。

重要性与主张

作者声称 Multi-AD 为标注异常数据稀缺的实际应用场景提供了一个稳健的解决方案。通过利用知识蒸馏（KD）和对抗训练，该模型能有效学习正常数据的分布，并在无需异常标签进行训练的情况下检测出细微偏差。

论文强调，Multi-AD 能够生成清晰、聚焦的异常热图，且误报率极低，这使其优于产生宽泛、模糊图谱的聚类方法，以及难以处理复杂纹理的重构方法。该框架展示出的跨领域泛化能力表明，它可以无需大规模重新训练即可部署在多样化的医学和工业环境中，解决了对可扩展且可靠的异常检测系统的迫切需求。然而，作者也谦虚地指出，MFF 和对抗网络的集成增加了计算复杂度，这可能会给资源受限环境下的实时实现带来挑战。