想象一下，你是一名侦探，正试图在一辆崭新的、昂贵的汽车上寻找一个微小的划痕。你有一个超级智能的机器人助手，它配备了一个可以观察车辆每一寸角落的摄像头。但问题在于，这个机器人非常彻底，它会检查汽车上的每一个平方毫米，甚至包括那些完美无瑕、光洁亮丽的部分。它会花费 99% 的时间去检查那些干净的漆面，仅仅是为了确保万无一失，然后才最终发现那个划痕。这非常缓慢且低效，尤其是当你每天需要检查数千辆车的时候。

这正是现代“零样本异常检测”（Zero-Shot Anomaly Detection）所面临的问题。在计算机视觉领域，“零样本”意味着计算机可以识别它从未见过的缺陷——比如在一种新型医疗扫描图像中发现裂缝，或者在它未经过训练的工厂零件中发现瑕疵。为了实现这一点，这些计算机使用庞大的“视觉 Transformer”（ViTs），它们就像巨大的大脑，将图像分解成数千个微小的拼图碎片（称为“token”或“特征单元”），并对它们进行分析。问题是，这些大脑既沉重又缓慢。它们对待一张完美的图像和一张有缺陷的图像的方式是一样的，会对每一个拼图碎片进行繁重的计算，尽管那个“坏掉”的碎片通常只是浩瀚海洋中的一个微小斑点。

于是，KeepAD 诞生了。它是一种全新的方法，扮演着这些巨大大脑的“智能且具备风险意识的编辑”的角色。与其让机器人检查汽车的每一寸面积，KeepAD 教会机器人快速扫描表面，盯住最可疑的地方，并忽略那些枯燥、完美的局部。但它遵循一个非常谨慎的规则：“不要丢弃证据。”如果机器人不确定某个点是划痕还是仅仅是阴影，它就会保留该点。它只删除那些枯燥、安全的局部。结果是，机器人的速度变得极快——在某些测试中快了近 8 倍——同时又不会错过那些它本应发现的微小缺陷。这就像是一个能以极短时间在干草堆中找到针头的侦探，其秘诀在于他能迅速忽略那些确定只是干草的部分。

问题所在：“干草堆”陷阱

在工业和医疗安全领域，寻找缺陷是一场“大海捞针”的游戏。大多数时候，图像是完美的（干草），而缺陷是稀有且微小的（针）。目前的 AI 模型就像一个非常勤奋但缓慢的图书管理员，为了找出一个错别字，要读完图书馆里每一本书的每一页。即使错别字只在第 42 页，图书管理员也会以同样的强度阅读第 1 页到第 41 页。

这是低效的。论文指出了一种被称为**“非对称剪枝风险”（Asymmetric Pruning Risk）**的特定危险。如果你试图通过删除“不重要”的页面（token）来提高速度，你可能会不小心把带有错别字的那一页也给扔掉了。在普通的图像识别（如识别一只猫）中，删除一些像素影响不大，因为猫的面部特征随处可见。但在缺陷检测中，“猫”是整张图像，而“缺陷”则是微小且隐藏的细节。如果你删错了 token，你就丢失了唯一的证据。

解决方案：KeepAD 的两阶段策略

该论文的作者提出了 KeepAD（Keep Anomaly Detection），这是一个像智能过滤器一样的系统。它不仅仅是随机删除，而是使用一个两步走的流程，随着它对图像“观察”的深入，不断调整其策略。

第一阶段：“安全网”（浅层网络）
当 AI 最初观察图像时，它还无法确定缺陷的具体样子。这就像看一张模糊的照片。如果它现在就尝试猜测哪些部分应该删除，它可能会误删缺陷。因此，KeepAD 使用了一种**“保持覆盖率”（Coverage-Preserving）**的策略。想象一下，图像是一个由 2x2 方格组成的网格。KeepAD 要求：“无论如何，我们必须在每一个 2x2 的方格中至少保留一个碎片。”这确保了即使缺陷非常微小且孤立，也不会被完全抹除。它还加入了一个“救援”机制：如果一个点看起来略有风险，即使它不是最明显的，也会被保留下来。这一阶段是保守的；宁可多留一点干草，也不要弄丢那根针。

第二阶段：“狙击手”（深层网络）
随着 AI 在图像处理过程中的深入，它开始理解正常纹理与真实缺陷之间的区别。现在，它可以更加激进。KeepAD 切换到了**“异常自适应”（Anomaly-Adaptive）**模式。它利用“原型”（Prototypes）——即关于“正常”和“异常”的心理模板。如果一个 token 明显符合“正常”模板，它就会被删除；如果它看起来像缺陷，它就会保留。

至关重要的是，第二阶段是**“图像自适应”（Image-Adaptive）**的。它不会对每张图片都使用固定的规则。如果一张图像看起来非常可疑（有很多潜在缺陷），KeepAD 会保留更多的 token 以确保安全。如果图像看起来非常干净，它会删除更多 token 以节省时间。这就像一名保安，会仔细检查可疑的提包，但对清晰、空的包只是扫一眼。

核心秘诀：在不丢失的前提下学习

实现这个系统的难点之一在于如何教 AI 做这些决定。如果 AI 删除了一个 token，计算机就无法再“看到”它来进行学习。为了解决这个问题，作者使用了名为**“从稠密到稀疏的自蒸馏”（Dense-to-Sparse Self-Distillation）**的技巧。

想象一下老师和学生。 “老师”是完整的、缓慢的 AI，它观察每一个 token。而“学生”是快速的、经过剪枝后的 AI，它只观察少数几个。在训练期间，老师观察整张图像并说道：“嘿，看这个地方！虽然它起初看起来很平庸，但后来证明它很重要。”学生学会了在删除任何东西 之前，先注意到这些关键点。这使得学生在不需要每次都看全图的情况下，也能变得高效。一旦训练完成，老师就会离开，由学生独自掌控全局，运行速度极快。

实验结果：快速且准确

研究人员在 13 个不同的基准测试上测试了 KeepAD，涵盖了从工业零件（如金属片和电路板）到医疗图像（如脑部扫描和 X 光片）的广泛领域。

• 速度： KeepAD 是一个速度达人。它将 AI 需要处理的 token 数量减少到了原来的 20% 以下。在最激进的设置下，它比目前最强大的基于 CLIP（一个著名的 AI 模型）的方法快了 7.9 倍。
• 准确度： 尽管丢弃了大量数据，它却没有漏掉缺陷。其准确度的下降非常微小——平均下降不到 2.7 个百分点。在许多情况下，它的准确度几乎与缓慢的完整版版本持平。
• 可靠性： 该系统成功避免了“完全漏检”（即缺陷被完全删除的情况）。最初阶段的“保持覆盖率”策略是关键，它确保了没有任何微小的缺陷会在处理过程中丢失。

为什么这很重要

这篇论文不仅提出了一种让 AI 更快的新方法，更解决了一个“速度往往以牺牲安全性为代价”的特定危险问题。通过证明你可以通过剪枝（删除）大部分数据而不丢失关键的“针”，KeepAD 让高水平的缺陷检测能够在需要高速运行的现实系统中落地，例如装配线或紧急医疗筛查。它表明，只要策略得当——在开始时保持谨慎，在结束时保持聪明——你就可以兼顾速度与准确度。