🤖 machine learning

Memory-Bounded Continuation of Greedy Sampling for Continual Anomaly Detection

本文介绍了 ContCore，这是一种通过对新数据和现有数据迭代应用贪婪采样来维持固定内存预算的持续异常检测方法，从而在具有理论保证的情况下保持了核心集（coreset）的代表性，并在多个基准测试中实现了最先进的性能。

原作者： Yoon Gyo Jung, Jaewoo Park, Kuan-Chuan Peng, Seongdeok Bang, Octavia Camps

发布于 2026-08-18

📖 1 分钟阅读☕ 轻松阅读

原作者： Yoon Gyo Jung, Jaewoo Park, Kuan-Chuan Peng, Seongdeok Bang, Octavia Camps

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在制造汽车的工厂、扫描人体组织的医院以及保障数据安全的网络中，都需要一个沉默的守护者：一个能够识别出那唯一异常之处的系统。这就是异常检测的任务。不同于那些明确知道窃贼长相的安全警卫，这些系统通常仅针对“正常”事物进行训练——完美的齿轮、健康的组织、洁净的代码。它们如此深刻地学习了“正确”的形态，以至于当出现哪怕极其微小的偏差时，它们就会拉响警报。当环境发生变化时，挑战也随之增加。想象一个工厂开始生产一种新型发动机零件，接着是另一种，再接着是另一种。一个仅针对第一种零件进行训练的系统，可能会在学习新零件后忘记如何识别旧零件，或者它可能仅仅是因为内存空间不足，无法存储它所见过的所有细节。这就是“灾难性遗忘”问题——即学习新事物会导致机器丢失旧知识；以及“内存限制”问题——即系统无法存储无限长的示例列表。

长期以来，研究人员一直试图通过创建一个包含所有正常数据的精简且完美的摘要（即一组代表整体的关键示例集合）来解决这个问题。构建这种摘要的最佳方式是挑选彼此之间差异尽可能大的示例，从而确保“正常”世界的任何部分都不会被遗漏。然而，当新任务接踵而至时，如何在保持这个摘要完美的同时，又不让它无限膨级，是一项极其困难的任务。如果你只是简单地添加新示例，内存就会填满；如果你为了腾出空间而删除旧示例，你就有可能失去识别原始任务的能力。由尹圭成（Yoon Gyo Jung）及其同事领导的研究团队发现了一种方法，无论系统遇到多少个新任务，都能保持这种摘要既精简又完美。他们开发了一种名为 ContCore 的方法，该方法允许机器在持续学习新的正常模式序列时，永远不会忘记旧有的模式，同时始终使用固定的内存量。

他们发现的核心在于如何更新内存。他们并没有尝试存储每一个新的示例，也没有使用容易遗忘的复杂神经网络，而是采用了一种简单但强大的选择策略。当一批新的正常数据到达时，系统首先寻找与它已记忆内容差异最大的新示例。它挑选这些“最远距离”的示例加入到自己的收藏中。然后，为了确保总示例数保持在严格的内存限制内，它会进行第二次选择。它审视整个集合——包括旧示例和新示例——并从中挑选出分布最广的一组示例，使其符合容量限制。这个两步走的过程，即他们称之为“贪婪扩张”（greedy expansion）紧接着“贪婪整合”（greedy consolidation）的过程，确保了内存始终包含迄今为止所见事物的最具代表性的样本。

研究人员展示了这种方法之所以奏效，是因为它保留了正常数据的“形状”。尽管系统在每一步都会丢弃许多示例以维持其内存预算，但它所保留的示例经过精心挑选，依然能够覆盖所有正常变化的范围。他们在数学上证明了，这个不断更新的小型内存与完美的、无限容量的内存之间的差距始终是微小且受控的。在实践中，这意味着该系统不会遭受困扰其他方法的灾难性遗忘。在针对各种任务（从简单的单类更新到复杂的多个不同类别序列）的测试中，他们的系统表现始终优于现有的最先进方法。在标准工业数据集上，它在检测缺陷方面实现了更高的准确率，同时几乎没有遗忘之前学到的任何内容。

这种方法之所以特别稳健，在于其高效性。与其他需要大量计算能力或海量数据进行重新训练的方法不同，该系统通过简单的选择过程来更新其内存。它不需要重新学习旧任务，也不需要存储大量的原始图像。在测试中，当系统必须逐张图像进行学习时（在这种场景下，其他方法往往会显著失效），ContCore 依然保持了高性能。研究人员还证明了该方法在不同类型的数据和硬件上都能表现良好，这证明了精心挑选一小组具有代表性的样本，比单纯投入更多计算能力更具威力。通过保持内存的有界性并维持高代表性，他们为机器如何在不丢失过去的前提下适应变化的世界提供了一种可靠的方式。

技术摘要：面向持续异常检测的贪婪采样记忆受限连续过程

问题陈述

无监督异常检测（AD）对于制造业和网络安全等行业至关重要，然而，在正常样本与无界异常之间建立决策边界仍然具有挑战性。虽然早期的模型通过为每个类别训练单独的模型取得了高性能，但它们面临着高昂的标注成本和庞大的模型体积问题。多类异常检测方法通过在多个类别上训练单一模型来解决这一问题，但在新任务按顺序到达的动态环境中，由于灾难性遗忘，这些方法会失效。

**持续异常检测（CAD）**中的具体挑战在于，如何在无监督设置下（仅有正常训练图像，无类别标签），在防止灾难性遗忘的同时检测新引入的异常。现有方法面临显著局限：

基于正则化的方法（如 EWC, SI）难以平衡稳定性与塑性，且对超参数敏感。
基于重放的方法面临可扩展性问题，因为其内存使用量随任务数量呈比例增长。
基于核心集（Coreset）的方法（如 DNE, UCAD）避免了重新训练，但随着任务累积会面临内存溢出，因为它们通常需要无界的内存来维持代表性。
专门的 CAD 解决方案（如 CDAD, IUF）在长期调度中往往会遭受灾难性遗忘，或者需要类别标签，限制了其适用性。

核心问题在于：我们能否设计一个在保持无界核心集代表性的同时，仍受限于固定容量的受限核心集？

方法论：ContCore

作者提出了 ContCore，一种基于记忆的异常检测器，它在严格、固定的内存约束下构建一个贪婪连续核心集（greedy-continued coreset）。该方法基于以下观察：持续贪婪采样——即在先前贪婪采样的集合之上迭代应用贪婪选择——能有效保持代表性。

核心机制

ContCore 在每个任务转换阶段 $t$ 执行两个步骤：

贪婪扩张（Greedy Expansion）： 给定来自新任务的补丁嵌入特征集 $Z_t$ ，该方法选择与当前核心集 $M_{t-1}$ 距离最大的特征。这被形式化为对基础集的贪婪采样：
$G_{n_t}(Z_t; M_{t-1}) = \{z^*_i \in Z_t : z^*_i = \arg\max_{z \in Z_t} d(z, Z^*_{i-1} \cup M_{t-1})\}$
其中 $n_t$ 是当前任务的采样大小。
贪婪整合（Greedy Consolidation）： 将新扩展的特征与之前的核心集合并，并处理以强制执行固定内存预算 $m$ 。该方法从这个组合集中选择分离度最大的特征：
$M_t = G_m(G_{n_t}(Z_t; M_{t-1}) \cup M_{t-1})$

实际实现

效率近似： 为了减轻整合过程中严格贪婪采样的计算开销，作者使用最近邻进行近似处理。通过选择一小部分比例 $q$ 的样本，基于最近邻距离而非完整的贪婪选择来进行，这在保持覆盖率的同时显著降低了时间复杂度。
推理： 异常评分根据每个补丁到当前核心集 $M_t$ 的最近距离进行计算，遵循 PatchCore 的方法。

理论证明

论文提供了一个理论保证（定理 4.1），表明生成的贪婪连续核心集 $M_T$ 在有限差距内逼近预设核心集（oracle coreset）（即对所有任务的所有数据进行贪婪采样的结果）。研究表明，预设核心集与构建的核心集之间的豪斯多夫距离（Hausdorff distance）受限于各任务近似误差之和，证明了代表性的下降是平滑且有界的，而非灾难性的。

主要贡献

观察与理论： 作者证明了持续贪婪采样在严格内存限制下能保持代表性。他们提供了理论证明，显示贪婪连续核心集在有限差距内逼近预设核心集。
ContCore 算法： 将这一原理实例化为一种通过贪婪扩张和整合来构建贪婪连续核心集的方法，从而维持固定的内存使用量。
经验性能： ContCore 在 MVTecAD 和 VisA 数据集的 11 种不同任务调度下均达到了最先进的性能（SOTA）。
在线环境下的鲁棒性： 该方法在在线持续异常检测设置（单次遍历，批大小为 1）中得到了验证，在此场景下，以往的方法性能大幅下降。

实验结果

实验在 MVTecAD 和 VisA 上进行，涵盖了 11 种不同的任务调度（从简单的增量式 $1 \times 15$ 到复杂的混合调度如 $10 \times 1 \times 5$ ）。

性能： 在几乎所有调度中，ContCore 都取得了最高的任务平均 AUROC 和最低的遗忘度量（FM）。例如，在 MVTecAD $1 \times 15$ 调度下，ContCore 的图像级 AUROC 达到 98.8%，优于次优方法（UCAD 为 93.0%），并显著降低了遗忘度（FM 分别为 0.1 对比 UCAD 的 1.0）。
跨数据集： 在跨数据集设置（MVTecAD $\to$ VisA 及反之亦然）中，ContCore 超越了之前的基准模型 CDAD，在 VisA $\to$ MVTecAD 图像级 AUROC 上实现了 8.9% 的提升幅度。
效率： 与神经方法相比，ContCore 非常高效。它所需的 GFLOPs（9.24 对比 CDAD 的 5628）和参数量（45.3M 对比 CDAD 的 11G）显著更少，且训练和推理速度更快。
大规模验证： 在 Real-IAD 数据集（30 个类别，约 10 万张图像）上，尽管是在持续任务调度下进行训练，ContCore 依然超越了 UniAD-Oracle 和 PatchCore-OneClass 模型。
在线学习： 在严格的“在线 CAD”设置（批大小为 1，单轮次/epoch）中，ContCore 保持了高水平性能（MVTecAD 为 97.2% AUROC），而其他方法（DNE, UCAD, IUF, CDAD）则出现了明显的性能下滑。

意义与主张

论文声称 ContCore 为内存受限的持续异常检测问题提供了一个鲁棒的解决方案。其意义在于：

打破内存-性能权衡： 不同于需要无界内存的核心集累积法，或容易产生遗忘的正则化方法，ContCore 在保持固定内存占用的同时，实现了最先进的性能。
理论保证： 该方法不仅是经验性的；它拥有证明支持，证明其与最优预设核心集的表示差距保持在有界范围内。
泛化能力： 该方法在多种任务调度、不同的骨干架构（WideResNet, EfficientNet, DINOv2）甚至是在数据仅处理一次的极具挑战性的在线学习场景中均表现出色。
实际部署： 通过避免灾难性遗忘和无界内存增长，ContCore 被视为在动态环境下（即随着时间推移不断引入新异常类且无法获取历史数据时）进行实际部署的可行方案。