🤖 machine learning

DQS: A Low-Budget Query Strategy for Enhancing Unsupervised Data-driven Anomaly Detection Approaches

本文介绍了基于差异性的查询策略（DQS），这是一种新型的主动学习方法，通过选择多样化的样本进行专家标注以优化阈值选择，从而增强无监督时间序列异常检测，并证明了其在低预算场景下尽管存在潜在误标情况，仍具有卓越的性能。

原作者： Lucas Correia, Jan-Christoph Goos, Thomas Bäck, Anna V. Kononova

发布于 2026-08-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Lucas Correia, Jan-Christoph Goos, Thomas Bäck, Anna V. Kononova

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你是一位庞大且轰鸣着的机器工厂的守护者。每天，成千上万个传感器都在记录着机器的心跳：温度、振动、压力和速度。大多数时候，这些机器都在一种“常态”（正常）的节奏中运行。但有时，齿轮会打滑，或者轴承会过热，从而产生一种奇怪的、“异常”的故障。如果你能及早发现这些故障，就能挽救工厂；如果你错过了它们，事情就会失控。问题在于，数据如此庞大且复杂，人类无法监视每一秒钟。因此，我们使用计算机来倾听那些奇特的节拍。

但问题在于：计算机擅长发现怪异之处，却不擅长判断这种怪异是否“过于怪异”。这就像是一个烟雾报警器，它会对烤面包的味道发出警报，却在火灾发生时保持沉默，因为你从未告诉它真正的火灾闻起来是什么味道。为了解决这个问题，我们通常需要向计算机展示“正常”和“损坏”机器的示例，以便它学习那条分界线。但在现实世界中，我们很少能准备好一堆已标记好的“损坏”样本。这篇论文存在于科学领域的一个分支——无监督异常检测（unsupervised anomaly detection），在这里，我们试图在没有预先准备好的“坏苹果”清单的情况下，找到那些坏苹果。核心问题是：如果我们无法标记一切，我们该如何教计算机足够的知识，让它做得既准确又不需要耗费巨额的人力成本？

这篇论文的作者 Lucas Correia 及其团队决定通过结合两个想法来解决这个问题：无监督学习（让计算机自行猜测）和主动学习（仅在绝对必要时请求人类专家的帮助）。他们将这种新方法称为 DQS（基于差异性的查询策略）。

把计算机想象成一个试图在人群中寻找小偷的侦探。侦探对每个人都有一个“怀疑分数”。如果分数太高，那个人就是小偷；如果分数很低，那就是清白之身。但侦探不知道该在哪里划定界限。通常情况下，侦探只是随手画一条线，这往往会导致错误。作者提出了一个更聪明的方法：与其让侦积随机询问一些人，或者只询问那些侦探认为“最可疑”的人，不如让侦探去询问那些彼此之间完全不同的人。

以下是他们的新策略 DQS 的运作方式：假设侦探有一份所有人的“怀疑分数”列表。为了挑选下一个要向人类专家请教的对象，DQS 会查看这些分数，并问道：“这里谁与我已经询问过的人最不像？”他们使用一种叫做动态时间规整（Dynamic Time Warping, DTW）的数学工具来衡量这种“不像程度”。你可以把 DTW 想象成比较两首节奏不同的歌曲。即使一首快，另一首慢，DTW 也能判断出它们是否是同一支曲调，还是完全不同的旋律。DQS 利用这一点来寻找与已检查过的异常分数尽可能不同的样本。通过挑选那些最具多样性、最“奇特且不同”的样本展示给人类，侦探可以更快、更准确地学会那条分界线。

论文在名为 PATH 的数据集上测试了这个想法，该数据集模拟了汽车发动机随时间变化的复杂且不断偏移的行为。他们将 DQS 与其他三种寻求帮助的方式进行了对比：

随机（Random）： 就像掷骰子一样随机挑选对象进行询问。
顶端（Top）： 只询问那些具有最高怀疑分数的人。
不确定性（Uncertainty）： 询问那些得分处于当前预测边缘的人。

结果通过一个被称为 F1（平衡了发现所有坏苹果的能力与避免虚假报警的能力）的分数进行了衡量，展现了一些有趣的现象。当人类专家拥有非常小的预算（即只能标记极少数样本，比如 1 个或 5 个）时，DQS 是明显的赢家。它比其他方法能更好地找到最佳阈值。然而，作者也测试了如果人类专家犯错（误标）会发生什么。他们模拟了专家出错率为 10%、20% 甚至 30% 的情况。在这些混乱且真实的场景中，DQS 表现依然良好，但“顶端（Top）”策略（即询问最可疑的对象）表现得更加顽强且对人类的错误具有鲁棒性。

至关重要的是，论文表明没有任何单一策略能在所有情况下都完美无缺。DQS 并不是一个能永远击败一切的灵丹妙药。事实上，当预算很大（10 个样本）时，其他方法有时会赶上甚至在特定日子里超过 DQS。但最重要的发现是，任何这类聪明的询问策略都比不问任何人就直接猜测分界线要好。即使人类专家在犯错，使用一种策略来挑选询问对象，仍然比计算机独自猜测要获得更好的结果。

作者总结道，如果你有机会请求人类专家的帮助，你一定要去做，但你要聪明地选择询问的对象。如果你只有极少的时间或资金来进行标注，请使用 DQS 方法来挑选最具多样性的样本。如果你担心你的专家会疲劳并出错，那么“顶端（Top）”策略可能会更稳妥。这篇论文并不声称已经永久解决了异常检测的问题，但它表明，通过有策略地寻求人类帮助，我们可以更接近完美答案，而无需依赖堆积如山的标记数据。

技术摘要：DQS —— 一种用于增强无监督数据驱动异常检测方法的低预算查询策略

1. 问题陈述

在文献中，真正的无监督时间序列异常检测方法非常稀缺。现有方法通常受限于设置不当的阈值，这显著阻碍了检测性能。虽然一些方法声称是无监督的，但它们经常依赖于有标签的数据子集进行校准或超参数调优，而这在现实场景中往往是无法获得的资源。即使存在真正的无监督方法（例如使用时间变分自编码器 TeVAE），阈值选择过程仍然是一个关键瓶颈。Correia 等人 [12] 已经证明，无监督阈值与最优阈值之间存在显著的性能差距，表明其中蕴含着未被挖掘的潜力。

此外，该领域的现有主动学习文献通常假设存在一个“完美预言机”（100% 的标注准确率），这是一个理想化的假设，忽略了人类错误、疲劳以及标注某些样本具有难度的现实情况。目前缺乏研究调查在使用主动学习进行阈值选择时，误标率如何影响异常检测性能。

2. 方法论

2.1 主动学习框架

所提出的方法将主动学习集成到现有的无监督异常检测流水线中。该系统在一个涉及以下环节的循环中运行：

预言机 (The Oracle)： 一位领域专家，负责将未标记样本标注为正常或异常。
模型 (The Model)： 一个在未标记数据上训练的无监督异常检测器（具体为 TeVAE）。
查询策略 (The Query Strategy)： 一种机制，用于决定应将哪些样本从候选池发送给预言机进行标注，并受查询预算 $B$ 的约束。
反馈策略 (The Feedback Strategy)： 使用新标注的数据来优化决策阈值的过程，从而提高检测性能。

2.2 基于差异性的查询策略 (DQS)

这项工作的核心贡献是基于差异性的查询策略 (DQS)。这是一种非参数化策略，旨在最大化查询样本的多样性，且无需预先进行参数化。

机制： DQS 使用动态时间规整 (DTW) 来评估不同时间序列之间异常得分的相似性。与均方误差 (MSE) 等指标不同，DTW 可以处理变长序列并考虑时间对齐问题。
选择逻辑：
1. 初始化： 对于一轮中的第一次查询，从候选得分集 ( $C_{as}$ ) 中随机选择一个样本。
2. 多样性最大化： 对于一轮内的后续查询，算法识别出与当前查询集 ( $Q_{as}$ ) 中最相似样本最不相似的候选样本。
3. 过程：
  - 计算所有候选样本 ( $C_{as}$ ) 与 $Q_{as}$ 中所有样本之间的 DTW 距离。
  - 在 $C_{as}$ 中识别出与 $o$ （ $o$ 为 $Q_{as}$ 中的最相似样本）距离最小的候选样本。
  - 在 $C_{as}$ 中识别出与 $o$ 距离最大的候选样本 ( $r$ )。
  - 将 $r$ 移入 $Q_{as}$ 。
阈值细化： 一旦一轮中的预算 $B$ 耗尽，将 $Q_{as}$ 中的标注样本用于执行最优阈值 $\tau$ 的网格搜索，以替换标准的无监督阈值 ( $\tau_{us}$ )。

2.3 实验设置

数据集： 使用了代表汽车动力总成动态特性的 PATH 数据集。它包含具有非平凡异常的多变量时间序列。
模拟现实世界条件： 数据被分为不断增加的时间窗口（1 天到 28 天），以模拟数据的逐渐积累。
误标模拟： 为了测试鲁棒性，根据伯努利分布对地面真值标签进行了翻转，误标概率 ( $p_m$ ) 分别为 0.1、0.2 和 0.3。
基准方法：
- 无监督阈值 ( $\tau_{us}$ )： 验证集上的最大误差。
- 假设最优阈值 ( $\tau_{best}$ )： 通过在测试集上进行网格搜索得到的最佳阈值（在实践中是不可观测的）。
- 随机查询策略 (RQS)： 随机选择。
- 基于 Top 的查询策略 (TQS)： 选择异常得分最高的样本（在某些文献中被称为基于不确定性的选择）。
- 基于不确定性的查询策略 (UQS)： 选择最接近当前阈值的样本。

3. 核心贡献

新型查询策略 (DQS)： 引入了一种利用 DTW 来最大化离散序列异常检测中样本多样性的非参数化查询策略。
误标分析： 一种新的测试方法，通过显式考虑预言机的误标概率来应对问题，解决了文献中经常假设存在“完美预言机”的空白。
集成主动学习： 展示了一个将主动学习与无监督模型结合的具体框架，专门用于优化阈值选择，而非重新训练模型本身。

4. 结果

4.1 性能与查询预算的关系

小预算 ( $B < 10$ )： 在各种时间切分（1 到 28 天）下，DQS 始终优于 RQS、TQS 和 UQS。它实现的 F1 分数比无监督基准更接近假设的最优阈值 ( $\tau_{best}$ )。
大预算 ( $B = 10$ )： DQS 保持了竞争力，通常能与其它策略持平或表现更好，尽管 TQS 在特定切分中表现强劲。
总体趋势： 一旦训练子集足够大，足以让模型学习到有意义的表示，所有查询策略的表现都优于无监督阈值 ( $\tau_{us}$ )。

4.2 误标的影响

鲁棒性： 虽然 DQS 在低预算、洁净标签场景下表现最好，但 TQS 在面对较高误标率 ( $p_m = 0.2, 0.3$ ) 时展现出了更高的鲁棒性。
DQS 敏感性： 与 TQS 相比，DQS 的性能随误标率增加而下降得更为明显，特别是在后期的各个时间切分中。
总体发现： 尽管存在误标，所有主动学习策略的表现仍优于纯无监督阈值 ( $\tau_{us}$ )。即使在 30% 的错误率下，基于主动学习的阈值也比无监督基准具有更好的 F1 分数。

5. 重要性与主张

作者声称，这项工作为标注数据稀缺但存在预言机（人类专家）进行有限查询的场景提供了切实可行的解决方案。其重要性在于：

低预算效率： DQS 在标注成本较高（小预算）的情况下特别有效，通过确保样本选择的多样性来最大化每次查询的信息增益。
主动学习的可行性： 研究验证了只要可行，就建议采用基于主动学习的阈值，因为它始终优于无监督阈值，即使在标签不完美的情况下也是如此。
现实评估： 通过引入误标概率，本文为时间序列异常检测中的主动学习策略提供了更现实的评估，超越了理想化的“完美预言机”假设。

论文得出结论，虽然没有一种策略能在所有类别中都占据绝对优势（DQS 擅长低预算/洁净场景；TQS 擅长高误标场景），但将主动学习集成到阈值选择中是一种可行且优于纯无监督方法的途径。建议未来的工作重点关注标准化基准测试程序，并开发能够平衡低预算效率与误标鲁棒性的查询策略。