TailedCore: Few-Shot Sampling for Unsupervised Long-Tail Noisy Anomaly Detection
本文介绍了 TailedCore,这是一种新颖的无监督异常检测框架,它采用 TailSampler 独立处理尾部类别样本和噪声数据,从而克服了在长尾且含噪数据集中噪声鲁棒性与尾部类别敏感性之间的性能权衡。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象你是一家大型工厂的质量检验员。你的工作是在传送带上发现次品。这篇论文 TailedCore 解决了一个非常具体且混乱的现实世界问题,其训练数据在两个方面堪称噩梦:
- “长尾”问题:你有成千上万个常见物品的示例(如标准螺丝),但稀有物品(如某种特定的定制齿轮)的示例却寥寥无几。在数据术语中,常见物品构成了分布的“头部”,而稀有物品则构成了“尾部”。
- “噪声”问题:即使是你拥有的那些“好”示例也不干净。你训练堆中的一些“正常”螺丝实际上带有微小的划痕或缺陷。
困境:“过于宽松”与“过于严格”的陷阱
作者发现,现有的 AI 模型陷入了一个糟糕的权衡困境,他们称之为**“尾部与噪声困境”**。
- “过于宽松”的模型:如果你训练模型对稀有物品(尾部)非常谨慎,它开始变得困惑。它看到“正常”物品上的微小划痕,心想:“哦,这是个缺陷!”它变得过于敏感,将正常物品标记为损坏。
- “过于严格”的模型:如果你训练模型忽略那些微小划痕(以处理噪声),它变得过于强硬。它不再关注稀有物品。它看着定制齿轮说:“我以前没见过这个,所以我直接忽略它”,从而错过了稀有物品上的实际缺陷。
这就像学习一门新语言,你有一本字典,其中 10,000 页是常见词汇,但只有一页是稀有词汇,而这一页里还夹杂着一些拼写错误。如果你关注拼写错误,你就会错过稀有词汇;如果你关注稀有词汇,你就会被拼写错误搞糊涂。
解决方案:TailedCore
作者构建了一个名为 TailedCore 的新系统,通过将稀有物品和噪声物品视为两个独立的问题来解决这一难题。他们利用一种名为 TailSampler 的新工具,通过一个巧妙的两步过程来实现这一点。
第一步:“类别规模预测器”(TailSampler)
想象你身处一个拥挤的房间,人们按所属团队分组。大多数团队有数百人,但少数团队只有一两个人。你不知道谁属于哪个团队,而且大团队中有些人佩戴着“缺陷”徽章(噪声)。
TailSampler 就像一位超级聪明的观察者,它观察人们彼此站立的相对位置。
- 它假设来自同一团队的人彼此站立的相对角度相似。
- 它仅通过观察人群的几何结构,就能计算出特定“簇”中可能有多少人。
- 如果它看到一个微小的簇(只有 1 或 2 人),它就会知道:“啊,这是一个稀有团队!”
- 关键在于,它能区分“稀有团队”和“佩戴缺陷徽章的孤独者”。
这使得系统能够专门挑选出稀有物品,而不会意外地从常见群体中抓取那些带有噪声的缺陷物品。
第二步:“记忆库”(TailedCore)
一旦 TailSampler 识别出稀有物品,TailedCore 就会为 AI 在检查期间使用构建一个特殊的“记忆库”。这个记忆库是混合型的:
- 干净部分:它提取常见物品,过滤掉带有划痕(噪声)的物品,并存储干净版本。
- 稀有部分:它将 TailSampler 识别出的稀有物品添加到记忆中。
现在,当 AI 检查新产品时:
- 如果是常见物品,它将其与经过过滤的干净记忆进行比较。
- 如果是稀有物品,它的记忆中就有该稀有物品的具体示例可供比较。
结果
通过将“稀有”与“噪声”分离,TailedCore 不必在过于严格和过于宽松之间做出选择。它兼得两者之长。
在他们的实验中,他们在标准工业数据集(如 MVTec AD 和 VisA)上测试了该方法,并人为地使这些数据变得“有噪声”和“不平衡”。结果表明,TailedCore 始终优于当前的最先进模型。它在发现稀有产品缺陷方面表现更佳,同时不会因常见产品上的脏数据而感到困惑。
简而言之:TailedCore 是一种教导 AI 在训练数据混乱且不平衡时识别工厂缺陷的新方法,它利用一种聪明的“人数统计”技巧,在 AI 开始学习之前就隔离出稀有物品。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。