AnomalyMatch: Discovering Rare Objects of Interest with Semi-supervised and Active Learning

技术摘要：AnomalyMatch

问题陈述
在大规模图像数据集中识别异常（即罕见且不寻常的离群值）是天文学和计算机视觉领域面临的一个关键挑战。虽然像 Euclid 和 Vera C. Rubin 观测台这样的下一代天文台将释放前所未有的海量数据（数十亿个星系），但由于罕见天体（通常占数据集的 <0.1%）缺乏标注样本，传统的监督学习方法变得难以实现。现有方法面临显著障碍：无监督方法往往难以处理高维图像数据的复杂性，而监督方法则需要大量并不存在的标注数据集。此外，公民科学计划虽然具有价值，但在定义一致的异常标准方面面临挑战，且无法扩展到手动检查现代巡天任务中庞大数据的规模。核心问题在于开发一种可扩展、高效的框架，在利用大量无标注数据并结合专家反馈进行精炼的同时，能够以极少的初始标注数据检测出罕见异常。

方法论：AnomalyMatch
作者提出了 AnomalyMatch，这是一个半监督异常检测框架，旨在将异常检测视为一个严重类别不平衡的二分类问题（“正常” vs. “异常”）。该方法集成了三个主要组件：

1. 半监督学习 (FixMatch)： 核心训练策略改编自 FixMatch 算法 (Sohn et al. 2020)。它利用一小部分标注数据 ($D_L$) 和大量的无标注数据池 ($D_U$)。模型基于 EfficientNet 骨干网络（具体为 EfficientNetLite0），使用组合损失函数进行训练：

   • 监督损失： 在标注集上应用标准的交叉熵损失。
   • 无监督损失： 对无标注数据应用一致性正则化。通过弱增强图像生成高置信度的伪标签（如果模型的置信度超过阈值 $\tau=0.95$）。随后，这些伪标签被用于惩罚同一图像在强增强版本上的预测结果。
   • 不平衡处理： 该框架通过加权随机采样器采用过采样技术来解决严重的类别不平衡问题，确保罕见的异常样本在训练过程中得到充分代表。

2. 主动学习环路： 为了缓解标注异常样本稀缺的问题，AnomalyMatch 引入了一个迭代的人机协同过程。在初始训练后，模型对无标注池进行评分。用户界面 (GUI) 允许领域专家进行以下操作：

   • 目视检查高分候选对象。
   • 验证真实的异常情况并纠正假阳性（例如，区分真实的异常与成像伪影，如坏的 CCD 或失焦区域）。
   • 使用这些经过验证的样本迭代地扩大标注训练集。
   • 在扩大的集合上重新训练模型。

3. 可扩展实现： 该系统专为高性能构建，能够在单块 GPU 上处理数亿张图像。它支持多种输入格式（PNG, JPEG, TIFF, FITS），并与天文数据存储标准（HDF5, Zarr）以及 ESA Datalabs 平台集成。基于 ipywidgets 构建的 GUI 促进了在 Jupyter notebook 中的交互式探索。

核心贡献

• 新型流水线： 一个结合了 FixMatch（针对严重类别不平衡进行了优化）、EfficientNet 和主动学习的半监督异常检测流水线，显著降低了对标注数据的需求。
• 交互式 GUI： 一个用户友好的界面，使专家能够迭代地引导异常选择、纠正模型错误，并在无需直接进行后端交互的情况下精炼性能。
• 集成性： 无缝集成成熟的天文学工具（Astropy 标准化、FITS 支持）并在 ESA Datalabs 生态系统中部署。
• 全面基准测试： 在多样化数据集（miniImageNet, GalaxyMNIST, 和 Galaxy Zoo 2）上进行了广泛评估，展示了在极少初始标签（5–10 个异常）下的性能。
• 可扩展性： 一种能够在几天内分析 1 亿张图像的实现方式，适用于即将到来的大规模巡天任务。

实验结果
该框架在三种存在严重类别不平衡的数据集上进行了评估：

• miniImageNet： 将特定物体类别（如 Hourglass, Guitar）视为异常（占数据 1%）。在仅有 5 个标注异常的情况下，AnomalyMatch 实现了平均 AUROC 为 0.96 和 AUPRC 为 0.82。经过三次主动学习循环后，其在排名前 1% 的图像中的精确度达到了 76%。
• GalaxyMNIST： 一个星系形态数据集，其中一个类别被视为异常（占数据 25%）。在仅有 10 个标注异常的情况下，系统实现了平均 AUROC 为 0.89 和 AUPRC 为 0.77。前 1% 的精确度达到 94%。
• Galaxy Zoo - The Galaxy Challenge： 一个包含约 65,000 个“奇特 (odd)”分类星系的子集。与成熟的 Astronomaly 软件相比，AnomalyMatch 取得了相当的性能，平均 AUROC 为 0.83。作者指出，性能对于该软标签数据集中“异常”定义的敏感性（投票比例阈值）非常明显。

消融研究

• 初始标签： 增加初始标注样本数量（从 100 到 1000）带来的收益递减，即使在初始标签极少的情况下，性能指标依然保持稳健。
• 训练迭代： 研究发现每个主动学习循环的最佳训练迭代次数约为 100 次。较长的训练周期（250–500 次迭代）会导致对初始标注数据的过拟合，从而降低整体检测效率。

意义与主张
论文声称，AnomalyMatch 为以标签极度匮乏为特征的领域（如天文学）中的异常发现提供了卓越的实用性和可扩展性。通过将半监督学习与主动学习相结合，该框架允许领域专家定义并检测具有科学意义的异常，而非仅仅是普通的统计离群值。作者强调，该方法有效地利用了无标注数据来减轻人工审查负担，使其成为数据丰富的观测时代实用的工具。结果表明，结合人类专业知识与高效机器学习的专门方法，是推进异常检测领域的关键。论文总结道，尽管该方法非常有效，但未来的工作应探索可解释人工智能、多模态数据集成以及标注误差的影响，以进一步增强鲁棒性。