🤖 machine learning

From Local Geometry to Global Pseudo Labeling for Robust Positive Unlabeled Learning under Covariate Shift

本文介绍了谱向正样本-无标签邻域标注（Spectral PU Neighborhood Annotation, SPUNA），这是一个利用局部流形结构来实现鲁棒的正样本-无标签学习以检测协变量偏移的几何感知框架，在无需来自偏移分布的标注数据的情况下，实现了与全监督方法相当的性能。

原作者： Firas Gabetni, Alexandre Rocchi Henry, Nacim Belkhir, Ziyi Liu, Gianni Franchi

发布于 2026-06-01

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Firas Gabetni, Alexandre Rocchi Henry, Nacim Belkhir, Ziyi Liu, Gianni Franchi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一名博物馆的保安。你的工作是识破赝品。通常，你会接受关于真实画作（“正样本”数据）的照片训练。然后，你会看到一堆混合在一起的图像：其中有一些是真画，另一些是伪造品，但没人告诉你哪些是哪些（“无标签”数据）。你的目标是找出其中的赝品，以便向馆长报警。

这就是 正样本-无标签学习 (Positive-Unlabeled, PU Learning) 的核心问题。

然而，这篇论文中有一个转折。这些伪造品并不只是显而易见的假货；它们是真画的“近亲”。它们看起来非常相似，只是在光影、纹理或风格上略有不同。在技术术语中，这被称为 协变量偏移 (Covariate Shift)。主体（画作）是相同的，但其呈现出的“样子”发生了偏移。

以下是作者 Firas Gabetni 及其同事如何使用他们的新方法 S-PUNA 来解决这个问题的故事。

问题所在：“盲点”

传统方法试图通过同时观察整堆图像来寻找差异。但当伪造品与真画非常相似时（即“近偏移”），观察整堆图像会让人感到困惑。这就像是在一个充满了各种细微差别蓝色的房间里，试图寻找一种特定的蓝色。计算机会被这些信息淹没，从而产生错误，开始将真画误标为假画（或反之亦然）。

作者意识到，试图从全局角度去猜测“全貌”是错误的路径。

解决方案：S-PUNA（邻里侦探）

作者没有让侦探一次观察整个博物馆，而是提出了一种名为 S-PUNA（谱向 PU 邻域标注）的方法。你可以把它想象成一名只信任自己直接邻居的侦探。

它是这样一步步运作的：

从真相开始： 侦探从一小群受信任的“真画”（已标记的正样本）开始。
邻域搜索： 侦探观察“无标签”的那一堆图像，并问道：“谁长得最像我的这组受信任的画作？”
- 如果一张图像与真画非常接近，侦探会说：“你可能也是真的，”并将他们加入到受信任的群体中。
- 如果一张图像远离真画，侦探会说：“你看起来很可疑，”并将他们加入到一个“可疑”群体中。
滚雪球效应： 现在，侦达已经拥有了一个更大的受信任群体和一个更大的可疑群体，于是他再次观察。他扩大了搜索范围，寻找更多符合该模式的邻居。他一遍又一遍地这样做，慢慢构建出一幅清晰的关于什么是“真”以及什么是“偏移/可疑”的图景。
“停止”标志（秘诀所在）： 这是最关键的部分。如果侦探搜寻得太久，他可能会不小心抓到一个仅仅是看起来有点奇怪的真画，并将其标记为假画。这会毁掉一切。
- 为了防止这种情况，S-PUNA 使用了 谱熵停止机制 (Spectral Entropy Stop Sign)。
- 类比： 想象“可疑”群体是一群人。起初，他们穿着各异（高多样性/高熵）。随着侦探正确识别出伪造品，人群变得更加统一（他们都呈现出特定类型的伪造特征）。
- 然而，如果侦探开始犯错并抓取了真画，人群突然又变得混乱起来（低熵，因为“可疑”群体现在变成了真画和赝品的混乱混合物）。
- 算法会观察这个“混沌计”。一旦人群开始变得混乱，算法就会按下停止按钮。这确保了他们永远不会误将真画标记为假画。

结果：击败专家

作者在著名的图像数据集（如 ImageNet，这是一个庞大的照片集合）上测试了 S-PUNA。他们将 S-PUNA 与以下对象进行了对比：

旧的 PU 方法： 这些方法会被细微的偏移所迷惑。
全监督方法： 这些是“金标准”，即计算机被展示了既有标签的真样本和假样本。通常，你需要这么多数据才能获得良好的结果。

令人惊喜的是： S-PUNA 仅利用了“真画”示例和混合包（弱监督），其表现就足以媲美、甚至有时超过了全监督方法。

近偏移（细微变化）： S-PUNA 是个冠军，它能发现其他方法错过的细微差异。
远偏移（明显变化）： 它同样表现出色，达到了专家级的水平。

为什么这很重要

论文指出，我们并不总是需要雇佣一个专家团队来为每一张假图像进行标注，才能建立一个稳健的系统。通过使用 局部几何结构（观察邻居）和智能的 停止机制（熵检查），我们可以用极少的帮助来教会计算机检测数据的细微变化。

简而言之：S-PUNA 是一个聪明且谨慎的侦探，它通过一次一个邻居的方式逐步构建知识，并且清楚地知道何时该停止，以免犯错。

技术摘要：从局部几何到全局伪标签：实现鲁棒的协变量偏移下正样本-无标签学习

问题陈述
检测协变量偏移（即输入分布 $P(X)$ 发生变化，而条件标记函数 $P(Y|X)$ 保持不变）对于部署可靠的视觉系统至关重要。虽然现有的研究主要集中在领域自适应或泛化能力上，但对这种偏移的显式检测仍缺乏深入研究。目前的检测方法主要以全监督为主，需要同时具备来自原始（分布内）和偏移（分布外）分布的有标签样本。这种要求在实际操作中往往难以实现，特别是当负样本（偏移样本）难以获取或获取成本高昂时。

此外，直接将标准的正样本-无标签（PU）学习应用于协变量偏移检测存在问题。经典的 PU 方法依赖于假设正样本分布与负样本分布之间具有充分可分性的无偏风险估计器。然而，在协变量偏移下，分布内数据与偏移数据在特征空间中往往存在显著重叠。这种重叠导致总变分距离较小且固有贝叶斯风险较高，使得全局风险估计变得不稳定且对噪声高度敏感。

方法论：S-PUNA
为了应对这些挑战，作者提出了 S-PUNA（谱 PU 近邻注释），这是一个感知几何结构的框架，它利用视觉特征的局部流形结构，在无需全局监督的情况下逐步发现偏移数据。

局部流形扩展：
不同于仅传播正样本标签的经典 k-NN-PU 方法，S-PUNA 对称地构建正样本和负样本锚点集。该方法从预训练的 Vision Transformer (ViT) 特征空间（具体选择对几何细微差别敏感的第 6 个模块）开始，基于距离得分初始化伪标签集。随后，它通过识别与当前正样本支撑集统计不一致、但与新兴负样本流形一致的样本，迭代地扩展这些集合。
对称传播：
在每次迭代中，算法计算候选样本到当前正样本库和负样本库中 $k$ -近邻的平均距离。通过评分机制对候选样本进行排序，以扩展正样本集（靠近正样本的样本）和负样本集（远离正样本但形成连贯簇的样本）。这一迭代过程通过逐步揭示负样本流形来精炼决策边界。
谱熵停止准则：
迭代伪标签中的一个关键挑战是“语义漂移”，即算法错误地将分布内样本纳入负样本集中。S-PUNA 引入了一种基于谱熵的新型停止准则。通过监测发现的负样本集协方差矩阵的特征值分布，该方法测量其内在维度和结构复杂度。
- 理论基础： 作者证明（引理 1），随着负样本集被正样本污染（发生语义漂移），谱熵会严格下降。
- 机制： 当谱熵趋于稳定或下降时，扩展过程停止，这表明负样本流形已被充分捕获，而未侵入重叠区域。
知识蒸馏：
一旦迭代扩展收敛，非参数化的近邻结构将被蒸馏到参数化的深度神经网络 (DNN) 分类器中。这一步骤平滑了决策边界，在保留发现的局部几何分离性的同时，降低了方差。

核心贡献

新颖的问题形式化： 本文首次通过正样本-无标签 (PU) 学习的角度系统地研究了协变量偏移检测，并为为什么在显著分布重叠下标准 PU 风险最小化会失效提供了理论见解。
S-PUNA 框架： 引入了一个感知几何结构的伪标签框架，通过局部流形扩展而非全局风险估计，逐步揭示偏移分布。
谱熵准则： 一种原则性的停止机制，用于检测早期污染并防止伪标签漂移，其在谱熵与混合污染之间的关系方面得到了理论证明。
基准测试与性能： 作者建立了新的协变量偏移基准，并证明 S-PUNA 在 PU 设置下实现了最先进的性能，能够显著匹配全监督方法的性能。

实验结果
作者在三个主要基准测试上评估了 S-PUNA：ImageNet-1K、TinyImageNet 和 EuroSAT，涵盖了“近偏移”（微妙的分布变化，如 ImageNet-V2, GenImage）和“远偏移”（严重的损坏或风格化，如 ImageNet-C, ImageNet-R）。

性能： S-PUNA 一致优于经典的 PU 基准方法（如 Dist-PU, DC-PU, saPU, LaGAM）。在 ImageNet-1K 近偏移场景下，S-PUNA 达到了 97.89% 的 AUROC，超过最强的基准方法（Dist-PU 为 84.48%）超过 13%，并将 95% 真阳性率下的假阳性率 (FPR95) 从 35.05% 降低至 9.69%。
与监督方法的比较： 在多种设置下，S-PUNA 接近了作为性能上限的全监督分类器的表现。例如，在 ImageNet-C 上，S-PUNA 达到了 98.51% 的 AUROC，几乎与监督基准持平。
鲁棒性： 该方法在不同偏移类型和数据集规模（TinyImageNet, EuroSAT）下展示了强大的泛化能力，在其他 PU 方法在近偏移和远偏移之间表现出显著性能差距时，仍能保持高度稳定性。
无监督基准： 本文还强调，纯无监督的 OOD 检测和异常检测方法（如 ReAct, PatchCore）在处理近协变量偏移时表现极差，性能往往接近随机，而 S-PUNA 则有效地利用弱监督来克服这一问题。

意义与主张
本文认为，严格的监督信号并不是可靠协变量偏移检测的先决条件。通过有效利用特征表示的内在几何结构，弱监督 PU 学习可以实现高度鲁棒且最先进的性能。这项工作弥合了全球 PU 风险估计在重叠情况下的理论局限性与实际检测需求之间的鸿沟，为无法获得有标签偏移数据的现实应用场景提供了一个可扩展的解决方案。作者强调，他们的方法在“近偏移”机制中特别有效，而这正是现有无监督检测器最具挑战性的领域。

问题所在：“盲点”

解决方案：S-PUNA（邻里侦探）

结果：击败专家

为什么这很重要

技术摘要：从局部几何到全局伪标签：实现鲁棒的协变量偏移下正样本-无标签学习

类似论文