🤖 machine learning

A Data-Centric Framework for Detecting and Correcting Corrupted Labels

该论文引入了 Relabeler，这是一个端到端的以数据为中心的框架，它利用局部和全局数据关系来检测并修正噪声标签，在标签修正精度和下游任务性能方面显著优于现有最先进的方法。

原作者： Ha-Linh Nguyen, Hong-Anh Nguyen, Minh-Duc La, Thu-Trang Nguyen, Son Nguyen, Hieu Dinh Vo

发布于 2026-06-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Ha-Linh Nguyen, Hong-Anh Nguyen, Minh-Duc La, Thu-Trang Nguyen, Son Nguyen, Hieu Dinh Vo

原始论文根据 CC0 1.0（http://creativecommons.org/publicdomain/zero/1.0/）发布到公有领域。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在试图教一个机器人识别不同种类的水果。你给它看了成千上万张图片，但有人粗心地在许多图片上贴错了标签。你把一张苹果的照片标成了“香蕉”，把一张香蕉的照片标成了“苹果”。如果你用这些混乱的指令来教机器人，它就会学到错误的东西，并在尝试识别现实世界中的水果时失败。

这篇论文介绍了一个名为 Relabeler 的智能系统，它就像一个超级组织有序、观察力极其敏锐的图书管理员。它的工作是找出那些错误的标签，弄清楚正确的标签应该是什么，并在机器人开始学习之前将其修复。

以下是 Relabeler 的工作原理，分为简单的步骤：

1. 问题所在：“嘈杂”的图书馆

在现实世界中，数据并不完美。无论是照片、文本还是计算机代码，标签（我们给事物起的名称）往往包含错误。这些错误被称为“噪声”。如果你试图从一个嘈杂的图书馆中学习，你最终会得到一个困惑的学生。

2. 第一步：寻找可疑的书籍（检测）

Relabeler 不仅仅是靠猜；它使用两种不同的方式来发现错误的标签：

“局部邻域”检查： 想象一下你正在观察一群站在一起的人。如果 10 个人中有 9 个穿着红衣服，而有一个人穿着一件鲜绿色的衣服，却正好站在红衣人群的正中间，那个人看起来就很可疑。Relabeler 通过观察数据中相似的项目（邻居）来执行此操作。如果一个项目看起来与其邻居完全一致，但标签却不同，它就会将其标记为“可疑”。
“大局观”检查： 有时候，一个穿绿衣服的人可能确实属于红衣组（也许他只是在穿戏服）。为了避免误报，Relabeler 会退后一步，观察整个图书馆。它在已经验证过的“干净”书籍上训练一个智能模型。然后，它会询问这个模型：“这个可疑项目符合大局吗？”如果模型说：“是的，它实际上属于这里，”那么该项目就会被保留。如果模型说：“不，它显然格格不入，”那么它就会留在“可疑”名单上。

3. 第二步：修复错误的标签（修正）

一旦 Relabeler 有了一份可疑项目的清单，它并不仅仅是把它们扔掉。相反，它试图修复这些标签。这是这篇论文最独特的部分。

这就像是一个侦探在破解谜题。侦探有两个线索：

视觉线索： 这个物体实际看起来是什么样的？（例如：“这看起来像个苹果。”）
错误模式： 人们通常是如何犯错的？（例如：“在这个图书馆里，人们经常把苹果和梨搞混，因为它们看起来很像。”）

Relabeler 使用一种称为**贝叶斯推断（Bayesian Inference）*的数学方法将这两个线索结合起来。它会问道：“鉴于这看起来像个苹果，并且考虑到人们在这个数据集中经常把苹果误认为梨，那么最可能的正确标签是什么？”*

它计算概率并选出最佳答案。它不只是在瞎猜；它是基于数据最初是如何出错的，进行了一次有理有据的修复。

4. 结果：一个更干净的图书馆

作者在五种不同类型的“图书馆”（数据集）上测试了 Relabeler，包括汽车、新闻文章和计算机代码的图像。他们将其与其他顶尖方法进行了对比。

更高的准确度： Relabeler 在修复标签方面表现得更好。在某些情况下，与现有最好的方法相比，它将修复的准确度提高了 58%。
更少的遗留错误： 在 Relabeler 完成工作后，剩余的数据集中的错误更少了（在最终任务中的性能提升了高达 6%）。
适用于所有类型的噪声： 无论是随机错误（比如抛硬币产生的错误）还是系统性错误（比如混淆外观相似的事物），Relabeler 处理它们的效果都比竞争对手更好。

核心结论

这篇论文认为，与其仅仅教机器人去忽略坏数据（这就像告诉学生去忽略错误答案），我们应该去修复数据本身。Relabeler 是一个工具，它能找到错误的答案，弄清楚正确的答案应该是多少，并创建一个干净、高质量的数据集。这使得任何基于该新数据训练的机器学习模型都能表现得更加出色且更加可靠。

技术摘要：Relabeler —— 一种用于检测和纠正损坏标签的数据中心化框架

问题陈述
机器学习（ML）和深度学习（DL）模型的性能从根本上取决于训练数据的质量。在实践中，大规模数据集通常包含“标签噪声”——即由于众包或自动标注错误而导致的实例标签错误。据报告，现实世界数据集中的噪声率在 8% 到 38.5% 之间。此类噪声会显著降低模型的准确性和可靠性。现有的方法通常分为两类：以模型为中心（提高算法鲁棒性）和以数据为中心（提高数据集质量），但大多数数据中心化方法将标签检测与标签纠正视为两个独立的任务。此外，许多现有解决方案主要侧重于识别要丢弃或重新加权的噪声实例，而不是显式地推断并修复正确的标签。这种分离限制了在统一框架内充分利用输入特征、噪声标签与洁净标签之间内在联系的能力。

方法论：Relabeler 框架
作者提出了 Relabeler，这是一个端到端的、旨在通过两个集成阶段检测并纠正损坏标签的数据中心化框架：

1. 损坏标签检测
此阶段通过利用局部和全局的实例关系，将噪声数据集 $\tilde{D}$ 划分为洁净子集（ $D_{clean}$ ）和可疑子集（ $D_{suspicious}$ ）。

局部验证： 该框架采用 k-最近邻（k-NN）算法来检查实例与其在特征空间中的直接邻居之间的标签一致性。标签与大多数邻居保持一致的实例被初步归类为洁净。
全局验证： 为了解决局部分析的局限性（例如，靠近类边界的情况），Relabeler 在当前识别出的洁净实例上迭代训练分类模型（ $M_{clean}$ ）。该模型捕捉更广泛的全局模式。对可疑集中的实例进行重新评估；如果其原始标签与 $M_{clean}$ 的预测一致，则将其移入 $D_{clean}$ 。这一迭代过程持续进行，直到无法再识别出更多的洁净实例为止。

2. 损坏标签纠正
对于保留在 $D_{suspicious}$ 中的实例，Relabeler 通过最大化后验概率 $P(y | x, \tilde{y})$ 来估计最可能的洁净标签（ $y^*$ ），其中 $x$ 是输入特征， $\tilde{y}$ 是观测到的噪声标签。通过贝叶斯推理，这被重新表述为结合两个互补因素：

洁净标签预测 ( $P(y|x)$ )： 在 $D_{clean}$ 上训练的模型 $M_{clean}$ 根据输入特征估计标签的可能性。
噪声标签估计 ( $P(\tilde{y}|x, y)$ )： 模型 $M_{noisy}$ $M_{n o i sy}$ 估计在给定输入和候选洁净标签的情况下，观测到特定噪声标签的概率。
- 训练 $M_{noisy}$ ： 由于缺乏地面真值转换数据，Relabeler 在 $D_{suspicious}$ 上训练一个“噪声模拟器”（ $M_{simulator}$ ）以学习数据集特定的噪声模式。该模拟器为 $D_{clean}$ 中的实例生成合成噪声标签，从而创建一个用于训练 $M_{noisy}$ 的转换数据集。
推理： 最终的修复标签通过整合来自 $M_{clean}$ 和 $M_{noisy}$ 的预测来确定，确保纠正过程同时兼顾语义特征对齐和标签损坏的统计模式。

核心贡献

统一框架： 引入了 Relabeler，这是一个端到端的系统，能够共同执行检测和纠正，解决了检测与纠正通常被分开处理的空白。
贝叶斯集成： 一种新颖的标签纠正方法，它对洁净标签分布和噪声转换概率进行建模，而不是仅仅依赖于基于特征的预测或启发式投票。
迭代细化： 一种迭代细化洁净数据集的检测机制，用于训练全局验证模型，从而提高了识别可疑实例的精确度。

实验结果
作者在涵盖图像、文本和源代码分类的五个多样化数据集（CIFAR-10, CIFAR-100, Agnews, Clickbait, CodeXGLUE）上评估了 Relabeler。该框架与最先进的基线模型进行了比较，特别是 Docta（及其投票和排序变体）。

标签纠正精度： Relabeler 始终优于基线模型，在各种数据集和噪声率（20% 和 40%）下，标签纠正精度最高提升了 58%。例如，在噪声率为 40% 的 Agnews 数据集上，Relabeler 实现了 89.47% 的精度，而 Docta-R 为 61.43%。
错误率降低： 该框架显著降低了修复后数据集的残余错误率。在噪声率为 40% 的 CIFAR-10 上，Relabeler 将错误率降低至 7.48%，而基线模型仍保持在 23% 以上。
鲁棒性： Relabeler 在不同类型的噪声（包括对称、非对称和实例相关噪声）下均表现出卓越的性能。即使在基线模型难以应对的复杂混合噪声场景下，它也能保持高精度和低错误率。
下游效用： 在由 Relabeler 修复的数据集上训练下游模型（MLP 分类器）产生了最高的准确率和加权 F1 分数。在 Agnews 数据集上，Relabeler 将下游准确率提高到了 75.50%，相比原始噪声数据集有约 6% 的相对增益，且优于原始数据及由 Docta 修复的数据集。
组件分析： 消融研究证实，将噪声标签估计器（ $M_{noisy}$ ）与洁净标签预测器（ $M_{clean}$ ）相结合至关重要，与仅使用 $M_{clean}$ 相比，精度提升了高达 50% 的相对值。

意义与主张
论文声称 Relabeler 通过超越简单的检测并转向显式的、原则性的标签修复，解决了数据中心化学习中的关键空白。通过将标签纠正表述为一个既建模特征-标签关系又建模噪声转换模式的贝叶斯推理问题，Relabeler 提供了一个可复用的、高质量的数据集，能够使任何下游学习器受益。作者断言，这种方法对于那些无法丢弃数据且需要理解特定噪声分布以实现准确纠正的现实应用场景尤为实用。结果表明，Relabeler 不仅能提高数据集质量，还能作为现有以模型为中心的噪声鲁棒学习方法的有力补充。