💻 computer science

Reliability-aware Gradient Decoupling for Partial Label Learning

本文提出了 RGD-PLL，一种可靠性感知梯度解耦框架，该框架通过估计实例依赖的候选可靠性、通过熵加权抑制不确定监督，以及通过非对称投影移除冲突梯度分量，来增强部分标签学习，从而提高优化稳定性和鲁棒性。

原作者： Zhonghe Wei, Jihang Yin, Fengzhi Zhang, Yan Yan

发布于 2026-08-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Zhonghe Wei, Jihang Yin, Fengzhi Zhang, Yan Yan

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在人工智能领域，计算机在识别模式方面表现得非常出色，但它们却极其依赖完美的指令。为了教会机器区分猫和狗，或卡车和汽车，研究人员通常需要庞大的图像库，其中每一张图片都必须由人类专家进行细致的标注。这个过程缓慢、昂贵，且往往具有主观性，尤其是在物体之间的差异非常细微时。为了解决这个问题，科学家们开发了一种称为“部分标签学习”（partial-label learning）的方法。这种方法不再要求为每张图像提供一个单一且确定的答案，而是允许计算机从一组可能的候选对象中进行学习。例如，一张鸟类的图像可能会附带一份潜在标签列表，如“麻雀”、“雀类”或“雕”，计算机的任务是找出哪一个是真正正确的，同时忽略其他选项。这是一种利用更容易、更廉价收集的数据来训练强大系统的途径，模仿了人类经常通过提示而非绝对事实进行学习的方式。

然而，这一过程中仍存在一个重大障碍。当计算机面对一组可能的标签时，并非所有的候选标签都是同样值得信赖的。有些候选者是显而易见的猜测，而另一些则具有高度的可能性。如果计算机对列表中的每个选项都给予同等程度的重视，它就会变得困惑，从错误的线索中学习并强化自身的错误。这之所以特别成问题，是因为计算机必须同时完成两项任务：识别物体以及从列表中找出正确的标签。这两项任务往往会使计算机的学习引擎向不同的方向拉扯，从而产生一种冲突——即试图提高其中一项技能的行为实际上会损害另一项技能。

为了应对这种微妙的平衡，研究人员钟河（Zhonghe Wei）、殷继航（Jihang Yin）、张丰志（Fengzhi Zhang）和严严（Yan Yan）提出了一种名为 RGD-PLL 的新框架。他们的工作聚焦于一个特定的洞察：计算机不仅应该寻找正确的标签，还应该不断评估每个候选标签对于特定图像的可靠程度。他们意识到，估计可靠性的过程与识别物体的学习过程不应简单地混为一谈。相反，他们设计了一个将这两个学习流分离的系统，使它们能够相互协作而不互相干扰。其核心方法涉及一个提供稳定、一致指导的“教师”模型和一个从中学习的“学生”模型。教师模型观察一个经过轻微修改版本的图像并建议一个目标标签，而学生模型则观察一个经过大幅度修改的版本，并尝试匹配该建议。至关重要的是，系统会为每个候选标签计算一个置信度分数。如果教师不确定，系统就会知道保持谨慎；如果教师很确定，系统就会更加关注。

研究人员发现，仅仅使用这些置信度分数来挑选标签是不够的。真正的突破在于他们处理驱动学习过程的数学更新的方式。当计算机试图从一个可靠的标签中学习时，它会朝着特定的方向调整其内部设置。当它试图从一个不可靠的标签中学习时，它可能想要朝相反的方向调整。团队开发了一种技术来检测这两者何时发生冲突。与其强迫计算机折中或对两个方向取平均值，不如采用一种方法，仔细剔除掉那部分与主要学习目标相冲突的可靠性信号。这就像一位导航员，在收到乘客冲突的指令时，会忽略掉那部分会导致车辆冲下悬崖的指令，但保留有助于将车驶向目的地的那部分指令。这确保了识别图像的首要任务始终处于最高优先级，而确定正确标签的次要任务则提供了有益且不干扰的引导。

为了测试他们的想法，团队在几个用于基准测试人工智能的标准数据集上进行了广泛实验，包括日常物品、街道号码和服装类别的集合。他们在两种不同条件下测试了该方法：一种是候选标签是基于每张图像的具体特征生成的，另一种是候选标签更随机地选取的。在每种场景下，他们的新框架都优于现有方法。在一个包含 100 个不同类别的数据集上，他们的方法达到了 79.04% 的测试准确率，超越了之前的最佳结果。这种改进在不同类型的图像和不同难度水平下都是一致的。研究人员还进行了一系列检查，以确定其系统的哪些部分最为重要。他们发现，移除任何单个组件（如置信度权重或冲突消除技术）都会导致性能下降。这证实了他们系统的不同部分是如何协同工作以创造出一个稳健的解决方案的。

这项研究还考察了运行这一新系统的成本。虽然在训练阶段它需要更多的计算能力——大约是标准方法的 1.68 倍，且内存占用量接近两倍——但这种开销在训练完成后就会消失。用于进行预测的最终模型在大小和复杂度上与标准模型并无二致。这意味着额外的投入仅是学习阶段的临时投资，在实际使用时不会给系统的速度或规模带来持久负担。研究人员指出，他们的方法为使用不完美数据（在现实世界中完美标签非常罕见）来训练强大的 AI 系统提供了一种可靠途径。通过教计算机意识到自身的不确定性并谨慎处理冲突信号，他们创造了一种更稳定、更有效的方式，让机器能够从我们周围混乱、模糊的信息中进行学习。

技术摘要：面向部分标签学习的可靠性感知梯度解耦

1. 问题定义

部分标签学习（Partial-Label Learning, PLL）旨在解决当每个实例仅关联一组候选标签（其中只有一个是真实标签）时，训练深度神经网络所面临的挑战。尽管现有方法通过表示学习、对比学习和候选集精炼改进了标签消歧，但它们主要将候选可靠性视为一种修改监督信号的机制（例如，选择伪标签或精炼候选集）。

一个关键的空白在于，如何理解候选可靠性如何影响共享表示的优化。在 PLL 中，预测学习（识别正确标签）和可靠性估计（评估候选可信度）通常共享一个特征编码器。当估计的可靠性不准确时，产生的优化信号可能会与预测梯度发生冲突。此外，即使是兼容的辅助梯度，如果其量级过大，也会主导共享更新。现有的梯度冲突缓解策略（如 PCGrad、GradNorm）是为通用的多目标设置设计的，并未明确考虑到 PLL 的非对称性质，即预测是主要目标，而可靠性估计是一个变量信任度的辅助任务。

2. 方法论：RGD-PLL

作者提出了 RGD-PLL（面向部分标签学习的可靠性感知梯度解耦），这是一个旨在根据实例相关的候选可靠性来调节共享参数优化的框架。该框架由三个核心组件组成：

2.1 实例相关的候选可靠性估计

RGD-PLL 通过建模样本-标签交互来估计每个实例候选集上的可靠性分布 $q_i$ 。

架构： 学生网络处理强增强视图以产生预测和可靠性估计。动量教师网络（通过指数移动平均进行更新）处理弱增强视图，以生成稳定的、受候选集约束的目标（ $\pi_i$ ）。
可靠性加权： 教师目标的确定性通过候选约束熵（ $H_i$ ）来衡量。该熵决定了样本级可靠性系数（ $\alpha_i$ ），较低的熵（较高的置信度）对应更高的权重。
软监督： 学习到的可靠性分布通过由 $\alpha_i$ 加权并结合渐进式调度方案的软监督损失（ $L_{soft}$ ）来引导标签消歧。

2.2 非对称梯度解耦

为了解决共享编码器上的优化干扰，RGD-PLL 采用了非对称策略，而非对两个梯度进行对称修改。

冲突消除： 如果可靠性梯度（ $g_r$ ）与预测梯度（ $g_p$ ）发生冲突（即负内积），则将 $g_r$ 中反对 $g_p$ 的分量投影掉。保留剩余的兼容信息。
范数平衡： 为了防止大规模、非冲突的可靠性梯度主导更新，通过范数平衡系数（ $\gamma_t$ ）根据预测梯度范数与解耦后的可靠性梯度范数的比例来缩放辅助更新。
非对称缩放： 最终的共享梯度计算为 $g_\theta = g_p + \beta_t g_r^{dec}$ ，其中 $\beta_t$ 由调度系数、批次可靠性和范数平衡因子控制。这确保了更新方向始终是主要预测目标的下降方向。

2.3 渐进式优化调度

该框架利用渐进式调度，仅在预热期（ $T_w$ ）之后才激活可靠性引导的监督和梯度调节。这防止了不稳定早期预测的传播，并允许模型在引入复杂的可靠性约束之前建立基准表示。

3. 主要贡献

本文概述了三个主要贡献：

实例相关可靠性估计器： 一种基于样本-标签交互的新型估计器，它通过动量稳定目标和基于熵的加权来构建可靠的软监督。
非对称梯度解耦策略： 一种用于共享编码器的机制，它仅移除冲突的可靠性梯度分量，同时限制辅助更新的幅度，从而保留主要的预测方向。
全面的评估： 在 CIFAR-10、CIFAR-100、SVHN 和 Fashion-MNIST 的实例相关及实例无关候选标签设置下进行了广泛实验，通过对比实验、消融研究和梯度诊断证明了其有效性。

4. 实验结果

作者在多个数据集和设置下将 RGD-PLL 与最先进的方法（如 PiCO、CAND、CRDPLL、IDGP）进行了评估。

性能： RGD-PLL 在所有数据集上均取得了最高的测试准确率。
- 实例相关： 在 CIFAR-100 上，RGD-PLL 达到了 79.04% 的准确率，超过第二名（CAND，78.22%）0.82 个百分点。在 Fashion-MNIST 上达到了 93.25%。
- 实例无关： 在不同噪声水平（ $q$ ）下的 CIFAR-10、SVHN 和 CIFAR-100 上，RGD-PLL 始终优于基准方法。
消融研究： 移除任何组件（如动量教师、熵加权、梯度解耦或范数平衡）都会导致性能下降，证实了这些模块的互补作用。
梯度分析： 诊断显示，虽然梯度冲突发生在少数批次中（约 8–13%），但冲突子集表现出强烈的负向对齐。非对称投影成功地将冲突梯度的余弦相似度降至零，同时保留了兼容方向。
计算效率： 由于引入了动量教师和双梯度计算，该框架带来的可训练参数增加极少（~0.07M）且训练时间仅增加约 1.68 倍。至关重要的是，在推理阶段，动量教师和可靠性估计器会被丢弃，因此与标准编码器-分类器模型相比没有额外的推理开销。

5. 意义与主张

本文声称 RGD-PLL 解决了部分标签学习中一个此前未被充分探索的方面：由不可靠候选监督引起的优化干扰。通过将候选可靠性不仅视为一种监督来源，而且视为共享参数优化的调节器，该框架减轻了误导性信号破坏特征编码器的风险。

作者强调，他们的方法将候选级不确定性与梯度级调节联系了起来。不同于对称对待目标的通用多目标方法，RGD-PLL 尊重 PLL 的层级性质（预测为主，可靠性为辅）。结果表明，显式管理辅助梯度的方向和量级对于在模糊监督设置下实现鲁棒学习至关重要。最后指出，未来的研究将把该框架扩展到噪声和开集部分标签场景中。