🤖 machine learning

Unification and Optimization of Robust Supervised Learning

本文提出一个统一框架，将多种鲁棒监督学习方法沿三个设计维度进行组织，并整合为一种序贯训练流程，使从业者能够自动优化并组合鲁棒性策略，以应对各种基准测试中未知的失效模式。

原作者： Jonas Hanselle, Valentin Margraf, Clemens Damke, Eyke Hüllermeier

发布于 2026-05-28

📖 1 分钟阅读☕ 轻松阅读

原作者： Jonas Hanselle, Valentin Margraf, Clemens Damke, Eyke Hüllermeier

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一位厨师，正试图制作一道完美的菜肴。你拥有一份食谱（你的 AI 模型）和一套食材（你的训练数据）。通常，你只是严格按照食谱烹饪，仅用你手头的食材进行品尝。这被称为经验风险最小化（ERM）。

但如果你的食材略有变质呢？如果食谱假设你拥有新鲜番茄，但未来的顾客只有罐装番茄呢？或者，如果撰写食谱的人打错了字呢？如果你僵化地坚持原计划，你的菜肴可能在厨房里尝起来很棒，但在端给大众时却会彻底失败。

在 AI 世界中，这些“失败”被称为分布偏移（提供罐装番茄）、标签噪声（食谱中的错别字）或有限样本问题（没有足够的食材来测试每一种风味）。

问题：过多的专用工具

多年来，科学家们发明了许多不同的“安全网”来解决这些特定问题：

Mixup（混合）： 就像将两份不同的食谱混合在一起，创造出一种新的混合食谱。
标签平滑（Label Smoothing）： 就像告诉厨师：“不要 100% 确定它是番茄；也许它是番茄和胡椒的混合物。”
对抗训练（Adversarial Training）： 就像故意在测试菜肴中加入一点点盐，看看厨师是否仍能将其做得美味。

问题在于，这些工具是孤立构建的。厨师必须在开始烹饪前猜测：“我的主要问题是食材不好，还是食谱中有错别字？”如果猜错了，他们可能会使用错误的工具，从而毁掉这道菜。

解决方案：通用的“安全开关”

本文介绍了一个统一框架。将其想象为一个高科技的模块化厨房工作站，你不必只选择一种安全工具。相反，你拥有三个独立的旋钮（轴），可以将它们调节到任何你喜欢的设置：

参考分布（基础食谱）：
- 作用： 这决定了你如何看待你的食材。你是原样使用它们？将它们混合在一起（Mixup）？还是添加一些“虚拟”的想象食材来填补空白？
- 类比： 这决定了你是将蔬菜切碎、打成汤，还是保持完整。
模糊集（“如果”区域）：
- 作用： 这定义了世界可能变化的程度。你愿意考虑离基础食谱多远的可能性？
- 类比： 这是你的安全网的大小。你是担心撒错了一点点盐（小半径）？还是担心有人完全用土豆替换了你的番茄（大半径）？
消歧原则（厨师的态度）：
- 作用： 这是你面对不确定性的心态。
  - 悲观： “假设最坏的情况会发生。”（为最坏情况做准备）。
  - 乐观： “假设最好的情况会发生。”（寻找最清晰的信号）。
  - 中性： “只需取平均值。”
- 类比： 你是一个偏执的厨师，假设烤箱会坏掉，还是一个乐观的厨师，假设食材完美无缺？

工作原理：“联合优化”

这篇论文的魔力不仅在于拥有这些旋钮，更在于能够使用一种称为“超参数联合优化”的计算机程序同时调节所有旋钮。

不再是人类厨师猜测“我应该使用混合工具还是加盐工具？”，计算机自动尝试数千种组合。它会问：“如果我稍微混合一下食材，假设一个中等大小的安全网，并表现得稍微悲观一点，会发生什么？”

它会为手头的具体任务找到完美的组合。

如果问题是标签错误（错别字），计算机可能会调高“标签平滑”旋钮。
如果问题是奇怪的数据偏移（罐装番茄），它可能会调高“对抗”旋钮。
如果问题是两者兼有，它会将它们结合起来。

结果：可靠的默认方案

作者在三种类型的任务上测试了这个“通用厨房”：

表格数据： 如医疗记录或大学统计数据。
图像： 如识别鸟类或人脸。
奖励建模： 教导 AI 理解人类偏好（例如决定哪个答案“更友善”）。

发现很简单：

当允许计算机同时调节所有旋钮时，它在每种场景下的表现都与最佳单一工具方法一样好。
在棘手的“奖励建模”任务（教导 AI 人类偏好）中，组合方法实际上比任何单一工具都更好。
最重要的是，如果你不知道面临的是哪种问题，这个“通用厨房”就是一个安全、可靠的默认方案。你不必成为天才厨师就能做出美味的菜肴；你只需让机器找到正确的设置。

总结

这篇论文指出：停止猜测该使用哪种安全工具。 相反，构建一个拥有所有可用工具的系统，并让自动化过程为你的具体问题找到完美的组合。它将一个复杂、高风险的决策转化为一个简单的调节过程，确保你的 AI 模型无论现实世界抛出什么意外，都能保持稳健。

技术摘要：鲁棒监督学习的统一与优化

问题陈述

在监督学习中，从业者面临一系列不确定性下的决策，涵盖从数据收集与标注到模型部署的各个阶段。在每个阶段，都可能发生失效模式，包括有限样本退化（数据缺乏代表性）、标签噪声（主观或不一致的标注）以及分布偏移（训练环境与部署环境之间的差异）。尽管已有大量文献提出了经验风险最小化（ERM）的鲁棒替代方案——例如分布鲁棒优化（DRO）、标签平滑、邻域风险最小化（VRM）和 Mixup——但这些方法通常是在孤立状态下开发的。

这种碎片化迫使从业者必须先验地承诺于单一失效模式及相应的鲁棒性机制，即使特定任务的主导不确定性来源尚不明确。此外，这些方法背后的隐式建模选择（如何表示数据分布、哪些偏差被视为合理、以及如何解决不确定性）纠缠在特定的目标函数中，使得系统性的比较与组合变得困难。本文认为，针对不同失效模式的机制可以相互组合，在多种模式共存时超越任何单一方法的表现，然而当前的框架缺乏一种统一的方法来发现这些最优组合。

方法论：统一框架

作者提出了一个统一框架，将鲁棒监督学习分解为三个正交的设计轴，将其视为独立的维度，而非特定算法的固定组件。

1. 三个设计轴

该框架基于以下定义了一个通用的鲁棒学习问题：

参考分布（ $P_{ref}$ ）： 扰动定义所围绕的分布。这可以是经验分布（ $P_n$ ），也可以是平滑或增强后的变体（例如通过 VRM 或 Mixup）。
模糊集（ $U(P_{ref})$ ）： 一组捕捉输入、标签或两者不确定性的合理分布。该集合通过分布距离 $\Delta$ （例如 Wasserstein 距离或 KL 散度）和扰动半径 $\varrho$ 来定义。该集合的形式化定义为 $U(P_{ref}) = \{Q \in \mathcal{P}(\mathcal{X} \times \mathcal{Y}) : \Delta(Q, P_{ref}) \leq \varrho\}$ 。
消歧原则（ $\Phi$ ）： 编码从业者对模糊集内不确定性立场的规则。
- 悲观： 假设偏差代表部署后的威胁（例如对抗性攻击、协变量偏移），并寻求最坏情况风险（ $\sup$ ）。
- 乐观： 假设偏差代表部署前的污染（例如标签噪声），这些污染可能部分可纠正，并寻求最好情况风险（ $\inf$ ）。
- 中性： 对应于标准聚合（例如期望）。

通用目标函数表述为：
$\hat{h}_{robust} = \arg \min_{h \in \mathcal{H}} \Phi_{Q \in U(P_{ref})} \mathbb{E}_{(x,y) \sim Q} [\ell(h(x), y)]$

2. 理论联系

本文证明，许多现有方法是该框架的特例，即通过在三个轴上固定特定选择而得到。对于具有平方损失的线性模型，作者推导出了闭式简化，展示了这些方法如何表现为正则化项：

VRM（高斯噪声）： 简化为带有 $\ell_2$ 正则化项（ $\sigma^2 \|w\|^2$ ）的 ERM。
Mixup： 对于线性最小二乘，与 ERM 相比，Mixup 不改变最小化器，因为它惩罚的是残差方差，而该方差在 ERM 最优解处已为零。
W-DRO： 简化为带有正则化项的 ERM，该正则化项与 $\|w\|$ 呈线性关系，但按经验平均绝对残差进行缩放。
标签平滑： 重新缩放 ERM 解的幅度，而不改变其方向。

3. 可处理的训练过程

为了使该框架具有实用性，作者推导出了单一的训练流程，将所有设计选择暴露为连续超参数。该流程在梯度更新之前，通过四个连续阶段处理一个小批量数据：

参考分布增强： 应用输入空间扰动（例如用于 VRM 的高斯噪声或用于 Mixup 的插值），或保持数据不变。
输入空间扰动（ $\Phi_X$ ）： 在 Wasserstein 球内应用实例级扰动（通过投影梯度下降），并选择悲观、中性或乐观立场。
标签空间扰动（ $\Phi_Y$ ）： 在 credal 集内应用标签扰动（例如标签平滑、松弛或对抗性偏移），并选择立场。
样本级聚合（ $\Phi_S$ ）： 使用 KL 约束的对偶公式聚合批次内的损失（例如用于悲观/乐观聚合的倾斜 ERM）。

这种统一的损失函数允许联合超参数优化（HPO）。从业者无需手动选择方法，而是可以使用标准黑盒优化器（例如贝叶斯优化）联合调整完整的搜索空间 $(\sigma, \varrho, \alpha, \tau)$ 。这将从业者的角色从选择鲁棒性机制重新定义为指定搜索预算。

主要贡献

统一框架： 一个通用的公式，涵盖三个显式建模轴（参考分布、模糊集、消歧原则），将广泛的现有方法类别恢复为特例。
理论澄清： 针对线性模型上的 VRM、Mixup 和 W-DRO 的闭式简化，阐明了它们的定性关系及不同的正则化效应。
可处理的过程： 单一训练流程，其中所有设计选择均为连续超参数，支持通过反向传播进行端到端训练及联合 HPO。
实际适用性： 实证证据表明，联合优化在不同任务中与最佳单一方法基线具有竞争力，在主导失效模式未知时提供了一个可靠的默认选项。

实验结果

作者在三种模态上评估了该框架：表格数据（TableShift 基准）、图像数据（Waterbirds, CelebA）和奖励建模（HH-RLHF）。他们将“联合”配置与代表不同失效模式的八个基线（W-DRO, KL-DRO, W-DFO, KL-DFO, 标签平滑，标签松弛，VRM 和 ERM）进行了比较，使用了匹配的 50 次试验 HPO 预算。

表格数据： 联合配置在准确率方面与最佳基线具有竞争力。值得注意的是，它显著改善了尾部风险（通过 CVaR 衡量），在几个数据集上将尾部风险降低至 ERM 的大约一半。
图像数据： 在 Waterbirds 数据集上，组不平衡导致了显著的分布偏移，联合配置实现了比 ERM 低一个数量级的 CVaR 值，且没有可测量的准确率损失。标签侧干预（LS, LR）和模糊集方法（KL-DRO, 联合）特别有效。
奖励建模： 联合配置实现了最高的 OOD 准确率（0.713，而最强的基线 W-DFO 为 0.687），并降低了 OOD CVaR。
Shapley 分析： 对奖励建模任务的分析显示，单一组件的贡献无法预测组合后的行为。例如，标签平滑（LS）在孤立状态下表现较弱，但在与 DRO 交互时对准确率起主导作用，而 DRO 单独使用时对尾部风险最强。这证实了联合优化以发现正确配置的必要性。
HPO 预算： 运行最佳性能曲线显示，联合配置在相同的时间尺度上达到平台期，与更简单的基线相当，表明其优越性能并非搜索空间更大或试验次数更多的产物。

意义与主张

本文主张，这项工作的主要意义在于减轻了从业者必须先验地承诺于单一鲁棒性机制的负担。通过将鲁棒学习统一到一个单一的搜索空间中，该框架允许针对给定任务进行数据驱动的最优机制组合发现。

作者断言，虽然精心调优的单轴基线可以在特定模态上与联合配置相匹配，但选择正确的方法需要预先知道主导失效模式。联合配置避免了这一选择问题，在跨模态中保持一致的竞争力，并在失效模式未知或相互交互时提供鲁棒的默认选项。这项工作通过将范式从相互竞争、孤立的方法转变为可配置、可组合的设计选择，推动了该领域的发展。