🤖 machine learning

Stochastic Penalty-Barrier Methods for Constrained Machine Learning

本文介绍了随机惩罚 - 障碍法（SPBM），这是一种新颖的算法，将经典的惩罚和障碍技术扩展到非凸、非光滑和随机深度学习场景，即使在约束条件多达 10,000 个的问题中，也能以最小的计算开销展现出优于或相当于现有基准的性能。

原作者： Adam Bosák, Andrii Kliachkin, Jana Lepšová, Gilles Bareilles, Jakub Mareček

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Adam Bosák, Andrii Kliachkin, Jana Lepšová, Gilles Bareilles, Jakub Mareček

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是用通俗语言和日常类比对论文《带约束机器学习的随机惩罚 - 障碍方法》的解释。

宏观图景：在规则下教导学生

想象你正在训练一名学生（一个神经网络）来解决复杂问题，比如识别照片中的猫或预测天气。通常，你只需告诉学生“努力得出正确答案”，他们通过试错来学习。这就是标准的机器学习。

但有时，你需要学生在严格遵守规则的同时进行学习。

公平性：“你在识别猫时，必须对不同性别的人群一视同仁。”
物理学：“你的天气预测必须符合热力学定律。”
安全性：“汽车的 AI 绝不能将车开向墙壁。”

问题在于，在现实世界中，这些规则往往杂乱无章。数据充满噪声（就像嘈杂的教室），规则错综复杂（非凸），有时规则本身还模糊不清（非光滑）。现有的在规则下教导学生的方法在这种混乱环境中常常失效。它们要么无视规则，要么陷入僵局，要么学习过程耗时过长。

解决方案：SPBM（“智能教练”）

作者提出了一种名为SPBM（随机惩罚 - 障碍方法）的新方法。你可以将 SPBM 想象为一位智能教练，他在帮助学生掌握知识的同时，严格确保他们不越界。

这位教练通过以下三个主要技巧发挥作用：

1. “移动平均”低语（指数平均）

在嘈杂的教室里，学生可能会听到一次错误的指令而困惑。如果教练对每一次喊叫都做出反应，学生会惊慌失措，原地打转。

类比：SPBM 教练不会立即对每一条反馈做出反应，而是随时间聆听反馈并计算平滑平均值。它忽略那些响亮、疯狂的异常值，专注于整体趋势。这让学生保持冷静，朝着正确的方向前进。

2. “可调节橡皮筋”（稳定化惩罚计划）

想象规则是由一根系在学生身上的橡皮筋维持的。

如果橡皮筋太松，学生就会走偏并违反规则。
如果橡皮筋太紧，学生会被猛烈拉回，导致无法移动，或者橡皮筋断裂（不稳定）。
类比：旧方法使用的橡皮筋要么断裂，要么松弛。而 SPBM 教练使用智能、可调节的橡皮筋。它根据学生当下的表现来收紧或放松橡皮筋。如果学生违反规则，教练会温和但坚定地将他们拉回；如果他们表现良好，教练就会放松张力，让他们学得更快。

3. “平滑路径”（Moreau 包络）

有时，规则像崎岖的山路一样参差不齐、尖锐。如果你试图走在崎岖的小路上，可能会绊倒或被尖锐的岩石卡住。

类比：SPBM 教练不会强迫学生走在崎岖的岩石上。相反，教练在岩石旁边开辟了一条平滑、铺设好的道路（使用一种称为"Moreau 包络”的技术）。学生走在平滑的道路上，这条路通向与岩石路相同的目的地，但没有绊倒的风险。这使得即使规则在数学上“粗糙”，学生也能持续前进。

结果：它有效吗？

作者在几种场景下测试了这位“智能教练”（SPBM）与其他教练（现有方法）的表现：

公平性：训练计算机识别人脸，而不偏向特定群体。
物理学：训练计算机求解物理方程（例如水流如何流动或声波如何传播）。

研究发现：

性能更优：在许多情况下，SPBM 比其他教练学得更快，结果更好。
稳定性：即使规则非常严格或数据非常混乱，它也不会崩溃或陷入僵局。
速度：它的速度并不比无规则训练慢多少。它只增加了极少量的额外时间（线性开销），使其适用于现实世界的应用。

核心结论

这篇论文介绍了一种训练 AI 模型的新方法，这些模型必须遵守严格、混乱且符合现实世界的规则。这就像给 AI 配备了一位懂得如何平衡“学习课程”与“遵守规则”的教练，确保 AI 既聪明又安全，同时不会过度拖慢训练过程。

该论文未声称的内容：
该论文并未声称这将解决未来所有的 AI 偏见问题，也未声称该方法目前已准备好用于医疗诊断或自动驾驶汽车。它仅仅证明，在受控的测试环境中，这种特定的数学方法在针对此类特定约束训练模型时，优于现有方法。

技术摘要：用于约束机器学习的随机惩罚 - 屏障方法

问题陈述

本文解决了**约束机器学习（CML）**的挑战，具体而言，是在随机、非凸且非光滑的约束条件下，优化一个随机、非凸且非光滑的目标函数。该问题表述为：

$\min_{x \in \mathbb{R}^n} \mathbb{E}[f(x, \xi)] \quad \text{s.t.} \quad \mathbb{E}[g(x, \xi)] \le 0$

其中 $\xi$ 是随机变量， $f$ 和 $g$ 是局部 Lipschitz 函数。这种设定自然出现在深度学习应用中，例如公平性感知训练（强制执行人口统计 parity 或均衡几率）、物理信息神经网络（PINNs，其中物理定律作为约束），以及符号领域知识的集成。

现有方法通常在此特定机制下失效。先前的工作通常假设确定性约束、凸目标函数或线性约束。虽然随机切换次梯度（SSw）和随机平滑拉格朗日（SSL-ALM）等方法处理了一些随机非凸情况，但它们难以应对一般的非光滑、非凸约束，或者需要不切实际的计算（例如 SQP 方法中的 Hessian 矩阵存储）。此外，简单的惩罚正则化（例如 $F_\rho(x) = f(x) + \rho \| \mathbb{E}[g] \|^2$ ）对于大的惩罚参数往往不稳定，或者对于小的惩罚参数不可行。

方法论：随机惩罚 - 屏障方法（SPBM）

作者提出了SPBM，这是一种原始 - 对偶算法，将 Ben-Tal 和 Zibulevsky [20] 的经典惩罚 - 屏障方法（PBM）扩展到随机、非光滑、非凸的设定中。该方法使用惩罚 - 屏障函数统一约束，并采用三个关键修改来处理深度学习的随机性和非光滑性：

用于对偶更新的指数移动平均（EMA）：
由于期望值是通过小批量采样近似的，对偶变量的更新存在噪声。SPBM 对对偶更新（ $\lambda$ ）应用指数移动平均，以减少方差并稳定收敛。更新规则为：
$\lambda^{k+1} = \gamma \lambda^k + (1-\gamma) \lambda^k \odot \phi'(g(x^k) \oslash p^k)$
其中 $\gamma \in [0, 1)$ 是衰减率， $\phi$ 是惩罚 - 屏障函数， $p$ 代表惩罚参数。
稳定的惩罚参数调度：
在原始 PBM 中，惩罚参数 $p$ 向零递减，这在随机设定中可能导致不稳定。SPBM 引入了自适应或线性的惩罚更新函数，防止 $p$ 过快消失。作者提出了两种策略：
- 线性： $p^{k+1} = \text{Clip}_{[0.1, 1]}[K_1 p^k]$ ，其中 $K_1 < 1$ 。
- 自适应： 根据当前约束的满足情况（使用 $\phi'$ ）调整 $p$ ，对满足的约束增加惩罚，对违反的约束减少惩罚，同时保持边界限制。
用于非光滑性的 Moreau 包络：
为了处理目标函数和约束的非光滑性（常见于具有 ReLU 激活函数或特定损失函数的神经网络），SPBM 在拉格朗日量的Moreau 包络上进行优化。该方法不求解精确的非光滑子问题，而是执行一步 Adam（OneStepAdam）以找到 Moreau 包络的近似极小值点：
$\min_x \left( \bar{L}_{p^{k+1}}(x, \lambda^{k+1}) + \frac{\mu}{2} \|x - s^k\|^2 \right)$
其中 $s^k$ 是通过指数平均更新的近心点。这有效地平滑了问题，同时保留了极小值点。

该算法在小批量设定下运行，同时采样目标函数和约束分布。它被设计为 PyTorch 等框架中标准优化器的“即插即用”替代品。

主要贡献

算法提案： 提出 SPBM，这是首个专为深度学习中随机、非凸和非光滑约束优化量身定制的通用方法。
理论扩展： 将确定性 PBM [20] 推广到随机设定，表明在特定参数选择下，SPBM 可被视为 SSL-ALM [19] 的推广。
实证基准测试： 在 8 种不同的实验设定中进行了全面评估，包括：
- 公平性： 在 ACSIncome、Dutch Census、CIFAR-10 和 CIFAR-100 数据集上进行二分类和多分类，施加人口统计 parity 和均衡准确率约束。
- 物理信息： 使用带有边界和初始值约束的 PINNs 求解 Helmholtz 方程和粘性 Burgers 方程。
开源实现： 发布了与 PyTorch 无缝集成的代码，只需极少的代码更改即可指定约束。

实验结果

作者将 SPBM 与 Adam（无约束）、SSw [18] 和 SSL-ALM [19] 进行了基准测试。

性能： 在测试损失和约束满足方面，SPBM 达到或超过了现有基线。
- 在公平性任务中（例如具有 9,900 个约束的 CIFAR-100），SPBM 在满足约束的同时，实现了比 SSL-ALM 显著更低的测试损失。
- 在 PINN 实验中，与带正则化的 Adam 和 SSL-ALM 相比，SPBM 展示了更优的解质量（更低的测试 MSE）和更好的边界条件满足度。
- SSw 的表现通常较差，归因于其一次只能处理一个约束的限制，使其不适合多约束设定。
计算效率： 与无约束 Adam 相比，SPBM 仅产生线性运行时开销。对于多达 10,000 个约束，运行时最多比 Adam 慢 3 倍（例如，在 CIFAR-100 上每个 epoch 为 5.86 秒 vs 1.92 秒）。
稳定性： 与需要仔细调整 $\rho$ 以避免不稳定或不可行的标准惩罚方法不同，观察到 SPBM 在各种超参数设定下是稳定的，并收敛到可行集。

意义与主张

本文声称 SPBM 为在复杂约束下训练神经网络提供了一种可靠且计算可行的替代方案。其意义在于：

弥合差距： 它解决了现代深度学习中普遍存在的“非凸、非光滑、随机”设定，而此前该设定缺乏通用且高效的求解器。
实用性： 通过保持线性计算扩展性并提供与现有 ML 工作流的简单集成，它使从业者能够在不产生过高成本的情况下强制执行公平性或物理约束。
鲁棒性： 该方法在高维约束空间（多达约 10,000 个约束）中表现出鲁棒性，而其他方法在此类空间中往往难以应对。

作者谦逊地指出了局限性：完全随机非凸非光滑设定下的收敛保证仍然是一个开放的理论问题，并且该方法引入了额外的超参数（例如惩罚调度），可能需要调整。目前的评估仅限于公平性和 PINN 应用。