🤖 machine learning

Optimal Regularization for Performative Learning

本文表明，在数据分布会随部署模型而发生变化的表演性学习（performative learning）中，最优正则化项的规模随这些效应的强度而缩放，并且实际上可以在过参数化机制下改善测试风险，从而为预测和缓解分布偏移提供了一种策略。

原作者： Edwige Cyffers, Alireza Mirrokni, Marco Mondelli

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

原作者： Edwige Cyffers, Alireza Mirrokni, Marco Mondelli

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下你是一位正在训练运动员的教练。在正常的训练场景中，运动员保持不变，你只需根据他们当前的表现来调整你的教练策略，以获得最佳效果。这正是当今大多数机器学习的工作方式：你根据数据训练一个模型，并希望它能在新的、相似的数据上表现良好。

但在**表演性学习（Performative Learning）**中，情况有点像一场“剪刀石头布”的游戏，玩家会因为知道你的招式而改变他们的策略。

问题：“操纵系统”效应

想象你是一个决定谁能获得贷款的 AI。

传统方式： 你查看他们的收入和信用评分。如果收入低，你就说“不”。
表演性的转折： 申请人很聪明。他们意识到，如果他们只是假装拥有稍高的收入（或者操纵他们的数据），你就会说“是”。因此，他们改变了自己的行为来“操纵”你的模型。
结果： 你今天看到的数据与你今天看到的数据看起来不同。申请人的分布发生了偏移，因为你的模型导致了他们的偏移。如果你在没有意识到发生这种情况的情况下，继续在这些被操纵的新数据上进行训练，你的模型可能会随着时间的推移变得越来越差，或者开始做出不公平的决策。

解决方案：“辅助轮”（正则化）

论文提出了一个问题：我们如何防止模型被这些不断变化的玩家所迷惑？

作者建议使用一种叫做**正则化（Regularization）**的技术。把正则化想象成“辅助轮”或一种“约束”。它能防止模型变得过于痴迷于数据中特定的、带有噪声的细节。它迫使模型保持“简单”和“稳定”，而不是对数据的每一个小把戏都做出过度反应。

重大发现：这取决于你拥有多少数据

论文发现，“完美的辅助轮程度”取决于你拥有多少数据。他们研究了两种主要的场景：

1. “数据之海”场景（总体回归/Population Regime）

想象你拥有无穷无尽的数据供应（就像一片海洋）。

发生了什么： 表演性效应（玩家操纵系统）使得模型的预测效果变差。这就像风把船吹离了航线。
解决方法： 你需要更多的辅助轮（正则化）来抵消这种风力。玩家试图操纵系统的力量越强，你就需要越强的辅助轮来保持模型的稳定。
类比： 如果风很大，你需要一个沉重的锚来防止船只漂移。

2. “小水洼”场景（过参数化回归/Over-parameterized Regime）

想象你只有很少的数据点，但你的模型却非常庞大且复杂（就像试图把一个巨大的拼图塞进一个小盒子）。这在现代 AI（如深度学习）中非常普遍。

发生了什么： 令人惊讶的是，在这种情况下，玩家试图操纵系统有时反而能帮助模型！如果玩家都朝着同一个方向改变行为（强化某种趋势），模型可以更快地学习到这种趋势。
转折点： 然而，“完美的”辅助轮程度会根据数据的“噪声”程度而变化。
- 如果数据很干净（低噪声）： 模型应该顺应玩家创造的趋势。辅助轮应该根据风向进行调整。
- 如果数据很杂乱（高噪声）： 模型应该对抗这种趋势。辅助轮应该通过推回动作来防止模型被噪声搞混。
类比： 如果你在人群中行走，而大家都在向左移动，且地面很平滑，你可以直接跟着他们向左走。但如果地面湿滑且杂乱，即使每个人都向左倾斜，你也需要扶住栏杆（正则化）以防摔倒。

核心结论

该论文证明了你不需要准确知道玩家是如何改变其行为的来解决问题。你只需要知道压力有多大。

操纵系统的压力更强？ 调高正则化程度（增加辅助轮）。
操纵系统的压力较弱？ 你可以放松辅助轮。

作者在真实世界的数据（如房价和法学院录取）上测试了这一点，并发现尽管现实世界是混乱的且并非完全符合数学逻辑，但规则依然成立：根据表演性效应的强度来调整模型的“约束”（正则化），有助于提升其表现。

简而言之：当你的模型预测会改变世界，而世界又会反过来改变以欺骗你的模型时，最好的防御是一种简单的、可调节的“刹车”（正则化），你可以根据世界回推的力量大小来收紧或放松它。

技术摘要：性能化学习中的最优正则化

问题陈述
在性能化学习（Performative Learning）中，数据分布会对部署的模型做出反应，从而产生一个反馈循环：策略性用户通过改变特征来操纵系统，或者自我实现预言（self-fulfilling prophecies）改变了结果（例如在贷款审批或预测性警务中）。这种动态机制使标准的监督学习变得复杂，因为针对当前数据分布进行优化可能会将分布推向一个新的、可能更糟的状态。虽然现有方法试图估计并优化这些性能化效应，但它们通常依赖于重复部署和对分布偏移的精确刻画，这在处理高维设置或部署仅限于训练后单次实例的情况下是不可行的（即重复风险最小化，或 RRM）。本文旨在解决如何在不显式估计分布偏移的情况下减轻这些效应，重点研究正则化的作用。

方法论
作者研究了线性回归在性能化效应下岭正则化（Ridge Regularization）的影响，分析了两种不同的机制：

总体机制（Population Regime）： 在拥有足够数据以在每次部署时精确恢复回归系数的设置下。作者将性能化效应建模为标签的线性偏移（ $y = x^\top \theta^*_{pop} + x^\top D\theta + w$ ），其中 $D$ 编码了性能化程度。他们推导了 RRM 序列的不动点，并分析了超额风险作为正则化参数 $\lambda$ 的函数关系。
过参数化机制（Over-Parameterized Regime）： 在特征数量 $p$ 超过样本数量 $n$ 的高维设置下（ $p/n = \kappa > 1$ ）。在此，作者利用高维统计工具，为性能化不动点处的风险建立了一个确定性等价物（Deterministic Equivalent）。该等价物仅取决于总体协方差、真实参数、性能化矩阵 $D$ 以及正则化强度，从而抵消了有限样本带来的随机性。

分析区分了预测性特征（与真实标签相关）和伪特征（与真实标签不相关），并考察了性能化如何与两者相互作用，特别是在它们通过协方差矩阵相关联时。

核心贡献与结果

总体机制发现：
- 证明了最优正则化参数 $\lambda^*_{pop}$ 与性能化效应的强度（ $\bar{b}$ ）成正比。
- 正则化可以减轻由性能化引起的性能损失。如果协方差是各向同性的且性能化效应在特征间是均匀的，则可以实现零超额风险。
- 在存在复杂协方差结构或高度可变的性能化效应时，风险仍然显著，但最优正则化仍能提供最佳的缓解效果。
- 论文指出，在某些情况下，最优正则化可以是负的（即“反正则化”），这种现象此前在过参数化设置中被观察到，但此处显示由于性能化的存在，它也发生在总体设置中。
过参数化机制发现：
- 作者推导出了风险的确定性等价物，揭示了关于最优正则化方向的细微现象学特征：
  - 低噪声： 当噪声方差较小时，最优正则化的移动方向与性能化对预测性特征的影响方向相同。
  - 高噪声： 当噪声方差较大时，最优正则化的移动方向与性能化效应的影响方向相反。这被解释为当噪声占主导地位时，模型会回归其“先验”。
- 风险提升： 与总体机制中性能化恶化风险的情况相反，本文发现，在过参数化机制下，如果性能化强化了现有趋势（正 $\bar{b}$ ），则最优正则化后的风险实际上可以比非性能化情况有所改善。
- 伪特征： 性能化对伪特征的影响通常被因子 $\rho^2$ （预测性特征与伪特征之间的相关性）所衰减，使其对最优正则化和风险的影响比对预测性特征的影响更不显著。
实证验证：
- 在合成数据和真实世界数据集（Housing 和 LSAC）上的实验证实了理论预测。
- 在类总体设置（大 $n$ ）中，最优正则化随性能化强度增加而增加，且风险随性能化而增加。
- 在过参数化设置（小 $n$ ）中，行为符合高噪声理论预测：最优正则化随性能化强度的增加而减少，且风险得到改善。
- 这些发现从岭回归扩展到了其他正则化项（Dropout、Lasso、Elastic Net），甚至扩展到了策略分类场景下的神经网络，表明了该现象的鲁棒性。

意义与主张
本文声称是第一个利用高维统计工具研究性能化学习的研究。其主要意义在于证明了正则化是一种原则性的、可处理的且与具体分布无关的机制，用于应对性能化效应，即使在不知道确切分布偏移性质的情况下也是如此。

作者认为，虽然基于估计的方法受限于低维或简单示例，但正则化为那些部署成本高昂且难以重复的现实场景提供了一个实用的解决方案。这项工作表明，从业者可以预见性能化偏移，并据此调整正则化（将其规模与预期效应强度挂钩），以提高模型的鲁棒性和性能。论文保持了谦逊的基调，承认虽然理论侧重于线性模型和随机数据，但对真实世界数据和神经网络的实证结果表明这些洞察具有泛化性，尽管仍需进一步研究以探索更复杂的数据和模型。