🤖 machine learning

The Costs of Pretending That There Are Data-Generating Probability Distributions in the Social World

该论文批判了机器学习研究中假设社会世界存在数据生成概率分布的观点，认为这种假设不仅不成立且有害，并主张应转向直接关注相关人群而非抽象分布的替代框架。

原作者： Benedikt Höltgen, Robert C. Williamson

发布于 2026-04-23

📖 1 分钟阅读☕ 轻松阅读

原作者： Benedikt Höltgen, Robert C. Williamson

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文的核心观点非常犀利，甚至有点“反直觉”。简单来说，作者认为：在涉及人类社会的机器学习（AI）中，我们一直假装存在一个“上帝视角的真理概率分布”，但这不仅是个谎言，而且非常有害。

为了让你轻松理解，我们可以把这篇论文拆解成几个生动的比喻：

1. 核心比喻：寻找“完美食谱”vs. 烹饪“家常菜”

传统的 AI 观点（Gen-D 框架）：
想象一下，机器学习研究者就像一群在寻找“宇宙终极食谱”的厨师。他们假设世界上所有的数据（比如人的行为、犯罪记录、信用评分）都来自一个看不见的、完美的“真理大锅”。

他们认为：只要我们的数据样本足够多，我们就能尝出这锅汤原本的“味道”（概率分布）。
目标：我们的模型越接近这个“真理大锅”的味道，我们就越成功。
潜台词：只要数据够多，算法就能自动发现“客观真理”，就像发现万有引力一样。

作者的观点（本文主张）：
作者说：别做梦了，根本没有那个“真理大锅”！

在赌场里（比如掷骰子），确实有一个固定的概率（比如骰子有 1/6 的概率是 6），因为骰子不会思考，也不会改变。
但在人类社会里，每个人都是独特的，情况是流动的。你无法像抓一把骰子那样，抓一把“人”然后说“这些人代表了全人类的真理”。
真相是： 所谓的“概率”不是被发现的，而是被制造出来的。就像厨师决定今天做什么菜（选择什么数据、怎么定义问题），而不是去挖掘地里埋藏的“菜”。

2. 为什么假装存在“真理分布”很危险？

作者列举了三个主要的“代价”：

A. 掩盖了“谁在掌勺”（掩盖了人为选择）

比喻： 如果你告诉食客：“这道菜的味道是‘客观真理’，是大自然决定的”，食客就会觉得你不需要为味道负责。
现实： 在 AI 中，如果我们说“模型预测某人犯罪概率高是因为‘数据真理’"，我们就掩盖了背后的选择：是谁定义了“犯罪”？用了哪些数据？忽略了哪些背景？
后果： 这种“客观性”的假象，让算法看起来像是一个自动的、中立的法官，从而逃避了人类决策者应该承担的责任。

B. 把“多样性”误认为是“错误”（模型多重性）

比喻： 想象你要预测明天的天气。如果有 10 个气象学家，用了不同的方法，都预测对了 90% 的天气，但具体到“下午 3 点会不会下雨”时，他们的答案各不相同。
传统观点： 他们会想：“肯定有一个‘真理天气’，这 10 个模型里只有一个是准的，其他 9 个都是错的，我们要努力找到那个唯一的真理。”
作者观点： 在社会问题上，根本没有唯一的真理天气。这 10 个模型可能都是合理的，只是侧重点不同。如果我们执着于寻找“真理分布”，就会把这种合理的多样性视为“噪音”或“错误”，从而试图强行统一，反而可能忽略了某些群体的利益。

C. 把“人”当成了“样本”（参考类问题）

比喻： 假设你要预测“张三”明年会不会得病。
- 如果你把“张三”归类为"30 岁男性”，他的生病概率是 5%。
- 如果你把“张三”归类为"30 岁吸烟男性”，概率变成 10%。
- 如果你把“张三”归类为"30 岁吸烟、住在污染区、有家族史的男性”，概率变成 20%。
问题： 到底哪个概率是“真理”？没有标准答案。这取决于我们选择把张三看作谁。
危害： 传统的 AI 框架假设有一个固定的“真理概率”等着我们去算。但实际上，我们如何定义一个人（选择哪些特征），直接决定了预测结果。假装有一个客观真理，让我们忽略了“我们是如何把人分类的”这个关键问题。

3. 作者的建议：扔掉“上帝视角”，脚踏实地

作者建议我们换一种思维方式：

不要寻找“真理分布”： 承认没有上帝视角的真理概率。
关注“具体的人群”： 不要说“从分布中采样”，而要说“我们关注的是这一群具体的人”。
明确我们的目标： 我们做 AI 不是为了“逼近真理”，而是为了解决具体问题（比如：如何公平地分配工作培训？如何降低信贷风险？）。
承担责任： 既然没有“客观真理”来背锅，那么做模型的人就必须公开承认：“我选择了这样的数据，定义了这样的特征，是为了达到这样的目标。”

总结

这就好比：
以前我们以为 AI 是在挖掘埋在地下的“人类行为水晶球”（真理分布），挖得越深越准。
现在作者告诉我们：水晶球根本不存在。 AI 其实是在搭建一个模型，这个模型是我们根据当下的需求、价值观和选择建造的。

如果不承认这一点，我们就会误以为算法是“客观中立”的，从而盲目信任它，甚至用它来为歧视或不公辩护。 只有承认它是“人造的”，我们才能真正去审视和修正它，让它更好地服务于社会。

一句话总结： 别把 AI 当成发现真理的显微镜，要把它当成我们手中用来解决问题的工具，并且要时刻记得，是谁在握着这个工具，以及他为什么要这么握。

这是一份关于论文《假装社会世界存在数据生成概率分布的代价》（The Costs of Pretending That There Are Data-Generating Probability Distributions in the Social World）的详细技术总结。

1. 研究问题 (Problem)

机器学习（ML）和统计学领域普遍采用**数据生成概率分布（Data-Generating Distribution, 简称 Gen-D）**的框架。该框架的核心假设是：观测到的数据点是从某个真实的、潜在的联合概率分布 $P(X, Y)$ 中独立同分布（i.i.d.）采样得到的。基于此假设，学习算法的目标被定义为近似这个“真实分布”或寻找贝叶斯最优预测器（Bayes-optimal predictor）。

然而，本文指出，在社会场景（涉及人类行为、决策和预测）中，这种假设存在根本性缺陷：

本体论缺陷：社会现象中不存在客观的、预先存在的“真实概率分布”。概率是社会构建的产物，而非被发现的物理实体。
实践危害：坚持 Gen-D 框架会掩盖建模过程中的关键选择（如特征选择、人群定义），导致对算法“客观性”的虚假认知，并阻碍对公平性、模型多重性（Model Multiplicity）等问题的深入理解。
理论误导：它错误地将学习过程视为“近似真理”，而非“构建决策规则”，从而模糊了模型性能与具体任务目标之间的关系。

2. 方法论 (Methodology)

作者采用了一种结合哲学论证、理论推导和实证分析的方法：

哲学与概念分析：
- 引用 Michael Strevens、Nancy Cartwright 等学者的观点，论证概率在赌博等稳定系统中可能具有“客观性”的假象，但在社会系统中，概率总是基于特定人群定义和时间框架的构建（Constructed），而非发现（Discovered）。
- 批判“参考类问题”（Reference Class Problem）：对于个体（如“你”），其风险概率取决于如何定义相似性（即输入空间 $\mathcal{X}$ 的抽象方式），不存在唯一的“真实”概率。
理论重构（有限总体框架）：
- 作者提出用**有限总体（Finite Populations）**框架替代 Gen-D 框架。
- 核心数学工具：通过修改 Vapnik 的对称化引理（Symmetrisation Lemma），证明了在不假设数据来自无限分布的情况下，依然可以推导泛化误差界。
- 无放回抽样模型：将学习视为从有限总体（如特定年份、特定地区的人口）中进行无放回抽样（Sampling without replacement），而非有放回抽样。
- 定理 3 (Theorem 3)：证明了在有限总体中，只要样本量足够大，训练集上的误差与整个有限总体（或剩余部分）上的误差之间的偏差是可以被严格界定的。这表明学习理论不需要依赖“真实分布”的存在。
实证分析：
- 利用 ACS Income 数据集（美国人口普查收入数据）进行实验。
- 模型多重性实验：比较了在不同时间窗口（如仅用 2017 年数据 vs. 2014-2017 年数据）训练的模型。结果显示，即使模型在平均准确率上表现相似，针对特定个体的预测结果却存在显著差异（约 10% 的预测变化超过 10%）。
- 公平性实验：展示了在逻辑回归和梯度提升树中，移除受保护属性（如种族、性别）可以显著降低差异影响（Disparate Impact），而对准确率影响甚微，挑战了“公平性与准确性必然存在权衡”的传统观点（该观点通常基于贝叶斯最优假设）。

3. 主要贡献 (Key Contributions)

否定社会世界中的 Gen-D 假设：
明确论证在社会 ML 应用中，不存在真实的、独立于观察者的数据生成分布。数据是特定人群在特定时间下的构建，而非随机采样。
提出有限总体学习理论：
展示了经典学习理论（如 VC 维、泛化界）可以完全在有限总体框架下重新表述，无需引入概率分布假设。这为理解 ML 在社会场景中的运作提供了更坚实、更具体的理论基础。
揭示 Gen-D 框架的负面后果：
- 掩盖建模选择：Gen-D 框架让输入空间（特征选择）和人群定义看起来是“给定的”，导致研究者忽视这些选择对结果的巨大影响。
- 虚假的客观性：它赋予算法一种“反映现实”的错觉，使得建模者的价值判断（如选择何种损失函数、定义何种人群）被隐藏，导致责任缺失。
- 误解公平性权衡：基于贝叶斯最优的公平性理论假设存在一个“真理”，导致人们认为公平性必然以牺牲准确性为代价。实证表明，在有限总体视角下，往往存在既公平又准确的模型。
重新定义 ML 的目标：
主张 ML 的目标不应是“近似真实分布”，而应是“构建在特定人群和特定任务下表现良好的预测规则”。

4. 关键结果 (Results)

理论结果：
- 推导出了基于有限总体（无放回抽样）的泛化误差界（Theorem 3），证明学习理论的有效性不依赖于 Gen-D 假设。
- 证明了当 $k \to \infty$ （总体趋于无限）时，有限总体框架收敛于传统的 i.i.d. 框架，但在社会场景中，总体是有限的且随时间变化的。
实证结果：
- 预测的不稳定性：在 ACS Income 数据集中，改变训练数据的年份（时间窗口）会导致模型对个体的预测发生显著变化（约 10% 的样本预测差异超过 10%），这直接反驳了存在稳定“真实分布”的假设。
- 模型多重性（Model Multiplicity）：不同模型在平均损失上表现相当，但在个体预测上差异巨大（20%-40% 的偏差）。在 Gen-D 框架下，这被视为近似误差；在有限总体框架下，这是根本性的概念问题，意味着没有唯一的“正确”预测。
- 公平性发现：通过移除敏感属性，可以在不降低整体准确率的情况下大幅减少歧视。这证明了所谓的“公平 - 准确性权衡”往往是由于错误地假设了贝叶斯最优模型的存在而导致的理论幻觉。

5. 意义与影响 (Significance)

对算法公平性的启示：
如果不存在“真实概率”，那么算法就不是在“发现”客观的风险，而是在构建风险。这要求我们在部署算法时必须明确说明建模选择（如特征选择、人群定义），并承认这些选择包含价值判断，而非纯粹的技术优化。
对理论研究的指导：
呼吁机器学习理论界从抽象的概率分布转向更具体的有限总体和人群定义研究。未来的工作应关注如何明确定义“泛化”的目标人群，以及如何评估模型在特定子群上的表现，而不是假设存在一个通用的分布。
对政策与实践的影响：
决策者不应盲目信任算法的“客观性”。在涉及人类（如信贷、就业、司法）的决策中，必须对模型背后的假设进行透明化审查。避免使用“逼近真实分布”这类修辞，转而强调模型是“针对特定目标构建的决策工具”。
哲学层面：
论文强调了科学中的“谦逊”（Epistemic Modesty）。承认概率是构建的，有助于打破技术决定论的迷思，促使社会更负责任地使用机器学习技术。

总结：
这篇论文从根本上挑战了机器学习在社会应用中的核心公理。它指出，坚持“数据来自真实分布”的假设不仅在本体论上是错误的，而且在实践中是有害的，因为它掩盖了人为选择，制造了虚假的客观性，并阻碍了对公平性和模型局限性的正确理解。作者建议采用基于有限总体的框架，将机器学习重新定位为一种构建决策规则的过程，而非发现自然法则的过程。