技术摘要：人机协作中的规模化悖论

问题陈述

人工智能领域中规模法则（Scaling Laws）的发现（Kaplan 等人 2020；Hestness 等人 2017）表明，随着模型规模、数据和计算能力的增加，AI 的能力会呈现出可预测的提升。然而，在实际运营环境中，AI 很少孤立存在；它运行在人机协作系统之中，人类员工必须分配精力来审查、验证或纠正 AI 的输出。

本文探讨的核心问题是：AI 规模化的经验收益是否能转化为人机联合系统的性能提升。直觉认为，更强大的 AI 应该允许人类处理更多任务，但近期的实证证据（例如 Becker 等人 2025；METR）表明，其结果表现不一，甚至可能出现负面生产力结果。本文指出，人类对 AI 能力的误判是一个关键且常被忽视的机制，它可能打破规模化效应，导致“规模化悖论”——即增加 AI 规模反而降低了整体系统性能和企业利润。

研究方法

作者开发了一个简约的分析模型，用于研究规模法则下内生的努力分配问题。

1. 人机工作流

该模型将工作流程形式化为一个三步顺序过程：

1. 准备阶段： 人类员工启动一个项目，具有固定的时间成本 $t_0$。
2. AI 执行阶段： AI 尝试执行任务，成功概率为 $1 - e^{-\alpha s}$，其中 $s$ 是 AI 规模（资源的对数度量），$\alpha$ 是规模因子（任务与 AI 的匹配度）。
3. 人类审查阶段： 工作者分配时间 $t$ 来审查并纠正 AI 的输出。如果 AI 失败，人类以 $1 - e^{-t}$ 的概率进行纠正。

联合成功概率为 $p(t; \alpha, s) = 1 - e^{-(\alpha s + t)}$。工作者拥有固定容量 $C$，并寻求最大化预期成功项目数。

2. 误判机制

模型引入了一个行为参数，即工作者感知的规模因子为 $\hat{\alpha}$，这可能与真实的 $\alpha$ 不同。

• 过度感知 ($\hat{\alpha} > \alpha$)： 工作者高估了 AI 的能力，导致过度减少努力投入。
• 感知不足 ($\hat{\alpha} < \alpha$)： 工作者低估了 AI 的能力，导致过度分配努力。

3. 企业视角与失配

企业追求利润最大化，定义为成功项目的净回报减去部署成本 $c \cdot s$。至关重要的是，企业承担 AI 成本而工作者不承担，这导致了关于最优努力水平的结构性企业-员工失配。模型分析了误判如何加剧这种失配。

4. 政策干预

研究评估了两个操作杠杆：

• 成本内部化 (CI)： 将一部分 AI 部署成本转移给工作者，以改变其努力动机。
• 感知对齐： 通过干预（如培训、透明报告）使 $\hat{\alpha}$ 与 $\alpha$ 对齐。

核心贡献

1. 将规模法则整合进运营管理： 本文将规模法则作为一种原语嵌入到分析性的运营框架中，超越了单纯的机器学习实证研究，转而探讨当人类努力产生内生响应时，规模化如何影响整个生产系统。
2. 识别规模化悖论： 作者指出，人类误判是导致规模化失效的一种新颖行为机制。具体而言，过度感知会导致联合系统的性能随 AI 规模的变化呈现非单调性，从而创造出一个更大的 AI 系统反而产生更差结果的区域。
3. 误判风险的不对称性： 本文区分了过度感知与感知不足对不对称的影响。过度感知会扭转规模化收益并放大企业与员工之间的失配；而感知不足虽然会减缓规模化带来的收益，但能通过诱导员工投入更多努力，在某种程度上抵消企业与员工之间的失配。
4. 旨在缓解扭曲的政策设计： 研究阐明了应如何根据误判的方向和部署经济性（如成本水平）来定制成本内部化和感知对齐的策略。

关键结果

1. 完美协作 ($\hat{\alpha} = \alpha$)

当人类准确感知 AI 能力时，规模法则成立。随着规模 $s$ 的增加：

• 每个项目的投入时间 ($t^*$) 非递减地减少。
• 项目吞吐量增加。
• 总系统回报增加。
  系统经历了从“纯人工”阶段到“人机协同”（HIL）阶段，最终进入“通用人工智能”（AGI）阶段，此时人类在准备之外的投入为零。

2. 过度感知 ($\hat{\alpha} > \alpha$)

• 努力扭曲： 工作者减少努力过于激进 ($\hat{t} < t^*$)。
• 规模化悖论： 在人机协同阶段，如果过度感知的程度足够高，实现的奖励相对于 $s$ 是非单调的。最初，规模化提升性能；但在超过某个阈值后，人类努力的减少超过了 AI 技术增益带来的收益，导致总回报下降。
• 企业影响： 这种悖论在企业层面被放大。随着回报下降，企业的利润下降得更为剧烈，因为企业在项目成功数量减少的同时，仍在支付不断增加的部署成本 $c \cdot s$。过度感知扩大了员工与企业之间对于最优努力水平的差距。

3. 感知不足 ($\hat{\alpha} < \alpha$)

• 努力扭曲： 工作者投入过多努力 ($\hat{t} > t^*$)。
• 规模化收益减损： 规模法则依然成立（奖励随 $s$ 增加），但由于工作者在每个项目上分配了过多的时间，导致吞吐量降低，因此收益增长较慢。
• 企业影响： 感知不足可以部分对齐员工行为与企业利益。由于企业倾向于比员工更高的努力水平（以减少昂贵的 AI 部署），感知不足导致的“过度努力”可以无意中减轻企业与员工之间的失配，有时甚至能提高企业的利润。

4. 政策干预

• 成本内部化：
  • 低 AI 成本： 将成本转移给工作者（高 $\rho$）通常能增加企业利润。
  • 高 AI 成本： 企业应承担更多成本（低 $\rho$），以防止员工放弃使用 AI 工具。
  • 误判状态下： 在过度感知下，企业可以将更多成本转移给工作者（他们已过度自信）；在感知不足下，企业必须承担更多成本以鼓励采用。
• 感知对齐：
  • 过度感知： 对齐对员工和企业都是明确有益的，因为它能防止规模化悖论。
  • 感知不足： 对齐并不总是对企业有益。纠正轻微的感知不足可能会将工作者从企业偏好的高努力水平拉回，从而降低企业利润。只有在感知不足非常严重时，积极的对齐才是有益的。

意义与主张

本文认为，AI 规模化不仅是一个技术挑战，更是一个行为和运营挑战。 作者主张：

1. “自动价值”是一个神话： 更大的 AI 系统并不自动带来更好的运营结果；其价值关键取决于增加的能力如何塑造人类的信念和协作努力。
2. 管理界面： 与其仅仅投资于更大、更昂贵的模型，组织可能更受益于管理“人机界面”（通过感知对齐和激励设计）。
3. 过度感知的风险： “规模化悖论”表明，当前组织中那种在过度乐观驱动下，通过激进扩展 AI 规模同时减少人类监督的趋势，可能会导致性能恶化和利润损失加剧。
4. 不对称干预： 运营政策必须是对称的；适用于过度感知的政策（如成本转移、积极对齐）对于感知不足的情况可能是适得其反的。

研究结论指出，要实现所部署 AI 的价值，企业需要根据 AI 系统的特定能力来调整人类的信念和激励结构，并警示不要认为仅靠技术进步就能保证组织绩效。