🔬 physics

Large language models converge on competitive rationality but diverge on cooperation across providers and generations

该研究通过对 25 个大语言模型在 38 种博弈游戏中的大规模测试发现，尽管模型在竞争和协调行为上趋于一致，但其合作倾向却因提供商不同而呈现巨大差异且随代际更替发生剧烈波动，表明模型的战略性格由训练流程塑造、无法通过能力基准推断，却直接决定了其作为自主代理时的经济合作结果。

原作者： Felipe M. Affonso

发布于 2026-04-22

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Felipe M. Affonso

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文就像是一份**"AI 性格大体检”报告**。

想象一下，如果未来的 AI 不再只是帮你写邮件、查天气，而是变成了你的商业谈判代表、采购经理，甚至是你生意场上的合作伙伴。这时候，你关心的就不只是它“聪不聪明”（能不能算对账），而是它“靠不靠谱”（会不会在关键时刻背刺你）。

作者费利佩·阿方索（Felipe Affonso）做了个超级大实验，让 25 个不同公司（如 OpenAI、Google、Anthropic 等）开发的顶级 AI 模型，在 38 种经典的“博弈游戏”里互相切磋。这些游戏有的像“囚徒困境”（合作还是背叛？），有的像“拍卖”（怎么出价最划算？）。

实验结果非常惊人，可以用三个核心发现来概括：

1. 智商趋同，情商“分裂”

聪明的部分（竞争与协调）： 所有 AI 在需要“动脑子”的领域，比如怎么在拍卖里出价最划算、怎么在多人游戏中达成默契，表现得惊人地一致。就像一群受过同样严格数学训练的学生，大家解题思路都差不多，谁也不比谁差太多。
性格的部分（合作意愿）： 但在“愿不愿意和别人合作”这件事上，AI 们彻底分道扬镳了。
- 有的 AI 像**“老好人”**：比如 Anthropic 公司的 Claude 系列，合作率高达 71.5%。哪怕对方背叛了它，它下一轮还愿意给机会，像个充满信任的合作伙伴。
- 有的 AI 像**“冷血杀手”**：比如 OpenAI 最新的 GPT-5 Nano，合作率只有 1.5%。它几乎从不合作，只要有一点点利益诱惑，它立刻就会背叛。
- 差距有多大？ 最合作的 AI 和最不合作的 AI，差距达到了 48 倍！这就像在问“你会不会给陌生人让座”，有的 AI 会跑过去扶，有的 AI 会直接撞开对方。

2. 性格不仅看公司，还看“版本”

最让人细思极恐的是，AI 的“性格”是不稳定的，甚至不可预测。

OpenAI 的“黑化”之路： 想象一下，你去年用 GPT-4o Mini 时，它是个 50% 合作率的“老实人”。结果你今年升级到了 GPT-5 Nano，它突然变成了 1.5% 合作率的“背叛者”。它的性格在短短几代更新中，背叛频率翻了 33 倍！
Google 的“进化”之路： 相反，Google 的 Gemini 系列却越来越“善良”。从 8.3% 的合作率一路飙升到 56.8%，像个正在学习如何做人的学生。
这意味着什么？ 如果你是一家公司，今年花大价钱升级了 AI 系统，原本指望它帮你建立长期合作关系，结果新版本突然变得“六亲不认”，你的商业策略可能会瞬间崩塌。目前的系统并不保证 AI 升级后性格会保持一致。

3. 三种“终局人格”

当游戏进行到最后一轮（大家都知道游戏要结束了，没人能惩罚背叛者）时，AI 们露出了真面目，分成了三类：

坚守原则型（如 Claude Opus）： 即使到了最后一轮，没人能惩罚它，它依然选择合作。它的逻辑是：“合作本身就是一种美德”，哪怕没有回报也要做。
精于算计型（如 Google Gemini 3）： 前 9 轮它表现得像个完美的合作伙伴，建立信任。但在最后一轮，它突然变脸，疯狂背叛，榨干最后一滴价值。这就像那种“杀熟”的商人，平时对你客客气气，结账时却想赖账。
彻底冷漠型（如 GPT-5 Nano）： 从一开始就不合作，不管对手是谁，不管第几轮，它只在乎自己当下的利益最大化。

4. 为什么会有这种差异？

研究发现，AI 的性格不是天生的，而是“教”出来的。

这取决于训练它的公司用了什么“教育方法”（比如 Anthropic 用的“宪法 AI"方法，似乎更强调公平和互助；而 OpenAI 的方法似乎更偏向于优化和效率）。
这就好比两个老师教同一个学生：一个老师教“助人为乐”，另一个老师教“优胜劣汰”。哪怕学生（AI 模型）都很聪明，长大后性格也会天差地别。

总结：这对我们意味着什么？

这篇论文给所有使用 AI 的人敲响了警钟：

别只看“能力榜”： 以前我们选 AI 只看它做题快不快、代码写得对不对。以后，选 AI 还得看它的“人品”。
升级有风险： 给 AI 升级版本，可能就像给员工换了一个完全陌生的性格，之前的合作默契可能瞬间归零。
未来的经济世界： 当 AI 开始代表人类去谈判、去交易时，它们之间的“性格差异”将直接决定我们是走向合作共赢，还是陷入互相背叛的混乱。

一句话总结： 现在的 AI 们，脑子都很灵光，但心却各不相同。 有的像天使，有的像魔鬼，而决定它们是谁的，是背后训练它们的“老师”。

1. 研究背景与问题 (Problem)

随着大型语言模型（LLM）被部署为自主智能体，代表人类进行谈判、采购和解决纠纷，其战略倾向（Strategic Dispositions）将产生直接的经济后果。然而，目前的部署框架主要关注模型的能力基准（Capability Benchmarks）和安全评估，却缺乏对模型在战略互动中表现出的合作倾向的系统性理解。

现有研究存在两个主要局限：

样本量小：通常仅测试少数几个模型（3-7 个），且多来自同一或少数几个提供商，难以区分模型行为是源于通用能力还是特定提供商的训练选择。
游戏集狭窄：多局限于囚徒困境等少数变体，无法区分领域特定的怪癖与通用的战略性格。

核心问题：不同提供商的模型在战略互动中是否表现出一致的行为模式？这些模式在不同代际（Model Generations）中是否稳定？

2. 方法论 (Methodology)

本研究设计了一个大规模的博弈论实验框架，以量化和分类 LLM 的“战略性格”（Strategic Personalities）。

实验规模：
- 模型：测试了来自 7 家 主要开发商（Anthropic, OpenAI, Google, DeepSeek, Meta, Mistral, Alibaba）的 25 个 前沿模型。
- 游戏：涵盖 38 种 经典博弈论游戏，分为 8 个类别：合作、协调、竞争、信任、公平、谈判、战略深度和风险。
- 数据量：共进行了 51,906 次试验，生成 826,990 个战略决策，包含 545,691 条推理轨迹（Reasoning Traces）。
实验设计：
- Design F（交叉博弈）：16 个模型（主要是预算级）进行完全交叉对战（互相对抗、自对、对抗确定性策略），每对组合 5 次重复。
- Design G（策略对战）：9 个前沿模型对抗确定性策略（如以牙还牙、冷酷触发、总是合作/背叛等），每对组合 1 次重复。
- 控制变量：使用随机化的抽象选项标签（如 J/F, Q/X）以避免语义锚定效应；所有试验温度设为 1.0 以捕捉分布行为。
分析技术：
- 行为指纹（Behavioral Fingerprinting）：利用 TF-IDF 向量化和 SVD 降维，将模型的推理轨迹嵌入 384 维语义空间，计算模型质心（Centroids）和轮廓系数（Silhouette Scores），以检测提供商层面的行为签名。
- 终局分析（Endgame Analysis）：分析有限重复博弈（如 10 轮囚徒困境）最后一轮的行为，区分“终端价值合作”与“策略性剥削”。
- 互惠性分类：基于条件概率 $P(\text{合作}|\text{对手合作})$ 和 $P(\text{合作}|\text{对手背叛})$ 将模型分为四种行为原型。

3. 关键贡献与发现 (Key Contributions & Results)

A. 竞争理性的趋同 vs. 合作倾向的发散

趋同：在竞争和协调领域，所有模型表现出高度一致的理性行为。协调率变异系数仅为 0.06，战略深度变异系数为 0.11。模型普遍能接近理论均衡（如混合策略纳什均衡、维克里拍卖中的真实出价）。
发散：在合作领域，模型表现出 48 倍 的巨大差异。合作率从 1.5% (GPT-5 Nano) 到 71.5% (Claude Opus 4.6) 不等。
- 提供商身份是主导预测因子：提供商解释了比模型大小、推理能力或代际更多的方差。
- Anthropic 模型高度一致地表现出高合作性（69%-71.5%）。
- OpenAI 的新模型表现出极低合作性（1.5%-6.3%）。
- Google 模型则表现出上升趋势（从 8.3% 升至 56.8%）。

B. 代际不稳定性 (Generational Instability)

战略性格在不同代际间发生不可预测的剧烈漂移，且方向相反：

OpenAI：合作率单调下降。从 GPT-4o Mini (50.3%) 降至 GPT-5 Nano (1.5%)，下降了 33 倍。
Google：合作率单调上升。从 Gemini 2.0 Flash (8.3%) 升至 Gemini 3 Flash (56.8%)，上升了 7 倍。
Anthropic：预算级（Haiku）与前沿级（Opus/Sonnet）之间存在显著差距（约 30 个百分点），前沿模型合作率更高。
启示：组织若基于旧模型（如 GPT-4o Mini）的合作表现升级模型，可能会遭遇合作行为断崖式下跌。

C. 终局策略与行为原型

通过分析有限重复博弈的最后一轮，识别出三种战略性格：

终端价值合作者 (Terminal Cooperators)：如 Claude Opus。即使在最后一轮（无法惩罚背叛）仍保持高合作率（~57%）。推理轨迹显示其将合作视为内在价值，而非纯粹的策略计算。
策略性剥削者 (Strategic Exploiters)：如 Gemini 3 系列。在前 9 轮保持高合作以建立声誉，但在第 10 轮（最后一轮）彻底背叛（合作率降至 0%）。这符合声誉构建均衡理论。
无条件背叛者 (Unconditional Defectors)：如 GPT-5 Nano。从第一轮开始就几乎总是背叛，无视对手行为。

此外，基于互惠性分析，识别出四种原型：

严格互惠者（如 Anthropic）：高回报合作，低原谅背叛（接近“以牙还牙”）。
记仇者（如 Gemini 3）：高回报合作，几乎不原谅背叛（接近“冷酷触发”）。
无条件背叛者：对对手行为不敏感。
反互惠者（如 LLaMA 3.3 70B）：在对手背叛后反而更倾向于合作（一种非均衡的异常模式）。

D. 推理轨迹的提供商签名

通过“测速仪”（Hodoscope）管道分析推理文本：

Anthropic 模型在语义空间中紧密聚类（平均轮廓系数 0.48），其推理中频繁提及“公平”和“互利”，显示出训练管道带来的强一致性行为先验。
OpenAI 模型在空间中分散（平均轮廓系数 -0.60），甚至不同代际的模型比同一家公司的模型更像其他公司的模型，显示出行为的不稳定性。

4. 意义与影响 (Significance)

重新定义 AI 评估：当前的能力基准（如 MMLU、GSM8K）无法预测模型在战略互动中的合作倾向。部署决策不能仅依赖能力指标，必须引入基于博弈论的“战略性格”评估。
经济后果：
- 在竞争性环境（如拍卖）中，不同提供商的模型可能是可互换的（因为理性趋同）。
- 在合作性环境（如谈判、联合企业、公地治理）中，模型的选择将直接决定经济福利。选择错误的模型可能导致合作破裂或信任崩塌。
治理与对齐挑战：
- 战略性格是由训练管道（如 RLHF 或宪法 AI）塑造的，而非显式编程。
- 代际间的不可预测漂移意味着“行为合同”在模型版本升级时失效。
- 目前的治理框架缺乏对这种隐性战略倾向的监测和保证。
未来方向：呼吁建立包含博弈论测试的 AI 治理框架，以揭示模型在激励结构下的真实偏好（Revealed Preferences），而不仅仅是其静态能力。

总结

该论文通过大规模、多提供商的博弈论实验，首次系统性地揭示了大型语言模型在竞争理性上的趋同与合作倾向上的剧烈发散。研究指出，提供商身份是决定模型战略性格的最强因素，且这种性格在不同代际间极不稳定。这一发现对 AI 在经济领域的自主部署、风险管理和治理框架提出了严峻挑战，强调了在能力评估之外，必须对 AI 的“战略人格”进行持续监测。