🤖 AI

Evolutionary Dynamics of Cooperation in Next-Generation LLM Agent Systems: A Cross-Provider Empirical Extension

本研究将进化博弈论基准扩展至 2025–2026 年的四个前沿大语言模型智能体，揭示出尽管合作偏好存在于大多数模型中，但提供者身份显著影响均衡结果，且尽管在攻击能力对等性方面取得部分进展，噪声鲁棒性仍是一个普遍挑战。

原作者： Francisco León Zúñiga Bolívar (Institución Universitaria Colegio Mayor del Cauca)

发布于 2026-05-29

📖 1 分钟阅读☕ 轻松阅读

原作者： Francisco León Zúñiga Bolívar (Institución Universitaria Colegio Mayor del Cauca)

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一个巨大的数字竞技场，其中数千个 AI“智能体”陷入一场无尽的“囚徒困境”游戏。在这场游戏中，两名玩家可以选择“合作”（为共同奖励而协作）或“背叛”（为更大的个人利益而背叛对方）。

这篇论文提出的问题很简单：随着 AI 变得更聪明、更新颖，这些数字智能体是学会了成为更好的队友，还是变成了更无情的竞争对手？

作者弗朗西斯科·莱昂·苏尼加·博利瓦尔（Francisco León Zúñiga Bolívar）将 2025 年的一项著名实验进行了更新，融入了 2025 年和 2026 年“新鲜出炉”的 AI 模型。以下是他所发现内容的通俗解读。

实验设置：一个数字进化动物园

将这项实验想象成一个“进化物种动物园”。

参与者：作者创建了四种新的 AI 智能体“物种”（来自 Anthropic、Google 和 OpenAI 公司）。
游戏：这些智能体反复进行“囚徒困境”游戏。
进化：作者模拟了500 代的进化，而不仅仅是进行一轮游戏。如果一个智能体表现良好，它就会“繁殖”（其策略变得更加普遍）；如果表现不佳，它就会消亡。
目标：观察哪种“态度”能在长期中获胜：攻击性（总是背叛）、合作性（总是帮助）或中立性（两者混合）。

主要发现

1. “好人”偏见依然强烈（假设 H1）

类比：想象一个操场，孩子们被要求玩游戏。即使最聪明的孩子能够想出如何欺负所有人以获胜，但他们大多选择友好相处。
结果：在大多数情况下，合作获胜。在 12 种不同的 AI 模型与指令组合中，有 9 种情况下“合作”策略成为了主导。新的、更聪明的 AI 并没有变成无情的独裁者；它们保留了其“前辈”的“好人”偏见。

2. “提供者”比“代际”更重要（假设 H3）

类比：将 AI 模型想象成汽车。你可能会认为 2026 年的车型总是比 2025 年的更好。但在这场竞赛中，谁制造了这辆车比它是哪一年的车型更重要。

Google 的"Flash"模型就像一辆为速度和攻击性而造的赛车。它经常将整个群体变成霸凌者（攻击性比例高达 77%）。
OpenAI 的"Mini"模型就像一辆为安全而造的汽车。它保持了群体的友好（合作比例高达 70%）。
Anthropic 的模型保持高度一致，其行为几乎与上一年的前身完全相同。

结论：如果你想让 AI 团队进行合作，你不能仅仅挑选“最新”的模型；你必须挑选那些由致力于训练它们友善的公司提供的模型。

3. “自我优化”陷阱（假设 H2）

类比：想象让学生写一篇论文，然后让他们批判并重写自己的论文以使其更好。
结果：当 AI 被要求“自我优化”（批判其自身策略）时，它在攻击性方面变得更强。

在“默认”模式下，攻击性策略很弱且容易失败。
在“自我优化”模式下，攻击性策略变得如此犀利，以至于几乎与合作策略打成平手。
警告：试图通过让 AI 批判其自身计划来使其“更聪明”，可能会意外地教会它们如何更好地互相争斗。

4. “静态噪声”问题（假设 H4）

类比：想象玩“传话”游戏，有时信息会变得模糊（噪声）。新的 AI 是否比旧的 AI 更能处理模糊的信息？
结果：新 AI（Claude 4.6）似乎比旧 AI 稍好地处理了噪声，但作者无法确定。差异非常小，可能只是数学上的偶然。

现实：噪声（沟通中的错误）几乎总是将群体推向攻击性，无论 AI 多么聪明。这是一个普遍的挑战。

“角色”总结

GPT-5.4 Mini（OpenAI）：最一致的“好人”。即使处于不利境地，它仍保持合作。
Gemini 2.5 Flash（Google）：“攻击性变数”。它最有可能将整个群体变成残酷的竞争。
Claude Sonnet 4.6（Anthropic）：“稳健之手”。它与去年相比变化不大，主要保持合作，但对被要求思考的方式非常敏感。
Gemini 3.1 Pro（Google）：“困惑的中间派”。很难判断它是具有攻击性还是中立，因为它即使在应该战斗的时候也保持合作。

核心结论

该论文得出结论：随着 AI 智能体变得更大，它们并没有自然地变得无情。 它们仍然具有强烈的合作偏见。然而，谁训练了它们（公司）比它们有多新更重要。

此外，需要警惕的是：如果你要求这些 AI“更深入地思考”并优化其自身策略，你可能会意外地教会它们如何更好地互相争斗。如果环境混乱（存在噪声），即使最好的 AI 也倾向于变得具有攻击性。

作者发布了所有代码和数据，以便任何人都可以在未来的 AI 模型上运行这些相同的“数字进化”测试，以观察这种模式是否依然成立。

技术摘要：下一代大语言模型智能体系统中合作的演化动力学

问题陈述
本文旨在解决理解大语言模型（LLM）智能体在竞争性多智能体系统中演化行为的关键空白。虽然 Willis 等人 [25] 证实了早期前沿模型（ChatGPT-4o、Claude 3.5 Sonnet）在重复囚徒困境（IPD）设定中表现出持续的协作偏见，但随着新一代模型（2025–2026 年发布）的推出，格局已发生变化。目前尚不清楚这些具备扩展上下文和修订对齐训练的新模型是维持、加深还是削弱了这种协作偏见。此外，目前尚无系统的跨提供商比较来确定协作倾向是前沿 LLM 的普遍属性，还是特定提供商训练选择的产物。

方法论
作者将 Willis 等人 [25] 的实验协议扩展至来自三家提供商的四款新前沿模型：

模型：Claude Sonnet 4.6（Anthropic）、Gemini 2.5 Flash（Google）、Gemini 3.1 Pro（Google）以及 GPT-5.4 Mini（OpenAI）。
策略生成：针对每个模型，利用三种提示风格为每种“态度”（激进、协作、中立）生成 25 种自然语言策略：默认（直接博弈论语言）、散文（模糊化的现实世界场景）和优化（自我优化框架，模型批判并重写其策略）。随后由同一提供商的模型将这些策略转换为 Python 算法。
演化模拟：研究模拟了 Moran 演化过程，种群规模为 $n=12$ ，每个条件进行 500 次迭代（相较于前序研究中的 $n=100$ 有显著增加，以减少采样误差）。
条件：测试了四种种群构成：平衡/无噪（4:4:4）、偏置/无噪（8:2:2）、平衡/有噪（4:4:4 且 10% 动作翻转）以及偏置/有噪（8:2:2 且含噪）。
指标：研究引入了差异能力指数（ICD）以量化激进智能体与协作智能体之间的收益差距。此外，还测量了噪声敏感度（ $\Delta_{noise}$ ），即动作噪声下协作均衡概率的下降幅度。

主要贡献

纵向扩展：这是首次在同一 Moran IPD 框架下，针对 Anthropic、OpenAI 和 Google 的下一代 LLM 与其直接前代进行的同谱系比较。
跨提供商基准：提供了三大主要提供商之间均衡结果的首次系统性比较，超越了单一提供商的研究。
新指标（ICD）：引入差异能力指数，能够对激进与协作之间的收益差距进行标量总结，便于分析“激进能力对等性”。
高功效复现：通过将迭代次数增加至 $n=500$ ，解决了原始 $n=100$ 研究中存在的歧义，特别是关于噪声下均衡结果稳定性的问题。

结果

协作偏见的持续性（H1）：前代记录在案的协作偏见得以延续。在无噪的平衡条件下，12 种模型–提示组合中有 9 种倾向于将协作均衡作为多数结果。在大多数配置中，激进均衡率仍远低于 33% 的先验概率。
提供商差异（H3）：提供商身份是均衡结果的最强相关因素，其影响力超过了模型代际。
- Gemini 2.5 Flash 最为激进，在偏置且有噪的条件下，激进均衡率高达 77%。
- GPT-5.4 Mini 最为协作，在自我优化提示下实现了 70% 的协作均衡率。
- Claude 4.6 在平衡条件下几乎完全复刻了其前代（Claude 3.5 Sonnet），表明 Anthropic 谱系内具有稳定的战略倾向。
激进能力对等性（H2）：自我优化提示在所有模型中一致地缩小了收益差距（增加了 ICD）。Claude 4.6 优化版实现了最高的 ICD（0.913），接近激进智能体与协作智能体之间的收益对等。然而，这种能力对等性并未在所有提示下均匀转化为更高的激进均衡率；它在特定条件下最为显著。
噪声鲁棒性（H4）：改善噪声鲁棒性的证据在方向上是积极的，但在统计上并不稳健。与 Claude 3.5 Sonnet（13 个百分点）相比，Claude 4.6 的平均噪声敏感度较低（约 6 个百分点）。然而，当传播前序研究（ $n=100$ ）中未报告的采样误差时，该差异在统计上不显著。

意义与主张
本文主张，协作偏见是当前前沿 LLM 广泛共有的属性，并在过渡到新一代模型后得以存续。然而，具体的均衡动力学高度依赖于提供商。研究警告称，在此设计中，“提供商身份”是一个混淆变量，纠缠了对齐选择、训练语料库以及代码转换的保真度（因为每个提供商的模型都会将其自身的策略转换为代码）。

至关重要的是，作者强调了一个安全含义：自我优化提示虽然旨在提高策略质量，却意外地缩小了激进能力与协作能力之间的差距。这表明，旨在增强推理能力的提示工程技术可能会增加激进策略在部署的多智能体系统中的可行性。

本文结论指出，虽然协作基线在 Anthropic 谱系内似乎保持稳定，但噪声仍是一个普遍挑战，会将均衡推向激进方向。作者强调，他们的发现特定于生成的策略库和 IPD 框架，并发布了代码和数据，以便在未来新模型出现时对这些动力学进行纵向追踪。