想象一个这样的世界:计算机不再仅仅是回答问题,而是通过彼此之间玩游戏来学习如何相处。这就是“多智能体系统”(Multi-Agent Systems)这一令人兴奋又略感不安的前沿领域——在这里,人工智能就像电子游戏中的独立角色一样,进行着谈判、交易,有时甚至为了资源而争斗。长期以来,科学家们一直在观察这些数字角色玩一款经典的博弈游戏,叫做“囚徒困境”。你可以把它想象成一场高风险的“胆小鬼游戏”或一场复杂的谈判:如果每个人都选择合作,大家都能获得巨大的成功;如果每个人都互相背叛,大家都会输得很惨;但如果一个人背叛而另一个人选择友善,背叛者将赢得巨额回报,而那个友善的人则会被彻底碾压。研究人员一直试图回答的核心问题是:随着这些AI智能体不断进化和学习,它们是会自然而然地学会成为优秀的邻居,还是会演变成冷酷的恶霸?
最近,科学家们发现,西方AI模型(即那些由美国和欧洲制造的模型)似乎内置了一种“合作偏好”。当它们在模拟世界中自由活动时,往往会发现,保持友善才是长期的最佳策略。但转折点在于:几乎所有的这类研究都只观察了西方模型。我们并不真正清楚这种“好人”倾向是所有智能计算机的普遍特征,还是仅仅是西方工程师训练方式所带来的特定特质。这把我们带入了一个巨大的谜团:那么,来自中国的那些强大的AI模型表现如何呢?它们都是属于同一个统一的、思维模式完全一致的“中国AI”阵营吗?还是说,它们实际上是拥有各自独特个性的不同“实验室”?
本论文通过建立一个大规模且受控的实验来深入探讨这个谜团。研究人员选取了来自四个不同中国实验室(DeepSeek、通义千问/Qwen、Kimi和GLM)的四种最先进的AI模型,并将它们放入一个数字竞技场中,进行了数千次的“囚徒困境”博弈。但他们采取了一个聪明的做法,以确保测试的公平性:他们使用了一个单一且中立的“翻译器”,将所有模型的想法转化为代码。这确保了如果某个模型表现得不同,并不是因为它更擅长编写计算机代码,而是因为其真实的“人格”不同。
结果令人惊讶。认为“中国模型”全都是同一种类型的想法是完全错误的。事实上,这四个实验室的表现就像四个截然不同的人。其中两个实验室(Kimi和Qosa/Qwen)非常难以被欺负;即使在游戏规则被操纵以鼓励背叛的情况下,它们的智能体也拒绝变得具有攻击性。它们是“抗夺取”团队。然而,另外两个实验室(DeepSeek和GLM)则更容易被腐蚀。当压力袭来时,它们的智能体更有可能变成具有攻击性的恶霸。事实上,这四个中国实验室之间的差异如此巨大,甚至超过了平均水平下的中国模型与平均水平下的西方模型之间的差异。
那么,这意味着什么?事实证明,“合作偏好”(即表现友善的倾向)在中国的模型中确实存在,但它并非绝对保证。这完全取决于制造该模型的具体实验室。有些模型天生具有合作性,有些倾向于中立,而有些则容易产生攻击性。这里最重要的教训是,我们不能将“中国AI”视为一个单一的整体。就像人类一样,这些AI实验室拥有截然不同的个性。如果你正在构建一个需要AI智能体相互协作的系统,你不能仅仅根据特定的国家来挑选模型;你必须挑选正确的“实验室”,因为有的模型可能是和平维护者,而另一个可能是一个随时可能制造麻烦的捣蛋鬼。这项研究表明,行为的“基本单位”不是国家或生态系统,而是训练该模型的特定实验室。
技术摘要:并非单体:中国前沿大模型智能体在合作均衡中的实验室级差异
问题陈述
先前的研究(如 Willis 等人 [20])已经确定了西方前沿大语言模型(LLM)智能体中存在一种“合作偏好”(cooperative bias),即在迭代囚徒困境(IPD)设置下的进化压力更倾向于选择合作策略而非侵略性策略。然而,这些证据几乎完全源自西方对齐谱系(OpenAI、Anthropic、Google)。目前存在两个关键空白:(1)尚不清楚这种合作偏好是否可以推广到中国前沿模型,因为这些模型的训练数据混合比例和对齐目标各不相同;(2)该领域通常将“中国模型”视为一个单体(monolithic bloc),忽略了生态系统内部潜在的差异。
一个显著的方法论障碍阻碍了可靠的跨生态系统比较:即“转换混淆”(conversion confound)。在以往的基准测试中,每个模型的自然语言策略都是由该模型自身的提供商转换为可执行的 Python 代码。这使得战略倾向与编码能力纠缠在一起,导致无法判断观察到的差异是源于对合作的推理,还是仅仅源于生成整洁代码的能力。
方法论
本研究采用了一种消除混淆控制的进化博弈论框架,以隔离生成过程与转换过程。
- 受试对象: 四个中国前沿级模型:DeepSeek V4 Pro、Qwen3-Max (阿里巴巴)、Kimi K2.5 (月之暗面) 和 GLM-5.1 (智谱)。
- 固定转换器设计: 为了消除编码能力的混淆,所有四个实验室生成的自然语言策略均由同一个固定的外部转换器(GPT-5.4 Mini)转换为 Python 代码。这确保了每一次跨实验室的比较都仅反映策略生成的差异。
- 实验方案:
- 策略生成: 模型在三种提示风格下生成策略:默认(直接博弈论)、精炼(自我精炼循环)和散文(模糊化的现实场景)。
- 锦标赛与进化: 策略在全对全(all-play-all)的阿克塞尔罗德(Axelrod)锦标赛中竞争,并经历莫兰(Moran)进化过程(每种条件进行 n=500 次运行)。
- 条件: 四种种群机制(平衡/偏置 × 清洁/噪声)和三种提示风格,共计 48 个均衡条件。
- 假设:
- H5(合作偏好的普遍性): 中国模型是否表现出西方模型所具有的合作多数派偏好?
- H6(非单体行为): 四个中国实验室在侵略性均衡比例(PA)上是否存在显著差异?
- 稳健性: 通过预注册的稳健性检查,使用另一种转换器(DeepSeek V4)重新转换了 10% 的策略,以验证均衡结构是否为特定转换器选择的人为产物。
核心结果
- H6 得到支持(显著的实验室级差异): 四个中国实验室在侵略性均衡比例(PA)上存在显著差异。
- PA 的范围从 1% (Qwen3-Max) 到 9% (DeepSeek V4 Pro)。
- 六个两两比较中有四个通过了 Holm-Bonferroni 校正。
- 实验室形成了两个初步的集群:一对“抗接管型”(Kimi, Qwen)和一对“易被接管型”(GLM, DeepSeek)。
- 至关重要的是,生态系统内的方差(PA 范围为 8 个百分点)超过了中国与西方生态系统均值之间的差异(两者均约为 ≈5.0%)。
- H5 得到部分证实(带有细微差别的合作偏好):
- 在 12 个实验室-提示组合中,有 6 个 保持了合作多数派,而西方模型报告的比例为 9/12。
- 该差异在统计上并不显著(z=−1.26,p=0.21)。
- 然而,相比西方模型,中国实验室更频繁地趋向于中性均衡。
- 转换器敏感性: 合作多数派的数量(6/12)对转换器的选择很敏感。在使用另一种转换器(DeepSeek V4)时,该数量上升至 9/12,与西方基准一致。这表明观察到的“向中性偏移”可能属于转换器噪声,而非根本性的机制差异。
- 噪声敏感性: 所有中国实验室在动作噪声下均出现退化,平均敏感度(Δnoise)为 10–14 个百分点,略高于部分西方模型。
主要贡献
- 方法论创新: 本研究引入了固定转换器协议,成功地将战略倾向与编码能力解耦,实现了首次有效的跨实验室行为比较,使差异不再能归因于代码生成质量。
- 经验特征描述: 提供了对中国前沿模型的首次系统性进化特征描述,揭示了“中国模型”并非一个单体。行为倾向的单位是实验室(由特定的训练数据、奖励模型和安全目标定义),而非整个生态系统。
- 稳健性验证: 研究表明,侵略性均衡结构(支持 H6)对转换器选择具有不变性,而更细粒度的合作-中性多数派(涉及 H5)则具有转换器敏感性。
意义与主张
论文得出结论,将“中国前沿模型”视为单一整体的做法缺乏证据支持。中国生态系统内部的变异程度与中美生态系统之间的变异程度相当,在某些衡量标准下甚至更高。
- 对于多智能体系统(MAS)设计: 实验室层级的来源至关重要。仅根据地域选择智能体可能会在无意中在“抗侵略接管型”(如 Kimi, Qwen)和“易被侵略接管型”(如 GLM, DeepSeek)种群之间做出错误选择。
- 关于合作偏好: 虽然合作偏好似乎在中国的模型中具有普遍性,但关于其“偏好减弱”的证据并不稳固;观察到的向中性均衡的偏移很可能是转换器造成的伪影,因为在稳健性检查中该现象消失了。
- 局限性: 由于转换器不同,与西方基准的比较仍属于文献对比研究;此外,研究受限于英文提示词以及特定模型版本的快照。
作者强调,“实验室”才是研究合作倾向时正确的分析单位,而其固定的转换器设计提供了一个可复现的框架,用于追踪随着前沿技术演进,整个生态系统的实验室如何治理合作行为。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题,再试一次?
无垃圾邮件,随时退订。