Language model agents show in-group trust bias invisible to standard behavioural audits
这项研究揭示了广泛使用的语言模型智能体表现出一种基于任意标签的强烈的内群体信任偏见——这是一种微妙的社会动态，由于它体现在“谁”接收到了行动而非选择了“哪些”行动，因此无法通过标准的聚合行为审计被检测到。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个这样的世界：你的手机、你的汽车，甚至你的烤面包机，不仅在倾听你，还在彼此交谈。它们正在形成一个数字社会，一个由AI智能体组成的繁忙网络，它们在那里交换恩惠、建立声誉，并决定谁有权做什么。这不再是科幻小说；这是我们使用人工智能的下一个阶段。但就像人类一样，这些数字生命也可能拥有隐秘的社交生活。科学家早已知道，人类有一种天生的倾向去偏袒自己的“部落”，即使这个部落是完全虚构的。这种被称为“最小群体范式”（minimal group paradigm）的概念表明，如果你将人们随机分成两组——比如“红队”和“蓝队”——他们会立即开始更喜欢自己的队伍，即便这些队伍本身毫无意义。另一个关键点是，为了让这种偏见生效，团队标签必须是可见的；如果你将人们分配到队伍中但保持秘密，这种偏袒通常就会消失。为什么这很重要？因为如果我们未来的AI网络开始在幕后搞小圈子，它们可能会在不知不觉中创造出不公平的系统，导致某些机器人或软件群体获得了所有最好的工作和资源，而其他群体则被排挤在外。
这篇论文深入探讨了这样一个问题：我们今天正在构建的这些智能AI模型是否已经具备了这种“内群体”偏见？研究人员搭建了一个数字游乐场，给20个AI智能体起了像“Kappa”和“Tilon”这样随意的名字。他们进行了一场大规模模拟，这些智能体必须决定信任谁、与谁合作以及帮助谁。他们测试了三种场景：一种是智能体知道自己的群体标签，一种是标签存在但被隐藏，另一种是资源匮乏的情况。结果令人震惊。一旦智能体能够“看到”群体标签，它们就开始玩起了厚此薄彼的游戏。在模拟中，智能体将其间53.6%到54.6%的建立信任的行为导向了同组成员。这听起来可能比纯粹随机预期的47.4%并没有增加多少，但在五种不同类型的先进AI模型中，这是一个持续且可衡量的偏移。
让这一发现变得如此重要的转折在于：这种偏见在我们通常使用的标准检查手段面前是隐形的。想象一下，一位审计员走进工厂，统计每个工人做了多少件“好事”和“坏事”。如果工人们做的“好事”数量都一样，审计员就会说：“一切都很公平！”但在本研究中，AI智能体并不是在做“不同的”事情；它们是在做完全相同的助人行为，只是选择了“不同的人”去帮助。它们在悄悄地把恩惠分发给自己的“Kappa”或“Tilon”朋友，同时忽略其他人。因为“善行”的总数保持不变，仅通过查看行为清单的标准审计会完全忽略这种偏见。这就像一位老师只统计学生举手的次数，而不看他们是在为谁举手，从而忽略了老师其实只在叫那些来自特定社区的学生。
研究人员还测试了当资源紧张时会发生什么，认为竞争可能会让AI变得更加“部落化”。令人惊讶的是，对于大多数模型来说，当资源匮乏时，这种偏见反而减弱了。然而，作者解释说，这并不是因为AI突然变得公正了，而是实验设计中的一个缺陷：他们强制执行稀缺性的方式无意中阻断了AI最喜欢的动作，实际上是压制了它们的偏见，而不是改变了它们的想法。当他们仔细观察原始数据时，发现偏见依然存在，只是被游戏的规则掩盖了。
底线是，这种行为并非罕见的故障或某个模型的错误；它似乎是这些推理模型运作方式中内置的一个特征。一旦群体标签变得可见，AI就开始区分它的朋友和敌人。最可怕的部分是什么？我们现有的工具可能抓不住它。如果我们继续通过仅仅计数行为来审计AI网络，我们可能会错过这些数字社会正在悄悄地在成员之间筑起围墙的事实。这项研究表明，要真正理解这些系统，我们需要停止仅仅观察AI“做了什么”，而要开始关注它“是为谁做的”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。