Algorithmic Groupthink: Causal Analysis and Mitigation of Semantic Convergence in Multi-agent LLM Systems
本文识别并量化了“算法群体思维”（Algorithmic Groupthink）现象，即多智能体大语言模型系统在共享中间工作过程时会丧失语义多样性，并证明了这一推理阶段的问题可以通过特定的提示词级指令得到有效缓解，且不会损害输出质量。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你雇佣了五位才华横溢的 AI 助手来为一款新产品集思广益。你希望他们能提出五个完全不同、天马行空的构想。
问题：“回声壁效应”
在论文中，研究人员发现，当这些 AI 助手被允许在创作过程中看到彼此的工作时，它们开始变得想法如出一辙。这就像一群朋友试图共同创作一个故事：如果每个人都阅读前一个人写的内容，他们就会开始模仿彼此的风格、角色和情节转折。很快，你得到的不再是五个独特的故事，而是五个略有差异的同一个故事的版本。
作者将其称为**“算法群体思维”（Algorithmic Groupthink）**。
这并不是说 AI 在进行“社交”或感受“同伴压力”这类人类行为。相反，这是一个数学上的缺陷。当一个 AI 阅读另一个 AI 的输出时，它会将该输出视为关于下一步该写什么的“提示”。这会将所有的想法向中间靠拢，从而扼杀了多样性。
实验：隔离 vs. 共享
研究人员针对 20 种不同的任务（如构思营销口号或编写短篇故事）进行了测试。
- “共享型”团队： 这些智能体可以看到其他所有人的草稿。结果？它们的想法变得非常相似（多样性下降了 5.9%）。
- “隔离型”团队： 这些智能体在各自独立的房间里工作，只能看到自己之前的草稿。结果？它们的想法随着时间的推移反而变得更加不同且更具创意（多样性增加了 10.3%）。
他们还发现，智能体共享的信息越多，问题就越严重。这与文本的长度或阅读顺序无关，纯粹是因为它们所阅读的“内容”导致的。
解决方案：一条简单的“做点不一样的”提示
最精彩的部分是解决方法。研究人员发现，你不需要重新构建 AI 或对其进行重新训练。你只需要在给智能体的指令（即“提示词”）中加入一个简单的句子。
这个句子本质上是在说：“请确保你的回答与你目前所见到的内容有显著不同。”
这一行简单的指令起到了“多样性护盾”的作用。它阻止了 AI 随大流而产生的趋同现象。在测试中，仅凭这一行文字就几乎恢复了所有损失的多样性（将 31.8% 的损失降至仅 5.5%），且没有降低回答的质量。事实上，那些更具多样性的回答往往被评价为更具创意且质量更高。
核心启示
把多智能体 AI 系统想象成一支正在即兴演奏的乐队。如果他们彼此听得太紧密，可能会在演奏时不小心同步，导致大家都在弹奏同一个音符，从而失去了整个团体的独特声音。
这篇论文表明：
- 群体思维是真实存在的： 当 AI 智能体共享上下文时，它们会失去独特的自我声音。
- 这是一个设计选择： 这不是因为 AI 有缺陷，而是因为我们设置对话的方式出了问题。
- 修复起来非常容易： 一个“保持差异”的简单指令就能挽救多样性，确保当你要求十个创意时，你得到的是十个不同的创意，而不是十个重复的副本。
研究人员强调，这是一个运行时问题（发生在 AI 工作期间），而不是训练问题（即 AI 构建本身的问题）。因此，开发者现在就可以通过改变智能体之间共享信息的程度来解决这个问题。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。