Tacit Coordination of Large Language Models
本文呈现了对大语言模型中默契协调能力的首次大规模评估，揭示了虽然大语言模型在通过焦点进行无沟通协调的任务中经常达到或超越人类水平，但它们在需要数值常识或文化细微差别的任务中却始终失败，从而凸显了其潜在显著性概念在社交层面的重大局限性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你和一位朋友正在玩一个游戏，你们都必须在 1 到 100 之间选一个数字。你们不能交谈。如果你俩选了同一个数字，你们就能获得奖品。如果你们选的数字不同，你们就一无所获。
从数学角度来看，1 到 100 之间的任何数字都是“公平”的选择。但人类拥有一种秘密超能力：我们会本能地选择那些感觉“特别”的数字，比如 1、50 或 100。我们不需要讨论，只需直觉就能“知道”对方很可能会选同一个。在心理学和经济学中，这些特殊的、显而易见的选项被称为焦点（Focal Points）。
这篇论文提出了一个重大问题：人工智能（特别是大语言模型或 LLM）也能做到这一点吗？ 两个 AI 智能体在不说话的情况下，能否弄清楚对方会选择哪一个“特殊”的选项？
以下是研究人员发现的内容，使用了简单的类比进行说明：
1. “无声之舞”测试
研究人员设计了一系列游戏，要求人类和 AI 在不交谈的情况下进行协调。
- 结果： 令人的惊讶的是，AI 在这种无声协调方面的表现往往与人类一样好，甚至更好。在某些游戏中，AI 智能体的选择几乎完美地对齐，就像一支排练精良的舞团。
- 陷阱： AI 并不是像人类那样在“思考”。人类选择一个焦点往往是因为文化或个人意义（例如，“100 是个整数”或“50 是中间值”）。然而，AI 的选择通常是基于结构（例如，“我选列表中的第一个选项”或“我选棋盘的正中心”）。
2. “聪明”的陷阱
研究人员想知道：如果我们告诉 AI 在回答之前要“更深入地思考”或“进行更深层的推理”，它能否更好地猜出人类会选什么？
- 结果： 并不能。 事实上，让 AI 思考更长时间有时反而会让它表现得更差。
- 类比： 想象一个正在考试的学生。如果他们在面对一个简单问题时过度思考，他们可能会开始怀疑自己，然后随便选一个答案以求结束。AI 也表现出了类似的行为：它写了长篇大论、复杂的解释，但最终只是死磕上了一个随机的规则（比如“选第一个项目”），而这个规则与人类实际会选择的东西毫无关系。
3. “文化翻译官”
研究人员发现，当“特殊选择”依赖于微妙的文化知识（如特定的当地地标或文化传统）时，AI 会感到吃力。AI 总是倾向于选择地图的“中心”，而人类则会选择那个“著名的地点”。
- 解决方法： 他们尝试了一个简单的技巧：在提示词中加入询问 AI：“人类会认为哪些事物最具文化相关性？”
- 结果： 这就像是给了 AI 一个文化翻译官。突然之间，AI 开始选择与人类相同的“特殊”地点，它们的协调性得到了显著提升。
4. “搜救”场景
为了在现实场景中测试这一点，研究人员使用了一个徒步旅行者在森林中迷路的场景。AI 必须在没有任何额外线索的情况下，根据地图猜测徒步旅行者最可能在哪里被发现。
- 发现： 如果徒步旅行者迷路的地方靠近一些显眼的事物（如道路交叉口或河流交汇处，即景观中的“焦点”），AI 的表现很好。
- 警告： 然而，如果徒步旅行者迷失在一个随机、不明显的地点，AI 的“特殊猜测”并无帮助。事实上，强迫 AI 去寻找“显眼”地点，有时反而会让它在处理这些随机位置时的猜测变得更糟。论文明确指出，这是一个研究工具，而非现成的救援设备，因为在真实的紧急情况下，错误的猜测可能会带来危险。
核心结论
该论文得出结论：AI 非常擅长寻找模式和“显而易见”的解决方案，但它并不自然地具备人类那种文化的“氛围感”。
- 有效场景： 当解决方案是结构性的（如网格的中心）或者当我们明确要求 AI 像人类一样思考时。
- 失效场景： 当解决方案依赖于深层的、默契的文化理解，或者当我们期望 AI 通过“更深入思考”来解决社会性谜题时。
简而言之： AI 可以进行无声的协调，但它需要一点点帮助才能理解为什么人类会觉得某些事物“特别”。它不是读心者；它是一个模式匹配器，需要一个“推力”才能透过人类的眼睛去看世界。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。