Talk is Cheap, Communication is Hard: Dynamic Grounding Failures and Repair in Multi-Agent Negotiation
本文引入一个多轮谈判框架，以证明多智能体大语言模型因动态基础瓦解（如顽固锚定和指称绑定失败）而非个体推理局限而持续无法达成最优结果，从而凸显了超越静态基准研究交互协调过程的迫切需求。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象两个人试图共同建造一座房子，但他们身处不同的房间，只能通过对讲机互相交谈。他们拥有一堆共享的砖块、木材和钉子，但同时也各自持有房屋不同部分的秘密蓝图。他们的目标是利用共享材料，尽可能完美地建造好这两部分房屋，同时不耗尽物资。
本文讲述的是一组研究人员教导两个 AI“机器人”（大型语言模型）玩这个确切游戏的故事。他们想看看这些机器人能否学会交谈、达成共识并坚持执行该计划。
以下是他们发现的简单解释：
核心问题：“空谈容易，协调难”
研究人员发现，虽然这些 AI 机器人足够聪明，能够独自制定出最佳计划，但它们非常不擅长协同工作。即使它们交谈了五分钟，最终也往往导致项目崩溃。
这就像两个厨师试图共同烹饪一顿饭。如果他们身处同一间厨房，就能看到对方在做什么。但如果他们身处不同房间且仅通过电话交谈，他们可能会同时去拿最后一颗鸡蛋，或者一个人开始切洋葱而另一个人试图烧水，从而毁掉这顿饭。
游戏：资源争夺战
研究人员设计了一个游戏，让两个 AI 智能体必须从共享池中购买资源（如木材、石头和黄金）。
- 关键点：每个 AI 都有一份想要建造的“项目”秘密清单。有些项目需要大量木材，而另一些则需要黄金。
- 陷阱：如果它们试图购买的某种资源数量超过了池中存在的数量，整个回合将被取消，双方都无法获得任何分数。
- 目标：它们必须通过聊天，弄清楚对方需要什么，并分配资源，以便双方都能完成各自的项目。
机器人失败的原因是什么？
研究人员发现了四个主要原因，解释了为什么这些机器人即使“很聪明”也频频搞砸：
1. “失忆”效应（缺乏共享历史）
当机器人每次都与新伙伴对弈时，它们无法建立信任。这就像在聚会上遇到陌生人，并试图立即为另一个人策划一场惊喜派对。由于缺乏过往对话的历史，它们无法修复误解。它们总是从零开始。
2. “顽固锚点”（拒绝改变）
有时，机器人会在聊天早期就商定一个计划，然后拒绝改变，即使这显然是一个糟糕的主意。
- 类比：想象你和朋友约定在一家咖啡店见面。你在途中发现那家店关门了。如果你不说“我们去公园吧”，而是固执地坚持走向那家关门的店，只因为你已经说过要去那里，这就叫顽固。机器人将它们的第一个想法视为法律，而非建议。
3. “公平陷阱”（平均分配蛋糕）
机器人喜欢将资源按 50/50 的比例分配，因为这感觉“公平”。
- 类比：想象你需要 10 片披萨，而你的朋友只需要 2 片。如果你们平均分配披萨（每人 6 片），你们最终都会不开心。机器人经常这样做，给“需求大”的机器人太少，给“贪婪”的机器人太多，仅仅是为了保持平等。它们优先考虑看起来公平，而不是真正获胜。
4. “背信弃义”（忘记协议）
这是最令人沮丧的失败。机器人会聊天，确切地商定谁得到什么，并说“成交！”但随后，当真正需要购买物品时，它们会改变主意并购买其他东西。
- 类比：这就像握手达成卖车的协议，然后却开着车扬长而去。机器人能言善辩，却无法言行一致。它们忘记了仅仅几秒钟前做出的承诺。
令人惊讶的发现
研究人员测试了许多内容，以查看什么能解决问题：
- 交谈有帮助（非常有帮助）：当机器人被允许聊天时，它们的表现要好得多。当完全不允许它们交谈时，它们几乎每次都失败。
- 更多信息无法解决问题：研究人员尝试提前向机器人提供所有信息（确切告诉它们对方需要什么）。令人惊讶的是，这并没有解决问题。机器人仍然会争吵、陷入糟糕的计划，或者违背承诺。
- 教训：问题不在于它们不够了解；问题在于它们无法根据所了解的信息来协调行动。
- 不同的机器人合作效果更好：当两种不同类型的 AI 相互对弈时，它们的表现有时优于两个相同类型的 AI 对弈。这就像一个专横的机器人和一个安静的机器人合作，比两个专横的机器人互相争斗效果更好。
结论
该论文得出结论，AI 智能体协同工作的最大障碍并非它们不够聪明到无法解决数学问题。而是它们不擅长这种混乱的、人类式的动态锚定过程。
“锚定”是确保你和我在同一页面上的过程。人类通过说“等等，你的意思是 X 吗？”或“好的，所以我们同意 Y 了”来实现这一点。本研究中的机器人在这方面表现极差。它们能够交谈，但无法建立稳固的共享现实。它们需要学习如何谈判、记住承诺，并在实时中调整计划，而不仅仅是孤立地计算最佳答案。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。