Do LLM Agents Negotiate Rationally? A Mechanism-Design Framework for Verifiable Multi-Agent Interaction over A2A/MCP
本文引入了一种将经典谈判协议编码进 A2A/MCP 消息模式并具备运行时验证的机制设计框架，揭示了尽管结构化交互能确保任务成功，但 LLM 智能体往往无法表现出博弈论所预测的理性且符合激励相容的行为。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个这样的世界：软件程序作为独立的助手被雇佣来为我们开展业务。一个可能被派去购买办公用品，而另一个则被派去销售办公用品。在不久的将来，这些数字员工将需要相互交流、讨价还价并达成交易，而无需人类干预。几十年来，计算机科学家一直致力于开发一套数学规则，以确保当此类独立方进行交互时，结果是公平、高效且诚实的。这些被称为“机制设计”的规则就像游戏的规则一样，保证了如果每个人都按规矩办事，结果对所有参与者都是最优的。然而，新一代由大语言模型驱动的助手正开始在现实世界中运作。这些模型是在海量的人类文本和对话基础上训练出来的，这使得它们极其流利且适应性极强。但没有人知道，当这些助手在无人监管的情况下自行处理事务时，它们是否真的会遵循经济理论中那些严格、逻辑严密的规则，还是说它们类人的对话习惯会导致它们做出糟糕的交易。
牛津大学的研究人员致力于通过在古老、严谨的经济理论世界与新兴、流动的人工智能世界之间架起一座桥梁，来回答这个问题。他们创建了一个试验场，其中两个AI智能体各有一个特定目标以及对不同物品的私有价值，并被要求进行一场交易谈判。研究人员想要观察这些智能体是否能够达成最佳协议，或者是否会陷入低效的模式。为此，他们设计了一个可以讲两种语言的系统：一种是AI模型那种自然、灵活的语言，另一种是经济协议中那种严格、结构化的语言。他们测试了两种主要场景。在第一种场景中，智能体仅被告知要“进行谈判”，让它们自行摸索过程。在第二种场景中，智能体获得了一本严格的规则手册，规定了如何提出报价、如何进行反报价，以及何时接受或拒绝交易。他们还增加了一个数字裁判，负责监督智能体之间发送的每一条消息，在消息传递之前检查其是否遵守了规则。
结果揭示了智能体的实现能力与其实际行为之间存在着一种引人入胜的分歧。当智能体被允许在没有严格结构的情况下自由聊天时，它们通常能达成协议，但交易往往是低效的。它们倾向于平均分配物品，这种做法在人类看来感觉很公平，但对于实际价值评估不同的双方来说，往往意味着错失了潜在的收益。然而，当研究人员提供了一个结构化协议和一个数字裁判时，成功率跃升至百分之百。智能体始终能达成协议，且交易结果更接近最优解。裁判在特定方面表现得尤为有用：它使结果变得更加一致。如果没有裁判，交易质量在每次尝试之间波动很大；有了裁判，结果则变得稳定且可预测。
最令人惊讶的发现出现在研究人员测试另一种类型的谈判：拍卖。在这种场景下，智能体对某件物品进行竞价，而游戏的规则旨在确保对每个人而言的最佳策略就是如实告知他们对该物品的估值。研究人员发现，拍卖的结果在每一次试验中都是高效的：物品总是流向估值最高的那个智能体。然而，智能体的诚实程度完全取决于运行该谈判的具体AI模型。其中一个模型在每一次试验中都报出了其真实价值，完美地遵循了经济理论。而另一个模型尽管面临完全相同的规则，却很少报出真实价值，而是给出了接近但不完全准确的数字。这表明，游戏规则提供的诚实保障并不会自动转移到AI身上；它取决于智能体背后的那个特定的“大脑”。
这项工作表明，当我们部署更多自主智能体来处理现实世界的交易时，底层AI模型的选择与谈判规则的设计本身同样至关重要。一个在纸面上看起来完美的系统，如果使用了错误的模型，或者如果智能体在没有清晰结构的情况下进行谈判，在实践中可能会失败。研究人员建议，未来智能体之间的交互应当包含一个验证层，即一个确保智能体遵守既定协议的数字裁判。这不仅能防止智能体犯下愚蠢的错误，还能确保系统设计师所承诺的公平性和效率得以真正兑现。这项研究还强调了科学透明度的重要性：当第三个更复杂的谈判任务未能产生可用的结果时，研究人员并没有隐瞒这一失败。相反，他们进行了精确的记录，解释说该任务对于当前的技术而言过于困难，无法在没有更多时间和更好工具的情况下进行协调。这种对成功与失败进行的诚实统计，为构建一个让我们的数字助手不仅能流利沟通，而且能理性决策的未来提供了清晰的路径。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。