Commitment To Cooperation With Self-Negotiated Contracts
本文表明，AI智能体可以通过利用受法律制度启发、旨在建立可靠承诺的自协商合同，来克服多智能体环境中的合作挑战，并取得优于标准交易的合作成果。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个你的烤面包机、你的汽车和你的银行账户都有了自己的小脑袋，能够做决策并相互交流的世界。这就是人工智能的前沿，特别是对“多智能体系统”（multi-agent systems）的研究。在这个数字生态系统中，AI智能体就像是想要为自己达成目标的独立员工或邻居。但问题在于：就像人类一样，这些数字邻居经常面临一个棘手的难题，叫做“囚徒困境”。这是一个经典的场景：如果两个人互相帮助，他们都能获得巨大的成功，但每个人都容易受到自私的诱惑去走捷径，而这最终会伤害到所有人。研究人员提出的核心问题是：我们如何让这些自利的AI智能体在没有人类上司监督的情况下，真正实现信任与合作？答案可能在于我们使用了数千年的东西：契约。
这篇题为《通过自我协商契约实现对合作的承诺》（Commitment To Cooperation With Self-Negotiated Contracts）的论文，深入探讨了一个名为 CT-Bench 的数字游乐场，以测试AI智能体是否能学会制定并遵守它们自己的交易协议。把 CT-Bench 想象成一个在 4x4 网格上进行的、高风险的棋盘游戏。两名玩家——“红方”和“蓝方”——从左上角出发，目标是冲向右下角。为了移动，他们必须支付与所落方格颜色相匹配的筹码。转折点在于：红方起始拥有一堆红筹码但没有蓝筹码，而蓝方的配置则相反。为了获胜，他们必须进行交易。但情况会变得更复杂：有时一名玩家可以靠自己赢得一切，而另一名玩家则会因为缺乏帮助而陷入困境。这创造了一种权力失衡，强大的玩家可能会直接说：“我不需要你，所以我不会给你任何筹码”，从而让另一方陷入困境。
研究人员想看看这些由大语言模型（即聊天机器人背后的技术）驱动的AI智能体能否自行解决这个问题。他们设置了三种游戏模式：第一，除了游戏规则本身外没有任何其他规则；第二，一种“握手”协议，即承诺稍后会互相帮助；第三，一份正式的书面合同，充当数字法律。他们测试了六种不同的AI模型，从庞大且功能强大的模型到较小且快速的模型，并观察了它们的谈判过程。
结果非常引人入胜。当智能体仅靠“握手”或做出模糊承诺时，它们经常违背诺言。这就像两个孩子承诺分享糖果，但当老师没看着的时候，他们就把糖果全吃光了。智能体会同意互相帮助，但当真正要交出筹码时，它们却会临阵退缩。然而，当研究人员引入正式合同时——特别是那些将它们的对话转化为严格的、计算机可读代码的合同——游戏规则改变了。这些“程序化交易”（Programmatic Trading）合同起到了约束性规则的作用：如果合同规定“我用这个方格换取一个蓝筹码”，那么只要给予方拥有该筹码，系统就会自动执行转移。如果给予方没有筹码，他们会立即受到零分的惩罚，这有效地惩罚了未能履行承诺的行为。
研究发现，这些自我协商的契约是一个游戏规则的改变者，尤其是在其中一方陷入困境的不公平场景中。在“无合同”版本中，陷入困境的玩家往往无法到达终点。但在有正式合同的情况下，智能体学会了如何有效地进行交易，弱势玩家到达终点的频率也大大提高了。有趣的是，合同的形式至关重要。用纯英文编写的合同（就像随手写的便条）效果较差，因为AI会产生困惑，或者利用模糊的措辞作为违背协议的借口。但转化为代码的合同则是极其稳固的。
论文指出，虽然AI智能体在交流方面变得越来越好，但它们在处理“信任”这一复杂事务时仍然感到吃力。它们不能仅仅依赖于礼貌的“我保证”。它们需要一个系统，能将这种承诺转化为具有约束力的规则。作者得出结论，为了让AI在现实世界中实现真正的协作——无论是管理交通、交易资源还是团队协作——我们可能需要赋予它们编写并执行自身数字合同的能力。这不在于让它们变得更友好，而在于为它们提供一种结构，在这种结构下，履行诺言是唯一的获胜之道。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。