Choose Your Agent: Tradeoffs in Adopting AI Advisors, Coaches, and Delegates in Multi-Party Negotiation
这项研究表明，尽管用户在多方谈判中强烈偏好高控制权的AI顾问而非自主代理人，但只有代理人模式通过绕过人类覆盖或忽视最优AI建议的倾向，才显著提升了集体福利。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在和两位朋友玩一场高风险的交易游戏。你有一袋不同颜色的筹码，每种颜色对你而言价值不同，但你的朋友并不知道你的定价。为了赚取最多的钱，你需要与他们进行交易，但你必须表现得聪明睿智。
现在，想象你有一个超级聪明的 AI 助手在帮助你。这个 AI 是这个游戏的专家；它能比任何人类都更精准地计算出完美的交易，以实现利润最大化。
研究人员通过这个实验想要回答一个简单的问题：这个 AI 应该如何帮助你？ 他们测试了 AI 与你互动的三种不同方式：
- 顾问（“建议箱”模式）： AI 说：“嘿，我觉得你应该用 3 个红色筹码换 2 个蓝色筹码。”你可以接受、修改或完全忽略它的建议。你仍然是老板。
- 教练（“严厉的批评者”模式）： 你先提出自己的想法。然后 AI 说：“还可以，但你有没有考虑过用 4 个红色换 1 个绿色呢？”你可以接受建议，也可以坚持原有的计划。
- 代理（“自动驾驶”模式）： 你告诉 AI：“由你来负责。”AI 为你完成交易。你可以观察它的操作，但一旦交易达成，你就无法停止或更改交易内容。
大惊喜：人们想要的 vs. 实际有效的
研究人员对 243 人进行了这项实验。这里有一个转折点：
- 人们想要什么： 大多数人（44%）非常喜欢顾问模式。他们想要保留控制权。他们喜欢听取 AI 的想法，但想自己做最终决定。这让他们感到更安全、更有掌控感。
- 实际效果最好的是什么： 当小组使用代理模式时，他们赚到的钱最多。当 AI 被允许直接“把事办成”而无需人类干预时，小组的总利润显著提升。
“人类过滤器”问题
为什么“自动驾驶”（代理模式）赢得了胜利，尽管人们并不喜欢它？
研究人员发现了一个他们称之为**“人类过滤器”**的现象。
把 AI 的建议想象成一份烹饪完美的顶级美食。
- 在顾问和教练模式下，人类品尝了这道菜，然后说：“嗯，这看起来有点太激进了。让我加点盐吧，”或者“我不喜欢这么辣，我要把它做得温和一点。”
- 通过为了让感觉更舒服或更“公平”而“修正” AI 完美的建议，人类无意中破坏了数学逻辑。他们把一个获胜策略变成了一个平庸的策略。他们过滤掉了 AI 的天才之处，因为他们害怕承担风险，或者想要固守安全、熟悉的模式。
- 在代理模式下，没有过滤器。AI 按照原样呈上了烹饪完美的顶级美食。因为 AI 比人类更擅长烹饪，所以小组得到了最好的食物。
“市场造市者”效应
这是另一个酷炫的部分：当一个人使用代理模式时，它甚至能帮助小组中的所有人，即使是那些没有使用 AI 的人。
想象一下这场交易游戏是一个市场。
- 当人类进行交易时，由于过于谨慎，往往会提出安全、乏味的报价（比如用 1 个筹码换 1 个筹码）。这会让市场停滞不前。
- 当 AI 作为代理行动时，它会做出大胆、聪明的报价，从而开启新的可能性。
- 这迫使其他玩家也必须思考得更深入，并达成更好的交易。这就像一个小镇开了一家高科技新店；突然之间，当地的小店不得不提升自身品质来竞争。AI 不仅帮助了它的主人，还提升了整个游戏的质量。
总结
论文得出结论：你如何让 AI 帮助你，比 AI 有多聪明更重要。
尽管这个 AI 是个超级天才，但人们拒绝让它发挥出最佳水平，因为他们太害怕放开方向盘了。他们宁愿自己开车，即便开得比 AI 慢，而且开得没那么安全。
研究人员建议，为了让 AI 真正帮助团队成功，我们需要设计一些系统，让我们在感觉到受控的同时（例如通过“否决按钮”或审查期），又不会真正阻碍 AI 发挥其最佳水平。我们需要找到一种方法，既能信任这位“顶级大厨”，又不会因为加了太多盐而毁掉这道菜。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。