Do people expect different behavior from large language models acting on their behalf? Evidence from norm elicitations in two canonical economic games
通过两项涉及2,600多名参与者的预注册研究，本文表明，人们对大语言模型适用的社会规范与对人类适用的规范截然不同，即认为机器生成的提议不太得体且更易被拒绝，而认为机器执行的拒绝则与人类执行的同样得体。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在参加一个派对，两个人正在分吃一份披萨。其中一个人是人类，另一个人是代表人类行事的机器人。这篇论文提出了一个简单但深刻的问题：我们是否期望机器人的行为准则与人类一致？
研究人员 Paweł Niszczota 和 Elia Antoniou 进行了两场“游戏”来寻找答案。把这些游戏看作是社会压力测试，旨在观察人们在涉及机器时是如何判断公平性的。
实验设置：两场社会压力测试
游戏 1：独裁者博弈（“慷慨的主人”）
想象一位主人拥有一整份披萨，必须决定分给客人多少。客人没有发言权，只能接受被给予的东西。
- 人类主人： 如果一个主人留了 9 片，只给客人 1 片，我们可能会想：“这有点吝啬，但也可以接受。”
- 机器人主人： 研究人员询问人们，对于一个机器人（代表人类行事）做出完全相同的行为，其“社会适切性”评价如何。
游戏 2：最后通牒博弈（“公平警察”）
现在，主人提供了一片披萨，但客人拥有一个“否决按钮”。如果客人认为提议不公平，他们可以按下按钮，这样谁也拿不到披社。
- 机器人作为客人： 如果一个人类提出了一个糟糕的交易，机器人可以按下否决按钮吗？
- 机器人作为主人： 如果一个机器人提出了一个糟糕的交易，人类按下否决按钮是否合适？
研究结果：“机器人双重标准”
研究显示，人们对机器人有一套非常特定且略显矛盾的规则。以下是使用简单类比进行的拆解：
1. 机器人必须“完美公平”（主人规则）
当机器人扮演“主人”（决定如何分配钱财）的角色时，人们对它的要求要严格得多。
- 类比： 如果一个人类主人留了 9 片，你可能会翻个白眼。但如果一个机器人留了 9 片，人们会觉得这更加不妥。
- 结果： 人们期望机器人比人类更慷慨。如果机器人试图自私，人们会严厉地批评它。人们似乎觉得，当人类将决策权委托给机器人时，机器人不应该利用这种权力来表现得“小气”。
2. 机器人可以充当“公平警察”（否决规则）
当机器人扮演“客人”（拒绝提议的人）的角色时，人们并不会因此而要求更严格。
- 类比： 如果一个人类客人拒绝了一个糟糕的披萨提议，这是正常的。如果一个机器人客人拒绝了同样的糟糕提议，人们会认为：“这也是可以的。”
- 结果： 人们完全接受机器人执行公平原则。他们并不介意机器人说：“不，这个交易很糟糕，我不接受。”事实上，人们认为机器人拒绝一个坏交易，与人类的行为一样是合理的。
3. “过度慷慨”的转折
这里是最令人惊讶的部分。如果机器人提供了一个极其慷慨的方案（比如给客人 9 片，只给自己代表的人留 1 片），人们实际上认为拒绝这个提议是更合理的。
- 类比： 想象一个机器人主人给了你几乎整份披萨，只给它代表的人留了几乎没剩什么。人们会想：“等等，这很奇怪。这个机器人在对客人太好了，从而损害了它所服务的那个人的利益。”
- 结果： 人们觉得机器人也不应该太慷慨。它们应该找到公平的“金发姑娘区”（即适中状态）。如果机器人过于慷慨，看起来会显得可疑或对它代表的人士不公平。
大局观：认知 vs. 情感
作者认为，当我们与人类互动时，我们会理解他们的情感和意图。而当我们与机器人互动时，我们是在通过另一种视角来看待它们：
- 作为决策者（主人）： 我们觉得机器人有一种“认知”上的义务去保持公平。如果它们自私，这感觉像是对雇佣它们的人类的一种背叛。
- 作为执行者（警察）： 我们觉得机器人只是在履行职责的工具。如果它们拒绝一个糟糕的交易，它们只是在遵循公平的规则，这是可以接受的。
总结
简而言之，人们对代表我们行事的语言大模型（LLMs）存在一种双重标准：
- 不要自私： 如果机器人正在分配钱财，它最好表现得公平（甚至比人类更公平）。
- 不要太好心： 如果机器人正在分配钱财，它不应该对对方太慷慨，否则看起来就像是在损害其人类主人的利益。
- 要执行规则： 如果机器人是那个对糟糕交易说“不”的人，那是完全没问题的。
研究结论是，我们并非在盲目地接受机器人进入我们的社交圈。我们有着非常具体且细微的预期：我们希望它们是公平规则的严格执行者，但如果它们试图进行实际的资源分配决策，我们会非常挑剔。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。