Responses to Unfavorable Outcomes Produced by Human and Artificial Agents: A Dual-Pathway Model of Upward Counterfactual Thinking and Intentionality Attribution
本文表明，由于人们对人工智能进行的向上反事实思维和意图归因较少，人工智能产生的负面结果比人类代理人产生的负面结果更容易被接受，且这种差异在结果涉及高个人利益时会更加显著。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你刚刚在考试中拿了个差分，或者也许是你最喜欢的披萨送达时又冷又迟。你的大脑会立即开始进行小小的侦探工作。你会问自己两个大问题：“如果有人再努力一点，情况会不会有所不同？”以及“那个搞砸了的人是故意为了气我吗？”心理学家将第一个问题称为“向上反事实思维”（upward counterfactual thinking）——这就像是在你脑海中播放一部关于事情变得更好的“如果……会怎样”的电影。第二个问题是关于“意图归因”（intentionality attribution），这基本上是在猜测对方是否有阴险、恶意的动机。
现在，想象一下你必须处理一个由人类老板而非机器人电脑造成的糟糕结果。长期以来，科学家们一直在思考：我们对机器人的愤怒方式是否与对人的愤怒方式相同？有些人认为我们讨厌机器人出错（这被称为“算法厌恶”），而另一些人则认为我们可能实际上更信任它们，因为它们看起来更公平。但当坏事已经发生之后呢？如果是一个机器人造成的，我们会更容易接受结果，还是只会感到更加愤怒？这篇论文深入探讨了那个挫败感的瞬间，以观察我们的思维如何处理来自血肉之躯的人类与数字代理人的错误。
机器人 vs. 老板：谁来承担责任？
这项由 Zhao、Li 和 Wen 的研究人员进行的调查，旨在回答一个简单但棘手的问题：当事情出错时，如果是由机器人造成的，我们是否更容易接受，还是由人造成的更容易接受？为了找出答案，他们通过两个使用了真实感十足的虚构场景（scenarios）进行了实验。
在第一个实验中，他们要求 472 人想象自己是外卖骑手。突然，出现了一个会让他们变迟到且方向完全错误的订单。他们无法拒绝。转折点在于：一半的骑手被告知是一个人类经理分配了这个糟糕的订单，而另一半骑手被告知是一个计算机算法分配的。
结果很明确：当订单来自计算机时，人们更愿意接受这个糟糕的订单。当人类经理分配订单时，骑手们感到更愤怒，也更不容易随遇而安。为什么呢？因为他们的思维在两个特定方面开始超负荷运转：
- “如果……会怎样”的电影： 当人类出错时，骑手们开始想象：“噢，经理本来可以选另一条路线的！”或者“他们本来可以先检查我的其他订单的！”这就是向上反事实思维。这就像看到一扇门没关好，你心想：“要是他们把门关上，我就不会淋湿了！”你越能想象出更好的替代方案，就越难以接受现状。
- “恶意意图”的侦探： 当人类分配了那个糟糕的订单时，骑手们开始想：“他们是故意的吗？他们是在无视我吗？”这是意图归因。我们假设人类拥有情感和选择权，所以如果他们犯错，我们会怀疑他们是否是为了恶意而这么做的。相比之下，计算机被视为仅仅是遵循规则。很难认为一个机器人是“故意”要表现得刻薄；它只是一个故障或一次计算。
研究发现，由于人类会触发这两个心理过程（“如果……会怎样”的电影和“恶意意图”的猜疑），我们对他们的错误决策接受度较低。机器人被视为遵循规则且没有感情的机器，因此不会如此强烈地触发这些想法，所以我们更容易接受它们的错误决策。
“个人利益”的转折
但是，这总是会发生吗？研究人员想知道，这是否取决于这个糟糕的结果在多大程度上影响到了你个人。这就是第二个实验发挥作用的地方。他们要求 360 人想象自己没能获得一项特别的工作培训计划。
这一次，他们改变了规则。对于某些人来说，这项培训是低风险的——它只是一门有趣的课程，不会改变他们的职业生涯。而对于其他人来说，这项培训是高风险的——获得这项培训意味着晋升、加薪或参与酷炫项目的机会。错过它会对他们的未来造成巨大的打击。
故事在这里变得有趣了。当风险较低（只是一门有趣的课）时，无论是由人类还是机器人说“不”，其实并不太重要。人们对结果的接受程度差不多。他们没那么在意，所以不会开始他们的“如果……会怎样”的电影或侦探工作。
然而，当风险较高（影响到职业生涯）时，人类与机器人之间的差异爆发了。
- 高风险 + 人类： 人们进入了超负荷状态。他们想：“我的老板本来可以破例的！”以及“我的老板是不是故意在破坏我的职业生涯？”这种愤怒和抵触情绪非常巨大。
- 高风险 + 机器人： 人们虽然仍觉得很遗憾，但他们更愿意接受它。他们想：“好吧，计算机只是遵循了规则，”并且不会把精力花在想象替代方案或猜测恶意意图上。
这意味着什么
那么，结论是什么？论文指出，当事情出错时，我们的思维对待机器人和人类的方式不同，但前提是这件事对我们真的很重要。
如果一个机器人搞砸了你的生活，你可能会感到难过，但你不太可能责怪它有“坏态度”，或者纠结于它本可以如何做得更好。你将其视为系统错误。但如果是一个人犯了同样的错误，尤其是当你的工作或未来取决于此的时候，你的大脑就会高度活跃。你会开始想象他们本可以如何帮助你，并开始怀疑他们是否是故意的。
研究人员发现，这种“个人利益”就像是一个音量旋钮。当风险较低时，我们愤怒和猜疑的音量被调低了，人类与机器人的区别也变得微弱。但当风险较高时，音量被调高了，我们能清晰地听到其中的区别：我们对掌权的人类有着比对机器更高的期望，要求他们具备更多的意图性和灵活性。
简而言之，我们对机器人更加宽容，并不是因为它们更好，而是因为我们的思维很难想象它们拥有选择权或动机。当结果真的让我们受损时，我们对管理中的人类要求更高，而对机器人的规则则更容易接受。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。