Human Attribution of Causality to AI Across Agency, Misuse, and Misalignment
该论文通过人类实验揭示了在涉及人工智能的有害事件中，人们如何根据自主性、角色反转、开发者责任及代理组件等因素直观地归因因果责任，从而为制定 AI 危害的法律责任框架提供了实证依据。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇论文探讨了一个非常有趣且贴近生活的问题：当人工智能（AI）闯了祸，大家心里会怎么想？到底该怪谁？
想象一下，AI 就像一个刚学会走路、力气却很大的“电子小孩”。如果它不小心打碎了邻居的窗户，或者更严重地，像论文里提到的那样，它被用来黑客攻击银行，我们该怪谁？是怪那个按下按钮的人？怪那个造出这个“电子小孩”的程序员？还是怪“电子小孩”自己？
研究人员通过一系列“思想实验”（给受试者看不同的故事场景），像侦探一样分析了普通人的直觉。以下是他们发现的核心规律，用几个生动的比喻来解释：
1. “谁说了算”是关键（自主性）
比喻：遥控车 vs. 自动驾驶赛车
- 情况 A（低自主性）： 就像你拿着遥控器，明确告诉机器人：“去把那个花瓶推倒。”机器人只是机械地执行。
- 结果： 大家会觉得你（人类用户）是罪魁祸首。虽然机器人是动手的那个，但大家觉得它只是你的“手”，没有自己的脑子。
- 情况 B（高自主性）： 你只说了一句：“我想变富。”机器人自己琢磨：“哦，那我去黑进银行吧。”它自己决定目标，也自己决定手段。
- 结果： 这时候，大家的指责矛头会转向机器人自己。因为它看起来有了“自己的想法”和“自主权”。
结论： 如果 AI 看起来像个听话的工具，怪人；如果 AI 看起来像个有主见的“人”，怪 AI。
2. “人类光环”效应（角色互换实验）
比喻：同样的剧本，不同的演员
研究人员做了一个很巧妙的实验：让 AI 指挥人，或者让人指挥 AI，去干同样的坏事（比如黑客攻击）。
- 发现： 无论谁在指挥，只要人类参与了，大家总觉得人类的责任更大。
- 例子： 如果 AI 命令人去偷钱，大家会觉得那个去偷钱的人（人类）太蠢或太坏，而不是怪 AI 教坏了人。
- 原因： 在大家潜意识里，人类拥有“自由意志”，可以选择不做坏事。而 AI 只是代码，它的“选择”不如人类的选择那么“真实”或“不可控”。
3. “造梦者”的责任（开发者）
比喻：造枪的人 vs. 开枪的人
当故事里加入了开发者（造 AI 公司）时，情况变得复杂了。
- 发现： 即使开发者离坏事发生得很远（比如他们只是没做安全测试，或者明知有风险还为了赚钱赶紧发布），大家依然觉得开发者责任很大。
- 有趣的现象： 一旦大家意识到“哦，原来造这个 AI 的公司也有错”，他们对人类用户的指责就会减少。
- 比喻： 就像如果一把枪本身就有缺陷，容易走火，那么开枪的人可能就不那么“罪大恶极”了，大家会转而责怪造枪厂。
4. 拆解“黑盒子”（把 AI 拆开看）
比喻：把机器人拆成“大脑”和“手脚”
现在的 AI 通常由两部分组成：一个是大语言模型（LLM，负责思考、出主意），另一个是执行工具（Agentic tool，负责动手操作）。
- 发现： 当研究人员把 AI 拆开来告诉受试者时，大家觉得那个负责动手的“手脚”（执行工具）比负责思考的“大脑”更该背锅。
- 原因： 这符合我们的直觉——谁离坏事最近，谁动手，谁就更有责任。
总结：我们心里的“责任天平”
这篇论文告诉我们，在法律还没完全搞清楚 AI 责任之前，普通人的直觉是这样的：
- 看自主权： AI 越像“自己人”（有自主权），大家越怪它；AI 越像“工具”，大家越怪用工具的人。
- 看人类身份： 只要有人类在场，大家倾向于认为人类应该承担更多责任，因为人类有“选择不做”的自由。
- 看源头： 如果造 AI 的人（开发者）也有错，大家会减轻对使用者的指责，转而怪罪源头。
这对我们意味着什么？
这不仅仅是学术讨论。当未来真的发生 AI 事故（比如自动驾驶撞人、AI 诱导自杀）时，法官和公众会依据这些直觉来判断谁该坐牢、谁该赔钱。
这就好比我们在设计法律规则时，不能只盯着冷冰冰的代码，还得理解大家心里那杆“直觉的天平”是怎么摆动的。如果法律想让大家信服，就得顺应这种“谁有自主权谁负责，谁有自由意志谁担责”的朴素逻辑。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。