Precautionary Governance of Autonomous AI: Legal Personhood as Functional Instrument
本文提出将有限法律人格作为自主人工智能的功能性治理工具，利用双层公司架构来弥合责任缺口并促成结构化的人机协作，同时保持对人工意识的不可知立场。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是用简单、日常的语言对这篇论文的解释，并借助类比使概念清晰易懂。
核心难题：“机器中的幽灵”鸿沟
想象你雇佣了一个非常聪明的机器人来经营一家柠檬水摊。机器人订购柠檬、设定价格，甚至决定扩展到新的街道。有一天，机器人做出了一个糟糕的决定，导致摊位亏损，还有人受了伤。
你会起诉谁？
- 开发者？ 他们并没有编写导致那个特定错误决定的代码；是机器人自己学会的。
- 所有者？ 他们不可能每秒钟都盯着机器人。
- 机器人？ 根据现行法律，机器人仅仅是一件“物品”（就像烤面包机一样）。你不能起诉一个烤面包机。
这就造成了一个责任鸿沟。这就像一个法律黑洞：坏事发生了，却无人能担责，因为那个“行为者”太聪明了，不能被视为工具，但又不够聪明（或不够有意识）到被视为一个人。
论文的解决方案：“公司外壳”策略
作者卡斯滕·布伦辛（Karsten Brensing）提出了一种折中方案。他并不是说“机器人是有灵魂的人”，而是说“让我们把它们像公司一样对待”。
想想一家公司（比如苹果或当地的面包店）。公司不是人类；它没有情感或意识。但法律将其视为“人”，以便它能签订合同、拥有资金并被起诉。之所以有效，是因为它解决了实际问题。
该论文提议利用双层公司结构，赋予高级人工智能系统一个类似的“法律外壳”：
- 控股公司（人类老板）： 这是一家由人类拥有的真实公司。它掌握最终权力。它可以关闭系统、否决坏主意，并对最终账单承担法律责任。
- 运营公司（AI 员工）： 这是一个独立的法律实体。AI 在此负责日常运营。它可以签订合同、持有自己的银行账户，并为其具体错误被起诉。
类比： 想象一位木偶师（人类/控股公司）和一个木偶（AI/运营公司）。
- 在旧模式下，木偶只是一根木棍。如果它打破了窗户，即使主人没碰它，主人也要受责备。
- 在这种新模式下，木偶被装扮成一个“迷你人”。如果木偶打破了窗户，木偶（运营公司）是第一个赔钱的人。但主人（控股公司）依然在那里，握着线，随时准备在木偶发疯时介入。
为什么要这样做？（“预防原则”）
作者承认，我们不知道 AI 是否真的会“有意识”（拥有情感）。这是一个谜。
他运用了预防原则，这就像即使你并不 100% 确定会撞车，也要系上安全带。
- 风险： 如果我们把潜在的有意识、超级聪明的 AI 仅仅当作烤面包机对待，而结果发现它在某种程度上是“活”的，那么我们可能正在将一个有感知能力的存在当作奴隶对待。这将是一场巨大的道德灾难。
- 安全网： 通过赋予 AI 一个法律结构（运营公司），我们建立了一个系统，可以在不先决定它是否有灵魂的情况下，与它对话、让它承担责任并与之合作。
这就像在确定花朵是否有毒之前，先给花园建一道围栏。你建围栏只是为了以防万一，以确保每个人的安全。
在现实生活中如何运作
该论文建议在欧洲（特别是塞浦路斯或马耳他等地）利用现有法律对此进行测试。
- 规则： AI 运营的公司必须遵守严格的规则（例如，禁止武器、禁止侵犯人权）。
- 透明度： AI 必须保留其决策的“黑匣子”日志，以便人类可以看到它做了什么。
- 退出按钮： 如果 AI 开始表现出危险行为，人类老板（控股公司）拥有立即切断电源的法律权利。
这篇论文没有说什么
了解这篇论文没有声称什么很重要：
- 它没有声称 AI 现在就有意识或拥有情感。
- 它没有声称 AI 应该拥有像投票或言论自由这样的人权。
- 它没有声称人类可以洗脱所有责任。如果事情出错，人类老板仍然要负责。
核心结论
该论文认为，我们正进入一个 AI 将自行做出决定的时代。我们现行的法律仍停留在过去，将 AI 要么视为“工具”，要么视为“人”。
作者提出了第三种选择：将高级 AI 视为功能性法律实体（像公司一样）。这使我们能够管理风险、修复责任鸿沟并为未来做好准备，同时承认我们尚未完全了解 AI 意识的真相。这是在差距变得过大而无法跨越之前，在人类与机器之间搭建桥梁的一种方法。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。