Comparative regulatory analysis and governance framework based on risk for liability and accountability in autonomous artificial intelligence systems

想象一下这样一个世界：你的烤面包机不仅仅是在烤面包，它还能根据你的心情、饮食和天气，在无需询问你的情况下，自行决定你需要什么样的面包。这就是**自主人工智能（Autonomous Artificial Intelligence, AI）**的领域。不同于那些仅仅遵循严格指令清单（比如食谱）的传统机器人，这些新系统能够学习、适应并做出自己的选择。它们就像是能够即兴创作新食谱的数字厨师。

但棘手之处在于：当一位数字厨师烧毁了厨房，谁该承担责任？在过去，如果汽车出了车祸，我们知道谁在驾驶；如果烤面包机电到了人，我们知道是谁制造了它。但对于能够独立思考的 AI 而言，“驾驶员”可能是编写代码的人、销售产品的公司、开启机器的人，甚至是 AI 本身。这创造了一个巨大的法律谜题，即责任归属（liability）（谁负责）和治理（governance）（如何确保安全）。如果我们不解决这个问题，我们可能会因为害怕使用这些酷炫的新技术而止步不前，或者更糟的是，人们在无人被追究责任的情况下受伤。这是科学家和律师们试图解决的大问题：我们如何确保这些智能机器既安全又公平，以及如果它们出错时，由谁来买单？

---

AI 问责制的大谜团

这篇论文就像是一个侦探故事，调查人员（作者）前往了三个不同的“法律城市”——欧盟、美国和中国——观察每个地区是如何试图破解 AI 责任之谜的。他们不仅在研究法律本身，还在研究这些法律如何应对 AI 变得越来越聪明、越来越独立的现实。

研究人员发现，旧有的规则正显得力不从心。想象一下，试图用一张 1950 年的地图去导航一座突然长出摩天大楼、飞行汽车和隐形隧道的城市，那就是用旧法律处理新 AI 的现状。旧法律会问：“是谁按下了按钮？”但对于自主 AI 来说，有时并没有人按下按钮；机器只是自行决定采取行动。这使得证明谁导致了问题变得异常困难，这种概念被称为因果关系（causation）。这就像是在试图弄清楚是谁洒了牛奶，而牛奶却是从一个正在学习如何倾倒的奶盒里自己流出来的。

三种不同的路径

论文对比了这三个地区如何应对这场混乱：

1. 欧盟（规则制定者）： 欧盟就像一位严厉的老师，在游戏开始前就写好了一本庞大且详尽的规则手册。他们采用基于风险的方法（risk-based approach）。这意味着，如果一个 AI 系统正在进行危险的游戏（如驾驶汽车或诊断疾病），它必须在获准工作之前，遵循一系列庞大的安全规则、透明度检查和人类监督要求。如果是一个低风险的游戏（如推荐电影），规则就会宽松得多。他们的理念是在事故发生前进行预防。
2. 美国（灵活的参与者）： 美国更像是一位教练，让玩家在过程中自行摸索，依赖现有的汽车和产品规则。他们目前还没有一本统一的 AI 法律大书。相反，他们使用关于过失和产品缺陷的旧法律。如果 AI 伤害了某人，你会向法院起诉，由法官判定对方是否疏忽。他们也有一些自愿性指南（如 NIST 框架），供公司选择是否遵循。这种方式很灵活，鼓励创新，但也可能让人感到困惑，因为规则在各地并不统一。
3. 中国（监督者）： 中国就像一位在场边密切观察比赛并及早干预的裁判。他们的做法是**以国家为中心（state-centered）**且积极主动的。他们高度关注构建和运行 AI 的公司，确保其拥有严格的内部控制和报告系统。他们希望通过持续的监测和政府监管，在问题发生前将其拦截。

“AI 问责指数”评分表

为了衡量哪个城市做得更好，作者创建了一个特殊的评分卡，称为人工智能问责指数（Artificial Intelligence Accountability Index, AAI）。你可以把它看作是一份衡量一个国家法律在六个关键领域覆盖程度的成绩单：

• 透明度（Transparency）： 我们能看到 AI 在做什么吗？（占总分的 20%）
• 可解释性（Explainability）： AI 能告诉我们它为什么做出某个选择吗？（15%）
• 文档记录（Documentation）： 他们把一切都记录下来了吗？（15%）
• 人类监督（Human Oversight）： 是否有人在盯着 AI？（20%）
• 审计（Auditing）： 是否有人在检查 AI 的工作？（15%）
• 风险管理（Risk Management）： 他们是否在为可能出错的情况做计划？（15%）

以下是三个城市在 100 分制下的得分情况：

• 欧盟：96 分。 他们获得了 A+，因为他们拥有一套完整且统一的系统，涵盖了所有这些领域。
• 中国：78 分。 他们获得了 B+，因为他们对公司有强有力的规则和政府监管，但其风格与欧盟略有不同。
• 美国：57 分。 他们得了 C，因为他们的规则比较分散。他们依赖旧法律和自愿性指南，因此存在覆盖盲区。

新方案：“基于风险”的框架

论文建议，与其仅仅在事故发生之后争论谁该负责，我们更需要一个将风险等级与控制等级相匹配的新系统。

作者提出了一个基于风险的治理框架（Risk-Based Governance Framework）。想象一个针对 AI 的红绿灯系统：

• 绿灯（低风险/低自主性）： 如果 AI 只是推荐一首歌，它只需要很少的监督。旧有的规则在这里完全适用。
• 黄灯（中等风险）： 如果 AI 正在协助医生或管理银行账户，它需要更多的检查，例如由人类审查其工作并记录其决策日志。
• 红灯（高风险/高自主性）： 如果 AI 正在驾驶汽车或控制电网，它需要一支完整的安保团队。它需要强制性的人类监督、持续的审计，以及在启动前的严格认证。

论文引入了一个聪明的概念，叫做功能性控制（Functional Control）。它不再问“谁的错？”，而是问“谁拥有改变结果的力量？”

• 开发者（Developer）： 负责设计（构建大脑的人）。
• 提供者（Provider）： 负责确保其使用安全（销售产品的人）。
• 操作者（Operator）： 负责在运行时进行监视（使用它的人）。
• 监管者（Regulator）： 负责确保每个人都遵守规则（政府）。

通过这种方式，责任根据谁实际上拥有影响系统的力量来进行分配，而不是仅仅等待灾难发生后再试图寻找一个单一的责任人。

论文说了什么（以及没说什么）

作者指出，这个新框架是一种更好的处理方式，但他们谨慎地表示，这目前只是一个概念模型，而非一个已在所有情况下经过测试的成熟法律。他们承认，由于研究仅限于三个国家，因此可能存在其他他们尚未察觉的解决方案。他们还指出，在复杂的 AI 系统中，准确界定每个人拥有多少“控制权”是非常困难的。

然而，核心结论非常明确：对于智能、独立的机器，仅仅在出错后追究单一责任者的旧方法行不通了。我们需要一个能够根据 AI 的风险程度、它的自主决策能力以及谁拥有引导它的力量，从而建立起一个覆盖从创造到使用的全过程的安全网。我们的目标是建立这样一个世界：我们可以享受 AI 带来的神奇事物，而不必在事情出错时，为了搞清楚谁该负责而抓狂。