Final Authority in AI Governance: Frontier-Provider Sovereignty and Action-Centered Deployer Governance

伟大的 AI 权力斗争：谁握着遥控器？

想象一下，你刚刚制造了一个超级聪明的机器人助手。它非常聪明，甚至可以编写代码、预订航班，甚至管理你的银行账户。但棘手的部分在于：一旦你让这个机器人在现实世界中驰骋，如果它开始做一些奇怪的事情，谁有权按下“停止”按钮？这个问题正处于人工智能（AI）治理领域一场新辩论的核心。

要理解这场战斗，我们需要了解两个主要角色。首先是 AI 提供商（AI Provider），即制造了机器人大脑的卓越实验室或公司。他们了解大脑是如何运作的、它有哪些能力以及在哪里可能会出故障。其次是 部署者（Deployer），即实际使用机器人执行真实工作的个人或公司，例如管理医院或运营银行。如果机器人犯了错，部署者才是那个需要处理烂摊子的人。

在一段时间内，许多人认为提供商应该是最终的老板。其逻辑很简单：“既然你造了大脑，你就应该控制身体。”但随着机器人开始从事更复杂的任务，一种新的观点正在获得支持。该观点认为，掌握遥控器的人——即如果事情出错会承担后果的人——应该对机器人的实际行为拥有最终决定权。这关乎的不是谁更聪明，而是谁更负责。

---

论文的核心问题：谁才是真正的老板？

这篇由 Zexun Wang 撰写的论文深入探讨了一个非常具体的论点，即一旦 AI 系统深度嵌入我们的日常工作中，其“最终权威”应当归属于何处。作者对比了两种关于谁该掌权的思维方式。

第一种想法：“大脑构建者”规则（前沿提供商主权 / Frontier-Provider Sovereignty）
想象一下赛车制造商。他们完全了解引擎能跑多快，以及刹车会在哪里失效。 “提供商主权”观点认为，由于 AI 公司最了解 AI 的能力和危险性，因此他们应该是决定何时允许 AI 采取行动的人。他们将扮演严格的守门人角色，进行测试并说：“你现在还不能做那个，”或者“你可以去做。”这是某些大型 AI 实验室所持有的观点，他们认为自己需要控制其最强大模型的发布，以防止灾难发生。

第二种想法：“驾驶位”规则（以行动为中心的部署者主权 / Action-Centered Deployer Sovereignty）
现在，想象你是那辆赛车的驾驶员。即使制造商最了解引擎，但 你 才是那个在特定赛道上行驶、面对特定交通状况、并且在撞墙时会面临危险的人。 “部署者主权”观点认为，关于 AI 行动是否应该发生的最终决定权属于使用它的组织。如果一家银行使用 AI 来审批贷款，或者一家医院使用 AI 来安排手术，那么这家银行或医院才是需要承担法律和财务后果的人。因此，他们应该是发出最终“执行”或“停止”信号的人。

论文的研究结果： “驾驶员”应拥有最终决定权

作者研究了来自欧盟、美国（NIST）、新加坡、日本和加拿大的规则与指南。他们还观察了目前企业是如何实际使用 AI 的。

论文指出，虽然 AI 构建者（提供商）对于设定安全限制以及阻止 AI 做出真正危险的行为确实至关重要，但不应由他们来决定企业中每一项 AI 决策。

以下是论文倾向于 “驾驶位” 规则的原因：

1. “谁来买单？”因素： 如果 AI 犯了一个错误，导致公司损失数百万美元或违反了法律，那么是被起诉或被罚款的公司（部署者），而不是构建该模型的 AI 公司。论文认为，承担代价的人应该持有钥匙。
2. “局部知识”问题： 一家位于加利福尼亚的 AI 公司可能知道他们的模型很聪明，但他们不知道多伦多的一家特定银行有一条规定禁止向特定国家发送数据，或者某家特定医院有一项关于患者隐私的政策。 “提供商”无法看到这些局部规则。只有 “部署者” 了解具体的上下文环境。
3. “混合现实”现状： 如今的企业使用来自不同来源的 AI。他们可能用一个 AI 写邮件，用另一个分析数据，再用第三个进行客户服务。如果 AI 公司试图控制一切，情况会变得非常混乱，因为企业使用的是多种工具的组合。论文建议，我们需要一种系统，使得 行动本身（例如“发送这封邮件”）无论是由哪种 AI 工具完成的，都自带一份“准许证”。

提出的解决方案：“携带证明”的行动

为了解决这个问题，论文提出了 “携带证明的智能体行动”（Proof-Carrying Agent Actions, PCAA） 这一概念。你可以把它想象成每一次 AI 行动的“数字护照”。

与其仅仅信任 AI 公司说“它是安全的”，该系统为每一个行动创建一个可携带的证书。这个证书会说明：

• “此行动已通过审核。”
• “此行动已获得公司内相关人员的批准。”
• “这里有证明其遵循了规则的证据。”

这样一来，即使 AI 公司发生了变更或技术进行了更新，使用 AI 的公司仍然拥有一份清晰的记录，表明是谁授权了什么。它将权力保留在应有的地方：即那些实际从事工作并承担后果的人手中。

论文明确表示“不”的内容

论文谨慎地说明了它 不是 在主张什么。

• 它 并非 说要忽略 AI 公司。他们仍然是判断一个模型在普遍意义上是否危险的专家。他们仍应是那些说“这个模型风险太高，根本不该发布”的人。
• 它 并非 说允许公司做 任何 他们想做的事。AI 构建者仍然设定安全边界（就像限速标志）。
• 它 并非 声称这是一个已解决的问题或一个完美的系统。论文暗示，考虑到目前 AI 使用情况的复杂性和混合性，这是目前处理此类问题的 更好 方式。

总结

核心结论是一种“分层”的方法。把它想象成一栋两层的小楼。

• 顶层（提供商）： AI 构建者居住在这里。他们决定建筑是否安全可以进入，以及电梯是否可以到达顶层。他们处理那些巨大的、可怕的风险。
• 地面层（部署者）： 使用 AI 的公司居住在这里。他们决定进入哪些房间，谁可以穿过大门，以及如果有人绊倒了该怎么办。

论文认为，长期以来，人们一直认为顶层应该控制地面层。但作者指出，这就像汽车制造商试图告诉出租车司机在每一个路口该往哪转一样。制造商了解汽车，但司机了解道路。

最后，论文建议，最合理的未来是一个由 AI 构建者设定安全规则，但由使用 AI 的公司持有最终权威，以决定哪些行动实际发生，并辅以清晰、可携带的证明来确保其操作合规。