Mapping General-Purpose AI Governance in Twenty AI Middle-Power Jurisdictions
本文绘制了二十个中等强国司法管辖区的通用人工智能（GPAI）治理框架图谱，揭示出尽管这些司法管辖区在关键问责领域上的监管形式大致趋同，但在执法权力方面存在显著差异，即大多数司法管辖区依赖于非约束性措施、现有的应用层指令以及观察能力，而非向模型开发者施加约束性义务。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象这样一个世界：最强大的人工智能系统仅在两个地方建成，但其影响却波及全球每一个国家。这些被称为“通用人工智能”的系统并非设计用于分类邮件或识别面部等单一任务的简单工具。相反，它们是庞大且灵活的引擎，能够学习几乎任何事物，从编写代码到模拟生物过程。由于其极强的适应性，它们也带来了独特的风险：它们可能被用于制造危险武器、发起网络攻击，或者以人类无法阻止的方式运行。尽管构建这些系统的公司集中在少数几个国家，但世界其他国家仍必须设法与它们共存。这就是研究人员所称的“人工智能中等强国”面临的挑战：这些国家本身并不开发这些前沿模型，但必须设法监管这些技术在其国境内的使用、销售和监测。
一个研究小组着手绘制了二十个此类国家如何应对这一问题的图景。他们没有关注宏大的政治声明或模糊的承诺，而是深入挖掘了实际的法律、法规和官方指导文件，以查看究竟制定了哪些规则。他们将重点放在了确保安全的四个特定领域：在系统发布前进行全局风险评估；测试并验证系统的实际能力；禁止危险用途或功能；以及在发生严重事故时进行报告。通过阅读数百份文件的细则，他们构建了一幅全球人工智能治理的详细图景。
他们的发现是一个“有形而无力”的故事。在所研究的二十个国家中，对于规则的“形态”存在明显的共识。几乎每个国家都在试图解决同样的四个安全领域。他们都在谈论风险评估、测试、禁令以及报告。然而，他们未能让这些规则产生约束力。研究人员发现，尽管许多国家都写下了这些要求，但极少有将其转化为可执行的硬性法律。事实上，他们发现的规则中只有约 22% 是硬法。其余部分都是软性的指南、策略或自愿性准则，公司可以选择忽略。更令人震惊的是，即使在某些国家通过了具有约束力的法律，它们也往往没有明确定义什么是“通用人工智能”。它们为一类技术制定了规则，却没能清晰说明该类别包含什么。这留下了一个漏洞：公司可能会辩称其强大的新模型不属于该定义范畴，因此无需遵守规则。
这些国家执行规则的方式揭示了另一层复杂性。大多数情况下，规则的目标并不是构建 AI 模型的公司，而是使用这些模型的个人、托管这些模型的平台或购买它们的政府机构。这是因为研究中的这些国家并不拥有构建最先进 AI 的公司。他们无法轻易强制那些外国开发者修改代码或接受检查。因此，他们试图通过监管技术在自身市场中的部署方式来控制技术。例如，一个国家可能会要求银行在应用 AI 工具前进行测试，或者要求医院在 AI 出错时进行报告。虽然这种方法很务实，但这意味着安全网通常是围绕技术的“应用”而非技术“本身”编织的。
研究人员还观察了谁在负责检查。在许多案例中，负责测试 AI 的机构是那些为其他目的（如监管金融或保护数据）而设立的机构。这些现有机构被要求承担 AI 监管职责，却往往缺乏相应的专业技术能力。此外，一些国家建立的用于评估 AI 的新安全机构，往往缺乏阻止危险系统运行的权力。它们可以衡量风险并发布报告，但无法强制开发者修复问题。这就像消防队可以测量建筑物的温度并写一份关于危险的报告，却无权命令业主安装洒水器或关闭建筑物。
或许最重要的发现涉及事故报告。当发生严重伤害时，谁应该通知当局？研究发现，在受访的国家中，有一半的国家没有任何要求报告严重 AI 事件的规则。在那些设有此类规则的国家，指令往往是不完整的。一条规则可能会说“报告事故”，但未能说明向谁报告、何时报告或如果不报告会发生什么。如果没有这四个要素——接收者、触发点、截止日期和后果——报告规则就仅仅是一个建议。研究人员指出，这留下了一个盲点：如果一个 AI 系统以一种未造成直接数据泄露或经济损失的方式失效，它可能永远不会被报告，即便其造成的长期损害是严重的。
该论文还挑战了“法律越多意味着安全程度越高”的观点。一些国家出台了数十份文件和指南，制造了厚厚的一层文书工作。然而，当研究人员审视这些文件背后的法律效力时，他们发现许多是非约束性的。相反，少数文件较少的国家则通过了严格且可执行的法律。研究表明，一个国家的规则数量并不能很好地反映其 AI 环境的安全性。真正重要的是规则是否以可执行的方式编写，以及它们是否触达了正确的人群。
最后，这份研究绘制的地图显示，世界正试图追赶一项比其法律移动速度更快的技术。这二十个国家已经在安全术语上达成了一致——他们都知道需要评估风险、测试系统、禁止不良用途并报告事故。但他们尚未就这些词汇的“力度”达成一致。规则往往是模糊的，定义是缺失的，且执行机制是脆弱的。研究人员建议，在世界达成统一的国际规则之前，这些国家需要先填补自身系统的漏洞。他们需要明确自己正在监管的对象，赋予安全机构行动的权力，并确保当问题发生时，有人能够承担责任。在此之前，全球人工智能的安全网依然布满了漏洞，它由良好的意愿编织而成，却缺乏承载其旨在保护的技术之重量的力量。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。