International Agreements to Limit Frontier AI: Objectives and Exit

技术摘要：限制前沿人工智能的国际协议：目标与退出机制

问题陈述
本文探讨了关于限制前沿人工智能（Frontier AI）发展的国际协议提案中存在的关键空白。现有的文献（例如 Scher 等人，2025；Miotti & Wasil，2023）主要集中在实施限制的机制上（如计算能力限制），但在很大程度上忽略了在何种条件下应当放宽这些限制或终止协议。作者认为，缺乏明确且达成共识的“退出策略”或放宽机制会导致签署方产生不确定性，从而可能成为达成此类协议的障碍。核心问题在于确定哪些具体标准应当触发从“受限发展阶段”向“放宽或终止阶段”的过渡，并在减轻生存风险与潜在的经济和社会效益之间取得平衡。

研究方法
作者采用了比较政策分析和概念框架的方法：

1. 现有条约调查： 本文分析了八项主要国际协议中的终止和退出条款，包括《削减战略武器条约》（START）、《不扩散核武器条约》（NPT）、《生物武器公约》和《巴黎协定》。
2. 定义理想标准（Desiderata）： 作者通过提出四个关键标准来系统化地筛选放宽条件：
   • 准确性（Accuracy）： 条件必须能够准确反映人工智能风险是否已得到充分缓解。
   • 可验证性（Verifiability）： 条件的履行必须是明确且可证明的。
   • 主权保留（Preservation of Sovereignty）： 签署方必须在风险评估发生变化时，保留一条合理的退出路径。
   • 先例（Precedent）： 条件应理想地依赖于在国际法中有成功历史的机制。
3. 情景建模： 分析假设了一个特定背景：由北约成员国和中国签署的一项协议，该协议对训练人工智能的计算能力设定上限。作者假设了一个“悲观”情景，即签署方缺乏单方面阻止彼此发展的技术基础设施，转而依赖声誉成本和相互信任。
4. 候选方案评估： 各种类型的放宽条件根据上述理想标准进行了评估。

主要贡献与拟议条件
本文对几种潜在的放宽条件类型进行了分类和评估：

• 缺乏放宽条件： 即永久禁令。作者指出，这类情况在终止方面缺乏先例，且对主权的保留程度较低，但具有较高的可验证性。
• 固定期限： 在设定的持续时间后对限制进行审查。这在可验证性和先例方面得分较高，但在准确性方面得分较低，因为它没有考虑到人工智能安全研究的实际状态。
• 个人退出 / 特殊事件： 允许国家在发生“特殊事件”时退出（类似于《不扩散核武器条约》和《反弹道导弹条约》）。这保护了主权，但存在可验证性低以及对合法性产生争议的可能性。
• 准备就绪程度的进展： 基于人工智能安全（如对齐、可解释性）或社会韧性的进步来解除限制。这在准确性方面得分较高，但在可验证性和定义具体里程碑（如“可证明的保证”或“专家共识”）方面面临挑战。
• 缺乏人工智能相关事件： 利用有害事件的缺失作为放宽的信号。作者指出，这种方式容易受到操纵，并且可能无法保证在不受限制的情况下的安全性。
• 创建全球人工智能开发项目： 要求建立一个统一的、受全球监督的开发实体。这解决了协调失败的问题，但需要前所未有的国际合作，且可能难以实现。
• 推迟至后续规范： 一种两阶段协议，第一阶段建立限制措施，随后新成立的组织负责定义第二阶段的具体放宽条件。

结果与建议
基于准确性、可验证性、主权和先例之间的权衡，作者针对一个示例情景提出了一个具体的混合建议：

1. 固定初始期： 协议应运行一个固定的期限，为期 5 年。
2. 建立新组织： 在此期间，应建立一个新的国际组织。
3. 明确条件： 该组织负责定义针对应对失控 AI、灾难性误用和社会破坏的准备情况的放宽条件。
4. 决策机制： 5 年后，签署方必须就这些条件达成一致。如果无法达成一致，则可以延长协议 2 年，或终止协议。
5. 退出条款： 基于特殊事件（例如，非签署国获得了前沿能力）的个人退出条款，并附带 4 个月的通知期。

作者认为，这种方法既平衡了对确定性安全评估的需求（通过新组织实现），又兼顾了维护国家主权和允许未来达成共识的必要性。

意义
本文声称其主要意义在于阐明了使国际人工智能限制协议具备可行性所需的考量因素。通过将关注点从限制本身转向“退出”机制，作者旨在提供一个框架，以减少阻碍此类条约签署的政治摩擦。这项工作表明，如果没有一个可靠且经共识认可的放宽路径，签署方可能不愿意接受那些可能会放弃重大经济利益的限制措施。作者认为，这并非一个最终解决方案，而是人工智能技术治理中的必要步骤，旨在应对他们所认定的当今人类面临的“最大单一风险”。