Macro-Prudential AI Governance: A Two-Layer Early Warning and Response System for Frontier AI

技术摘要：宏观审慎 AI 治理 (MEWRS)

问题陈述
本文指出当前前沿 AI 治理中存在一个结构性缺口：虽然大量的精力被投入到“微观审慎”监管（评估单个模型或特定的发布决策），但缺乏用于管理整个行业内相关风险积累的“宏观审慎”工具。作者通过类比 2008 年金融危机前的银行业，认为发现单个模型的风险并不等同于能够采取行动，且针对单个模型的审查无法捕捉到系统性动态——即漏洞（如越狱技术）如何在不同实验室中结构相似的系统中发生泛化。目前的提案通常只关注单模型安全性，却使整个行业暴露在由竞争性竞赛、共享架构和共同依赖驱动的连锁反应风险之下。

方法论：两层 MEWRS 框架
本文提出了宏观审慎预警与响应系统（MEWRS），其范围专门限定为开发者内部前沿 AI（用于内部研究、测试和生产工作流的系统，区别于外部产品）。该框架借鉴了巴塞尔协议 III 的金融稳定架构和美国金融稳定性监管模型，将其转化为两个不同的层面：

A 层：预警与协同响应
此层级改编了“发现者-协调者-防御者”模型，旨在将结构化报告路由至政府清算机构，进而传递给特定领域的专家工作组。

• 发现者（Finders）： 内部评估团队、受托红队人员、独立研究人员以及政府合作伙伴（如 NIST CAISI）提交关于四个类别的结构化报告：双用途能力、自主性指标、安全破坏以及对齐完整性失效。
• 协调者（Coordinator）： 一个特定司法管辖区的实体（拟议为涉及 BIS 和 NIST CAISI 的美国实例，或欧盟/英国的类似机构）根据严重程度、影响范围（blast radius）和跨实验室相关性信号进行分诊。
• 防御者（Defenders）： 由特定威胁领域（分为网络、生化、自主性、窃取）组织的独立工作组，利用预先承诺的剧本进行即时缓解、协调披露和升级处理。
• 报告模式（Reporting Schema）： 一种标准化的模式，用于捕获部署范围、能力证据和安全状态，而无需披露商业秘密，类似于巴塞尔协议中的第三支柱披露。

B 层：AI 安全缓冲（AI Safety Buffers）
此层级通过三个定量缓冲指标来校准操作控制。类似于风险加权资产驱动银行资本比率，这些指标会在风险概况增加时触发更强的防护措施。

1. 有效风险计算量 (Effective Compute-at-Risk, ECAR)： 系统性影响范围的代理指标，计算公式为 $ECAR(m) = C(m) \cdot A(m) \cdot R(m)$。它结合了有效训练计算量 ($C$)、自主性因子 ($A$) 和触达因子 ($R$)，并相对于行业前沿进行缩放。
2. 累计红队工时 (Cumulative Red-Team Hours, CRTH)： 经过加权的专家压力测试工时总和，并根据评估者的独立性、能力和访问级别进行调整。这起到了“波动率折减”的作用，即低 CRTH 意味着更高的残余不确定性，需要更大的缓冲。
3. 对齐鲁棒性评分 (Alignment Robustness Score, ARS)： 在对抗性和分布偏移条件下的模型稳定性经验度量。低 ARS 会标记脆弱系统，从而触发增加测试和限制部署速度。

核心贡献
本文概述了对 AI 治理领域的五项具体贡献：

1. 报告模式与架构： 详细勾勒了一个针对内部系统的协调报告流程，包括用于演进风险类别的版本化模式。
2. 缓冲指标： 定义并校准了 ECAR、CRTH 和 ARS，旨在随风险规模扩大而调整操作控制。
3. 机制映射： 将六个巴塞尔协议 III 机制（风险加权资本缓冲、G-SIB 分级、逆周期缓冲、第三支柱披露、生前遗嘱/处置计划、中央银行技术能力）映射到 AI 治理的类比之上。
4. 失效模式分析： 识别了七种潜在的失效模式（包括监管俘获、协调者滥用、合规护城河和指标操纵），并提出了具体的缓解措施，如数据最小化、日落条款和标准化因子表。
5. 验证计划： 提出了一套以红蓝对抗演习为中心的阶段性验证计划，重点测试从分诊到缓解的响应时间及采纳情况，而非仅仅依赖理论假设。

结果与主张
由于本文是一篇政策建议和框架设计，因此并未呈现实证实验结果。相反，它声称提供了：

• 一个概念框架，填补了单个模型安全性与全行业风险监测之间的空白。
• 一种预承诺机制，通过将缓冲要求与滞后指标以及逆周期调整（例如“能力激增指数”）挂钩，在连锁反应发生前建立“下行通道”。
• 一项比例原则，确保小型和开源项目承担极低负担，而系统重要性 AI 机构（SIAI）则面临更严格的标准。
• 一个混合触发系统，结合了滞后指标（以防止操纵）与前瞻性危险能力阈值（以保持响应性）。

意义
作者认为 MEWRS 的重要性在于它解决了“发现-响应差距”以及缺乏全行业风险监测的问题。通过借鉴 2008 年后金融监管的结构化架构，该框架提供了一条管理相关风险积累的可测试、可实施路径。文章强调，尽管对银行业的类比是结构性的而非字面意义上的（承认了能力周期和缺乏最后贷款人的差异），但功能性转移诸如逆周期缓冲和系统性分级等工具的做法，为超越当前的微观审慎方法提供了必要的演进。该框架旨在通过自愿试点逐步成熟为法定制度，目标是在降低系统性失效概率的同时，保留有益的创新。