Versioned Governance for Frontier AI: A Software-Engineering-Inspired Approach
本文提出了一种受软件工程启发的 AI 治理框架，通过倡导细粒度的版本控制、分类变更日志以及明确的回滚机制，来解决规范性政策的“隐性漂移”问题，从而确保政策演进具有透明性、可审计性并获得监管认可。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个这样的世界：管理强大人工智能系统的规则被记录在公开文档中，就像网站的服务条款或工厂的安全手册一样。这些文档告诉我们人工智能被允许做什么，它必须拒绝做什么，以及其创造者如何承诺确保其安全。对于构建这些系统的开发者而言，规则并非静止不变的；随着技术的演进，规则在不断变化。今天看起来安全的规则，明天可能需要收紧；或者一项新的能力可能需要一项全新的许可。问题在于，当这些变化发生时，如果没有清晰、公开的记录来说明修改了什么、为什么要修改以及谁有权进行修改，就会产生问题。这种缺乏清晰历史记录的情况，导致规则随着时间的推移而发生“无声漂移”。一个外部人员，如记者、法官或试图使用该技术的公司，无法判断文档中的一个句子仅仅是由于语法优化而进行的润色，还是从根本上改变了人工智能被允许行为的边界。
这种沉默是危险的，因为它破坏了社会依赖这些系统所需的信任。如果法院需要判定去年发生的一起事件，他们需要知道当时的规则究竟是什么，而不是现在的规则。如果一家公司根据六个月前的政策证明了其安全性，他们需要知道该政策现在是否仍具有相同的含义。目前，这些文档更新的方式往往无法提供这种清晰度。变化是真实的，但关于变化的记录却是缺失或令人困惑的。这使得实验室之外的所有人在面对正在使用的或正在受监管的技术时，只能靠猜测来理解规则的真实本质。
研究人员薛志新（Zhixin Xue）研究了这一问题，并提出了一种受软件工程师管理代码方式启发的解决方案。在计算机编程的世界里，当开发者更新程序时，他们使用一套严格的系统来追踪每一次变化。他们分配版本号，告诉用户变化的显著程度：主版本号（major number）的变化意味着一次重大的、可能不兼容的更新；次版本号（minor number）的变化意味着一个仍能与旧系统协同工作的新功能；而补丁号（patch number）则表示一个小修复。他们还会保留详细的日志，解释具体更改了什么以及为什么要更改。薛志新认为，管理人工智能的文档也应该具备同等的纪律性。与其只是发布一个没有上下文的新版政策，实验室应该使用一种结构化的系统，对每一次变化进行分类，解释其原因，并保留一份永久且不可篡改的历史记录。
为了测试这种方法是否必要以及如何运作，薛研究了 2019 年至 2025 年间管理前沿人工智能系统的五组主要规则。其中包括 OpenAI 的使用政策和模型规范、Anthropic 的负责任扩展政策（Responsible Scaling Policy）、欧盟的《人工智能法案》以及美国国家标准与技术研究院（NIST）的风险管理框架。研究人员分析了这些文档随时间修订的过程，寻找这种严谨追踪机制的迹象。研究发现，虽然其中一些文档已经开始使用版本号和带有日期的变更列表，但它们仍缺少该系统最关键的部分。具体而言，这些文档很少解释某项变更究竟是规则的重大转变，还仅仅是一次小幅澄清。此外，它们也缺乏一个明确的机制，以便在发现错误时撤销变更。
分析揭示了一种作者称之为“无声漂移”的模式。在所研究的现实案例中，规则最显著的变化通常是针对突发外部事件（例如更强大的新 AI 模型公开发布）做出的反应。然而，这些变化的文档记录却未能跟上步伐。即便存在变更列表，也往往只是用平实的语言编写的摘要，仅描述发生了什么，却未对变更的重要性进行分类。这迫使读者去猜测一次变更究竟是微小的还是重大的。此外，所研究的五种工具中，没有一个包含正式的撤销政策变更的方法（以应对可能产生的问题）。虽然来自政府和国际组织的法律和标准在版本追踪方面比私营公司做得更好，但它们的反应速度仍然较慢，且缺乏撤销变更的具体机制。
论文指出，解决方案并非要发明全新的法律或机构，而是采用一种任何实验室都可以立即使用的特定、轻量级的框架。该框架要求每当政策文档更新时，作者必须使用一个四级系统来声明变更类型：重大（major）、次要（minor）、补丁（patch）或构建（build）。“重大”变更是指改变了允许或禁止行为的基本边界；“次要”变更是指增加了新的场景或程序，但不改变核心原则；“补丁”是指不改变含义的澄清或修正；“构建”则是为特定地区或群体定制的版本。除了这种分类外，更新还需要一份解释变更的详细日志，以及一个在必要时如何撤销变更的计划。
至关重要的是，论文认为，必须将“误分类变更”的行为视为一种可记录的事件。如果一家实验室声称某次变更仅仅是一个小补丁，但审计员或监管机构随后认定其实际上是规则的一次重大转变，那么这一错误必须被公开记录。这创造了一种声誉成本，以防止隐瞒变化的真实性质。研究指出，虽然软件工程师有时并不能完美地遵循这些严格的版本控制规则，但当出错时存在后果，这种纪律性才会发挥最佳作用。通过将变更的分类变为一种公开、可审计的声明，该框架旨在让“无声漂移”变得透明且可问责。
研究结果表明，解决这一问题的工具在软件行业已经存在，但尚未完全应用于管理人工智能的文档中。差距不在于技术能力的匮乏，而在于激励机制和纪律性的缺失。研究结论认为，随着人工智能系统变得更加强大且其规则变化得更加频繁，建立一套清晰、带版本的规则历史记录变得至关重要。如果没有它，管理这些强大系统的规则将保持不透明且难以建立信任。通过采用结构化的方法，变化可以变得透明，从而允许监管机构、法院和公众准确了解规则是如何演变的，并就创造者所做的决策对其进行问责。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。