Drift-Aware Governance-as-Code for Agentic Cloud Operations: Formalizing State Certifiability and Testing Dynamic Authority Control in an AWS Testbed
本文介绍并验证了漂移感知型代码即治理（Drift-Aware Governance-as-Code, DAGA），这是一种运行时权限控制模型，它通过在观测到的偏差超过定义的置信极限时，动态地对基础设施状态进行认证并执行锁定阈值，从而在不过度阻碍必要恢复操作的前提下，显著减少了智能体云端运维中的策略违规行为。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代数字世界中，公司依赖庞大的计算机服务器网络和软件工具来运行业务。为了保持这些系统的顺畅运行，组织使用自动化程序（通常由人工智能驱动）来进行决策并解决问题，而无需人工干预。这些程序可以在几分之一秒内扩展服务、更改安全设置或重启损坏的组件。然而，这些自动化代理是基于一套用于管理其应管理系统的“地图”来运作的。这张地图是一份描述系统应有样貌的规则和配置列表。问题在于，当实际系统发生地图未知的变化时，就会产生问题。这种实际系统与预期设计之间的差距被称为“漂移”（drift）。如果一个自动化代理试图根据过时的地图来修复问题，它可能会做出一个根据地图看来是安全、但在现实中却很危险的改动。工程师面临的核心挑战是，弄清楚何时地图变得如此不可靠，以至于代理应该停止进行更改并等待人类来核实情况。
一组研究人员致力于通过创造一种新的治理这些自动化代理的方式来解决这一特定问题。他们开发了一个系统，能够不断检查实际系统与预期设计之间的偏差程度。该系统不仅仅是观察是否遵守了某条规则，而是衡量代理所使用信息的质量。他们将这一概念称为“状态可验证性”（state certifiability），简单来说就是询问：我们是否有足够的可靠证据来证明代理对系统的理解足够准确，从而允许其采取行动？如果由于系统变化过多或数据过于陈旧导致证据不足，系统会自动降低代理的权限。它并不会完全关闭代理，而是限制代理进行大规模、高风险的改动，同时仍允许它执行一小组安全的动作，旨在修复问题并恢复秩序。
为了测试这个想法，研究人员使用亚马逊网络服务（AWS）——一个流行的云计算平台——构建了一个受控环境。他们创建了一个测试平台，可以模拟不同程度的漂移，范围从完全没有变化到计划与现实之间出现严重的、混乱的不匹配。他们运行了数千次实验，让自动化代理尝试执行诸如轮换安全密码、扩展计算工作负载或隔离受损资源等任务。他们比较了三种不同的方法：让代理在没有任何限制的情况下行动；使用一套不随系统状况变化的固定规则；以及使用他们这种能根据系统状况实时调整权限的“漂移感知型”系统。结果令人瞩目。当系统处于严重漂移状态时，不受限制的代理违反规则的概率为 92.3%。使用固定规则的代理违反规则的概率为 55.2%。而受其新型“漂移感知型”系统治理的代理违反规则的概率仅为 25%。这表明，通过使代理的权力取决于其对当前系统状态的理解程度，研究人员可以大幅降低危险错误的风险。
研究还探讨了当系统决定锁定代理时会发生什么。一个常见的担忧是，锁定代理可能会阻止它修复关键问题，从而导致系统瘫痪。研究人员测试了一种特定的设计：即使在被锁定期间，代理也被允许执行一组有限的“仅限恢复型”操作，例如隔离受损服务器或回滚错误的改动。他们发现，这种方法是一个明智的折中方案。严格的锁定（停止所有操作）虽然能减少 80% 以上的不安全移动风险，但也导致代理在大多数情况下无法修复问题。然而，“仅限恢复型”方法在降低约 55% 不安全移动风险的同时，仍能让代理在近 84% 的案例中成功修复问题。这证明了只要只允许代理采取特定的、预先批准的步骤来恢复秩序，就可以在保持系统安全的同时不使其陷入瘫痪。
该研究的一个重要发现是关于“锁定”点的性质。团队设定了一个特定的阈值，在此阈值处他们会停止代理的常规操作，希望这个数字能代表一个系统变得过于危险而难以管理的自然临界点。然而，他们的数据显示，风险并不会在那个特定数值处突然跳升。相反，随着系统进一步偏离计划，风险是逐渐增加的。这意味着，锁定代理的决定并非是对某种自然规律的发现，而是一种由组织做出的刻意选择。这是一种政策决策，即表达：“我们愿意接受一定的风险，但一旦不确定性超过了这个点，我们将不再信任代理的地图。”研究人员得出结论，不存在适用于所有情况的“神奇数字”；相反，组织必须根据其特定的需求和风险承受能力，仔细选择自己的界限。
研究还证实，即使在依赖的数据并不完美的情况下，新系统依然有效。他们测试了当测量漂移的数据出现轻微偏差或数据有些陈旧时，系统的表现如何。系统表现得非常稳健，能够正确识别危险情况并在几乎所有情况下限制代理的权力。此外，他们还在云平台上使用真实的实时指令进行了单独的验证，以确保该系统在模拟之外也能正常工作。在这些现实世界的测试中，新系统将未经授权的操作从接近 9% 降低到了仅 1% 以上，证明了这一概念不仅在理论上可行，在实践中也同样有效。研究表明，未来安全、自动化的云运营在于将代理的权限视为一个灵活的变量。通过不断询问代理的知识是否足够可靠以支持特定行动，组织可以在让自动化系统运行得更快、更自由的同时，保持对安全的严密掌控。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。