Risk-Aware Degraded-Mode Orchestration for Resilient Cloud–Edge AI Agents: From Containerized Fault Injection to Heterogeneous Kubernetes Validation

想象一个这样的世界：你最喜欢的应用程序不再仅仅是单一的程序，而是由许多微小的、隐形的机器人组成的团队在协同工作。一个机器人负责获取新闻，另一个检查规则，第三个编写代码，第四个则与一个巨大的大脑（人工智能）进行交谈，以理解这一切。这就是现代“云-边缘人工智能”（Cloud-Edge AI）的工作方式：一个运行在互联网和你的本地设备上的复杂服务链。通常情况下，这些团队是非常坚韧的。如果一个机器人绊倒了，其他机器人可能会重试、等待，或者切换到备份计划。但问题在于：有时，仅仅是“完成”任务是不够的。如果负责检查规则的机器人失踪了，团队不应该只是靠猜测并继续执行，因为他们可能会意外地破坏重要的东西或做出不被允许的行为。这就是“保持在线”与“保持安全”之间微妙的平衡。

由此诞生了一个名为 DMO-AI（面向人工智能的降级模式编排，Degraded-Mode Orchestration for AI）的新概念。你可以把它想象成这些机器人团队的一位超级智能交通警察。它不仅仅是说“继续执行”或“停止一切”，这个警察会观察团队正在进行的具体任务。这是一个低风险任务，比如写一个有趣的故事吗？还是一个高风险任务，比如转账或修改医疗记录？如果“规则检查员”机器人病倒了，警察可能会说：“好吧，对于写故事，我们可以使用手头现有的旧规则手册。但对于转账业务？绝对不行。停止操作并询问人类。”这篇论文测试了这种具备风险意识的智能交通警察是否能比传统的、愚笨的处理方式更安全地维持更多任务的运行。

问题所在：“全或无”的陷阱

想象你正在驾驶一辆自动驾驶汽车。汽车需要与云端服务器通信，以了解道路是否安全。突然，汽车与服务器的连接变得不稳定了。汽车应该怎么办？

传统的系统通常有两种模式：

1. 失效开放（Fail-Open）： “继续行驶！也许路况很好。”这是危险的，因为如果服务器原本是要让你停车，汽车可能会直接撞墙。
2. 失效关闭（Fail-Closed）： “立即停车！”这非常安全，但也意味着即使路况良好且你只是暂时信号不好，你也会被迫长时间堵在路上。

问题在于，AI 代理（例如我们的机器人团队）执行的任务各不相同。有些是低风险的（如总结一篇新闻文章），而有些是高风险的（如删除数据库）。“一刀切”的规则并不适用。如果你把低风险的摘要处理得和高风险的银行转账一样对待，你要么会得到不安全的结果，要么会不必要地停止有用的工作。

解决方案：风险意识交通警察

本文作者 Albert Adusei Brobbey、Narayan Bhosale 和 Dan Bamfo 构建了一个名为 DMO-AI 的新系统。该系统不再仅仅检查互联网是否连通，而是在允许任务继续之前，会询问三个问题：

1. 这项工作的风险有多高？（是一个有趣的故事还是一笔银行转账？）
2. 缺少了什么？（是“规则检查员”宕机了，还是仅仅是“新闻获取器”出了问题？）
3. 我们可以采取什么替代方案？

该系统拥有一个可以供其选择的“降级模式”（备份计划）菜单：

• 正常模式（Normal）： 一切运转正常。
• 本地模型（Local Model）： 如果巨大的云端大脑宕机了，就在本地设备上使用一个更小、更简单的脑子（但仅限于低风险任务）。
• 缓存策略（Cached Policy）： 如果规则检查员宕机了，可以使用旧的规则手册，但前提是该手册对于当前风险等级而言足够“新鲜”。
• 只读模式（Read-Only）： 如果执行更改动作的工具损坏了，那就只提供建议，而不实际进行任何更改。
• 移交（Handoff）： 如果猜测的风险太大，就停止并询问人类。
• 阻断（Block）： 如果没有任何安全的做法，就直接停止。

其核心创新在于，系统会根据风险来选择合适的备份计划。它不会允许一个高风险任务仅仅因为云端大脑宕机了就去使用“本地脑子”。它也不会在规则手册过于陈旧时，让一笔银行转账使用旧规则手册。

实验：数字障碍赛

为了验证其效果，研究人员构建了一个巨大的数字障碍赛场。他们创建了一个包含四个主要服务的测试环境：一个模型（大脑）、一个检索服务（记忆）、一个策略服务（规则检查员）和一个工具服务（执行动作的手）。

随后，他们使用了一个名为 Toxiproxy 的工具来模拟灾难。他们会故意冻结“大脑”、断开“规则检查器”或减慢“手”的速度。他们在单个计算机设置中运行了 141,000 次 模拟，并在一个更真实的设置（包含真实的云服务器和真实的边缘设备，如 Raspberry Pi 或小型服务器）中运行了 8,000 次。

他们将新的 DMO-AI 系统与五种常见的故障处理方式进行了对比：

• 失效开放（Fail-Open）： 直接继续执行。
• 失效关闭（Fail-Closed）： 停止一切。
• 重试预算（Retry Budget）： 尝试几次，然后放弃。
• 熔断器（Circuit Breaker）： 如果出现故障就停止，如果只是变慢了就尝试一次。
• 服务网格（Service Mesh）： 一种标准的网络流量管理器，它并不了解 AI 的风险。

结果：安全而不设路障

结果清晰且令人兴奋。在 8,000 次事件的大规模测试中，标准的服务网格（即那个不了解 AI 风险的流量管理器）仅在 64.70% 的时间内完成了安全任务。它要么让不安全的事情发生，要么停止了太多有用的工作。

然而，新的 DMO-AI 系统实现了 93.95% 的安全完成率。这是一个接近 29 个百分点 的巨大飞跃。

以下是详细情况：

• 零不安全结果： 在主要测试中，DMO-AI 的不安全结果为 0.00%，策略违规也为 0.00%。它从未让一项高风险任务在没有正确规则的情况下通过。
• 优于“失效开放”： “失效开放”系统完成了更多的任务，但其中 9.67% 是不安全的（例如在没有检查规则的情况下进行银行转账）。DMO-AI 完成的不安全任务较少，但保持了有用任务的运行。
• 优于“失效关闭”： “失效关闭”系统很安全，但它阻断了 41.57% 的所有任务，甚至包括那些简单的任务。DMO-AI 仅阻断了 1.13% 的任务。

研究人员还测试了如果从系统中移除“风险意识”会发生什么。当他们关闭了检查任务是高风险还是低风险的部分时，安全性得分下降，并且出现了不安全的结果。这证明了“风险大脑”是该系统最重要的部分。

他们还检查了成本。该系统增加了一点点延迟（在现实世界测试中平均约为 19 毫秒），但为了保持系统安全和运行，这是一个很小的代价。

这意味着什么

这篇论文表明，我们不必在“停止一切”和“任其发生”之间做选择。通过教会系统理解任务的风险，我们可以在部分组件损坏时仍能让低风险任务持续运行，同时严格阻止高风险任务做出危险行为。

作者谨慎地指出，这目前还不是解决世界上所有问题的万灵药。他们在受控环境中测试了特定类型的故障。但结果表明，对于 AI 代理的未来，我们需要一位知道“有趣故事”与“银行转账”之间区别的“交通警察”，并在互联网变得不稳定时做出明智的选择。

简而言之：DMO-AI 是一种让 AI 代理即使在部分大脑或记忆离线时，也能保持安全且实用的新方法。它就像一个守护天使，准确地知道何时说“请继续”、“等待”或“询问人类”，确保机器人团队永远不会陷入麻烦。