🤖 AI

Agentic Incident Response through Digital Twin-Enhanced Multiscale Planning

本文提出了一种原则性的智能体事件响应框架，该框架将决策论展开规划（decision-theoretic rollout planning）与数字孪生以及轻量级大语言模型智能体相结合，以生成高层策略和可执行命令，通过在多种攻击场景下缩短恢复时间和提高恢复率，显著优于前沿大语言模型基准。

原作者： Yiran Gao, Tao Li, Kim Hammar

发布于 2026-08-04

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Yiran Gao, Tao Li, Kim Hammar

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，互联网就像一座规模宏大、繁忙喧嚣的城市，数以百万计的人、企业和机器在这里不断地进行着交流。有时，捣蛋鬼会潜入其中，试图窃取秘密或关闭发电厂。在现实世界中，当网络攻击发生时，通常需要一支由高度专业的人类侦探（被称为安全运营人员）组成的团队来查明问题所在，决定先封锁哪栋建筑，然后手动输入命令来修复它。这就像是在摩天大楼还在着火的时候，试图一边拿着可能已经过时的手册，一边去扑灭火灾。这个过程缓慢、令人精疲力竭，且往往需要数月时间才能完全恢复，使得整个城市在期间都处于脆弱状态。

为了提高速度，科学家们尝试了两种主要的技巧。第一种是使用“数学大脑”（算法），它们可以计算出完美的计划，但这些算法往往过于抽象——它们在理论上知道“该做什么”，却无法实际输入命令来修复真实的服务器。第二种技巧是使用“超级智能聊天机器人”（大语言模型或 LLM），它们可以阅读日志并编写代码。但这些聊天机器人可能并不可靠；它们有时会编造事实（幻觉），或者陷入死循环，因为缺乏稳固的游戏计划而试图修复错误的目标。大问题在于：我们能否构建一个既拥有数学家的战略大脑，又具备聊天机器人动手能力的系统，同时还要足够安全，以便在接触真实的城市之前进行测试？

这篇论文介绍了一种名为“代理式事件响应”（Agentic Incident Response）的巧妙新系统，旨在解决正是这样的问题。你可以把它想象成一支由两层组成的救援队，与一个“数字孪生体”（Digital Twin）协同工作——这是一个城市的完美虚拟副本，他们可以在其中进行练习，而不会造成真实的破坏。

以下是这支团队的工作方式：

战略指挥官（战术层面）： 首先，一个数学规划器会观察大局。它现在还不关心输入命令的微小细节。相反，它会询问：“为了阻止火势蔓延，现在最关键的是救哪栋建筑？”它使用一种“展开”（rollout）方法，这就像是在模拟中演练成千上上种可能的未来，以观察哪种拯救建筑的顺序能实现最快的恢复。
现场代理（操作层面）： 一旦指挥官决定“先拯救地下室的服务器”，一个专门的 AI 代理（一个轻量级的、经过微调的聊天机器人）就会接管工作。它的任务是将那个高层指令转化为实际的可执行命令。
安全网（数字孪生体）： 在现场代理向真实网络发送任何命令之前，它会在数字孪生体（系统的虚拟副本）中进行测试。如果命令在模拟中有效，则予以批准。如果命令失败或在虚拟世界中导致崩溃，它就会被丢弃，代理人将尝试另一种不同的命令。这防止了 AI 意外损坏真实系统。

研究人员在一个受控环境中测试了这个系统，该环境包含五台服务器和三种不同类型的网络攻击（如弱密码、软件漏洞和命令注入）。他们将该系统与当今最先进的“前沿”聊天机器人以及其他现有的自动化方法进行了对比。

结果非常令人振奋。在他们的模拟中，这个全新的两部分协作团队比表现最好的独立聊天机器人的平均恢复速度快了 15.1%。更重要的是，它比这些同样的聊天机器人成功恢复系统的频率高出了 33.6%。虽然顶尖的聊天机器人大约能解决 50% 到 75% 的问题，但这种新方法将其成功率保持在 90% 以上。

论文指出，秘诀不仅仅是使用更聪明的聊天机器人，而是将聊天机器人的代码编写能力与严格的、基于数学的策略以及虚拟世界中的安全检查结合起来。作者指出，该系统并非完美无缺；如果最初关于攻击者移动方式的猜测是错误的，那么计划的效果可能会降低。然而，通过使用一个专门针对事件数据进行训练的轻量级模型（而非庞大的通用模型），他们证明了你不需要超级计算机就能获得卓越的结果。相反，你需要的是一个知道何时规划、何时行动以及何时在安全的虚拟沙盒中复核工作的系统。

技术摘要：通过数字孪生增强的多尺度规划实现智能体化事件响应

问题陈述

目前的事件响应（IR）流程主要依赖于人工，依靠安全操作员和预定义的剧本（playbooks）。这种方法通常效率低下、耗时且劳动密集，需要高度专业化的技能；报告显示，组织在完全响应并从安全事件中恢复可能需要超过 100 天。虽然基于决策论方法（如强化学习、马尔可夫决策过程）的自主网络防御（ACD）方法已被提出用于自动化规划，但这些方法通常运行在抽象的战术规模上。这些方法生成的是高层策略（例如“防御主机 X”），但无法产生可执行的操作命令，从而限制了它们在现实系统中的直接应用。

相反，利用大语言模型（LLM）生成操作命令的方法则面临可靠性问题。目前的智能体化 LLM 方法通常依赖于重复调用，而缺乏原则性的规划算法，导致出现幻觉、计划不可靠以及规划视野有限的问题。此外，许多现有的基于 LLM 的方法依赖于外部供应商，缺乏在部署前验证动作的能力。

在战术规划（资源分配与策略）与操作执行（生成并验证特定系统命令）之间存在着关键的鸿景。

方法论

本文提出了一种多尺度智能体化事件响应框架，通过集成决策论规划与基于 LLM 的命令生成，并由**数字孪生（DT）**提供支持，从而弥合了这一差距。该架构在两个不同的尺度上运行：

1. 正规化：分解式 POMDP

作者将事件响应建模为一个分解式部分可观测马尔可夫决策过程（Factorized POMDP）：

状态空间 ( $s_t$ )： 分解为代表网络组件受损状态（安全 vs. 受损）的全局安全状态 ( $g_t$ )，以及代表特定组件在六个响应阶段（遏制、评估、保存、清除、加固、恢复）中进展情况的局部恢复状态 ( $\ell_t$ )。
动作 ( $a_t$ )： 分为战术动作（定义组件恢复优先级顺序的排列）和操作动作（应用于优先处理组件的具体系统命令）。
代价函数： 最小化恢复时间，同时惩罚延迟恢复高优先级或关键组件的行为。

2. 多尺度架构

该系统采用一个数字孪生（Digital Twin），其具备两种模式：

仿真模式（战术规模）： 用于模拟攻击进展并评估高层恢复策略的网络轻量级抽象。
仿真模式（操作规模）： 用于在应用于真实系统之前执行并验证特定命令的受影响系统的虚拟副本。

规划过程包含两个阶段：

战术规划（展开规划器/Rollout Planner）： 利用数字孪生仿真，使用决策论规划器（基于前瞻展开方法）计算高层响应策略。它确定恢复网络组件的最佳顺序，以最小化总恢复时间和风险传播。
操作规划（LLM 智能体）： 使用经过微调的轻量级 LLM 将高层策略转化为可执行的命令。
- 离线微调： 作者在一个包含 68,000 起事件的数据集上，针对三个特定任务对 DeepSeek-R1-14B 模型进行了微调：(1) 事件评估（推断攻击者战术）、(2) 信念生成（从日志中估计系统状态）以及 (3) 响应动作生成。
- 在线执行： LLM 生成候选命令，随后通过数字孪生仿真进行验证。如果命令被验证为有效，则执行；否则，会对代价进行惩罚，并由智能体重新生成计划。

核心贡献

分解式 POMDP 公式化： 作者将事件响应公式化为一种分解式 MDP，明确分离了网络层级的战术规划与服务器特定的操作规划。
集成化智能体框架： 他们开发了一个结合了决策论展开规划（用于策略）与 LLM 生成（用于执行）并由数字孪生进行验证的框架。这是首个以这种特定方式将战术规划与操作响应生成相结合的工作。
双模态数字孪生： 不同于以往仅用于仿真或仿真的数字孪生工作，该方法同时利用两者：利用仿真进行高效的战术规划，利用仿真进行操作验证。
轻量化本地实现： 系统使用本地微调的 14B 参数 LLM，减少了对外部 LLM 供应商的依赖，并证明了在原则性规划的引导下，轻量级模型可以超越前沿模型。

实验结果

该方法在包含五个服务器、三种攻击场景（Weak-Credential-3、Shellshock-4 和 Command-Injection-5）的测试床网络上进行了评估。

基准测试： 将该系统与前沿 LLM（GPT-5.5, Gemini-3.1-Pro, DeepSeek-V4-Pro, Claude-Opus-4.8）以及最先进的智能体基准（IRCopilot, LLM-IR）进行了对比。
恢复率： 所提出的智能体方法在所有场景下均实现了 ~90% 的恢复率。这显著优于前沿 LLM（其恢复率在 46.8% 至 71.4% 之间）和先前的智能体基准（50.8% 至 68.2%）。
执行时间： 与前沿 LLM 相比，该方法将平均恢复动作执行时间缩短了 15.1%。
消融研究：
- 当与使用相同战术计划的基准进行比较时，所提方法的操作规划（LLM + 数字孪生验证）表现更优。
- 当强制基准进行战术规划时，所提方法在执行时间上仍比它们快 53.9% 至 57.8%，凸显了集成式战术-操作闭环的价值。
LLM 性能： 微调后的 14B 模型在常见攻击战术方面实现了高精确度和召回率（>0.85），并在针对特定 MITRE ATT&CK 战术生成有效恢复动作方面达到了 85.3% 的通过率。

意义与主张

论文声称，这项工作的核心意义在于弥合了抽象决策论规划与实际操作执行之间的鸿沟。通过将展开规划器的战略严谨性与 LLM 的上下文适应性相结合，并以数字孪生作为验证基础，该系统实现了：

可靠性： 通过数字孪生验证减轻 LLM 的幻觉问题。
效率： 通过最优资源分配（战术规划）减少恢复时间。
实用性： 使用可本地部署的轻量级模型进行操作，不依赖外部 API 供应商。

作者总结道，尽管该方法并非完美——特别指出了关于攻击战术误判（如果 LLM 推断了错误的战术，战术计划就会受损）以及 LLM 展开的计算成本方面的局限性——但它代表了迈向完全自主、可靠且高效的事件响应系统过程中具有原则性的重要一步。未来的工作方向是解决 LLM 基于事件评估的校准问题，以减少战术误判。