SHIELDS: Automating OS Hardening with Iterative Multi-Agent Remediation
本文介绍了 SHIELDS，这是一个利用大语言模型通过迭代、反馈驱动的修复过程来自动化操作系统加固的多智能体系统，该系统成功解决了高达 73% 的安全扫描发现问题，证明了有效的工具使用和信息收集比模型规模对成功的贡献更为关键。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你的计算机操作系统就像一座庞大而复杂的房子。随着时间的推移，“国防信息系统局”（DISA）会给你发一份非常长、非常严格的清单（称为 STIG），明确告诉你如何锁好每一扇门、加固每一扇窗户以及确保每一个壁橱的安全，以防止入侵者进入。
问题在于，手动检查这份清单极其耗费精力。这需要一个安全专家团队（工程师）每年花费数百小时去巡视房屋，寻找没锁好的窗户并修复它们。如果他们漏掉了一个，房子就可能被闯入。
现有的自动化工具就像是只知道修复以前见过的问题的机器人。如果清单要求它们做一些新动作，或者它们的第一次尝试修复某个门失败了，机器人就会直接放弃并说：“我做不到。”
SHIELDS 正式登场。
这篇论文介绍了 SHIELDS，它不再是一个僵化的机器人，而更像是一个由四名专业、智能的侦探组成的团队，通过协作来守护这座房子。它不是简单地执行脚本，而是利用先进的人工智能（大语言模型）采用一种“尝试、检查并再次尝试”的方法。
以下是 SHIELDS 团队的工作方式，使用的是论文中特定的架构：
1. 四位侦探（多智能体系统）
SHIELDS 没有让一个 AI 尝试完成所有工作，而是将任务分配给四个不同的角色，以避免出错：
- 分拣智能体（看门人）： 该智能体首先查看清单。如果规则说“移动房子的地基”，看门人就知道这对于自动化来说太危险了（可能会导致整个房子崩溃）。它会将这些项标记出来交给人类处理，并将安全、可修复的项目传递给下一个智能体。
- 补救智能体（修理工）： 这是干活的“小蜜蜂”。它观察一个具体的问题（比如一个松动的窗户锁扣）并尝试修复它。它拥有读取文件、运行命令和更改设置的工具。如果失败了，它不会直接退出；它会获得第二次机会去尝试另一种修复方法。
- 审查智能体（安全检查员）： 在修理工实际动手修改任何东西之前，安全检查员会先审查方案。“这个修复方案会弄坏水管吗？”它会对方案进行评分。如果方案看起来有风险，它会将方案退回给修理工，让其重新思考。
- 质量保证智能体（运营经理）： 该智能体关注全局。“如果我们修好了这扇窗户，会不会导致供暖系统停止工作？”它确保修复动作不会引发连锁反应导致产生新的问题。
2. 循环机制（它们如何修复问题）
该系统在一个持续的循环中运行，就像一场“猜谜与检查”的游戏：
- 扫描： 系统扫描计算机并找到一系列安全漏洞。
- 过滤： 看门人对它们进行分类。
- 修复循环： 对于安全的项目，修理工提出一个修复方案。安全检查员和运营经理都会给出“是”或“否”的反馈。
- 如果他们说“是”，则应用修复。
- 如果修复失败或他们说“否”，系统会吸收这些反馈，学习为什么失败，然后修理工会再次尝试（最多尝试三次）。
- 验证： 在应用修复后，系统会再次扫描该特定项目，以确保修复确实奏效。
3. 研究发现（结果）
研究人员使用六种不同的 AI“大脑”（从小型到超大型）在三种不同规模的虚拟计算机系统（小型、中型和大型）上测试了这个团队。
- 并非越大越好： 你可能会认为最强大、最顶级的 AI 大脑会胜出。但论文发现，最大的 AI（4000 亿参数）表现实际上比一个小得多的 AI（200 亿参数）还要差。
- 技能重于规模： 胜出的 AI 是那些擅长使用工具（如读取文件和运行命令）并收集信息的 AI，而不仅仅是那些拥有庞大记忆力的 AI。这就像是一个懂得如何熟练使用扳手的修理工，而不是一个虽然拥有一座巨大的图书馆但却不知道如何握住工具的人。
- 成功率： 最好的配置能够自动修复大约 73% 的安全问题。
- 第一次尝试至关重要： 大多数修复都在第一次尝试时就完成了。尝试第四次或第五次很少能带来帮助，因此在三次尝试后停止是最佳平衡点。
核心结论
SHIELDS 证明了我们不需要一个超大规模、昂贵的 AI 来保护我们的计算机。相反，我们需要一个由较小的 AI 组成的、聪明且有组织的团队，它们能够互相交流、检查自己的工作，并从错误中学习。这种方法将一项枯燥、手动的安全琐事转变为一个自动化的、自我纠错的过程，能够在无需人类全程指导的情况下处理现实世界的安全规则。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。