Proving the Utility of Large Language Models in Cybersecurity Simulations: A Comprehensive Examination
本文表明，将大语言模型与基于 YAML 的网络配置相结合，通过自动化环境创建，在保持高入侵率和高真实性的同时，实现了比传统强化学习方法快 25,000 到 50,000 倍的速度提升，从而显著增强了网络安全模拟。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
数字世界正处于不断的围攻之下。每天，自动化程序和人类攻击者都在搜寻网络中的薄弱环节，试图寻找潜入的方式以窃取数据或造成破坏。为了阻止这些行为，安全专家构建了模拟真实网络的实践环境。这些环境就像是训练场，他们可以在其中测试新的防御策略，而不会危及实际系统。多年来，创建这些训练场一直是一项缓慢且需要人工完成的工作。专家们必须写出网络的每一个细节，从计算机之间的连接到运行在其上的特定软件，通常还要使用复杂的代码。如果网络发生变化，他们就必须手动重写所有内容。这个过程非常耗时，限制了研究人员可以测试的不同场景的数量，导致他们准备应对下一次重大攻击的工具变得更加匮乏。
来自 Tesseract Academy、Electi Consulting 和艾伦·图灵研究所（Alan Turing Institute）的研究人员的一项新研究表明，有一种方法可以显著加快这一进程。他们让一种被称为“大语言模型”的人工智能来承担繁重的工作。研究人员不再逐行编写代码，而是给人工智能一套指令和一些关于良好网络配置的示例。随后，人工智能便以一种称为 YAML 的格式（这是一种计算机易于读取的结构化数据列表方式）为他们编写了整个设置。研究人员发现，这种方法效果极其出色。人工智能生成的网络地图在无需人工修正的情况下，其有效性及可用性达到了约 7 折。更重要的是，当他们使用这些由人工智能生成的网络来测试攻击策略时，结果显示其速度极快且非常有效。
研究人员通过创建六种不同的网络场景来测试他们的系统，这些场景涵盖了从简单设置到由人工智能生成的复杂环境。随后，他们让两种不同类型的攻击者对阵这些网络。第一种是传统的计算机程序，它通过试错法进行学习，这种方法被称为强化学习。该程序必须逐步探索网络，尝试不同的动作以观察哪些有效。该程序在学习如何攻破单个网络时需要十五到二十九分钟，即便如此，它也经常无法找到通往目标的最佳路径。第二种攻击者是由大语言模型编写的脚本。该脚本不需要学习；它只需分析网络地图并编写一个入侵计划。在每一次测试中，由人工智能编写的脚本都在不到十分之一秒的时间内成功攻破了网络。
这种速度上的差异不仅仅是快了一点，而是一个巨大的飞跃。人工智能生成的脚本完成任务的速度比传统的学习程序快了大约两万五千到五万倍。虽然传统程序在复杂网络中艰难摸索，但人工智能脚本（特别是模仿多阶段攻击链的脚本）成功攻破网络的概率达到了 94.5%。研究人员指出，人工智能特别擅长理解网络的规则，例如哪些计算机可以相互通信，以及哪些被数字墙阻断。其中一种特定的战术——即人工智能脚本专注于快速从一台计算机移动到另一台计算机以到达高价值目标——被证明是最可靠且最高效的方法。
这一成功凸显了网络安全研究方式的转变。研究表明，通过使用示例来引导人工智能，而不是仅仅给它一个空白模板，该系统可以避免常见的错误，例如创建不可能的网络连接或相互矛盾的安全规则。研究人员还发现了他们在与人工智能交流时的一个微妙陷阱。当他们试图通过让人工智能在对话过程中“记住”修复方案来纠正其错误时，人工智能实际上在稍后开始犯下更隐蔽的错误。他们发现，与其通过反复的对话进行教学，不如保留一个完美的、预先批准的示例，并让人工智能模仿该结构。
研究结果表明，大语言模型可以作为生成逼真训练环境和测试防御策略的强大工具，其速度是人类专家或传统软件所无法比拟的。研究人员谨慎地指出，这些结果来自模拟实验而非现实世界的攻击，未来的工作需要整合现实世界的数据，以确保发现的漏洞具有真正的相关性。然而，在数秒内创建数千个独特且复杂的网络场景的能力，为更彻底、更频繁地测试防御措施打开了大门。通过自动化创建这些数字战场，安全团队有望在测试防御措施时，能够应对比以往更多样化的威胁，从而在攻击者面前保持领先地位。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。