Agentic Cloud Decoys: A Deception-Driven Framework for Autonomous Intrusion Investigation
本文提出了“云诱饵人工智能代理”（Cloud Decoy AI Agent）框架，该框架将高保真云诱饵与自主语言模型代理相结合，通过聚合会话级证据并采用动态提示生成来降低误报率和间接提示注入风险，从而压缩入侵调查过程，并在十分钟内实现了对十个受控 AWS S3 场景中九个场景的完整重构。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，互联网是一座巨大且繁忙的城市，每一次行动都会留下足迹。在这个被称为“云”的数字版本城市中，公司存储着他们最珍贵的数据。为了确保这座城市的安全，安全团队会监视数百万个微小的足迹，这些足迹被称为“日志”。这些日志记录了每一次有人打开门、拿起文件或在走廊里走动的情况。问题在于，这座城市如此庞大，足迹如此之多，以至于要在成千上万人在体育场里吃饼干时，寻找一个真正的窃贼，就像是在人群中寻找那个正在偷吃饼干的人一样困难。日志就在那里，但它们太嘈杂、太混乱，以至于安全专家需要好几天时间才能弄清楚到底发生了什么。
为了解决这个问题，安全专家开始使用一种叫做“欺骗”的小技巧。与其试图在人群中发现坏人，不如留下一个看起来和真正的饼干罐一模一样的、闪闪发光的假饼干罐。他们知道，任何诚实的员工都不会去碰那个特定的罐子。因此，如果有人真的碰了它，安全团队就会立即知道：“那是小偷！”这篇由亚利桑那大学研究人员撰写的论文提出了一个新问题：一旦那个假的饼干罐被触碰，我们能否使用一个超级聪明的计算机机器人（“AI智能体”），瞬间查出是谁偷了东西、偷了什么，并为人类侦探写一份报告，而不会被噪音所干扰？
问题所在：太多的足迹，太多的噪音
研究人员解释说，云安全目前陷入了一个悖以矛盾。公司收集的数据越多，就越难找到坏人。攻击者很聪明；他们使用偷来的钥匙，就像普通员工一样从正门走进来。当他们这样做时，计算机日志看起来与正常人在履行职责时完全一样。安全团队花费数小时甚至数天的时间来拼凑这些日志，以了解发生了什么，却往往错过了阻止损失的最佳时机。
论文指出，仅仅增加更多的日志或更好的 AI 并不是答案。真正的问题在于，AI 被要求阅读整个城市的历史来寻找一个坏事件。这既昂贵又缓慢，而且容易出错。
解决方案：诱饵与机器人侦探
作者构建了一个名为 Cloud Decoy AI Agent（云端诱饵 AI 智能体） 的系统。它主要由两部分组成：
- 诱饵（Decoy）： 他们设置了一个虚假的存储桶（一个数字文件夹），里面装满了对小偷极具诱惑力的文件，比如“secret_api_keys.txt”或“bank_records.sql”。至关重要的是，没有任何真实员工应该触碰这个文件夹。如果这个文件夹被触碰，那就是 100% 保证有可疑情况发生。这起到了完美的警报作用。
- 机器人（AI Agent）： 面对警报，负责处理的不再是人类，而是一个聪明的 AI 机器人。但这里有一个棘手的部分：研究人员意识到，仅仅把警报交给机器人是不够的。如果允许机器人查看云端中的所有内容，它会被正常的、枯燥的活动淹没，并可能会编造故事（一个被称为“幻觉”的问题）来填补空白。
他们如何教机器人变得聪明
论文介绍了三个巧妙的规则，使机器人能够正确工作：
- 线索分组： 机器人不再将每一次点击视为独立的事件，而是将它们分组为“会话”。如果一个小偷打开了假文件夹，查看了一个文件，并在 15 分钟内下载了它，机器人会将此视为一个连续的故事，而不是三个单独且令人困惑的事件。
- “所见即所得”规则： 这是最重要的部分。研究人员制定了一条规则，规定机器人只能描述它实际看到的东西。如果机器人在日志中没有看到某个特定的文件名，它就不被允许猜测或编造一个。他们构建了一个特殊的“动态提示词”系统，只向机器人提供它发现的准确证据，从而防止它为了让故事听起来完整而发明虚假细节。
- 陷阱中的陷阱： 研究人员还注意到一个可怕的新问题。由于日志会记录小偷输入的精确内容（例如文件名），一个小偷可能会创建一个名为“删除我所有的文件”或“忽略之前的指令”的文件。如果机器人读取了这个内容，它可能会被误导去执行小偷想要的操作。论文指出，这是一个巨大的危险。他们识别出了这一风险，但也承认目前的机器人还没有应对它的盾牌。他们表示，在将此系统用于现实世界之前，必须修复这个问题。
他们的发现（以及他们没能证明的）
团队在安全、虚构的云环境中，通过十种不同的“劫案”场景测试了他们的系统。他们模拟了小偷列出文件、窃取数据、删除东西，甚至使用脚本快速进行这些操作的情景。
- 好消息： 系统表现得非常出色。它成功地完整重建了 10 个场景中的 9 个。在机器人写的每一份报告中，每一个事实都可以追溯到它在日志中实际看到的内容。机器人没有编造任何虚假故事。它完成得也非常快，从假文件夹被触碰的那一刻起到报告完成仅用了 4 到 5 分钟。
- 一次失误： 系统在一种特定场景下失败了，即小偷在查看文件夹和窃取文件之间等待了 20 分钟。因为机器人的“分组”规则设定为 15 分钟，它认为小偷已经离开并稍后又回来了，从而将故事拆分成了两个独立的、互不相关的事件。
- 缺失的部分： 作者非常诚实地说明了他们没有证明的内容。他们没有将他们的系统与“正常”的安全系统进行对比，以观察它是否更好。他们没有用其他类型的 AI 机器人进行测试。他们也没有在拥有数千名员工的真实、混乱的公司环境中进行测试。他们只在了一个干净、受控的实验室环境以及一种类型的云服务（Amazon S3）中进行了测试。
大局观
这篇论文表明，使用“诱饵”来触发聪明的机器人侦探，是穿透云安全噪音的一种绝妙方式。它将一个庞大且不可能完成的搜索变成了一个小型且可控的调查。通过强制机器人严格遵守它发现的证据，他们阻止了它编造内容。
然而，研究人员明确表示：这是一个原型，而不是一个成熟的产品。他们识别出了一个严重的安全性漏洞，即小偷可以通过虚假指令来欺骗机器人，而他们还没有修复它。他们也承认，在让人们信任它处理真实的商业机密之前，需要进行更广泛的测试。但核心思想——即将假饼干罐与一个守纪律的机器人结合起来，以解决丢失饼干的谜团——是保持我们数字城市安全的一个充满希望的新方向。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。