Governing AI-Assisted Security Operations: A Design Science Framework for Operational Decision Support
本研究提出了一种设计科学框架，用于治理高风险环境中的 AI 辅助安全运营，该框架利用基于 KQL 的查询代理工件将 AI 规划与执行分离，从而在扩展自动化之前确保问责制、隐私性和可审计性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，将安全运营中心（SOC）视为一座庞大数字城市的高风险控制室。在那里工作的人员被称为安全分析师，他们时刻搜寻着潜伏在城市数据中的捣乱者（黑客）。他们使用一种名为KQL（Kusto 查询语言）的特殊语言，向城市数据库提出问题，例如：“向我展示所有在凌晨 3 点尝试打开上锁门的人。”
现在，想象这些分析师获得了一位新助手：AI。这位 AI 极其聪明，能在几秒钟内写出那些问题（查询）。但问题在于：如果你让一个超级聪明的 AI 在没有约束的情况下在控制室中自由活动，它可能会意外提出错误的问题、提出过多问题（耗费巨资），或者在试图寻找坏蛋时意外泄露机密信息。
本文提出了一种解决方案：不要仅仅让 AI 主导一切。在 AI 与数据库之间构建一个“交通警察”（或“查询经纪人”）。
以下是他们利用简单类比对这一想法的分解说明：
1. 问题：“瓶中的精灵”
作者指出，虽然 AI 编写代码和发现模式的速度比人类快，但在高风险环境中让其自主行动是危险的。
- 类比：想象给一位才华横溢但鲁莽的厨师一把通往整个厨房的万能钥匙。他们能烹饪出令人惊叹的佳肴（发现威胁），但也可能意外烧毁房子（泄露私人数据）、订购过多昂贵的食材（花费过多资金），或使用根本不存在的食谱（请求不存在的数据）。
- 现实：即使 AI 仅是在“读取”数据（而非修改数据），一次糟糕的读取仍可能引发混乱、浪费资金或破坏隐私规则。
2. 解决方案：“交通警察”（经纪人）
本文介绍了一种受管制的 AI 查询经纪人。将其想象为一位严格站在 AI 厨师与厨房之间的交通警察。
- 工作原理：
- 计划：AI 提出一个计划：“我认为我们应该查看昨晚的日志。”
- 检查：交通警察叫停 AI，并检查三件事：
- 地图是否真实？（模式落地）：AI 是否知道表的实际名称，还是仅仅在猜测？
- 食谱是否获批？（模板）：AI 是否使用预先批准的安全方式提出问题，还是在发明一种狂野的新方法？
- 预算是否可行？（成本/时间）：这个问题运行起来是否耗时过长或成本过高？
- 通过/不通过：如果计划通过检查，交通警察将允许人类（分析师）给出最终的“点赞”。只有在此之后，问题才会被发送至数据库。
3. “辅助轮”方法（成熟度阶段）
作者认为，你不应该只是按下一个开关就让 AI 接管整个安全团队。相反，你需要像学习骑自行车一样逐步适应。
- 阶段 0（沙盒）：AI 在假数据（如电子游戏）上进行练习，在那里它无法造成任何伤害。
- 阶段 1（影子模式）：AI 在现实世界中运行，但它是“隐形”的。它提供建议，但人类执行实际工作。我们观察以确认 AI 是否有帮助。
- 阶段 2（试点）：AI 被允许执行工作，但仅限于简单任务，并且有人密切监视。
- 阶段 3（完全自主）：一旦 AI 证明其安全、经济且准确，它将获得更多自由。
4. “谁在负责？”规则（角色）
本文强调，你不能只说"AI 负责”。你需要一个职责明确的团队：
- 架构师：构建墙壁和锁（安全）。
- 图书管理员：确保 AI 使用正确的书籍（模板）。
- 审计员：检查收据以确保没有秘密泄露（治理）。
- 分析师：做出最终决定的人类。
5. 主要结论
本文的核心信息很简单：AI 是一个强大的工具，但它需要管理者。
你不应该仅通过 AI 听起来有多“聪明”来衡量该系统的成功。你应该通过以下标准来衡量：
- 它是否遵守了规则？
- 它是否花费过多？
- 它是否意外泄露了私人信息？
- 人类分析师是否真正理解了 AI 提出该建议的原因？
简而言之：本文并没有发明一种新的 AI 或新的安全工具。相反，它发明了一个管理框架。这是一本规则手册，指导如何安全地让 AI 助手协助安全专家，同时防止 AI 失控、浪费资金或触犯法律。它将"AI 魔法”转变为“受管制的工程”。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。