Graph Neural Networks for Provenance-Based APT Detection under a Temporal Transfer Framework: A Review

在计算机系统的隐藏层中，一场无声的战争正在不断进行。被称为“高级持续性威胁”（APT）的攻击者并不会通过一次嘈杂的爆发来瘫痪服务器或窃取数据。相反，他们的行动极其缓慢，就像一个潜入民宅的窃贼，等待家人入睡后，在几天或几周的时间里，悄无声息地在房间之间穿梭，翻动抽屉并复印文件。为了捕捉这种耐心的入侵者，安全专家会观察系统的历史记录，即“溯源”（provenance）。这是一份记录了计算机所采取的每一项行动的档案：哪个程序打开了哪个文件，哪个进程向另一个进程发送了消息，以及这些事件发生的时刻。通过连接这些点，专家们可以看见攻击者留下的隐形路径。多年来，研究人员一直试图利用人工智能自动阅读这些历史记录，希望能在这类微妙的攻击模式被察觉之前，在为时过晚之前将其识别出来。

然而，一项针对该领域的新综述表明，目前的成功案例可能只是一种幻象。研究人员检查了数十项声称构建了能够以近乎完美的准确率识别此类长期入侵的 AI 模型的的研究。他们发现，虽然这些模型在实验室中表现卓越，但往往忽略了现实世界安全领域中最关键的因素：时间。这些研究大多是在已经完整的资料上测试其模型的，这使得人工智能能够在应该发出警报的时刻之前，就预先看到了尚未发生的事件。这有点像在让学生参加历史考试时，先让他们读完答案解析，然后再让他们坐下来答题。当研究人员进行深入调查时，他们发现这些模型并不一定是在学习识别攻击者的行为；它们往往只是在记忆特定测试数据的细节，或者依赖于在实时运行情况下无法获取的信息。

这项由计算机科学家团队进行的综述，综合了 2020 年至 2026 年间发表的 29 项不同检测研究的发现。这些研究使用了一种被称为“图神经网络”（graph neural network）的人工智能，这种技术旨在理解事物之间的关系，就像一张展示城市如何通过道路连接起来的地图一样。在这种语境下，“城市”是计算机进程和文件，而“道路”则是连接它们的动作。研究人员将这些研究组织进一个清晰的框架中，以观察它们如何处理时间的流逝。他们发现，虽然有 19 项研究使用了这些先进的图网络，但极少有研究实际测试了模型在较晚日期的数据上的表现。在现实世界中，一个安全系统是基于上个月的数据进行训练的，并且必须能够检测出今天正在发生的攻击。综述发现，大多数研究并未模拟这种延迟。相反，它们在同一批数据上进行训练和测试，通常混淆了时间线，使得模型能够“窥视”未来的事件来做出决策。

其中一个最重要的发现是，这些研究中所报告的高准确率数字可能无法转化为现实世界的性能。研究人员定义了两个层级的测试来证明这一点。第一层级询问：一个一旦经过训练并“冻结”的模型，在面对来自稍后时间的全新数据时，是否仍能识别出攻击。第二层级询问：模型是否能够随着看到新数据而进行适应和改进。综述发现，尽管有 5 项研究提到了改进模型的方法，但没有一项研究在稍后的时期内对这些改进进行了实际测试。此外，许多研究使用了一种创建“隐藏陷阱”的标签标注方法。如果研究人员因为某个文件与已知坏文件相关联而将其标记为“坏”，那么人工智能只需学会寻找这种关联，而不是识别真正的攻击行为。这意味着模型是通过识别测试规则而非理解威胁本身来通过测试的。

团队还指出，在数据准备方面存在一个特定的缺陷。在许多研究中，人工智能被给予了系统历史的完整图像，包括在应该发出警报的时刻之后数小时或数天内发生的事件。这被称为“前瞻偏差”（look-ahead bias）。对于一个实用的安全系统而言，它必须仅根据截至那一秒为止已发生的情况做出决策。综서发现，极少有研究报告是否在正确的时间点切断了数据。如果没有这种切断，模型的测试场景在现实中根本不存在。研究人员还注意到，用于这些测试的数据集通常规模较小且具有重复性，仅包含几周的数据和少量的攻击场景。这限制了观察模型如何处理数月或数年间计算机行为中那种缓慢、微妙变化的能力。

为了解决这些问题，作者提出了一套关于此类研究应如何开展的新标准。他们制定了一个包含 21 项内容的清单，要求研究人员必须遵循，以证明其模型的实时有效性。这包括仅构建到决策时刻为止的数据图谱、在测试新数据前锁定模型设置，以及报告系统在真实办公环境中会产生多少次误报。他们认为，一个产生过多误报的模型无论在识别攻击方面多么准确都是毫无用处的，因为安全团队会被这些误报淹没。综述总结道，在这些新标准得到执行之前，对于该领域中近乎完美检测的说法应当持怀疑态度。这些模型展现出了潜力，但关于它们能否在野外环境下、对抗那些会随时间改变策略的攻击者时保护系统的证据，目前尚未得到证实。未来的道路在于实现从追求静态测试的高分，转向证明这些系统能够经受住时间的考验。