An Explainable Agentic RAG Framework for Zero-Shot Phishing and Web Attack Detection
本文介绍了 XAR-Detect，这是一个可解释的代理式 RAG 框架，它利用 DeBERTa 编码器、动态威胁特征检索和自主推理，实现了对网络钓鱼和 Web 攻击的高精度、零样本检测并提供透明的解释，在无需重新训练的情况下显著超越了现有的最先进方法。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在数字世界中，最持久的威胁往往伪装成普通的讯息或常规的网站请求。旨在窃取密码的网络钓鱼邮件，以及试图入侵服务器的网络攻击，已经变得如此复杂，以至于能够极其逼真地模仿合法的通信。几十年来，安全系统一直依赖于一种识别策略：它们基于海量的已知不良案例进行训练，学习识别过去犯罪行为的特定指纹。然而，这种方法存在一个根本性的弱点。当攻击者发明一种从未见过的全新手段时，这些静态系统往往会失效，因为它们对于未知事物没有参考点。为了解决这个问题，研究人员正在探索一条不同的路径，即结合从语境中学习的能力与实时查询最新信息的能力，就像一名保安不仅认识已知罪犯的面孔，还随身携带实时警报动态，以便识别人群中的陌生人。
一组研究人员开发了一种名为 XAR-Detect 的新系统，试图弥补静态训练与动态现实之间的这一差距。该框架不再仅仅依赖于在完成学习那一刻就冻结其知识的预训练模型，而是更像是一个智能调查员。它接收一封可疑邮件或一个网络请求，首先分析其内容以理解其结构和含义。然后，它不再仅仅根据记忆进行猜测，而是立即向全球威胁情报的实时数据库进行检索。该数据库通过主要安全库不断更新，包含了数百万条关于已知钓鱼链接、恶意代码和近期漏洞的记录。系统会从这个实时动态中提取最相关的警告信息，并利用这些信息来辅助决策。如果传入的消息具有与新报告威胁相似的特征，即使系统本身从未针对该特定类型的攻击进行过显式训练，它也能将其标记为危险。
其核心创新在于系统处理信息的方式。它不仅仅是简单地将新数据添加到旧数据中，而是采用了一个充当批判性思考者的自主推理代理。这个代理会将来自消息本身的证据与刚刚检索到的新鲜情报进行权衡。它会自问模式是否匹配，考虑上下文，然后对消息是安全还是恶意形成假设。这种多步骤的过程使得系统无需从头开始重新训练，即可适应新的攻击策略。在实验中，研究人员在各种现实世界的数据集上测试了这种方法，包括数千封钓鱼邮件和数百万条网络流量记录。他们发现，该系统识别已知攻击的准确率接近 98%，这一性能水平显著超过了现有方法。更重要的是，当在完全未出现在其训练数据中的全新攻击类型上进行测试时，该系统仍能以 88.3% 的准确率检测到它们。这表明，实时查询当前威胁的能力为应对未知威胁提供了一个强大的安全网。
除了捕捉坏人之外，研究人员还关注“黑箱”问题，即复杂的计算机系统做出人类无法理解的决策。在高风险的安全领域，了解系统为何标记某条消息与标记本身同样重要。XAR-Detect 通过为每一个决策提供清晰的两层解释来解决这一问题。首先，它会强调消息中的哪些特定特征——例如奇怪的链接或异常的用词选择——对怀疑做出了最大贡献。其次，它会展示哪些外部威胁情报被用于得出结论。这种透明度允许人类安全分析师验证系统的逻辑，确保检测是基于可靠证据而非随机猜测。研究人员测量了这些解释的可靠性，发现它们具有高度的一致性，这意味着即使输入内容稍作改动，系统也会为其选择提供稳定的理由。
研究还揭示了这种方法的局限性。系统识别新威胁的能力完全取决于其咨询的实时数据库的质量和覆盖范围。如果出现了一种尚未在任何全球威胁库中记录的全新攻击，系统将无法进行查询，其性能可能会下降。研究人员承认，虽然该系统是向前迈出的重要一步，但它并不是抵御所有未来可能威胁的完美盾牌。此外，由于系统的推理部分依赖于强大的外部计算服务，在实际部署中必须管理有关速度和成本的实际考量。尽管存在这些限制，研究结果仍展示了一条可行的网络防御路径。通过将深层的语言理解能力与访问实时情报的能力相结合，XAR-Detect 提供了一种检测从未见过的威胁的方法，为数字世界提供了一种更灵活、更透明的防御手段。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。