User-Centric Phishing Detection: A RAG and LLM-Based Approach
本文提出了一种以用户为中心的钓鱼检测框架，该框架将检索增强生成（RAG）与大语言模型相结合，以利用个性化的历史邮件上下文和实时威胁情报，从而有效地降低误报率，并在多种开源模型上实现高精度。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一位在一栋大型办公大楼里工作的、非常聪明且受过高等教育的保安。这位保安读过数百万本关于犯罪的书籍，完全知道教科书上的“坏人”长什么样。但这位保安有一个问题：他们太严厉了。他们经常把带着奇怪包裹的正经员工误认为是罪犯，从而导致许多不必要的警报和挫折感。
这篇论文介绍了一种训练这位保安的新方法，旨在减少他们的错误。以下是其运作方式的简单分解：
问题所在：“一刀切”的保安
传统的电子邮件过滤器就像那个严厉的保安。它们查看一封邮件并问道：“这看起来像诈骗吗？”如果答案哪怕有一点点“可能”，它们就会拦截。
- 问题在于： 有时你老板发来的合法邮件看起来可能有点奇怪（比如他使用了一个新的俚语或一个奇怪的链接）。旧的保安会将其拦截，因为它不符合“标准”的正常邮件模式。这被称为误报（False Positive）。这就像保安因为一名真正的员工戴了一顶看起来可疑的帽子而拦住了他。
解决方案：“个性化侦探”
作者创建了一个系统，在做出决定之前，给这位保安一本个人记忆手册和一个实时新闻推送。他们称之为 RAG（检索增强生成） 系统。
以下是这个新系统的三个工作步骤：
1. 记忆手册（用户上下文）
在保安查看新邮件之前，系统会快速翻阅该用户过去合法的邮件。
- 类比： 想象保安会问：“嘿，这个人通常会发送这样的邮件吗？”如果这封邮件看起来很奇怪，但与该用户实际从老板那里收到的邮件风格相符，保安就会说：“啊，这对这个人来说是正常的，”然后放行。
- 运作方式： 系统使用人工智能从用户的历史记录中找到前 5 封最相似的邮件，作为参考展示给保安。
2. 实时新闻推送（威胁情报）
系统还会检查一个实时数据库（类似于数字化的警察记录簿），以查看邮件中的链接或网站是否为已知的危险网站。
- 类比： 即使邮件看起来像是来自朋友，如果其中的链接指向一个已知的“危险区域”（恶意网站），保安也会收到来自实时推送的警报。
3. 智能决策（LLM）
这位保安实际上是一个大语言模型（LLM）——一个理解语言能力极强的超级智能 AI。它不仅仅孤立地观察这封邮件，而是同时观察：
- 新邮件。
- “记忆手册”（相似的过去邮件）。
- “实时新闻推送”（威胁数据）。
然后它做出最终决定：“这是诈骗，还是仅仅是一封奇怪但真实的邮件？”
结果：更少的错误
研究人员使用四种不同类型的 AI“保安”（称为 Llama4、DeepSeek、Mistral 和 Gemma）测试了这个新系统。他们对比了这些保安在没有记忆手册与有记忆手册的情况下的表现。
- 重大胜利： 当这些保安使用记忆手册（RAG）时，他们犯错的次数显著减少。
- 明星选手： Llama4-Scout 模型表现最佳。
- 在没有记忆手册的情况下，它会误拦 12% 的好邮件（误报）。
- 使用记忆手册后，它仅误拦 4% 的好邮件。
- 它同时也变得更擅长捕捉真正的骗子（得分高达 0.97/1.0）。
核心结论
这篇论文证明了，要阻止网络钓鱼，你不仅需要一个聪明的 AI，你还需要一个了解用户的 AI。通过让 AI 快速浏览用户通常接收的内容，该系统可以防止将正常的、看起来奇怪的邮件标记为诈骗。这使得安全系统更加准确，也减少了对使用者的干扰。
简而言之： 它将一个通用的、过度热心的保安变成了一个了解你习惯的个性化侦探，从而实现了更少的虚假警报和更好的保护。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。