🤖 AI

A Robust and Explainable Transformer-Based Framework for Phishing Email Detection

本文提出了一种鲁棒且可解释的钓鱼邮件检测框架，该框架将针对 DistilBERT 模型的对抗训练与集成的 XAI 方法以及用于生成准确、具有韧性且透明的基于证据的解释的 Flan-T5 生成器相结合。

原作者： Sajad U P

发布于 2026-06-03

📖 1 分钟阅读☕ 轻松阅读

原作者： Sajad U P

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你的电子邮箱收件箱就像一个繁忙的机场，每一封邮件都是试图登机的乘客。大多数乘客是友好的本地人（合法的电子邮件），但也有一些是乔装打扮的冒充者，试图混进来偷走你的行李（网络钓鱼邮件）。

多年来，这个机场的保安（传统的垃圾邮件过滤器）使用一个简单的清单进行检查：“如果乘客说‘免费金钱’，就拦住他们。”但冒充者变得越来越聪明了。他们开始变换服装，在名字里更换字母（比如用“G00gle”代替“Google”），或者用听起来很正常的语气低声诉说谎言。旧的保安无法分辨这些区别。

这篇论文介绍了一种全新的、超级智能的安全系统，它建立在三个主要理念之上：一个更聪明的保安、一个更艰苦的训练营，以及一个解释决策的友好向导。

1. 更聪明的保安：DistilBERT

该论文使用了一个名为 DistilBERT 的模型。你可以把它想象成一个受过高等教育的保安，他读过数百万本书，理解句子的语境，而不仅仅是单词本身。

问题： 虽然这个保安非常聪明，但他也是一个“黑盒”。你无法询问他为什么拦截了某人；他只会说：“不行。”此外，如果冒充者只是在名字里改了一个字母，保安可能会感到困惑并放行。
解决方案： 研究人员保留了这个聪明的保安，但给了他一套特殊的训练方案，使他变得更强壮且更透明。

2. 更艰苦的训练营：对抗性训练

为了让保安变得不可动摇，研究人员把他送进了一个旨在通过“破坏”来让他学会生存的“魔鬼训练营”。

“FGM”演练（嵌入层级）： 想象保安正在学习识别一张脸。训练员会拿走保安脑海中的面部图像，并对其进行轻微的模糊或扭曲（在数学层面），以观察保安是否仍能认出这个人。这被称为 FGM。这教会了保安去关注人的本质，而不是完美的灯光。
“字符噪声”演练（表层级）： 然后，他们会对实际的电子邮件文本进行干扰。他们会把“o”换成“0”，删除一个字母，或者添加一个随机字符。这模拟了骗子使用的真实世界技巧。
结果： 通过在这些“破碎”和“扭曲”的邮件上进行训练，保安学会了忽略这些噪声。即使骗子把“Account”写成“Acc0unt”，保安也知道这仍然是一个可疑的账户。论文显示，面对这些技巧时，普通保安的准确率会从 98% 下降到 54%，而经过训练的保安依然能保持在 93%。

3. 友好的向导：可解释人工智能 (XAI)

即使保安很完美，你仍然需要知道他们为什么拦截了某人。如果保安只是大喊“停下！”而不给出理由，你可能会感到愤怒或困惑。

问题： 通常，AI 模型只给出“是/否”的答案。
解决方案： 研究人员添加了一个“友好的向导”（使用一个名为 Flan-T5 的工具）。
- 首先，系统使用三种不同的“侦探工具”（称为 LIME、SHAP 和 IG）来高亮显示哪些词让保安产生了怀疑。是邮件说了“紧急”吗？它要求你重置密码吗？
- 然后，友好的向导会将这些高亮的词汇转化为一句简单、通俗易懂的句子。
- 示例： 系统不会给出一个令人困惑的代码，而是告诉你：“这封邮件被标记为诈骗，因为它使用了像‘立即行动’这样紧急的语言，并要求你点击链接来重置密码。”

它们是如何协同工作的

论文描述了一个看起来像这样的流水线：

输入： 一封邮件到达。
保安： DistilBERT 模型阅读邮件。由于经过了特殊训练，它不会被错别字或奇怪的符号所迷惑。
侦探： 如果保安产生怀疑，侦探工具（LIME、SHAP、IG）会指出触发警报的具体词汇。
向导： 友好的向导将这些技术点转化为一个简短的、人类可读的故事，解释其中的风险。

论文的研究发现

它更强韧： 新系统不仅在识别诈骗方面做得更好，而且在识别那些试图通过更改字母来隐藏身份的复杂诈骗方面表现得更出色。
它更清晰： 当系统出错时（例如将一封真实的紧急邮件标记为诈骗），解释有助于你理解为什么会发生这种情况（例如，“它认为‘紧急’这个词是一种诈骗手段”）。这有助于用户更加信任该系统。
它很快： 因为他们使用了“DistilBERT”（一种比大型 AI 模型更轻量、更快速的版本），这个系统可以快速运行，而不需要超级计算机。

核心结论

这篇论文展示了一个对技巧更具防御力、运行更快且对其推理过程保持诚实的安全系统。它弥合了强大的计算机大脑与只想知道“这封邮件安全吗？”（而不想获得计算机科学学位）的人类用户之间的鸿沟。

技术摘要：一种用于钓鱼邮件检测的鲁棒且可解释的 Transformer 框架

问题陈述
钓鱼攻击仍然是一种持续存在且复杂的网络威胁，攻击者日益利用人工智能来模仿可信来源并利用人类弱点。虽然基于 Transformer 的模型（如 BERT、DistilBERT）在捕捉钓鱼检测中的上下文语言模式方面表现出了卓越的性能，但它们存在两个关键局限性：缺乏可解释性（作为“黑盒”运行）以及易受对抗性扰动的影响。近期的对抗性攻击，包括细微的字符级修改和嵌入层操纵，可以轻易绕过标准的检测机制。此外，现有的研究通常将鲁棒性和可解释性孤立地处理，导致模型可靠性与用户信任之间存在差距。

方法论
本文提出了一个统一的、轻量级的端到端框架，该框架以 DistilBERT（一种经过蒸馏的高效 BERT 变体）为核心，通过三个集成组件来应对这些挑战：

混合鲁棒性训练：
为了增强对嵌入层和表层攻击的抵御能力，作者采用了双重策略训练方法：
- 嵌入层对抗训练： 利用快速梯度法 (FGM)，模型通过直接应用于 Token 嵌入的基于梯度的扰动进行训练。这平滑了连续嵌入空间中的决策边界。
- 字符级噪声增强： 在分词之前，对 30% 的训练样本应用随机扰动（包括插入、删除和替换字符，如使用视觉相似的替代品 'o' $\rightarrow$ '0'）。这模拟了现实世界的规避策略，并迫使模型学习更具鲁棒性的子词和上下文表示。
- 优化： 模型最小化一个复合损失函数 ( $L_{total} = L_{clean} + \lambda L_{adv}$ )，其中 $\lambda=0.5$ ，旨在平衡标准分类准确率与对抗韧性。
可解释人工智能 (XAI) 集成：
为了提高透明度，该框架集成了三种局部归因方法：LIME（局部可解释模型无关解释）、SHAP（Shapley 加性解释）和 IG（集成梯度）。这些方法量化了特定 Token 在模型决策过程中的重要性。研究通过在输入扰动下进行对比评估，以衡量解释的稳定性。
自然语言解释生成：
为了弥合技术特征归因与用户理解之间的鸿沟，该框架使用了 Flan-T5-Small，这是一种轻量级的指令微调序列到序列 Transformer。LIME 提取的具有最高影响力的 Token、其归因分数以及模型的预测置信度被格式化为结构化的、基于规则的提示词。随后，Flan-T5-Small 生成简洁、平实且基于证据的叙述，解释为什么一封邮件被标记为钓鱼邮件或合法邮件。

核心贡献
本文概述了四个主要贡献：

增强的混合鲁棒性： 证明了结合基于 FGM 的嵌入训练与字符级噪声增强，可以显著提高 DistilBERT 对字符级扰动攻击的抵御能力，为多步对抗防御提供了一种计算高效的替代方案。
对比 XAI 评估： 在现实的输入失真条件下，对 LIME、SHAP 和 IG 进行了系统性的比较，量化了归因方法的解释力和定性鲁棒性。
基于证据的解释： 建立了一个将技术特征归因转化为人类可读叙述的层，利用 Flan-T5-Small 直接将解释锚定在模型证据而非静态警报上。
端到端框架： 将鲁棒训练、XAI 和自然语言合理化统一到一个可部署的流水线中，解决了模型鲁棒性与用户信任之间的权衡问题。

实验结果
该框架在一个公开的钓鱼邮件数据集（约 18,650 个样本）上进行了评估，并在跨领域数据集（CEAS 08 子集）上进行了验证。

鲁棒性： 在增加的字符级噪声（高达 20% 的损坏）下，所提出的框架保持了 93.2% 的准确率，相比之下，基准 DistilBERT 的准确率大幅下降至 54.5%。混合方法将从干净数据到 20% 噪声时的准确率降幅从基准模型的 43.5 个百分点降低到了仅 4.9 个百分点。
解释稳定性： 定性分析显示，虽然基准模型在微小的文本修改下会出现波动的 Token 归因和极性反转，但所提出的框架保持了稳定的归因模式，依赖于语义有意义的指标而非脆弱的表层线索。
用户研究： 一项针对 30 名参与者使用 Web 原型的试点研究显示，决策清晰度（平均值：4.34/5）和信息聚焦度（平均值：4.22/5）得分较高，表明生成的解释被认为清晰且相关。
跨领域泛化： 在 CEAS 数据集上，所提出的框架在 20% 噪声下保持了 95.7% 的准确率，而基准模型的准确率为 67.6%，展示了强大的泛化能力。

意义与主张
作者声称，这种集成方法有效地弥合了模型可靠性与用户信任之间的鸿沟。通过同时解决对抗鲁棒性和可解释性，该框架推动了透明钓鱼检测的发展。论文强调，所提出的方法不仅是一个检测工具，更是一个决策支持系统，它通过增强透明度，使用户能够理解警报背后的逻辑。作者也谦虚地指出，虽然该框架提高了对常见混淆策略的抵御能力，但并不能完全捕捉到优化的对抗性攻击或复杂的语义改写，未来仍需研究以应对这些不断演变的威胁。该研究严格将所使用的对抗技术定位为增强系统韧性的防御措施，以应对恶意行为者。