Enhancing User Resilience Against AI-Augmented Phishing: A Two-Stage Framework for Detection and Personalized Training

在数字时代，电子邮件收件箱已成为安全领域的主要战场。在这里，最危险的威胁不仅是恶意代码，更是那些旨在欺骗人类思维的信息。几十年来，防御者一直依赖两种主要策略来阻止这些攻击：一是扫描已知不良模式的技术过滤器，二是教导人们保持警惕的教育计划。然而，形势正在迅速发生变化。现代攻击者现在正利用人工智能编写语法完美、具有深度个性化且能够模仿真实对话的电子邮件，这使得它们比过去那些笨拙的垃圾邮件更难被察觉。这种演变造成了一个缺口：传统的安全工具难以跟上步伐，而标准的培训往往无法吸引用户或应对他们面临的具体诡计。研究人员面临的问题不再仅仅是如何拦截坏邮件，而是如何帮助人们识别并从那些钻了空子的复杂欺骗行为中学习。

为了应对这一日益增长的挑战，蒙茅斯大学（Monmouth University）的一个研究小组开发了一种名为 CyberGLA 的新方法，该系统将自动化检测与个性化学习相结合。该框架并非将安全视为一道静态的墙或一次性的讲座，而是分为两个相互关联的阶段运行。第一阶段涉及一个名为 EmailKnight 的工具，它充当了传入信息的深度扫描仪。与那些可能只检查发件人地址或检查已知恶意链接的标准过滤器不同，EmailKnight 会从多个角度检查电子邮件。它检查技术报头以确认信息是否真的来自其声称的来源，寻找邮件是否通过可疑服务器路由的迹象，并分析内容中是否存在诈骗中常用的心理压力手段。至关重要的是，它还会扫描图像和音频文件等附件，以检测它们是否由人工智能创建或篡改，随着深度伪造技术变得越来越普遍，这一能力正变得至关重要。

当 EmailKnight 识别出一条可疑信息时，它并不会简单地将其删除或标记为垃圾邮件。相反，它会将发现的结果传递给系统的第二阶段：一个由大语言模型驱动的个性化训练教练。这个教练充当引导者，将邮件被标记的具体原因转化为针对用户的定制课程。如果用户收到一封看起来像是来自其银行、但包含网址细微不匹配的邮件，系统不仅会发出警告，还会立即提供一个简短的互动模块，解释该不匹配的具体含义以及未来如何识别类似的诡计。这种训练是动态的，意味着它会根据用户的特定弱点进行调整。如果一个人反复陷入紧急付款类诈骗，系统就会优先开展关于该特定类型威胁的课程，从而确保教育内容与用户实际面临的真实风险相关联。

研究人员测试了这个两阶段框架，以观察它是否能同时提高检测能力和用户意识。他们首先使用借助人工智能生成的五百封恶意电子邮件对 EmailKnight 工具进行了评估，这些邮件涵盖了各种攻击手段，如伪造链接和 AI 生成的内容。该工具成功识别出了其他常见安全检查器所遗漏的威胁，特别是那些依赖于人类心理诡计或开放网络漏洞的威胁。随后，团队进行了一项针对 51 名大学生的试点研究，以衡量其教育效果。学生被分为几组：一组使用新的 CyberGLA 系统，另一组使用标准的商业训练平台，第三组则不接受任何培训。在一段短时间的学习后，所有小组都参加了一场测试知识水平的测验。

结果表明，这种基于场景的个性化方法比传统方法更有效。使用 CyberGLA 的学生在测验中的得分显著更高，平均准确率超过 93%，而使用商业平台的组为 85%，未接受培训的组为 82%。参与者的反馈表明，他们发现这种互动式的定制课程比静态视频或通用建议更令人印象深刻且更具参与感。研究人员指出，该系统成功地将潜在的危险时刻转化为了学习机会，帮助用户理解他们刚刚遇到的攻击的具体机制。虽然这项研究受限于较小的学生群体和较短的时间框架，但研究结果表明，将技术检测直接与适应性教育相结合，可以增强一个人抵御现代网络钓鱼尝试的能力。该团队计划扩大这项工作，将其涵盖范围扩大到更大规模和更多样化的群体，并探索这些工具如何保护其他弱势群体，例如日益受到这些复杂数字欺骗攻击的目标——老年人。