Evaluating the Generation and Detection of Arabic-Based Phishing Attacks Using LLMs
本研究通过实证表明，大语言模型能够生成极具说服力的阿拉伯语网络钓鱼邮件以骗过人类检测，同时基于大语言模型的分类器在识别这些具有文化细微差别的攻击方面显著优于人类，从而凸显了海湾地区对人工智能驱动的网络安全防御机制的迫切需求。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在数字世界中，网络钓鱼攻击是一种伪装成可信信息的数字陷阱。它看起来像是来自银行、老板或政府部门的电子邮件，但其真实目的是诱骗接收者交出密码或金钱。几十年来，制造这些陷阱需要具备足够技能的人类罪犯，能够在正确的语言中写出令人信服的谎言。现在，这一障碍已经消失。大型语言模型（即经过训练以理解和生成人类语言的强大计算机程序）现在可以瞬间编写出这些欺骗性信息，并能使用任何语言，从而消除了对熟练人类作者的需求。这种转变使得网络钓鱼的威胁变得更加广泛且难以阻止，尤其是在语言复杂且具有文化特定性的地区，例如阿拉伯语世界。
来自阿拉伯联合酋长国扎耶德大学的一个研究小组致力于了解这项新技术如何改变阿拉伯语使用者的游戏规则。他们想知道两件事：这些计算机程序是否真的能用阿拉伯语编写出具有说服力的网络钓鱼邮件，以及其他计算机程序或普通人是否能识别出它们。为了找出答案，他们建立了一个受控实验。他们要求三个不同的大型语言模型编写数百封模拟电子邮件。其中一些邮件旨在看起来像合法的商务信息，而另一些则被设计成看起来像诈骗，要求采取紧急行动或索取敏感信息。研究人员随后要求另外三个计算机模型和一组由四十五名志愿者组成的志愿者阅读这些电子邮件，并判断哪些是真实的，哪些是虚假的。
结果揭示了数字欺骗故事中一个令人惊讶的转折。计算机程序在编写诈骗信息方面表现得非常出色。他们测试的所有三个模型都成功生成了阿拉伯语网络钓鱼邮件，在给定特定的学术请求时，这些邮件绕过了它们自身的安全过滤器。更重要的是，它们产生的内容不仅语法正确，而且在文化上极具说服力。其中一个专门针对海湾地区进行开发的较小型模型，生成的电子邮件在当地读者看来感觉最为真实。这些邮件对当地金融机构的特定语言和语气运用得如此纯熟，以至于人类最难将其识别为伪造。这一发现挑战了普遍的假设，即认为只有最大、最强大的计算机模型才能够创造危险的威胁；在这种情况下，一个较小的、经过区域调优的模型证明了其更具欺骗性。
在识别陷阱方面，计算机模型的表现明显优于人类。人类志愿者（代表了不同的职业和背景）正确识别网络钓鱼邮件的准确率仅为百分之六十八左右。这意味着，超过五分之一的计算机生成的诈骗信息成功骗过了阅读它们的受众。人类之所以会失手，是因为这些信息看起来非常专业，且缺乏明显的警告标志。他们也经常因为发件人的电子邮件地址看起来与预期略有不同，而误将合法邮件标记为诈骗。
相比之下，用于检测诈骗的计算机模型要准确得多。其中一个检测模型达到了完美的分数，正确识别了每一个网络钓鱼邮件和每一条合法信息。另一个模型的表现也非常精准，而第三个模型则表现挣扎，将太多安全的邮件标记为危险。研究人员注意到两组人在思考问题时存在明显的差异。人类过度依赖检查发件人的电子邮件地址，寻找域名中的微小错误。然而，计算机模型则通过分析整个文本来寻找紧迫感、个人信息请求以及信息的整体语气模式。由于人类错过了许多诈骗，而计算机很少出错，研究人员建议，最好的防御是两者之间的伙伴关系。一个由计算机模型作为第一道防线来捕捉明显威胁，并将仅剩的困难边缘案例留给人类进行审查的系统，可能会比单纯依靠其中一方更为有效。
该研究还强调了当前安全培训中的一个关键差距。识别网络钓鱼邮件的能力并不取决于一个人的受教育程度，而在于其职业。从事金融、技术或安全领域的人员比其他领域的从业者更能识别出这些诈骗。这表明，通用的安全培训可能是不够的；相反，组织需要针对不同职位面临的具体风险来定制其警示。此外，研究人员发现，对抗这些复杂的、由计算机生成的谎言，最有效的防御是一种简单的技术检查：验证发件人地址。由于人类参与者最容易被那些看起来真实但地址略有偏差的电子邮件所蒙蔽，因此执行严格的电子邮件身份验证规则可以在这些攻击被看到之前拦截掉许多攻击。
最终，这项研究提供了关于人工智能如何重塑阿拉伯语网络犯罪格局的首个明确证据。它表明，威胁不再局限于熟练的人类黑客，而是一种自动化的、可获取的能力，能够生成极具说服力的本地化内容。研究证实，虽然计算机在创建和检测这些诈骗方面目前都比人类更强，但最危险的方面不在于计算机程序的规模，而在于其模仿特定地区文化和语言细微差别的能力。随着这些工具的不断演进，针对它们的防御将需要先进技术与人类判断力的结合，并高度关注那些让信息看起来真实的细节。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。