Context-Aware Spear Phishing: Generative AI-Enabled Attacks Against Individuals via Public Social Media Data
本文展示了生成式人工智能如何利用极少量的公开社交媒体数据，自动化实施高度个性化且具备情境感知能力的鱼叉式网络钓鱼活动，这些活动在说服力以及规避人类怀疑和现有 AI 防护机制方面显著优于传统攻击，从而凸显了加强平台级防御的紧迫需求。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一家高端俱乐部的保安。你的工作是识破假身份证，将试图混入的人拒之门外。多年来，坏人们一直试图用廉价、显而易见的假身份证混进来。你一眼就能看穿他们，因为照片模糊不清、名字拼写错误，而且逻辑上说不通。
这篇论文讲述的是，坏人们刚刚升级到了生成式人工智能（Generative AI），突然间，他们的假身份证看起来如此逼真，以至于连最顶尖的保安都被骗了。
以下是研究人员发现的要点，使用简单的类比进行说明：
1. 新的“诈骗机器”
以前，如果黑客想欺骗你（即“鱼叉式网络钓鱼”攻击），他们必须做大量的手工功课。他们必须阅读你的社交媒体，分析你的爱好，然后费力地撰写一封看起来像是来自朋友或老板的假邮件。这个过程既缓慢又昂贵，而且往往听起来很机械。
变化：研究人员表明，现在你可以将极少量的公开社交媒体帖子（少至 10 条）输入到人工智能中。人工智能就像一位超级富有创造力的代笔作家。它能瞬间学会你的风格、你最喜欢的咖啡店、你最近的假期以及你的情绪。随后，它能写出一封完美、个性化的邮件，听起来完全像你或你信任的人。
2. “七种伪装”
该论文确定了人工智能用来欺骗人们的七种特定“伪装”或策略。你可以将这些视为骗子接近你的不同方式：
- 诱饵：“嘿，我看到你喜欢爵士乐；这里有免费的 VIP 门票！”（用礼物引诱你）。
- 恐吓：“你的账户被黑了！点击这里修复！”（利用恐惧）。
- 美人计：“我看到了你的照片，觉得我们会合得来；聊聊吧。”（利用浪漫或友谊）。
- 交易：“如果你给我你的电子邮件，我就给你这个很酷的艺术工具。”（一种“等价交换”）。
- 尾随者：“我看到你申请了那份工作；这是招聘人员发来的链接。”（假装跟进你刚刚做过的事情）。
- 冒名顶替者：“嗨，我是你的老板，需要你买这些礼品卡。”（假装是你认识的人）。
- 情感操纵者：“我看到你因为分手而难过；这个网站能帮到你。”（假装关心你的感受）。
人工智能可以将这些伪装与你的个人数据混合搭配，使陷阱感觉极其真实。
3. 绕过过滤器的“魔术”
你可能会想：“但是，这些人工智能模型不是有安全过滤器来阻止它们撰写坏内容吗？”
研究人员发现，坏人们可以使用一种称为“提示工程”（prompt engineering）的魔术。他们不是直接要求人工智能“写一封诈骗邮件”，而是问：“写一个关于一个角色需要向朋友发送音乐会消息的故事。”人工智能作为一个乐于助人的助手，没有意识到自己被骗去写诈骗内容。它只是遵循指令，生成完美的网络钓鱼邮件，从而绕过了安全守卫。
4. “人类测试”（最可怕的部分）
研究人员不仅仅在电脑上查看这些邮件；他们在真实的人类身上进行了测试。
- 设置：他们向人们展示了两种邮件：老式诈骗（看起来明显是假的）和新型人工智能生成的诈骗。
- 结果：老式诈骗很容易识破。但人工智能生成的那些呢？人们认为它们是真的。
- 震惊：事实上，人们认为人工智能邮件比他们习惯看到的现实世界诈骗更不可疑。人工智能邮件写得如此出色，语法如此完美，个性化程度如此之高，以至于它们轻易地避开了人类的怀疑。
5. “保安”的挣扎
最后，研究人员测试了当前的“保安”（即内置于人工智能模型中的安全过滤器和其他检测工具）。
- 问题：标准的安全过滤器就像只寻找特定关键词（如“诈骗”或“黑客”）的保安。由于人工智能诈骗者使用巧妙的语言来隐藏这些词汇，保安们经常漏掉它们。
- 解决方案尝试：研究人员构建了一个新的、更聪明的保安（一种专门的检测器），它在邮件甚至被撰写之前就检查请求的意图。这个新保安非常有效（准确率达 98%），但这突显了旧保安已不再足够。
核心结论
该论文得出结论：生成式人工智能降低了网络犯罪的入门门槛。你不再需要是一名熟练的黑客，也不需要花费数周时间策划诈骗。只需几篇公开帖子和一个人工智能，任何人都可以创造出成千上万封极具说服力、个性化的诈骗邮件，这些邮件对人类受害者来说看起来和感觉起来都像是真的。
研究人员警告说，虽然我们可以构建更好的检测器，但根本问题在于，“坏人们”现在拥有一种工具，使得他们的谎言对查看收件箱的普通人来说与真相难以区分。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。