The Deepfakes We Missed: We Built Detectors for a Threat That Didn't Arrive
本立场论文指出，机器学习社区长达十年聚焦于检测公众人物深度伪造的做法已与现实脱节，因为实际的主要威胁已转向非自愿亲密影像、语音克隆诈骗和情感欺诈，从而在现实世界防御中造成了关键瓶颈，亟需立即调整研究议程以实现再平衡。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是论文《我们错过的深度伪造》的解读，使用通俗易懂的语言和类比来阐明核心论点。
宏观图景：筑错了盾牌
想象一群工程师花了十年时间设计终极灭火器。他们把所有的时间和资金都用于测试它，以应对他们认为即将发生的巨大、咆哮的森林火灾。他们建造了巨大的水箱，设计了复杂的喷洒模式，并编写了如何扑灭可能烧毁整座城市的火灾的手册。
但当“火灾季节”最终来临时，巨大的森林火灾从未发生。相反，真正的危险变成了成千上万起隐藏在人们家中的小型厨房火灾，以及他们地下室里的煤气泄漏。
工程师们仍然站在那里，手持巨大的森林火灾灭火器，准备拯救城市，而真正的破坏正在厨房和地下室发生。该论文认为，人工智能深度伪造检测领域恰恰处于这种境地。
从未发生的“森林火灾”（T1）
在过去十年里，研究人员痴迷于一种特定类型的深度伪造：名人的假视频（如政治家或电影明星）说着他们从未说过的话。
- 恐惧：每个人都担心，一段总统宣战或名人支持诈骗的假视频会在选举中引发混乱，并摧毁人们对视频证据的信任。
- 现实：在 2024 年全球选举中，这种特定的灾难并未发生。虽然确实出现了一些政治家的假视频，但普通人、记者和事实核查员都识破了它们。他们不需要超级计算机 AI 检测器来发现它们；人类的眼球就做到了。
- 研究：尽管如此，71% 的研究论文和数据集仍然完全集中在捕捉这些“名人”视频上。这就像工程师们仍在打磨他们的森林火灾灭火器。
实际发生的“厨房火灾”（T2, T3, T5）
当研究人员抬头仰望天空寻找大火时，真正的破坏正在三个鲜少受到关注的特定领域发生：
“厨房火灾”（同行生成的非自愿色情内容 NCII）：
- 是什么：普通人（通常是学生或熟人）利用 AI 在未经同意的情况下，制作其他普通人的虚假亲密图像。
- 规模：这种情况正在爆发。2025 年的报告显示，AI 生成的儿童性虐待材料和未经同意的亲密图像增加了260 倍。
- 差距：研究人员对此几乎没有检测器。这就像拥有森林灭火器，却没有家用烟雾探测器。
“煤气泄漏”（语音克隆诈骗）：
- 是什么：诈骗者利用 AI 克隆家庭成员或老板的声音，诱骗人们汇款。
- 规模：2025 年，这些诈骗造成了近9 亿美元的损失。一个著名案例涉及一名金融员工汇出了 2500 万美元，因为他以为正在与老板进行视频通话（而实际上那是 AI 虚拟形象）。
- 差距：大多数研究关注的是录音室中预先录制的音频。但这些诈骗发生在实时电话通话中，且连接质量很差。当前的检测器速度太慢，无法在电话线路上工作。
“隐藏管道”（即时通讯应用）：
- 是什么：虚假内容通过私人群组聊天（如 WhatsApp 或 Telegram）传播，加密技术将内容隐藏起来，使其无法被公众看到。
- 规模：这就是“厨房火灾”（亲密图像诈骗）传播的方式。
- 差距：当前的检测器是为“公开网络”（如 YouTube 或 Twitter）构建的。它们无法看到私人加密消息内部的内容。
为什么我们仍在关注错误的方向？
该论文问道：如果巨大的森林火灾没有发生，为什么我们仍在制造森林火灾灭火器？
它指出了研究界陷入困境的三个原因：
- “测试分数”陷阱：研究人员需要发表论文以获得工作和资金。为此，他们使用标准的“测试集”（如 FaceForensics++）。这些测试只包含名人。如果你试图测试针对语音诈骗或私人图像的检测器，就没有标准测试可用。这就像试图考取驾照，但唯一可用的测试是在赛道上驾驶赛车，尽管你需要在城市中驾驶小型货车。
- “隐私墙”：获取名人的照片来训练 AI 非常容易。但收集受害者的私人照片或诈骗通话录音是非法且不道德的。由于数据难以获取，研究人员避免从事这方面的工作。
- “头条新闻”效应：总统的假视频会上晚间新闻。而青少年在群组聊天中被欺凌的假视频则不会。研究人员和资助者追随头条新闻，而不是关注谁真正受到伤害的实际统计数据。
解决方案：重绘地图
该论文并非主张我们应完全停止研究名人深度伪造。相反，它认为我们需要重新平衡我们的努力。
它提出了三个新的研究议程：
- 实时电话检测器：构建 AI，使其能在不到一秒钟内监听实时电话通话并说出“等等，那个声音听起来是假的”，即使电话连接质量很差。
- 私人“家庭”检测器：开发在用户自己手机上运行的工具，在分享照片之前检查其是否为虚假，而无需将私人照片发送到中央服务器（以保护隐私）。
- 聊天应用防御：开发在不破坏加密的情况下检测私人群组聊天中虚假内容的方法。
核心结论
该论文总结道，打击深度伪造的最大问题并非我们的 AI 不够聪明。问题在于我们正使用 2017 年的地图来导航 2026 年的世界。我们为那些并未到来的威胁构建了检测器，而那些确实到来的威胁却在 unchecked（不受控制）地增长。是时候放下森林火灾灭火器，开始为真正危险所在的家园建造烟雾探测器了。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。