想象你是一名侦探，试图抓捕一名伪造者。你的工作是审视一幅画作并判断：“这是一件真正的杰作，还是一件赝品？”
多年来，机器学习社区一直在构建高科技扫描仪来解决这个“深度伪造”（Deepfake）问题。他们利用庞大的“真实”画作（照片）库训练他们的 AI 侦探，以学习“真实”的模样。
问题所在： 本文作者认为，这些侦探正在使用过时的资料库。他们试图用大约十年前就已失效的“真实”定义，来识别现代的伪造品。
以下是他们观点的拆解，辅以简单的类比：
1. “旧资料库”问题
目前的 AI 侦探主要是在数据集中（照片库）进行训练的，而这些数据集大多已有 10 到 15 年的历史。
- 类比： 想象你试图通过展示福特 T 型车的图片来教学生识别现代汽车。学生基于木制车轮和敞篷结构学会了“汽车”长什么样。当你给他们看现代的特斯拉时，他们可能会感到困惑，因为它看起来不像他们书里的“真实”汽车。
- 现实： 论文指出，几乎所有当前的“真实”图像数据集都是老旧的、低分辨率的，并且经过了重度压缩（如 JPEG 格式）。它们无法代表我们今天拍摄的照片。
2. “智能相机”的转变
如今，超过 90% 的照片是用智能手机拍摄的。但这里有个转折：智能手机不仅仅是“拍摄”照片；它们是在“计算”照片。
- 类比： 在过去，相机就像一扇窗户。你透过它观看，光线直接投射到胶片上。图像是对现实的直接记录。
- 新现实： 现代智能手机更像是一个厨房搅拌机。你放入原材料（来自多个传感器的光线、多个摄像头、在瞬间拍摄的多个帧），手机内部的计算机（利用复杂的神经网络）将它们混合在一起，制作出一杯完美的冰沙（最终的照片）。
- 冲突： AI 检测器被训练用来识别由 AI 生成器制造的“假”图像。但现在，我们手机里出来的“真”图像，也是由手机内部的 AI 算法（神经网络）制造的。“真”与“假”之间的界限变得模糊，因为“真实”的照片本身就已经经过数字烹饪。
3. 失败的测试
作者们进行了一项简单的实验来证明他们的观点。
- 测试： 他们拿自己最好的“假图检测”AI 模型，向它展示两样东西：
- 来自互联网的老旧、低质量照片（AI 对此很熟悉）。
- 现实生活中用最新款 iPhone 拍摄的崭新、原始照片。
- 结果： AI 在处理旧照片时表现良好。但当看到新鲜的 iPhone 照片时，AI 开始感到困惑并频频出错。它无法区分“真实”的 iPhone 照片和“虚假”的 AI 图像，因为 iPhone 照片已经经过了手机自身 AI 的处理。
- 隐喻： 这就像一名保安，被训练去识别戴红帽子的人。他抓住了所有戴红帽子的人。但随后，警察队伍也开始戴红帽子。现在，保安无法分辨罪犯和警察了。
4. 哲学陷阱
论文认为，我们陷入了一个循环。
- 如果我们把“真实”定义为“未受 AI 触碰”，那么几乎没有任何照片是真实的了，因为我们的手机利用 AI 来调整光线、去除噪点并锐化图像。
- 如果我们把“真实”定义为“由人类拍摄”，那么这个定义也无济于事，因为手机 AI 承担了大部分工作。
作者的结论
这篇论文并没有提供一种新算法来修复检测器。相反，它发出了警报：我们需要停下来，重新思考整个游戏。
- 新数据： 我们需要包含现代、经智能手机计算的照片的新数据集，而不仅仅是那些老旧的低分辨率照片。
- 新定义： 我们需要就“真实”的含义达成一致。如果手机调亮了照片，它还算真实吗？如果 AI 去除了瑕疵，它就是假的吗？我们不能再仅仅寻找“数字指纹”了，因为“真实”的照片也有这些指纹。
- 检测器可能行不通： 作者建议，试图通过观察图像像素来检测伪造品可能是一条死胡同。相反，我们可能需要依赖其他方法，如数字水印或区块链签名，来证明图像的来源，而不是试图猜测它看起来是否“真实”。
简而言之： 我们用来抓捕骗子的工具正在失效，因为说真话的人（我们的手机）也开始使用与骗子相同的把戏。在我们能够抓住下一代伪造者之前，我们需要重写规则手册。
以下是 Janis Keuper 和 Margret Keuper 的立场论文《Deepfakes：我们需要重新思考“真实”图像的概念》的详细技术总结。
1. 问题陈述
该论文指出了当前 Deepfake 检测研究中存在的一个关键缺陷。尽管机器学习社区已开发出多种算法来检测“虚假”（AI 生成或篡改）图像，但这些方法依赖于一个有缺陷且过时的“真实”图像定义。
- 核心问题：当前的检测基准假设“真实”图像是来自物理世界的原始、未处理的捕获图像。然而，超过 90% 的现代照片是使用智能手机拍摄的，这些手机在保存图像之前，会使用神经网络（例如多帧融合、去噪、HDR、计算变焦）对图像进行重度处理。
- 后果：由于现代“真实”图像在结构上与生成式 AI 的算法计算方式相似，那些在旧的、低分辨率、未压缩数据集上训练出的当前检测器无法泛化到现实世界场景中。它们经常将现代智能手机照片误判为“虚假”（假阳性），或者无法检测出那些模仿现代处理流程的伪造图像。
2. 方法论与论证
作者并未提出新的检测算法，而是撰写了一篇立场论文，其结构围绕四个由文献综述和实验验证支持的实证命题展开。
A. 文献与数据集分析
作者分析了 12 个最先进（SOTA）的虚假检测基准（例如 GenImage、DIRE、UniversalFakeDetect）。
- 发现：这些基准严重依赖 10–15 年前创建的“真实”图像数据集（例如 ImageNet、CIFAR-10、CelebA）。
- 偏差：这些数据集包含低分辨率图像、特定的长宽比以及 JPEG 压缩伪影，无法反映现代成像技术。
B. 现代数据源分析（LAION-5B）
为了测试较新的数据集是否能解决问题，作者分析了Re-LAION 5B，这是一个包含 55 亿张图像的海量数据集。
- 焦点：他们筛选出由 iPhone 拍摄的图像（约占数据集的 20%），以隔离现代智能手机的处理过程。
- 发现：
- 年龄：该“最新”数据集中图像的平均年龄为 7–8 年；极少有图像是在 2020 年之后拍摄的。
- 分辨率：尽管来自现代手机，但这些图像经过重度下采样和预处理，缺乏当前设备原始数据的特征。
C. 实验验证（概念验证）
作者进行了实验，将最先进检测器（CNNSpot、DIRE、DCT、Fusing、GRAM、LGRAD）针对不同的数据分布进行测试：
- 基线：标准基准（在已知虚假生成器上表现高准确率）。
- LAION iPhone 图像：来自 Re-LAION 数据集的下采样图像。
- RAW iPhone 图像：在 iPhone 13mini 和 iPhone 15Pro（iOS 18.4.1）上，在不同光照条件下手动捕获的高保真 RAW 图像。
关键实验：他们比较了检测器在“良好”与“恶劣”光照条件下拍摄的 RAW 图像上的检测准确率。恶劣光照会触发手机图像信号处理器（ISP）中激进的自动图像融合和增强算法。
3. 关键结果
实验结果突显了当前检测器无法处理的严重分布偏移：
- 泛化失败：检测器在标准基准和下采样的 LAION 图像上表现良好，但在现代 iPhone 的 RAW 图像上准确率显著下降。
- 示例：DIRE 检测器在标准基准上的准确率约为 84%，而在 RAW iPhone 15Pro 图像上降至0%。
- 示例：DCT 检测器在 RAW 图像上的准确率从约 75% 降至20-27%。
- 光照敏感性：在恶劣光照条件下，手机应用重度基于神经网络的增强（例如 Deep Fusion），某些检测器的检测率下降了高达50%。
- 结论：训练中所用的“真实”图像与当今野外捕获的“真实”图像在统计上截然不同。检测器本质上是在学习区分“旧 JPEG"和“新 GAN"，而非区分“真实”与“虚假”。
4. 主要贡献
该论文做出了四项主要的技术和哲学贡献：
- “真实”数据差距的识别：它提供了实证证据，证明当前的“真实”图像数据集已过时、陈旧，且不能代表现代智能手机的计算摄影流程。
- 计算摄影的定义：它论证了现代手机并非“拍摄”照片，而是使用与生成式 AI 类似的神经网络“计算”照片，从而模糊了真实与虚假之间的技术界限。
- 失败实验证据：它证明了当面对现代、未处理（RAW）的智能手机图像时，最先进检测器会灾难性地失效，特别是在增强算法最活跃的弱光条件下。
- 语义重新定义的呼吁：它提出，“虚假”的定义必须从技术定义（被算法篡改）转向语义定义（带有有害意图的篡改）。如果所有图像都经过算法处理，那么技术上的区分就不再可行。
5. 意义与未来方向
该论文挑战了 Deepfake 检测领域的基本前提。
- 即时影响：它表明当前的基准具有误导性，且仅专注于算法检测的研究正因“真实”数据问题而触及天花板。
- 未来要求：
- 新数据集：社区需要动态的、大规模的现代智能手机图像数据集（包括 RAW 数据），以反映当前和未来的成像流程。
- 隐私与效用：主要挑战在于在尊重隐私（例如模糊人脸）的同时策划这些数据集，而不破坏“真实”图像的统计分布。
- 替代方案：如果无法获得一致的“真实”技术定义，作者建议转向来源技术（例如水印、区块链签名）而非检测，以验证图像的起源和完整性。
总结引语：
“如果我们想找到针对 DeepFake 检测的技术解决方案，我们需要重新思考‘真实’图像的概念。”
该论文得出结论：如果不解决过时的训练数据与现代计算摄影之间的差距，Deepfake 检测在现实世界应用中仍将是一个未解决的问题，且容易产生高假阳性率。
每周获取最佳 computer science 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题，再试一次？
无垃圾邮件，随时退订。