Deepfakes at Face Value: Image and Authority
该论文指出，深度伪造（Deepfakes）的错误性不仅在于造成实际伤害，更在于其通过算法征用生物特征 usurp 了个人对自身形象及身份治理的合法权威，从而侵犯了我们决定自身行为来源的特定权利。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
这篇文章探讨了一个非常现代且令人不安的问题：为什么制作“深度伪造”（Deepfake）视频本身就是错的，哪怕这个视频从未被发布，甚至受害者本人都不知道它的存在？
作者詹姆斯·拉维·柯克帕特里克（James Ravi Kirkpatrick）认为，现有的解释（比如“这会伤害受害者的名誉”或“这会让人受骗”）都不够全面。他提出了一个更核心的观点：这关乎“主权”和“作者权”。
为了让你更容易理解，我们可以把这篇文章的核心思想拆解成几个生动的比喻：
1. 核心问题：不仅仅是“伤害”，而是“越界”
想象一下，你有一个私人花园（你的脸、声音和形象）。
- 传统的观点（伤害论）：如果有人闯进你的花园踩坏了花，或者把垃圾扔在那里，那是错的，因为花被毁了（造成了伤害）。
- 本文的观点（权威论）：即使那个人只是悄悄溜进花园，摘了一朵花放在口袋里，然后立刻离开，没有踩坏任何草，也没有让你知道。这依然是错的。
- 为什么？不是因为他毁了花，而是因为他越过了你的边界。他未经你允许，擅自拿走了属于你的一部分。他剥夺了你决定“谁可以碰我的花”的权力。
深度伪造（Deepfake）就是这种“偷花”的行为。 即使视频只存在于黑客的电脑里，从未公开，制造者依然侵犯了你作为自己形象“唯一主人”的权利。
2. 两个关键比喻：支票与画布
为了说明为什么“没造成伤害”也是错的，作者用了两个精彩的比喻：
比喻一：伪造支票（Forged Cheque）
想象你欠朋友 50 英镑。朋友为了省事，偷了你的支票本，模仿你的签名，写了一张 50 英镑的支票给自己，然后去银行兑现了。
- 事实：你确实欠他 50 英镑，钱也没少，甚至交易是“真实”的。
- 错误在哪里？ 错误不在于钱，而在于签名。
- 只有你有权决定这笔钱怎么转。朋友篡夺了你的签字权。
- 即使他后来出了车祸没去取钱，或者你根本不知道这件事，他的行为依然是伪造。他偷走了你作为“交易发起者”的权威。
深度伪造同理：哪怕视频里的内容是真的（比如一个色情明星确实演过类似的场景），但用 AI 把她的脸“贴”上去生成新视频，就是伪造了她的“数字签名”。制造者偷走了她决定“我的脸在什么场景下出现”的权力。
比喻二：画肖像 vs. 克隆人（Depiction vs. Simulation）
你可能会问：“那画家画我，或者我拿你的照片当参考画画，也是错的吗？”
作者在这里做了一个重要的区分：
- 画肖像（Permissible）：画家看着你，用他的手和大脑，在画布上画出你的样子。
- 这是诠释。画布上的每一笔都来自画家的努力。你只是“模特”，画家是“作者”。这就像你允许别人看你，然后别人用自己的方式描述你。
- 深度伪造（Wrongful）：AI 算法直接扫描你的脸，把你的生物特征当作“原材料”，像 3D 打印一样“打印”出一个新的视频。
- 这是征用（Conscription）。AI 没有用自己的创造力，而是把你的脸变成了机器的一部分。
- 这就好比：画家是翻译你的形象；而深度伪造是劫持了你的形象，强迫你的脸去表演你从未做过的动作。
结论：我们有权阻止别人“劫持”我们的脸去表演，但我们不能阻止别人“画”我们或“想”我们。
3. 为什么“隐私”和“伤害”不够用？
- 关于隐私：如果受害者已经把照片发到了网上（公开了），那还算侵犯隐私吗？
- 作者说：不算。因为照片已经公开了。但公开照片不等于公开了“使用权”。就像你把家门钥匙给了朋友，不代表朋友可以拿你的钥匙去配一把新的，然后假装是你去银行取钱。
- 关于伤害：如果视频没人看，受害者也没受伤，那为什么还是错的？
- 因为这是一种态度上的傲慢。制造者传递了一个信息：“你的脸是我的资源，我想怎么用就怎么用，不需要你的同意。”这种对他人的不尊重，本身就是错的，就像有人在你家墙上乱涂乱画，哪怕你看不见，那也是对你领地的侵犯。
4. 总结：我们要争取什么权利？
这篇文章呼吁我们建立一种新的观念：“算法征用权”（Right Against Algorithmic Conscription）。
- 核心权利：我们要拥有对自己生物特征（脸、声音）的最终解释权和授权权。
- 这意味着：
- 别人可以画你、模仿你、甚至用 AI 帮你做公益（比如让失语者重新说话），但前提是必须经过你的同意。
- 如果没有你的同意，哪怕只是偷偷在电脑里生成一个你的假视频，也是一种道德上的犯罪，因为它剥夺了你作为自己“数字生命”的作者（Author）。
一句话总结：
深度伪造之所以可怕，不仅仅是因为它能骗人，更是因为它偷走了我们对自己形象的控制权。就像有人偷了你的笔，用你的名字写了一封信，哪怕信的内容是真的，或者信没人看，那封信依然不是出自你手，这就是对“你是谁”的根本侵犯。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。