Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition

核心思想：不是漏洞，而是配方

大多数人认为面部识别之所以危险，是因为它会犯错（比如将一名黑人误认为是另一个人）。作者妮娜·达·霍拉（Nina da Hora）认为，问题远比这深刻得多。她指出，即使这项技术运行得完美无缺，它依然是危险的。

其核心论点是，面部识别并不只是“读取”你的脸；它在拆解你。它将一个活生生的、呼吸着的生命切割成碎片，将这些碎片缝合回一个数学代码中，然后将这个代码视为“真实的”你。论文称之为计算认识论灭绝（Computational Epistemicide）——这是一个高级术语，意指该系统通过用一个简化的、可管控的版本取代你的真实身份，从而摧毁了你的本质。

弗兰肯斯坦类比：是一种方法，而非隐喻

通常，人们使用玛丽·雪莱的《弗兰肯斯坦》作为一种警告：“如果我们扮演上帝，事情可能会出错。”

本文对《弗兰肯斯坦》的使用方式不同。它指出，怪物并非意外；怪物是这种方法本身预期的结果。

• 创造者： 计算机系统以及构建它的机构。
• 拆解： 系统将你的脸拆解开来（剥离你的背景、你的情绪、你的历史）。
• 缝合： 它将这些部分缝合回一个固定、僵硬的形状（一个向量）。
• 怪物： 最终生成的数学代码。

悲剧不在于怪物逃脱了；悲剧在于创造的方法本身无法关怀它所制造出的那个人。如果代码所说的情况与真实的人不符，系统就没有任何办法去倾听那个真实的人。

流水线是如何运作的：“人脸果汁”工厂

想象一个工厂，将新鲜、复杂的完整水果变成单一、标准化的“果汁包”。

1. 原始水果（真实的你）： 你是一个复杂的人。你有脸，但你还有身体，你站在人群中，你在微笑或皱眉，光线在变化，你还有一段历史。你是一个活生生的、具有关联性的表面。
2. 切割与削皮（检测与特征点定位）： 机器抓取你的脸并将其从照片中切出来。它忽略了你的身体、衣服和周围的人。它寻找你脸上的五个特定点（比如眼睛的角落），并将这些点视为唯一重要的东西。
3. 挤压进模具（对齐）： 机器强迫你的脸呈现出完美的、正对着前方的姿态。如果你在向上、向下或向侧面看，机器会通过数字手段扭曲你的脸，使之看起来是正面的。它抹去了你独特的角度。
4. 混合进包装袋（嵌入）： 这是最重要的步骤。机器将你那张现在变得完美且正面的脸压缩成一串由 512 个数字组成的列表（一个向量）。它丢弃了 99.9% 的信息。你的皮肤纹理、你的微表情以及你的灵魂都消失了。剩下的仅仅是一个用于与其他包装袋进行比较的“数据包”。
5. 品尝测试（比较）： 系统将你的“数据包”与数据库中的其他数据包进行比较。它会问：“这两个数据包是否足够接近？”如果数字相似，它就会说：“是的，那就是你。”

暴力之处： 在这个过程中，“数据包”（数字）成为了关于你的权威版本。如果数据包说你是罪犯，而真实的你却说“我是清白的”，系统并不在乎。系统只听从数据包。

“足够接近”的陷阱

论文指出，该系统基于**“足够接近”**的规则运行。

想象一个夜店保镖。他手里有一份“好人”脸部名单。如果你的脸看起来大致像名单上的脸，他就让你进去。如果你的脸看起来大致像一张“坏人”的脸，他就把你踢出去。

• 问题在于，“大致”是一种猜测。
• 系统决定了什么才叫“足够接近”。
• 如果你是一名黑人，而系统主要是基于白人脸部构建的，那么你的脸可能永远不会与“好人”名单“足够接近”，或者会被错误地判定为与“坏人”名单“足够接近”。

但即便保镖是完美的，这个系统仍然是暴力的，因为它认定只有“数据包”版本的你才是重要的。它认定你那真实的、活生生的脸是无关紧要的。

为什么“修复”行不通

许多人建议“伦理 AI”式的解决方案：“我们只需要更多样化的照片让系统学习得更好”，或者“降低错误率”。

作者说，这就像试图通过给弗兰肯斯坦怪物换上更好的衣服来修复它一样。

• 问题所在： 问题不在于衣服（数据），而在于手术（方法）。
• 现实情况： 只要这个系统仍要求你被切割、被压平、被转化为数字才能被识别，它就永远是暴力的。你无法拥有一个要求先将你拆解后再进行识别的“公平”系统。

解决方案：拒绝与废除

论文最后得出结论，我们不应该试图让面部识别变得“更好”。我们应该拒绝使用它。

• 拒绝： 这意味着说：“我不会让你把我变成一个数字。”这是一种对保持“不透明性”（神秘感）以及不被机器完全读取权利的要求。
• 废除： 这意味着彻底废除该系统。与其使用计算机来检查你是谁，我们应该使用人类关系、社区信任或其他不需要通过摧毁你的身份来证明你存在的方法。

总结

论文认为，面部识别是现代版的弗兰肯斯坦实验。它将人类转化为数据，将其切割，然后将其缝合成数学代码，再将该代码视为关于这个人的“真相”。这个过程摧毁了个人定义自我的能力。停止这种暴力的唯一方法不是让机器变得更聪明，而是停止使用机器来定义我们是谁。