Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition

Die große Idee: Es ist kein Fehler, es ist das Rezept

Die meisten Menschen denken, Gesichtserkennung sei gefährlich, weil sie Fehler macht (wie etwa eine schwarze Person fälschlicherweise als jemand anderen zu identifizieren). Die Autorin, Nina da Hora, argumentiert, dass das Problem viel tiefer liegt. Sie sagt, dass die Technologie gefährlich ist, selbst wenn sie perfekt funktioniert.

Das Kernargument ist, dass Gesichtserkennung dich nicht einfach nur „liest“, sondern dich zerlegt. Sie nimmt einen lebendigen, atmenden Menschen, schneidet ihn in Stücke, näht diese Stücke zu einem mathematischen Code zusammen und behandelt diesen Code dann als das „wahre“ Ich. Das Papier nennt dies Computational Epistemicide (komputative Epistemizid) – eine schicke Art zu sagen, dass das System deine wahre Identität zerstört, um sie durch eine vereinfachte, regierbare Version zu ersetzen.

Die Frankenstein-Analogie: Eine Methode, keine Metapher

Normalerweise wird Mary Shelleys Frankenstein als Warnung verwendet: „Wenn wir Gott spielen, könnte etwas schiefgehen.“

Dieses Papier verwendet Frankenstein anders. Es sagt, das Monster ist kein Unfall; das Monster ist das beabsichtigte Ergebnis der Methode.

• Der Schöpfer: Das Computersystem und die Institutionen, die es gebaut haben.
• Die Zerlegung: Das System nimmt dein Gesicht auseinander (entfernt deinen Hintergrund, deine Stimmung, deine Geschichte).
• Das Zusammennähen: Es näht diese Teile wieder zu einer festen, starren Form zusammen (ein Vektor).
• Das Monster: Der daraus resultierende mathematische Code.

Die Tragödie ist nicht, dass das Monster entkommen ist; die Tragödie ist, dass die Methode der Erschaffung nicht in der Lage ist, sich um die Person zu kümmern, die sie erschaffen hat. Das System hat keine Möglichkeit, dem echten Menschen zuzuhören, wenn der Code etwas anderes sagt.

Wie die Pipeline funktioniert: Die „Gesichtssaft“-Fabrik

Stellen Sie sich eine Fabrik vor, die frisches, komplexes Obst in ein einzelnes, standardisiertes „Fruchtsaft“-Paket verwandelt.

1. Die rohe Frucht (Das echte Du): Du bist ein komplexer Mensch. Du hast ein Gesicht, aber du hast auch einen Körper, du stehst in einer Menge, du lächelst oder ziehst die Stirn in Falten, das Licht verändert sich, und du hast eine Geschichte. Du bist eine lebendige, relationale Oberfläche.
2. Schneiden und Schälen (Detektion & Landmarking): Die Maschine greift sich dein Gesicht und schneidet es aus dem Foto heraus. Sie ignoriert deinen Körper, deine Kleidung und die Menschen um dich herum. Sie findet fünf spezifische Punkte in deinem Gesicht (wie die Augenwinkel) und behandelt diese Punkte als das Einzige, was zählt.
3. In eine Form pressen (Alignment): Die Maschine zwingt dein Gesicht in eine perfekte, gerade nach vorne gerichtete Pose. Wenn du nach oben, unten oder zur Seite blickst, verformt die Maschine dein Gesicht digital, um es gerade aussehen zu lassen. Sie löscht deine einzigartigen Winkel.
4. Zu einem Paket vermischen (Embedding): Dies ist der wichtigste Schritt. Die Maschine nimmt dein nun perfektes, gerades Gesicht und komprimiert es in eine Liste von 512 Zahlen (einen Vektor). Sie wirft 99,9 % der Informationen weg. Deine Hauttextur, deine Mikroexpressionen und deine Seele sind verschwunden. Alles, was bleibt, ist ein „Paket“, das dazu bestimmt ist, mit anderen Paketen verglichen zu werden.
5. Der Geschmackstest (Vergleich): Das System vergleicht dein „Paket“ mit einer Datenbank anderer Pakete. Es fragt: „Sind diese beiden Pakete nah genug beieinander?“ Wenn die Zahlen ähnlich sind, sagt es: „Ja, das bist du.“

Die Gewalt: In diesem Prozess wird das „Paket“ (die Zahlen) zur autorisierten Version von dir. Wenn das Paket sagt, dass du ein Krimineller bist, aber das echte Du sagt: „Ich bin unschuldig“, dann kümmert sich das System nicht darum. Das System hört nur das Paket.

Die „Gut genug“-Falle

Das Papier argumentt, dass das System nach der Regel des „Gut genug“ arbeitet.

Stellen Sie sich einen Türsteher vor einem Club vor. Er hat eine Liste von „guten“ Gesichtern. Wenn dein Gesicht weitgehend wie das Gesicht auf der Liste aussieht, lässt er dich rein. Wenn es weitgehend wie ein „schlechtes“ Gesicht aussieht, wirft er dich raus.

• Das Problem ist, dass „weitgehend“ eine Vermutung ist.
• Das System entscheidet, was „gut genug“ bedeutet.
• Wenn du eine schwarze Person bist und das System hauptsächlich auf weißen Gesichtern aufgebaut wurde, wird dein Gesicht vielleicht nie „gut genug“ für die „gute“ Liste sein oder es wird aus Versehen „gut genug“ für die „schlechte“ Liste sein.

Aber selbst wenn der Türsteher perfekt ist, ist das System immer noch gewalttätig, weil es entschieden hat, dass nur die „Paket“-Version von dir zählt. Es hat entschieden, dass dein echtes, lebendiges Gesicht irrelevant ist.

Warum eine „Verbesserung“ nicht funktionieren wird

Viele Menschen schlagen Lösungen für „Ethische KI“ vor: „Lass uns einfach diversere Fotos verwenden, damit das System besser lernt“ oder „Lass uns die Fehlerrate senken“.

Die Autorin sagt, das sei so, als würde man versuchen, ein Frankenstein-Monster zu reparieren, indem man ihm bessere Kleidung gibt.

• Das Problem: Das Problem sind nicht die Kleider (die Daten); das Problem ist die Operation (die Methode).
• Die Realität: Solange das System verlangt, dass du zerschnitten, abgeflacht und in Zahlen verwandelt wirst, um erkannt zu werden, wird es immer gewalttätig sein. Man kann kein „gerechtes“ System haben, das voraussetzt, dass man zuerst demontiert wird.

Die Lösung: Verweigerung und Abschaffung

Das Papier kommt zu dem Schluss, dass wir nicht versuchen sollten, die Gesichtserkennung „besser“ zu machen. Wir sollten sich weigern, sie zu benutzen.

• Verweigerung (Refusal): Das bedeutet zu sagen: „Ich werde nicht zulassen, dass du mich in eine Zahl verwandelst.“ Es ist eine Forderung nach dem Recht, opak (geheimnisvoll) zu sein und nicht vollständig durch eine Maschine lesbar zu sein.
• Abschaffung (Abolition): Das bedeutet, das System ganz abzuschaffen. Anstatt einen Computer zu benutzen, um zu prüfen, wer man ist, sollten wir menschliche Beziehungen, gemeinschaftliches Vertrauen oder andere Methoden nutzen, die nicht erfordern, die eigene Identität zu zerstören, um seine Existenz zu beweisen.

Zusammenfassung

Das Papier argumentiert, dass Gesichtserkennung ein modernes Frankenstein-Experiment ist. Es nimmt einen Menschen, schneidet ihn in Daten und näht ihn als mathematischen Code wieder zusammen. Dann behandelt es diesen Code als die „Wahrheit“ über die Person. Dieser Prozess zerstört die Fähigkeit des Menschen, sich selbst zu definieren. Der einzige Weg, diese Gewalt zu stoppen, besteht nicht darin, die Maschine intelligenter zu machen, sondern aufzuhören, die Maschine zu benutzen, um zu definieren, wer wir sind.