Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition
Dit artikel gebruikt Mary Shelley's *Frankenstein* als een diagnostisch kader om te betogen dat op embeddings gebaseerde gezichtsherkenning "computationele epistemicide" bewerkstelligt door het menselijk gezicht systematisch te ontmantelen en te herassembleren tot een gestandaardiseerde numerieke proxy, waardoor het de hervormingsgezinde ethische oplossingen ontoereikend maakt en de afschaffing van vectorisatie van identiteit als basis voor rechten noodzakelijk maakt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Idee: Het is geen foutje, het is het recept
De meeste mensen denken dat gezichtsherkenning gevaarlijk is omdat het fouten maakt (zoals het onterecht identificeren van een zwart persoon als iemand anders). De auteur, Nina da Hora, betoogt dat het probleem veel dieper ligt. Zij stelt dat de technologie gevaarlijk is, zelfs wanneer deze perfect werkt.
Het kernargument is dat gezichtsherkenning je niet simpelweg "leest"; het ontmantelt je. Het neemt een levend, ademend menselijk wezen, snijdt dat wezen in stukken, naait die stukken weer aan elkaar tot een wiskundige code, en behandelt die code vervolgens als het "echte" jij. Het artikel noemt dit Computationele Epistemicide — een chique manier om te zeggen dat het systeem je ware identiteit vernietigt om deze te vervangen door een vereenvoudigde, bestuurbare versie.
De Frankenstein-analogie: Een methode, geen metafoor
Meestal wordt Mary Shelley's Frankenstein gebruikt als een waarschuwing: "Als we voor God spelen, kan er iets misgaan."
Dit artikel gebruikt Frankenstein anders. Het stelt dat het monster geen ongeluk is; het monster is het bedoelde resultaat van de methode.
- De Schepper: Het computersysteem en de instituties die het gebouwd hebben.
- De Ontleding: Het systeem haalt je gezicht uit elkaar (verwijdt je achtergrond, je stemming, je geschiedenis).
- Het Naaien: Het naait die onderdelen weer aan elkaar tot een vaste, rigide vorm (een vector).
- Het Monster: De resulterende wiskundige code.
De tragedie is niet dat het monster ontsnapte; de tragedie is dat de methode van creatie niet in staat is om te zorgen voor de persoon die het heeft gemaakt. Het systeem heeft geen manier om naar de echte persoon te luisteren als de code iets anders zegt.
Hoe de Pipeline werkt: De "Gezichtsappen" Fabriek
Stel je een fabriek voor die vers, complex fruit verandert in een enkel, gestandaardiseerd "sapzakje".
- Het Rauwe Fruit (Het Echte Jij): Jij bent een complex persoon. Je hebt een gezicht, maar je hebt ook een lichaam, je staat in een menigte, je lacht of frons, de belichting verandert, en je hebt een geschiedenis. Je bent een levend, relationeel oppervlak.
- Snijden en Schillen (Detectie & Landmarking): De machine grijpt je gezicht en snijdt het uit de foto. Het negeert je lichaam, je kleding en de mensen om je heen. Het vindt vijf specifieke punten op je gezicht (zoals de hoeken van je ogen) en behandelt die punten als het enige dat ertoe doet.
- In een Mal Persen (Alignment): De machine dwingt je gezicht in een perfecte, recht-vooruit pose. Als je omhoog, omlaag of opzij kijkt, vervormt de machine je gezicht digitaal om het recht te laten lijken. Het wist je unieke hoeken.
- Blenden tot een Zakje (Embedding): Dit is de belangrijkste stap. De machine neemt je nu perfecte, rechte gezicht en comprimeert het tot een lijst van 512 getallen (een vector). Het gooit 99,9% van de informatie weg. Je huidtextuur, je micro-expressies en je ziel zijn verdwenen. Wat overblijft is een "zakje" dat bedoeld is om vergeleken te worden met andere zakjes.
- De Proef (Vergelijking): Het systeem vergelijkt jouw "zakje" met een database van andere zakjes. Het vraagt: "Zijn deze twee zakjes dicht genoeg bij elkaar?" Als de getallen vergelijkbaar zijn, zegt het: "Ja, dat ben jij."
Het Geweld: In dit proces wordt het "zakje" (de getallen) de geautoriseerde versie van jou. Als het zakje zegt dat je een crimineel bent, maar de echte jij zegt: "Ik ben onschuldig", dan geeft het systeem niet om. Het systeem hoort alleen het zakje.
De "Bijna Goed Genoeg" Valstrik
Het artikel betoogt dat het systeem werkt volgens een regel van "Bijna Goed Genoeg".
Stel je een uitsmijter bij een club voor. Hij heeft een lijst met "goede" gezichten. Als jouw gezicht grotendeels lijkt op het gezicht op de lijst, laat hij je binnen. Als het grotendeels lijkt op een "slecht" gezicht, zet hij je eruit.
- Het probleem is dat "grotendeels" een gok is.
- Het systeem bepaalt wat "bijna goed genoeg" betekent.
- Als jij een zwart persoon bent en het systeem is voornamelijk gebouwd op witte gezichten, komt jouw gezicht misschien nooit "goed genoeg" overeen met de "goede" lijst, of het komt per ongeluk "goed genoeg" overeen met de "slechte" lijst.
Maar zelfs als de uitsmijter perfect is, is het systeem nog steeds gewelddadig omdat het heeft besloten dat alleen de "zakje"-versie van jou ertoe doet. Het heeft besloten dat jouw echte, levende gezicht irrelevant is.
Waarom "Verbeteren" Niet Zal Werken
Veel mensen stellen "Ethische AI"-oplossingen voor: "Laten we gewoon meer diverse foto's gebruiken zodat het systeem beter leert," of "Laten we de foutmarge verlagen."
De auteur zegt dat dit is alsof je probeert een Frankenstein-monster te repareren door het betere kleren te geven.
- Het Probleen: Het probleem is niet de kleding (de data); het probleem is de chirurgie (de methode).
- De Realiteit: Zolang het systeem vereist dat je wordt opengesneden, afgeplat en in getallen wordt veranderd om herkend te worden, zal het altijd gewelddadig zijn. Je kunt geen "eerlijk" systeem hebben dat vereist dat je eerst wordt ontmanteld.
De Oplossing: Weigering en Afschaffing
Het artikel concludeert dat we niet moeten proberen gezichtsherkenning "beter" te maken. We moeten weigeren het te gebruiken.
- Weigering: Dit betekent zeggen: "Ik laat je mij niet in een getal veranderen." Het is een eis voor het recht om opaak (mysterieus) te zijn en niet volledig leesbaar door een machine.
- Afschaffing: Dit betekent het systeem volledig af te schaffen. In plaats van een computer te gebruiken om te controleren wie je bent, zouden we menselijke relaties, gemeenschapsvertrouwen of andere methoden moeten gebruiken die niet vereisen dat je je identiteit vernietigt om te bewijzen dat je bestaat.
Samenvatting
Het artikel betoogt dat gezichtsherkenning een modern Frankenstein-experiment is. Het neemt een mens, snijdt die in data, en naait die weer aan elkaar als een wiskundige code. Het behandelt die code vervolgens als de "waarheid" over de persoon. Dit proces vernietigt het vermogen van de persoon om zichzelf te definiëren. De enige manier om dit geweld te stoppen, is niet door de machine slimmer te maken, maar door te stoppen met de machine te gebruiken om te definiëren wie we zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.