Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition
Ce texte utilise le roman *Frankenstein* de Mary Shelley comme cadre diagnostique pour soutenir que la reconnaissance faciale basée sur les plongements numériques exerce un « épistémicide computationnel » en démantelant et en réassemblant systématiquement le visage humain en un substitut numérique standardisé, rendant ainsi les correctifs éthiques réformistes insuffisants et nécessitant l'abolition de l'identité vectorisée comme fondement des droits.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
L'idée centrale : Ce n'est pas un bug, c'est la recette
La plupart des gens pensent que la reconnaissance faciale est dangereuse parce qu'elle fait des erreurs (comme identifier une personne noire comme étant quelqu'un d'autre). L'auteure, Nina da Hora, soutient que le problème est bien plus profond. Elle affirme que la technologie est dangereuse même lorsqu'elle fonctionne parfaitement.
L'argument central est que la reconnaissance faciale ne se contente pas de « lire » votre visage ; elle vous démantèle. Elle prend un être humain vivant et respirant, le découpe en morceaux, recoud ces morceaux pour en faire un code mathématique, puis traite ce code comme étant votre « vrai » moi. L'article appelle cela l'Épistémicide Computationnel — une façon sophistiquée de dire que le système détruit votre véritable identité pour la remplacer par une version simplifiée et gouvernable.
L'analogie de Frankenstein : Une méthode, pas une métaphore
D'habitude, on utilise Frankenstein de Mary Shelley comme un avertissement : « Si nous jouons à Dieu, les choses pourraient mal tourner. »
Cet article utilise Frankenstein différemment. Il dit que le monstre n'est pas un accident ; le monstre est le résultat voulu de la méthode.
- Le Créateur : Le système informatique et les institutions qui l'ont construit.
- Le Démantèlement : Le système décompose votre visage (en supprimant votre contexte, votre humeur, votre histoire).
- La Couture : Il recoud ces parties pour former une forme fixe et rigide (un vecteur).
- Le Monstre : Le code mathématique résultant.
La tragédie n'est pas que le monstre s'est échappé ; la tragédie est que la méthode de création ne peut pas se soucier de la personne qu'elle a créée. Le système n'a aucun moyen d'écouter la personne réelle si le code dit le contraire.
Comment fonctionne le pipeline : L'usine de « jus de visage »
Imaginez une usine qui transforme des fruits frais et complexes en un paquet de « jus de fruit » standardisé.
- Le fruit brut (Le vrai vous) : Vous êtes une personne complexe. Vous avez un visage, mais vous avez aussi un corps, vous êtes debout dans une foule, vous souriez ou froncez les sourcils, la lumière change, et vous avez une histoire. Vous êtes une surface vivante et relationnelle.
- Découper et éplucher (Détection et points de repère) : La machine saisit votre visage et le découpe de la photo. Elle ignore votre corps, vos vêtements et les gens autour de vous. Elle trouve cinq points spécifiques sur votre visage (comme les coins de vos yeux) et traite ces points comme la seule chose qui importe.
- Écraser dans un moule (Alignement) : La machine force votre visage à adopter une pose parfaite, de face. Si vous regardez vers le haut, vers le bas ou sur le côté, la machine déforme numériquement votre visage pour qu'il paraisse droit. Elle efface vos angles uniques.
- Mélanger dans un paquet (Embedding) : C'est l'étape la plus importante. La machine prend votre visage désormais parfait et droit, et le compresse en une liste de 512 nombres (un vecteur). Elle jette 99,9 % de l'information. Votre texture de peau, vos micro-expressions et votre âme ont disparu. Tout ce qui reste est un « paquet » conçu pour être comparé à d'autres paquets.
- Le test de goût (Comparaison) : Le système compare votre « paquet » à une base de données d'autres paquets. Il demande : « Ces deux paquets sont-ils assez proches ? » Si les chiffres sont similaires, il dit : « Oui, c'est vous. »
La Violence : Dans ce processus, le « paquet » (les nombres) devient la version autorisée de vous. Si le paquet dit que vous êtes un criminel, mais que le vrai vous dit : « Je suis innocent », le système s'en moque. Le système n'entend que le paquet.
Le piège du « Assez proche »
L'article soutient que le système opère selon une règle de « Assez proche ».
Imaginez un videur à l'entrée d'un club. Il a une liste de visages « bons ». Si votre visage ressemble assez au visage sur la liste, il vous laisse entrer. S'il ressemble assez à un « mauvais » visage, il vous expulse.
- Le problème est que « assez » est une supposition.
- Le système décide de ce que signifie « assez proche ».
- Si vous êtes une personne noire, et que le système a été construit principalement sur des visages blancs, votre visage pourrait ne jamais être « assez proche » de la liste des « bons », ou il pourrait être « assez proche » de la liste des « mauvais » par erreur.
Mais même si le videur est parfait, le système est toujours violent car il a décidé que seule la version « paquet » de vous compte. Il a décidé que votre visage réel et vivant est non pertinent.
Pourquoi le « réparer » ne fonctionnera pas
Beaucoup de gens suggèrent des solutions d'« IA éthique » : « Ajoutons simplement des photos plus diversifiées pour que le système apprenne mieux », ou « Abaissons le taux d'erreur ».
L'auteure dit que c'est comme essayer de réparer un monstre de Frankenstein en lui donnant de meilleurs vêtements.
- Le Problème : Le problème n'est pas les vêtements (les données) ; le problème est la chirurgie (la méthode).
- La Réalité : Tant que le système exige que vous soyez découpé, aplati et transformé en nombres pour être reconnu, il sera toujours violent. Vous ne pouvez pas avoir un système « équitable » qui nécessite d'être démantelé au préalable.
La Solution : Refus et Abolition
L'article conclut que nous ne devrions pas essayer de rendre la reconnaissance faciale « meilleure ». Nous devrions refuser de l'utiliser.
- Le Refus : Cela signifie dire : « Je ne vous laisserai pas me transformer en nombre. » C'est une exigée pour le droit d'être opaque (mystérieux) et de ne pas être entièrement lisible par une machine.
- L'Abolition : Cela signifie supprimer le système entièrement. Au lieu d'utiliser un ordinateur pour vérifier qui vous êtes, nous devrions utiliser les relations humaines, la confiance communautaire ou d'autres méthodes qui ne nécessitent pas de détruire votre identité pour prouver que vous existez.
Résumé
L'article soutient que la reconnaissance faciale est une expérience moderne de type Frankenstein. Elle prend un être humain, le découpe en données, et le recoud sous forme de code mathématique. Elle traite ensuite ce code comme la « vérité » sur la personne. Ce processus détruit la capacité de la personne à se définir elle-même. La seule façon d'arrêter cette violence n'est pas de rendre la machine plus intelligente, mais de cesser d'utiliser la machine pour définir qui nous sommes.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.