Frankenstein in the Pipeline: Computational Epistemicide in Facial Recognition

A Grande Ideia: Não é um Erro, é a Receita

A maioria das pessoas pensa que o reconhecimento facial é perigoso porque comete erros (como identificar erroneamente uma pessoa negra como outra pessoa). A autora, Nina da Hora, argumenta que o problema é muito mais profundo. Ela diz que a tecnologia é perigosa mesmo quando funciona perfeitamente.

O argumento central é que o reconhecimento facial não apenas "lê" seu rosto; ele te desmonta. Ele pega um ser humano vivo e respirante, corta-o em pedaços, costura esses pedaços de volta em um código matemático e, então, trata esse código como sendo o "você" real. O artigo chama isso de Epistemicídio Computacional — uma forma sofisticada de dizer que o sistema destrói sua identidade verdadeira para substituí-la por uma versão simplificada e governável.

A Analogia de Frankenstein: Um Método, Não uma Metáfora

Normalmente, as pessoas usam o Frankenstein de Mary Shelley como um aviso: "Se brincarmos de Deus, as coisas podem dar errado".

Este artigo usa o Frankenstein de forma diferente. Ele diz que o monstro não é um acidente; o monstro é o resultado pretendido do método.

• O Criador: O sistema de computador e as instituições que o construíram.
• O Desmonte: O sistema pega seu rosto e o desmonta (removendo seu contexto, seu humor, sua história).
• A Costura: Ele costura essas partes de volta em uma forma fixa e rígida (um vetor).
• O Monstro: O código matemático resultante.

A tragédia não é que o monstro escapou; a tragia é que o método de criação não consegue se importar com a pessoa que ele criou. O sistema não tem como ouvir a pessoa real se o código disser algo diferente.

Como o Pipeline Funciona: A Fábrica de "Suco de Rosto"

Imagine uma fábrica que transforma frutas frescas e complexas em um pacote único e padronizado de "suco de fruta".

1. A Fruta Crua (O Você Real): Você é uma pessoa complexa. Você tem um rosto, mas também tem um corpo, está parado em uma multidão, está sorrindo ou franzindo a testa, a iluminação está mudando e você tem uma história. Você é uma superfície viva e relacional.
2. Cortar e Descascar (Detecção e Pontos de Referência): A máquina agarra seu rosto e o corta da foto. Ela ignora seu corpo, suas roupas e as pessoas ao seu redor. Ela encontra cinco pontos específicos no seu rosto (como os cantos dos seus olhos) e trata esses pontos como a única coisa que importa.
3. Esmagar em um Molde (Alinhamento): A máquina força seu rosto a assumir uma pose perfeita, de frente. Se você estiver olhando para cima, para baixo ou para o lado, a máquina distorce digitalmente seu rosto para que pareça estar de frente. Ela apaga seus ângulos únicos.
4. Misturar em um Pacote (Embedding): Este é o passo mais importante. A máquina pega seu rosto agora perfeito e de frente e o comprime em uma lista de 512 números (um vetor). Ela joga fora 99,9% da informação. Sua textura de pele, suas microexpressões e sua alma se foram. Tudo o que resta é um "pacote" projetado para ser comparado com outros pacotes.
5. O Teste de Sabor (Comparação): O sistema compara seu "pacote" com um banco de dados de outros pacotes. Ele pergunta: "Estes dois pacotes são próximos o suficiente?". Se os números forem semelhantes, ele diz: "Sim, é você".

A Violência: Neste processo, o "pacote" (os números) torna-se a versão autorizada de você. Se o pacote diz que você é um criminoso, mas o você real diz: "Eu sou inocente", o sistema não se importa. O sistema só ouve o pacote.

A Armadilha do "Chega de Ser"

O artigo argumenta que o sistema opera sob uma regra de "Chega de Ser" (Close Enough).

Imagine um segurança em uma boate. Ele tem uma lista de rostos "bons". Se o seu rosto se parece mais ou menos com o rosto da lista, ele deixa você entrar. Se o seu rosto se parece mais ou menos com um rosto "ruim", ele te expulsa.

• O problema é que "mais ou menos" é um palpite.
• O sistema decide o que significa ser "chega de ser".
• Se você é uma pessoa negra, e o sistema foi construído majoritariamente com rostos brancos, seu rosto pode nunca ser "chega de ser" para a lista "boa", ou pode ser "chega de ser" para a lista "ruim" por engano.

Mas mesmo que o segurança seja perfeito, o sistema ainda é violento porque decidiu que apenas a versão "pacote" de você importa. Ele decidiu que seu rosto real e vivo é irrelevante.

Por que "Consertar" Não Funcionará

Muitas pessoas sugerem soluções de "IA Ética": "Vamos apenas conseguir fotos mais diversas para que o sistema aprenda melhor" ou "Vamos diminuir a taxa de erro".

A autora diz que isso é como tentar consertar um monstro de Frankenstein dando-lhe roupas melhores.

• O Problema: O problema não são as roupas (os dados); o problema é a cirurgia (o método).
• A Realidade: Enquanto o sistema exigir que você seja cortado, achatado e transformado em números para ser reconhecido, ele sempre será violento. Você não pode ter um sistema "justo" que exige que você seja desmontado primeiro.

A Solução: Recusa e Abolição

O artigo conclui que não devemos tentar tornar o reconhecimento facial "melhor". Devemos recusar o uso dele.

• Recusa: Isso significa dizer: "Eu não vou deixar você me transformar em um número". É uma demanda pelo direito de ser opaco (misterioso) e não totalmente legível por uma máquina.
• Abolição: Isso significa eliminar o sistema por completo. Em vez de usar um computador para verificar quem você é, devemos usar relacionamentos humanos, confiança comunitária ou outros métodos que não exijam a destruição da sua identidade para provar que você existe.

Resumo

O artigo argumenta que o reconhecimento facial é um experimento moderno de Frankenstein. Ele pega um ser humano, corta-o em dados, costura-o novamente como um código matemático e, então, trata esse código como a "verdade" sobre a pessoa. Esse processo destrói a capacidade da pessoa de definir a si mesma. A única maneira de parar essa violência não é tornar a máquina mais inteligente, mas sim parar de usar a máquina para definir quem somos.