Deepfakes at Face Value: Image and Authority

1. O Problema

O artigo aborda uma lacuna nas discussões éticas atuais sobre deepfakes (mídia sintética gerada por aprendizado profundo que superpõe ou gera a semelhança de alguém).

• Limitação das Teorias Existentes: A maioria das explicações morais sobre a natureza errônea dos deepfakes baseia-se em teorias de dano (harm-based accounts). Essas teorias argumentam que deepfakes são errados porque causam danos psicológicos, reputacionais, financeiros ou epistêmicos (desconfiança na verdade).
• O Dilema do "Erro Inofensivo" (Bare Wronging): O autor identifica que as teorias baseadas em dano são incompletas. Elas não conseguem explicar por que a criação de um deepfake é moralmente errada em cenários onde nenhum dano ocorre e nenhum interesse não-normativo (como bem-estar ou reputação) é prejudicado.
  • Exemplo central: O caso de um deepfake pornográfico criado para uso estritamente privado, onde a vítima nunca descobre, não há distribuição e, portanto, nenhum dano tangível ou reputacional é causado. A intuição moral sugere que o ato ainda é errado, mas as teorias de dano falham em justificar isso.

2. Metodologia

O artigo utiliza uma abordagem de filosofia moral analítica, estruturada da seguinte forma:

• Análise de Casos de Pensamento: O autor constrói e analisa cenários hipotéticos rigorosos (como "Pornographic Deepfake" e "Pornstar's Deepfake") para testar a robustez das teorias existentes.
• Crítica Comparativa: O texto avalia e refuta várias teorias concorrentes:
  • Teoria do Dano: Falha em explicar erros sem consequências negativas.
  • Opressão de Gênero: Embora relevante sistemicamente, não explica o erro constitutivo em casos individuais que não se enquadram nesse sistema (ex: um homem rico e branco).
  • Direitos de Privacidade e Identidade Social: Teorias que focam no controle da informação ou na "plágio de persona digital" falham em explicar casos onde a informação já é pública ou onde o deepfake é uma representação verídica de um evento passado (ex: um ator de filmes adultos tendo sua imagem usada para recriar uma cena real que ele já realizou).
• Desenvolvimento Teórico: O autor propõe e defende uma nova estrutura teórica baseada no conceito de "interesses normativos" e "autoridade", inspirado em filósofos como David Owens e Arthur Ripstein.

3. Contribuições Principais

A contribuição central do artigo é a formulação da "Visão do Interesse de Autoridade" (Authority Interest View).

• A Tese Central: Deepfakes são moralmente errados não apenas quando causam dano, mas quando violam o interesse legítimo do sujeito em ter autoridade sobre a governança de sua identidade biométrica.
• O Direito contra a Conscrição Algorítmica: O autor defende que temos um direito específico contra a "conscrição algorítmica" de nossa identidade. Isso significa que nossa imagem e dados biométricos não devem ser tratados como recursos gerativos passivos para que terceiros criem novas performances sintéticas sem nosso consentimento.
• Distinção entre Proveniência e Conteúdo: O erro não reside necessariamente no conteúdo falso (decepção), mas na proveniência da agência. Criar um deepfake usurpa a autoridade do sujeito de ser a única origem (autor) das ações e performances atribuídas à sua identidade.
• Diferenciação de Outras Formas de Apropriação: O artigo estabelece uma distinção técnica crucial:
  • Depictação (Permitida): Pinturas, desenhos, caricaturas ou referências mentais privadas. Nestes casos, o artista interpreta o sujeito através de sua própria habilidade e mediação. A fonte da representação é o artista.
  • Simulação Algorítmica (Errada): Deepfakes. O algoritmo usa os dados biométricos do sujeito como "matéria-prima" para gerar uma nova performance. A fonte da representação é o sujeito (falsamente atribuída), mas a execução é do criador. Isso viola a integridade da agência do sujeito.
• Aplicação a Outros Casos: A teoria é estendida para explicar a natureza do erro em imagens íntimas não consensuais (NCIIs), mesmo quando o conteúdo não é novo, mas a autorização de distribuição foi violada.

4. Resultados e Argumentação

• Resolução do "Erro Inofensivo": A Visão do Interesse de Autoridade explica satisfatoriamente por que a criação privada de deepfakes é errada. O erro é constitutivo, não causal. O ato em si viola a fronteira normativa da autonomia do sujeito, tratando-o como um recurso para ser manipulado, independentemente das consequências futuras.
• Analogia do Cheque Falsificado: O autor utiliza a analogia de um cheque forjado para uma dívida real. Mesmo que a dívida exista e o valor seja correto (conteúdo verídico), o ato de forjar a assinatura (usurpar a autoridade de autorizar a transação) é um erro moral. Da mesma forma, usar a face de alguém para gerar um vídeo, mesmo que o vídeo seja verídico em relação a um evento passado, é uma usurpação da autoridade de autorizar o uso daquela imagem.
• Consentimento e Benefícios: A teoria permite que deepfakes sejam moralmente aceitáveis se houver consentimento. Isso abre espaço para usos benéficos, como a regeneração de voz para pacientes com ELA, reviver atores falecidos (com permissão dos herdeiros) ou fins educacionais, desde que a autoridade do sujeito sobre sua imagem seja respeitada.
• Hierarquia de Danos: Os danos tradicionais (reputação, psicológico) são reclassificados como danos secundários que derivam da violação primária da autoridade. A violação da autoridade é o erro fundamental; o dano é uma consequência agravante, mas não a fonte da moralidade do erro.

5. Significado

O artigo tem implicações profundas para a ética da IA e a legislação futura:

• Mudança de Paradigma Legal: Sugere que a legislação sobre deepfakes não deve focar apenas na prevenção de danos (como difamação ou fraude), mas deve proteger o direito de autonomia e autoridade sobre a própria imagem. A lei deve reconhecer que a criação não consensual de mídia sintética é um erro intrínseco, independentemente de ser distribuída ou causar dano imediato.
• Proteção da Agência Humana: O trabalho reforça a ideia de que, na era digital, a integridade da "agência" (a capacidade de ser o autor de suas próprias ações e representações) é um valor fundamental que a tecnologia não deve violar.
• Base para Regulamentação: Oferece um fundamento filosófico robusto para proibições legais que não dependam da prova de dano, focando no respeito à pessoa e à sua capacidade de controlar como sua identidade biométrica é utilizada como recurso computacional.

Em suma, o artigo argumenta que deepfakes representam uma forma de "consciência algorítmica" que rouba a autoria humana, e que a resposta moral a isso deve ser a defesa da autoridade do indivíduo sobre sua própria representação digital.