Resumo Técnico: Sobre a Definição de Danos de Apagamento para NLP

Problema

A implementação de sistemas de Processamento de Linguagem Natural (NLP) levantou preocupações significativas em relação a danos representacionais, incluindo estereotipagem e discurso tóxico. Embora o "apagamento" (erasure) tenha sido reconhecido como um tipo específico de dano representacional, o campo carece atualmente de uma base conceitual clara e coesa para identificá-lo e medi-lo. As conceitualizações existentes de apagamento sofem de duas limitações primárias:

1. Amplitude excessiva: Definições como "falta de representação adequada" são vagas demais para orientar os profissionais no estabelecimento do que é necessário para medir o apagamento.
2. Especificidade excessiva: Algumas definições são sistematizadas para contextos particulares (por exemplo, marcação de imagens ou identidades de gênero não binárias), facilitando a medição nesses contextos específicos, mas dificultando a adaptação para outros cenários.

Além disso, como construtos como o "apagamento" são inobserváveis, sua presença deve ser inferida a partir de saídas observáveis do sistema. Sem uma base conceitual coesa, os instrumentos de medição existentes (métricas, benchmarks) são cada vez mais questionados quanto à sua validade, e os resultados são difíceis de interpretar entre diferentes contextos culturais ou de implantação.

Metodologia

Os autores empregam uma metodologia fundamentada na teoria da medição das ciências sociais, baseando-se especificamente no trabalho de Adcock e Collier (2001) e Wallach et al. (2025). O processo envolve a distinção entre um construto de fundo (background construct — a constelação ampla de significados associados a um conceito) e um construto sistematizado (uma reformulação mais estreita e dependente de contexto).

A abordagem dos autores consiste em três fases principais:

1. Levantamento de Componentes: Foi realizada uma revisão de uma amostra proposital de literatura sobre apagamento em áreas como NLP, aprendizado de máquina, comunicação midiática, antropologia linguística, sociologia, filosofia e direito. Esta revisão identificou componentes recorrentes na forma como o apagamento é conceituado e observou elementos ausentes ou implícitos.
2. Fundamentação em NLP: Sessões de discussão colaborativa foram realizadas para fundamentar esses componentes em tarefas específicas de NLP (ex: sumarização de texto). Os autores deliberaram se o apagamento poderia ser estabelecido em saídas específicas do sistema, considerando restrições da tarefa (ex: um sistema de sumarização não deve ser culpado por omitir informações não presentes na fonte).
3. Síntese e Conexão: Os componentes identificados foram agrupados por função e conectados com base em suas interações para formar uma definição estruturada. Essa definição foi então aplicada como um quadro analítico para examinar nove artigos de NLP existentes que explicitamente conceituam ou operacionalizam o apagamento, evidenciando tendências e lacunas na literatura atual.

Principais Contribuições

O artigo propõe uma definição estruturada de apagamento projetada para facilitar o processo de sistematização — o movimento de um construto de fundo amplo para um específico e operacionalizável. A definição identifica explicitamente seis componentes determinantes que os profissionais devem especificar para estabelecer se o apagamento ocorreu em um determinado contexto:

1. Alvo do Apagamento: Quem ou o quê acredita-se estar sendo apagado (ex: identidades específicas, variedades linguísticas, tópicos ou histórias).
2. Objeto de Análise: Onde o apagamento é observado (ex: saídas do sistema, rótulos de classificação ou texto gerado).
3. Condições de Fundo: Os padrões sociais, históricos ou passados considerados indesejáveis de serem reproduzidos. Estes formam a base normativa para a análise (ex: padrões históricos de mídia minimizando a violência policial).
4. Conhecimento de Base: O conhecimento ou informação que se espera que seja refletido no objeto de análise (ex: o conteúdo do documento de origem em tarefas de sumarização).
5. Alternativa: Uma versão contrafactual ou "melhor" do objeto de análise que contribui menos para a reprodução das condições de fundo, mantendo o reflexo do conhecimento de base.
6. Desenfase (De-emphasis): O mecanismo pelo qual o apagamento é observado no objeto de análise em comparação com a alternativa (ex: remoção de informação, ofuscação via voz passiva ou adição incorreta de informação).

Os autores definem o apagamento formalmente como: "uma desênfase de um alvo — onde esta desênfase ocorre em um objeto de análise que pretende refletir algum conhecimento de base — em relação a uma alternativa que reproduz menos um conjunto de condições de fundo do que o objeto de análise faz."

Resultados e Análise

Ao aplicar essa definição a nove artigos de NLP existentes, os autores identificaram vários padrões e lacunas nas conceitualizações atuais:

• Fundamentação Contextual: Alguns trabalhos existentes são apropriadamente fundamentados em contextos específicos (ex: identidades não binárias ou apagamento cultural), mas adaptar esses modelos de forma acrítica para novos cenários sem reespecificar os seis componentes pode ameaçar a validade.
• Dependência Distribucional: Muitas operacionalizações existentes dependem da observação de padrões ou diferenças sistemáticas (visões distribucionais) em vez de instâncias únicas. Isso ocorre frequentemente quando as condições de fundo estão subespecificadas, forçando os profissionais a inferir padrões a partir das saídas do sistema.
• Subespecificação das Condições de Fundo: Embora muitos trabalhos reconheçam que o apagamento reforça estruturas de poder ou assimetrias históricas, eles frequentemente falham em especificar as entidades ou padrões exatos envolvidos. Isso torna difícil justificar por que uma operacionalização específica (ex: correspondência com estatísticas populacionais) é apropriada.
• Falta de Alternativas Explícitas: O trabalho existente raramente articula explicitamente "melhores" alternativas. Os profissionais muitas vezes precisam inferir qual seria um comportamento preferível do sistema, o que dificulta o desenvolvimento de métricas precisas e estratégias de mitigação.
• Restrições do Conhecimento de Base: Em tarefas com conhecimento de base não restrito (ex: geração de persona), é difícil estabelecer se um conjunto gerado é representativo. Os autores sugerem que trabalhos futuros possam focar em tarefas com conhecimento de base mais restrito (ex: tradução automática) para isolar melhor o apagamento.

Significância e Alegações

O artigo alega que sua principal contribuição é fornecer uma base para profissionais sistematizarem o construto do apagamento. Ao esclarecer os componentes necessários (Alvo, Objeto, Condições de Fundo, Conhecimento de Base, Alternativa, Desênfase), a definição permite que os profissionais:

• Articulem e operacionalizem explicitamente o apagamento em seus contextos de uso e preocupações normativas específicas.
• Desenvolvam instrumentos de medição válidos (métricas, benchmarks) que estejam fundamentados em conceitualizações claras.
• Mapeiem e analisem as conceitualizações atuais de apagamento para identificar tendências e lacunas.

Os autores enfatizam que este trabalho não pretende resolver o problema do apagamento ou fornecer uma métrica universal única. Em vez disso, oferece um framework para facilitar o processo de sistematização, permitindo a criação de definições contextuais que sejam rigorosas o suficiente para suportar medições válidas e interpretações significativas de resultados. O artigo também nota limitações, reconhecendo que o apagamento pode ocorrer nos processos de design e implantação do sistema, e não apenas em suas saídas, e que a definição proposta foca atualmente nestas últimas.