What Triggers my Model? Contrastive Explanations Inform Gender Choices by Translation Models

Este estudo investiga as origens do viés de gênero em modelos de tradução automática, utilizando explicações contrastivas para identificar quais palavras do texto em inglês desencadeiam escolhas de gênero específicas em alemão e espanhol, demonstrando uma sobreposição significativa entre as atribuições do modelo e as percepções humanas.

O essencial

Imagine que você tem um tradutor robô muito inteligente, mas que às vezes tem um "vício" ou um "preconceito" escondido. Por exemplo, se você pede para ele traduzir a frase "O médico chegou", em português ou alemão, ele pode decidir automaticamente que o médico é um homem, mesmo que a frase original não diga nada sobre o gênero.

Este artigo de pesquisa é como um detetive tentando descobrir: "O que exatamente faz o robô tomar essa decisão?"

Aqui está a explicação do estudo, usando analogias simples:

1. O Mistério: O Robô e o Espelho

Os pesquisadores queriam saber: quando o robô escolhe um gênero (masculino ou feminino) para uma palavra ambígua (como "escritor" ou "paciente"), quais palavras da frase original foram as culpadas por essa escolha?

• A Analogia: Pense na frase original como uma sala cheia de pessoas (palavras). O robô olha para essa sala e decide: "Ah, a pessoa que está falando é um homem!". O estudo quer saber: foi a cor da camisa de alguém? Foi o tom de voz? Foi o que alguém disse no fundo da sala?

2. A Ferramenta: O "Raio-X" de Contraste

Para descobrir isso, eles não apenas olharam para a tradução. Eles usaram uma técnica chamada Explicação Contrastiva.

• A Analogia: Imagine que você tem duas versões da mesma foto.
  • Foto A: O robô traduziu "O paciente" como "O médico" (masculino).
  • Foto B: O robô traduziu "O paciente" como "A médica" (feminino).
  • O estudo usa um "raio-X" para comparar essas duas fotos e ver quais pixels (palavras) mudaram para fazer o robô decidir uma coisa ou outra. Eles perguntam: "O que na frase original fez o robô pular para a opção masculina em vez da feminina?"

3. A Descoberta: O Robô e o Humano são "Primos" (mas não gêmeos)

Os pesquisadores compararam o que o robô achou importante com o que humanos reais acharam importante.

• O Resultado Surpreendente: Eles descobriram que o robô e os humanos olham para as mesmas pistas na maioria das vezes! Se os humanos acham que a palavra "escritor" soa mais masculina por causa de um adjetivo específico na frase, o robô também acha.
  • A Taxa de Acerto: Cerca de 85% das vezes, o robô e os humanos concordam sobre quais palavras são as "culpadas" pela decisão de gênero. É como se eles estivessem lendo o mesmo livro de instruções.

4. Onde Eles Diferem: O Robô é "Cego" para a Estrutura

Embora eles concordem sobre quais palavras são importantes, eles discordam sobre como essas palavras se conectam.

• A Analogia do Vizinho:
  • O Humano é como um vizinho que olha para a casa inteira. Ele percebe que a palavra que define o gênero pode estar longe, no "quarto" da frase, ou pode ser uma frase inteira ("fazendo piada de mim").
  • O Robô é como um vizinho que só olha para a porta da frente. Ele se importa muito mais com as palavras que estão imediatamente ao lado da palavra principal (como substantivos e verbos que estão "colados" gramaticalmente). Ele ignora o contexto mais distante que os humanos usam.

5. Por Que Isso Importa?

Até agora, a maioria das pesquisas apenas dizia: "O robô é preconceituoso". Este estudo vai um passo além e diz: "Vamos entender por que ele é preconceituoso."

• A Lição: Se sabemos que o robô está olhando para as palavras erradas (ou ignorando as certas) para decidir o gênero, podemos ensinar a ele a olhar para as pistas corretas, assim como ensinamos uma criança a não fazer estereótipos.

Resumo em uma Frase

Este estudo mostrou que, embora o tradutor robô e os humanos usem pistas semelhantes para decidir o gênero de uma pessoa, o robô é muito mais focado nas palavras vizinhas imediatas, enquanto os humanos olham para o contexto mais amplo. Entender essa diferença é o primeiro passo para consertar o preconceito de gênero nas traduções automáticas.

Resumo técnico

Título: O que Dispara o Meu Modelo? Explicações Contrastivas Informam Escolhas de Gênero por Modelos de Tradução

1. Problema e Contexto

A viés de gênero em Modelos de Tradução Automática Neural (NMT) e Grandes Modelos de Linguagem (LLMs) é um problema persistente. A maioria das pesquisas anteriores focou em medir o viés em cenários de desambiguação inequívoca (onde o gênero é claro através de pronomes ou referências anafóricas). No entanto, há uma lacuna significativa na compreensão de como os modelos tomam decisões de gênero em dados naturais e ambíguos, onde não há pronomes claros para guiar a tradução.

Além disso, a pesquisa em interpretabilidade (XAI) para viés de gênero carece de:

• Uma definição clara de limiar de pontuação (threshold) para determinar quais tokens de entrada são "influentes" o suficiente.
• Uma análise de quais palavras de origem (contexto) realmente "disparam" a escolha de um gênero específico na tradução, comparando isso com a percepção humana.

2. Metodologia

O estudo adota uma abordagem exploratória utilizando Explicações Contrastivas e Atribuição de Saliência (Saliency Attribution).

• Dados:

  • Utilizou-se um conjunto de 60 frases em inglês (EN) com referentes de gênero ambíguos (ex: "writer", "consumer") extraídas de dados naturais.
  • Tradução para Alemão (DE) e Espanhol (ES) usando o modelo de código aberto OPUS-MT.
  • Criação de pares de tradução contrastivos: a tradução original do modelo vs. uma tradução manual "espelho" (foil) com o gênero gramatical oposto (ex: Berater vs. Beraterin).
  • Anotação Humana: Os dados originais incluíam anotações de 20 humanos (de diferentes gêneros) indicando quais palavras no texto fonte influenciaram sua percepção do gênero do referente.

• Técnica de Interpretabilidade:

  • Cálculo de pontuações de saliência baseadas na norma do gradiente (gradient norm) da previsão do modelo em relação à entrada.
  • O método compara a probabilidade de gerar o token de gênero original versus o token de gênero oposto (contrastivo) para identificar quais tokens de entrada aumentam a probabilidade de um gênero específico.
  • Pré-processamento: Remoção do token do referente alvo, pontuação, stopwords e normalização L1 das pontuações de atribuição.

• Abordagens de Análise (para responder às Perguntas de Pesquisa):

  1. Top X% de palavras (5-25%).
  2. Apenas a palavra mais saliente (Top 1).
  3. Palavras acima de um limiar de pontuação absoluta (0.01–0.10).
  4. Subconjunto mínimo de palavras que atingem X% da pontuação total acumulada da frase.

• Métricas de Avaliação:

  • Precisão (Overlap): Medida da sobreposição entre as palavras salientes do modelo e as anotações humanas (Precision = |Atribuição ∩ Anotação| / |Atribuição|).
  • Análise Linguística: Distribuição de Classes Gramaticais (POS) e distância de dependência sintática entre a palavra saliente e o referente.

3. Contribuições Principais

1. Mapeamento de Origens do Viés: Move-se além da medição do viés para explorar suas origens, identificando quais tokens de contexto específico "disparam" escolhas de gênero em cenários ambíguos.
2. Validação de Explicações Contrastivas: Demonstra que explicações contrastivas são eficazes para entender decisões de modelos em dados naturais, não apenas em conjuntos de dados artificiais.
3. Comparação Modelo-Humano: Estabelece uma métrica de plausibilidade comparando a atenção do modelo com a percepção humana, revelando tanto sobreposições quanto divergências críticas.
4. Análise de Limiares: Investiga diferentes métodos de definição de limiares de saliência, propondo que a abordagem baseada em percentil relativo por frase (Top 15% da pontuação acumulada) oferece o melhor equilíbrio.

4. Resultados Chave

• Sobreposição Modelo-Humano:

  • Existe uma alta sobreposição entre as palavras que o modelo considera salientes e as que os humanos consideram influentes.
  • A melhor abordagem (Top 15% relativo da pontuação acumulada) alcançou uma precisão micro (micro-precision) de 0,851 (média entre EN→DE e EN→ES).
  • Isso sugere que, em termos de quais palavras o modelo olha, ele e os humanos são influenciados por contextos relativamente similares.

• Divergências Linguísticas (POS e Estrutura):

  • Classes Gramaticais (POS): Embora haja sobreposição de palavras, a distribuição difere. O modelo é predominantemente influenciado por Substantivos (Nouns) e Verbos. Em contraste, os humanos mostram uma distribuição mais equilibrada, com maior peso em Nomes Próprios, Adjetivos e Pronomes.
  • Distância de Dependência: O modelo tende a focar em palavras muito próximas do referente (distância de dependência 1 ou 2, ou seja, 43-42% dos casos). Os humanos, por outro lado, consideram um contexto mais amplo, incluindo palavras com distâncias de dependência maiores (3, 4, 5, etc.).

• Viés de Gênero Observado:

  • O modelo OPUS-MT traduziu a vasta maioria dos referentes ambíguos para o gênero masculino (88,3% para DE e 83,3% para ES), enquanto as anotações humanas majoritárias indicaram o feminino em 33,3% dos casos.

5. Significado e Conclusão

O estudo conclui que, embora os modelos de NMT e os humanos sejam influenciados por um conjunto similar de palavras de contexto para resolver ambiguidades de gênero, os mecanismos de processamento diferem:

• O modelo é mais "localista", dependendo fortemente de substantivos e verbos adjacentes ao referente.
• Os humanos utilizam um contexto sintático mais amplo e diversificado (incluindo nomes próprios e estruturas mais distantes).

Implicações:

• A interpretabilidade é uma ferramenta vital para diagnosticar não apenas se há viés, mas como ele se manifesta nas decisões do modelo.
• Para mitigar o viés de gênero, não basta apenas corrigir a saída; é necessário entender que o modelo ignora pistas contextuais mais sutis e distantes que os humanos utilizariam.
• O trabalho sugere que futuras intervenções devem focar em ensinar os modelos a considerar contextos sintáticos mais amplos e a reduzir a dependência excessiva de substantivos e verbos próximos para inferir gênero.

Limitações:

• Conjunto de dados pequeno (60 frases).
• Uso de um único modelo (OPUS-MT) e pares de idiomas limitados (EN-DE/ES).
• Baixa concordância inter-anotadores humanos (IAA), refletindo a subjetividade inerente à percepção de gênero.