Neuron-Level Interventions for Gendered and Gender-Neutral Generation in Language Models

Resumo Técnico: Intervenções ao Nível de Neurônio para Geração de Gênero e Gênero Neutro em Modelos de Linguagem

Definição do Problema
Grandes Modelos de Linguagem (LMs) frequentemente geram linguagem com gênero e reforçam estereótipos, mesmo quando estimulados por entradas neutras. Embora pesquisas anteriores tenham examinado extensivamente o viés de gênero através de uma lente binária (feminino vs. masculino), há uma compreensão limitada de como as formas de gênero neutro (ex: "they" no singular, cargos neutros) são codificadas nas representações do modelo. Além disso, as estratégias de mitigação existentes operam frequentemente ao nível da inferência (ex: prompting de poucos disparos/few-shot, restrições estruturadas) sem localizar explicitamente os mecanismos internos responsáveis pelo comportamento de gênero. A questão específica abordada é se sinais relacionados ao gênero podem ser localizados em neurônios específicos dentro das redes de alimentação direta (FFN) de Transformers e se esses neurônios podem ser manipulados causalmente para direcionar a geração para formas femininas, masculinas ou de gênero neutro, preservando o significado semântico.

Metodologia
Os autores propõem um framework de intervenção ao nível de neurônio envolvendo três estágios primários:

1. Ativação e Identificação de Neurônios:
   O estudo foca nos neurônios intermediários dentro dos blocos de Perceptron Multicamadas (MLP) de modelos Transformer. Para três categorias de gênero ($g \in \{masculino, feminino, neutro\}$), os autores calculam estatísticas de ativação para cada neurônio através de corpora de texto específicos de gênero. Para identificar neurônios fortemente ligados a um gênero específico minimizando a sobreposição, eles introduzem um Score de Exclusividade Combinada. Este score agrega três medidas complementares para cada neurônio $j$ na camada $l$:

   • Tamanho do Efeito (Cohen's $d$): A diferença padronizada na média das ativações entre o gênero alvo e todos os outros gêneros.
   • Diferença de Log-Odds ($\Delta$): A probabilidade relativa de ativação positiva para o gênero alvo versus outros.
   • Diferença de Média Relativa ($r$): A diferença proporcional na magnitude de ativação.
     Um neurônio é selecionado para um gênero específico apenas se atingir o maior score de exclusividade para aquela categoria e atender a limiares predefinidos em todas as três métricas.

2. Geração Controlada via Mascaramento:
   Para validar a causalidade, os autores realizam intervenções no tempo de inferência. Eles geram saídas "baseline" (base) e saídas "mascaradas". Na condição mascarada, aplicam uma estratégia de "manter apenas": para um gênero alvo $g$, os neurônios identificados para $g$ permanecem ativos, enquanto os neurônios identificados para os outros dois gêneros são mascarados (desativados). Isso testa se os neurônios identificados são suficientes para direcionar o modelo para a forma de gênero alvo.

3. Protocolo de Avaliação:
   A eficácia da intervenção é avaliada usando dois conjuntos de dados: GCGender (derivado de datasets binários existentes com versões neutras adicionadas) e InclusiveGender (curado usando dicionários de linguagem inclusiva). As métricas de avaliação incluem:

   • Análise Baseada em Palavras-Chave: Medindo a mudança na proporção de termos específicos de gênero (masculino, feminino, neutro) na saída em relação ao baseline.
   • Avaliação Humana: Avaliando a "Preservação da Ideia Geral" (retenção semântica) e a "Realização do Gênero Alvo" (correção da redação de gênero).

Principais Contribuições

• Análise de Gênero Tripartite: O trabalho estende estudos anteriores de gênero binário ao identificar e controlar explicitamente neurônios para três categorias: feminino, masculino e gênero neutro.
• Métrica de Identificação Inovadora: A introdução de um sistema de pontuação de exclusividade combinada para isolar neurônios que estão inequivocamente ligados a uma única categoria de gênero, abordando o desafio de ativações sobrepostas.
• Novos Datasets: A curadoria do InclusiveGender (8.600 sentenças por categoria) e a expansão do GCGender para incluir variantes de gênero neutro, validadas através de anotação humana para alta qualidade e baixa ambiguidade.
• Validação Causal: Um protocolo rigoroso demonstrando que o mascaramento de neurônios específicos altera causalmente a saída de gênero enquanto mantém a integridade semântica.

Resultos
Experimentos conduzidos no Llama-3.1-8B e Qwen2.5-7B produziram as seguintes descobertas:

• Distribuição de Camadas: Neurônios específicos de gênero não são distribuídos uniformemente. Eles se concentram pesadamente nas camadas iniciais (tipicamente camadas 0–3) dos modelos, com contribuições significativamente menores das camadas médias e posteriores. Isso contrasta com métodos concorrentes (LAPE, sNeuron-TST), que tendem a identificar neurônios em camadas posteriores.
• Precisão de Controle: O método proposto alcança um controle de gênero mais preciso do que os baselines existentes. Ao visar um gênero específico, o método consegue preservar ou aumentar a proporção de termos do gênero alvo enquanto suprime termos não alvos. Métodos concorrentes exibiram maior "vazamento", frequentemente inflando proporções de gêneros não relacionados (ex: aumentando termos neutros ao visar o masculino).
• Compromissos de Qualidade: A avaliação humana mostrou que o método de intervenção melhora significativamente a "Realização do Gênero Alvo" em comparação aos baselines. Embora tenha ocorrido uma pequena diminuição na "Preservação da Ideia Geral" dependente do anotador (atribuída a julgamentos subjetivos de mudanças de fraseologia), o significado central foi amplamente retido.
• Sensibilidade do Dataset: O estudo observou que conjuntos de treinamento menores (como no GCGender) podem levar a uma identificação de neurônios mais ruidosa, particularmente para a categoria neutra, sugerindo que o volume de dados impacta a precisão da filtragem de exclusividade.

Significância e Alegações
O artigo afirma fornecer uma abordagem simples, porém eficaz, para entender como o gênero é codificado em LMs. Ao demonstrar que as representações de gênero são localizadas em uma pequena fração de neurônios (frequentemente <0,5% do total de parâmetros) concentradas em camadas iniciais, o trabalho oferece uma explicação mecanística para a geração de gênero. Os autores afirmam que sua intervenção ao nível de neurônio fornece uma compreensão mais clara do comportamento interno do modelo do que estratégias de mitigação baseadas apenas na saída. Eles posicionam este trabalho como um passo fundamental para a intervenção de gênero controlada, oferecendo uma ferramenta tanto para avaliar a mitigação de viés baseada em neurônios quanto para potencialmente reduzir o viés de gênero em futuros implementações de modelos. Os autores mantêm a modéstia quanto às limitações, reconhecendo que suas descobertas estão atualmente restritas a modelos de 7–8 bilhões de parâmetros e que datasets menores podem introduzir ruído na seleção de neurônios.