💬 NLP

Bi-directional Bias Attribution: Debiasing Large Language Models without Modifying Prompts

Este artigo propõe uma estrutura que detecta palavras indutoras de estereótipos e atribui o viés a neurônios específicos em grandes modelos de linguagem, permitindo um debiasing eficaz por meio de intervenção direta na ativação sem exigir ajuste fino ou modificações de prompts.

Autores originais: Yujie Lin, Kunquan Li, Yixuan Liao, Xiaoxin Chen, Jinsong Su

Publicado 2026-02-05

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Yujie Lin, Kunquan Li, Yixuan Liao, Xiaoxin Chen, Jinsong Su

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine os Grandes Modelos de Linguagem (LLMs) como chefs incrivelmente talentosos que leram quase todas as receitas e histórias já escritas. Eles podem preparar pratos incríveis (respostas) para qualquer pedido. No entanto, como aprenderam com o mundo real, às vezes eles adicionam acidentalmente "ingredientes secretos" de viés. Por exemplo, se você perguntar "Quem é o médico?", eles podem automaticamente assumir que o médico é um homem, ou se você perguntar sobre uma "enfermeira", eles podem assumir que é uma mulher. Essas não são escolhas maliciosas; são apenas o modelo repetindo padrões que viu em seus dados de treinamento.

O artigo que você forneceu, intitulado "Bi-Directional Bias Attribution" (Atribuição de Viés Bidirecional), propõe uma nova maneira de corrigir esses "ingredientes secretos" sem ter que retreinar todo o chef ou mudar a forma como os clientes fazem os pedidos.

Aqui está uma explicação simples de como eles fizeram isso:

1. O Problema dos Métodos Antigos

Geralmente, para corrigir um chef enviesado, você tem duas opções ruins:

Retreinamento: Você faz o chef praticar com novos livros de receitas perfeitamente equilibrados. Isso leva uma enorme quantidade de tempo, dinheiro e energia (poder computacional).
Engenharia de Prompt: Você diz ao cliente: "Por favor, pergunte ao chef de uma maneira muito específica para garantir que ele não seja enviesado". Isso é irritante para o usuário e torna a conversa desajeitada.

Os autores queriam uma solução que corrigisse os hábitos internos do chef sem fazê-lo praticar novamente ou mudar a forma como os clientes falam com ele.

2. Passo Um: Encontrando as "Palavras Gatilho" (Deixas de Estereótipo)

Primeiro, os pesquisadores precisavam descobrir quais palavras específicas em uma frase fazem o modelo se tornar enviesado.

A Analogia: Imagine um interruptor de luz que, quando acionado, liga um pensamento enviesado específico. Os pesquisadores queriam encontrar exatamente quais palavras agem como esse interruptor.
Como fizeram: Eles testaram milhares de adjetivos e substantivos (como "gentil", "médico", "guerreiro") para ver quais faziam as previsões do modelo se tornarem muito estreitas e previsíveis (baixa "entropia"). Se uma palavra como "cuidadora" fazia o modelo ter 99% de certeza de que a pessoa era do sexo feminino, essa palavra era marcada como uma "Deixa de Estereótipo".

3. Passo Dois: O Trabalho de Detetive "Bidirecional"

Uma vez encontradas as palavras gatilho, eles precisavam descobrir onde dentro do cérebro do modelo esses vieses viviam. O modelo é feito de milhões de pequenas unidades de processamento chamadas neurônios. Os autores usaram duas estratégias de detetive diferentes para encontrar os neurônios "ruins":

Atribuição de Viés Direta (O Detetive da "Previsão"):
- O Cenário: O modelo vê uma palavra enviesada (como "cuidadora") e prevê um gênero.
- O Método: Eles rastrearam o caminho da palavra até a previsão para ver quais neurônios específicos estavam fazendo o trabalho pesado para fazer aquela suposição enviesada.
Atribuição de Viés Inversa (O Detetive da "Diferença"):
- O Cenário: Eles comparam como o modelo reage a "um enfermeiro homem" versus "uma enfermeira mulher".
- O Método: Eles procuraram por neurônios que disparavam de forma diferente dependendo do gênero, identificando as partes do cérebro que criam a lacuna entre os dois grupos.

Ao usar ambos os detetives, eles obtiveram um mapa completo de exatamente quais neurônios eram responsáveis pelo viés.

4. Passo Três: O "Botão de Silenciar" (Intervenção)

Agora que sabiam exatamente quais neurônios estavam causando problemas, eles não deletaram esses neurônios ou retreinaram o modelo. Em vez disso, eles simplesmente congelaram esses neurônios específicos.

A Analogia: Imagine um coro barulhento onde alguns cantores estão cantando fora do tom. Em vez de demitir todo o coro ou ensiná-los a cantar novamente, você apenas coloca um botão de mudo nos cantores específicos que estão desafinados.
O Resultado: Eles definiram a ativação desses "neurônios enviesados" para um valor constante e neutro. Isso impede que eles empurrem o modelo em direção a um estereótipo, mas o resto do modelo (os bons cantores) continua funcionando perfeitamente.

5. Os Resultados

Os pesquisadores testaram isso em três modelos populares (Llama-3.1, Llama-3.2 e Mistral).

Equidade: Os modelos tornaram-se muito mais justos. Quando questionados sobre médicos ou enfermeiros, eles pararam de assumir gêneros específicos e começaram a prever de forma mais equilibrada (mais próximo de uma divisão de 50/50).
Desempenho: Crucialmente, os modelos não ficaram "mais burros". Eles ainda entendem bem a linguagem e conseguem responder perguntas corretamente. O "botão de mudo" apenas silenciou o viés, não a inteligência.

Resumo

Este artigo introduz uma abordagem "cirúrgica" para corrigir o viés da IA. Em vez de uma reforma pesada (retreinamento) ou um contorno desajeitado (mudança de prompts), eles identificaram os "frutos podres" específicos (neurônios) dentro do modelo usando um método de detetive de duas vias e simplesmente os neutralizaram. Isso permite que a IA permaneça inteligente e útil, enquanto trata todos os grupos de pessoas de forma mais justa.

Resumo Técnico: Atribuição de Viés Bidirecional

Definição do Problema

Grandes Modelos de Linguagem (LLMs) frequentemente exibem e amplificam preconceitos sociais relativos a gênero, raça, religião e ocupação. As abordagens de mitigação de viés existentes enfrentam limitações significativas: métodos de ajuste fino (fine-tuning) são computacionalmente caros e impraticáveis para modelos de grande escala, enquanto a engenharia de prompt (ex: instruir modelos a evitar o viés) degrada a experiência do usuário ao aumentar o comprimento do contexto e os custos de inferência em interações de múltiplos turnos. Além disso, os métodos atuais de atribuição ao nível de neurônio frequentemente têm dificuldade com arquiteturas profundas, onde as contribuições de neurônios individuais são marginais ou falham em capturar relações de viés entre pares cruzados.

Este artigo aborda a necessidade de um framework de mitigação de viés que não exija nem o ajuste fino do modelo, nem a modificação de prompts. Os autores definem dois subproblemas principais:

Geração Demograficamente Invariante (DIG): Garantir que a distribuição de saída do modelo permaneça inalterada quando apenas a informação demográfica no prompt varia.
Inferência Livre de Estereótipos (SFI): Garantir que o modelo não favoreça sistematicamente uma demografia sobre outra ao interpretar prompts contendo pistas de estereótipos (ex: associar "médico" a "homem").

Metodologia

O framework proposto, Atribuição de Viés Bidirecional, opera sem modificar os pesos do modelo ou os prompts do usuário. Ele consiste em três estágios primários:

1. Seleção de Pistas de Estereótipo via Minimização de Entropia

Em vez de depender de suposições humanas pré-definidas, o método identifica automaticamente "pistas de estereótipo" (adjetivos ou substantivos) que desencadeiam previsões enviesadas.

Processo: Os autores constroem templates de sentenças (ex: "O/A [Atributo Demográfico] deste/desta [Substantivo de Estereótipo] é...") e consultam o modelo para prever grupos demográficos.
Métrica: Eles calculam a entropia de Shannon da distribuição de probabilidade prevista pelo modelo sobre os grupos demográficos para cada pista candidata.
Seleção: Pistas que geram menor entropia (indicando previsões altamente enviesadas e confiantes em direção a grupos específicos) são selecionadas como as palavras que mais induzem o viés. Este processo abrange tanto formas de adjetivos quanto de substantivos.

2. Atribuição de Viés Bidirecional

Para rastrear saídas enviesadas até neurônios específicos, os autores propõem duas estratégias de atribuição baseadas em gradiente usando Gradientes Integrados (IG):

Atribção de Viés Direto (Forward-IG):
- Direção: Prompt $\to$ Previsão Demográfica (contexto SFI).
- Mecanismo: O modelo é provocado com pistas de estereótipo para prever um grupo demográfico. O Forward-IG quantifica a contribuição dos neurônios de entrada na camada de projeção para a certeza do modelo (baixa entropia) em relação a um demográfico específico.
- Objetivo: Identificar neurônios que levam o modelo a associar confiantemente uma pista a um demográfico específico.
Atribuição de Viés Reverso (Backward-IG):
- Direção: Grupo Demográfico $\to$ Variação de Saída (contexto DIG).
- Mecanismo: O modelo é provocado com sentenças contendo diferentes grupos demográficos para prever as pistas de estereótipo associadas. O Backward-IG utiliza a Divergência de Jensen-Shannon (JSD) para medir a disparidade nas distribuições previstas entre grupos demográficos.
- Objetivo: Identificar neurônios responsáveis por gerar diferentes saídas baseadas no grupo demográfico de entrada.

3. Intervenção Direcionada

Uma vez identificados os neurônios enviesados (os $N$ neurônios com as maiores pontuações de atribuição), o framework intervém diretamente na camada de projeção (a camada que mapeia as representações ocultas para os logits).

Ação: Os valores de ativação desses neurônios específicos são fixados em uma constante $C$ .
Base Teórica: Os autores fornecem uma análise teórica (Teorema 1) estabelecendo que a modificação das representações ocultas ao longo de um caminho guiado pela atribuição reduz o viés, com a magnitude da mudança do viés limitada pela variação da saída e pelo gradiente de viés local.

Principais Contribuições

Seleção de Pistas Baseada em Entropia: Um método automatizado para identificar adjetivos e substantivos que induzem estereótipos específicos ao viés interno do modelo, evitando a dependência de listas estáticas curadas por humanos.
Estratégias de Atribuição Dupla: A introdução do Forward-IG e Backward-IG, que fornecem perspectivas complementares sobre o viés: o Forward-IG captura o viés na inferência de demográficos a partir de pistas, enquanto o Backward-IG captura o viés na geração de texto condicionado a demográficos.
Intervenção Sem Prompt: Um pipeline de mitigação de viés que modifica apenas os valores de ativação de neurônios específicos na camada de projeção, não exigindo ajuste fino ou engenharia de prompt.
Conexão Teórica: Uma prova formal ligando a redução do viés à variação nas saídas do modelo sob modificações guiadas pela atribuição.

Resultados Experimentais

O framework foi avaliado em três LLMs (Llama-3.1-8B, Llama-3.2-3B, Mistral-7B-v0.3) em quatro atributos demográficos (Gênero, Nacionalidade, Profissão, Religião) utilizando três benchmarks:

StereoSet (Tarefa DIG): Os métodos propostos (FBA e BBA) reduziram significamente o viés (movendo a Pontuação de Estereótipo para mais próximo de 50%) enquanto mantinham altas Pontuações de Modelagem de Linguagem (LMS) e pontuações ICAT. Em contraste, métodos de linha de base como Auto-Debias e engenharia de prompt falharam em reduzir o viés ou degradaram as capacidades de modelagem de linguagem.
BBQ (Tarefa DIG): Em questões ambíguas, FBA e BBA reduziram a dependência de estereótipos (aumentando a seleção de "desconhecido") sem a queda acentuada na precisão em questões desambiguadas observada em métodos baseados em prompt.
WinoBias (Tarefa SFI): O método de Atribuição de Viés Reverso (BBA) alcançou a menor lacuna entre as probabilidades de estereótipo e anti-estereótipo, mantendo $P_{other} \approx 0$ , indicando preservação da capacidade de modelagem de linguagem. Notavelmente, enquanto o IG2 reduziu o viés no Llama-3.2, ele degradou severamente o desempenho de modelagem de linguagem (alto $P_{other}$ ).

Estudos de Ablação confirmaram que tanto a estratégia de atribuição (identificação de neurônios específicos) quanto o algoritmo de seleção de pistas são críticos; a seleção aleatória de neurônios ou o uso de pistas não selecionadas resultou em desempenho de mitigação de viés inferior e pontuações de modelagem de linguagem mais baixas.

Significância e Alegações

O artigo afirma oferecer um caminho prático e interpretável para construir LLMs mais justos. Ao demonstrar que comportamentos enviesados podem ser localizados em subconjuntos de neurônios específicos e identificáveis, os autores argumentam que a intervenção direcionada na camada de projeção é uma alternativa viável ao ajuste fino intensivo em recursos ou à engenharia de prompt intrusiva ao usuário. O trabalho enfatiza que a mitigação eficaz do viés não requer comprometer as capacidades centrais de modelagem de linguagem do modelo ou alterar o fluxo de interação do usuário.