Resumo Técnico: Desaprendendo Estereótipos Antes da Tomada de Decisão

Declaração do Problema

Os Grandes Modelos de Linguagem (LLMs) estão sendo cada vez mais integrados em sistemas de tomada de decisão socioeconômica de alto risco, como contratação e finanças. Esses sistemas correm o risco de amplificar disparidades sociais e econômicas existentes porque os LLMs frequentemente codificam vieses representacionais intrínsecos (estereótipos) derivados de dados de treinamento históricos. Embora pesquisas anteriores tenham estudado vieses intrínsecos e comportamentos prejudiciais downstream de forma independente, permanece incerto se a mitigação do viés intrínseco no nível do modelo se traduz em melhorias mensuráveis na equidade downstream. Existe uma lacuna crítica na compreensão de como a mitigação de viés representacional se propaga através do pipeline para afetar resultados de decisões do mundo real, particularmente porque as estratégias de mitigação intrínseca e extrínseca são tipicamente estudadas isoladamente.

Metodologia: Desaprendizado de Conceitos Consciente de Equidade (FACU)

Para abordar essa laciação, os autores propõem o Fairness-Aware Concept Unlearning (FACU), um método de mitigação de viés intrínseco projetado para equilibrar associações demográficas em vez de simplesmente suprimi-las. Diferente das abordagens padrão de desaprendizado de conceitos que visam remover conceitos específicos (frequentemente para segurança ou privacidade), o FACU adapta o mecanismo para regularizar explicitamente as diferenças de probabilidade entre associações estereotípicas e antiesterotípicas.

Mecanismo Central

O FACU opera em um cenário de previsão do próximo token, onde um modelo atribui probabilidades a pares de candidatos de respostas demográficas (ex: "mulheres" vs. "homens" para uma questão socioeconômica específica). O método define um gap de probabilidade ($GAP$) entre os candidatos estereotípicos ($y_{stereo}$) e antiesterotípicos ($y_{anti}$). O objetivo é minimizar esse gap ($GAP \approx 0$) enquanto preserva as capacidades gerais de modelagem de linguagem do modelo.

O objetivo de treinamento ($L_{total}$) é uma combinação ponderada de quatro termos de perda:

1. Perda de Desaprendizado ($L_{unlearn}$): Reduz a verossimilhança de respostas estereotípicas (implementada via ascensão de gradiente nesses tokens).
2. Perda de Aprendizado ($L_{learn}$): Aumenta a verossimilhança de respostas antiesterotípicas (descida de gradiente padrão).
3. Perda de Gap ($L_{gap}$): Um termo de regularização de equidade que penaliza explicitamente a diferença ao quadrado entre as probabilidades dos candidatos estereotípicos e antiesterotípicos. Isso evita o colapso de probabilidade ou a inversão de viés (trocar um viés por outro).
4. Perda de Normalização ($L_{norm}$): Uma penalidade de divergência KL contra um modelo de referência congelado em prompts neutros para preservar o comportamento geral de modelagem de linguagem e evitar o esquecimento catastrófico.

Configuração Experimental

Os autores avaliaram o FACU em três LLMs de instrução aberta: Llama-3.1 (8B), Gemma-2 (2B) e Phi-3 Mini (3.8B).

• Avaliação Intrínseca: Os benchmarks incluíram o subconjunto de gênero do SocioEconomicQA (treinamento), BBQ e CrowS-Pairs (fora da distribuição/out-of-distribution). As métricas incluíram a Razão de Associação de Pobreza (PAR), iCAT (equilíbrio de estereótipo vs. qualidade de linguagem) e perplexidade.
• Avaliação Downstream: Três conjuntos de dados de tomada de decisão socioeconômica (German Credit, ACS Employment, Adult) foram usados para tarefas de classificação binária.
• Configurações de Implementação: Duas configurações foram testadas:
  1. LLM-como-Extrator-de-Características: Embeddings de LLM congelados alimentando um classificador de regressão logística.
  2. LLM-como-Classificador: O LLM ajustado (via LoRA) para a tarefa downstream específica.
• Comparações: O FACU foi comparado com ausência de mitigação, desaprendizado de conceito padrão, Otimização de Preferência Direta (DPO) e auto-debiasing (autodesviesamento). Ele também foi combinado com estratégias extrínsecas: Aumento de Dados Contrafatuais (CDA) e auto-debiasing.

Principais Resultados

1. Mitigação de Viés Intrínseco (RQ1)

O FACU alcançou consistentemente os menores gaps de probabilidade (GAP) e as maiores pontuações iCAT em todos os modelos em comparação com os baselines.

• Superioridade sobre o Desaprendizado: O desaprendizado padrão frequentemente levava ao "colapso de probabilidade" (levando as probabilidades estereotípicas a zero e as antiesterotípicas a um) ou à inversão de viés, particularmente em modelos menores (Gemma, Phi). A regularização explícita do gap do FACU evitou isso, garantindo associações equilibradas.
• Superioridade sobre o DPO: O DPO mostrou redução limitada de GAP e degradou significativamente as pontuações iCAT, sugerindo que a otimização de preferência sozinha não produz de forma confiável representações demográficas equilibradas.
• Generalização: Apesar de ser treinado apenas no SocioEconomicQA, o FACU reduziu o viés intrínseco em datasets fora da distribuição (BBQ, CrowS-Pairs), indicando que captura padrões representacionais mais amplos em vez de sofrer overfitting para estereótipos de datasets específicos.
• Desempenho: O FACU manteve a perplexidade estável, demonstrando que a redução do viés não ocorreu às custas da qualidade da modelagem de linguagem.

2. Tradução de Equidade Downstream (RQ2)

O estudo descobriu que a mitigação de viés intrínseco via FACU se traduz em melhorias mensuráveis na equidade downstream.

• Significância Estatística: Na maioria das configurações, modelos mitigados com FACU mostraram melhorias estatisticamente significativas nas métricas de equidade de grupo (Paridade Demográfica e Igualdade de Oportunidades) em comparação com os baselines pré-treinados. As mudanças na precisão preditiva não foram estatisticamente significativas.
• Paridade de Precisão: Embora o FACU tenha demonstrado uma tendência consistente de melhoria na Paridade de Precisão, refletida por p-valores substancialmente menores do que outros métodos, este resultado não atingiu significância estatística.
• Preservação de Utilidade: Esses ganhos de equidade foram alcançados sem degradação estatisticamente significativa na precisão preditiva.
• Consistência: Melhorias foram observadas tanto na configuração de extrator de características quanto na de classificador ajustado, embora a magnitude varie por modelo e dataset.

3. Interação com Estratégias Extrínsecas (RQ3)

Os autores investigaram como a mitigação intrínseca interage com métodos extrínsecos (CDA e auto-debiasing).

• Complementaridade: Combinar o FACU com o CDA gerou ainda mais melhorias de equidade, frequentemente superando qualquer um dos métodos usados isoladamente. Isso sugere que o debiasing intrínseco e o aumento de dados ao nível de dados abordam aspectos diferentes do problema do viés.
• Evidência Estatística: Testes de sinal pareado indicaram que a combinação de FACU e CDA resultou em ganhos agregados estatisticamente significativos em todas as métricas de equidade, enquanto o CDA sozinho foi significativo apenas para Igualdade de Oportunidades.
• Auto-debiasing: Embora a combinação do FACU com o auto-debiasing tenha mostrado algumas melhorias, os resultados foram menos consistentes, particularmente em datasets ou modelos menores onde a queda de precisão distorceu as métricas de equidade.

Significância e Alegações

O artigo afirma que a mitigação de viés intrínseco consciente de equidade é uma estratégia viável e eficaz para melhorar a equidade downstream em sistemas de tomada de decisão socioeconômica baseados em LLM. As principais conclusões são:

1. Causalidade Direta: O estudo fornece evidências de que reduzir o viés representacional intrínseco leva diretamente a resultados downstream mais justos, desafiando a noção de que vieses intrínsecos e extrínsecos são não relacionados.
2. Equilibrar vs. Suprimir: Os autores argumentam que a equidade requer o equilíbrio de associações demográficas em vez da supressão delas. O FACU demonstra que regularizar explicitamente os gaps de probabilidade é mais eficaz do que o desaprendizado padrão ou a otimização de preferência para este objetivo.
3. Sinergia de Pipeline: As descobertas destacam a importância de esforços de mitigação compartilhados tanto no estágio de desenvolvimento do modelo (intrínseco) quanto no estágio de implantação downstream (extrínseco). Combinar essas abordagens gera as melhorias de equidade mais robustas.
4. Praticidade: O FACU oferece uma solução escalável; requer uma intervenção de nível de modelo única usando um pequeno dataset focado em viés, após o qual o modelo mitigado pode ser reutilizado em várias tarefas downstream sem necessidade de retreinamento para restrições específicas de equidade.

Os autores concluem que, embora a performance preditiva seja frequentemente priorizada na implementação, integrar o debiasing intrínseco consciente de equidade como o FACU pode melhorar a equidade em tomadas de decisão automatizadas sem sacrificar a utilidade.