LLM Bias Evaluation: Gender, Racial, and Age Disparities in Occupational and Crime Scenarios

Resumo Técnico: Avaliando Vieses de Gênero, Raça e Idade em Grandes Modelos de Linguagem

Definição do Problema
Apesar dos avanços significativos nos Grandes Modelos de Linguagem (LLMs), a adoção empresarial generalizada é dificultada por problemas persistentes de viés que comprometem a usabilidade, a confiabilidade e a equidade. O viés nos LLMs não é meramente um artefato técnico, mas uma preocupação social capaz de reforçar estereótipos e propagar desinformação. Embora pesquisadores tenham desenvolvido estratégias de mitigação — como camadas de desenviesamento, conjuntos de dados de referência especializados (ex: Winogender, Winobias) e Aprendizado por Reforço com Feedback Humano (RLHF) — o viés residual permanece. Este artigo postula que os atuais LLMs líderes, apesar de empregarem essas técnicas de desenviesamento, ainda exibem desvios significativos das distribuições estatísticas do mundo real em cenários ocupacionais e criminais. Além disso, os autores hipotetizam que os esforços de mitigação podem levar inadvertidamente ao "sobreindexamento" de subclasses específicas, potencialmente exacerbando o viés em vez de resolvê-lo.

Metodologia
O estudo conduz uma análise comparativa de quatro modelos de linguagem de última geração lançados em 2024: Gemini 1.5 Pro, Llama 3 70B, Claude 3 Opus e GPT-4o. A pesquisa foca em duas categorias primárias de viés:

1. Viés de Gênero Ocupacional: Avaliando a associação de gênero de 20 profissões distintas.
2. Viés Demográfico em Cenários de Crime: Avaliando associações de gênero, raça e idade em seis tipos de crimes (roubo, fraude, assassinato, abuso de drogas, DUI [dirigir sob influência], vandalismo).

Geração e Classificação de Dados:
Os autores utilizaram APIs para gerar um conjunto de dados robusto composto por 10.400 histórias (8.000 ocupacionais e 2.400 cenários de crime).

• Ocupacional: Os prompts solicitaram histórias inspiradoras de 500 palavras para profissões específicas.
• Crime: Os prompts solicitaram histórias de 500 palavras sobre indivíduos cometendo crimes específicos, instruindo explicitamente os modelos a incluir detalhes demográficos.
• Classificação: Os mesmos quatro LLMs foram empregados para classificar as histórias geradas. As histórias ocupacionais foram classificadas por gênero (binário: masculino/feminino). As histórias de crime foram classificadas por gênero (masculino/feminino/não binário), grupos de idade (<18, 19-30, 30-50, >50) e raça (Negro, Branco, Asiático).

Benchmarking:
As distribuições geradas foram comparadas com dados autoritativos do mundo real:

• Dados Ocupacionais: U.S. Bureau of Labor Statistics (BLS).
• Dados de Crime: Relatórios do U.S. Federal Bureau of Investigation (FBI).
• Validação: Uma revisão manual de garantia de qualidade (QA) humana foi realizada para verificar os resultados da classificação automatizada.

Principais Resultados
O estudo quantificou o viés calculando o desvio padrão das saídas dos modelos em relação às estatísticas do mundo real.

• Viés de Gênero Ocupacional:

  • Todos os quatro modelos mostraram um padrão consistente: eles aderiram amplamente aos estereótipos de gênero tradicionais para funções predominantemente femininas (ex: enfermeira, recepcionista) e masculinas (ex: bombeiro, operário da construção).
  • No entanto, ocorreram desvios significativos em funções de alto status ou técnicas. Para profissões como Engenheiros de Software, Advogados e CEOs, os modelos frequentemente geraram personagens femininas em taxas significativamente superiores aos dados do BLS, sugerindo uma tentativa de correção que resultou em sobrecompensação.
  • O desvio médio dos dados do BLS entre os modelos foi de aproximadamente 37%.

• Vieses em Cenários de Crime:

  • Gênero: Os modelos exibiram comportamentos divergentes. O GPT-4o espelhou de perto as estatísticas masculinas do FBI em algumas áreas, mas sobre-representou homens em outras. O Gemini 1.5 Pro e o Llama 3 70B sub-representaram significativamente os homens em cenários de crime (ex: prevendo 96% de envolvimento feminino em casos de DUI, onde os dados do FBI mostram 74% de participação masculina). O Claude 3 Opus apresentou uma distribuição mais equilibrada. O desvio de gênero médio foi de 54%.
  • Raça: A maioria dos modelos (Claude, GPT-4o, Llama) sobre-representou indivíduos Brancos em cenários de crime em comparação com os dados do FBI, enquanto sub-representou indivíduos Negros. O Gemini 1.5 Pro mostrou notavelmente uma menor representação de indivíduos Brancos. O desvio racial médio foi de 28%.
  • Idade: Os desvios foram geralmente menores do que os vieses de gênero e raça (média de 17%), embora o Llama 3 70B tendesse a sobre-representar a faixa etária de 31-50 anos, e o Gemini 1.5 Pro sobre-representasse a faixa de 18-30 anos.

• Resumo de Desempenho do Modelo (Desvio Padrão dos Dados do Mundo Real):

  • O Llama 3 70B apresentou o maior desvio no viés de Gênero em Crime (71,87%).
  • O Gemini 1.5 Pro apresentou o maior desvio no viés Racial em Crime (45,31%).
  • O Claude 3 Opus apresentou o maior desvio no viés de Idade em Crime (30,59%).
  • Todos os modelos mostraram níveis semelhantes de desvio para o viés de Gênero Ocupacional (variando de 33% a 39%).

Significância e Alegações
O artigo afirma que, apesar da integração de técnicas avançadas de desenviesamento como RLHF e red teaming, os principais LLMs continuam a exibir vieses substanciais. Um achado crítico é que as estratégias de mitigação frequentemente resultam em sobreindexamento de subclasses específicas (ex: sobre-representando mulheres em profissões predominantemente masculinas ou indivíduos Brancos em cenários de crime) em vez de alcançar a paridade estatística.

Os autores argumentam que esses achados destacam as limitações das abordagens atuais de mitigação de viés. O estudo sugere que simplesmente aplicar camadas de desenviesamento ou realizar o ajuste fino (fine-tuning) em conjuntos de dados específicos é insuficiente e pode levar a uma má generalização ou a novas formas de viés. O artigo conclui que há uma necessidade urgente de abordagens mais eficazes e matizadas para a mitigação de viés para garantir a adoção responsável da IA, particularmente à medida que os LLMs são cada vez mais integrados em aplicações empresariais, processos de contratação e sistemas de apoio judicial. O framework proposto serve como uma linha de base para avaliar modelos futuros e outros tipos de viés (político, socioeconômico) através de engenharia de prompt aberta.