Resumo Técnico: Medição de Vieses de Estereótipo e Desvio em Modelos de Linguagem de Grande Escala

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) estão cada vez mais implantados em domínios críticos, como saúde, direito e finanças, mas herdam e potencialmente amplificam vieses sociais presentes em seus dados de treinamento. A literatura existente sobre avaliação de viés frequentemente depende de um único princípio de avaliação: comparar as saídas do modelo contra uma referência "ideal" definida por humanos (normativa) ou contra dados observados do mundo real (descritiva). Essa dicotomia cria uma lacuna; confiar apenas em referências ideais pode negligenciar distribuições realistas, enquanto confiar apenas em dados do mundo real pode reforçar desigualdades sociais existentes. Além disso, a maioria dos estudos foca em identificadores demográficos explícitos, potencialmente perdendo vieses desencadeados por sinais implícitos (por exemplo, nomes) que contornam mecanismos de alinhamento explícito. Este estudo aborda a necessidade de um framework holístico que avalie tanto o viés de estereótipo (associações sistemáticas e consistentes entre grupos demográficos e atributos) quanto o viés de desvio (disparidades entre distribuições geradas por LLMs e estatísticas demográficas reais) em múltiplas dimensões sociais.

Metodologia

Os autores conduziram um estudo exploratório envolvendo quatro LLMs avançados: Claude-3.5-Sonnet, GPT-4o-mini, Command-r-plus e Llama-3.1-70b.

Desenho Experimental

1. Estratégia de Prompt: O estudo utilizou tanto prompts explícitos (por exemplo, "Escreva uma descrição de um homem hispânico") quanto prompts implícitos (por exemplo, "Escreva uma descrição de Juan", onde o nome implica etnia/gênero). Este desenho permite a comparação da manifestação do viés quando atributos demográficos são declarados diretamente versus inferidos.
2. Atributos de Entrada: As demografias foram variadas em três dimensões:
   • Gênero: Masculino, Feminino.
   • Etnia/Raça: Branca, Negra, Hispânica, Asiática e Neutra.
   • Idade: Baby Boomer, Geração X, Millennial, Geração Z, Geração Alpha.
   • Nota: Nomes foram selecionados com base em alta correlação com demografias específicas (por exemplo, top 100 nomes de bebês dos EUA para gênero; nomes etnicamente específicos derivados do Índice de Neutralidade Étnica da SiSense) para minimizar ruído.
3. Atributos de Saída: Os modelos foram encarregados de gerar perfis de 200 palavras incluindo atributos para:
   • Afiliação Política (Conservador, Liberal, Neutro)
   • Religião (Cristão, Budista, Hindu, Judeu, Muçulmano, Não Afiliado)
   • Orientação Sexual (Heterossexual, Homossexual, Bissexual, Outro)
   • Status Socioeconômico (Alto, Médio, Baixo)
   • Ocupação
4. Geração de Dados: Para prompts implícitos, 500 textos foram gerados por grupo de gênero e 50 por grupo de etnia/idade. Para prompts explícitos, 50 textos foram gerados por grupo demográfico. Todas as gerações utilizaram uma temperatura de 0,7.
5. Métricas de Avaliação:
   • Viés de Estereótipo: Medido usando a média das divergências de Jensen-Shannon (JS) máximas entre grupos demográficos (gênero, etnia, idade) para um determinado atributo de saída. Valores mais altos indicam maior disparidade na forma como o modelo trata diferentes grupos.
   • Viés de Desvio: Calculado como a proporção de atributos de saída onde a distribuição gerada pelo LLM desvia significativamente das estatísticas da população real dos EUA (usando testes binomiais com $p < 0,05$). Dados do mundo real foram obtidos do Pew Research Center, Gallup e outros estudos demográficos respeitáveis.
   • Polaridade: Análise de sentimento foi realizada para medir a valência (positiva/negativa) dos textos gerados.

Contribuições Principais

1. Avaliação de Duplo Framework: O artigo introduz um framework de avaliação abrangente que avalia simultaneamente o viés de estereótipo (consistência interna entre grupos) e o viés de desvio (alinhamento com a realidade), abordando as limitações de estudos anteriores que usam apenas um tipo de referência.
2. Análise de Viés Implícito vs. Explícito: Ao comparar sistematicamente prompts implícitos (baseados em nomes) e explícitos (baseados em atributos), o estudo revela que os padrões de viés permanecem amplamente consistentes independentemente do tipo de prompt, embora prompts explícitos às vezes desencadeiem taxas de recusa mais altas ou desvios mais extremos.
3. Escopo Multidimensional: Diferentemente de muitas obras anteriores focadas em atributos únicos (por exemplo, apenas gênero ou apenas toxicidade), este estudo avalia o viés em cinco dimensões sociais distintas: política, religião, orientação sexual, status socioeconômico e ocupação.
4. Métricas Quantitativas de Viés: Os autores fornecem métricas padronizadas (Pontuação de Viés de Estereótipo e Pontuação de Viés de Desvio) para quatro LLMs principais, oferecendo uma linha de base para futura análise comparativa.

Resultados Principais

Afiliação Política

• Super-representação Liberal: Todos os quatro modelos classificaram indivíduos esmagadoramente como "Liberais" (frequentemente >90% ou 100%), desviando-se significativamente das distribuições do mundo real.
• Sub-representação da Neutralidade: Afiliações políticas "Neutras" foram drasticamente subestimadas (frequentemente <10%).
• Exceção de Idade: Modelos (exceto GPT-4o-mini) tenderam a associar Baby Boomers a visões "Conservadoras", refletindo um estereótipo específico.
• Consistência do Viés: Padrões de viés foram consistentes entre prompts implícitos e explícitos.

Religião

• Domínio Cristão/Não Afiliado: Os modelos atribuíram predominantemente as etiquetas "Cristão" ou "Não Afiliado".
• Sub-representação de Minorias: Religiões não cristãs (Hindu, Judeu, Muçulmano) foram severamente sub-representadas ou atribuídas probabilidades próximas de zero, apesar da prevalência no mundo real.
• Correlações Demográficas: Os modelos exibiram fortes estereótipos, como associar indivíduos Brancos ao Judaísmo e indivíduos Negros ao Islã, o que frequentemente divergia das distribuições demográficas reais.

Orientação Sexual

• Super-representação LGBTQ: Todos os modelos super-representaram significativamente minorias sexuais (Homossexual, Bissexual) em comparação com estatísticas do mundo real (onde ~7,6% se identificam como LGBTQ).
• Estereótipos de Gênero: Os modelos frequentemente associaram fêmeas a "Bissexuais" e machos a "Homossexuais".
• Desvio: As pontuações de viés de desvio foram extremamente altas (próximas de 1,0) para orientação sexual em todos os modelos, indicando uma falha sistemática em alinhar-se com distribuições do mundo real.

Status Socioeconômico (SSE)

• Estereótipos de Classe: Os modelos tenderam a emitir status de "Classe Média" e "Classe Baixa".
• Disparidades Raciais: Indivíduos Negros foram desproporcionalmente associados ao status "Classe Baixa", enquanto indivíduos Asiáticos foram frequentemente associados ao status "Classe Alta", refletindo estereótipos sociais específicos.
• Taxas de Recusa: O Claude-3.5-Sonnet exibiu altas taxas de recusa para prompts envolvendo homens Brancos e Negros, e mulheres Asiáticas, complicando a comparação direta para esses grupos.

Ocupação

• Atribuições Estereotipadas: "Professor" foi a ocupação mais comum atribuída a Baby Boomers em todos os modelos.
• Gênero e Etnia: Os modelos atribuíram "Engenheiro" a homens (especialmente no Claude-3.5-Sonnet) e "Assistente Social" ou "Professor" a mulheres. Estereótipos étnicos específicos emergiram, como "Organizador Comunitário" para indivíduos Negros e Hispânicos.

Polaridade (Sentimento)

• Explícito vs. Implícito: Textos gerados a partir de prompts explícitos mostraram variações maiores nas pontuações de sentimento entre grupos demográficos em comparação com prompts implícitos.
• Grupos Marginalizados: Prompts explícitos frequentemente resultaram em pontuações de polaridade mais altas (sentimento mais positivo) para grupos historicamente marginalizados (Negro, Hispânico, Feminino), enquanto grupos Brancos, Asiáticos e Masculinos receberam pontuações mais baixas, sugerindo uma possível "super-correção" ou viés de alinhamento em cenários explícitos.

Significado e Alegações

Os autores afirmam que suas descobertas destacam os riscos significativos de LLMs em aplicações do mundo real onde atributos do usuário são inferidos ou declarados explicitamente.

• Para Usuários: O estudo sublinha a necessidade de engajamento crítico com as saídas do modelo, particularmente em análise sociopolítica, já que os modelos podem apresentar distribuições enviesadas como fatos objetivos.
• Para Desenvolvedores: A super-representação consistente de certos atributos (por exemplo, política liberal, identidades LGBTQ, religião cristã) sugere que os processos atuais de RLHF (Aprendizado por Reforço a partir de Feedback Humano) podem inadvertidamente codificar vieses sociais específicos ou preferências de "alinhamento" que divergem da realidade.
• Para Organizações: Os resultados indicam que implantar LLMs sem entender esses vieses pode levar a tomada de decisão distorcida ou ao reforço de estereótipos prejudiciais.

O artigo conclui que, embora os LLMs sejam ferramentas poderosas, seu comportamento atual na inferência de atributos demográficos revela vieses de estereótipo e desvio profundamente enraizados. Os autores defendem um design cuidadoso de prompts, seleção de modelos e mais pesquisas para equilibrar a inclusão com uma representação precisa das distribuições do mundo real. Eles observam modestamente que esses vieses podem evoluir com atualizações do modelo e que trabalhos futuros devem explorar diversos grupos étnicos e distribuições de referência alternativas além de dados centrados nos EUA.