Resumo Técnico: StereoTales

Declaração do Problema

A pesquisa existente sobre viés social em Modelos de Linguagem de Grande Escala (LLMs) está predominantemente limitada por três restrições:

1. Formato: A maioria dos benchmarks depende de configurações rigidamente controladas (múltipla escolha, preenchimento de modelos ou perguntas e respostas) que testam o reconhecimento de viés em vez da geração de viés. Isso falha em refletir a geração aberta e livre típica do uso real de LLMs.
2. Escopo: Os estudos são esmagadoramente centrados no inglês e focados nos EUA, frequentemente limitando atributos socio demográficos a gênero e raça com base nas categorias do Censo dos EUA. Isso ignora como os vieses se manifestam em diferentes idiomas e contextos culturais.
3. Granularidade: Trabalhos anteriores frequentemente pontuam saídas individuais ou focam em modelos pequenos de pesos abertos, deixando o comportamento de modelos de ponta e o surgimento distribucional de vieses (padrões visíveis apenas através de centenas de gerações) amplamente inexplorados.

Consequentemente, vieses que emergem apenas em geração aberta, através de idiomas diversos e em modelos de ponta recentes permanecem inexplorados.

Metodologia

Os autores introduzem o StereoTales, um conjunto de dados multilíngue e um pipeline de avaliação projetados para descobrir sistematicamente o viés social na geração aberta de LLMs.

Construção do Conjunto de Dados

• Escala: O conjunto de dados compreende aproximadamente 650.000 histórias geradas por 23 LLMs de ponta de principais provedores (OpenAI, Anthropic, Google, Mistral, Alibaba, etc.).
• Idiomas: A geração ocorre em 10 idiomas (inglês, francês, espanhol, italiano, português, holandês, ucraniano, árabe, hindi e chinês). Crucialmente, prompts, valores de atributos e cenários foram traduzidos manualmente por falantes nativos para evitar desvio semântico e achatamento cultural associados à tradução automática.
• Design do Prompt: Os prompts são construídos via um produto cartesiano de:
  • 19 Atributos Demográficos: Cobrindo identidade, status socioeconômico e situações de vida (ex.: idade, gênero, religião, educação, renda, status de imigração).
  • 79 Valores de Atributo: Conjuntos fechados de valores admissíveis para cada atributo.
  • 36 Cenários Narrativos: Situações diversas (ex.: entrevistas de emprego, jantares em família, crises de saúde) servindo como sementes narrativas.
• Protocolo de Geração: Cada prompt fixa um único valor de atributo para o protagonista, deixando outros não especificados. O modelo gera uma história de ~200 palavras.

Pipeline de Análise

1. Extração de Atributos: Um ensemble de três extratores LLM (GPT-5-nano, Gemini 2.5 Flash Lite, Gemini 3.1 Flash Lite) extrai o perfil socio demográfico do protagonista de cada história através de todas as 19 dimensões.
2. Descoberta de Associação Estatística: O pipeline constrói tabelas de contingência para co-ocorrências entre o atributo imposto pelo prompt (Base) e os atributos extraídos.
   • Nível de Atributo: O teste exato de Fisher (estimação Monte Carlo) determina se uma distribuição depende do atributo base. O tamanho do efeito é medido via V de Cramér corrigido para viés.
   • Nível de Valor: Testes de Fisher unilaterais identificam pares de valores específicos que impulsionam a associação. O tamanho do efeito é medido pelo Lift ($P(B=b|A=a)/P(B=b)$). Apenas pares com $Lift \ge 2$ e significância estatística (corrigida por Benjamini-Yekutieli) são retidos.
3. Julgamento de Prejudicialidade: Para evitar injetar vieses dos autores, a prejudicialidade é determinada por dois avaliadores independentes:
   • Estudo Humano: 247 participantes baseados no Reino Unido avaliaram 1.580 associações únicas em uma escala Likert de 5 pontos para prejudicialidade e frequência no mundo real.
   • Autoavaliação do LLM: Os mesmos 23 modelos que geraram as histórias foram solicitados a avaliar a prejudicialidade das mesmas associações.

Principais Contribuições

1. Conjunto de Dados StereoTales: Um recurso em grande escala e multilíngue contendo ~650k histórias, anotações de atributos e classificações de prejudicialidade, cobrindo 10 idiomas e 23 modelos.
2. Descoberta de Viés Distribucional: Uma metodologia que vai além da classificação ao nível de amostra para identificar associações sistemáticas e estatisticamente significativas através da distribuição das saídas do modelo.
3. Avaliação Transversal entre Modelos e Idiomas: O primeiro estudo a avaliar conjuntamente a universalidade do viés em 23 modelos de ponta e a adaptabilidade cultural dos vieses em 10 idiomas.
4. Calibração de LLM como Juiz: Uma calibração em grande escala da autoavaliação do LLM contra o julgamento humano no domínio da prejudicialidade de estereótipos.

Principais Resultados

1. Onipresença e Universalidade de Estereótipos Prejudiciais

• Ubiquidade: Todo modelo avaliado emite estereótipos prejudiciais consequentes na geração aberta, independentemente de tamanho ou capacidade.
• Padrões Compartilhados: Associações prejudiciais são amplamente compartilhadas entre provedores, em vez de serem comportamentos isolados. Aproximadamente 25% das associações prejudiciais aparecem em pelo menos metade dos modelos, e uma parte significativa é produzida por cada modelo individualmente.
• Independência de Capacidade: Não há redução detectável em associações prejudiciais com o aumento do tamanho do modelo. Surpreendentemente, existe uma correlação positiva fraca entre a capacidade do modelo (ELO) e o número de associações prejudiciais, sugerindo que as receitas atuais de alinhamento não mitigam efetivamente esses vieses.

2. Especificidade Linguística e Adaptação Cultural

• Espelhamento Cultural: Os modelos não transferem um conjunto estático e dominante em inglês de vieses. Em vez disso, atuam como "camaleões culturais", adaptando estereótipos ao quadro cultural evocado pelo idioma do prompt.
• Local vs. Global: Aproximadamente metade das emissões prejudiciais está confinada a, no máximo, dois idiomas.
• Mudança de Alvo: O idioma do prompt altera quais grupos são visados. Os modelos tendem a reduzir associações prejudiciais sobre a identidade "não marcada" (maioria) do idioma do prompt, enquanto aumentam danos contra minorias protegidas localmente salientes.
• Agrupamentos Regionais: Vieses prejudiciais agrupam-se por região cultural (ex.: um forte bloco da Europa Ocidental e um bloco mais fraco da América Latina), indicando que os dados de treinamento e o contexto cultural, e não apenas a família linguística, impulsionam os perfis de viés.

3. Alinhamento entre Julgamentos Humanos e de LLM

• Alinhamento Amplo: Os julgamentos de LLM estão amplamente alinhados com as classificações humanas ($\rho$ de Spearman = 0,62).
• Pontos Cegos Sistemáticos: Os desacordos são sistemáticos e compartilhados entre provedores. Os modelos consistentemente subestimam o dano de estereótipos ancorados em status socioeconômico, idade, religião, imigração e educação. Por outro lado, eles superestimam o dano relacionado a gênero e alinhamento de gênero — os próprios eixos que historicamente foram o foco do alinhamento de segurança.
• Viés Conservador: Os LLMs são geralmente mais conservadores que os humanos, usando a classificação extrema "5" significativamente menos frequentemente.

Significado e Alegações

O artigo afirma que benchmarks de justiça monolíngues subestimam substancialmente o dano que um modelo pode emitir quando solicitado em outro idioma. Como os vieses se adaptam culturalmente ao idioma do prompt, um modelo considerado "seguro" em inglês pode emitir estereótipos distintos e localmente prejudiciais em outros idiomas.

Além disso, o estudo desafia a noção de que benchmarks de reconhecimento de viés (nos quais modelos de ponta frequentemente saturam) implicam que a geração de viés está resolvida. Os resultados indicam que a geração de associações prejudiciais é uma propriedade estrutural dos LLMs atuais, provavelmente herdada de dados de pré-treinamento compartilhados e receitas de alinhamento, em vez de uma falha de escala ou capacidade.

Finalmente, o artigo postula que, embora os LLMs possam servir como avaliadores complementares para viés, seu autojulgamento é frágil e exibe pontos cegos sistemáticos em atributos socioeconômicos e ideológicos, tornando-os um substituto insuficiente para a avaliação humana nesses domínios específicos.

Os autores liberam o conjunto de dados completo, o código e a plataforma de anotação para permitir que a comunidade estenda este trabalho para novos idiomas, taxonomias de atributos e painéis de referência normativos.