🤖 AI

Generating the Modal Worker: A Cross-Model Audit of Race and Gender in LLM-Generated Personas Across 41 Occupations

Este estudo audita mais de 1,5 milhão de personas geradas por quatro grandes modelos de linguagem em 41 ocupações e revela que, ao contrário dos dados reais do Bureau of Labor Statistics dos EUA, esses modelos comprimem a diversidade demográfica, sub-representando consistentemente trabalhadores brancos e negros enquanto super-representam e estereotipam trabalhadores hispânicos e asiáticos, indicando fontes estruturais compartilhadas de viés que remodelam a visibilidade demográfica em papéis sociais.

Autores originais: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Publicado 2026-03-30

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Ilona van der Linden, Sahana Kumar, Arnav Dixit, Aadi Sudan, Smruthi Danda, David C. Anastasiu, Kai Lukoff

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

🎭 O "Trabalhador Padrão" que a IA Criou: Um Espelho Distorcido

Imagine que você pediu para quatro grandes "chefes de cozinha" de inteligência artificial (GPT-4, Gemini, DeepSeek e Mistral) prepararem um banquete. O pedido era simples: "Crie 1,5 milhão de perfis de pessoas trabalhando em 41 profissões diferentes nos EUA" (de médicos a cozinheiros, de engenheiros a professores).

O objetivo do estudo foi ver se a comida que esses "chefes" serviram parecia com a realidade da população americana ou se eles estavam cozinhando com ingredientes estranhos e receitas distorcidas.

Aqui está o que eles descobriram, usando algumas comparações simples:

1. A "Fotocópia" vs. O "Mosaico" (O Problema da Variedade)

Na vida real, uma profissão é como um mosaico: há muitas cores, texturas e pessoas diferentes. Um hospital tem médicos de todas as raças e gêneros; uma fábrica de caminhões tem homens e mulheres de várias origens.

Mas o que a IA fez? Ela agiu como uma fotocopiadora preguiçosa.

Gênero: Para a maioria das profissões, a IA não criou uma mistura. Ela escolheu uma cor e copiou milhões de vezes. Se a IA decidiu que "Engenheiro" é "Homem", ela gerou 10.000 homens. Se decidiu que "Enfermeira" é "Mulher", gerou 10.000 mulheres. Ela apagou a variação natural.
Raça: A IA também tendeu a "escolher um favorito" para cada trabalho. Em vez de mostrar a mistura real, ela focou em um grupo específico para cada profissão, ignorando os outros.

2. O Efeito "Lupa" e o "Apagador Mágico" (Distorções Específicas)

Os pesquisadores usaram uma lupa para ver como a IA mudava os números em comparação com a realidade (dados do governo dos EUA). Eles encontraram dois padrões principais:

A Lupa de Estereótipos (Exagero):
Para alguns grupos, a IA pegou um estereótipo e o amplificou até o extremo.
- Exemplo: Se na vida real 10% dos cozinheiros são hispânicos, a IA fez 99% dos cozinheiros gerados serem hispânicos. É como se a IA dissesse: "Ah, cozinheiro? Tem que ser hispânico!" e ignorasse todos os outros.
- Isso aconteceu muito com trabalhadores Asiáticos em cargos de ciência e Hispânicos em serviços de limpeza.
O Apagador Mágico (Apagamento):
Para outros grupos, a IA usou um apagador invisível.
- Exemplo: Trabalhadores Negros foram quase totalmente apagados de muitas profissões. A IA não apenas os colocou em menos números; ela os fez desaparecer de cargos onde eles deveriam estar, deixando-os visíveis apenas em estereótipos muito específicos (como segurança ou motorista de ônibus).
- Trabalhadores Brancos também foram sub-representados, mas de uma forma diferente: a IA os manteve presentes, mas reduziu sua presença em profissões onde eles são a maioria, tentando "corrigir" a realidade de forma exagerada.

3. A "Receita Secreta" é a Mesma para Todos (Convergência)

Uma das descobertas mais importantes foi que, mesmo que esses quatro "chefes" (modelos) venham de lugares diferentes (EUA, China, França) e tenham "personalidades" diferentes, eles cozinharam a mesma receita distorcida.

O GPT-4 (EUA) e o DeepSeek (China) cometeram os mesmos erros.
Isso significa que o problema não é apenas um "bug" de um modelo específico. É como se todos eles estivessem lendo os mesmos livros de receitas antigos e preconceituosos da internet. O viés está enraizado na estrutura de como essas IAs aprendem, não apenas em uma escolha de design.

4. O Salário: A IA Ignora a Desigualdade Real

A IA também inventou salários para essas pessoas.

Na vida real, existe uma diferença salarial entre homens e mulheres (homens ganham mais, em média).
A IA, no entanto, agiu como se fosse um "igualador mágico": ela deu o mesmo salário para homens e mulheres no mesmo cargo, ignorando a desigualdade real.
O que isso significa? A IA não está apenas distorcendo quem é quem; ela está criando um mundo falso onde a desigualdade de gênero no dinheiro simplesmente não existe, o que pode mascarar problemas reais.

🧠 A Lição Principal: Por que isso importa?

Imagine que você é uma criança e só vê desenhos animados onde todos os médicos são homens e todos os enfermeiros são mulheres. Com o tempo, você começa a achar que é impossível ser o contrário.

A IA está fazendo isso em escala global. Ao gerar perfis de trabalho:

Ela limita nossos sonhos: Se a IA não mostra mulheres em cargos de liderança ou pessoas negras em cargos técnicos, as pessoas reais podem achar que essas carreiras não são para elas.
Ela cria um "Monocultivo" Algorítmico: Como todos os modelos geram as mesmas pessoas estereotipadas, perdemos a diversidade real. Estamos criando um mundo digital onde a população parece muito mais simples e estereotipada do que ela realmente é.

Resumo final:
A IA não é um espelho neutro da realidade. É um espelho que foi polido por estereótipos antigos. Ela tende a exagerar o que já é comum (como hispânicos na limpeza) e apagar o que é menos visível (como negros em cargos variados), tudo isso de forma muito consistente, independentemente de qual empresa criou o modelo. Para consertar isso, precisamos auditar esses "chefes" e pedir que eles cozinhem com ingredientes mais variados e reais, não apenas com o que é mais fácil de lembrar.

Resumo Técnico: Auditoria Cruzada de Viés Racial e de Gênero em Personas Geradas por LLMs

1. Problema e Motivação

À medida que ferramentas de IA generativa são cada vez mais utilizadas para retratar pessoas em funções profissionais (em pesquisa de UX, desenvolvimento de produtos e escrita criativa), surge a preocupação crítica sobre como esses modelos reproduzem ou distorcem vieses raciais e de gênero.

O Desafio: Sistemas anteriores (como motores de busca e geradores de imagem) já demonstraram marginalizar grupos minoritários ou reforçar estereótipos. No entanto, com a geração de personas sintéticas (dados textuais estruturados), o risco evolui de "seleção" (buscar imagens existentes) para "criação" (gerar novos dados).
A Lacuna: Não está claro se os Grandes Modelos de Linguagem (LLMs) apenas refletem as estatísticas demográficas reais ou se as distorcem sistematicamente através de exagero de estereótipos ou apagamento de grupos. Além disso, é desconhecido se esses vieses são artefatos específicos de cada modelo ou resultam de fontes estruturais compartilhadas.

2. Metodologia

Os autores realizaram uma auditoria em larga escala comparando dados gerados por IA com dados reais do Bureau of Labor Statistics (BLS) dos EUA.

Dados de Referência (Benchmark): Estatísticas do Current Population Survey Annual Averages (CPSAA 2023) para 41 ocupações nos EUA, com amostras de pelo menos 50.000 empregados.
Modelos Auditados: Quatro LLMs principais com origens institucionais e culturais distintas:
1. GPT-4 (OpenAI, EUA)
2. Gemini 2.5 (Google, EUA)
3. DeepSeek V3.1 (DeepSeek, China)
4. Mistral-medium (Mistral AI, França)
Procedimento de Geração:
- Foram gerados 1,5 milhão de perfis (10.000 por modelo por ocupação, exceto DeepSeek com 1.000 devido a limitações de API).
- Prompt fixo: "Generate a profile for: in the United States."
- Saída em JSON contendo: nome, idade, gênero, etnia, salário, motivações e biografia.
- Não houve instruções de balanceamento, permitindo que os modelos usassem suas distribuições internas.
Análise Estatística:
- Viés Médio: Diferença em pontos percentuais (pp) entre a saída do modelo e o BLS.
- Decomposição de Deslocamento/Exagero (Shift/Exaggeration): Uso de regressões logísticas para separar:
  - Deslocamento Sistemático ( $\alpha$ ): Sub ou super-representação uniforme de um grupo.
  - Exagero de Estereótipo ( $\beta$ ): Amplificação das desigualdades existentes (se a inclinação > 1) ou atenuação (se < 1).
- Concentração Modal: Medição de Entropia de Shannon para determinar se os modelos geram uma distribuição diversificada ou se "travam" em um único perfil demográfico dominante (comportamento modal).

3. Contribuições Principais

Caracterização do Comportamento Modal: Estabelecem que a geração de gênero é predominantemente modal (os modelos atribuem um único gênero dominante por ocupação), enquanto a geração racial é mais variável, mas consistentemente mais concentrada do que a realidade.
Novo Framework Diagnóstico: Introduzem uma decomposição de deslocamento vs. exagero que permite distinguir entre mudanças demográficas uniformes e a amplificação de estereótipos específicos de ocupações.
Comparação Transversal: Demonstram que vieses estruturais convergem entre modelos de diferentes origens (EUA, China, Europa), sugerindo que as distorções vêm de fontes compartilhadas (dados de treinamento web em escala) e não apenas de ajustes específicos de cada empresa.

4. Resultados Chave

A. Comportamento Modal e Concentração

Gênero: A maioria dos modelos (GPT-4, DeepSeek, Mistral) atribui o mesmo gênero a quase 100% dos perfis de uma ocupação (ex: todos os engenheiros são homens). A entropia de gênero nos modelos é muito baixa (0,15–0,30) comparada ao BLS (0,66).
Raça: O Gemini foi uma exceção parcial, distribuindo raças de forma mais próxima da realidade (entropia próxima ao BLS), mas ainda manteve comportamentos modais extremos em ocupações estereotipadas (ex: 99,9% de caseiros gerados como hispânicos).
Identidade Mista: Houve um apagamento quase total de identidades multirraciais (<1% das saídas), apesar de serem permitidas no prompt.

B. Deslocamentos Sistemáticos (Viés Médio)
Comparado ao BLS, os modelos apresentaram:

Brancos: Sub-representação de -31 pontos percentuais (pp).
Negros: Sub-representação de -9 pp (um deslocamento crítico que leva ao "apagamento" de negros em muitas ocupações, exceto em papéis estereotipados como segurança ou motorista de ônibus).
Hispanos: Super-representação de +17 pp.
Asiáticos: Super-representação de +12 pp.
Mulheres: Leve super-representação média, mas com padrões complexos (super-representadas em profissões de alto status e em ocupações tradicionalmente femininas).

C. Exagero de Estereótipos

Gênero: Os modelos seguem um padrão em "S", exagerando os desequilíbrios existentes. Em ocupações dominadas por homens, subestimam mulheres; em ocupações dominadas por mulheres, superestimam mulheres.
Raça:
- Hispanos e Asiáticos: Exagero de estereótipos (a lacuna entre o modelo e a realidade aumenta em ocupações onde esses grupos já são majoritários).
- Negros: O padrão é de supressão sistemática (quase apagamento) em vez de exagero. A presença de negros é reduzida drasticamente na maioria das ocupações, concentrando-se apenas em poucos nichos estereotipados.

D. Comparação entre Modelos

Apesar das diferenças de origem (EUA vs. China vs. Europa), os quatro modelos exibiram convergência estrutural nos padrões de viés.
O Gemini mostrou um regime de geração racial mais distribuído (provavelmente devido a intervenções de diversidade), mas manteve o viés modal para gênero e estereótipos fortes em ocupações específicas.
Isso indica que os vieses não são apenas "bugs" de um modelo, mas características estruturais dos dados de treinamento em escala da web.

E. Salários

Os modelos comprimiram a disparidade salarial de gênero. Enquanto o BLS mostra uma diferença salarial de cerca de $7.592 a favor dos homens, três dos quatro modelos atribuíram salários idênticos a homens e mulheres na mesma ocupação, tratando o salário como uma propriedade da função e não do demográfico.

5. Significado e Conclusão

O estudo conclui que a IA generativa não apenas reflete, mas reconfigura a visibilidade demográfica de forma estrutural.

Risco de Monocultura Algorítmica: A convergência entre modelos de diferentes origens cria um "monocultura algorítmica", onde as mesmas atribuições demográficas estereotipadas são reproduzidas independentemente da ferramenta utilizada.
Natureza do Dano: O dano representacional não é apenas a sub-representação, mas também o exagero de estereótipos (para hispânicos e asiáticos) e o apagamento quase total (para negros).
Implicações para Avaliação: Auditorias de IA não podem se limitar a medir a "diversidade" agregada. É necessário usar frameworks que separem deslocamentos uniformes de exageros de estereótipos e que realizem auditorias cruzadas entre múltiplos modelos para distinguir vieses estruturais de escolhas de design específicas.

Este trabalho fornece uma base metodológica robusta para futuras auditorias de IA, destacando a necessidade de frameworks de avaliação que examinem como populações sintéticas remodelam a visibilidade demográfica em papéis sociais.