💬 NLP

Can LLMs Hire Fairly? Racial Bias in Resume Screening

Este artigo audita quatorze grandes modelos de linguagem e descobre que, embora um modelo de 2023 tenha exibido um viés de contratação pró-branco semelhante à discriminação humana, todos os modelos lançados em 2024 ou posteriormente demonstraram ou nenhum viés ou uma reversão pró-negro significativa, marcando uma mudança geracional na equidade algorítmica de contratação.

Autores originais: Zhenyu Gao, Wenxi Jiang, Yutong Yan

Publicado 2026-06-30

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Zhenyu Gao, Wenxi Jiang, Yutong Yan

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está contratando para um emprego, mas em vez de um humano analisar os currículos, você pede a um robô computador superinteligente para tomar a decisão. Você quer saber: Este robô é justo?

Este artigo é como um enorme experimento de "cliente oculto". Os pesquisadores contrataram 14 robôs de IA diferentes (Grandes Modelos de Linguagem) para atuarem como gerentes de contratação. Eles deram a cada robô milhares de pares de currículos falsos que eram idênticos em todos os aspectos — mesma educação, mesmo histórico profissional, mesma idade, mesmas habilidades. A única coisa que mudava era o nome no currículo.

Aqui está a história do que eles descobriram, contada através de algumas analogias simples:

1. O "Robô Antigo" vs. Os "Novos Robôs"

Pense nos modelos de IA como diferentes gerações de smartphones.

O Modelo 2023 (O "Telefone Antigo"): Os pesquisadores testaram um modelo mais antigo (GPT-3.5-turbo). Este robô agiu exatamente como os humanos enviesados encontrados em estudos passados. Quando via um nome que soava negro, era menos propenso a dizer "Sim, chame esta pessoa" em comparação a um nome que soava branco. Ele mostrou uma clara preferência por nomes brancos.
Os Modelos 2024+ (Os "Telefones Novos"): Depois, eles testaram 13 modelos mais novos lançados em 2024 e 2025. Esses robôs fizeram algo surpreendente. Eles não se tornaram apenas neutros; eles penderam para o outro lado. Começaram a favorecer nomes negros em vez de nomes brancos.

A Analogia: Imagine uma balança.

O robô antigo inclinou a balança pesadamente para o lado Branco.
Os novos robôs inclinaram a balança pesadamente para o lado Negro.
Os robôs mais recentes (de 2026) estão tentando equilibrar a balança perfeitamente, mostrando quase nenhuma preferência de um lado ou de outro.

2. A Mesma História para Homens e Mulheres

Eles realizaram o exato mesmo teste, mas mudaram os nomes para ver se os robôs eram enviesados contra homens ou mulheres.

O Robô Antigo: Preferia homens em vez de mulheres.
Os Novos Robôs: Preferiam mulheres em vez de homens.
Os Robôs Mais Recentes: Estão se tornando neutros novamente.

3. Por Que Isso Aconteceu?

O artigo sugere que isso não é um erro; é o resultado de como os robôs foram "ensinados" a se comportar.

Os Dados de Treinamento: O robô antigo aprendeu com a internet como ela é, que contém muito viés humano histórico (favorecendo homens brancos).
A Correção de "Alinhamento": As empresas que construíram os robôs mais novos perceberam que isso era injusto. Elas adicionaram uma "aula especial de treinamento" (chamada de alinhamento) para ensinar os robôs a serem justos.
A Correção Excessiva: Parece que os robôs mais novos ficaram um pouco entusiasmados demais em serem justos. Em vez de apenas serem neutros, eles começaram a favorecer ativamente os grupos que eram anteriormente discriminados. É como um professor que, após ver um aluno sofrer bullying, decide dar pontos extras para esse aluno em todos os testes, mesmo quando ele não os mereceu.

4. A Grande Conclusão

A principal lição deste artigo é que o viés da IA não é algo fixo. Ele muda dependendo de qual versão do robô você usa e de quando ele foi construído.

Robôs de 2023: Repetiram os antigos erros humanos (favorecendo homens brancos).
Robôs de 2024-2025: Tentaram consertar, mas penderam demais para o outro lado (favorecendo mulheres negras).
Robôs de 2026: Estão se aproximando de serem verdadeiramente neutros.

O Ponto Principal:
O artigo conclui que só porque uma ferramenta é "IA", não significa que ela seja justa. Às vezes ela é muito enviesada de um lado, e às vezes do outro. A única maneira de saber se uma ferramenta de contratação de IA específica é justa é testá-la constantemente, porque a "personalidade" da IA muda a cada nova atualização.

O que o artigo NÃO diz:

Não diz que esses robôs estão sendo usados por todas as empresas atualmente (embora mencione um processo judicial contra uma empresa, a Workday).
Não diz que devemos parar de usar IA.
Não diz que o viés "pró-negro" é algo bom; os autores argumentam que qualquer viés (favorecer um grupo em vez de outro) é ruim para a justiça. O objetivo é uma balança neutra, não uma balança inclinada.

Resumo Técnico: Os LLMs Podem Contratar de Forma Justa? Viés Racial na Triagem de Currículos

Declaração do Problema

À medida que os Grandes Modelos de Linguagem (LLMs) se tornam cada vez mais integrados em decisões econômicas consequentes, especificamente na contratação, há uma necessidade crítica de determinar se esses sistemas perpetuam padrões existentes de discriminação humana ou se os remodelam. Embora desafios legais (por exemplo, a ação coletiva contra a Workday em 2026) tenham destacado o potencial para discriminação algorítmica, as evidências empíricas sobre a natureza específica e a direção do viés em triadores de contratação baseados em LLM permanecem limitadas. A questão central abordada é se os LLMs, ao atuarem como gestores de RH, exibem viés racial e de gênero, e como esse viés evolui através de diferentes gerações e provedores de modelos.

Metodologia

O estudo emprega uma metodologia de auditoria de currículos pareados em larga escala, adaptando diretamente o design de experimento de correspondência estabelecido por Bertrand e Mullainathan (2004) e escalado por Kline, Rose e Walters (2022).

Design Experimental: Os pesquisadores construíram perfis de candidatos que eram idênticos em todos os atributos substantivos (educação, histórico profissional, idade, gênero), exceto pelo primeiro e último nome do candidato. Os nomes foram extraídos de listas estabelecidas de nomes distintivamente negros e brancos (Bertrand e Mullainathan, 2004; Kline et al., 2022).
Fonte de Dados: A auditoria utilizou 6.007 anúncios de empregos de nível inicial reais dos EUA do universo da Revelio Labs, amostrados para corresponder à distribuição de empresas da Fortune-500.
Painel de Modelos: Quatorze LLMs mainstream foram testados, abrangendo datas de lançamento de maio de 2023 a abril de 2026. O painel inclui modelos de oito provedores (OpenAI, Anthropic, Meta, Google, xAI, DeepSeek, Alibaba e Zhipu) com tamanhos de parâmetros variando de 8B a 397B.
Prompting e Pontuação: Cada modelo foi instruído com uma instrução de sistema padronizada para atuar como um gerente de RH e responder com uma única palavra ("sim" ou "não") indicando se deveria avançar com um candidato. A temperatura foi definida em zero para garantir saídas determinísticas.
Escala: O estudo gerou 24.024 anúncios pareados por modelo para o eixo racial e 48.048 anúncios pareados por modelo para o eixo de gênero.
Análise Estatística: A métrica primária foi a lacuna de retorno de chamada ( $\Delta$ ), calculada como a diferença nas taxas de "sim" entre grupos favorecidos e desfavorecidos. A significância foi avaliada usando o teste de McNemar em pares discordantes, com inferência robusta ao cluster (bootstrap e erros padrão) aplicada ao nível do anúncio para considerar a dependência dentro do anúncio.

Principais Contribuições

Auditoria Sistemática Multi-Modelo: Este trabalho fornece a primeira auditoria sistemática da discriminação de contratação por LLM em uma escala comparável aos experimentos de campo que estabeleceram os basais humanos, cobrindo 14 modelos no eixo racial e 13 no eixo de gênero.
Documentação de Inversão de Sinal: O estudo documenta uma mudança qualitativa na direção da discriminação algorítmica através das gerações de modelos, movendo-se de um viés pró-Branco/pró-Masculino nos modelos de 2023 para um viés pró-Negro/pró-Feminino (ou lacunas nulas) nos modelos de 2024+.
Correlação de Eixos de Viés: O artigo demonstra que o viés de raça e gênero são positivamente correlacionados entre os modelos; modelos que favorecem nomes codificados como negros também tendem a favorecer nomes codificados como femininos.

Principais Resultados

Discriminação Racial

Vintage 2023 (GPT-3.5-turbo): O único modelo de 2023 reproduziu a lacuna de retorno de chamada pró-Branco encontrada em experimentos de campo humanos. Nomes codificados como brancos receberam retornos de chamada 2,12 pontos percentuais (pp) mais frequentemente do que nomes codificados como negros (significativo ao nível de 1%). Esta magnitude excedeu a lacuna de 1,6 pp reportada por Kline et al. (2022).
Vintage 2024+: Todo modelo lançado em 2024 ou depois exibiu ou uma lacuna nula ou uma inversão pró-Negro estatisticamente significativa. As lacunas significativas pró-Negro variaram de -0,37 pp a -3,01 pp (ex: Llama-3.1-8B-Instruct mostrou -3,01 pp). Nenhum modelo de 2024+ mostrou uma lacuna pró-Branco significativa.
Trajetória: Dentro das famílias de modelos, a tendência foi consistente. A linhagem da OpenAI moveu-se de +2,12 pp (pró-Branco) no GPT-3.5-turbo para -0,61 pp (pró-Negro) no GPT-4o-mini e, finalmente, para uma lacuna nula no GPT-5.4-mini.

Discriminação de Gênero

Vintage 2023: O GPT-3.5-turbo favoreceu candidatos masculinos em 1,92 pp (significativo ao nível de 1%).
Vintage 2024+: Dez dos doze modelos restantes mostraram uma lacuna pró-Feminino significativa, variando de -0,18 pp a -5,80 pp. Dois modelos (Gemini-2.5-flash e GPT-5.4-mini) mostraram lacunas nulas.
Correlação: Os eixos de raça e gênero foram positivamente correlacionados. O único modelo pró-Branco (GPT-3.5-turbo) foi também o único modelo pró-Masculino. Inversamente, modelos com o maior viés pró-Negro (ex: Claude 3 Haiku) também exibiram o maior viés pró-Feminino.

Robustez

Os achados permaneceram robustos sob inferência robusta ao cluster e correções de Bonferroni para múltiplas comparações. Embora alguns resultados limítrofes (ex: lacuna de gênero do Gemma-4-31B) tenham perdido a significância sob correção estrita, o achado central de uma inversão de sinal através das gerações manteve-se firme.

Significância e Alegações

O artigo alega que a direção do viés de contratação algorítmica não é uma propriedade fixa dos modelos de linguagem, mas varia sistematicamente com o vintage do modelo, o provedor e a escala.

Evolução do Alinhamento: A trajetória observada — de reproduzir os vieses dos dados de pré-treinamento (pró-Branco) para favorecer ativamente nomes codificados como minorias (pró-Negro), e potencialmente em direção à neutralidade nos modelos mais recentes — é atribuída a mudanças nos procedimentos de alinhamento pós-treinamento entre 2023 e 2024.
Implicações de Equidade: Os autores argumentam que nem o viés original pró-Branco nem a subsequente reversão pró-Negra são desejáveis do ponto de vista da equidade. Um triador de contratação que favorece sistematicamente um grupo sobre outro, independentemente da direção, falha no requisito básico de tratamento igualitário.
Relevância Regulatória: Os resultados fornecem evidências empíricas para reguladores (como os que aplicam a Lei de IA da UE ou a Lei Local 144 de NYC) de que a magnitude e a direção do viés dependem de escolhas específicas de implantação (versão do modelo, data de treinamento, prompting). Os autores concluem que a auditoria sistemática do tipo realizada aqui é essencial para a conformidade regulatória e responsabilidade pública à medida que as ferramentas de IA se tornam ubíquas na triagem de emprego.