Measuring Validity in LLM-based Resume Screening

Título: Medindo a Valididade em Triagem de Currículos Baseada em LLMs

Autores: Jane Castleman, Zeyu Shen, Blossom Metevier, Max Springer, Aleksandra Korolova (Princeton University)
Evento: Second Conference of the International Association for Safe and Ethical Artificial Intelligence (IASEAI'26)

---

1. O Problema

A triagem de currículos é uma das tarefas mais comuns onde a Inteligência Artificial (IA) é aplicada, com cerca de 90% dos empregadores utilizando ferramentas de filtragem. Com o advento dos Grandes Modelos de Linguagem (LLMs), muitas organizações adotaram modelos de propósito geral ("out-of-the-box") para analisar e ranquear candidatos sem adaptações específicas.

Embora existam estudos extensos sobre viés (justiça/desigualdade demográfica) nesses sistemas, há uma lacuna crítica na medição da validade das decisões. A validade refere-se à capacidade fundamental do modelo de identificar o candidato superior com base em qualificações relevantes para o trabalho, ignorando fatores irrelevantes.

• Desafios Atuais:
  • Falta de "verdade fundamental" (ground truth) em dados reais de contratação (não se sabe quem seria o melhor candidato real).
  • Risco de contaminação entre treino e teste (os modelos podem ter visto os dados de avaliação durante o treinamento).
  • Dependência de avaliações baseadas em concordância humana, que também podem ser tendenciosas ou inválidas.

2. Metodologia Proposta

Os autores propõem um novo framework baseado em princípios de engenharia de software (Teste Metamórfico e Teste de Mutação) para criar cenários de avaliação controlados e escaláveis.

A. Construção de Casos de Teste (Ground Truth Sintético)

O framework gera pares de currículos sintéticos baseados em descrições de trabalho reais (scrapeadas do Greenhouse, LinkedIn, etc.), garantindo que os dados não tenham sido usados no treinamento dos LLMs avaliados.

1. Resumo Base: Cria-se um currículo que atende exatamente aos requisitos obrigatórios.
2. Pares Desiguais (Validade de Critério):
   • Mais qualificado ($c^+$): Adiciona qualificações preferenciais ao base.
   • Menos qualificado ($c^-$): Remove requisitos obrigatórios do base.
   • Objetivo: O modelo deve escolher consistentemente $c^+$ sobre $c$ e $c$ sobre $c^-$.
3. Pares Iguais (Validade Discriminante):
   • Cria-se cópias do currículo base com a mesma qualificação, mas alterando sinais demográficos (nomes, prêmios, afiliações) para representar diferentes grupos (Homem/Mulher, Branco/Negro).
   • Objetivo: O modelo deve reconhecer a equivalência e abster-se (não escolher arbitrariamente) ou escolher com taxas iguais entre grupos.

B. Métricas de Avaliação

O sistema modela o LLM como uma função de comparação par-a-par $P_j(c, c')$.

• Validade de Critério (Criterion Validity): Porcentagem de vezes que o modelo seleciona corretamente o candidato mais qualificado em pares desiguais.
• Validade Discriminante (Discriminant Validity): Porcentagem de vezes que o modelo se abstém ao comparar candidatos igualmente qualificados com diferentes demografias.
• Taxa de Superavaliação (Over-Assessment): Frequência com que o modelo seleciona um candidato menos qualificado ou de um grupo demográfico específico em detrimento de outro, indicando viés ou erro de julgamento.
• Cenários de Força: Avaliações tanto com opção de abstenção quanto em cenários de escolha forçada (top-k).

3. Principais Contribuições

1. Framework de Validação Controlada: Introduz um método para gerar pares de currículos com "ground truth" conhecido e não contaminado, permitindo auditorias independentes de modelos "out-of-the-box".
2. Separação Analítica entre Validade e Justiça: Demonstra que validade (precisão técnica) e justiça (equidade demográfica) são propriedades distintas. Um modelo pode ser válido (escolher o melhor) mas injusto, ou consistente mas inválido.
3. Escalabilidade e Reprodutibilidade: O método pode ser reexecutado com novas descrições de trabalho e versões de modelos, evitando o problema de benchmarks estáticos que ficam obsoletos ou contaminados.
4. Análise de Abstenção: Estuda o papel da abstenção (recusar-se a decidir) como ferramenta de justiça e segurança em decisões de alto risco.

4. Resultados Chave

Os autores avaliaram diversos modelos de ponta (GPT-5, Claude Sonnet 4, Gemini 2.5 Pro, Llama 3, etc.) em múltiplos cenários.

• Desempenho na Validade de Critério:

  • Modelos maiores e mais recentes tendem a ter maior validade, mas nenhum atinge perfeição.
  • Modelos como Claude Sonnet 4 e GPT-5 alcançaram cerca de 96-99% de acerto em pares com grandes diferenças de qualificação ($k=3$).
  • Crítico: O desempenho cai significativamente quando as diferenças são sutis ($k=1$). Muitos modelos falham em distinguir candidatos com pequenas variações de qualificação, o que é comum em vagas competitivas.
  • Modelos menores (ex: Llama 3.1 8B) tiveram desempenho próximo ao aleatório em alguns cenários.

• Erros de Decisão:

  • A maioria dos erros não foi a escolha do candidato errado, mas sim a abstenção injustificada (o modelo não consegue decidir mesmo quando há um candidato claramente superior).
  • Isso sugere que, em cenários reais, muitos candidatos qualificados poderiam ser rejeitados ou enviados para revisão humana desnecessária.

• Validade Discriminante e Justiça:

  • A maioria dos modelos falha em se abster corretamente quando os candidatos são igualmente qualificados, escolhendo arbitrariamente um deles.
  • Viés Inverso (Over-Alignment): Em pares de candidatos igualmente qualificados, alguns modelos (especialmente em vagas de Engenharia de Software) mostraram tendência a selecionar candidatos de grupos historicamente marginalizados (mulheres e negros) em taxas maiores do que homens brancos. Isso sugere uma possível "correção excessiva" (over-correction) nos mecanismos de alinhamento dos modelos.
  • Sinais demográficos explícitos (prêmios/organizações) parecem influenciar mais as decisões do que sinais implícitos (nomes).

5. Significância e Implicações

• Para Reguladores e Auditores: O framework oferece uma ferramenta prática para cumprir regulamentações como a Local Law 144 de Nova York, permitindo auditorias independentes de ferramentas de contratação sem acesso aos dados proprietários das empresas.
• Para Desenvolvedores e Empresas: Alerta que a adoção de LLMs "prontos para uso" sem validação específica para a função é arriscada. A alta taxa de abstenção e a dificuldade em distinguir qualificações sutis podem prejudicar tanto a eficiência da contratação quanto a experiência do candidato.
• Mudança de Paradigma: O trabalho desloca o foco da discussão ética puramente teórica para a confiabilidade empírica. Ele demonstra que a mitigação de viés (alinhamento) pode, paradoxalmente, introduzir novos tipos de invalidade se o modelo começar a priorizar a demografia em detrimento das qualificações reais.
• Futuro: A metodologia sugere que testes contínuos e longitudinais são necessários, pois o comportamento dos modelos muda com atualizações e o contexto de mercado evolui.

Em resumo, o artigo estabelece que a validade é um pré-requisito fundamental para a justiça em sistemas de IA de contratação, e que os modelos atuais, embora avançados, ainda apresentam falhas significativas na capacidade de julgar objetivamente a qualificação dos candidatos.