Mitigating Label Bias with Interpretable Rubric Embeddings

Resumo Técnico: Mitigação do Viés de Rótulo com Embeddings de Rubricas Interpretáveis

Declaração do Problema
Em domínios de tomada de decisão de alto risco, como contratação, admissão universitária e moderação de conteúdo, rótulos de verdade fundamental para a quantidade de interesse (por exemplo, qualidade real do candidato ou desempenho futuro no trabalho) são frequentemente indisponíveis ou proibitivamente caros de obter. Consequentemente, os modelos são frequentemente treinados em avaliações humanas históricas (rótulos proxy), como decisões de contratação passadas ou pontuações de admissão. O artigo argumenta que, se essas avaliações históricas contiverem vieses injustos que favorecem grupos demográficos específicos, os modelos treinados neles herdarão e potencialmente amplificarão esses vieses.

Os autores demonstram que abordagens padrão que utilizam embeddings de texto de caixa preta exacerbam esse problema. Esses embeddings, embora ricos em informações, codificam implicitamente atributos sensíveis (por exemplo, gênero) mesmo quando marcadores explícitos são removidos. Teoricamente, os autores mostram que, se uma representação $R$ codifica a pertença ao grupo, os modelos treinados em rótulos enviesados $Y' = Y + B$ (onde $B$ é um termo de ruído dependente do grupo) são garantidos a replicar e amplificar o viés em suas previsões.

Metodologia
O artigo propõe Embeddings de Rubricas como solução. Diferentemente dos embeddings de caixa preta que capturam todas as regularidades estatísticas no texto, os embeddings de rubricas são construídos a partir de critérios definidos por especialistas alinhados ao construto subjacente de interesse.

1. Construção da Rubrica: Os autores colaboraram com oficiais de admissão para definir 396 medidas interpretáveis e fundamentadas no domínio (por exemplo, clareza do ensaio, trajetória profissional, notas específicas de cursos, força da carta de recomendação).
2. Extração de Recursos: Modelos de Linguagem de Grande Escala (LLMs) são usados para pontuar as aplicações ao longo dessas dimensões específicas de rubrica, criando um vetor de recursos estruturado e semanticamente significativo.
3. Linha de Base de Comparação: O método proposto é avaliado contra:
   • Embeddings de Caixa Preta: Embeddings de texto padrão (por exemplo, text-embedding-3-large).
   • Redação: Remoção de pistas de gênero antes do embedding.
   • Marginalização: Média das previsões sobre manipulações contrafactuais de gênero.
   • Ortogonalização: Projeção de recursos para serem independentes da pertença ao grupo.
   • Kitchen Sink: Combinação de recursos de caixa preta e de rubrica.

Estrutura Teórica
Os autores formalizam o viés usando a estrutura de experimentos de correspondência (estudos de auditoria). Eles definem viés como a diferença esperada nas previsões do modelo quando os recursos de um candidato são manipulados para parecerem de um gênero diferente ($T(X, m)$ vs. $T(X, f)$).

• Proposição 2 demonstra que o viés de um modelo treinado em um rótulo proxy depende da extensão em que a representação codifica a pertença ao grupo. Se a representação $R$ permitir uma mudança nos recursos baseada no gênero, o modelo herda o viés do rótulo.
• Proposição 3 destaca que, mesmo com rótulos não enviesados, embeddings de caixa preta podem induzir viés se omitirem variáveis relevantes que estão correlacionadas tanto com o resultado quanto com o atributo protegido (viés de variável omitida).
• A análise teórica sugere que os embeddings de rubricas, ao restringir o espaço de hipóteses a recursos semanticamente relevantes e excluir ruído correlacionado com o grupo, deveriam teoricamente eliminar o mecanismo pelo qual o viés de rótulo se propaga.

Resultados Empíricos
O estudo utiliza um conjunto de dados de 1.112 aplicações para um programa de mestrado em políticas públicas. Os autores injetaram sinteticamente graus variados de viés ($b$) nas pontuações de admissão para simular discriminação histórica contra candidatas do sexo feminino.

• Embeddings de Caixa Preta: Modelos treinados nesses embeddings exibiram alto viés. À medida que a vantagem masculina sintética ($b$) aumentava, a proporção de mulheres admitidas caía precipitadamente (para quase 0% em níveis altos de viés), e a qualidade média da coorte admitida (medida por pontuações de verdade fundamental) declinava. Os embeddings previam o gênero com 99,6% de AUC, confirmando que codificam atributos sensíveis.
• Redação e Marginalização: Embora teoricamente não enviesadas em relação à manipulação específica $T$, esses métodos falharam na prática. Embeddings redigidos ainda permitiam que os modelos previssem o gênero com 81,2% de AUC devido a regularidades estatísticas residuais. A marginalização corrigiu o viés aparente, mas penalizou inadvertidamente o grupo que era realmente mais qualificado na verdade fundamental, levando a uma menor qualidade da coorte.
• Embeddings de Rubricas: Modelos treinados em embeddings de rubricas mostraram viés virtualmente zero em todos os níveis de viés de rótulo injetado. Crucialmente, mantiveram uma coorte admitida demograficamente diversa (porcentagem estável de mulheres) e alcançaram a maior qualidade de coorte (maiores médias de pontuações de verdade fundamental) em comparação com todos os outros métodos.
• Precisão Preditiva: Contra-intuitivamente, enquanto modelos de caixa preta alcançaram menor Erro Quadrático Médio (RMSE) nos rótulos proxy enviesados, modelos de embeddings de rubricas alcançaram o menor RMSE nos rótulos de verdade fundamental. Isso apoia a afirmação teórica de que incluir recursos correlacionados com o viés (como sinais de gênero em embeddings de caixa preta) degrada o desempenho no resultado verdadeiro quando os rótulos são enviesados.

Contribuições Principais

1. Insight Teórico: O artigo fornece uma decomposição formal mostrando que a propagação do viés de rótulo é contingente à capacidade da representação de codificar a pertença ao grupo. Ele distingue entre viés de rótulo e viés de variável omitida, mostrando como embeddings de caixa preta podem confundir os dois.
2. Proposta Metodológica: Introduz embeddings de rubricas como um método prático e construtivo para seleção de recursos que operacionaliza a remoção de recursos indutores de viés sem depender de suposições estruturais fortes sobre o processo de rotulagem.
3. Validação Empírica: Usando um conjunto de dados novel com injeção sintética de viés, os autores demonstram que embeddings de rubricas melhoram simultaneamente a equidade (paridade de grupo) e a utilidade (qualidade da coorte), superando intervenções padrão de equidade como ortogonalização e redação.

Significado e Afirmações
Os autores afirmam que embeddings de rubricas oferecem uma estratégia prática para mitigar o viés de rótulo em contextos de tomada de decisão onde a verdade fundamental está indisponível. O significado reside em mudar o foco de apenas ajustar funções de perda ou reponderar dados para reconsiderar como os inputs são representados.

O artigo argumenta que fundamentar previsões em critérios interpretáveis e específicos do domínio permite que os modelos se alinhem ao construto subjacente de interesse, filtrando efetivamente correlações espúrias (como sinais de gênero) que levam a resultados enviesados. Embora os autores reconheçam limitações — especificamente o alto custo de construção de rubricas e a possível incapacidade de abordar certas formas de impacto dispar ou justificar intervenções específicas de grupo —, concluem que essa abordagem fornece uma maneira principiante de aprender na presença de rótulos enviesados, abordando um desafio de longa data no design equitativo de algoritmos.