Using Embedding Models to Improve Probabilistic Race Prediction

Resumo Técnico: Uso de Modelos de Embedding para Melhorar a Predição Probabilística de Raça (eBISG)

1. O Problema: A Lacuna de Cobertura do BISG

O método Bayesian Improved Surname Geocoding (BISG) é o padrão ouro nas ciências sociais e de saúde para estimar a raça de indivíduos quando os dados administrativos não possuem essa informação. O BISG combina duas fontes de dados do Censo dos EUA: a probabilidade de raça baseada no sobrenome $P(R|S)$ e a composição racial da localização geográfica $P(R|G)$.

O problema central identificado pelos autores é que o BISG depende criticamente de tabelas de nomes do Censo. Como essas tabelas utilizam um limiar de frequência (apenas nomes que ocorrem pelo menos 100 vezes), aproximadamente 10% da população dos EUA possui sobrenomes "não listados". Para esses indivíduos, o BISG utiliza uma "prior genérica" (a distribuição racial nacional), que não contém nenhuma informação específica sobre o nome do indivíduo.

Essa falha não é aleatória: ela afeta desproporcionalmente as populações Hispânica e Asiática, cujos sobrenomes são frequentemente omitidos das listas de alta frequência do Censo, resultando em uma queda drástica na precisão e no recall das predições para esses grupos.

2. Metodologia Proposta: eBISG (embedding-powered BISG)

Para resolver essa lacuna, os autores propõem o eBISG, uma classe de métodos que substitui a prior genérica por probabilidades informativas derivadas de embeddings de texto.

A lógica é que modelos de linguagem pré-treinados (como o E5-Large) transformam nomes em vetores densos em um espaço de alta dimensão. Nomes com raízes morfológicas ou etimológicas semelhantes (mesmo que nunca tenham aparecido no Censo) ocuparão posições próximas no espaço vetorial, permitindo a generalização.

Os autores testam cinco abordagens progressivas:

1. Standard BISG: Apenas sobrenomes do Censo (baseline).
2. BIFSG: Incorpora probabilidades de primeiro nome do Censo (assume independência condicional entre nome e sobrenome).
3. eBISG (Surname Embedding): Treina uma rede neural sobre os embeddings de sobrenomes do Censo para prever a raça de sobrenomes não listados.
4. eBISG (Surname + First Name Embedding): Combina modelos de embedding para ambos os nomes.
5. eBISG (Full-Name Embedding): A abordagem mais avançada. Treina uma rede neural em arquivos de eleitores (voter files) usando a concatenação de nome, nome do meio e sobrenome. Isso permite capturar interações entre os componentes do nome que os modelos anteriores ignoram devido à suposição de independência condicional.

3. Principais Contribuições

• Inovação Metodológica: Introdução do uso de embeddings para preencher lacunas de dados de censos em tarefas de imputação racial.
• Quebra da Independência Condicional: Ao usar o "full-name embedding", o modelo supera a limitação teórica do BISG/BIFSG de tratar nomes como sinais independentes, capturando nuances culturais de combinações de nomes.
• Mitigação de Viés Socioeconômico: O método reduz o viés sistemático onde o BISG padrão tende a superestimar a proporção de brancos em áreas ricas e subestimar minorias em outras faixas de renda.
• Compatibilidade: O eBISG é projetado para ser um "plug-and-play", integrando-se facilmente a fluxos de trabalho existentes (como o estimador BIRDiE) sem alterar as predições para os 90% da população que já estão cobertos pelo Censo.

4. Resultados Experimentais

Utilizando dados de eleitores da Carolina do Norte e Flórida, os resultados demonstraram:

• Melhoria na Precisão/Recall: O modelo de Full-Name Embedding obteve os maiores ganhos de performance em todas as categorias raciais, especialmente para eleitores Hispânicos e Asiáticos com nomes não listados.
• Redução do Erro (Brier Score): O modelo de nome completo reduziu significativamente o erro de predição ao longo de todas as faixas de renda, mitigando o gradiente de erro correlacionado à renda observado no BISG tradicional.
• Calibração Superior: O eBISG apresentou uma calibração de probabilidade muito mais próxima da realidade (seguindo a linha de 45 graus), o que é crucial para análises estatísticas subsequentes que utilizam probabilidades em vez de classificações binárias.

5. Significância

O trabalho é de extrema importância para pesquisadores que estudam disparidades raciais em saúde, justiça criminal, finanças e política. Ao fornecer uma maneira de estimar a raça de forma mais precisa para populações imigrantes e minoritárias, o eBISG permite uma medição mais justa e precisa das desigualdades sociais, evitando que a falta de dados censitários oculte disparidades críticas em grupos que já são marginalizados.