Persistent Proxy Discrimination in HIV Testing Prediction Models: A National Fairness Audit of 386,775 US Adults

Este estudo nacional auditando 386.775 adultos nos EUA demonstra que a imposição de paridade demográfica em modelos de predição de testes de HIV é inadequada em contextos de carga diferenciada, pois reduz drasticamente a detecção de casos em populações de alto risco, recomendando-se o uso de métricas de equidade baseadas na necessidade clínica, como odds igualados e calibração.

O essencial

🚨 O Perigo de "Tratar Todos Igualmente" na Medicina

Imagine que você é um bombeiro e precisa decidir para quais casas enviar seus caminhões. Você tem dois grupos de vizinhança:

1. Bairro A: Onde as casas são de madeira velha e o fogo costuma pegar com frequência (alto risco).
2. Bairro B: Onde as casas são de concreto e o fogo é raro (baixo risco).

Agora, imagine que um robô inteligente foi programado para decidir para onde enviar os bombeiros. O robô aprendeu com o histórico e percebeu: "O Bairro A pega fogo muito mais vezes". Então, o robô envia 10 caminhões para o Bairro A e 1 para o Bairro B. Isso faz sentido, certo? É onde o perigo está.

Mas, de repente, chega um auditor de "Justiça" e diz:

"Espera aí! Isso não é justo! O robô está enviando 10 caminhões para o Bairro A e apenas 1 para o Bairro B. Para ser 'justo', o robô deve enviar exatamente a mesma quantidade de caminhões para os dois bairros, não importa o risco."

O robô obedece. Agora, ele envia 5 caminhões para o Bairro A e 5 para o Bairro B.
O resultado?

• No Bairro A (onde o fogo é real), 5 casas queimam porque faltaram bombeiros.
• No Bairro B (onde não há fogo), 4 caminhões ficam parados, desperdiçando recursos.

Isso é exatamente o que este artigo descobriu sobre testes de HIV e Inteligência Artificial.

---

🧬 O Caso do HIV: Quem Precisa de Mais Ajuda?

Nos EUA, o HIV não afeta a todos da mesma forma.

• Pessoas Negras e Hispanas têm taxas de infecção muito mais altas do que pessoas Brancas ou Asiáticas. Isso acontece por motivos históricos e sociais (pobreza, falta de acesso a saúde, estigma), não por biologia.
• Portanto, a saúde pública diz: "Precisamos testar muito mais pessoas Negras e Hispanas para encontrar os casos e tratá-los."

Os pesquisadores criaram um modelo de computador (IA) para prever quem já fez o teste de HIV. O modelo aprendeu a realidade: como as pessoas Negras têm mais risco e mais campanhas de saúde focadas nelas, elas já fazem mais testes. O modelo, então, recomenda testes com mais frequência para esse grupo.

O Problema da "Justiça Cega" (Demographic Parity)
Muitos especialistas em IA dizem: "Para ser justo, a IA deve recomendar testes na mesma proporção para todos os grupos raciais". Eles chamam isso de Paridade Demográfica.

O artigo mostra que, se você forçar a IA a seguir essa regra de "igualdade numérica":

1. A IA é obrigada a parar de recomendar testes para as pessoas que mais precisam (Negros e Hispanos).
2. A IA é obrigada a começar a recomendar testes para pessoas que têm menos risco (Brancos e Asiáticos), apenas para "igualar os números".

O Resultado Trágico:

• A sensibilidade do teste para pessoas Negras caiu de 78% para 30%.
• Isso significa que, de cada 100 pessoas Negras que deveriam ser testadas, a IA "justa" deixou de testar 70 delas.
• Estima-se que isso deixaria 1.610 pessoas infectadas sem diagnóstico apenas em um único grupo de teste.

É como o bombeiro que, para ser "justo", deixa de apagar o incêndio no Bairro A para apagar uma fumaça leve no Bairro B.

---

⚖️ A Troca Perigosa: O que é "Justo" vs. O que é "Correto"

O artigo explica a diferença entre dois tipos de justiça:

1. Justiça de Empréstimo (Paridade Demográfica):

   • Analogia: Se um banco nega empréstimos, ele não deve negar mais para negros do que para brancos. A raça não deve importar.
   • Por que funciona aqui: Ser negro não deve tornar você menos confiável financeiramente.
   • Por que falha na saúde: Ser negro (neste contexto) significa ter um risco maior de HIV devido a desigualdades sociais. Ignorar isso é ignorar a realidade médica.

2. Justiça Médica (Odds Igualados):

   • Analogia: Se o bombeiro vai para o Bairro A, ele deve ter a mesma chance de encontrar um incêndio que o bombeiro do Bairro B (se houver um). A precisão deve ser a mesma, mesmo que o número de caminhões seja diferente.
   • O que o artigo defende: A IA deve ser precisa para todos (não errar diagnósticos), mas pode (e deve) recomendar testes em quantidades diferentes, dependendo de quem está em maior risco.

---

🎯 O Efeito "Bola de Neve" (Interseccionalidade)

O artigo também descobriu algo curioso: quando você tenta consertar a injustiça racial, você pode criar uma injustiça de gênero.

• Ao forçar a IA a tratar todas as raças igualmente, ela começou a tratar homens e mulheres de forma desigual.
• Por exemplo, homens Negros (o grupo de maior risco) tiveram a recomendação de testes reduzida drasticamente, enquanto mulheres Brancas viram suas recomendações aumentarem.
• A lição: Tentar consertar um problema de "justiça" de um só lado (raça) pode desequilibrar o outro lado (gênero), a menos que você olhe para a pessoa inteira (raça + gênero + idade).

---

💡 Conclusão Simples

Este artigo é um alerta para médicos, cientistas de dados e políticos:

"Não use a mesma régua para medir tudo."

Aplicar regras de "igualdade numérica" (todos recebem a mesma quantidade de algo) na medicina pode ser desastroso quando as necessidades são diferentes.

• Se o objetivo é encontrar o vírus, você deve focar onde o vírus está.
• Forçar a IA a ser "igualitária" no número de testes, em vez de ser "eficiente" em salvar vidas, piora a saúde dos mais vulneráveis.

A verdadeira justiça na saúde não é dar a mesma dose de remédio para todos, mas dar a dose certa para quem precisa dela. A tecnologia deve nos ajudar a fazer isso, não a nos impedir.

Resumo técnico

Resumo Técnico: Quando Métricas de Justiça Enganam

Título: Quando Métricas de Justiça Enganam: A Paridade Demográfica Reduz a Triagem de HIV para Populações de Alta Carga
Autor: Hayden Farquhar
Fonte: Preprint medRxiv (2026)

1. O Problema

O artigo aborda um dilema crítico na inteligência artificial aplicada à saúde: a seleção inadequada de métricas de justiça algorítmica em contextos clínicos onde a carga da doença difere significativamente entre grupos demográficos.

• O Conflito: A literatura de justiça algorítmica oferece definições matematicamente incompatíveis, sendo as principais a Paridade Demográfica (taxas de predição positivas iguais entre grupos, independentemente do resultado real) e a Odds Igualada (taxas de verdadeiros positivos e falsos positivos iguais entre grupos, condicionadas ao resultado real).
• O Cenário: Em contextos como o HIV nos EUA, a carga da doença é desproporcional (ex: negros representam 13% da população, mas 42% dos novos diagnósticos).
• A Hipótese de Trabalho: A aplicação da Paridade Demográfica em modelos de predição de triagem de HIV forçaria uma equalização das taxas de recomendação de testes, o que, paradoxalmente, reduziria o acesso à triagem para as populações de maior risco (que precisam de mais testes) e aumentaria para populações de menor risco, invertendo as prioridades de saúde pública.

2. Metodologia

O estudo utilizou uma abordagem quantitativa rigorosa com dados de grande escala e múltiplas técnicas de mitigação de viés.

• Dados:
  • Principal: Behavioral Risk Factor Surveillance System (BRFSS) 2024 (N = 386.775 adultos). A variável de resultado foi o histórico de teste de HIV (utilização de serviços).
  • Validação Externa: Dados do Programa Ryan White HIV/AIDS (N = 372.220 pacientes) e CDC AtlasPlus para confirmar a disparidade real de carga da doença.
  • Validação de Coeficientes: Auditoria do Denver HIV Risk Score para examinar estratificação explícita baseada em raça.
• Modelos de Machine Learning:
  • Foram treinados quatro classificadores padrão: Regressão Logística (LR), Random Forest (RF), Gradient Boosting (GB) e XGBoost.
  • Variáveis: Idade, sexo, raça/etnia (8 categorias), baixa renda, diagnóstico de depressão, barreiras de custo e região geográfica.
  • Experimentos: Modelos inclusivos de raça e modelos "cegos à raça" (excluindo a variável raça para testar se disparidades persistem através de proxies correlacionados).
• Métricas de Justiça:
  • Paridade Demográfica (DPD): Diferença nas taxas de seleção positiva.
  • Odds Igualada (EOD): Diferença nas taxas de verdadeiros positivos (TPR) e falsos positivos (FPR).
  • Calibração: Precisão das probabilidades preditas entre grupos.
• Métodos de Mitigação:
  • Otimização de Limiar (Pós-processamento): Ajuste de limites de decisão específicos por grupo para equalizar taxas de seleção.
  • Gradiente Exponenciado (In-processamento): Incorporação de restrições de justiça durante o treinamento (usando LR como base).
• Análise Interseccional: Avaliação cruzada de Raça x Sexo para identificar transferência de disparidade.

3. Resultados Principais

• Desempenho Baseline:

  • Os modelos apresentaram discriminação moderada (AUC entre 0,671 e 0,714).
  • As taxas de seleção refletiram fielmente a carga real da doença: 66,0% para a população Negra vs. 12,1% para a Asiática. A DPD foi alta (0,519–0,634), mas isso espelha a realidade epidemiológica, não necessariamente um viés algorítmico malicioso.
  • Modelos Cegos à Raça: Remover a variável "raça" eliminou apenas ~30% da disparidade. Cerca de 70% da disparidade persistiu devido a proxies correlacionados (seguro saúde, depressão, barreiras de custo, região), que capturam determinantes sociais da saúde reais.

• Impacto da Mitigação por Paridade Demográfica (DP):

  • Ao forçar a igualdade nas taxas de seleção (DPD ≈ 0), o modelo sofreu um colapso na sensibilidade para grupos de alta carga:
    • População Negra: A Taxa de Verdadeiros Positivos (TPR) caiu de 78,2% para 30,0% (uma redução relativa de 61,6%).
    • População Hispana: A TPR caiu de 62,6% para 28,3%.
    • Consequência Clínica: Estimou-se 1.610 indivíduos negros adicionais e 1.361 hispanos adicionais deixados de ser identificados para triagem apenas no conjunto de teste.
  • Custo de Desempenho: A mitigação por Gradiente Exponenciado reduziu o AUC de 0,671 para 0,592 (queda de 11,8%).

• Interseccionalidade e Trade-offs:

  • A otimização para justiça racial (reduzir DPD racial) piorou a disparidade baseada em sexo em 71% (DPD de sexo aumentou de 0,103 para 0,176).
  • Homens Negros (o grupo de maior incidência de HIV) sofreram a maior redução: a taxa de seleção caiu de 69,9% para 9,0%.
  • A otimização multi-objetivo (raça e sexo simultaneamente) reduziu a DPD interseccional, mas manteve o custo fundamental de suprimir a triagem para grupos de alta necessidade.

• Validação Externa:

  • Dados do programa Ryan White confirmaram que pacientes negros têm taxas de supressão viral 4,7 pontos percentuais menores que brancos, validando que a disparidade de carga é real e estrutural, não um artefato do modelo.

4. Contribuições Chave

1. Crítica à Paridade Demográfica na Saúde: Demonstra empiricamente que a Paridade Demográfica é uma métrica de justiça inapropriada para contextos de saúde com carga de doença desigual. Sua aplicação pode causar dano clínico direto ao reduzir o acesso a cuidados para quem mais precisa.
2. Distinção entre Viés e Necessidade Clínica: Argumenta que predições diferenciais que espelham disparidades epidemiológicas reais (como maior teste em grupos de maior risco) não devem ser automaticamente classificadas como "viés" a ser corrigido, mas sim como captura de necessidade.
3. Análise de Trade-offs Interseccionais: Evidencia que otimizar a justiça em uma única dimensão (ex: raça) pode transferir a desigualdade para outra dimensão (ex: sexo), exigindo abordagens multi-objetivas, embora estas também enfrentem custos de desempenho.
4. Recomendação de Métricas Alternativas: Propõe que auditorias de justiça em saúde devem priorizar Odds Igualada (garantir que o modelo seja igualmente preciso para todos) e Calibração (garantir que as probabilidades tenham o mesmo significado), em vez de igualdade de taxas de seleção.

5. Significado e Implicações

O estudo tem implicações profundas para o desenvolvimento e auditoria de IA na saúde:

• Mudança de Paradigma: Alerta que a aplicação cega de frameworks de justiça desenvolvidos para setores não clínicos (como empréstimos ou contratação) pode ser prejudicial na medicina.
• Decisão Clínica vs. Otimização Matemática: A escolha da métrica de justiça não é apenas técnica, mas uma decisão normativa com consequências para a vida dos pacientes. A "justiça estatística" (igualdade de taxas) pode ser injustiça clínica (desigualdade de cuidado).
• Ação Prática: Recomenda que desenvolvedores e reguladores evitem a Paridade Demográfica como padrão para triagem de doenças com disparidade de carga. Em vez disso, devem envolver clínicos e comunidades na definição de métricas que respeitem a necessidade clínica (ex: Odds Igualada) e quantifiquem o impacto clínico (ex: número de casos perdidos) antes de implementar correções de viés.

Em suma, o artigo conclui que a justiça algorítmica na saúde exige julgamento clínico e compreensão epidemiológica, não apenas otimização matemática de métricas de equidade.