Gender-Dependent Diagnostic Substitution in LLM Medical Triage: Same Symptoms, Unequal Urgency

Resumo Técnico: Substituição Diagnóstica Dependente de Gênero em Triagem Médica por LLM

Definição do Problema
Este estudo investiga se Modelos de Linguagem de Grande Escala (LLMs) integrados em aplicações de saúde produzem recomendações de triagem médica díspares para apresentações clínicas idênticas quando apenas o gênero e a idade declarados do paciente variam. A pesquisa aborda um requisito crítico para a IA clínica: a paridade demográfica na avaliação de urgência. Especificamente, testa a hipótese de que sintomas neurológicos idênticos devem gerar recomendações de urgência equivalentes, independentemente do gênero, a menos que o gênero seja clinicamente relevante para a urgência da ação (distinta do diagnóstico em si). O trabalho é motivado por vieses clínicos humanos documentados, nos quais os sintomas neurológicos e cardíacos de mulheres são frequentemente atribuídos a causas benignas ou psicossomáticas, levando a investigações mais lentas ou menos agressivas.

Metodologia
Os autores conduziram um experimento de variação de paciente contrafactual (CPV) utilizando três famílias de LLMs de ponta, de nível de implantação: Gemini 3.5 Flash, Claude Sonnet 4.6 e GPT-5.4-mini. Estes modelos específicos foram selecionados por representarem os candidatos mais prováveis para integração em ferramentas de verificação de sintomas em produção, devido aos seus perfis de custo e latência.

• Design Experimental: O estudo utilizou um perfil de sintoma neurológico padronizado e único, descrevendo sinais de aumento da pressão intracraniana (cefaleia persistente sem resposta a analgésicos, visão turva, náuseas matinais e distúrbios visuais).
• Condições: O texto dos sintomas foi idêntico em 30 tentativas por condição, variando apenas os identificadores demográficos. As condições incluíram três grupos de idade (25, 38, 65) cruzados com dois gêneros (masculino, feminino), além de uma linha de base sem gênero especificado (idade 38). Isso resultou em 630 tentativas totais (210 por modelo).
• Restrições de Saída: Os modelos foram instigados via API (temperatura 0.3) para retornar um JSON estruturado contendo um diagnóstico, pontuação de gravidade (1–10), classificação de urgência (Emergência/Urgente/Rotina), ação recomendada (Pronto-Socorro/Consulta Médica/Autocuidado) e testes diferenciais.
• Análise: O desfecho primário foi a taxa de encaminhamento para o Pronto-Socorro (ER). A análise secundária focou nos diagnósticos específicos gerados. A significância estatística foi determinada por testes exatos de Fisher com correção de Bonferroni, e os tamanhos de efeito foram calculados usando o h de Cohen.

Principais Descobertas
O estudo identificou uma disparidade de gênero sistêmica e acentuada na urgência de triagem para pacientes jovens, que foi impulsionada por um mecanismo denominado substituição diagnóstica.

1. Disparidade no Encaminhamento ao Pronto-Socorro (ER): Mulheres jovens receberam taxas de encaminhamento ao ER significativamente menores do que homens da mesma idade, apesar de sintomas idênticos e pontuações de gravidade comparáveis (7–9/10).

   • Idade 25:
     • Gemini: 0% de ER para mulheres vs. 23,3% para homens ($p < 0,001$).
     • Claude: 6,7% de ER para mulheres vs. 96,7% para homens ($p < 0,001$).
     • GPT: 6,7% de ER para mulheres vs. 66,7% para homens ($p < 0,001$).
   • Idade 65: A disparidade desapareceu inteiramente em todos os modelos, com ambos os gêneros recebendo 90–100% de encaminhamento ao ER.

2. Mecanismo: Substituição Diagnóstica: Os modelos não apenas atribuíram menor urgência ao mesmo diagnóstico para mulheres. Em vez disso, eles alteraram o próprio diagnóstico com base em priors epidemiológicos de gênero.

   • Mulheres Jovens: Os modelos ancoraram predominantemente na Hipertensão Intracraniana Idiopática (HII), uma condição estatisticamente mais comum em mulheres em idade fértil. Consequentemente, eles direcionaram essas pacientes para consultas ambulatoriais, assumindo que a HII é gerenciada de forma não emergencial.
   • Homens Jovens: Os modelos priorizaram lesões ocupantes de espaço (massas, tumores) no diagnóstico diferencial, desencadeando encaminhamentos de alta urgência ao ER para excluir essas condições.
   • Erro Clínico: Os autores observam que, embora a HII seja um diferencial válido para mulheres jovens, os sintomas descritos (distúrbio visual progressivo, cefaleia implacável) constituem sinais de alerta para aumento da pressão intracraniana que requerem avaliação urgente, independentemente de ser HII ou uma massa. Os modelos avaliaram corretamente a gravidade, mas desconectaram incorretamente a urgência do diagnóstico.

3. Modulação por Idade: O viés foi estritamente dependente da idade. Aos 65 anos, os modelos cessaram a ancoragem na HII para mulheres (consistente com a queda da epidemiologia da HII pós-menopausa) e mudaram para diferenciais apropriados à idade (ex: arterite temporal, doença cerebrovascular) que desencadearam vias urgentes para ambos os gêneros.

Contribuições

1. Demonstração de Disparidade Sistêmica: O artigo fornece evidência empírica de disparidades de gênero significativas na urgência de triagem em três famílias líderes de LLM, com tamanhos de efeito atingindo Cohen's h > 2.2.
2. Identificação do Mecanismo: Identifica a substituição diagnóstica como o mecanismo compartilhado, onde os modelos selecionam um diagnóstico vinculado ao gênero (HII) que inadvertidamente suprime a urgência, em vez de aplicar uma heurística bruta de "mulheres têm menor urgência".
3. Priors Epidemiológicos vs. Urgência Clínica: O estudo demonstra que o viés é impulsionado por priors clínicos estatísticos aprendidos nos dados de treinamento. Os modelos replicam erros clínicos humanos onde um diagnóstico associado ao gênero é usado para fechar prematuramente o ciclo diagnóstico, reduzindo a necessidade percebida de cuidados emergenciais.
4. Ciência Aberta: Os autores liberam todo o código, prompts e resultados brutos para facilitar futuras auditorias.

Significância e Alegações
O artigo alega que os LLMs clínicos replicam vieses clínicos humanos documentados não através de instrução explícita, mas ao aprender e aplicar priors epidemiológicos que são clinicamente inapropriados no contexto de avaliação de urgência. Os autores argumentam que:

• A urgência deve ser desconectada do diagnóstico: Para sintomas que indicam aumento da pressão intracraniana, a necessidade de avaliação emergencial deve ser determinada pela gravidade dos sintomas, não pela probabilidade de um diagnóstico específico como a HII.
• Os requisitos de auditoria devem evoluir: Auditar sistemas de triagem de IA requer analisar o raciocínio diagnóstico (o diagnóstico diferencial), não apenas a ação final (ER vs. Consulta). Um modelo pode produzir pontuações de gravidade altas, mas ainda assim direcionar pacientes para vias de cuidado inferiores via substituição diagnóstica.
• Precisão epidemiológica não é segurança clínica: Um modelo identificar corretamente que a HII é mais comum em mulheres jovens não é suficiente; ele falha se essa probabilidade estatística levar a uma redução na urgência do cuidado para uma condição que requer atenção imediata.

Os autores concluem que, embora os modelos não sejam "sexistas" no sentido bruto, eles aprenderam um padrão clínico específico que produz resultados piores para as mulheres ao priorizar a probabilidade estatística sobre a necessidade imediata de investigação urgente.