Gender-Dependent Diagnostic Substitution in LLM Medical Triage: Same Symptoms, Unequal Urgency

Resumen Técnico: Sustitución Diagnóstica Dependiente del Género en el Triaje Médico mediante LLM

Planteamiento del Problema
Este estudio investiga si los Modelos de Lenguaje de Gran Tamaño (LLM) integrados en aplicaciones de salud producen recomendaciones de triaje médico dispares para presentaciones clínicas idénticas cuando solo varían el género declarado y la edad del paciente. La investigación aborda un requisito crítico para la IA clínica: la paridad demográfica en la evaluación de la urgencia. Específicamente, pone a prueba la hipótesis de que síntomas neurológicos idénticos deberían producir recomendaciones de urgencia equivalentes independientemente del género, a menos que el género sea clínicamente relevante para la urgencia de la acción (distinto del diagnóstico en sí mismo). El trabajo está motivado por los sesgos clínicos humanos documentados donde los síntomas neurológicos y cardíacos de las mujeres son frecuentemente atribuidos a causas benignas o psicosomáticas, lo que conduce a evaluaciones menos agresivas o con retraso.

Metodología
Los autores realizaron un experimento de variación de paciente contrafactual (CPV) utilizando tres familias de LLM de vanguardia y de nivel de despliegue: Gemini 3.5 Flash, Claude Sonnet 4.6 y GPT-5.4-mini. Estos modelos específicos fueron seleccionados ya que representan los candidatos más probables para la integración en herramientas de verificación de síntomas en producción debido a sus perfiles de costo y latencia.

• Diseño Experimental: El estudio utilizó un perfil de síntoma neurológico único y estandarizado que describe signos de aumento de la presión intracraneal (cefalea persistente que no responde a analgésicos, visión borrosa, náuseas matutinas y alteraciones visuales).
• Condiciones: El texto de los síntomas fue idéntico en 30 ensayos por condición, variando únicamente los identificadores demográficos. Las condiciones incluyeron tres grupos de edad (25, 38, 65) cruzados con dos géneros (masculino, femenino), más una línea base sin género especificado (edad 38). Esto resultó en un total de 630 ensayos (210 por modelo).
• Restricciones de Salida: Los modelos fueron instados mediante API (temperatura 0.3) para devolver un JSON estructurado que contiene un diagnóstico, una puntuación de severidad (1–10), una clasificación de urgencia (Emergencia/Urgente/Rutina), una acción recomendada (ER/Cita médica/Autocuidado) y pruebas diferenciales.
• Análisis: El resultado primario fue la tasa de derivación a la Sala de Emergencias (ER). El análisis secundario se centró en los diagnósticos específicos generados. La significancia estadística se determinó mediante pruebas exactas de Fisher con corrección de Bonferroni, y los tamaños del efecto se calcularon utilizando la h de Cohen.

Hallazgos Clave
El estudio identificó una disparidad de género sistémica y marcada en la urgencia del triaje para pacientes jóvenes, la cual fue impulsada por un mecanismo denominado sustitución diagnóstica.

1. Disparidad en Derivaciones a ER: Las mujeres jóvenes recibieron tasas de derivación a ER significativamente menores que los hombres de su misma edad, a pesar de presentar síntomas idénticos y puntuaciones de severidad comparables (7–9/10).

   • Edad 25:
     • Gemini: 0% ER para mujeres frente al 23.3% para hombres ($p < 0.001$).
     • Claude: 6.7% ER para mujeres frente al 96.7% para hombres ($p < 0.001$).
     • GPT: 6.7% ER para mujeres frente al 66.7% para hombres ($p < 0.001$).
   • Edad 65: La disparidad desapareció por completo en todos los modelos, con ambos géneros recibiendo tasas de derivación a ER del 90–100%.

2. Mecanismo: Sustitución Diagnóstica: Los modelos no simplemente asignaron una menor urgencia al mismo diagnóstico. En su lugar, alteraron el diagnóstico mismo basándose en la priori epidemiológica de género.

   • Mujeres Jóvenes: Los modelos se anclaron predominantemente en la Hipertensión Intracraneal Idiopática (HII), una condición estadísticamente más común en mujeres en edad fértil. En consecuencia, derivaron a estas pacientes a citas ambulatorias, asumiendo que la HII se gestiona de forma no emergente.
   • Hombres Jóvenes: Los modelos priorizaron las lesiones ocupantes de espacio (masas, tumores) en el diagnóstico diferencial, activando derivaciones de alta urgencia a la ER para descartar estas condiciones.
   • Error Clínico: Los autores señalan que, aunque la HII es un diferencial válido para mujeres jóvenes, los síntomas descritos (alteración visual progresiva, cefalea implacable) constituyen señales de alerta para el aumento de la presión intracraneal que requieren una evaluación urgente independientemente de si la etiología es HII o una masa. Los modelos evaluaron correctamente la severidad, pero desacoplaron incorrectamente la urgencia del diagnóstico.

3. Modulación por Edad: El sesgo fue estrictamente dependiente de la edad. A los 65 años, los modelos dejaron de anclarse en la HII para las mujeres (consistente con la caída de la epidemiología de la HII tras la menopausia) y cambiaron hacia diferenciales apropiados para la edad (por ejemplo, arteritis de la temporal, enfermedad cerebrovascular) que activaron vías urgentes para ambos géneros.

Contribuciones

1. Demostración de Disparidad Sistémica: El artículo proporciona evidencia empírica de disparidades de género significativas en la urgencia del triaje a través de tres familias de LLM líderes, con tamaños de efecto que alcanzan la h de Cohen > 2.2.
2. Identificación del Mecanismo: Identifica la sustitución diagnóstica como el mecanismo compartido, donde los modelos seleccionan un diagnóstico vinculado al género (HII) que inadvertidamente suprime la urgencia, en lugar de aplicar una heurística cruda de "las mujeres tienen menor urgencia".
3. Prioris Epidemiológicas vs. Urgencia Clínica: El estudio demuestra que el sesgo es impulsado por las prioris clínicas estadísticas aprendidas de los datos de entrenamiento. Los modelos replican errores clínicos humanos donde un diagnóstico asociado al género se utiliza para cerrar prematuramente el ciclo diagnóstico, reduciendo la necesidad percibida de atención de emergencia.
4. Ciencia Abierta: Los autores liberan todo el código, los prompts y los resultados brutos para facilitar auditorías adicionales.

Significancia y Reivindicaciones
El artículo sostiene que los LLM clínicos replican los sesgos clínicos humanos documentados no mediante instrucción explícita, sino mediante el aprendizaje y la aplicación de prioris epidemiológicas que son clínicamente inapropiadas en el contexto de la evaluación de la urgencia. Los autores argumentan que:

• La urgencia debe desacoplarse del diagnóstico: Para síntomas que indican aumento de la presión intracraneal, la necesidad de una evaluación emergente debe determinarse por la severidad de los síntomas, no por la probabilidad de un diagnóstico específico como la HII.
• Los requisitos de auditoría deben evolucionos: Auditar los sistemas de triaje de IA requiere analizar el razonamiento diagnóstico (el diagnóstico diferencial), no solo la acción final (ER vs. Doctor). Un modelo puede producir puntuaciones de severidad altas y, aun así, derivar a los pacientes a vías de atención inferiores mediante la sustitución diagnóstica.
• La precisión epidemiológica no es seguridad clínica: Que un modelo identifique correctamente que la HII es más común en mujeres jóvenes no es suficiente; falla si esta probabilidad estadística conduce a una reducción de la urgencia de la atención para una condición que requiere atención inmediata.

Los autores concluyen que, si bien los modelos no son "sexistas" en un sentido vulgar, han aprendido un patrón específico, clínicamente fundamentado, que produce peores resultados para las mujeres al priorizar la probabilidad estadística sobre la necesidad inmediata de una investigación urgente.