Resumen Técnico: Evaluación de la Presencia de Sesgo de Sexo en el Razonamiento Clínico por parte de Modelos de Lenguaje de Gran Escala

Planteamiento del Problema

Los Modelos de Lenguaje de Gran Escala (LLM, por sus siglas en inglés) se están integrando cada vez más en los flujos de trabajo de atención médica para la documentación, la educación y el apoyo a la decisión clínica. Sin embargo, estos modelos son entrenados con vastos corpus de texto que inherentemente codifican sesgos sociales y biológicos históricos, incluyendo disparidades de sexo en el diagnóstico y tratamiento. Si bien investigaciones previas han examinado el rendimiento de la IA frente a parámetros humanos y la percepción pública de la IA, existe una brecha crítica de evidencia empírica sobre si los LLM contemporáneos reproducen patrones de sesgo de sexo biológico al interpretar información clínica. Específicamente, no está claro si estos modelos recurren por defecto a suposiciones de sexo en ausencia de datos explícitos del paciente y si tales sesgos alteran el razonamiento diagnóstico posterior.

Metodología

Los autores llevaron a cabo un estudio controlado de tres experimentos utilizando 50 viñetas clínicas elaboradas por clínicos que abarcan 44 especialidades médicas. Estas viñetas fueron diseñadas específicamente para ser "neutras en cuanto al sexo", lo que significa que la vía diagnóstica inicial no debería verse influenciada por el sexo del paciente. El estudio utilizó cuatro LLM de propósito general: OpenAI ChatGPT (gpt-4o-mini), Anthropic Claude 3.7 Sonnet, Google Gemini 2.0 Flash y DeepSeek-chat.

El diseño experimental consistió en tres tareas distintas:

1. Asignación Binaria de Sexo: Se presentaron viñetas neutras (omitiendo el sexo del paciente) a los modelos y se les instruyó para asignar un sexo binario (masculino/femenino).
2. Capacidad de Abstención: Se presentaron las mismas viñetas neutras, pero el prompt permitía una tercera opción: "abstenerse". Esto evaluó si los modelos podían abstenerse de realizar inferencias demográficas no solicitadas.
3. Razonamiento de Diagnóstico Diferencial: Se pidió a los modelos que generaran una lista de los cinco principales diagnósticos diferenciales para pares de viñetas que diferían únicamente por el sexo del paciente (variantes masculinas vs. femeninas).

Condiciones Experimentales:

• Temperaturas: Cada modelo fue consultado en tres configuraciones de temperatura (0.2, 0.5 y 1.0) para evaluar la influencia de la variabilidad del muestreo.
• Repetición: Cada condición se repitió 10 veces para asegurar la robustez.
• Análisis:
  • Para los Experimentos 1 y 2, se analizaron las proporciones de asignaciones de sexo y abstenciones mediante pruebas binomiales exactas.
  • Para el Experimento 3, las listas diagnósticas se compararon utilizando cuatro métricas: similitud de Jaccard (solapamiento), acuerdo a nivel de ítem (alineación de rango), característica de coincidencia acumulativa (punto de divergencia) y la tau-b de Kendall (similitud de ordenamiento).
  • La significancia estadística se evaluó mediante pruebas de Chi-cuadrado, ANOVA y pruebas de rango con signo de Wilcoxon.

Resultados Clave

1. Sesgo en la Asignación de Sexo

Todos los modelos demostraron sesgos significativos y específicos de cada modelo al asignar el sexo a las viñetas clínicas neutras ($\chi^2_{(3)}=363.6, p<0.001$).

• ChatGPT: Mostró el sesgo femenino más fuerte, asignando el sexo femenino en el 70% de los casos con una temperatura de 0.5.
• DeepSeek y Claude: Exhibieron un sesgo femenino moderado (61% y 59% respectivamente).
• Gemini: Mostró un sesgo masculino constante, asignando el sexo femenino en solo el 36% de los casos.
• Efecto de la Temperatura: La temperatura por sí sola no tuvo un efecto principal significativo en la asignación de sexo ($p=0.95$), aunque existió una interacción significativa entre el modelo y la temperatura.

2. Patrones Específicos por Especialidad

El sesgo no fue uniforme en todos los dominios médicos; reflejó estereotipos clínicos conocidos:

• Especialidades Etiquetadas como Femeninas: Psiquiatría, reumatología y hematología fueron etiquetadas como femeninas en el 100% de los casos en todos los modelos. La endocrinología fue predominantemente femenina (60–100%).
• Especialidades Etiquetadas como Masculinas: Cardiología y urología fueron etiquetadas como masculinas en el 100% de los casos. La neumología fue predominantemente masculina (95–100% para la mayoría de los modelos).

3. Impacto de la Abstención

Cuando se les permitió abstenerse:

• ChatGPT: Se abstuvo en el 100% de los casos en todas las temperaturas, eliminando efectivamente el etiquetado de sexo explícito, pero volviendo al modelo no informativo para esta tarea.
• Otros Modelos: Claude (84%), Gemini (80%) y DeepSeek (58%) se abstuvieron con frecuencia a una temperatura de 0.5.
• Impacto Posterior: Crucialmente, incluso cuando los modelos se abstuvieron del etiquetado explícito, las diferencias dependientes del sexo en los diagnósticos diferenciales generados persistieron.

4. Divergencia en el Razonamiento Diagnóstico

Al generar diagnósticos diferenciales para las variantes masculina y femenina de la misma viñeta:

• Tasas de Divergencia: A una temperatura de 0.5, entre el 58% y el 78% de las comparaciones resultaron en listas divergentes (diferencias en contenido o en el orden). ChatGPT mostró la mayor divergencia (78%), mientras que DeepSeek mostró la menor (58%).
• Métricas de Similitud: El solapamiento diagnóstico (similitud de Jaccard) disminuyó a medida que aumentaba la temperatura para todos los modelos. ChatGPT mostró la disminución más marcada (0.76 a temp 0.2 vs. 0.50 a temp 1.0).
• Conclusión: El aumento de la temperatura incrementó la variabilidad, pero no eliminó las diferencias diagnósticas dependientes del sexo. El sesgo subyacente parecía ser intrínseco a las representaciones aprendidas del modelo, más que un artefacto del muestreo.

Significancia y Reivindicaciones

Los autores afirman que este estudio proporciona la primera evidencia empírica directa de que el sesgo de sexo no es meramente teórico, sino detectable en los resultados de los LLM de propósito general ampliamente accesibles aplicados a la salud.

• El Sesgo es Intrínseco y Específico del Modelo: La dirección y magnitud del sesgo están determinadas principalmente por la arquitectura del modelo y los datos de entrenamiento, no por los ajustes de temperatura en el tiempo de inferencia. Diferentes modelos comerciales codifican distintos "prioris de sexo".
• Los Estereotipos Superan la Neutralidad Clínica: Los modelos replican estereotipos lingüísticos y culturales arraigados (por ejemplo, asociar la psiquiatría con las mujeres y la urología con los hombres) en lugar de realizar un razonamiento neutral basado en evidencia. Esto sugiere que los modelos están realizando una "completitud de estereotipos" en lugar de una inferencia bayesiana sobre estadísticas poblacionales.
• Limitaciones de la Configuración: Los cambios simples de configuración, como permitir la abstención o ajustar la temperatura, son insuficientes para neutralizar el sesgo. Aunque la abstención reduce el etiquetado explícito, no logra prevenir las diferencias diagnósticas posteriores.
• Implicaciones Clínicas: Los hallazgos argumentan contra el uso de LLM de propósito general para guiar decisiones de diagnóstico o tratamiento sin una supervisión rigurosa. Los autores abogan por:
  • Configuraciones de modelos documentadas y conservadoras.
  • Auditorías de datos clínicos a nivel de especialidad para identificar puntos calientes de sesgo.
  • Supervisión humana continua al desplegar estos modelos.
  • Cambios estructurales en el desarrollo de modelos, incluyendo corpus de entrenamiento curados y objetivos de aprendizaje por refuerzo que penalicen la completitud de estereotipos.

El artículo concluye que, si bien los LLM pueden generar texto clínico fluido, su iteración actual exhibe sesgos de sexo estables y sistemáticos que comprometen la seguridad y la equidad, lo que requiere un cambio desde el despliegue de propósito general hacia sistemas diseñados para un propósito específico, auditados y supervisados por humanos.