Moving Beyond Medical Exams: A Clinician-Annotated Fairness Dataset of Real-World Tasks and Ambiguity in Mental Healthcare

1. El Problema

Los actuales benchmarks (puntos de referencia) para modelos de lenguaje (LM) en medicina, especialmente en psiquiatría, presentan limitaciones críticas:

• Simplificación excesiva: Se basan principalmente en preguntas de opción múltiple de exámenes de certificación médica (tipo board exams), que evalúan la memoria de hechos más que la toma de decisiones clínicas pragmáticas.
• Falta de correlación con la práctica real: El éxito en estos exámenes estandarizados tiene una correlación débil con el rendimiento de los clínicos en el mundo real, donde el diagnóstico y el manejo dependen de juicios subjetivos y matices interpersonales.
• Ceguera ante la ambigüedad: Las tareas psiquiátricas reales a menudo carecen de una única respuesta "correcta" (ej. triaje, documentación, facturación), pero los benchmarks actuales fuerzan una única verdad factual.
• Sesgos demográficos: Los modelos pueden verse influenciados por la demografía del paciente (género, etnia, edad) en decisiones que deberían ser clínicamente objetivas, un problema que los exámenes tradicionales no detectan adecuadamente.

2. Metodología: El Dataset MENTAT

Los autores presentan MENTAT (MENtal health Tasks AssessmenT), un conjunto de datos y marco de evaluación diseñado y anotado exclusivamente por clínicos de salud mental, sin asistencia de modelos de lenguaje (LM) en su creación.

• Estructura y Dominios: El dataset base contiene 203 preguntas cubriendo cinco dominios críticos de la atención psiquiátrica:
  1. Diagnóstico: Identificación de trastornos basada en DSM-5-TR.
  2. Tratamiento: Planificación de terapias y dosificación de medicamentos.
  3. Monitorización: Seguimiento de eficacia y efectos secundarios.
  4. Triaje: Evaluación de la acuidad y decisión de derivación (ej. hospitalización).
  5. Documentación: Resumen de casos y codificación de facturación (CPT).
• Diseño de Equidad: Para evaluar el sesgo, la información demográfica irrelevante se elimina y se reemplaza por variables controladas:
  • Género: Masculino, Femenino, No binario.
  • Etnia: Afroamericano, Nativo Americano, Blanco, Negro, Asiático, Hispano.
  • Edad: Rango de 18 a 65 años.
  • Esto permite generar miles de variaciones controladas para probar la sensibilidad del modelo a la demografía.
• Manejo de la Ambigüedad:
  • Para las categorías de Diagnóstico, Tratamiento y Monitorización, se define una única respuesta correcta.
  • Para Triaje y Documentación, se reconoce la ambigüedad inherente. Se diseñan múltiples respuestas plausibles.
• Proceso de Anotación:
  • Un equipo diverso de 9 psiquiatras practicantes (MDs) en EE. UU. creó y verificó las preguntas.
  • Se utilizó un modelo de Bradley-Terry Jerárquico (HBT) para procesar las anotaciones de 8 expertos en las categorías ambiguas. Los expertos calificaron cada opción de respuesta en una escala de 0 a 100.
  • El modelo HBT estima probabilidades de preferencia, capturando la incertidumbre y el desacuerdo entre expertos, en lugar de forzar un consenso artificial.
• División de Datos: 90% para evaluación (183 preguntas) y 10% para few-shot prompting (20 preguntas).

3. Contribuciones Clave

1. Primer Dataset de Equidad Clínica: Introducen MENTAT, el primer conjunto de datos centrado en la ambigüedad psiquiátrica del mundo real, creado íntegramente por expertos humanos sin contaminación de datos generados por IA.
2. Pipeline de Anotación Jerárquico: Desarrollan un método robusto para cuantificar el desacuerdo entre expertos y convertirlo en etiquetas de preferencia ("soft labels") útiles para el entrenamiento y la calibración de modelos.
3. Marco de Evaluación de Sesgo: Demuestran cómo variar sistemáticamente las variables demográficas en los prompts para revelar sesgos estadísticamente significativos que no son visibles en evaluaciones cualitativas aisladas.
4. Evaluación de Consistencia: Proporcionan una referencia de "verdad fundamental" para evaluar respuestas de texto libre (free-form), comparando la coherencia de las respuestas generadas por LM con las opciones anotadas por expertos.

4. Resultados Experimentales

Los autores evaluaron 16 modelos de lenguaje de caja negra (OpenAI, Anthropic, Google) y 6 modelos especializados en salud mental (fine-tuned).

• Precisión por Tarea:
  • Los modelos obtienen buenos resultados en tareas estructuradas (Diagnóstico ~77-91%, Tratamiento ~74-92%).
  • El rendimiento cae drásticamente en tareas ambiguas y de juicio clínico: Triaje (51%) y Documentación (44%).
  • Los modelos de código abierto más nuevos (Qwen3, Gemma3) cierran la brecha e incluso superan a algunos modelos cerrados en las categorías de triaje y documentación.
  • Los modelos fine-tuned en salud mental no superaron significativamente a sus contrapartes base (ej. Llama3) en este conjunto de datos, sugiriendo que los datos de entrenamiento sintéticos o de exámenes no se traducen bien a la toma de decisiones clínicas complejas.
• Impacto de la Demografía (Sesgo):
  • Se encontraron sesgos estadísticamente significativos en todos los modelos probados.
  • Género: Los pacientes codificados como "Hombres" recibieron mayor precisión en las categorías de Monitorización (+10%), Triaje (+8%) y Documentación (+10%) en comparación con las "Mujeres". Los pacientes "No binarios" tuvieron el rendimiento más bajo en Triaje (-25% vs hombres).
  • Etnia: Se observaron variaciones significativas; por ejemplo, pacientes "Africanos Americanos" tuvieron mayor precisión en Diagnóstico que los "Blancos", mientras que los "Nativos Americanos" obtuvieron mayor precisión en Tratamiento que otros grupos.
  • Edad: Los pacientes de 18-33 años obtuvieron mejores resultados en Diagnóstico y Triaje que los de mayor edad.
• Consistencia en Respuestas Libres:
  • Aunque los modelos alcanzan alta precisión en preguntas de opción múltiple, sus respuestas de texto libre a menudo se desvían significativamente de las opciones "correctas" de los expertos (medido mediante BERTScore, ROUGE-L y BLEU). Esto indica que la precisión en exámenes no garantiza la coherencia en la generación de decisiones clínicas abiertas.

5. Significado e Impacto

• Cambio de Paradigma: MENTAT marca un alejamiento de la evaluación basada en la memoria de hechos hacia la evaluación de la toma de decisiones clínicas y la gestión de la incertidumbre, que es el núcleo de la psiquiatría.
• Seguridad y Ética: Los resultados revelan que los modelos actuales no son justos ni consistentes en la atención de salud mental. La dependencia de la demografía del paciente para la toma de decisiones representa un riesgo grave de estigmatización y mala atención clínica si se despliegan sin mitigación.
• Herramienta para la Investigación: Al ser un conjunto de datos de código abierto (licencia MIT) con un pipeline de análisis reproducible, MENTAT permite a la comunidad científica:
  • Desarrollar métodos de alineación que tengan en cuenta la incertidumbre experta.
  • Probar estrategias de mitigación de sesgos demográficos.
  • Evaluar la seguridad de los agentes de IA antes de su implementación clínica.
• Advertencia de Despliegue: El estudio advierte que un buen rendimiento en MENTAT no debe interpretarse como una señal para el despliegue clínico prematuro, dado que los modelos aún fallan en tareas críticas de triaje y muestran sesgos sistémicos.

En resumen, MENTAT establece un nuevo estándar para la evaluación de IA en salud mental, priorizando la fidelidad clínica, la gestión de la ambigüedad y la equidad sobre la simple precisión factual.