DeVisE: Behavioral Testing of Medical Large Language Models

Resumen Técnico: DeVisE

1. El Problema

Los Grandes Modelos de Lenguaje (LLM) están siendo adoptados cada vez más para la toma de decisiones clínicas. Sin embargo, las evaluaciones convencionales (basadas en métricas de rendimiento estándar como precisión o F1) tienen limitaciones críticas:

• Falta de profundidad clínica: No revelan si las predicciones del modelo se basan en un razonamiento médico genuino o en correlaciones superficiales y sesgos.
• Ceguera ante el comportamiento: Las métricas tradicionales no detectan cómo los modelos reaccionan a cambios clínicamente significativos en los datos de entrada (por ejemplo, si un modelo aumenta correctamente el riesgo de mortalidad cuando se altera un signo vital de "normal" a "crítico").
• Riesgo de sesgo: Existe la preocupación de que los modelos puedan depender de atajos o correlaciones espurias en lugar de conceptos clínicos, lo que podría perpetuar disparidades en la atención médica.

2. Metodología: El Marco DeVisE

El autores proponen DeVisE (Demographics and Vital signs Evaluation), un marco de pruebas de comportamiento diseñado para evaluar la comprensión clínica fina mediante contrafactuales controlados.

A. Datos y Construcción del Dataset:

• Fuente: Se utilizan notas de alta de la Unidad de Cuidados Intensivos (UCI) del dataset MIMIC-IV.
• Procesamiento: Se crean dos variantes de notas de admisión:
  1. Notas crudas (Raw): Texto libre real.
  2. Notas basadas en plantillas (Template-based): Estructuradas, incluyendo solo las variables de interés para aislar el efecto de los cambios.
• Variables Clínicas:
  • Demográficas: Edad, género, etnia.
  • Signos vitales: Frecuencia cardíaca, presión arterial (sistólica/diastólica), temperatura, saturación de oxígeno, frecuencia respiratoria.
• Generación de Contrafactuales: Para cada paciente, se generan variaciones de un solo signo vital o variable demográfica (ej. cambiar la frecuencia cardíaca de 89 a 120 lpm), manteniendo el resto de la nota idéntica. Se utilizan escalas de severidad clínicamente fundamentadas (de -2 a +2) para mapear los valores numéricos a estados clínicos (normal, alto, crítico).
• Validación: Se realizó una validación automática y manual, corrigiendo errores de extracción de datos (tasa de error ~5% en signos vitales extraídos por LLM).

B. Protocolo de Evaluación:
Se evalúan 8 LLMs (desde modelos generales hasta médicos y orientados al razonamiento) en configuración zero-shot (sin entrenamiento previo en los datos). La evaluación se divide en dos ejes:

1. Evaluación Específica de Tareas (Task-Specific):

   • Tareas: Predicción de mortalidad y predicción de la estancia en UCI (LoS).
   • Métricas:
     • Desplazamiento de probabilidad de etiqueta (KL Divergence): ¿Cambia la distribución de probabilidad de la predicción?
     • Porcentaje de inversión de etiquetas (Flips): ¿Cambia la clase predicha (ej. de "sobrevivir" a "morir")?
     • Dirección Correcta (%CD): ¿El cambio en la predicción coincide con la dirección clínica esperada? (Ej. Si la severidad aumenta, ¿aumenta el riesgo predicho?).
     • Monotonía (%Mono): ¿La predicción cambia de manera consistente a medida que la severidad del signo vital aumenta o disminuye?

2. Evaluación Independiente de Tareas (Task-Independent):

   • Métrica: Perplejidad (PPL). Se mide cuánto "sorprende" lingüísticamente al modelo un paciente contrafactual en comparación con el original.
   • Hipótesis: Un modelo con buena comprensión interna debería asignar menor probabilidad (mayor perplejidad) a perfiles de pacientes que se desvían clínicamente de la norma, incluso sin una tarea de predicción explícita.

3. Contribuciones Clave

1. Nuevo Benchmark (DeVisE): Un marco de evaluación basado en comportamiento que utiliza contrafactuales mínimos en variables demográficas y signos vitales.
2. Dataset Público: Liberación de 1,001 notas de admisión validadas (crudas y en plantilla) con sus respectivos contrafactuales, permitiendo pruebas controladas de robustez.
3. Análisis Comparativo Exhaustivo: Evaluación de 8 LLMs de última generación (incluyendo Phi-4, Meditron, LLaMA-3.3, OpenBioLLM, DeepSeek-R1, Qwen, GPT-OSS y GPT-4.1) cruzando dimensiones de especialización (médico vs. general vs. razonamiento) y formato de entrada.

4. Resultados Principales

• Sensibilidad a Signos Vitales:
  • Los modelos muestran comportamientos heterogéneos. Algunos (como GPT-4.1-mini) muestran un aumento monótono en la probabilidad de riesgo ante mayor severidad, mientras que otros (como Meditron3) tienen respuestas casi planas.
  • Notas en Plantilla vs. Crudas: El uso de plantillas amplifica la sensibilidad del modelo a los cambios en signos vitales (aumenta la KL y los "flips" de etiquetas), pero también revela inestabilidad. Las notas crudas tienden a diluir la importancia de los signos vitales debido al contexto adicional.
  • Rendimiento: Los modelos médicos y orientados al razonamiento (como DeepSeek-R1) tienden a mostrar un comportamiento más conservador y monótono, alineándose mejor con la lógica clínica, aunque a veces con menor sensibilidad en notas crudas.
• Sesgos Demográficos:
  • Las perturbaciones demográficas (edad, género, raza) producen efectos sistemáticos, aunque menores que los signos vitales.
  • Edad: Es la variable con mayor impacto; los grupos de edad más avanzada se asocian consistentemente con estancias más largas predichas.
  • Raza y Género: Se observan tasas de inversión de etiquetas (flips) significativas cerca de los límites de decisión. Algunos modelos predicen estancias más largas para pacientes negros y más cortas para mujeres o pacientes blancos, reflejando disparidades sanitarias conocidas y sesgos preentrenados.
• Evaluación Independiente de Tareas:
  • Los modelos reaccionan sistemáticamente a la severidad de los contrafactuales en términos de perplejidad (PPL), lo que sugiere que internalizan la "improbabilidad" de ciertos estados clínicos incluso sin supervisión de tarea.

5. Significado e Impacto

• Más allá de la Precisión: El trabajo demuestra que las métricas de tarea estándar (como la precisión) pueden ocultar diferencias clínicamente relevantes en el comportamiento del modelo. Un modelo puede tener buena precisión pero fallar estrepitosamente al ajustar sus predicciones ante cambios fisiológicos críticos.
• Herramienta de Diagnóstico Temprano: DeVisE actúa como un "detector de humo" para el razonamiento médico. La evaluación de la monotonía y la dirección correcta es crucial para garantizar que los modelos no estén simplemente adivinando, sino razonando sobre la fisiología.
• Seguridad y Equidad: Identifica sesgos persistentes en la toma de decisiones basada en demografía, subrayando la necesidad de auditorías demográficas antes del despliegue en entornos reales.
• Hacia un Despliegue Seguro: Proporciona un banco de pruebas controlado y clínicamente significativo para probar patrones de razonamiento, sentando las bases para evaluaciones más robustas y seguras de los LLMs en medicina.

En conclusión, DeVisE no solo evalúa qué tan bien predicen los modelos, sino cómo razonan frente a cambios clínicos, revelando brechas críticas entre el rendimiento estadístico y la competencia clínica real.