Explainable Artificial Intelligence (XAI) in Medical Education: A Multi- Modal Framework for Enhancing Human-AI Collaboration

Resumen Técnico: Inteligencia Artificial Explicable (XAI) en la Educación Médica

Planteamiento del Problema
La rápida integración de la Inteligencia Artificial (IA) en el diagnóstico clínico, particularmente en radiografía, patología y neuroimagen, enfrenta una barrera pedagógica significativa: la naturaleza de "caja negra" de los complejos algoritmos de aprendizaje automático. Si bien los sistemas de IA pueden igualar o exceder la precisión diagnóstica humana, su opacidad socava la confianza, restringe la interpretabilidad y dificulta la participación pedagógica sustancial en los currículos médicos. Los estudiantes de medicina requieren no solo el diagnóstico correcto, sino también comprender por qué una IA llega a una conclusión específica para desarrollar habilidades sólidas de razonamiento clínico. La literatura actual carece de investigación empírica sobre la XAI como una intervención educativa específica para cerrar esta brecha entre el resultado algorítmico y la comprensión humana.

Metodología
Este estudio empleó un ensayo controlado aleatorizado (ECA) prospectivo de métodos mixtos con un diseño explicativo secuencial de dos fases con 120 estudiantes de tercer año de medicina en la Universidad de Liberia.

• Fundamento Técnico (Fase 1): Los investigadores desarrollaron el marco CerViD-MultiModal (Random Forest de mejora cognitiva con Diagnósticos Visuales). Este sistema utilizó datos de neuroimagen de la base de datos de la Iniciativa de Neuroimagen de la Enfermedad de Alzheimer (ADNI) (N=100), centrándose específicamente en la atrofia del fórnix como un indicador temprano de la enfermedad de Alzheimer. El modelo utilizó FreeSurfer v7.2.0 para segmentar el fórnix y extraer características morfométricas (volumen anterior/posterior, esfericidad del cuerpo, volumen total). Se entrenó un ensamble de Random Forest (100 árboles de decisión) para distinguir entre el Deterioro Cognitivo Leve Temprano (EMCI) y el Deterioro Cognitivo Leve Tardío (LMCI).
• Intervención Educativa (Fase 2): Los participantes fueron aleatorizados en dos grupos:
  • Grupo de Control (n=60): Recibió instrucción estándar de IA mediante texto estático y gráficos de barras típicos.
  • Grupo Mejorado con XAI (n=60): Recibió el mismo contenido central, pero utilizó el marco CerViD-MultiModal integrado con visualizaciones interactivas de SHAP (SHapley Additive exPlanations) y LIME (Local Interpretable Model-agnostic Explanations). Estas herramientas proporcionaron clasificaciones de características globales dinámicas, explicaciones locales específicas del paciente y gráficos de fuerza interactivos.
• Evaluación: Tras la intervención, los participantes fueron evaluados mediante cuatro instrumentos estandarizados: Puntuación de Alfabetización en IA (0-100), Escala de Usabilidad del Sistema (SUS, 0-100), Índice de Carga de Trabajo de la NASA (NASA-TLX, 0-100) y Confianza en la Interpretación de la IA (1-5). El análisis estadístico utilizó pruebas t para muestras independientes y la d de Cohen para los tamaños del efecto.

Contribuciones Clave
La contribución principal de este trabajo es la validación empírica de la XAI como una herramienta de doble propósito: un mecanismo para la transparencia diagnóstica y un instrumento pedagógico transformador. El estudio introduce la arquitectura CerViD-MultiModal como un método de implementación concreto para integrar el aprendizaje automático explicable en la formación médica, demostrando específicamente cómo la visualización de los procesos de toma de decisiones del modelo (vía SHAP y LIME) puede desmitificar la IA para los estudiantes.

Resultados
El grupo mejorado con XAI demostró mejoras estadísticamente significativas en todos los resultados primarios en comparación con el grupo de control (p < 0.001):

• Alfabetización en IA: Las puntuaciones aumentaron un 34.1% (85.0 ± 5.6 vs. 63.4 ± 6.8), con un tamaño de efecto grande (d de Cohen = 3.44).
• Usabilidad del Sistema (SUS): La usabilidad percibida mejoró un 66.4% (36.3 ± 4.3 vs. 21.8 ± 4.8), con d de Cohen = 3.15.
• Carga Cognitiva (NASA-TLX): La carga de trabajo percibida se redujo significativamente en un 37.4% (26.5 ± 6.5 vs. 42.3 ± 7.1), con d de Cohen = -2.31.
• Confianza: La confianza de los alumnos en la interpretación de la IA creció un 30.8% (3.4 ± 0.4 vs. 2.6 ± 0.4), con d de Cohen = 1.89.

Además, el modelo subyacente CerViD-MultiModal alcanzó una precisión del 81.2% (AUC = 0.85) en la clasificación de EMCI frente a LMCI, identificando el volumen del fórnix anterior como el predictor más relevante (34%).

Significancia y Reivindicaciones
Los autores sostienen que la XAI opera como más que un mero mecanismo de transparencia algorítmica; funciona como una herramienta de "andamiaje" alineada con las teorías del aprendizaje constructivista y la teoría de la carga cognitiva. Al hacer evidente el razonamiento experto, la XAI guía a los estudiantes a través de la zona de desarrollo próximo, convirtiendo algoritmos opacos en herramientas cognitivas comprensibles.

El estudio concluye que la integración de la XAI mejora significativamente la colaboración humano-IA en la educación médica. Afirma que, al desmitificar la toma de decisiones del modelo, el marco CerViD-MultiModal optimiza la comprensión diagnóstica y la confianza del usuario, mitigando al mismo tiempo la carga cognitiva asociada típicamente con la interpretación de la "caja negra". Los autores posicionan estos hallazgos como evidencia de que las arquitecturas de aprendizaje automático interpretable pueden abordar eficazmente las limitaciones tradicionales de la IA clínica en entornos educativos, aunque reconocen las limitaciones respecto a la muestra de un solo centro y la necesidad de un seguimiento longitudinal para evaluar la retención.