Hallucination in Medical Imaging AI: A Cross-Modality Analytical Framework for Taxonomy, Detection, and Mitigation under Regulatory Constraints

Resumen Técnico: Alucinación en la IA de Imagenología Médica

Planteamiento del Problema
El despliegue rápido de los Modelos de Visión y Lenguaje (VLM) y los sistemas de IA en la imagenología médica ha superado la comprensión de sus modos de falla. El modo de falla clínicamente más crítico identificado es la alucinación: salidas que son lingüística o visualmente coherentes pero que carecen de sustento fáctico en la imagen de entrada o en el contexto del paciente. En entornos médicos, estos errores se manifiestan como estructuras anatómicas fabricadas, patologías clasificadas erróneamente, lateralidad incorrecta, mediciones inventadas o la omisión de hallazgos significativos. A diferencia de los artefactos cosméticos, estas alucinaciones impactan directamente en decisiones clínicas de alto riesgo, incluyendo la selección de biopsias, la estadificación del cáncer y la planificación del tratamiento.

La literatura actual sufre de tres brechas principales:

1. Falta de una Taxonomía Unificada: Las taxonomías existentes son específicas de cada modalidad (por ejemplo, radiología frente a medicina nuclear) y no han sido validadas en todo el espectro de la imagenología (TC, RM, PET/SPECT, ultrasonido, patología digital).
2. Suposiciones de Modelos no Verificadas: No existe una comparación empírica directa entre los modelos fundacionales de propósito general y los modelos especializados en medicina con respecto a las tasas de alucinación, a pesar de la común suposición de adquisición de que la especialización reduce el riesgo de alucinación.
3. Validación Limitada en el Mundo Real: Las estrategias de mitigación se evalúan mayoritariamente en entornos de control de referencia (benchmarks), con evidencia insuficiente sobre su efectividad en los flujos de trabajo clínicos reales y su alineación con los marcos regulatorios como el Ciclo de Vida Total del Producto (TPLC) de la FDA.

Metodología
Este estudio emplea una síntesis narrativa estructurada en lugar de un meta-análisis formal, debido a la heterogeneidad de los diseños de estudio, las métricas de referencia y las medidas de resultado en la literatura existente. El análisis integra estudios revisados por pares, conjuntos de datos de referencia y la guía regulatoria de la FDA (específicamente la guía preliminar de enero de 2025 y la finalización del Plan de Control de Cambios Predeterminados [PCCP] de diciembre de 2024).

El marco analítico aborda cuatro dimensiones:

1. Clasificación Taxonómica: El cruce de tres marcos distintos (Brooks & Anastasio, DREAM Report y MediHall) para crear una perspectiva unificada transmodal.
2. Análisis Etiológico: Investigación de las causas de la alucinación, incluyendo la arquitectura del modelo, la calidad de los datos de entrenamiento y las condiciones de inferencia.
3. Evaluación de la Detección: Evaluación de cinco enfoques de detección (Cuantificación de la Incertidumbre, análisis basado en la Atención, métodos basados en la Reconstrucción, verificación transmodal y Benchmarking) frente a criterios de precisión, universalidad e interpretabilidad.
4. Evaluación de la Mitigación: Evaluación de estrategias a través de cuatro capas de intervención: restricciones arquitectónicas, fundamentación mediante recuperación aumentada (retrieval-augmented grounding), ingeniería de prompts en tiempo de inferencia y salvaguardas de humano en el bucle (human-in-the-loop).

Contribuciones Clave y Resultados

• Marco Taxonómico Unificado: El estudio demuestra que ningún marco taxonómico existente cubre de manera integral el flujo de trabajo de la imagenología. Se propone un marco unificado integrando:

  • Brooks & Anastasio: Origen etiológico (falla de datos frente a confabulación del modelo).
  • DREAM Report: Física específica de la modalidad y riesgo clínico (por ejemplo, patrones de captación en PET/SPECT).
  • MediHall: Graduación de la severidad clínica (de catastrófica a menor).
    Esta integración permite una caracterización consistente de las alucinaciones en TC, RM, PET/SPECT, ultrasonido y patología digital.

• La Inversión de los Modelos Generales frente a Especializados: Contrario a las suposiciones comunes, los modelos fundacionales de propósito general superan a los modelos especializados en medicina en pruebas de referencia específicas de alucinación.

  • En el benchmark Med-HALT (2025), los modelos de propósito general lograron una tasa mediana de ausencia de alucinaciones del 76.6%, comparado con el 51.3% de los modelos especializados en medicina (p = 0.012).
  • Los autores atribuyen esto a la rigidez inducida por el sobreajuste en los modelos especializados, donde los sesgos previos de dominio estrecho anulan la evidencia visual en casos ambiguos. Los modelos de propósito general, entrenados en datos diversos, mantienen una mejor calibración de la incertidumbre.
  • Nota: Este hallazgo se aplica a tareas de razonamiento mediadas por lenguaje; las arquitecturas especializadas pueden seguir teniendo ventajas en tareas puramente basadas en la reconstrucción (por ejemplo, la reducción de ruido en TC de baja dosis) donde los sesgos informados por la física son críticos.

• Efectividad de la Detección y Mitigación:

  • Detección: Ningún método es universalmente efectivo. La Cuantificación de la Incertidumbre (UQ) ofrece alta automatización pero requiere reentrenamiento; el análisis basado en la Atención ayuda a la interpretabilidad pero depende de la arquitectura; los métodos basados en la Reconstrucción (por ejemplo, sFRC) son esenciales para la RM/TC reconstruida por IA; la verificación transmodal es clínicamente intuitiva pero requiere una gran cantidad de datos.
  • Mitigación:
    • Restricciones Arquitectónicas: Las restricciones informadas por la física (por ejemplo, PI-MoCoNet) mejoran la fidelidad de la reconstrucción (mejora de aproximadamente 1 dB en PSNR), pero están limitadas a la fase de desarrollo.
    • Ingeniería de Prompts: El uso de Chain-of-Thought (CoT) reduce las alucinaciones en hasta el 86.4% de las comparaciones evaluadas al forzar un razonamiento intermedio explícito.
    • Humano en el Bucle (HITL): La supervisión del radiólogo sigue siendo la intervención más decisiva, reduciendo las tasas de falsos positivos de la IA en aproximadamente un 83.7%. Sin embargo, esto introduce costos de recursos y riesgos de sesgo de automatización.

• Alineación Regulatoria: El estudio vincula todos los hallazgos con los marcos TPLC y PCCP de la FDA. Enfatiza que la gestión de las alucinaciones es una obligación de ciclo de vida continuo, no una lista de verificación previa al despliegue. Las estrategias deben apoyar la vigilancia post-comercialización, generar pistas de auditoría y permitir el refinamiento continuo a través de procesos de control de cambios predefinidos.

Significancia y Reivindicaciones
El artículo afirma proporcionar el primer marco analítico transmodal que unifica taxonomía, etiología, detección y mitigación bajo restricciones regulatorias. Su principal significancia radica en desafiar el dogma de adquisición de que "la especialización equivale a seguridad", demostrando en cambio que el ajuste fino estrecho puede introducir confabulación.

Los autores concluyen que:

1. La Evaluación Unificada es Necesaria: El despliegue clínico requiere integrar múltiples perspectivas taxonómicas para evitar puntos ciegos en la evaluación de riesgos.
2. El Benchmarking Debe ser Específico: Las decisiones de adquisición deben basarse en pruebas de referencia específicas de alucinación en lugar de métricas de precisión general, ya que los modelos de propósito general pueden ofrecer una robustez superior contra la fabricación.
3. Se Requiere una Mitigación por Capas: Ninguna estrategia de mitigación es suficiente por sí sola. El despliegue efectivo requiere una combinación de restricciones arquitectónicas (donde sea posible), razonamiento en tiempo de inferencia (CoT) y una rigurosa supervisión humana, todo gestionado dentro de un marco de ciclo de vida que cumpla con la regulación.

El estudio reconoce limitaciones, incluyendo la dependencia de una síntesis narrativa estructurada, la escasez de datos para contextos de enfermedades raras y pediátricas, y el hecho de que la mayor parte de la evidencia deriva de entornos de control y no de despliegues clínicos prospectivos. El trabajo futuro se dirige hacia taxonomías transmodales unificadas, evaluaciones comparativas directas en tareas de reconstrucción y la integración del monitoreo de alucinaciones en los flujos de trabajo clínicos reales bajo el control de cambios conforme a la FDA.