Causal Responsibility Based Explainable AI for Vibrational Spectroscopy Applied to Cancer Diagnostics

Resumen Técnico: IA Explicable Basada en la Responsabilidad Causal para la Espectroscopia Vibracional Aplicada al Diagnóstico del Cáncer

Planteamiento del Problema
La aplicación del aprendizaje profundo (DL) a la espectroscopia vibracional (por ejemplo, FTIR y Raman) para el diagnóstico del cáncer está aumentando, pero estos modelos suelen funcionar como "cajas negras". Aunque pueden alcanzar una alta precisión de clasificación, no logran revelar qué características espectrales específicas (regiones de número de onda) impulsan sus decisiones. Esta falta de transparencia obstaculiza la confianza clínica y el cumplimiento normativo (por ejemplo, la Ley de IA de la UE). Los métodos de IA explicable (XAI) existentes, como SHAP y Grad-CAM, a menudo están diseñados para un uso genérico o tipos de datos específicos (como imágenes) y pueden no abordar adecuadamente los requisitos únicos de los datos espectrales, tales como la necesidad de explicaciones locales a nivel de características que distingan entre el comportamiento del modelo y la causalidad biológica.

Metodología
Los autores introducen Spec-ReX, un método de XAI adaptado del marco de responsabilidad causal (ReX) para espectros vibracionales. Spec-ReX cuantifica la "responsabilidad causal" de intervalos espectrales específicos para la clasificación de un modelo utilizando la teoría formal de la causalidad real.

• Mecanismo: Spec-ReX emplea una estrategia de intervención de enmascaramiento. Particiona un espectro en intervalos contiguos y los reemplaza con valores "neutrales". A diferencia de los métodos de perturbación estándar que utilizan interpolación mínima, media o lineal, Spec-ReX utiliza una interpolación cuadrática con ruido gaussiano ajustable para unir los extremos de los segmentos enmascarados. Este enfoque tiene como objetivo minimizar los artefactos fuera de la distribución (OOD) mientras se eliminan las características espectrales.
• Cálculo de la Responsabilidad: El método calcula el grado de responsabilidad ($r$) de un intervalo basándose en el tamaño del conjunto de testigos ("witness set") más pequeño requerido para mantener la predicción. Si un intervalo es suficiente por sí solo, su responsabilidad es 1; si se requieren múltiples intervalos, la responsabilidad se distribuye ($1/(k+1)$).
• Marco de Evaluación: El estudio evalúa Spec-ReX frente a Gradient SHAP y Grad-CAM a través de tres etapas experimentales distintas:
  1. In Silico (Verdad de Terreno Definitiva): Espectros sintéticos con picos discriminativos añadidos artificialmente y conocidos.
  2. In Silico (Verdad de Terreno Ambigua) e In Vitro: Espectros que contienen mezclas bioquímicas (específicamente ADN vs. sin ADN) donde un modelo puede aprender un subconjunto de características relevantes, simulando la complejidad del mundo real y el desplazamiento de picos.
  3. Ex Vivo: Conjuntos de datos de tejidos reales (FTIR oral y Raman esofágico) donde no existe una verdad de terreno de atribución definitiva.

Contribuciones Clave

1. Implementación de Spec-ReX: La adaptación de la teoría de la responsabilidad causal a la espectroscopia vibracional, proporcionando mapas de atribución dispersos y específicos.
2. Benchmarking Sistemático: Una comparación exhaustiva de Spec-ReX, SHAP y Grad-CAM a través de conjuntos de datos sintéticos, bioquímicos y clínicos.
3. Análisis de Métricas: La aplicación de diversas métricas de fidelidad, incluyendo la Intersección sobre la Unión (IoU), Concentración, Tasa de Acierto Positivo (PHR) y AUC de Inserción/Eliminación (iAUC/dAUC), así como la Fidelidad de Ajuste Fino (FFid), para resaltar los compromisos entre sensibilidad y especificidad en la evaluación de XAI.
4. Clarificación de la Causalidad: Una distinción rigurosa de que los métodos de XAI explican el comportamiento del modelo entrenado bajo perturbaciones específicas, no la causalidad biológica o los mecanismos de la enfermedad.

Resultos

• In Silico Definitivo: Spec-ReX logró la mayor localización de la verdad de terreno, con una IoU de 0.10 y una concentración de atribución de 0.56, superando significativamente al siguiente mejor método (GradSHAP-datasetAvg con 0.26 de concentración). Spec-ReX produjo los mapas más dispersos, concentrando la masa de atribución casi exclusivamente en los picos definitorios.
• In Silico Ambiguo e In Vitro: Surgió un compromiso entre sensibilidad y especificidad. SHAP demostró una mayor sensibilidad, logrando la mayor Tasa de Acierto Positivo (PHR) e identificando más regiones asociadas al ADN. Spec-ReX fue el más robusto ante la eliminación de regiones de baja importancia (menor FFid−), lo que indica que depende de un conjunto de características más pequeño y específico.
• Ex Vivo (Datos Clínicos):
  • Raman Esofágico: Diferentes arquitecturas de modelos (CNN vs. ResNet) aprendieron diferentes estrategias de decisión, lo que llevó a diferentes patrones de atribución. Spec-ReX produjo consistentemente mapas más dispersos en comparación con los mapas densos de SHAP y las regiones amplias de Grad-CAM.
  • FTIR Oral: Aplicado a un modelo PLS-DA, Spec-ReX y SHAP se comportaron de manera similar en las métricas de inserción/eliminación, superando al método de Influencia de la Variable en la Proyección (VIP). Todos los métodos coincidieron en la importancia de la región 1054–1062 cm⁻¹ (vibraciones de carbohidratos/fosfato).
• Observación General: Ninguna métrica o método fue universalmente superior. Las métricas que premian la sensibilidad favorecieron a SHAP, mientras que las que premian la especificidad y la robustez favorecieron a Spec-ReX.

Significancia y Reivindicaciones
El artículo afirma que Spec-ReX proporciona mapas de responsabilidad causal-del-modelo dispersos y específicos para clasificadores espectrales. Su principal significancia radica en su capacidad para identificar el conjunto mínimo de características en las que un modelo confía, ofreciendo una explicación más enfocada que las atribuciones a menudo difusas de SHAP o los mapas de resolución limitada de Grad-CAM.

Sin embargo, los autores mantienen una postura modesta sobre las implicaciones:

• Centrado en el Modelo, No en la Biología: Las explicaciones se refieren estrictamente al comportamiento del modelo entrenado bajo la intervención de enmascaramiento. No prueban la causalidad biológica ni que las bandas resaltadas sean mecanismos causales de la enfermedad.
• Utilidad de las Explicaciones de "Atajos": Incluso si un modelo depende de "atajos" (características frágiles o bioquímicamente implausibles), Spec-ReX revela fielmente este comportamiento, lo cual es valioso para identificar modos de fallo del modelo.
• Validación Clínica Pendiente: La utilidad clínica de estas explicaciones dispersas aún debe ser validada mediante estudios centrados en el usuario que involucren a expertos en el dominio para determinar si mejoran la calibración de la confianza y los flujos de trabajo diagnósticos.

El estudio concluye que, si bien Spec-ReX es un método competitivo y efectivo para explicar clasificadores espectrales, la elección de la herramienta de XAI debe depender de la aplicación específica y del compromiso entre sensibilidad y especificidad requerido por el usuario.