C-SHAP for time series: An approach to high-level temporal explanations

1. El Problema

En dominios de alto riesgo como la salud y la industria, la interpretabilidad de los modelos de IA es crucial para garantizar su fiabilidad y generar confianza. Sin embargo, las técnicas actuales de Inteligencia Artificial Explicable (XAI) para series temporales presentan limitaciones significativas:

• Enfoque de bajo nivel: La mayoría de los métodos existentes se basan en explicaciones por puntos (puntos individuales en el tiempo) o subsecuencias.
• Falta de patrones globales: Estos enfoques locales no capturan patrones de alto nivel esenciales para la toma de decisiones, como tendencias globales, cambios en la varianza o componentes de frecuencia.
• Interpretabilidad humana: Las atribuciones dispersas en puntos individuales a menudo no son comprensibles para expertos de dominio o usuarios finales, quienes piensan en términos de conceptos abstractos (ej. "la tendencia del señal", "la amplitud").
• Costo computacional: Aplicar métodos como SHAP directamente a cada punto de una serie temporal larga es computacionalmente prohibitivo debido a la complejidad exponencial.

2. Metodología: C-SHAP

Los autores proponen C-SHAP, un enfoque de XAI basado en conceptos para series temporales. En lugar de atribuir importancia a puntos de datos, el método atribuye importancia a "conceptos" de alto nivel extraídos de la serie temporal.

Definición de Conceptos

Un concepto se define como una unidad de nivel superior a las características de entrada individuales (ej. tendencia, frecuencia, varianza).

Dos Variantes de Enfoque

El paper presenta dos arquitecturas para implementar C-SHAP:

1. Enfoque totalmente post-hoc (Concept-Agnostic):
   • Se aplica a modelos de "caja negra" entrenados con datos crudos.
   • Los conceptos se extraen después del entrenamiento mediante descomposición de la serie temporal.
   • Para calcular los valores SHAP, los conceptos "ocultos" (masked) se reconstruyen en una señal univariada utilizando un algoritmo de inversión (recomposición) para alimentar el modelo original.
2. Enfoque parcialmente ante-hoc (Concept-Informed):
   • El modelo se entrena directamente utilizando los conceptos como canales de entrada.
   • El enmascaramiento es más directo: se reemplazan los canales de conceptos específicos con datos de fondo no informativos.

Construcción de Conceptos (Descomposición)

Para extraer los conceptos, los autores utilizan técnicas de descomposición de series temporales que deben ser invertibles (para el enfoque concept-agnostic), asegurando que la suma de los conceptos reconstruya la señal original. Se proponen dos métodos:

• Transformada Discreta de Wavelets (DWT): Descompone la señal en aproximaciones y detalles (niveles de frecuencia).
• Descomposición Personalizada (Custom): Diseñada específicamente para la interpretabilidad humana. Extrae componentes como:
  • Tendencia (Trend): Aumento/disminución lineal.
  • Sesgo (Bias): Nivel promedio.
  • Escala (Scale): Amplitud máxima.
  • Varianza: Cambios en la amplitud a lo largo del tiempo.
  • Frecuencias Baja/Alta: Cambios lentos vs. rápidos.

Cálculo de SHAP

Se adaptan los valores de Shapley para calcular la contribución de cada concepto $c_i$ a la predicción del modelo, en lugar de puntos individuales. Se utilizan muestras de fondo del conjunto de entrenamiento para simular la ausencia de un concepto específico.

3. Contribuciones Clave

1. Formalización de C-SHAP: Definición formal de dos enfoques (post-hoc y ante-hoc) para explicaciones basadas en conceptos en series temporales utilizando SHAP.
2. Uso de Descomposición: Demostración práctica del uso de la descomposición de series temporales (DWT y métodos personalizados) como mecanismo para construir conceptos.
3. Algoritmo Personalizado: Diseño de un algoritmo de descomposición híbrido (aditivo y multiplicativo) orientado a la interpretabilidad humana, que extrae conceptos intuitivos como "tendencia" y "escala".
4. Validación Multidominio: Aplicación exitosa en dos casos de uso distintos:
   • Reconocimiento de Actividad Humana (HAR): Clasificación de locomoción (parar, caminar, sentarse, acostarse).
   • Mantenimiento Predictivo: Predicción de la vida útil restante (RUL) de turbinas de avión.

4. Resultados

Los experimentos se realizaron con modelos GRU (Gated Recurrent Units) y se compararon explicaciones locales y globales:

• Interpretabilidad Superior:
  • En el caso de Turbofan (mantenimiento), C-SHAP identificó claramente que la "Tendencia" (cambio lineal de presión) era el factor más importante para predecir la vida útil. Los métodos basados en puntos (KernelSHAP) no pudieron capturar esta tendencia global debido a la dispersión de la atribución.
  • En el caso de OPPORTUNITY (HAR), los conceptos "Escala" (amplitud de movimiento) y "Sesgo" (ángulo promedio de la rodilla) fueron los más influyentes para distinguir entre caminar, sentarse o acostarse. Esto coincide con la intuición humana.
• Comparación de Descomposiciones:
  • La descomposición personalizada ofreció explicaciones más intuitivas para usuarios no expertos (ej. identificar "Escala" como factor clave).
  • La DWT fue útil, pero su naturaleza aditiva distribuyó la importancia de la amplitud en múltiples componentes de detalle, haciendo la interpretación menos directa.
• Rendimiento del Modelo:
  • Los modelos concept-informed mostraron un rendimiento comparable o ligeramente superior en algunos casos, sugiriendo que entrenar con conceptos explícitos puede ayudar al modelo a aprender patrones relevantes más rápido.

5. Significado e Impacto

• Puente entre IA y Humanos: C-SHAP cierra la brecha entre la complejidad matemática de los modelos de caja negra y la comprensión humana, traduciendo predicciones en conceptos que los expertos de dominio pueden entender y validar.
• Flexibilidad: Al ofrecer tanto un enfoque post-hoc (sin reentrenar modelos) como uno ante-hoc, la metodología se adapta a diferentes flujos de trabajo de MLOps y restricciones de infraestructura.
• Generalización: Demuestra que las explicaciones basadas en conceptos no están limitadas a un tipo de dato o dominio, siendo aplicables tanto a datos biomédicos/industriales como a sensores de movimiento.
• Dirección Futura: El trabajo establece las bases para que futuras investigaciones exploren la optimización automática de hiperparámetros de descomposición y la validación mediante estudios de usuario con expertos reales.

En resumen, C-SHAP representa un avance significativo hacia la XAI en series temporales, moviendo el foco de "qué punto en el tiempo fue importante" a "qué patrón de comportamiento global impulsó la decisión".