Towards plausibility in time series counterfactual explanations

Este trabajo presenta un nuevo método basado en optimización por gradiente que genera explicaciones contrafactuales plausibles para la clasificación de series temporales, integrando la alineación soft-DTW con vecinos más cercanos para garantizar una estructura temporal realista y superando a los enfoques existentes en coherencia distribucional.

Lo esencial

¡Claro que sí! Imagina que tienes un médico muy inteligente pero misterioso (una Inteligencia Artificial) que revisa tus registros médicos (tus datos de tiempo, como un electrocardiograma) y te dice: "Tienes un problema cardíaco".

Tú, como paciente, quieres saber: "¿Qué tendría que cambiar exactamente en mi ritmo cardíaco para que el médico dijera: '¡Ah, ahora estás sano!'".

Aquí es donde entran las explicaciones contrafactuales. Son como respuestas a la pregunta: "¿Qué pasaría si...?". Pero hay un problema: si le preguntas a la IA, a veces te da respuestas que, aunque matemáticamente correctas, son imposibles en la vida real. Por ejemplo, podría decirte: "Si tu corazón latiera 100 veces por segundo y luego se detuviera por un segundo, estarías sano". Eso es una explicación válida para la máquina, pero no es plausible para un humano; es como si te dijera que para volar necesitas aletear los brazos a 500 km/h.

El problema de los métodos antiguos

Los métodos anteriores para generar estas explicaciones funcionaban como un pintor que solo usa colores que ya tiene en su paleta. Si querían cambiar tu ritmo cardíaco, tomaban pedazos de otros pacientes sanos y los pegaban en tu registro.

• El problema: A veces, esos "pedazos" no encajan bien. Es como intentar poner una pieza de un rompecabezas de la playa en un rompecabezas de la montaña. El resultado se ve raro, discontinuo y poco realista. O bien, hacían cambios tan pequeños que la IA seguía diciendo que estabas enfermo.

La nueva solución: "El Baile del Tiempo"

Los autores de este paper proponen una nueva forma de hacerlo, que llaman alineación con "barrido suave" (soft-DTW).

Imagina que tu ritmo cardíaco es una melodía y los pacientes sanos son otras melodías famosas.

1. El objetivo: Quieres modificar tu melodía para que suene como una de las melodías sanas, pero cambiando lo menos posible.
2. El truco: En lugar de simplemente pegar trozos de otras canciones, el nuevo método es como un coreógrafo experto. Él mira tu canción y las canciones sanas, y te dice: "Oye, en este momento tu nota es un poco más alta de lo normal, pero si la bajas suavemente aquí, y luego la subes un poco allá, encajará perfectamente con la estructura de una canción sana".

Este método usa una herramienta matemática llamada DTW (Dynamic Time Warping), que es como un ajustador de tiempo flexible.

• Imagina que tienes dos cintas de casete. Una va un poco más rápido que la otra. El DTW es como una cinta elástica que estira o contrae el tiempo para que las notas coincidan, incluso si no ocurren exactamente al mismo segundo.
• El "soft" (suave) significa que este ajustador es diferenciable, lo que permite a la computadora hacer pequeños ajustes paso a paso (como un escultor puliendo una estatua) hasta que la nueva versión es perfecta.

¿Qué logra este nuevo método?

El equipo ha creado una "receta" (una función de pérdida) que busca el equilibrio perfecto entre tres cosas:

1. Validez: ¡Tiene que funcionar! La IA debe decir que el nuevo ritmo es sano.
2. Cercanía: No queremos cambiar todo tu historial, solo lo necesario.
3. Plausibilidad (La estrella del show): La explicación debe parecer algo que podría ocurrir realmente. No puede ser un monstruo matemático.

Los resultados: ¿Qué pasó en la práctica?

Cuando probaron esto con datos reales (como electrocardiogramas y sensores de terremotos):

• Los métodos viejos a veces daban explicaciones que la IA aceptaba, pero que se veían como "ruido" o errores extraños (como un latido que salta de un valor a otro de forma imposible).
• El nuevo método generó explicaciones que se veían naturales. Si miras la gráfica, parece un latido real de un paciente sano, no un dibujo hecho por un robot.

La analogía final:
Imagina que quieres cambiar tu estilo de vestir para parecer más profesional.

• Un método antiguo podría decirte: "Ponte un traje de astronauta, pero quítale el casco". Es válido (te ves diferente), pero es absurdo.
• Otro método podría decirte: "Cambia solo el color de tu corbata". Es muy cercano a tu estilo actual, pero quizás no es suficiente para que te veas profesional.
• El nuevo método te dice: "Cambia tu camisa por una de manga larga y añade un saco". Es un cambio más grande que solo la corbata, pero es plausible, realista y te hace ver exactamente como querías.

En resumen

Este paper nos enseña que, para explicar decisiones de Inteligencia Artificial en datos que cambian con el tiempo (como la salud o el clima), no basta con encontrar una solución matemática. La solución debe tener sentido en el mundo real. Su nuevo método asegura que las explicaciones no solo sean correctas para la máquina, sino también creíbles y útiles para los humanos, respetando la "coreografía" natural del tiempo.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo "Towards plausibility in time series counterfactual explanations" (Hacia la plausibilidad en explicaciones contrafactuales de series temporales), presentado por Kostrzewa, Galus y Zięba.

1. Problema Identificado

El campo de la Inteligencia Artificial Explicable (XAI) ha avanzado significativamente en la generación de explicaciones contrafactuales (CFE) para datos tabulares. Sin embargo, existe una brecha crítica en el dominio de las series temporales.

• Contexto: Los clasificadores de series temporales se utilizan en áreas de alto riesgo como la salud (ECG), finanzas (detección de fraude) e industria. Su complejidad dificulta la interpretación.
• Limitación actual: Los métodos existentes de CFE para series temporales a menudo generan explicaciones que, aunque son válidas (cambian la predicción), carecen de plausibilidad. Es decir, introducen patrones temporales irreales, discontinuos o adversarios que no respetan la dinámica subyacente de los datos.
• Definición de Plausibilidad: En este contexto, se define como el grado en que una instancia generada se alinea con la distribución de datos real y mantiene una estructura temporal coherente, en lugar de ser una perturbación artificial.

2. Metodología Propuesta

Los autores proponen un nuevo método que genera CFEs mediante optimización basada en gradientes directamente en el espacio de entrada, integrando una medida de alineación temporal explícita.

Componentes Clave:

1. Optimización Directa: A diferencia de métodos que usan autoencoders o espacios latentes, este método modifica la serie temporal original ($X$) directamente para obtener la contrafactual ($X'$).
2. Función de Pérdida Multi-objetivo: La optimización minimiza una función de pérdida compuesta ($L_{CF}$) que equilibra cuatro propiedades:
   • Validez ($L_{valid}$): Asegura que el clasificador prediga la clase objetivo ($y_{target}$) usando una pérdida de tipo hinge.
   • Proximidad ($L_{prox}$): Mide la distancia euclidiana ($L_2$) entre la serie original y la contrafactual para garantizar cambios mínimos.
   • Escasez ($L_{sparse}$): Penaliza la norma $L_1$ de la perturbación para fomentar cambios localizados en lugar de globales.
   • Plausibilidad ($L_{DTW}$): El componente novel. Utiliza la distancia Soft-DTW (Dynamic Time Warping suavizado) para alinear la contrafactual con los $k$-vecinos más cercanos de la clase objetivo en el conjunto de entrenamiento.

El Rol del Soft-DTW:

• El DTW estándar es no diferenciable, lo que impide el uso de gradientes.
• El Soft-DTW reemplaza el mínimo duro con un operador soft-minimum diferenciable, permitiendo el cálculo de gradientes.
• Al minimizar la distancia Soft-DTW entre la contrafactual y los vecinos reales de la clase objetivo, el método fuerza a la serie generada a adoptar la estructura temporal realista característica de esa clase.

La ecuación de optimización es:
$$L_{CF} = L_{prox} + L_{sparse} + \lambda \cdot (L_{valid} + L_{DTW})$$
Donde $\lambda$ balancea la importancia de la validez/plausibilidad frente a la proximidad/escasez.

3. Contribuciones Principales

1. Nuevo Método de Generación: Un enfoque basado en gradientes que integra explícitamente la alineación con la clase objetivo mediante Soft-DTW para garantizar la plausibilidad temporal.
2. Evaluación Exhaustiva: Comparación contra métodos de referencia fuertes (Glacier y M-CELS) en múltiples conjuntos de datos (univariados y multivariados) utilizando métricas de validez, proximidad, escasez y plausibilidad.
3. Análisis Cualitativo y Cuantitativo: Demostración de que los métodos existentes a menudo fallan en preservar la estructura temporal, mientras que el método propenso genera explicaciones visualmente y estadísticamente más realistas.

4. Resultados Experimentales

Las pruebas se realizaron en 8 conjuntos de datos de los repositorios UCI y UEA (ej. CBF, TwoLeadECG, GunPoint, Cricket).

• Validez: El método propuesto alcanzó una validez perfecta o casi perfecta (1.000) en todos los conjuntos de datos. En contraste, los métodos de referencia (Glacier, M-CELS) mostraron tasas de éxito significativamente más bajas (ej. 0.360 y 0.226 en CBF).
• Plausibilidad (Distancia DTW): El método propuesto superó drásticamente a los competidores.
  • Logró distancias DTW un orden de magnitud menores que los métodos existentes.
  • Ejemplo en TwoLeadECG: 0.016 (propuesto) vs 0.064 (Glacier) y 0.302 (M-CELS).
  • Ejemplo en Cricket: 0.810 (propuesto) vs 65.924 (M-CELS).
  • Las puntuaciones del Isolation Forest (que mide si la instancia es un valor atípico) fueron perfectas (1.000) en la mayoría de los casos, indicando que las CFEs generadas son reconocidas como instancias nominales de la clase objetivo.
• Compromiso (Trade-off) Proximidad vs. Plausibilidad:
  • El método propuesto mostró distancias $L_1$ y $L_2$ (proximidad) más altas que los métodos de referencia.
  • Interpretación: Para lograr una estructura temporal realista y válida, el método requiere realizar cambios más grandes y significativos en la serie, en lugar de hacer pequeñas perturbaciones que, aunque cercanas al original, resultan en patrones temporales irreales o inválidos.

5. Significado y Conclusiones

El trabajo demuestra que la plausibilidad no es gratuita; priorizar la estructura temporal realista a menudo requiere sacrificar la proximidad estricta (pequeños cambios) en favor de cambios más grandes pero coherentes.

• Impacto: El método genera explicaciones que los usuarios pueden confiar, ya que no parecen "ataques adversarios" sino transformaciones lógicas dentro de la dinámica del sistema.
• Limitaciones:
  • Complejidad computacional cuadrática debido al cálculo de DTW en cada iteración, lo que puede ser costoso para series muy largas.
  • Dependencia de los $k$-vecinos más cercanos: Si la clase objetivo tiene una distribución multimodal compleja, la alineación con vecinos específicos podría no capturar toda la diversidad de patrones.
• Futuro: Los autores sugieren explorar modelos generativos probabilísticos para modelar la densidad de las series temporales y superar la limitación de la alineación basada solo en vecinos.

En resumen, este artículo establece un nuevo estándar para las explicaciones contrafactuales en series temporales, demostrando que la alineación explícita con la distribución de datos objetivo es crucial para generar explicaciones que sean tanto válidas como creíbles.