🤖 machine learning

ConceptCF: Concept-based Counterfactuals for the Explainability of Time Series

Este artículo presenta ConceptCF, un nuevo método para generar explicaciones contrafácticas interpretables en series temporales mediante la modificación de conceptos comprensibles para los humanos derivados de la descomposición de series temporales, el cual supera a los enfoques existentes en las métricas de evaluación clave.

Autores originales: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Publicado 2026-07-22

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Annemarie Jutte, Faizan Ahmed, Jeroen Linssen, Maurice van Keulen

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot cómo entender el mundo. Le das una cámara y un cerebro, y este empieza a hacer predicciones: "Eso es un gato", o "Esa máquina está a punto de romperse". Pero a veces, el robot se equivoca, o peor aún, acierta por las razones equivocadas. Tal vez piensa que una foto de un lobo es real porque hay nieve en el fondo, no porque realmente vea al lobo. Este es un gran problema en el mundo de la Inteligencia Artificial (IA), especialmente cuando hay mucho en juego, como en hospitales o fábricas. Necesitamos saber por qué el robot tomó una decisión, no solo qué decidió.

Para solucionar esto, los científicos utilizan algo llamado "IA explicable". Una de las herramientas más geniales en esta caja de herramientas es el "contrafáctico". Piensa en un contrafáctico como una historia de "qué pasaría si". En lugar de solo decir: "Predije que estabas caminando", un contrafáctico dice: "Predije que estabas caminando, pero si hubieras ralentizado tus pasos, habría predicho que estabas sentado". Es como una receta para cambiar el futuro. Sin embargo, al tratar con series temporales —datos que cambian a lo largo del tiempo, como un monitor de ritmo cardíaco o un gráfico bursátil— crear estas historias de "qué pasaría si" es complicado. Si solo modificas un punto de los datos, es como cambiar una sola palabra en una oración y esperar que toda la historia siga teniendo sentido. A menudo, no es así. La historia se convierte en un galimatías y la explicación del robot resulta inútil.

Aquí es donde entra en juego un nuevo método llamado ConceptCF. Los investigadores detrás de este artículo, Annemarie Jutte y su equipo, se dieron cuenta de que, en lugar de juguetear con puntos individuales de una serie temporal, deberíamos cambiar las "grandes ideas" o "conceptos" que componen los datos. Imagina una canción. Podrías intentar cambiar la canción ajustando cada nota una por una, lo cual es desordenado y confuso. O podrías cambiar el "volumen" (qué tan fuerte es) o el "tempo" (qué tan rápido es). Estos son los conceptos. ConceptCF es un sistema ingenioso que toma una serie temporal, la descompone en estos conceptos comprensibles (como qué tan grandes son las ondas o con qué frecuencia se repiten) y luego pregunta: "¿Qué pasaría si cambiáramos el volumen o el tempo?". Utiliza un proceso de evolución digital, como un videojuego donde las mejores soluciones sobreviven y mejoran, para encontrar los cambios más pequeños y lógicos necesarios para cambiar una predicción. El resultado es una explicación que un humano puede entender realmente, como decir: "El robot pensó que estabas caminando porque tus pasos eran demasiado grandes; si dieras pasos más cortos, sabría que estás sentado".

El artículo presenta ConceptCF como una forma de generar estas explicaciones de "qué pasaría si" específicamente para datos de series temporales. La idea central es dejar de mirar los puntos de datos brutos (los momentos individuales en el tiempo) y empezar a mirar conceptos: patrones de alto nivel que los humanos pueden comprender fácilmente, como la "escala" general (amplitud) de una señal o la "frecuencia" (con qué frecuencia se repite). Los autores argumentan que los métodos existentes a menudo estropean el significado de los datos al cambiar puntos de forma aislada, lo que puede crear escenarios extraños e imposibles. ConceptCF evita esto modificando únicamente los conceptos subyacentes.

Para lograrlo, el equipo utiliza tres formas diferentes de descomponer la serie temporal en conceptos:

Basada en Fourier: Mira la señal como una mezcla de diferentes frecuencias, como separar un acorde en notas individuales.
Basada en Wavelets: Descompone la señal en fragmentos de diferentes tamaños, capturando tanto las grandes tendencias como los detalles pequeños.
Centrada en el humano: Está diseñada específicamente para personas que no son expertas en matemáticas, descomponiendo la señal en elementos como la "tendencia" (¿va hacia arriba o hacia abajo?), el "sesgo" (¿está desplazada hacia arriba o hacia abajo?) y la "escala" (¿qué tan grande es?).

Una vez que los datos se descomponen en estos conceptos, el método utiliza un algoritmo genético para encontrar el contrafáctico perfecto. Piensa en esto como un programa de cría digital. La computadora comienza con una "población" de posibles cambios. Prueba estos cambios para ver cuáles logran cambiar la predicción de la IA (validez), mientras se mantienen lo más cerca posible de los datos originales (proximidad) y cambian la menor cantidad de cosas posible (dispersión/sparsity). Las soluciones "más aptas" sobreviven y se mezclan entre sí para crear soluciones aún mejores en la siguiente generación. El objetivo es encontrar el cambio mínimo en los conceptos que revierta la predicción. Por ejemplo, si un modelo predice "Caminar", ConceptCF podría descubrir que aumentar la "longitud de onda" y la "escala" del movimiento haría que el modelo prediga "Sentarse".

Los investigadores probaron ConceptCF contra otros cinco métodos de primer nivel utilizando conjuntos de datos del mundo real, incluyendo datos de movimiento de personas caminando y datos de frecuencia cardíaca. Midieron qué tan bien funcionaba el nuevo método basándose en cinco criterios:

Validez: ¿Realmente cambió la predicción?
Confianza: ¿Estaba el modelo seguro de la nueva predicción?
Proximidad: ¿Era el nuevo escenario cercano al original?
Dispersión (Sparsity): ¿Cambió solo unas pocas cosas o alteró todo?
Plausibilidad: ¿Parecía el nuevo escenario algo que realmente podría suceder en el mundo real?

Los resultados mostraron que ConceptCF se desempeñó de manera muy competitiva. De hecho, a menudo resultó ser el mejor, especialmente en cuanto a la dispersión. Esto significa que podía explicar la decisión de la IA cambiando muy pocos conceptos, haciendo que la explicación fuera mucho más limpia y fácil de entender para un humano. Mientras que otros métodos a veces tenían dificultades para mantener los datos con un aspecto realista o terminaban cambiando demasiados puntos, ConceptCF encontró consistentemente el "punto ideal" de realizar el cambio más pequeño y lógico para revertir el resultado. Los autores encontraron que la forma específica en que descompusieron los conceptos (Fourier vs. Wavelet vs. Centrado en el humano) no cambió drásticamente los resultados, lo que sugiere que el método es flexible y puede adaptarse a diferentes necesidades.

El artículo concluye que ConceptCF es una nueva herramienta poderosa para entender la IA de series temporales. Al centrarse en conceptos interpretables por humanos en lugar de puntos de datos brutos, cierra la brecha entre los modelos complejos de aprendizaje automático y el razonamiento humano. Los autores sugieren que, si bien su método es matemáticamente sólido y funciona bien en las pruebas estándar, la prueba definitiva es si los humanos realmente entienden mejor las explicaciones. Proponen que las investigaciones futuras deben involucrar a personas reales para ver si estas explicaciones basadas en conceptos realmente hacen que la IA sea más transparente y confiable. Por ahora, ConceptCF es un paso prometedor hacia lograr que las decisiones de la IA sean menos como una caja negra y más como una conversación que todos podemos entender.

Resumen Técnico: ConceptCF para la Explicabilidad de Series Temporales

Definición del Problema

En dominios de alto riesgo como la atención médica y el mantenimiento predictivo, los modelos de Inteligencia Artificial (IA) a menudo dependen de correlaciones espurias en lugar de relaciones causales, lo que hace necesaria la IA explicable (XAI). Aunque las explicaciones contrafácticas —identificar modificaciones mínimas para cambiar la predicción de un modelo— son una técnica de XAI popular, los métodos existentes para datos de series temporales enfrentan desafíos significográficos. Los enfoques estándar suelen modificar puntos de datos individuales o subsecuencias de forma aislada. Esta optimización punto a punto corre el riesgo de violar las dependencias temporales, generar muestras fuera de la distribución y alterar el significado semántico de la secuencia de formas difíciles de interpretar para los humanos. Además, las características globales de las series temporales, como la escala o la periodicidad, están distribuidas a través de la señal y no pueden capturarse adecuadamente modificando unos pocos puntos.

El artículo aborda la necesidad de generar contrafácticos que operen sobre conceptos interpretables por humanos en lugar de puntos de datos brutos, asegurando que las explicaciones resultantes aclaren qué propiedades de alto nivel de los datos impulsan las decisiones del modelo.

Metodología: ConceptCF

El método propuesto, ConceptCF, genera contrafácticos perturbando conceptos de alto nivel derivados de la descomposición de la serie temporal, en lugar de la señal bruta misma. La metodología procede en tres etapas:

Construcción de Conceptos: Una serie temporal $x$ se descompone en un conjunto de conceptos $S_x = \{c_1, ..., c_m\}$ utilizando una función invertible $d(\cdot)$ . El artículo evalúa tres estrategias de descomposición:
- Transformada de Fourier Discreta (DFT): Descompone la señal en bandas de frecuencia.
- Transformada de Wavelet Discreta (DWT): Descompone la señal en componentes de aproximación y de detalle.
- Descomposición Centrada en el Humano: Extrae componentes semánticos que incluyen la tendencia lineal, el sesgo (media), la escala (amplitud), los componentes de baja frecuencia, la varianza móvil deslizante y los componentes de alta frecuencia.
- Restricción: La descomposición debe ser invertible ( $x = h(S_x)$ ) para reconstruir una señal significativa a partir de los conceptos perturbados.
Problema de Optimización: La generación de un contrafáctico se formula como un problema de optimización multiobjetivo. El objetivo es encontrar un conjunto de conceptos perturbado $S_x^{CF}$ que minimice una suma ponderada de cuatro objetivos:
- Confianza: Maximizar la probabilidad del modelo para la clase objetivo.
- Proximidad: Minimizar la distancia de la norma L1 entre las muestras originales y contrafácticas (normalizada por la Desviación Absoluta Media).
- Sparsity (Dispersión/Parsimonia): Minimizar la fracción de conceptos cambiados.
- Plausibilidad: Minimizar el aumento en la puntuación de valores atípicos (IOS) con respecto a un autoencoder entrenado, asegurando que el contrafáctico permanezca dentro de la distribución de los datos.
- Restricción de Validez: El contrafáctico debe resultar en una clase predicha diferente ( $y_{x^{CF}} \neq y_x$ ).
Algoritmo Genético (GA): La optimización se resuelve mediante un algoritmo genético.
- Inicialización: La población se siembra con el Vecino Más Cercano Distinto (NUN) para asegurar la validez.
- Mutación: Los conceptos escalares se perturban con ruido Gaussiano (recortado a los rangos de entrenamiento), mientras que los conceptos secuenciales se reemplazan por vecinos más cercanos del conjunto de entrenamiento para preservar el significado semántico.
- Elitismo: Los individuos más aptos se preservan a través de las generaciones para garantizar que la restricción de validez se mantenga durante todo el proceso de optimización.

Contribuciones Clave

El artículo presenta las siguientes contribuciones al estado del arte:

Formalización: Una definición formal del problema contrafáctico para series temporales dentro del contexto de la XAI basada en conceptos.
Algoritmo: El desarrollo de ConceptCF, un método que resuelve el problema de contrafácticos basado en conceptos utilizando un algoritmo genético.
Demostración: Una demostración de cómo los conceptos (por ejemplo, escala, frecuencia, tendencia) pueden usarse para generar contrafácticos significativos, permitiendo explicaciones como "la predicción cambiaría si la escala del movimiento aumentara".
Validación: Una validación empírica que muestra que ConceptCF se desempeña competitivamente contra los métodos existentes en métricas estándar.

Resultados Experimentales

Los autores evaluaron ConceptCF contra cinco líneas base del estado del arte (Wachter, Native Guide, TSEvo, Glacier y Sub-SpaCE) utilizando cinco conjuntos de datos (MS-HAR, CBF, Coffee, ECG200, GunPoint).

Validez: ConceptCF logró un 100% de validez en todos los conjuntos de datos, garantizado por la inclusión del NUN en la población inicial y la preservación de soluciones válidas mediante el elitismo.
Sparsity: ConceptCF alcanzó el rango más alto (mejor desempeño) para la dispersión en todos los conjuntos de datos. Esto indica que ConceptCF requiere menos cambios (modificando menos conceptos de alto nivel) para alterar una predicción en comparación con los métodos basados en puntos.
Proximidad: ConceptCF también alcanzó el primer rango para la proximidad, lo que sugiere que los contrafácticos generados permanecen cerca de las muestras originales.
Confianza y Plausibilidad: ConceptCF quedó en segundo lugar en estas métricas. Los autores señalan que Glacier funcionó ligeramente mejor en plausibilidad, probablemente debido a su generación directa en el espacio latente de un autoencoder.
Comparación de Descomposición: Los tres enfoques de descomposición (centrado en el humano, DFT y DWT) funcionaron de manera comparable, mostrando el enfoque centrado en el humano resultados de dispersión ligeramente mejores.

Significado y Reivindicaciones

El artículo afirma que ConceptCF ofrece un avance significativo en la explicabilidad de series temporales al desplazar el enfoque de las modificaciones opacas punto a punto hacia conceptos de alto nivel interpretables.

Interpretabilidad: Al operar sobre conceptos como "escala" o "frecuencia", el método produce explicaciones que se alinean con el razonamiento humano (por ejemplo, "aumentar la escala para cambiar la predicción"), abordando la naturaleza de "caja negra" de los modelos de series temporales.
Desempeño Competitivo: Los autores aseguran que ConceptCF no solo es interpretable, sino también técnicamente competitivo, igualando o superando el desempeño de los métodos existentes en validez, confianza, proximidad y dispersión.
Modestia: Los autores reconocen que, si bien las métricas demuestran competencia técnica, estas no capturan completamente la comprensión del usuario. En consecuencia, sugieren que la evaluación por parte del usuario es necesaria para futuras investigaciones para validar la interpretabilidad práctica de las explicaciones generadas. También señalan que la elección de la descomposición debe estar alineada con el dominio específico y las necesidades del usuario final.