🤖 machine learning

Concept Extraction for Time Series with ECLAD-ts

Este artículo presenta ECLAD-ts, un nuevo método de extracción y localización de conceptos post-hoc diseñado para la clasificación de series temporales que genera explicaciones globales mediante el agrupamiento de mapas de activación de CNN para revelar cómo los modelos codifican subconjuntos de entrada en diferentes niveles de abstracción.

Autores originales: Antonia Holzapfel, Andres Felipe Posada-Moreno, Sebastian Trimpe

Publicado 2026-08-03

📖 9 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Antonia Holzapfel, Andres Felipe Posada-Moreno, Sebastian Trimpe

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un detective intentando resolver un misterio, pero tu único testigo es un robot brillante y superrápido que se niega a hablar. Este robot puede mirar una línea de datos larga y ondulante y decirte exactamente qué está pasando —como predecir si una máquina se romperá o si un paciente está enfermo— pero no te dirá cómo llegó a esa conclusión. En el mundo de la ciencia, esto se llama una "caja negra". Sabemos que el robot es inteligente, pero como no podemos ver su proceso de pensamiento, no sabemos si está usando pistas reales o si solo se está apoyando en patrones accidentales y diminutos que casualmente parecen la respuesta. Esto es un gran problema porque, si el robot se apoya en estos patrones, podría cometer errores peligrosos cuando las cosas cambien. Los científicos han estado tratando de construir "linternas" para iluminar estas cajas negras, especialmente para imágenes, pero los datos basados en el tiempo (como los latidos del corazón o los precios de las acciones) han sido mucho más difíciles de descifrar porque se mueven y cambian de formas que las imágenes no hacen.

Este artículo presenta una nueva linterna llamada ECLAD-ts, diseñada específicamente para echar un vistazo dentro de los cerebros de los robots que analizan series temporales. Los investigadores construyeron esta herramienta para encontrar "conceptos", que son simplemente los patrones o formas específicas que el robot ha aprendido a reconocer. Piensa en esto como enseñar a un niño a identificar un perro: no solo dices "es un perro", sino que señalas las orejas caídas, la cola que se mueve y la nariz húmeda. ECLAD-ts hace esto por los robots, pero en lugar de orejas y colas, encuentra ondulaciones, bultos y pendientes en los datos. El equipo probó su nueva herramienta tanto en datos ficticios (donde conocían la respuesta de antemano) como en datos del mundo real de fábricas y sensores de movimiento. Descubrieron que ECLAD-ts es mucho mejor para detectar las pistas reales que el robot está utilizando e ignorar los "atajos" o patrones accidentales. Incluso descubrió que algunos robots estaban ignorando las partes realmente importantes de los datos y simplemente adivinando basándose en el ruido de fondo. Al mostrarnos exactamente en qué partes de la línea de tiempo está mirando el robot, ECLAD-ts nos ayuda a confiar más en el robot, o a arreglarlo si está mirando las cosas equivocadas.

El Problema: El Robot Silencioso que Usa Atajos

Imagina que estás entrenando a un robot para que distinga entre un día "bueno" en una fábrica y un día "malo". Le proporcionas miles de grabaciones de las vibraciones de una máquina. El robot se vuelve muy bueno en su trabajo, obteniendo un 100% de aciertos en las pruebas. Pero luego, le preguntas: "¿Por qué pensaste que esa máquina estaba rota?". El robot solo te devuelve la mirada. Es una caja negra.

Lo aterrador es que los robots son conocidos por tomar atajos. En lugar de aprender que una máquina está rota debido a un sonido de crujido específico en la vibración, el robot podría aprender que "los días malos siempre ocurren los martes" o que "los días malos siempre tienen un poco de estática al principio". Si el robot depende de estos atajos, fallará estrepitosamente en el momento en que el horario cambie o la estática desaparezca. Esto se llama "aprendizaje de atajos" (shortcut learning), y es peligroso porque el robot parece inteligente, pero en realidad no lo es.

Para solucionar esto, los científicos necesitan abrir la caja negra. Necesitan ver qué está "pensando" realmente el robot. Para las imágenes, tenemos herramientas que pueden resaltar la parte de la imagen en la que el robot se está fijando. Pero para las series temporales —datos que fluyen a través del tiempo como un latido del corazón o un gráfico de acciones— estas herramientas faltaban o no funcionaban bien. Los métodos existentes eran como intentar encontrar una aguja en un pajar simplemente adivinando dónde podría estar la aguja, o requerían que los humanos etiquetaran manualmente cada patrón, lo cual es lento y aburrido.

La Solución: ECLAD-ts, el Detective que Viaja en el Tiempo

Los autores de este artículo, Antonia Holzapfel y su equipo, crearon una nueva herramienta llamada ECLAD-ts. Piensa en esta herramienta como un detective que puede congelar el tiempo y hacer zoom en momentos específicos de un flujo de datos para ver a qué está prestando atención el robot.

Así es como funciona, usando una analogía sencilla:
Imagina que el cerebro del robot es una biblioteca gigante de notas. Cada vez que el robot mira un trozo de datos, escribe una nota sobre lo que ve. ECLAD-ts entra en esta biblioteca y agrupa las notas similares. Estos grupos se llaman conceptos.

Concepto 1 podría ser "un pico agudo en el medio".
Concepto 2 podría ser "una pendiente suave y gentil al principio".
Concepto 3 podría ser "ruido aleatorio".

La magia de ECLAD-ts es que no solo encuentra estos conceptos, sino que te dice qué tan importantes son. Le pregunta al robot: "Si elimino este 'pico agudo' de los datos, ¿cambia tu respuesta?". Si la respuesta cambia mucho, el concepto es muy importante. Si la respuesta no cambia, el concepto es solo ruido de fondo.

Crucialmente, esta herramienta está diseñada para series temporales multivariantes. Esto significa que los datos suelen provenir de múltiples sensores a la vez (como un coche que tiene un sensor de velocidad, un sensor de temperatura y un sensor de presión grabando al mismo tiempo). ECLAD-ts es especial porque puede decirte en qué sensor se está fijando el robot. Puede decir: "El robot está mirando el 'pico agudo' en el sensor de temperatura, pero está ignorando el sensor de velocidad". Otras herramientas suelen mezclar todos los sensores, haciendo imposible saber cuál importa.

Los Experimentos: Probando al Detective

Para demostrar que su herramienta funciona, el equipo realizó una serie de pruebas.

1. La Prueba de Datos Falsos (La Verificación de la "Verdad Fundamental")
Primero, crearon tres conjuntos de datos falsos donde sabían exactamente cuál era la respuesta.

SyntheticL2: Crearon datos donde una clase tenía un "bulto" específico y la otra no. También añadieron un patrón de "fondo" que parecía una onda cuadrada.
SyntheticL4: Crearon datos con un "bulto ascendente" para una clase y un "bulto descendente" para otra.
SyntheticLm: Este era el más difícil. Tenían dos canales (sensores). Un canal tenía un "bulto" para la Clase A, y el otro canal tenía un "bulto" para la Clase B.

Entrenaron robots en estos conjuntos de datos falsos y luego usaron ECLAD-ts (y otras herramientas) para ver qué aprendieron los robots.

El Resultado: ECLAD-ts identificó correctamente los "bultos" como los conceptos importantes. ¡Incluso detectó que algunos robots estaban dependiendo de atajos! En un caso, el robot aprendió a ignorar el "bulto" y simplemente mirar el "fondo" para adivinar la respuesta. ECLAD-ts atrapó esto y le dio al fondo una puntuación de importancia alta, revelando el atajo del robot.
La Comparación: Compararon ECLAD-ts con otras herramientas como ConceptShap y MultiVISION. Estas otras herramientas a menudo fallaron. O no podían encontrar los "bultos" específicos o se confundían con el ruido de fondo. ECLAD-ts fue la única que pudo señalar claramente el lugar correcto en el tiempo y en el sensor correcto.

2. La Prueba del Mundo Real
Después, lo probaron con datos reales.

Dataset GunPoint: Estos datos registran los movimientos de las manos de actores fingiendo sostener un arma. Las características clave son un movimiento de "sobreimpulso" (cuando bajan el brazo) y un "levantamiento extra" (cuando lo levantan). ECLAD-ts resaltó con éxito estos movimientos exactos. Las otras herramientas simplemente señalaron áreas amplias y vagas de la línea de tiempo.
Dataset P2S: Estos son datos de una fábrica de estampado de metal. El objetivo es distinguir si una producción es normal o defectuosa. Los expertos saben que las pistas importantes están en las "pendientes" antes de la curva en el medio del gráfico. ECLAD-ts encontró estas pendientes y les dio puntuaciones de importancia altas. Incluso observó un error que cometió el robot y mostró que el robot había confundido una pendiente de una ejecución "buena" con una pendiente de una ejecución "mala". Esto ayuda a los humanos a entender por qué falló el robot.

Lo Que Encontraron (Y Lo Que No)

El artículo muestra que ECLAD-ts es una nueva forma poderosa de entender cómo piensan los robots respecto al tiempo.

Funciona: La herramienta extrajo con éxito patrones significativos (conceptos) del cerebro del robot que coincidían con lo que los humanos sabían que era importante.
Detecta atajos: Puede detectar cuándo un robot está usando atajos o mirando las cosas equivocadas (como el ruido de fondo en lugar de la señal real).
Maneja múltiples sensores: Es la primera herramienta que puede separar claramente qué sensor es importante para un patrón específico, lo cual es un gran avance para datos complejos.
Es mejor que el resto: En sus pruebas, ECLAD-ts superó consistentemente a las otras herramientas (ECLAD, ConceptShap y MultiVISION) en la localización de los patrones correctos y en la asignación de la importancia adecuada a ellos.

Sin embargo, los autores tienen cuidado de no decir que este es un producto perfecto y terminado. Señalan que:

Necesita ajuste: La herramienta tiene configuraciones (como cuántos conceptos buscar) que deben ajustarse. Si eliges el número equivido, los resultados podrían no ser tan claros.
Aún es una simulación en algunos aspectos: Aunque lo probaron con datos reales, la "verdad fundamental" (saber la respuesta absoluta correcta) solo estaba disponible en los conjuntos de datos falsos. En el mundo real, no podemos estar 100% seguros de si el robot está mirando la única cosa correcta, pero ECLAD-ts nos da la mejor vista que tenemos.
Es para CNNs: Esta herramienta está diseñada para un tipo específico de cerebro de robot llamado Red Neuronal Convolucional (CNN). Podría no funcionar con otros tipos de robots sin cambios.

Por Qué Esto Importa

Este artículo no solo nos da una nueva herramienta; nos da una forma de construir confianza. Si un robot está diagnosticando a un paciente o controlando una fábrica, necesitamos saber que no está simplemente adivinando. ECLAD-ts actúa como un traductor, convirtiendo los pensamientos silenciosos y complejos del robot en una historia clara: "Estoy prediciendo 'defectuoso' porque veo este pico específico en el sensor de temperatura, e ignoro el ruido en el sensor de presión".

Al hacer que estas cajas negras sean un poco menos negras, los autores esperan que los ingenieros y médicos puedan construir sistemas mejores, más seguros y más fiables. No pretenden haber resuelto todos los problemas de la inteligencia robótica, pero definitivamente han encendido una luz muy brillante en una habitación muy oscura.

Resumen Técnico: Extracción de Conceptos para Series Temporales con ECLAD-ts

Planteamiento del Problema

Las Redes Neuronales Convolucionales (CNN) se despliegan cada vez más para la Clasificación de Series Temporales (TSC) en dominios críticos como la predicción de calidad y el diagnóstico médico. Sin embargo, su naturaleza de "caja negra" dificulta la comprensión de sus procesos de predicción, lo que complica la detección de si los modelos dependen de sesgos perjudiciales, correlaciones espurias o "aprendizaje de atajos" (shortcut learning) en lugar de características relevantes para la tarea. Aunque existen métodos de Extracción de Conceptos (CE) para proporcionar explicaciones comprensibles para los humanos mediante la identificación de patrones (conceptos) que utiliza un modelo, los enfoques actuales están diseñados predominantemente para el dominio de la imagen.

En el dominio de las series temporales, los métodos de explicación actuales enfrentan limitaciones significativas:

Los métodos basados en prototipos no reflejan cómo el modelo codifica la información internamente.
Los métodos de prueba de conceptos (por ejemplo, TCAV) requieren el etiquetado manual de conceptos, lo que introduce sesgo humano y trabajo manual, y pueden no alinearse con los conceptos que el modelo realmente aprendió.
Los métodos de CE existentes para series temporales (por ejemplo, MultiVISION) a menudo dependen del campo receptivo de las capas de la red. En arquitecturas profundas con campos receptivos grandes (por ejemplo, InceptionTime), esto puede resultar en que los parches de conceptos cubran toda la entrada, invalidando la eficacia del "agrupamiento" (clustering).
Los métodos de CE basados en imágenes no pueden transferirse directamente debido a las características específicas del dominio, como los datos multicanal donde diferentes canales codifican tipos distintos de información (por ejemplo, diferentes sensores).

Existe una brecha crítica para un método de CE global y automático adaptado a las series temporales que pueda localizar conceptos tanto temporal como transversalmente a través de los canales, sin depender de la anotación manual o de campos receptivos fijos.

Metodología: ECLAD-ts

Los autores proponen ECLAD-ts, un método de explicación global post-hoc adaptado del algoritmo de dominio de imagen ECLAD. Este extrae y localiza conceptos analizando las representaciones internas de las CNN. El método opera en tres pasos principales:

1. Codificación del Espacio Latente (Descriptores Agregados Locales)

En lugar de depender de campos receptivos fijos, ECLAD-ts utiliza Descriptores Agregados Locales (LADs).

El método agrega mapas de activación de un conjunto predefinido de capas de la CNN ( $L$ ).
Estos mapas se escalan mediante interpolación lineal para coincidir con las dimensiones de entrada ( $w \times ch$ ).
Un descriptor $d_{x_i}$ se forma mediante la concatenación de estos mapas escalados.
Un LAD se define como la sección transversal por paso de tiempo de este descriptor ( $d_{x_i}(b)$ ), que representa cómo el modelo codifica un paso de tiempo específico en varios niveles de abstracción. Este enfoque reduce la dimensionalidad mientras preserva la información temporal y de canal.

2. Minería de Patrones y Visualización

Agrupamiento (Clustering): Se aplica un algoritmo k-means de mini-lote a los LAD extraídos de un conjunto de entradas para identificar grupos de subsecuencias temporales codificadas de manera similar. Los centroides de estos grupos ( $\gamma_{c_j}$ ) definen los conceptos.
Localización: Para visualizar un concepto $c_j$ dentro de una entrada $x_i$ , se genera una máscara $m_{x_i}^{c_j}$ . Esta máscara identifica los pasos de tiempo donde el LAD es más cercano al centroide del concepto.
Expansión de Canales: A diferencia de los métodos basados en imágenes, las series temporales suelen tener múltiples canales con información distinta. ECLAD-ts expande la máscara de un solo canal para que coincida con el recuento de canales de la entrada, creando máscaras separadas para cada canal para permitir la localización por canal.

3. Computación de Relevancia (Puntuación de Importancia)

Se introduce un novedoso mecanismo de puntuación de importancia para cuantificar la relevancia de los conceptos, abordando específicamente la naturaleza multicanal de las series temporales.

Sensibilidad por Instancia: El método calcula la sensibilidad basada en el gradiente de la salida del modelo con respecto a la entrada, enmascarada por la ubicación del concepto: $R_{x_i}^{c_j} = \nabla_x g(f(x_i)) \odot m_{x_i}^{c_j}$ .
Función Envolvente (Wrapper): Para la clasificación multiclase, la función envolvente $g(y)$ se define como la norma al cuadrado de la diferencia entre el vector de salida y su media, asegurando que la métrica capture la confianza del modelo para distinguir clases.
Preservación del Signo: La puntuación de importancia agrega la sensibilidad sobre los pasos de tiempo mientras preserva el signo del gradiente.
- Una puntuación positiva indica que el concepto ayuda a distinguir la clase predicha.
- Una puntuación negativa indica que el concepto reduce la distancia entre los logits (haciendo al modelo "menos seguro"), representando características que contradicen la predicción.
- Una puntuación cercana a cero implica que el concepto no es importante.
Agregación: La Puntuación de Importancia (IS) final por canal es la relevancia media del concepto a través del conjunto de datos, escalada al rango $[-1, 1]$ .

Contribuciones Clave

Algoritmo ECLAD-ts: Un método novedoso para la extracción automática de conceptos y la localización en el dominio de las series temporales que captura tanto la información temporal como la de canal, superando las limitaciones de los métodos basados en el campo receptivo.
Puntuación de Importancia por Canal: Una métrica modificada que evalúa cuantitativamente la relevancia de los conceptos a través de canales específicos, teniendo en cuenta que diferentes sensores pueden codificar diferentes tipos de información.
Evaluación Empírica: Experimentos extensos en conjuntos de datos sintéticos y naturales comparando ECLAD-ts contra ECLAD vanilla, ConceptShap y MultiVISION.

Resultados

El método fue evaluado en tres conjuntos de datos sintéticos (con primitivas de verdad fundamental conocidas) y dos conjuntos de datos naturales (GunPoint y Production Press Sensor Data).

Conjuntos de Datos Sintéticos

Precisión de Localización: ECLAD-ts localizó con éxito conceptos correspondientes a las primitivas de verdad fundamental (por ejemplo, bultos específicos o interrupciones de fondo) tanto en la dimensión temporal como en la de canal.
Diferenciación de Canales: En el conjunto de datos sintético multicanal ( $syntheticL_m$ ), ECLAD-ts fue el único método capaz de distinguir que la primitiva $p_0$ pertenecía al canal 0 y $p_1$ al canal 1. Otros métodos (ECLAD, ConceptShap, MultiVISION) fallaron en diferenciar los canales o produjeron resultados ambiguos.
Métricas: ECLAD-ts logró las puntuaciones más altas de Corrección de Representación (RC) e Importancia de Corrección (IC) en todos los modelos (InceptionTime, ResNet18, DenseNet121).
Detección de Aprendizaje de Atajos (Shortcut Learning): El método identificó con éxito cuándo los modelos dependían de un "fondo ininterrumpido" (un atajo) en lugar de las características de la primitiva prevista, evidenciado por altas puntuaciones de importancia asignadas a los conceptos de fondo.

Conjuntos de Datos Naturales

Conjunto de Datos GunPoint: ECLAD-ts identificó correctamente los movimientos de "sobreimpulso" (overshoot) y "levantamiento extra" conocidos por ser críticos para la clasificación, mientras que otros métodos produjeron máscaras amplias e inconclusas.
Conjunto de Datos P2S (Industrial): El método localizó características en las pendientes antes de la concavidad en los datos de sensores de producción, alineándose con el conocimiento experto. También proporcionó información sobre muestras mal clasificadas al resaltar características conflictivas (por ejemplo, una pendiente que se asemeja a la clase incorrecta).

Significado y Reivindicaciones

El artículo afirma que ECLAD-ts representa un paso significativo hacia la mejora de la transparencia de las CNN para la clasificación de series temporales. Su principal importancia radica en:

Cerrar la Brecha de Dominio: Adaptar con éxito los conceptos de CE basados en imágenes a los desafíos específicos de las series temporales (dimensionalidad e información específica de canal).
Automático y Global: Proporcionar explicaciones sin necesidad de etiquetado manual de conceptos o experiencia humana en el dominio de aplicación.
Robustez a la Arquitectura: A diferencia de los métodos dependientes de los campos receptivos, ECLAD-ts sigue siendo efectivo incluso en arquitecturas profundas con grandes campos receptivos.
Información Accionable: Al revelar si un modelo utiliza características relevantes o atajos, el método permite a las partes interesadas evaluar la alineación del modelo con las expectativas humanas, mejorar la robustez del modelo y construir una confianza apropiada.

Los autores señalan que, si bien ECLAD-ts es eficiente y escalable, aún quedan desafíos relacionados con la visualización de características complejas y la sensibilidad a los hiperparámetros (específicamente el número de conceptos). Sugieren que el trabajo futuro podría centrarse en técnicas adaptativas y la integración de la CE en el entrenamiento en tiempo real.