A Hierarchical Ensemble Pipeline for Anomaly Detection in ESA Satellite Telemetry

Resumen Técnico: Un Pipeline de Ensemble Jerárquico para la Detección de Anomalías en la Telemetría de Satélites de la ESA

Enunciado del Problema
El artículo aborda el desafío de detectar anomalías en datos de telemetría multivariada de satélites de la Agencia Espacial Europea (ESA). Las operaciones satelitales ocurren en entornos hostiles donde la detección oportuna de anomalías es crítica para prevenir interrupciones operativas y pérdidas económicas. El desafío específico implica monitorear simultáneamente 58 de los 76 canales de telemetría. Los datos presentan dificultades estadísticas significativas, incluyendo muestreo irregular, valores faltantes, redundancia de canales y una baja densidad de anomalías (1.80%). Además, el conjunto de datos contiene "eventos raros nominales" (por ejemplo, reinicios, calibraciones) que son estadísticamente anormales pero no son fallos, lo que requiere que los modelos distingan entre anomalías verdaderas y comportamientos nominales raros. La métrica de evaluación, la puntuación F0.5 corregida por evento, enfatiza la precisión y la capacidad de detectar intervalos completos de anomalías en lugar de muestras individuales.

Metodología
Los autores proponen el Pipeline de Ensemble Jerárquico de la ESA, un marco modular que integra segmentación estadística, representación basada en shapelets y aprendizaje de ensemble multinivel. La arquitectura está diseñada para prevenir la fuga de información y garantizar la diversidad del modelo mediante una estrategia específica de manejo de datos.

1. Estrategia de Enmascaramiento de Dos Niveles:
   Para garantizar la independencia entre capas y prevenir la fuga de datos, los autores emplean una estrategia de enmascaramiento de dos niveles durante el entrenamiento. La serie temporal de entrada se divide en $N$ segmentos. Para cada configuración, el $n$-ésimo segmento se enmascara en el primer nivel, y un sub-segmento se enmascara en el segundo nivel.

   • Nivel 1: Los datos restantes ($\hat{x}_n \setminus \hat{x}_{n,m}$) se utilizan para el entrenamiento del modelo base y la extracción de shapelets.
   • Nivel 2: El segmento enmascarado $x_n$ se utiliza exclusivamente para entrenar el meta-modelo de apilamiento intra-canal.
   • Inter-canal: Un segmento separado ($x_{cca}$) cortado del final de la serie cruda se reserva para entrenar el modelo de agregación inter-canal.
     Esto asegura que ninguna información de entrenamiento se reutilice entre capas, manteniendo la independencia de las características.

2. Preprocesamiento y Extracción de Características:

   • Segmentación: Se aplica segmentación con ventana deslizante con duración y paso fijos.
   • Extracción de Características: Se extraen dos tipos de características:
     • Características Estadísticas Base: Media, varianza, asimetría, curtosis, energía STFT, centroide espectral, pendiente y diff_var, seleccionadas mediante importancia de XGBoost y análisis visual.
     • Características Shapelet: Patrones locales (shapelets) se extraen de segmentos anómalos dentro de los datos de entrenamiento enmascarados. Estos shapelets se utilizan para calcular puntuaciones de similitud (máxima y mínima) contra los segmentos de entrada, capturando patrones locales discriminativos indicativos de anomalías.
   • Agrupamiento (Pooling): Se aplica un agrupamiento min-max deslizante a la línea temporal de características. Esto reduce la redundancia y enfatiza las respuestas extremas de las características, lo cual es crucial para la métrica F0.5 por evento, donde una sola detección de alta confianza dentro de un intervalo es suficiente.

3. Arquitectura de Ensemble Jerárquico:

   • Capa 1 (Modelos Base): Clasificadores independientes (XGBoost) se entrenan en cada canal utilizando rebanadas de datos únicas y diccionarios de shapelets derivados de porciones de datos disjuntos.
   • Capa 2 (Apilamiento Intra-canal): Un meta-clasificador (Regresión Logística) agrega las predicciones de múltiples modelos base para cada canal. Se entrena en el segmento enmascarado $x_n$ para evitar sesgos provenientes de los datos de entrenamiento de los modelos base.
   • Capa 3 (Agregación Inter-canal): Esta capa integra las salidas de grupos de canales semánticamente coherentes. Una función "reductora de grupo" (suma ponderada por potencia basada en la precisión de validación) agrega las probabilidades de los canales. Estas señales a nivel de grupo se alimentan a un modelo multivariado final (probado: XGBoost, Regresión Logística, LSTM) entrenado en el segmento $x_{cca}$.

Contribuciones Clave

• Pipeline de Ensemble Jerárquico: Un marco novedoso que combina la extracción de características basada en estadística y shapelets con una estructura de ensemble de tres niveles (base, apilamiento intra-canal, agregación inter-canal).
• Estrategia de Enmascaramiento de Dos Niveles: Una técnica rigurosa de división de datos que previene la fuga de información a través de los niveles de la jerarquía y promueve la diversidad del modelo al forzar a los modelos a aprender desde vistas de datos distintas.
• Validación en ESA-ADB: El método fue probado rigurosamente en el desafío de Benchmark de Detección de Anomalías de la ESA (ESA-ADB), demostrando una fuerte generalización en telemetría satelital realista.

Resultados
El pipeline fue evaluado en el desafío ESA-ADB utilizando la puntuación F0.5 corregida por evento.

• Rendimiento: El algoritmo propuesto logró el 1er lugar en la tabla de clasificación pública (puntuación: 0.931) y el 3er lugar en la tabla de clasificación privada (puntuación: 0.853).
• Configuración del Modelo:
  • Agregador: La Regresión Logística demostró ser el modelo más robusto y efectivo para la capa de agregación inter-canal, superando a XGBoost y LSTM en la mayoría de las configuraciones.
  • Longitud del Segmento: Una longitud de segmento de 50 pasos temporales produjo el mejor rendimiento, particularmente cuando se combinó con extracción de características basada en shapelets.
  • Combinación de Ensemble: Combinar predicciones de diferentes longitudes de segmento (50, 1000, 2000) mediante un operador lógico OR mejoró el rendimiento, siendo la combinación de 50 y 1000 la que mostró los resultados más fuertes en la tabla de clasificación privada.
• Eficiencia: Los experimentos se realizaron en un Mac Mini estándar (chip M1), con un tiempo de cálculo promedio de 10 horas por experimento, lo que indica que el método no requiere hardware especializado de computación de alto rendimiento para el entrenamiento.

Significado
El artículo afirma que el enfoque de modelado jerárquico es altamente efectivo para detectar anomalías sutiles en telemetría satelital realista. El significado radica en la integración exitosa de la minería de shapelets con características estadísticas dentro de un marco estricto anti-fuga. Los resultados demuestran que incluso con un agregador inter-canal relativamente simple (Regresión Logística), un ensemble bien estructurado que respeta la independencia de los datos y aprovecha representaciones de características diversas (estadísticas y shapelets) puede lograr un rendimiento de primer nivel en un desafío complejo del dominio espacial de alta dimensión. El trabajo valida que priorizar la robustez, la precisión y la interpretabilidad mediante el ensembling jerárquico es una estrategia viable para el monitoreo operativo de satélites.