A Hierarchical Ensemble Pipeline for Anomaly Detection in ESA Satellite Telemetry

Resumo Técnico: Um Pipeline de Ensemble Hierárquico para Detecção de Anomalias em Telemetria de Satélites da ESA

Declaração do Problema
O artigo aborda o desafio de detectar anomalias em dados de telemetria multivariada de satélites da Agência Espacial Europeia (ESA). As operações de satélite ocorrem em ambientes hostis, onde a detecção oportuna de anomalias é crítica para prevenir interrupções operacionais e perdas econômicas. O desafio específico envolve monitorar simultaneamente 58 dos 76 canais de telemetria. Os dados apresentam dificuldades estatísticas significativas, incluindo amostragem irregular, valores ausentes, redundância de canais e baixa densidade de anomalias (1,80%). Além disso, o conjunto de dados contém "eventos raros nominais" (por exemplo, reinicializações, calibrações) que são estatisticamente anormais, mas não falhas, exigindo que os modelos distingam entre anomalias reais e comportamentos nominais raros. A métrica de avaliação, a pontuação F0.5 corrigida por evento, enfatiza a precisão e a capacidade de detectar intervalos inteiros de anomalias em vez de amostras individuais.

Metodologia
Os autores propõem o Pipeline de Ensemble Hierárquico da ESA, um framework modular que integra segmentação estatística, representação baseada em shapelets e aprendizado de ensemble multinível. A arquitetura é projetada para prevenir vazamento de informações e garantir diversidade do modelo através de uma estratégia específica de manipulação de dados.

1. Estratégia de Mascaramento de Dois Níveis:
   Para garantir independência entre as camadas e prevenir vazamento de dados, os autores empregam uma estratégia de mascaramento de dois níveis durante o treinamento. A série temporal de entrada é dividida em $N$ segmentos. Para cada configuração, o $n$-ésimo segmento é mascarado no primeiro nível, e um subsegmento é mascarado no segundo nível.

   • Nível 1: Os dados restantes ($\hat{x}_n \setminus \hat{x}_{n,m}$) são usados para treinamento do modelo base e extração de shapelets.
   • Nível 2: O segmento mascarado $x_n$ é usado exclusivamente para treinar o meta-modelo de empilhamento intra-canal.
   • Inter-canal: Um segmento separado ($x_{cca}$), cortado do final da série bruta, é reservado para treinar o modelo de agregação inter-canal.
     Isso garante que nenhuma informação de treinamento seja reutilizada entre as camadas, mantendo a independência das características.

2. Pré-processamento e Extração de Características:

   • Segmentação: A segmentação por janela deslizante é aplicada com duração e passo fixos.
   • Extração de Características: Dois tipos de características são extraídos:
     • Características Estatísticas Básicas: Média, variância, assimetria, curtose, energia STFT, centróide espectral, inclinação e diff_var, selecionadas via importância do XGBoost e análise visual.
     • Características Baseadas em Shapelets: Padrões locais (shapelets) são minerados a partir de segmentos anômalos dentro dos dados de treinamento mascarados. Esses shapelets são usados para calcular pontuações de similaridade (máxima e mínima) em relação aos segmentos de entrada, capturando padrões locais discriminativos indicativos de anomalias.
   • Agrupamento (Pooling): Um agrupamento min-max deslizante é aplicado à linha do tempo das características. Isso reduz a redundância e enfatiza respostas extremas de características, o que é crucial para a métrica F0.5 por evento, onde uma única detecção de alta confiança dentro de um intervalo é suficiente.

3. Arquitetura de Ensemble Hierárquico:

   • Camada 1 (Modelos Base): Classificadores independentes (XGBoost) são treinados em cada canal usando fatias de dados únicas e dicionários de shapelets derivados de porções de dados disjuntos.
   • Camada 2 (Empilhamento Intra-canal): Um meta-classificador (Regressão Logística) agrega previsões de múltiplos modelos base para cada canal. Ele é treinado no segmento mascarado $x_n$ para evitar viés dos dados de treinamento dos modelos base.
   • Camada 3 (Agregação Inter-canal): Esta camada integra as saídas de grupos semanticamente coerentes de canais. Uma função "redutora de grupo" (soma ponderada por potência baseada na precisão de validação) agrega as probabilidades dos canais. Esses sinais de nível de grupo são alimentados em um modelo multivariado final (testado: XGBoost, Regressão Logística, LSTM) treinado no segmento $x_{cca}$.

Principais Contribuições

• Pipeline de Ensemble Hierárquico: Um framework inovador que combina extração de características estatísticas e baseadas em shapelets com uma estrutura de ensemble de três níveis (base, empilhamento intra-canal, agregação inter-canal).
• Estratégia de Mascaramento de Dois Níveis: Uma técnica rigorosa de divisão de dados que previne vazamento de informações entre os níveis da hierarquia e promove diversidade do modelo ao forçar os modelos a aprenderem de visões de dados distintas.
• Validação no ESA-ADB: O método foi rigorosamente testado no desafio de Benchmark de Detecção de Anomalias da ESA (ESA-ADB), demonstrando forte generalização em telemetria de satélite realista.

Resultados
O pipeline foi avaliado no desafio ESA-ADB usando a pontuação F0.5 corrigida por evento.

• Desempenho: O algoritmo proposto alcançou 1º lugar na tabela de classificação pública (pontuação: 0,931) e 3º lugar na tabela de classificação privada (pontuação: 0,853).
• Configuração do Modelo:
  • Agregador: A Regressão Logística provou ser o modelo mais robusto e eficaz para a camada de agregação inter-canal, superando o XGBoost e o LSTM na maioria das configurações.
  • Comprimento do Segmento: Um comprimento de segmento de 50 passos de tempo produziu o melhor desempenho, particularmente quando combinado com extração de características baseada em shapelets.
  • Combinação de Ensemble: Combinar previsões de diferentes comprimentos de segmento (50, 1000, 2000) através de um operador lógico OU melhorou o desempenho, sendo a combinação de 50 e 1000 mostrando os resultados mais fortes na tabela de classificação privada.
• Eficiência: Os experimentos foram conduzidos em um Mac Mini padrão (chip M1), com um tempo de cálculo médio de 10 horas por experimento, indicando que o método não requer hardware especializado de computação de alto desempenho para treinamento.

Significado
O artigo afirma que a abordagem de modelagem hierárquica é altamente eficaz para detectar anomalias sutis em telemetria de satélite realista. O significado reside na integração bem-sucedida da mineração de shapelets com características estatísticas dentro de um framework estrito contra vazamento de dados. Os resultados demonstram que, mesmo com um agregador inter-canal relativamente simples (Regressão Logística), um ensemble bem estruturado que respeita a independência dos dados e aproveita representações de características diversas (estatísticas e shapelets) pode alcançar desempenho de nível superior em um desafio complexo de domínio espacial de alta dimensionalidade. O trabalho valida que priorizar robustez, precisão e interpretabilidade através de ensembles hierárquicos é uma estratégia viável para monitoramento operacional de satélites.