Anomaly detection in time-series via inductive biases in the latent space of conditional normalizing flows

Este artigo propõe um método de detecção de anomalias em séries temporais multivariadas que, ao invés de depender da verossimilhança no espaço de observação, utiliza fluxos normalizadores condicionais com viés indutivo para restringir as representações latentes a dinâmicas temporais prescritas, permitindo identificar anomalias como violações dessas dinâmicas através de testes estatísticos de aderência.

O essencial

Imagine que você é um maestro de uma orquestra. O seu trabalho é garantir que todos os músicos toquem a melodia correta, no ritmo certo e com a intensidade adequada.

A maioria dos sistemas de inteligência artificial que tentam detectar "erros" (anomalias) em músicas (dados de séries temporais) funciona como um crítico de música muito exigente, mas um pouco confuso. Eles olham para a nota tocada e dizem: "Esta nota é muito comum na partitura, então deve estar tudo bem". O problema é que um músico pode tocar uma nota muito comum, mas no momento errado ou com o ritmo errado. O crítico tradicional não percebe isso e deixa o erro passar.

Este artigo, escrito por David Baumgartner e colegas, propõe uma nova maneira de fazer essa fiscalização. Em vez de apenas olhar para a nota isolada, eles criam um sistema que verifica se a sequência das notas segue uma "lei do movimento" específica.

Aqui está a explicação passo a passo, usando analogias do dia a dia:

1. O Problema: O "Mapa de Tráfego" Enganoso

Imagine que você tem um mapa de tráfego de uma cidade. A maioria dos carros segue rotas comuns (alta probabilidade).

• O jeito antigo: O sistema de segurança olha para um carro e diz: "Este carro está numa rua muito movimentada, então ele é normal".
• O problema: E se esse carro estiver dirigindo na contramão numa rua cheia? Ou se estiver fazendo curvas impossíveis? O mapa diz que a rua é comum, mas o comportamento do carro é louco. O sistema antigo falha porque ele só olha onde o carro está, e não como ele está se movendo.

2. A Solução: O "Treinamento de Dança"

Os autores propõem mudar o foco. Em vez de vigiar o carro na rua (o espaço de observação), eles mandam o carro para um "estúdio de dança" (o espaço latente).

• O Estúdio (Espaço Latente): Aqui, não importa a cor do carro ou a rua. O que importa é o passo da dança.
• A Regra (Viés Indutivo): Eles ensinam a IA que, para ser considerado "normal", a dança deve seguir um padrão específico e previsível. Por exemplo: "Se você deu um passo para a direita, o próximo passo deve ser para a esquerda, num ritmo constante". Isso é o que chamam de viés indutivo. É como dizer: "Nossa orquestra só toca música clássica; se alguém começar a fazer jazz, é um erro, mesmo que as notas sejam válidas".

3. A Ferramenta: O "Bailarino Condicional" (Fluxos Normalizadores)

Para fazer isso, eles usam uma técnica chamada Fluxos Normalizadores Condicionais.

• Pense nisso como um tradutor mágico. Ele pega a música complexa e barulhenta (os dados brutos) e a traduz para uma dança simples e organizada no estúdio.
• O tradutor é "condicional" porque ele olha para o que aconteceu nos segundos anteriores para decidir como traduzir o momento atual. Ele entende o contexto.

4. A Detecção: O "Teste de Conformidade"

Agora, como detectamos o erro?

• O Jeito Antigo: Contar quantas vezes uma nota aparece. Se aparece muito, é normal.
• O Jeito Novo (Teste de Adequação): O sistema pega a dança do novo músico e pergunta: "Ela segue a coreografia que definimos?".
  • Se a dança segue o padrão (mesmo que seja uma nota comum), é normal.
  • Se a dança quebra o padrão (ex: o bailarino pula quando deveria deslizar), é anômalo.

Isso é feito através de um teste estatístico (chamado teste de Kolmogorov-Smirnov multivariado). É como um juiz que mede exatamente o quanto a dança se desvia da coreografia perfeita. Se a dança for estranha demais, o juiz levanta a bandeira vermelha.

5. O Grande Truque: O "Termômetro de Treinamento"

Uma das partes mais inteligentes do artigo é como eles sabem se o sistema está funcionando antes mesmo de começar a vigiar.

• Eles usam o próprio sistema para se autoavaliar. Eles perguntam: "A dança dos músicos que treinamos segue a coreografia que prometemos?"
• Se a resposta for "Sim, todos seguem perfeitamente", o sistema está pronto e confiável.
• Se a resposta for "Não, os nossos próprios treinados estão dançando mal", o sistema avisa: "Ei, pare! O treinamento falhou, não confie em mim ainda". Isso evita que você use um detector de erros que está quebrado.

Resumo em uma frase

Em vez de apenas perguntar "Esta nota é comum?", o novo sistema pergunta: "Esta nota, neste momento, segue a coreografia de tempo que prometemos?".

Isso permite que a inteligência artificial detecte erros sutis (como um ritmo errado ou uma mudança de frequência) que os métodos antigos ignorariam, tudo isso sem precisar de alguém para dizer manualmente "isso é um erro" (aprendizado não supervisionado). É como ter um maestro que não apenas ouve a nota, mas sente o ritmo da orquestra inteira.

Resumo técnico

Resumo Técnico: Detecção de Anomalias em Séries Temporais via Vieses Indutivos no Espaço Latente

1. O Problema

A detecção de anomalias (AD) em séries temporais multivariadas é um desafio fundamental, com aplicações que vão desde a manutenção preditiva até a segurança de redes. A abordagem padrão utiliza Modelos Generativos Profundos (DGMs) treinados para maximizar a verossimilhança dos dados (likelihood).

No entanto, o artigo identifica uma limitação estrutural crítica:

• Falha da Verossimilhança Observacional: Maximizar a densidade marginal no espaço de observação não garante a conformidade com a dinâmica temporal estruturada. Modelos podem atribuir alta probabilidade a amostras anômalas ou "fora da distribuição" (OOD), desde que essas amostras se encaixem bem na densidade global dos dados.
• Dependência de Limiares Manuais: Métodos existentes frequentemente dependem de pontuações de erro de reconstrução ou densidade, que exigem a definição manual de limiares (thresholds) para tomar decisões binárias. Isso é custoso, frágil e difícil de justificar estatisticamente, especialmente quando as anomalias são raras e heterogêneas.
• Ausência de Viés Estrutural: O treinamento puramente baseado em verossimilhança não incorpora uma noção intrínseca de "comportamento esperado" dinâmico, permitindo que o modelo aprenda distribuições que não capturam a evolução temporal correta.

2. Metodologia Proposta

Os autores propõem um framework probabilístico de espaço de estados que desloca a detecção de anomalias do espaço de observação para um espaço latente semântico, onde são aplicados vieses indutivos explícitos.

O modelo baseia-se em Fluxos Normalizadores Condicionais (CNFs) combinados com uma dinâmica latente prescrita:

• Mapeamento Observação-Espaço Latente (CNF):

  • Utiliza um CNF para mapear a observação $x_t$ para uma representação latente $z_t$, condicionado a um histórico finito de observações anteriores ($W_t$).
  • A transformação é aprendida para maximizar a verossimilhança, mas com uma restrição crucial no espaço latente.

• Dinâmica Latente Prescrita (Viés Indutivo):

  • Em vez de permitir que a dinâmica latente seja livre, impõe-se uma lei dinâmica específica. O artigo utiliza um Modelo Dinâmico Latente Linear-Gaussiano (LG-LDM) como exemplo.
  • A média latente $\mu_t$ evolui deterministicamente: $\mu_t = A\mu_{t-1} + b$.
  • A incerteza latente é não correlacionada ($\Sigma_t = I$).
  • Isso força as trajetórias latentes a seguirem uma distribuição específica ao longo do tempo (ex: trajetórias gaussianas brancas).

• Treinamento:

  • O modelo é treinado minimizando a Negativa Log-Verossimilhança (NLL) conjunta dos parâmetros do CNF ($\theta$) e da dinâmica latente ($\phi$).
  • O objetivo é que, após o treinamento, as representações latentes dos dados "normais" (in-distribution) obedeçam estritamente à dinâmica prescrita.

• Detecção de Anomalias (Teste de Ajuste - Goodness-of-Fit):

  • A detecção não é baseada na pontuação de verossimilhança, mas em um teste estatístico de ajuste (GOF).
  • Durante a inferência, a sequência de entrada é mapeada para o espaço latente.
  • Aplica-se um Teste de Kolmogorov-Smirnov Multivariado (MV-KS) para verificar se a distribuição empírica das trajetórias latentes mapeadas corresponde à distribuição prescrita (ex: Gaussiana padrão).
  • Regra de Decisão: Se a estatística do teste ($s$) exceder um valor crítico ($\tau$), a sequência é classificada como anômala. Isso elimina a necessidade de limiares manuais, pois o valor crítico é derivado estatisticamente.

3. Principais Contribuições

1. Modelo de Espaço de Estados com Viés Indutivo: Um modelo generativo profundo que acopla CNFs com dinâmicas latentes explícitas (ex: Linear-Gaussiana), forçando as representações a evoluírem de forma coerente no tempo.
2. Detector de Anomalias Não Supervisionado e Sem Limiares: Um método baseado em testes de GOF (MV-KS) no espaço latente. É capaz de identificar anomalias mesmo em regiões de alta densidade de probabilidade no espaço de observação, onde métodos baseados em NLL falham.
3. Diagnóstico de Conformidade (Compliance Diagnostic): Uma ferramenta integrada para verificar se o treinamento foi bem-sucedido. Se as trajetórias latentes dos dados de treinamento não passarem no teste de GOF, o modelo não aprendeu o viés indutivo corretamente, sinalizando que o detector não está pronto para uso.
4. Validação Empírica: Demonstração de que a verossimilhança negativa (NLL) falha em detectar certas anomalias (como mudanças de amplitude em regiões de alta densidade), enquanto a abordagem proposta mantém alta precisão.

4. Resultados Experimentais

Os autores avaliaram o método em dados sintéticos e reais (TSB-AD):

• Dados Sintéticos:

  • O método detectou com sucesso anomalias de frequência, amplitude e ruído.
  • Comparação NLL vs. MV-KS: O NLL falhou em detectar anomalias de amplitude que ocorriam em regiões de alta densidade do modelo. O teste MV-KS detectou todas as anomalias, pois as trajetórias latentes violavam a dinâmica prescrita, mesmo que os pontos individuais parecessem "normais" estatisticamente.
  • Tamanho da Janela: Foi identificado que o tamanho da janela de tempo é crucial. Janelas muito pequenas ($w \le 20$) geram ruído estatístico, enquanto janelas muito grandes ($w \ge 200$) diluem as anomalias. O ponto ideal encontrado foi $w \approx 64$ (aproximadamente $O(D^3)$), resultando em um AUC-PR de 82.1 e VUS-PR de 96.0, superando a linha de base NLL.

• Dados Reais (TSB-AD):

  • O desempenho foi competitivo ou superior às linhas de base estabelecidas (como CNN, Autoencoders, TimesNet) em métricas de VUS-PR (Volume Under the Surface Precision-Recall).
  • Em conjuntos de dados onde a conformidade do treinamento foi alta (ex: 88% no NEK, 100% no Stock), o desempenho foi excelente.
  • O diagnóstico de conformidade mostrou-se eficaz: quando o modelo falhava em aprender a dinâmica prescrita (ex: MITDB), o desempenho caía, validando a utilidade do diagnóstico para evitar a implantação de modelos não confiáveis.

5. Significado e Conclusão

Este trabalho oferece uma mudança de paradigma na detecção de anomalias em séries temporais:

• Do "O que é provável" para "O que é estruturalmente correto": Em vez de confiar apenas na probabilidade marginal, o método foca na conformidade com uma dinâmica temporal esperada.
• Interpretabilidade: O espaço latente e os testes estatísticos fornecem diagnósticos claros sobre por que uma anomalia foi detectada (violação da dinâmica) e se o modelo foi treinado corretamente.
• Robustez: A abordagem resolve o problema clássico de modelos generativos que atribuem alta verossimilhança a dados OOD, desde que esses dados não sigam a evolução temporal prescrita.

O artigo conclui que a detecção de anomalias pode ser enquadrada como um teste estatístico de conformidade de representações aprendidas a um viés indutivo explícito, eliminando a necessidade de ajuste manual de limiares e fornecendo uma regra de decisão estatisticamente fundamentada.