Resumo Técnico: EVENTTSF – Previsão de Séries Temporais Não Estacionárias Consciente de Eventos

1. Definição do Problema

A previsão de séries temporais é crítica para setores como energia e transporte, mas enfrenta desafios persistentes devido à não estacionariedade e a deslocamentos de distribuição. Embora avanços recentes (por exemplo, normalização, decomposição de modelos) tenham abordado a não estacionariedade de modalidade única, eles frequentemente ignoram o fato de que os deslocamentos de distribuição estão frequentemente entrelaçados com eventos externos de outras modalidades, particularmente textos em linguagem natural (por exemplo, feriados, promoções, relatórios meteorológicos).

As abordagens existentes sofrem de duas limitações primárias:

1. Lacuna de Modalidade: A maioria dos métodos depende de dados de modalidade única ou utiliza contexto textual de granularidade grosseira, falhando em modelar interações de granularidade fina entre eventos externos discretos e séries temporais contínuas.
2. Ineficiência de Difusão: Modelos clássicos de previsão baseados em difusão geralmente amostram passos de tempo de difusão de uma distribuição uniforme fixa. Isso ignora a variabilidade não estacionária induzida por eventos, onde diferentes eventos causam deslocamentos distintos na magnitude e variância do sinal. Consequentemente, a amostragem uniforme leva a uma dificuldade de remoção de ruído desequilibrada entre os estágios de difusão, pois a Razão Sinal-Ruído (SNR) varia heterogeneamente dependendo do contexto do evento.

2. Metodologia: EVENTTSF

Os autores propõem o EVENTTSF, um framework de difusão autorregressivo projetado para integrar séries temporais históricas e eventos textuais via difusão passo a passo. A arquitetura aborda a sincronização de eventos discretos e séries contínuas, bem como o desequilíbrio na dificuldade de remoção de ruído.

2.1 Difusão Autorregressiva Multimodal

• Sincronização de Eventos: O modelo divide a série temporal contínua em segmentos não sobrepostos ($x_s$) e alinha cada um com um embedding de evento textual correspondente ($c_s$). Se nenhum evento ocorrer, é atribuído um evento NULL. Isso cria uma representação unificada $D = \{(x_s, c_s)\}$, preenchendo a lacuna entre processos pontuais temporais e séries contínuas.
• Geração Autorregressiva: O modelo trata a previsão como uma geração autorregressiva de segmentos de granularidade fina. Em cada passo $s$, ele condiciona-se a um estado latente $Z_{s-1}$ (resumindo o histórico), o segmento ruidoso atual $x^t_s$ e o embedding de evento alinhado $c_s$.
• Correspondência de Fluxo (Flow Matching): Em vez de difusão padrão, o modelo utiliza Correspondência de Fluxo para aprender um campo de velocidade $v_t$ que transforma uma distribuição a priori simples na distribuição de dados alvo. O removedor de ruído $M_\theta$ é treinado para prever este campo de velocidade, atualizando o estado latente $Z_s$ de forma autorregressiva.

2.2 Amostragem de Passos de Tempo Consciente de Eventos

Para mitigar a dificuldade de remoção de ruído desequilibrada causada pela amostragem uniforme de passos de tempo, o EVENTTSF introduz um passo de tempo de correspondência de fluxo consciente de eventos.

• Problema: A amostragem uniforme ($t \sim U(0,1)$) falha em levar em conta o fato de que diferentes eventos induzem diferentes SNRs, levando a dificuldades de remoção de ruído heterogêneas.
• Solução: O modelo reparametriza um passo de tempo uniforme base $\hat{t}$ em um passo de tempo adaptativo ao evento $t$ usando uma função de mapeamento aprendível $\phi$:
  $$t = \phi(\hat{t}, c) = F^{-1}_{\text{Beta}(\alpha(c), \beta(c))}(\hat{t})$$
• Mecanismo: Duas redes lineares leves preveem os parâmetros $\alpha(c)$ e $\beta(c)$ de uma distribuição Beta condicionada ao embedding de evento $c$. Isso garante que a dificuldade efetiva de remoção de ruído seja alocada de forma mais uniforme entre os estágios de difusão para tipos específicos de eventos, adaptando o cronograma de amostragem à semântica do evento.

2.3 Detalhes da Arquitetura

O removedor de ruído central é um Transformador de Difusão em Forma de U Multimodal (M-U-DiT). Ele emprega subamostragem e superamostragem com conexões de salto para alinhar semânticas de eventos com padrões temporais de múltiplas resoluções. Ele integra estados históricos, entradas ruidosas e condições de evento via mecanismos de atenção cruzada.

3. Contribuições Principais

1. Reformulação de Paradigma: O artigo formula a previsão não estacionária consciente de eventos como um paradigma multimodal, incorporando explicitamente informações de eventos externos para abordar deslocamentos de distribuição que modelos de modalidade única ignoram.
2. Inovação Metodológica:
   • Alinhamento de Granularidade Fina: Introduz um mecanismo de sincronização para alinhar segmentos de eventos discretos com janelas de séries temporais contínuas.
   • Passo de Tempo Consciente de Eventos: Propõe uma estratégia de reparametrização inovadora que aprende cronogramas de difusão condicionados a eventos para equilibrar a dificuldade de remoção de ruído, indo além da amostragem uniforme estática.
3. Desempenho Superior: Extensos experimentos demonstram que o EVENTTSF supera 12 baselines (incluindo modelos não estacionários e baseados em difusão) em 7 conjuntos de dados.

4. Resultados Experimentais

O modelo foi avaliado em 7 conjuntos de dados (1 sintético, 6 do mundo real cobrindo tráfego, clima e física atmosférica) contra 12 baselines (por exemplo, CSDI, TimeDiff, TMDM, NsDiff, Autoformer, DLinear).

• Previsão Probabilística: O EVENTTSF alcançou uma melhoria média de 41,3% na Pontuação de Probabilidade Ranqueada Contínua (CRPS) e na Perda de Quantil Ponderada (WQL) em todos os conjuntos de dados.
• Previsão Determinística: O modelo melhorou o Erro Absoluto Médio (MAE) em uma média de 27,5%.
• Estudos de Ablação:
  • A remoção de eventos textuais degradou significativamente o desempenho (por exemplo, a WQL aumentou 10,71% no conjunto de dados Temperatura–Nova York).
  • Substituir a amostragem uniforme de passos de tempo pelo mecanismo consciente de eventos reduziu consistentemente os erros (por exemplo, CRPS reduzido em 9,21%).
• Eficiência: O EVENTTSF demonstrou tempos de treinamento mais rápidos (1,13× mais rápido que a segunda melhor baseline em dados sintéticos) e crescimento sublinear no tempo de treinamento em relação aos horizontes de previsão, atribuído à sua abordagem de geração por segmentos.
• Aumento de Baselines: Mesmo quando as baselines foram aumentadas com embeddings de eventos (via atenção cruzada ou condicionamento residual), elas permaneceram substancialmente inferiores ao EVENTTSF, indicando que a injeção simples de eventos é insuficiente sem os mecanismos específicos de difusão autorregressiva e passos de tempo.

5. Significado e Alegações

O artigo afirma ser pioneiro na integração de conhecimento multimodal externo especificamente para previsão de séries temporais não estacionárias. Seu significado reside em:

• Abordando a Lacuna de Modalidade: Fornece um framework unificado para modelar a interação entre eventos textuais discretos e séries temporais contínuas, capturando dependências em cascata e com atraso que modelos de contexto global ignoram.
• Resolvendo o Desequilíbrio de Difusão: Identifica e resolve a questão da heterogeneidade induzida por eventos na dificuldade de remoção de ruído, propondo um cronograma de amostragem aprendível e condicionado a eventos que estabiliza o treinamento e melhora a qualidade da geração.
• Aplicabilidade Prática: O framework é projetado para cenários onde eventos futuros (por exemplo, promoções planejadas, feriados) são conhecidos com antecedência, permitindo que o modelo antecipe deslocamentos de distribuição que não podem ser inferidos apenas a partir de observações históricas.

Os autores concluem que o EVENTTSF estabelece um paradigma flexível para incorporar semânticas de eventos heterogêneas na modelagem temporal, abrindo novas direções para a análise de dinâmicas não estacionárias cruzadas entre modalidades.