Online Irregular Multivariate Time Series Forecasting via Uncertainty-Driven Dual-Expert Calibration

Resumo Técnico: Previsão Online de Séries Temporais Multivariadas Irregulares via Calibração Dual de Especialistas Acionada por Incerteza

Definição do Problema
O artigo aborda o desafio da Previsão Online de Séries Temporais Multivariadas Irregulares (IMTS). Embora avanços significativos tenham sido feitos na previsão offline de IMTS usando modelos de tempo contínuo e mecanismos de atenção, esses métodos geralmente congelam os parâmetros após o treinamento, tornando-os incapazes de se adaptar a distribuições de dados em evolução. Em cenários do mundo real (por exemplo, saúde, clima, finanças), as distribuições de dados mudam devido a alterações em sujeitos, dispositivos ou ambientes. Técnicas existentes de aprendizado online para séries temporais dependem largamente de continuidade temporal densa e periodicidade, pressupostos que se quebram em IMTS, onde a amostragem é irregular, os intervalos de observação são variáveis e os padrões de ausência são não estacionários e informativos. Consequentemente, a aplicação direta de métodos existentes de adaptação online a IMTS leva à degradação do desempenho. Os autores definem formalmente o problema da previsão online de IMTS, que exige que os modelos gerem previsões sequenciais, adaptem-se a mudanças de distribuição e lidem simultaneamente com amostragem irregular e ausência dinâmica.

Metodologia: Under-Cali
Os autores propõem o Under-Cali, um quadro de calibração dual de especialistas acionado por incerteza, projetado para adaptação online eficiente e estável sem modificar o modelo de previsão de origem. O quadro consiste em três componentes principais:

1. Estimador de Incerteza (UE):

   • Em vez de depender da continuidade temporal, o UE quantifica a incerteza da previsão como um proxy para mudança de distribuição.
   • É definido operacionalmente como o erro de previsão normalizado (Erro Quadrático Médio) sob a distribuição de dados atual, em vez de uma estimativa de confiança bayesiana.
   • O UE é uma rede neural ($g_\phi$) treinada offline para mapear séries temporais de entrada e previsões para uma pontuação de incerteza ($\hat{u} \in [0,1]$). Durante a adaptação online, ele utiliza previsões calibradas do "especialista confiável" para calcular pontuações, garantindo estabilidade.

2. Calibrador de Distribuição Dual de Especialistas com Portão (GDC):

   • Para prevenir adaptação instável, o GDC emprega dois especialistas isolados com parâmetros separados: um Especialista Confiável ($e_{\psi r}$) e um Especialista Não Confiável ($e_{\psi ur}$).
   • Especialista Confiável: Lida com amostras de baixa incerteza (padrões familiares) com ajustes de alta granularidade.
   • Especialista Não Confiável: Lida com amostras de alta incerteza (anomalias ou mudanças significativas) com adaptação cautelosa para evitar sobreajuste ou corromper padrões estáveis.
   • Ambos os especialistas utilizam um modelo de calibração temporal com portão, variável por variável, consistindo em um calibrador de entrada e um calibrador de saída. Eles são inicializados para aproximar mapeamentos identidade (pesos inicializados em zero) para preservar o conhecimento original do previsor de origem até que ocorram mudanças.

3. Módulo de Roteamento Adaptativo (ARM):

   • O ARM governa a alocação de amostras e o acionamento da adaptação usando dois limiares dinâmicos derivados de Médias Móveis Exponenciais (EMA) de estatísticas de incerteza:
     • Limiar de Alocação ($\tau_{alloc}$): Roteia amostras para o especialista confiável ou não confiável com base em sua pontuação de incerteza estimada.
     • Limiar de Acionamento ($\tau_{trig}$): Determina se um passo de adaptação é necessário para o lote atual. A adaptação é acionada apenas se a incerteza média do lote exceder esse limiar, permitindo atualizações esparsas.
   • Processo de Adaptação Online:
     • Inferência: As amostras são inicialmente processadas pelo especialista confiável. Pontuações de incerteza são calculadas. Amostras de alta incerteza são roteadas para o especialista não confiável para calibração secundária.
     • Adaptação: Se acionado, o especialista confiável e o UE são atualizados usando amostras de baixa incerteza (confiáveis), enquanto o especialista não confiável é atualizado usando amostras de alta incerteza (desafiadoras). Essa separação previne interferência catastrófica.

Principais Contribuições

• Definição do Problema: O artigo é o primeiro a definir formalmente o problema da Previsão Online de Séries Temporais Multivariadas Irregulares, distinguindo-o de configurações existentes de séries temporais regulares ao destacar os desafios da amostragem irregular e da ausência dinâmica.
• Design do Quadro: Introdução do Under-Cali, um quadro agnóstico ao modelo que permite adaptação online principial. Apresenta um calibrador com portão de especialistas duplos que realiza calibração diferenciada com base na incerteza da amostra.
• Mecanismo Adaptativo: Desenvolvimento de um Módulo de Roteamento Adaptativo que aciona autonomamente atualizações e aloca amostras para especialistas distintos, garantindo previsão online estável sem modificar o modelo de origem.
• Eficiência: O quadro atualiza apenas uma pequena fração de parâmetros (os módulos de calibração e o UE), mantendo o previsor de origem congelado, o que garante eficiência de recursos.

Resultados Experimentais
Os autores avaliaram o Under-Cali em quatro benchmarks de IMTS (MIMIC, PhysioNet, Human Activity, USHCN) através de 21 previsores de origem diferentes (incluindo métodos SOTA como tPatchGNN, HyperIMTS, mTAN e Transformers).

• Desempenho: O Under-Cali melhorou consistentemente o desempenho de previsão (medido por MSE) em todas as arquiteturas e conjuntos de dados. Melhorias notáveis incluíram uma redução de 8,41% no MSE para o tPatchGNN e uma redução de 21,84% para o Warpformer no conjunto de dados Human Activity.
• Robustez: O método demonstrou estabilidade superior na previsão de longo horizonte e em comprimentos de retrovisão variados em comparação com baselines não adaptativas.
• Comparação: O Under-Cali superou métodos existentes de aprendizado online e Adaptação no Tempo de Teste (TTA) (por exemplo, OneNet, FSNet, D3A, TAFAS). Notavelmente, métodos projetados para séries temporais regulares (como D3A e TAFAS) frequentemente degradaram o desempenho em IMTS, enquanto o Under-Cali manteve ou melhorou a precisão.
• Eficiência: O quadro introduziu apenas aumentos marginais no footprint de memória da GPU e manteve a latência de inferência dentro de faixas aceitáveis (0,1–0,4s por lote), validando sua praticidade para implantação.
• Ablação: Experimentos confirmaram que todos os componentes (UE, GDC Dual de Especialistas e ARM) são necessários; remover qualquer componente ou usar roteamento/acionamento aleatório levou a desempenho subótimo.

Significância
O artigo afirma que o Under-Cali fornece uma solução robusta e agnóstica ao modelo para a lacuna crítica na previsão online de IMTS. Ao aproveitar a incerteza como um sinal de controle e isolar caminhos de calibração para amostras confiáveis e não confiáveis, o quadro alcança adaptação estável em ambientes dinâmicos onde pressupostos temporais tradicionais falham. Ele permite que modelos existentes de IMTS offline assimilem continuamente novas distribuições de dados sem o custo computacional de retreinamento completo ou a instabilidade do ajuste fino direto. O trabalho estabelece um novo padrão para lidar com mudanças de distribuição em aplicações de séries temporais irregulares.