Resumo Técnico: Rumo a uma Adaptação no Tempo de Teste Baseada em Princípios para Previsão de Séries Temporais

Declaração do Problema

Modelos de previsão de séries temporais (TSF) frequentemente enfrentam dificuldades com deslocamentos de distribuição causados pela natureza não estacionária dos dados temporais, particularmente em cenários de longo horizonte. Embora a Adaptação no Tempo de Teste (TTA) tenha surgido como uma solução promissora para adaptar previsores "fontes" pré-treinados a novas distribuições de dados sem retreinamento do zero, os métodos existentes de TSF-TTA sofrem com protocolos de adaptação heterogêneos e pouco claros.

Especificamente, as abordagens atuais diferem significativamente na forma como utilizam "alvos revelados" (dados de verdade fundamental que se tornam disponíveis sequencialmente após uma previsão ser feita). Alguns métodos empregam Supervisão Mista, combinando verdade fundamental parcialmente observada (POGT) do mini-lote atual com verdade fundamental "madura" totalmente observada de lotes anteriores. Outros, como o COSA, utilizam um protocolo de Adaptação em Streaming, onde o adaptador é atualizado usando alvos revelados do lote atual. Os autores argumentam que esses protocolos carecem de uma formulação unificada e baseada em princípios. Na supervisão mista, o uso de POGT cria ambiguidade: valores revelados usados para supervisão estão simultaneamente disponíveis como contexto de entrada para amostras subsequentes no mesmo lote, levantando questões sobre se eles servem como um sinal de supervisão melhor ou meramente como contexto adicional. Na adaptação em streaming, os alvos usados para atualizar o lote atual podem não estar "maduros" em relação a futuros intervalos de previsão, introduzindo potencialmente vazamento de avaliação ou configurações irreais.

Metodologia

1. Um Protocolo de Adaptação Mais Limpo

Os autores propõem um protocolo Apenas Verdade Fundamental Madura para abordar a ambiguidade nos sinais de supervisão existentes.

• Definição de Maturidade: Um mini-lote é considerado "maduro" apenas quando todo o horizonte de alvo para cada amostra dentro desse lote foi completamente observado.
• Mecanismo do Protocolo: A adaptação é acionada exclusivamente usando verdade fundamental de mini-lotes previamente maduros. O mini-lote atual serve apenas para previsão e avaliação; ele não fornece sinal de supervisão para atualizar o adaptador.
• Racional: Isso elimina a confusão entre o uso de valores revelados como supervisão versus contexto de entrada. Garante que o sinal de adaptação seja temporalmente distinto dos dados sendo previstos, fornecendo um ambiente "mais limpo" e mais baseado em princípios para previsão rolante.

2. Diagnóstico no Domínio da Frequência

Os autores diagnosticam adaptadores existentes de TSF-TTA (por exemplo, TAFAS, PETSA) analisando suas correções de previsão no domínio da frequência.

• Observação: Apesar de diferentes designs arquitetônicos, adaptadores existentes frequentemente produzem correções que são relativamente suaves e exibem padrões espectrais fracamente estruturados. Mesmo métodos que incorporam perdas no domínio da frequência (como o PETSA) não parametrizam explicitamente a estrutura de correção no domínio da frequência, resultando em seletividade limitada.

3. Calibração Consciente de Frequência (FAC)

Motivados pelo diagnóstico, os autores propõem a Calibração Consciente de Frequência (FAC), um adaptador leve projetado para operar diretamente no domínio da frequência.

• Arquitetura: A FAC consiste em um FreqGCM de Entrada e um FreqGCM de Saída posicionados antes e depois do previsor fonte congelado, respectivamente.
• Mecanismo:
  1. Transformação: O sinal é transformado para o domínio da frequência usando a Transformada Rápida de Fourier (FFT).
  2. Parametrização: Uma máscara afim complexa aprendível ($W \odot X + B$) é aplicada elemento a elemento aos componentes de frequência. Isso permite o redimensionamento e deslocamento de fase independentes de coeficientes de Fourier individuais, bem como a correção de componentes próximos de zero por meio de deslocamentos aditivos.
  3. Portão (Gating): A correção é mapeada de volta para o domínio do tempo via FFT inversa (iFFT) e modulada por um portão tangente hiperbólica aprendível ($\tanh$) para controlar a magnitude do ajuste.
  4. Conexão Residual: A correção é adicionada ao sinal original, preservando a previsão original quando a correção aprendida é pequena.
• Treinamento: O adaptador é atualizado usando a perda de Erro Quadrático Médio (MSE) entre as previsões recalibradas e a verdade fundamental madura do mini-lote maduro mais recente.

Contribuições Principais

1. Reavaliação do Protocolo: O artigo revisita os protocolos de TSF-TTA, demonstrando que a supervisão mista (POGT + verdade fundamental madura) e a adaptação em streaming carecem de uma definição unificada e baseada em princípios. Defende um protocolo mais limpo que dependa exclusivamente da verdade fundamental madura.
2. Diagnóstico no Domínio da Frequência: Os autores fornecem uma análise mostrando que adaptadores existentes frequentemente falham em produzir modificações espectrais estruturadas e seletivas, sugerindo uma lacuna na forma como a informação de frequência é utilizada para correção.
3. Proposta de FAC: A introdução da Calibração Consciente de Frequência, um adaptador leve que parametriza explicitamente correções de previsão no domínio da frequência.
4. Validação Empírica: Experimentos extensivos em seis conjuntos de dados, cinco previsores fontes e múltiplos horizontes demonstram que a FAC alcança desempenho competitivo enquanto requer significativamente menos parâmetros treináveis do que adaptadores do estado da arte.

Resultados Experimentais

• Desempenho: Através de conjuntos de dados diversos (ETTh1/2, ETTm1/2, Weather, Exchange) e previsores fontes (iTransformer, PatchTST, DLinear, OLS, FreTS), a FAC consistentemente alcança o melhor ou segundo melhor Erro Quadrático Médio (MSE) sob o protocolo apenas maduro proposto. Ela supera o TAFAS e o PETSA na maioria das configurações.
• Eficiência de Parâmetros: A FAC é significativamente mais eficiente em termos de parâmetros.
  • Escalonamento: Enquanto o TAFAS escala quadraticamente com o comprimento da sequência ($O(C(L^2 + H^2))$) e o PETSA escala linearmente com a classificação ($O(Cr(L+H))$), a FAC escala linearmente com $C$, $L$ e $H$ ($O(C(L+H))$) sem um fator de classificação.
  • Contagens: A FAC requer ordens de magnitude menos parâmetros treináveis (por exemplo, ~2.758 parâmetros vs. ~130.000 para o TAFAS em ETTh1 com $H=96$).
• Análise de Frequência: Visualizações dos espectros de correção mostram que a FAC produz picos localizados no domínio da frequência, indicando adaptação seletiva a componentes de frequência específicos, enquanto TAFAS e PETSA produzem correções mais suaves e menos estruturadas.

Significado e Alegações

O artigo afirma que o protocolo proposto Apenas Verdade Fundamental Madura oferece uma base mais baseada em princípios para TSF-TTA ao remover a ambiguidade do uso de dados parcialmente observados para supervisão. Ao deslocar o foco para o domínio da frequência, os autores demonstram que a Calibração Consciente de Frequência (FAC) pode alcançar precisão de previsão competitiva com uma pegada de parâmetros drasticamente reduzida.

Os autores notam modestamente que, embora a FAC seja eficiente em parâmetros, a implementação atual (baseada em operações FFT/iFFT) pode introduzir sobrecarga de tempo de execução em comparação com métodos no domínio temporal em algumas configurações. Eles sugerem que trabalhos futuros poderiam explorar implementações de supervisão madura mais flexíveis (por exemplo, usando múltiplos lotes maduros ou representações em cache) para melhorar a adaptação proativa e a eficiência de tempo de execução sem comprometer a limpeza do protocolo.