A new recurrent neural network for forecasting seasonal time series

Resumo Técnico: Uma Nova Rede Neural Recorrente para Previsão de Séries Temporais Sazonais

Definição do Problema
A previsão de séries temporais sazonais requer modelos especializados capazes de lidar com estruturas periódicas. Embora métodos estatísticos como SARIMA e suavização exponencial (ETS) sejam os padrões tradicionais, e as Redes Neurais Artificiais (RNAs) ofereçam capacidades de modelagem não linear, as abordagens de RNAs existentes frequentemente dependem de técnicas de decomposição externas ou simplesmente incluem variáveis defasadas como entradas para capturar a sazonalidade. Os autores observam que as RNAs padrão não utilizam inerentemente a lógica da suavização exponencial, onde o feedback sobre as previsões do modelo pode aumentar o desempenho. Além disso, o aprendizado tradicional baseado em gradiente nas RNAs é suscetível a ficar preso em ótimos locais, e as métricas de erro padrão (como MSE) tratam todos os erros históricos de forma igual, potencialmente negligenciando a importância crítica das observações recentes na previsão.

Metodologia
O artigo propõe uma nova Rede Neural Artificial Recorrente (RNN) especificamente projetada para modelar dinâmicas sazonais sem decomposição prévia de dados. A arquitetura e o processo de aprendizado são definidos como segue:

• Arquitetura da Rede: A rede proposta consiste em dois caminhos operacionais distintos sintetizados por um parâmetro de combinação ($\beta$):

  1. Topologia de Neurônio Convolucional: Este componente processa $p$ observações defasadas ($x_{t-j}$) usando pesos e vieses, integrados com uma função de ativação logística para introduzir não linearidade.
  2. Suavização Recorrente Sazonal: Este componente mimetiza a lógica de suavização exponencial. Ele recebe entradas atuais e sazonais defasadas ($x_{t-1}$ e $x_{t-s}$) e incorpora o feedback de saídas históricas da rede ($\hat{x}_{t-1}$ e $\hat{x}_{t-s}$). Este caminho utiliza coeficientes de suavização ($\alpha_1, \alpha_2$) e um fator de peso ($\alpha_3$) para modelar os componentes de nível e sazonalidade.
     O resultado final é uma soma ponderada desses dois caminhos.

• Algoritmo de Aprendizado (PSO): Para evitar armadiliosas de ótimos locais comuns em métodos baseados em gradiente, os parâmetros da rede (pesos, vieses, coeficientes de suavização e fatores de combinação) são otimizados usando Otimização por Enxame de Partículas (PSO).

  • Função Objetivo: Uma nova função objetivo, Erro Quadrático Médio Ponderado (WMSE), é introduzida. Diferente do MSE padrão, o WMSE atribui pesos exponencialmente maiores às observações recentes, priorizando a precisão dos pontos de dados mais recentes.
  • Estratégias de Treinamento: O processo de treinamento emprega um mecanismo de parada antecipada (early stopping) para evitar o sobreajuste (overfitting) e uma estratégia de reinicialização dinâmica para reinicializar o enxame caso a otimização estagne, garantindo a busca por um ótimo global.

• Configuração Experimental: O modelo foi avaliado em seis conjuntos de dados diversificados de séries temporais sazonais:

  1. Passageiros de companhias aéreas internacionais logarítmicos (Mensal, $s=12$).
  2. Consumo de cerveja australiana (Trimestral, $s=4$).
  3. Poluição do ar de Ancara ($SO_2$) (Mensal, $s=12$).
  4. Consumo de eletricidade da Turquia (Mensal, $s=12$).
  5. Pressão atmosféica da cidade de Giresun (Mensal, $s=12$).
  6. Temperatura da cidade de Giresun (Mensal, $s=12$).

  O desempenho foi comparado com LSTM, Pi-Sigma Artificial Neural Network (PS-ANN) e Simple Recurrent Neural Network (SRNN). Cada modelo passou por ajuste de hiperparâmetros via um conjunto de validação, e o desempenho final foi avaliado em um conjunto de teste ao longo de 30 execuções independentes para garantir confiabilidade estatística.

Principais Resultados
Em todos os seis conjuntos de dados, a rede proposta demonstrou desempenho de previsão superior em comparação aos modelos de referência:

• Acurácia: O método proposto alcançou consistentemente o menor Erro Quadrático Médio Raiz (RMSE) nos conjuntos de teste. Por exemplo, no conjunto de dados de passageiros aéreos, alcançou um RMSE médio de 0,089 comparado a 0,271 para LSTM e 0,317 para SRNN.
• Estabilidade: A rede proposta exibiu desvios padrão significativamente menores nas métricas de erro ao longo das 30 execuções, indicando maior robustez contra inicializações aleatórias em comparação ao desempenho volátil de SRNN e PS-ANN.
• Significância Estatística: Testes de postos sinalizados de Wilcoxon não paramétricos foram realizados para comparar as distribuições dos erros. Os resultados produziram valores-$p$ bem abaixo do limiar de $10^{-3}$ para todas as comparações, confirmando que as melhorias de desempenho da rede proposta sobre os modelos de referência são estatisticamente significativas e não decorrentes do acaso.

Significância e Alegações
Os autores alegam que este estudo preenche a lacuna entre as filosofias clássicas de suavização exponencial e o aprendizado profundo moderno. Ao integrar a lógica de suavização sazonal e loops de feedback dinâmicos diretamente na arquitetura da rede neural, o modelo captura dinâmicas não lineares complexas e dependências sazonais sem exigir decomposição prévia.

A significância do trabalho reside na:

1. Inovação Arquitetônica: Criação de uma estrutura recorrente que respeita inerentemente os períodos sazonais através de mecanismos de feedback semelhantes à suavização exponencial.
2. Avanço na Otimização: O uso de PSO com uma função objetivo WMSE personalizada e estratégias de reinicialização aborda efetivamente os desafios de ótimos locais e a necessidade de priorizar tendências de dados recentes.
3. Validação Empírica: A superação consistente em conjuntos de dados econômicos, ambientais e de utilidades sugere que o modelo é uma alternativa robusta e matematicamente sólida para problemas complexos de previsão sazonal.

O artigo conclui que a rede proposta oferece uma solução altamente estável e precisa para séries temporais sazonais, com trabalhos futuros que podem explorar extensões para períodos sazonais múltiplos e aninhados.