A Temporal Deep Feature Transfer Hybrid of LSTM and Gradient Boosting Machine for Multi Granularity Smart Grid Electricity Demand Forecasting

Resumo Técnico: Uma Transferência de Características Profundas Temporais Híbrida de LSTM e Máquina de Boosting de Gradiente para Previsão de Demanda de Eletricidade de Grade Inteligente de Multigranularidade

Definição do Problema
A previsão precisa da demanda de eletricidade em várias granularidades temporais (diária e mensal) é crítica para a gestão eficiente de redes inteligentes (smart grids), influenciando o despacho de geração, a gestão de transmissão e a resposta à demanda. No entanto, os métodos existentes enfrentam desafios significativos ao prever grupos de consumidores heterogêneos (ex: agrícola, comercial, industrial, residencial, iluminação pública).

• Limitações Clássicas: Modelos estatísticos tradicionais como ARIMA, Suavização Exponencial Tripla (ETS) e Média Móvel Ponderada (WMA) dependem de pressupostos de linearidade e estacionaridade. Esses pressupostos são frequentemente violados em dados de redes inteligentes devido aos comportamentos não lineares dos consumidores, ciclos industriais e heterogeneidade de nível de categoria. O estudo observa que esses métodos geram altas taxas de erro, com valores de MAPE excedendo 340% a mais de 550% em certos cenários.
• Limitações de Aprendizado Profundo (Deep Learning): Embora as redes Long Short-Term Memory (LSTM) se destaquem na modelagem temporal, abordagens híbridas padrão frequentemente alimentam recursos brutos ou saídas escalares da última camada da LSTM diretamente em regressores subsequentes (como Máquinas de Boosting de Gradiente). Essa abordagem falha em utilizar plenamente a rica informação temporal codificada nas camadas intermediárias da LSTM, levando a uma precisão de regressão subótima.

Metodologia: A Arquitetura TDF-LSTGBM
O artigo propõe o TDF-LSTGBM, um novo pipeline de aprendizado supervisionado de dois estágios projetado para desacoplar a aprendizagem de representação temporal da regressão final. A inovação central é um mecanismo de Transferência de Características Profundas Temporais (TDF).

1. Estágio 1: Codificador Temporal LSTM Empilhado (Extração de Características)

   • Arquitetura: Um codificador LSTM empilhado consistindo de duas camadas, cada uma com 32 unidades ocultas e uma taxa de dropout de 0,3.
   • Treinamento: O modelo é pré-treinado usando o otimizador Adam (taxa de aprendizado 0,001) em dados de demanda normalizados com uma função de perda de Erro Quadrático Médio (MSE) por 300 épocas.
   • Extração TDF: Em vez de usar a saída escalar final, a arquitetura extrai o vetor de ativação da penúltima camada densa (um vetor de 32 dimensões, $\phi_i$). Este vetor encapsula os padrões temporais aprendidos, dependências sazonais e dinâmicas de demanda.
   • Construção de Sequência: Os dados são processados usando janelas deslizantes ($W=12$ para mensal, $W=7$ para diário) para criar pares de entrada-saída supervisionados.

2. Estágio 2: Regressor de Máquina de Boosting de Gradiente (GBM)

   • Aumento de Características: O vetor de características temporais de 32 dimensões ($\phi_i$) é concatenado com variáveis categóricas e temporais exógenas: Categoria de Consumidor (codificada como inteiros 0–4), Ano e Índice do Mês. Isso cria um vetor de entrada aumentado de 35 dimensões ($z_i$).
   • Regressão: Uma Máquina de Boosting de Gradiente (GBM) com 100 árvores de decisão rasas (profundidade máxima 3) e uma taxa de aprendizado de 0,1 realiza a regressão final. O GBM corrige resíduos e aproveita o espaço de características estruturadas para lidar com não linearidades que a LSTM sozinha poderia perder.

3. Geração de Dados e Validação

   • O estudo utiliza dois conjuntos de dados gerados via simulação MATLAB para representar a demanda realista de redes inteligentes para cinco categorias de consumidores.
   • Conjunto de Dados Diário: 2.040 registros por dia.
   • Conjunto de Dados Mensal: 1.066 registros por mês.
   • Os dados são divididos cronologicamente (80/20) para preservar a causalidade temporal.

Principais Contribuições

• Transferência de Camada Penúltima: A principal novidade é a extração da ativação da penúltima camada da LSTM como um vetor de características estruturadas para transferência a um GBM. Isso difere de híbridos anteriores que usam entradas brutas ou saídas escalares finais.
• Pipeline de Multigranularidade: O framework lida com sucesso com previsões diárias e mensais dentro de um único paradigma arquitetural sem exigir ajustes de modelo distintos para cada granularidade.
• Previsão Condicionada por Categoria: O modelo incorpora explicitamente rótulos de categoria de consumidor e índices temporais, abordando a heterogeneidade dos padrões de demanda entre diferentes setores (ex: agrícola vs. industrial).
• Projeção de Longo Prazo: A arquitetura suporta projeções estáveis de 5 anos (2026–2031) condicionadas à categoria, diretamente aplicáveis ao planejamento de infraestrutura.

Resultados
O modelo TDF-LSTGBM foi avaliado contra cinco bases de comparação: ARIMA, WMA, ETS, Vanilla LSTM e um híbrido padrão LSTM+XGBoost.

• Métricas de Desempenho:
  • MAPE: O modelo proposto alcançou um MAPE de 3,64% para previsão diária e 3,66% para mensal.
  • Comparação: Isso representa uma melhoria de 14,2× sobre a melhor base clássica (ARIMA, ~51,96% MAPE). Também superou a Vanilla LSTM (7,68% MAPE) por um fator de 2,1× e o LSTM+XGBoost padrão (6,12% MAPE) por 1,7×.
  • RMSE/MAE: O modelo alcançou um RMSE de 0,0873 e um MAE de 0,0283 em ambas as granularidades, demonstrando estabilidade de resolução cruzada.
• Análise Visual: Gráficos de previsão indicam que o modelo acompanha de perto a demanda real, incluindo eventos de pico, sem a acumulação progressiva de erro vista em outros modelos. A etapa de GBM efetivamente corrige subestimações de pico comuns em modelos puramente LSTM.
• Ablação: O estudo confirma que cada componente (a transferência da camada penúltima, os hiperparâmetros específicos do GBM e o aumento de características) contribui de forma única para a precisão final.

Significância e Alegações
O artigo afirma que o TDF-LSTGBM aborda lacunas críticas na previsão de redes inteligentes ao lidar sistematicamente com séries temporais de multigranularidade e desagregação por categoria de consumidor. Ao transferir características temporais profundas em vez de saídas escalares, o modelo alcança precisão superior em ambientes heterogêneos onde modelos lineares clássicos falham.

Os autores posicionam o modelo como uma ferramenta robusta para o planejamento de infraestrutura e programação de resposta à demanda, evidenciado por sua capacidade de gerar projeções de 5 anos estáveis sem deriva (drift). O estudo reconhece limitações, incluindo o uso de dados simulados, a ausência de variáveis meteorológicas no conjunto de características atual e o escopo limitado ao contexto de um único país. Trabalhos futuros são propostos para integrar variáveis climáticas, incorporar mecanismos de autoatenção (self-attention) e explorar arquiteturas de aprendizado federado para previsões preservadoras de privacidade.