Indian Peak Power demand Forecasting : Transformer Based Implementation of Temporal Architecture

Titolo: Previsione della domanda di picco di energia in India: Implementazione basata su Transformer di un'architettura temporale

1. Il Problema

La previsione a lungo termine della domanda di energia elettrica, in particolare del picco di domanda, è un tema di ricerca cruciale per la pianificazione economica e strategica, specialmente in paesi in via di sviluppo come l'India, dove la domanda cresce rapidamente con elevate variazioni.
Le sfide principali includono:

• L'elevata complessità e imprevedibilità delle variabili future (crescita demografica, sviluppo tecnologico, condizioni atmosferiche, festività, differenze tra giorni feriali e festivi).
• La maggior parte delle tecniche esistenti si concentra sulla previsione a breve termine, poiché la previsione a lungo termine è significativamente più difficile a causa dell'incertezza intrinseca.
• La necessità di bilanciare accuratezza predittiva, costi computazionali e tempi di elaborazione, gestendo al contempo valori anomali (outlier) estremi e variazioni nei dati storici.

2. Metodologia

Gli autori hanno proposto un approccio basato sul Temporal Fusion Transformer (TFT) per la previsione a lungo termine della domanda di picco in India. Lo studio ha confrontato questo modello con altre tecniche di machine learning e deep learning.

• Dataset: Sono stati utilizzati i dati della domanda di picco serale del settore energetico indiano dal gennaio 2014 alla fine del 2019 (2191 punti dati giornalieri). I dati sono stati normalizzati tra 0 e 1.

• Modelli Confrontati:

  1. Temporal Fusion Transformer (TFT): Il modello proposto. Utilizza un'architettura complessa che integra metadati statici, input passati e futuri. I suoi componenti chiave includono:
     • Meccanismi di gating: Per ridurre i costi computazionali saltando componenti non necessari.
     • Reti di selezione delle variabili: Per identificare le feature più pertinenti per ogni passo temporale.
     • Encoder di covariate statiche: Per integrare informazioni fisse nel contesto temporale.
     • Elaborazione temporale: Combina LSTM per le relazioni a breve termine e Multi-Head Attention per catturare le dipendenze a lungo termine.
     • Intervalli di previsione: Utilizza stime quantili per definire i range di probabilità.
  2. Temporal Convolutional Network (TCN): Basato su convoluzioni causali e dilatate per prevenire la "fuga" di informazioni temporali.
  3. Stacked LSTM: Reti ricorrenti a memoria a lungo termine impilate per gestire le dipendenze sequenziali.
  4. Naïve Forecasting (Stagionale + Deriva): Metodi di baseline che prevedono valori passati o una linea di tendenza semplice.

• Configurazione Sperimentale:

  • Framework: TensorFlow, Keras e API Darts.
  • Hardware: CPU AMD Ryzen 5 3600, GPU Nvidia 1660ti, 16GB RAM.
  • Parametri: Lunghezza dell'input (lookback) di 30 giorni, orizzonte di previsione (forecast horizon) di 36 giorni per il TFT. Loss function: Errore quadratico medio (MSE).
  • Metrica di valutazione: MAPE (Mean Absolute Percentage Error).

3. Contributi Chiave

• Applicazione del TFT al settore energetico indiano: Questo lavoro è tra i primi a implementare specificamente il Temporal Fusion Transformer per la previsione a lungo termine della domanda di picco in India, un contesto caratterizzato da alta volatilità.
• Gestione delle variabili complesse: Il modello TFT dimostra una capacità superiore nell'incorporare sia covariate statiche che dinamiche (future), permettendo una modellazione più accurata delle variazioni della domanda rispetto ai modelli tradizionali.
• Analisi comparativa rigorosa: Il paper fornisce un confronto diretto tra architetture Transformer, CNN temporali, LSTM e metodi statistici semplici, evidenziando i compromessi tra complessità e accuratezza.

4. Risultati

L'analisi delle prestazioni basata sul MAPE ha rivelato le seguenti gerarchie:

1. Temporal Fusion Transformer (TFT): Ha ottenuto il miglior risultato con un MAPE del 4,15%. Ha dimostrato la maggiore accuratezza nel modellare la varianza della domanda di energia.
2. Stacked LSTM: Secondo miglior modello con un MAPE del 4,71%.
3. Naïve Forecasting: Ha ottenuto un MAPE del 5,06%, dimostrando che, sebbene semplice, è un baseline solido ma inferiore ai modelli avanzati.
4. Temporal Convolutional Network (TCN): Ha mostrato le prestazioni peggiori con un MAPE del 7,94%, suggerendo che in questo specifico contesto e configurazione, le convoluzioni temporali hanno faticato a catturare le dipendenze a lungo termine quanto i Transformer o le LSTM.

Le figure del paper (non visibili nel testo ma descritte) confermano visivamente come il TFT segua più fedelmente l'andamento reale della domanda rispetto agli altri modelli.

5. Significato e Conclusioni

Lo studio conclude che i modelli basati su Transformer, e in particolare il TFT, possiedono un potenziale intrinseco superiore per le previsioni di serie temporali complesse come la domanda di energia elettrica.

• Impatto Pratico: L'adozione di tali modelli può migliorare significativamente le strategie di sviluppo dell'offerta di energia e la pianificazione degli investimenti nelle infrastrutture di trasmissione in India.
• Direzioni Future: Gli autori suggeriscono che il lavoro può essere ulteriormente migliorato tramite un'ottimizzazione fine (fine-tuning) dell'architettura TFT e l'utilizzo di dataset di qualità superiore che includano più variabili esplicative per catturare meglio le dipendenze regionali e nazionali.

In sintesi, il paper valida l'efficacia delle architetture Transformer moderne nel superare i limiti dei metodi statistici e delle reti ricorrenti tradizionali per la previsione energetica a lungo termine.