Distributed solar generation forecasting using attention-based deep neural networks for cloud movement prediction

Technische Samenvatting: Voorspelling van Gedistribeerde Zonne-energiegeneratie met Gebruik van Attention-gebaseerde Diepe Neurale Netwerken

Probleemstelling
De toenemende adoptie van gedistribueerde fotovoltaïsche (PV) systemen introduceert aanzienlijke variabiliteit in elektriciteitsnetten, met name over korte tijdsintervallen (seconden tot minuten). Deze variabiliteit wordt primair gedreven door wolkenbeweging. Hoewel deep learning de vooruitgang in wolkenvoorspelling heeft bevorderd, blijft de specifieke impact van attention-mechanismen op de voorspelling van wolkenbeweging — en hoe deze verbeteringen doorwerken naar de nauwkeurigheid van downstream zonne-energievoorspellingen — onderbelicht. Bestaande literatuur past attention vaak toe op tijdreeksgegevens van vermogen in plaats van op wolkenbeelden, of faalt in het systematisch isoleren van de voordelen van verbeterde wolkenvoorspellingen van architecturale verschillen in de fase van zonne-energievoorspelling. Bovendien is het onduidelijk onder welke specifieke wolkencondities (bijv. hoogte) attention-gebaseerde methoden de meest significante winst opleveren.

Methodologie
De studie stelt een tweefasige pijplijn voor om de relatie tussen de nauwkeurigheid van wolkenvoorspelling en zonne-energievoorspelling te onderzoeken:

1. Wolkenbewegingsvoorspelling (Fase 1):

   • Data: Infrarood satellietbeelden (Himawari-8, Band 13) die 50 dak PV-locaties in Perth, Australië, beslaan. De beelden zijn 60x60 pixels en leggen wolkenbedekking en hoogte vast (afgeleid van temperatuur/pixelwaarden).
   • Baseline: Een standaard ConvLSTM (Convolutional Long Short-Term Memory) netwerk, dat CNN's combineert voor ruimtelijke extractie van kenmerken en LSTM's voor temporele modellering.
   • Attention-gebaseerde Modellen:
     • CBAMConvLSTM: Integreert een Convolutional Block Attention Module (CBAM) in de ConvLSTM-architectuur. CBAM verfijnt feature maps door channel attention (identificeren wat belangrijk is) en spatial attention (identificeren waar het belangrijk is) toe te passen na elke convolutie-operatie.
     • SAConvLSTM: Past een bestaand self-attention-gebaseerd netwerk aan (oorspronkelijk voor videovoorspelling) dat standaard ConvLSTM-operaties vervangt door self-attention om globale ruimtelijke afhankelijkheden te vangen en een geheugenmodule gebruikt om globale afhankelijkheden van voorgaande tijdstappen te behouden.
   • Training: Alle modellen voorspellen een sequentie van 6 toekomstige satellietbeelden (1-uur horizon met intervallen van 10 minuten) met behulp van een Structural Similarity Index Measure (SSIM) loss om de beeldstructuur te behouden.

2. Zonne-energiegeneratievoorspelling (Fase 2):

   • Downstream Modellen: Om de impact van de kwaliteit van de wolkenvoorspelling te isoleren, gebruikt de studie drie gevestigde, niet-attention-gebaseerde zonne-energievoorspellingsnetwerken als downstream modellen: een Multi-Layer Perceptron (MLP), een 1D Convolutional Neural Network (CNN) en een standaard LSTM.
   • Input Strategie: Elk downstream model wordt getraind op historische gegevens van energieopwekking en ofwel ground-truth wolkenpixelwaarden, persistentie wolkenwaarden (laatst waargenomen beeld), of voorspelde wolkenwaarden van de Fase 1-modellen.
   • Evaluatie: De studie evalueert 50 PV-locaties met behulp van RMSE en MAE Skill Scores (vergeleken met een persistentie-baseline) om te meten hoe verschillende wolkeninputs de nauwkeurigheid van de zonne-energievoorspelling beïnvloeden.

Belangrijkste Bijdragen

• Empirisch Onderzoek naar Attention-propagatie: Het artikel biedt een grootschalige empirische studie naar hoe verbeteringen in wolkenvoorspelling via attention doorwerken naar de prestaties van downstream zonne-energievoorspelling, waarmee een gat in de bestaande literatuur wordt gedicht.
• Nieuwe Architecturen: Het stelt CBAMConvLSTM voor, een attention-geoptimaliseerde uitbreiding van ConvLSTM voor spatiotemporele wolkenvoorspelling, en evalueert SAConvLSTM voor dit specifieke domein.
• Systematische Evaluatie: Door vaste downstream zonne-energievoorspellingsnetwerken (MLP, CNN, LSTM) te gebruiken en alleen de bron van de wolkeninput te variëren, isoleert de studie de prestatiewinsten die specifiek toe te schrijven zijn aan de kwaliteit van de wolkenvoorspellingen.
• Hoogte-specifieke Inzichten: De studie analyseert hoe de hoogte van wolken (afgeleid van infrarood pixelwaarden) de effectiviteit van attention-mechanismen beïnvloedt, waarbij onderscheid wordt gemaakt tussen scenario's met hoge en lage wolken.

Resultaten

• Wolkenvoorspelling: Visualisaties geven aan dat hoewel alle modellen goed presteren bij de directe volgende tijdstap ($t+1$), de gelijkenis met de ground truth afneemt naarmate de voorspellingshorizon zich uitstrekt.
• Impact op Zonne-energievoorspelling:
  • Het gebruik van voorspelde wolkenbeelden verbetert over het algemeen de nauwkeurigheid van de zonne-energievoorspelling in vergelijking met het gebruik van enkel historische vermogensgegevens of persistentie wolkenbeelden.
  • Hoge Wolken: De belangrijkste bevinding is dat attention-gebaseerde wolkenvoorspellingsmethoden (CBAMConvLSTM en SAConvLSTM) de grootste verbeteringen in downstream zonne-energievoorspelling opleveren, specifiek voor hoge wolken. In deze condities verbeterden de skill scores met 5,86% of meer vergeleken met niet-attention-gebaseerde methoden.
  • De studie suggereert dat attention-mechanismen bijzonder effectief zijn bij het vangen van de complexe, niet-lineaire spatiotemporele evolutie van hoge wolkenpatronen, die moeilijker te modelleren zijn met lineaire aannames.

Significantie en Claims
Het artikel claimt een kritiek onderzoeksgat te vullen door systematisch aan te tonen dat verbeteringen in de voorspelling van wolkenbeweging via attention-mechanismen de voorspelling van zonne-energiegeneratie direct verbeteren. Het stelt bescheiden dat hoewel attention-mechanismen krachtig zijn, hun voordelen niet uniform zijn over alle weersomstandigheden; ze bieden juist de meeste waarde in scenario's met hoge wolken. Het werk valideert het nut van satellietbeelden in combinatie met geavanceerde deep learning-architecturen voor het beheren van de variabiliteit van gedistribueerde zonne-energie, wat een pad biedt naar een stabielere integratie in het elektriciteitsnet.