Empirical Assessment of Time-Series Foundation Models For Power System Forecasting Applications

Technische Samenvatting: Empirische Beoordeling van Time-Series Foundation Models voor Voorspellingen in Elektriciteitssystemen

1. Probleemstelling

De betrouwbaarheid en kostenefficiëntie van moderne elektriciteitsnetten hangen sterk af van nauwkeurige voorspellingen van de elektrische vraag (load) en de opwekking van variabele hernieuwbare energiebronnen (zon en wind). Hoewel deep learning-methoden (zoals LSTM en CNN) de afgelopen jaren de klassieke statistische modellen hebben verslagen, kampen zij met beperkingen zoals een gebrek aan generalisatie naar nieuwe locaties, moeite met multivariate inputs en de noodzaak voor intensieve, taakspecifieke training.

Recentelijk zijn Time-Series Foundation Models (FMs) opgekomen—modellen die zijn voorgetraind op gigantische hoeveelheden diverse tijdreeksdata. De vraag is echter of deze modellen, die uitblinken in algemene taken, ook daadwerkelijk superieur zijn voor de specifieke, complexe dynamiek van elektriciteitsnetten, of dat gespecialiseerde architecturen de voorkeur verdienen.

2. Methodologie

De auteurs voeren een uitgebreide benchmark uit met behulp van de hoogwaardige ARPA-E PERFORM-dataset voor het ERCOT-netwerk (Texas, VS). De studie vergelijkt drie categorieën modellen:

• Foundation Models (FMs): TimesFM, Chronos-Bolt, Moirai-L, MOMENT en Tiny Time Mixer (TTM).
• Transformer-modellen (getraind vanaf nul): Temporal Fusion Transformer (TFT), PatchTST en TimeXer.
• Deep Learning Baselines: LSTM en 1D-CNN.

De evaluatie is gestructureerd rondom acht kerncapaciteiten:

1. Zero-shot forecasting: Prestaties zonder enige extra training.
2. Fine-tuning efficiëntie: Hoe snel verbeteren modellen met beperkte lokale data?
3. Multivariate input handling: Het gebruik van externe variabelen (zoals weerdata).
4. Horizon sensitiviteit: Prestaties over korte (60 min), middellange (6 uur) en lange (24 uur) termijn.
5. Generalisatie naar onbekende locaties: Werken de modellen op locaties die niet in de trainingsset zaten?
6. Multivariate output: Gelijktijdige voorspelling van meerdere variabelen (zon, wind én load).
7. Probabilistische voorspelling: De kwaliteit van de onzekerheidsintervallen (gemeten via CRPS).
8. Context window sensitiviteit: De invloed van de lengte van de historische 'look-back' periode.

3. Belangrijkste Bijdragen

• Eerste grootschalige benchmark: Het is een van de eerste studies die Foundation Models direct vergelijkt met gespecialiseerde transformer-architecturen voor specifieke energie-toepassingen.
• Operationele inzichten: Het onderzoek biedt een helder kader voor wanneer een operator moet kiezen voor een generiek Foundation Model versus een specifiek getraind model.
• Validatie van multivariate integratie: Het kwantificeert de cruciale waarde van meteorologische variabelen voor de nauwkeurigheid van hernieuwbare energievoorspellingen.

4. Resultaten

• Foundation Models zijn niet 'out-of-the-box' bruikbaar: In de zero-shot setting presteren FMs relatief slecht voor operationeel gebruik. Ze missen de domeinspecifieke kennis die nodig is voor de grillige dynamiek van het net.
• Superieure data-efficiëntie: Een groot voordeel van FMs is dat ze bij fine-tuning zeer snel resultaten boeken. Met slechts 20% van de data presteren ze vaak al beter dan traditionele LSTM's met 100% van de data.
• Transformers winnen op robuustheid: Modellen zoals TFT en TimeXer blijken superieur in het integreren van weerdata (multivariate input) en zijn stabieler over langere voorspelhorizonnen (24 uur).
• Generalisatiekloof: Alle modellen presteren slechter op onbekende locaties, maar FMs laten een betere ruimtelijke transfer zien dan de baselines (LSTM/CNN).
• Onzekerheid: Specifieke FMs (zoals Chronos-Bolt) en Transformers bieden uitstekende probabilistische kalibratie, wat essentieel is voor risicobeheer in het net.

5. Betekenis en Conclusie

De studie concludeert dat Foundation Models momenteel nog geen vervanging zijn voor gespecialiseerde modellen in de dagelijkse operatie van elektriciteitsnetten. Hoewel ze een enorme potentie hebben vanwege hun efficiëntie bij beperkte data en hun vermogen tot ruimtelijke generalisatie, ontbreekt het hen aan de noodzakelijke robuustheid voor multivariate en langetermijnvoorspellingen.

De praktische implicatie: Voor directe inzet in het netwerk moeten operators de voorkeur geven aan transformer-architecturen die expliciet zijn ontworpen om externe variabelen (weer) te integreren, terwijl Foundation Models vooral interessant zijn als startpunt voor snelle adaptatie op nieuwe locaties met weinig historische data.