🤖 machine learning

Short-Term Electricity Demand Forecasting for New England Using a Hybrid Transformer-XGBoost Framework with Weather, Calendar, and COVID-19 Indicators

Cet article propose un cadre hybride Transformer-XGBoost pour la prévision de la demande d'électricité à court terme en Nouvelle-Angleterre qui, bien qu'incorporant des indicateurs de la COVID-19 et atteignant une grande précision, démontre que de telles caractéristiques épidémiologiques finissent par dégrader la performance de test en amplifiant le surapprentissage de modèles pandémiques obsolètes une fois que les adaptations comportementales ont eu lieu.

Auteurs originaux : Reza Ghanavati, Behrooz Mosallaei

Publié 2026-06-23

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Reza Ghanavati, Behrooz Mosallaei

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de deviner la quantité d'électricité que toute la région de la Nouvelle-Angleterre consommera demain. C'est un peu comme essayer de prédire la quantité d'eau qu'un jardin géant et assoiffé boira. Vous savez que la météo compte (les journées chaudes nécessitent plus de clim, les journées froides plus de chauffage), et vous savez que le jour de la semaine compte (les gens utilisent plus d'énergie les jours de semaine que les week-ends). Mais que se passe-t-il quand le monde entier change soudainement, comme lors d'une pandémie ? C'est l'énigme que ce document tente de résoudre.

Voici une décomposition simple de ce que les chercheurs ont fait et de ce qu'ils ont trouvé, en utilisant des analogies de la vie quotidienne.

L'Objectif : Prédire la soif du réseau électrique

L'électricité est délicate car on ne peut pas vraiment la stocker dans un immense entrepôt ; il faut produire exactement ce dont les gens ont besoin, au moment même. Si vous vous trompez, les lumières pourraient vaciller, ou vous pourriez gaspiller de l'argent en produisant de l'énergie que personne n'utilise. Les chercheurs voulaient construire une « boule de cristal » pour prédire la demande quotidienne d'électricité en Nouvelle-Angleterre avec une grande précision.

La Recette : Une cuisine hybride

L'équipe a concocté une nouvelle méthode utilisant une approche « hybride ». Voyez cela comme un restaurant avec deux chefs travaillant ensemble :

Le Chef 1 (Le Transformer) : C'est un chef IA de haute technologie spécialisé dans la lecture d'histoires. Il examine l'« histoire » des 30 derniers jours de consommation d'électricité et des actualités de la pandémie (comme le nombre de cas et de décès). Il est excellent pour repérer des motifs longs et complexes dans une chronologie, un peu comme un humain peut lire un roman et comprendre l'humeur d'un personnage sur de nombreux chapitres.
Le Chef 2 (XGBoost) : C'est un chef très vif et logique qui adore les tableaux et les feuilles de calcul. Il regarde des faits spécifiques : « Nous sommes mardi », « La température à Boston est de 40 °F », et « Nous avons eu 500 nouveaux cas hier ». Il est excellent pour prendre des décisions rapides basées sur des données concrètes.

Le Cadre Hybride : Le Chef 1 lit l'histoire et transmet une note de synthèse au Chef 2. Le Chef 2 combine ensuite ce résumé avec tous les faits concrets pour faire la prédiction finale. Les chercheurs espéraient que cette équipe serait meilleure qu'utiliser le Chef 2 seul.

Les Ingrédients

Pour faire leur prédiction, ils ont mélangé beaucoup de données différentes :

La Météo : Ils ne se sont pas contentés de regarder une seule ville ; ils ont vérifié la météo dans six villes différentes à travers la Nouvelle-Angleterre (comme Boston, Portland et Burlington) pour obtenir une image complète.
Le Calendrier : Ils ont pris en compte les jours fériés, les week-ends et les saisons.
Le Facteur Pandémie : Ils ont inclus des données sur les cas et les décès de la COVID-19, espérant capturer comment le virus a changé les habitudes des gens (comme le télétravail).
L'Histoire : Ils ont regardé ce qui s'est passé hier, la semaine dernière et le mois dernier.

Le Test de Goût : Est-ce que ça a marché ?

Ils ont testé leur « Cuisine Hybride » contre une « Cuisine Solo » (juste le Chef 2/XGBoost sans le lecteur d'histoires IA).

Le Résultat : La Cuisine Hybride était légèrement meilleure pour deviner la quantité exacte d'électricité nécessaire. Cependant, lorsque les chercheurs ont effectué un test statistique rigoureux (comme un arbitre vérifiant si la différence de score est réelle ou due à la chance), ils ont constaté que les deux cuisines étaient essentiellement à égalité. Le modèle hybride n'était pas statistiquement meilleur que le modèle simple.
La Conclusion : Si vous avez une bonne liste de faits (météo, calendrier, historique), vous n'avez pas nécessairement besoin du lecteur d'histoires IA sophistiqué pour obtenir un excellent résultat. Le chef simple et logique était presque aussi bon.

La Grande Surprise : L'Ingrédient Pandémie

La partie la plus intéressante du document est ce qui s'est passé avec l'« Ingrédient Pandémie » (les données de la COVID-19).

Pendant la Pandémie (Entraînement) : Lorsque le modèle apprenait à partir de données de 2020-2021, les données de la pandémie étaient très utiles. Cela aidait le modèle à comprendre pourquoi l'utilisation de l'électricité était étrange (par exemple, les bureaux étaient vides, les maisons étaient pleines).
Après la Pandémie (Test) : Lorsqu'ils ont testé le modèle sur des données de fin 2022 et début 2023, les choses sont devenues bizarres. À ce stade, les gens s'étaient adaptés au virus ; nous étions de retour au travail et les habitudes s'étaient normalisées.
- Le Bug : Le modèle pensait que les données de la pandémie étaient toujours super importantes. En fait, il s'appuyait davantage sur ces données pendant la phase de test qu'il ne le faisait pendant la phase d'apprentissage !
- L'Analogie : Imaginez un étudiant qui apprend que « la pluie signifie pas de pratique de football ». Il étudie dur pendant une saison pluvieuse. Mais ensuite, la saison change, il fait beau, et pourtant l'étudiant vérifie toujours les prévisions de pluie de manière obsessionnelle et annule la pratique quand même. Le modèle continuait de regarder les chiffres de la pandémie comme si le monde était encore en confinement.
- La Conséquence : Parce que le modèle continuait d'utiliser ces informations « périmées », il a en fait fait des prédictions légèrement moins bonnes dans le modèle hybride lorsqu'on incluait les données de la pandémie, comparativement à lorsqu'on les retirait.

Le Verdict Final

L'Histoire est Reine : La chose la plus importante pour prédire l'électricité est de savoir ce qui s'est passé hier et la semaine dernière. Si vous retirez cela, le modèle échoue lamentablement.
La Météo est Reine : Savoir la température et le jour de la semaine est la chose suivante la plus importante.
La Pandémie est un « Ingrédient à Durée Limitée » : Les données concernant la COVID-19 étaient utiles uniquement pendant que le monde était en confinement actif. Une fois que les gens se sont adaptés (vers la mi-2022), ces données sont devenues du « bruit ». Elles n'ont pas aidé à prédire le futur ; elles ont juste confondu le modèle en lui faisant croire que les anciennes règles s'appliquaient encore.

En bref : Les chercheurs ont construit un système intelligent qui fonctionne très bien. Ils ont découvert que si l'IA sophistiquée aide, un modèle logique solide avec de bonnes données météo et historiques est presque aussi performant. Plus important encore, ils ont appris que lorsque le monde change (comme lors d'une pandémie), vous devez faire attention à ne pas laisser le modèle rester bloqué dans le passé, en utilisant de vieilles règles qui ne s'appliquent plus.

Résumé technique : Prévision de la demande d'électricité à court terme en Nouvelle-Angleterre à l'aide d'un cadre hybride Transformer–XGBoost

1. Énoncé du problème

La prévision précise de la demande d'électricité à court terme est fondamentale pour permettre aux gestionnaires de systèmes électriques de gérer la répartition en temps réel, l'engagement des unités et la liquidation des marchés de l'énergie. Bien que les méthodes statistiques classiques (ex. : ARIMA) et les approches modernes d'apprentissage automatique (ex. : XGBoost, LSTM, Transformers) aient été largement appliquées, la prévision reste un défi dans les régions présentant une forte sensibilité météorologique et des ruptures structurelles de la demande.

Cette étude aborde les défis spécifiques du marché de l'électricité de la Nouvelle-Angleterre (ISO-NE), caractérisé par des variations météorologiques saisonnières extrêmes et des changements structurels de comportement causés par la pandémie de COVID-19 (2020–2022). Une lacune critique identifiée concerne l'incertitude quant à la valeur prédictive des indicateurs épidémiologiques (comptages de cas, taux de mortalité) à mesure que l'adaptation comportementale progresse de la phase aiguë de la pandémie vers une période de stabilisation post-aiguë. L'article examine si une architecture hybride combinant l'apprentissage profond pour l'extraction de caractéristiques temporelles et le boosting de gradient pour la prédiction tabulaire offre une précision supérieure à une base robuste uniquement tabulaire, et comment l'utilité des caractéristiques de l'ère pandémique évolue au fil du temps.

2. Méthodologie

Données et ingénierie des caractéristiques

L'étude utilise des données de demande d'électricité quotidienne pour la zone de contrôle de la Nouvelle-Angleterre du 1er février 2020 au 23 mars 2023. Le pipeline d'ingénierie des caractéristiques intègre :

Observations météorologiques : 16 variables quotidiennes (température max/moyenne/min, point de rosée, humidité, vitesse du vent, pression, précipitations) provenant de six villes représentant les six États de la Nouvelle-Angleterre (Boston, Bridgeport, Burlington, Concord, Portland, Providence), produisant 96 caractéristiques météorologiques brutes.
Indicateurs calendaires et saisonniers : Drapeaux binaires pour les jours fériés, les week-ends, les jours ouvrables et les « jours de pont », ainsi que des variables continues pour le jour de la semaine, le jour de l'année et la saison.
Retards autorégressifs : Retards de la demande à 1, 7, 14 et 30 jours pour capturer la persistance et la saisonnalité.
Indicateurs épidémiologiques : Huit caractéristiques dérivées des comptages de cas et de décès liés à la COVID-19, incluant les décomptes quotidiens bruts, les moyennes mobiles sur 7 et 14 jours, ainsi que les taux de croissance quotidiens en pourcentage.

Architecture du modèle

Le cadre proposé utilise une architecture hybride Transformer–XGBoost :

Encodeur Transformer : Traite des fenêtres glissantes (longueur $L=30$ ) de canaux de séries temporelles (8 caractéristiques COVID + 4 retards de demande). Il utilise un encodage positionnel sinusoïdal, 4 têtes d'attention et deux couches d'encodage pour produire un vecteur de plongement temporel (embedding) de 32 dimensions. Ce composant est conçu pour capturer les dépendances temporelles à longue portée et les schémas d'interaction complexes.
Régresseur XGBoost : Prend en entrée la concaténation du vecteur de plongement du Transformer et de l'ensemble complet des caractéristiques tabulaires (météo, calendrier, retards). Il est configuré avec des arbres peu profonds ( $max\_depth=3$ ) et une régularisation forte pour éviter le surapprentissage.

Entraînement et optimisation

Division des données : Une division chronologique stricte (70 % entraînement, 15 % validation, 15 % test) garantit l'absence de fuite temporelle. Le StandardScaler est ajusté exclusivement sur l'ensemble d'entraînement.
Optimisation des hyperparamètres : Optimisation bayésienne via Optuna avec un échantillonneur TPE (Tree-structured Parzen Estimator) multivarié sur 500 essais. Un MedianPruner élimine précocement les essais peu prometteurs.
Métriques d'évaluation : RMSE (racine de l'erreur quadratique moyenne), MAPE (erreur moyenne absolue en pourcentage) et le coefficient de détermination ( $R^2$ ). La signification statistique des différences de performance est évaluée via le test de Diebold-Mariano (DM) avec la correction de Harvey-Leybourne-Newbold.
Interprétabilité : Les explications SHAP (SHapley Additive exPlanations) sont utilisées pour quantifier les contributions des caractéristiques et analyser les décalages temporels de l'importance des variables.

3. Résultats clés

Performance prédictive

Les deux modèles ont atteint une grande précision sur l'ensemble de test (octobre 2022 – mars 2023) :

Modèle hybride : RMSE = 8 876 MWh, MAPE = 2,05 %, $R^2$ = 0,906.
Base XGBoost uniquement : RMSE = 9 304 MWh, MAPE = 2,21 %, $R^2$ = 0,896.

Bien que le modèle hybride présente des métriques légèrement meilleures, le test de Diebold-Mariano ($DM = -1,126, p = 0,262$) confirme que la différence de 427,7 MWh de RMSE est statistiquement indiscernable du bruit. Ainsi, les deux architectures sont considérées comme statistiquement équivalentes en termes de précision prédictive pour ce jeu de données.

Importance des caractéristiques et ablation

Dominance des retards : Les retards de la demande autorégressifs (particulièrement le retard à 1 jour) étaient les caractéristiques les plus critiques. Supprimer ces retards a augmenté l'RMSE de test de ~15–18 % dans les deux modèles.
Météo et calendrier : Ces caractéristiques seules expliquaient environ 84–85 % de la variance de la demande ( $R^2 \approx 0,84$ ).
Plongements (Embeddings) du Transformer : La suppression des plongements du Transformer a dégradé l'RMSE de test du modèle hybride de 7,4 %, confirmant qu'ils capturent une véritable structure temporelle, bien que le gain marginal par rapport à la base tabulaire soit modeste.
Caractéristiques COVID-19 (L'asymétrie) :
- Période d'entraînement : Les caractéristiques COVID ont amélioré la précision de l'entraînement (leur suppression a augmenté l'RMSE d'entraînement de 2,5 % pour XGBoost seul).
- Période de test : L'effet fut asymétrique. Supprimer les caractéristiques COVID a amélioré l'RMSE de test de XGBoost seul de 1,2 % mais a dégradé l'RMSE de test du modèle hybride de 3,2 %.
- Analyse SHAP : Une découverte cruciale a révélé que 5 des 8 caractéristiques COVID étaient classées plus haut (jugées plus importantes) par le modèle hybride sur l'ensemble de test post-aigue que durant la phase active de la pandémie. Cela indique que le modèle a trop appliqué les schémas pandémiques appris à une période où les comportements s'étaient normalisés, entraînant des erreurs systématiques.

4. Signification et affirmations

L'article établit que, bien que les architectures hybrides d'apprentissage profond puissent capturer la dynamique temporelle, elles ne procurent pas nécessairement de gains de précision statistiquement significatifs par rapport à des modèles de boosting de gradient bien ajustés lorsque des caractéristiques tabulaires riches sont disponibles.

La contribution centrale de ce travail est l'identification de la déchéance de validité temporelle comme mécanisme d'erreur de prévision. L'étude démontre que les caractéristiques épidémiologiques, bien qu'extrêmement informatives durant la phase de perturbation aiguë (2020–2021), sont devenues des bruits contre-productifs lors de la phase post-aiguë (fin 2022–2023) car les moteurs comportementaux (confinements, mandats de télétravail) qui liaient les mesures virales à la demande d'électricité s'étaient dissipés.

Les auteurs concluent que :

Parcimonie opérationnelle : Pour la prévision quotidienne de la demande dans ce contexte, un modèle XGBoost uniquement tabulaire est un choix opérationnel compétitif, offrant une précision similaire au modèle hybride avec une complexité de mise en œuvre moindre.
Gestion du cycle de vie des caractéristiques : Les caractéristiques épidémiologiques devraient être limitées dans le temps ou retirées une fois que l'adaptation comportementale est terminée. S'appuyer sur elles après la phase aiguë de la pandémie conduit à un surapprentissage sur des schémas obsolètes, un phénomène détectable via l'analyse temporelle SHAP où l'importance des caractéristiques augmente malgré la diminution de leur utilité prédictive.
Moteurs comportementaux vs virologiques : L'étude clarifie que la réponse de la demande à la COVID était pilotée par des perturbations comportementales plutôt que par les seuls taux de transmission virale ; une fois le comportement normalisé, la corrélation entre les comptages de cas et la demande s'est rompue, indépendamment de la circulation virale persistante.