🤖 machine learning

Interpretable Kolmogorov-Arnold Network with Feature-Isolated Temporal Attention Mechanism for Electricity Load Forecasting

Cet article introduit LoadKAN, un nouveau cadre hybride interprétable qui intègre un mécanisme d'attention temporelle à isolation de caractéristiques avec les réseaux de Kolmogorov-Arnold afin d'atteindre une précision compétitive dans la prévision de la charge électrique tout en permettant une analyse granulaire des relations complexes et non linéaires entre les modèles de mobilité humaine et la demande énergétique.

Auteurs originaux : Jinhao Li, Hao Wang

Publié 2026-06-23

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Jinhao Li, Hao Wang

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La Vision Globale : Prédire la Puissance avec une « Boîte de Verre »

Imaginez que vous essayiez de prédire la quantité d'électricité qu'une ville consommera demain. Vous devez être précis pour que le réseau électrique ne s'effondre pas, mais vous devez aussi comprendre pourquoi la prédiction est ce qu'elle est.

La plupart des modèles d'IA modernes sont comme des boîtes noires. Vous introduisez des données, et une prédiction sort, mais personne ne sait exactement comment la machine a pris cette décision. C'est comme un chef qui cuisine un plat délicieux mais refuse de vous donner la recette ou de vous dire quels ingrédients il a utilisés.

Ce document présente un nouveau modèle appelé LoadKAN. Considérez LoadKAN comme un chef en « boîte de verre ». Il ne se contente pas de cuisiner un plat délicieux (faire une prédiction précise), il expose aussi chaque ingrédient et vous montre exactement comment ils interagissent pour créer la saveur finale. Il est construit sur un nouveau type d'IA appelé Réseau Kolmogorov-Arnold (KAN), qui est conçu pour être transparent par défaut.

Le Problème : Pourquoi les anciens modèles peinent-ils ?

Les chercheurs ont remarqué deux problèmes principaux avec les modèles d'IA existants pour l'électricité :

Ils sont opaques : Vous ne pouvez pas facilement voir comment des facteurs tels que la météo ou les mouvements humains affectent le réseau électrique.
Ils sont confus par le temps : Les données électriques changent constamment au fil du temps (comme un battement de cœur). Les modèles d'IA standard deviennent souvent « embrouillés » lorsqu'ils tentent de suivre ces rythmes complexes, surtout lorsque vous ajoutez de nouvelles données comme la mobilité humaine.

La Solution : La Recette en Deux Étapes de LoadKAN

Les auteurs ont construit Loadkan avec deux étapes spécifiques, qu'ils décrivent comme un « Mécanisme d'Attention Temporelle Isolé par Caractéristique » combiné à un module KAN. Voici la version simple :

Étape 1 : L'étape du « Soliste » (Attention Isolée par Caractéristique)

Imaginez une chorale où chaque chanteur essaie de chanter en même temps. Généralement, les voix fortes couvrent les voix plus douces, et la chanson devient un désordre.
LoadKAN fait quelque chose de différent. Il place chaque chanteur (chaque point de donnée comme la « météo », le « trafic » ou les « gens à la maison ») dans sa propre cabine insonorisée.

Ce qu'il fait : Il écoute le chanteur « Météo » seul pour comprendre son rythme. Ensuite, il écoute le chanteur « Mobilité Humaine » seul.
Pourquoi : Cela empêche les données de s'« enchevêtrer ». Cela garantit que le modèle apprend l'histoire unique de chaque facteur avant de les mélanger.

Étape 2 : L'étape du « Mélangeur Transparent » (Le Module KAN)

Une fois que les solistes se sont entraînés, ils se réunissent pour chanter la chanson finale (la prédiction de l'électricité).

La Magie : Au lieu d'une boîte noire qui mélange les sons, LoadKAN utilise un « mélangeur » spécial (le KAN) qui dessine une carte visible de la façon dont chaque voix modifie la chanson.
Le Résultat : Vous pouvez regarder la carte et dire : « Ah, quand les gens restent plus à la maison, la consommation d'électricité baisse », ou « Quand les gens vont dans les parcs, la consommation augmente ». Le modèle dessine littéralement la courbe de ces relations, ce qui le rend facile à lire.

L'Ingrédient Secret : La Mobilité Humaine

Les chercheurs ont testé ce modèle en utilisant des données provenant de trois grands marchés électriques américains : New York (NYISO), Californie (CAISO) et Texas (ERCOT). Ils ont ajouté un ingrédient spécial : des Données de Mobilité Humaine.

Ils ont suivi six types de mouvements :

Commerce et Loisirs (restaurants, cinémas)
Épicerie et Pharmacie (achats)
Parcs
Stations de Transit (métros, bus)
Lieux de travail
Résidentiel (personnes à la maison)

Les Résultats :

Précision : LoadKAN était tout aussi performant pour prédire l'électricité que les modèles « boîtes noires » les plus avancés. Au Texas, il était d'ailleurs le meilleur pour prédire.
Le « Boost » de la Mobilité : Ajouter des données sur les déplacements des gens a rendu chaque modèle meilleur, mais LoadKAN a utilisé ces données de la manière la plus efficace.
Différences de Marché : Le modèle a révélé que différentes villes réagissent différemment aux mouvements.
- À New York : Lorsque les gens vont dans les Stations de Transit, la consommation d'électricité baisse en réalité. Le modèle a compris que si les gens sont dans le métro, ils ne sont pas chez eux ou au bureau à utiliser de l'énergie.
- Au Texas : Les Parcs étaient un facteur majeur. Lorsque les gens allaient dans les parcs, la consommation d'électricité changeait de manière significative, probablement en raison de la climatisation dans les zones récréatives ou des déplacements.
- En Californie : Les Lieux de travail et les Épiceries avaient une relation avec la consommation d'électricité très complexe et changeante, qui variait d'un jour à l'autre.

Pourquoi cela compte

L'article affirme que LoadKAN résout un problème majeur : la Confiance.

Par le passé, si vous vouliez savoir pourquoi un modèle prédisait une hausse de puissance, vous deviez utiliser un outil séparé et maladroit pour deviner. LoadKAN intègre l'explication directement dans les mathématiques. Il permet aux opérateurs de réseaux électriques de voir la « recette » du futur. Ils peuvent voir exactement comment un mardi pluvieux ou un week-end de vacances avec des gens à la maison impactera le réseau, sans avoir à deviner ce que l'IA pense.

En bref : LoadKAN est un prédicteur d'électricité hautement précis qui ne cache pas son travail. Il sépare les données pour comprendre chaque élément individuellement, puis les mélange d'une manière qui nous permet de voir exactement comment le comportement humain influence l'allumage et l'extinction des lumières.

Résumé technique : Réseau de Kolmogorov-Arnold interprétable avec attention temporelle isolée par caractéristiques pour la prévision de la charge électrique

Énoncé du problème
La prévision précise de la charge électrique est fondamentale pour la stabilité, l'efficacité et la viabilité économique des systèmes énergétiques. Bien que les modèles d'apprentissage profond (par exemple, les Transformers, les LSTM) aient atteint une grande précision prédictive, ils fonctionnent généralement comme des « boîtes noires », manquant de l'interprétabilité nécessaire pour comprendre les moteurs spécifiques des résultats de prévision. Cette opacité empêche les opérateurs de systèmes de saisir comment des facteurs exogènes complexes, particulièrement les modèles de mobilité humaine, influencent la consommation d'électricité. De plus, l'application directe du réseau émergent de Kolmogorov-Arnold (KAN) à la prévision de séries temporelles se heurte à des défis, notamment l'instabilité de l'entraînement et l'incapacité à modéliser efficacement les dépendances temporelles complexes sans adaptations architecturales spécifiques. Les approches hybrides existantes, qui se contentent de remplacer les couches de perceptron multicouche (MLP) par des modules KAN, échouent souvent à exploiter pleinement l'interprétabilité intrinsèque du KAN, car elles ne préservent pas la dynamique distincte des caractéristiques d'entrée individuelles.

Méthodologie : Le cadre LoadKAN
Pour combler ces lacunes, les auteurs proposent LoadKAN, un nouveau cadre hybride et interprétable conçu pour la prévision de la charge électrique. L'architecture se compose de deux étapes synergiques :

Mécanisme d'attention temporelle isolée par caractéristiques :
- Objectif : Traiter chaque séquence de caractéristiques d'entrée (par exemple, la charge historique, la météo et six mesures distinctes de la mobilité humaine) indépendamment avant toute interaction entre les caractéristiques.
- Mécanisme : Le lot d'entrée est transposé et projeté dans un espace de plongement de dimension supérieure via des convolutions 1D. Crucialement, le modèle utilise un mécanisme d'auto-attention multi-têtes (MHSA) par caractéristique. Contrairement aux architectures standards qui enchevêtrent toutes les caractéristiques dans des plongements latents, cette étape traite l'historique temporel de chaque caractéristique comme une séquence indépendante.
- Agrégation : L'information temporelle pour chaque caractéristique est agrégée en sélectionnant la sortie du dernier pas de temps, suivie d'une convolution 1D isolée par caractéristique et d'une activation tangente hyperbolique ( $\tanh$ ). Cela produit une représentation scalaire distillée et temporellement consciente pour chaque caractéristique, garantissant que les dynamiques temporelles uniques de variables telles que « Commerce et Loisirs » ou « Résidentiel » sont préservées sans dominance de signal ou propagation de bruit provenant d'autres caractéristiques.
Module KAN interprétable :
- Objectif : Mapper les représentations de caractéristiques traitées vers la prévision de la charge future tout en maintenant une transparence structurelle.
- Mécanisme : Les caractéristiques distillées sont injectées dans une couche KAN construite avec des fonctions d'activation B-spline apprenables sur les arêtes. Basé sur le théorème de représentation de Kolmogorov-Arnold, le modèle approxime la fonction multivariée comme une somme de fonctions univariées : $\hat{y} = \sum f_m(r_m) + \beta$ .
- Interprétabilité : Étant donné que l'entrée de la couche KAN consiste en des représentations de caractéristiques isolées, les fonctions spline apprises modélisent explicitement la relation non linéaire entre une caractéristique spécifique du monde réel (par exemple, la mobilité vers les parcs) et la charge électrique. Cela permet une visualisation directe des relations fonctionnelles (par exemple, les points de saturation, les effets de seuil) sans dépendre d'outils d'explication post-hoc comme SHAP ou LIME.

Contributions clés

Innovation architecturale : Le document présente LoadKAN, qui intègre de manière unique un mécanisme d'attention temporelle isolée par caractéristiques avec un module KAN. Cette conception empêche l'enchevêtrement des dynamiques de caractéristiques, une condition préalable à une interprétabilité significative dans la prévision de séries temporelles.
Validation empirique : Le cadre a été évalué sur des ensembles de données provenant de trois marchés électriques américains représentatifs : NYISO, CAISO et ERCOT. L'étude démontre que LoadKAN atteint des performances compétitives par rapport à des références de type boîte noire largement optimisées (incluant Informer, TCN et Transformer), obtenant souvent des résultats de premier plan (par exemple, la meilleure performance dans ERCOT).
Ablation sur les caractéristiques de mobilité : L'étude quantifie l'impact des données de mobilité humaine, montrant que l'intégration de ces caractéristiques améliore considérablement la précision des prévisions pour tous les modèles, LoadKAN démontrant une forte aptitude à exploiter ces informations supplémentaires.
Interprétabilité granulaire : Le document fournit une analyse détaillée des relations non linéaires apprises entre six modèles de mobilité et la charge électrique. Il révèle des dépendances spécifiques au marché, telles que l'influence variable de l'utilisation des transports dans NYISO par rapport à la mobilité commerciale dans CAISO, et la sensibilité dominante de la mobilité liée aux parcs dans ERCOT et NYISO.

Résultats

Performance : LoadKAN se classe systématiquement dans le haut du panier des références. Dans le marché ERCOT, il a obtenu la meilleure performance globale (MAPE : 2,91 %, $R^2$ : 0,9429), surpassant la meilleure référence (Transformer). Dans NYISO et CAISO, il est resté hautement compétitif, avec des valeurs de MAPE à seulement 0,17 % et 0,13 % du meilleur modèle performant respectivement, tout en offrant une interprétabilité supérieure.
Impact de la mobilité : L'inclusion des caractéristiques de mobilité humaine a entraîné une réduction moyenne du MAPE d'environ 16,28 % et de la RMSE de 16,90 % sur l'ensemble des modèles et des marchés.
Analyse de sensibilité : L'analyse quantitative de sensibilité des fonctions d'activation apprises a révélé des comportements régionaux distincts. Par exemple, la mobilité « Parcs » a présenté la plus haute sensibilité dans NYISO et ERCOT, tandis que les caractéristiques commerciales (Lieux de travail, Commerce) ont montré une sensibilité plus élevée dans CAISO. L'analyse a également mis en évidence des relations complexes, non linéaires et parfois contre-intuitives, telles qu'une présence résidentielle accrue corrélée à une réduction de la charge du système dans certains marchés, probablement due à la substitution d'activités commerciales énergivores.

Signification et affirmations
Le document affirme que LoadKAN parvient à combler le fossé entre la puissance prédictive de l'apprentissage profond et l'interprétabilité structurelle requise pour une prise de décision éclairée dans les systèmes énergétiques. En évitant la nature de « boîte noire » des réseaux de neurones standards et les limites des structures KAN pures sur les données de séries temporelles, LoadKAN offre un mécanisme transparent pour comprendre comment des moteurs spécifiques, particulièrement la mobilité humaine, influencent la demande d'électricité. Les auteurs soulignent que leur approche permet aux parties prenantes de visualiser et de quantifier les dépendances non linéaires entre les caractéristiques d'entrée et les prévisions de charge, fournissant des informations qui sont souvent obscurcies par des modèles opaques. Cette capacité est présentée comme un catalyseur crucial pour comprendre l'impact des caractéristiques exogènes dynamiques sur la consommation d'électricité, soutenant ainsi des opérations de système plus informées dans un paysage énergétique en pleine évolution.