Comparative Analysis of Machine Learning Models for Predicting Grid Stability Using Tabular and Transformer Architectures

Résumé Technique : Analyse Comparative de Modèles d'Apprentissage Automatique pour la Prédiction de la Stabilité du Réseau

Énoncé du Problème
L'intégration croissante des ressources énergétiques renouvelables, des véhicules électriques et des ressources énergétiques distribuées (DER) a introduit une incertitude et une non-linéarité significatives dans les réseaux électriques modernes. Les approches traditionnelles de surveillance, basées sur des règles et sur la physique, manquent souvent de l'adaptabilité requise pour gérer les conditions de charge dynamiques, les flux de puissance bidirectionnels et la génération intermittente. Bien que l'apprentissage automatique (ML) soit apparu comme une alternative viable pour l'évaluation de la stabilité, la littérature existante se concentre souvent sur des applications isolées (par exemple, la détection de fautes spécifiques) ou manque de comparaisons exhaustives entre les architectures de ML classique, d'apprentissage d'ensemble et d'apprentissage profond au sein d'un cadre unifié. De plus, de nombreuses études privilégient la précision sans traiter de manière adéquate la faisabilité computationnelle ou l'interprétabilité pour un déploiement réel des réseaux intelligents.

Méthodologie
Cette étude présente un cadre comparatif évaluant des modèles d'apprentissage classique, d'ensemble et profond pour prédire la stabilité du réseau électrique à l'aide d'un ensemble de données de référence de 10 000 échantillons simulés. Le jeu de données comprend 13 caractéristiques opérationnelles (incluant des paramètres de couple, des valeurs de puissance active, des paramètres de régulateur et des métriques liées à la fréquence) et cible deux tâches :

1. Classification Binaire : Prédire les états de stabilité du réseau (stable vs instable, étiqueté stabf).
2. Régression : Prédire des scores de stabilité continus (étiqueté stab).

Prétraitement des Données :
Le jeu de données a subi une standardisation par score Z (z-score). Aucune valeur manquante ou encodage catégoriel n'était requis. Les données ont été divisées en 80 % pour l'entraînement et 20 % pour le test en utilisant un échantillonnage stratifié afin de préserver la distribution des classes.

Modèles Évalués :
Une suite diversifiée d'algorithmes a été sélectionnée et rigoureusement optimisée via GridSearchCV avec une validation croisée à 5 plis (5-fold cross-validation) :

• ML Classique : Régression Logistique (LogReg), Classificateur à Vecteurs de Support (SVC), K-Plus Proches Voisins (KNN).
• Méthodes d'Ensemble : Forêt Aléatoire (Random Forest - RF), XGBoost, et un Classificateur de Stacking (combinant RF, SVC, KNN et XGBoost avec un méta-classificateur de Régression Logistique).
• Apprentissage Profond : Une architecture basée sur les Transformers implémentée dans PyTorch, personnalisée pour les données tabulaires avec un encodage positionnel masqué et des mécanismes d'auto-attention.

Métriques d'Évaluation :

• Classification : Précision (Accuracy), Précision (Precision), Rappel (Recall), Score F1, et ROC-AUC.
• Régression : Score R² (coefficient de détermination) et Erreur Quadratique Moyenne (MSE).
• Validation Statistique : Des tests t appariés ont été effectués sur les scores F1 issus de la validation croisée pour garantir que les différences de performance observées étaient statistiquement significatives.

Résultats Clés

• Performance de Classification : L'architecture basée sur les Transformers a atteint la performance la plus élevée sur toutes les métriques, avec une précision de 97,96 %, un score F1 de 97,95 %, et un score moyen de validation croisée de 97,67 %. Elle a nettement surpassé le Classificateur à Vecteurs de Support (SVC) avec une p-valeur < 0,01. Le Classificateur de Stacking et XGBoost ont également démontré une forte performance (scores F1 > 0,97), tandis que la Régression Logistique a montré la capacité la plus faible (précision ~81,95 %), soulignant sa limitation à capturer la dynamique non linéaire du réseau.
• Performance de Régression : Pour la prédiction de l'indice de stabilité continu, le Régresseur de Forêt Aléatoire a obtenu le score R² le plus élevé de 0,89, démontrant une forte capacité prédictive. Les modèles Transformer et XGBoost ont également surpassé les modèles linéaires traditionnels dans les tâches de régression.
• Importance des Caractéristiques : L'analyse des modèles basés sur les arbres (RF et XGBoost) a identifié g3 (métrique de stabilité liée au générateur), tau1 (constante de temps) et p1 (puissance active) comme les caractéristiques les plus influentes. La matrice de corrélation a indiqué une faible multicolinéarité entre les caractéristiques, soutenant l'interprétabilité des modèles.
• Efficacité Computationnelle : Un compromis a été observé entre la précision et le temps d'entraînement. Le modèle Transformer a nécessité un temps d'entraînement nettement plus long (~39,6 secondes) par rapport aux modèles légers comme la Régression Logistique (1,8 seconde) et le KNN (2,0 secondes). Cependant, les auteurs soutiennent que la précision prédictive supérieure justifie le coût computationnel pour la surveillance des réseaux à enjeux élevés.

Contributions Clés et Signification
L'article affirme combler une lacune dans la littérature en fournissant une analyse comparative unifiée des modèles classiques, d'ensemble et basés sur les Transformers spécifiquement pour la prédiction de la stabilité du réseau. Ses principales contributions incluent :

1. Démonstration de la Supériorité des Transformers : L'étude fournit des preuves empiriques que les architectures de Transformers, conçues à l'origine pour les séquences, peuvent être efficacement adaptées pour les données tabulaires structurées du réseau, surpassant les méthodes de ML traditionnelles dans la capture des interactions complexes entre les caractéristiques.
2. Benchmarking Rigoureux : En appliquant des protocoles identiques de prétraitement, d'optimisation des hyperparamètres et de validation croisée à tous les modèles, l'étude garantit une comparaison équitable de la précision prédictive, de la robustesse et de la généralisation.
3. Alignement avec les Objectifs de Durabilité : Le cadre proposé axé sur les données soutient les initiatives mondiales de durabilité, spécifiquement l'ODD 7 (Énergie propre et d'un coût abordable), l'ODD 9 (Industrie, Innovation et Infrastructure) et l'ODD 13 (Lutte contre les changements climatiques), en améliant la résilience et l'efficacité opérationnelle des réseaux.
4. Faisabilité Pratique : Les résultats confirment que, bien que les modèles avancés comme les Transformers présentent des coûts computationnels plus élevés, leur précision et leur robustesse en font des candidats viables pour une intégration dans les systèmes de surveillance de réseau en temps réel et les environnements de bord (edge).

Directions Futures
Les auteurs suggèrent que les travaux futurs devraient se concentrer sur l'intégration de ces modèles avec les systèmes SCADA/EMS pour une surveillance quasi en temps réel, l'utilisation de techniques d'IA explicable (XAI) telles que SHAP ou LIME pour améliorer davantage l'interprétabilité, et l'exploration d'architectures hybrides (par exemple, combinant les Transformers avec les LSTM) pour mieux capturer les contextes temporels dans les données du réseau.