SINDyG: Sparse Identification of Nonlinear Dynamical Systems from Graph-Structured Data, with Applications to Stuart-Landau Oscillator Networks

Résumé technique : SINDyG – Identification parcimonieuse de systèmes dynamiques non linéaires à partir de données structurées en graphe

Énoncé du problème
L'extraction d'équations gouvernantes à partir de données en utilisant des techniques d'identification parcimonieuse, telles que l'Identification parcimonieuse de la dynamique non linéaire (SINDy), a révolutionné la modélisation dans des domaines allant des neurosciences à la science du climat. Cependant, les approches SINDy standard traitent généralement les systèmes dynamiques comme des entités monolithiques, ignorant la topologie sous-jacente du réseau qui régit les interactions entre les sous-systèmes. Lorsqu'elles sont appliquées à des systèmes structurés en graphe (par exemple, réseaux de neurones, réseaux électriques ou réseaux sociaux), le SINDy standard traite tous les termes d'interaction candidats de manière égale. Ce manque de priors structurels conduit souvent à la sélection de « termes spuriaires » — des interactions qui ne reflètent pas la connectivité réelle entre les nœuds — résultant en des modèles biaisés, moins précis et excessivement complexes qui échouent à capturer des comportements émergents subtils.

Méthodologie : SINDyG
Pour remédier à ces limitations, les auteurs proposent SINDyG (Identification parcimonieuse de systèmes dynamiques non linéaires à partir de données structurées en graphe). Cette méthode étend le cadre SINDy standard en incorporant explicitement la structure d'adjacence du réseau dans le processus de régression parcimonieuse.

L'innovation centrale est une stratégie de régularisation informée par le graphe. Au lieu d'appliquer une pénalité uniforme à tous les termes candidats, SINDyG utilise une matrice de pénalité $P$ dérivée de la matrice d'adjacence $A$ du réseau. Le processus implique :

1. Analyse de connectivité : Pour chaque terme candidat dans la bibliothèque de fonctions, l'algorithme identifie les variables sources (nœuds impliqués dans le terme) et calcule la connectivité moyenne ($m_{ck}$) entre ces sources et le nœud puits (le nœud dont la dynamique est modélisée) en utilisant la matrice d'adjacence.
2. Formulation de la pénalité : Une fonction de pénalité basée sur la sigmoïde $P[c,k]$ est construite. Les termes présentant une faible connectivité moyenne entre les variables source et puits reçoivent une pénalité plus élevée (proche de 1), décourageant efficacement la sélection d'interactions qui violent la topologie du réseau connue. À l'inverse, les termes cohérents avec des connexions fortes reçoivent des pénalités plus faibles.
3. Optimisation : La méthode emploie un algorithme modifié de Moindres Carrés Séquentiellement Seuilés (STLSQ). La fonction objectif minimise l'erreur de reconstruction des dérivées tout en intégrant la pénalité consciente du graphe :
   $$\min_{\Xi} \frac{1}{2} \| \dot{X} - \Theta(X)\Xi \|_2^2 + \lambda \| P \odot \Xi \|_2^2$$
   Pour résoudre cela efficacement, la matrice de caractéristiques et les coefficients sont mis à l'échelle pour transformer le problème en un cadre de régression ridge standard, qui est ensuite résolu de manière itérative avec un seuillage dur pour imposer la parcimonie.

Contributions clés

• Régression parcimonieuse consciente du graphe : L'introduction d'une matrice de pénalité modulaire qui intègre la connaissance préalable de la connectivité du réseau directement dans le processus d'estimation des coefficients.
• Amélioration de la parcimonie et de la précision : En biaisant la régression vers des interactions structurellement plausibles, SINDyG réduit la sélection de termes spuriaires, conduisant à des modèles plus simples et plus interprétables.
• Cadre modulaire : La pénalité informée par le graphe proposée est conçue pour être facilement intégrée à d'autres solveurs de régression symbolique au-delà de SINDy.

Résultats expérimentaux
Les auteurs ont validé SINDyG en utilisant des réseaux d'oscillateurs de Stuart-Landau (SL), un modèle fréquemment utilisé pour décrire l'oscillation macroscopique des populations neuronales. Les expériences ont été menées sur des réseaux simples à trois nœuds et des cas généraux complexes impliquant des topologies Erdős-Rényi (ER) et sans échelle (SF) avec des tailles et des forces de couplage variables.

• Cas simple : Dans un réseau à trois nœuds, SINDyG a atteint une complexité de modèle ($\gamma$) de 32, correspondant au modèle réel, tandis que le SINDy standard a produit une complexité de 62. SINDyG a démontré une précision supérieure des coefficients (Erreur Absolue Moyenne de 0,0033 contre 0,0155 pour SINDy) et des scores $R^2$ prédictifs plus élevés sur des trajectoires non vues.
• Cas général : Les analyses de sensibilité ont révélé que, à mesure que la taille du réseau et la force de couplage augmentaient, les performances du SINDy standard se dégradaient considérablement, présentant une complexité et une erreur plus élevées. En revanche, SINDyG a maintenu sa robustesse, produisant systématiquement des modèles avec une complexité plus faible et une précision de généralisation plus élevée (un $R^2$ de test plus élevé, un MSE de test plus faible) à travers des tailles de réseau et des poids d'arêtes variables.
• Efficacité computationnelle : Bien que SINDyG implique des étapes supplémentaires pour calculer la matrice de pénalité, le temps d'entraînement global est resté comparable à celui du SINDy standard, la méthode démontrant une plus grande résilience face à des données d'entraînement limitées.

Portée et affirmations
L'article affirme que SINDyG représente une avancée significative dans la modélisation pilotée par les données des systèmes interconnectés. En exploitant la topologie du réseau pour guider la découverte des équations gouvernantes, la méthode produit des modèles qui sont non seulement plus précis, mais aussi plus interprétables physiquement. Les auteurs positionnent SINDyG comme une étape fondamentale vers une classe plus large d'« algorithmes de découverte informés par le réseau ». Ils suggèrent que l'intégration de cette régularisation de parcimonie structurée en graphe dans les solveurs de régression symbolique existants (tels que PySR) pourrait améliorer les performances dans des environnements bruyants ou réels à travers divers domaines, y compris les neurosciences, l'écologie, la finance et l'épidémiologie. Les auteurs notent modestement que, bien que la méthode ait été validée sur des modèles de Stuart-Landau, un travail futur est nécessaire pour évaluer son efficacité sur d'autres systèmes non linéaires tels que les modèles de Kuramoto ou de FitzHugh–Nagumo.