Résumé technique : PyCC.id – Un package pour la découverte d'équations guidée par l'hypothèse avec identifiabilité structurelle

Énoncé du problème

La découverte d'équations à partir de données est fondamentalement un problème inverse visant à inférer des équations différentielles directrices à partir de mesures de séries temporelles. Un défi persistant dans ce domaine est la nature mal conditionnée du problème, où de multiples modèles mathématiques distincts peuvent s'ajuster à un ensemble de données fini avec une précision comparable. Alors que les approches purement fondées sur les données génèrent souvent un vaste paysage de modèles candidats, ceux-ci diffèrent fréquemment de manière significative dans leur forme structurelle, conduisant à des représentations physiquement incohérentes. Par conséquent, les praticiens sont contraints de s'appuyer sur un filtrage manuel post-hoc basé sur l'expertise du domaine pour écarter les modèles non physiques, rendant la sélection finale du modèle quelque peu arbitraire. De plus, de nombreuses méthodes existantes manquent de garanties d'identifiabilité structurelle, ce qui rend difficile de déterminer si une équation proposée est cohérente avec les données ou nécessite une reformulation.

Méthodologie

Pour répondre à ces limitations, l'article présente PyCC.id (PyCC), une bibliothèque Python open-source qui implémente une méthodologie guidée par l'hypothèse basée sur des « squelettes » structurels et des Courbes Caractéristiques (CC).

Cadre de base

Contra_irement aux méthodes de type « boîte noire » qui cherchent des équations à partir de zéro, PyCC exige que le praticien définisse un squelette structurel basé sur l'intuition physique ou la connaissance du domaine. Ce squelette classifie les familles d'équations différentielles ordinaires (ODE) et décompose la dynamique globale en fonctions unidimensionnelles (1D) univariées.

• Identifiabilité structurelle : Le cadre exploite des squelettes possédant des propriétés d'identifiabilité structurelle démontrables dans l'espace des phases. Cela permet la validation formelle de la cohérence d'une structure hypothétique avec les données avant un entraînement intensif.
• Intégration d'hypothèses : Les utilisateurs peuvent injecter des informations préalables (ex: symétries physiques, contraintes comme $f(0)=0$, ou exigences de parité) directement dans les fonctions définies au sein des squelettes. Cela restreint l'espace de recherche à des structures motivées par la physique, atténuant ainsi l'ambiguïté structurelle.

Stratégies de paramétrage

La bibliothèque prend en charge trois stratégies distinctes pour identifier les fonctions 1D ($f_i$) au sein d'un squelette, offrant une flexibilité basée sur le niveau de désirabilité d'interprétabilité et de connaissance préalable :

1. Approche fonctionnelle : Les fonctions 1D sont traitées comme inconnues et approximées par des approximateurs universels tels que des réseaux de neurones (NN) ou la régression symbolique (SymbR).
2. Approche paramétrique : La forme fonctionnelle est entièrement hypothétique et paramétrée par des scalaires $\{a_i\}$, qui sont optimisés via une optimisation non linéaire.
3. Approche hybride : Une combinaison où les fonctions 1D $\{f_i\}$ et les paramètres scalaires $\{a_j\}$ sont ajustés simultanément.

Architecture logicielle

PyCC agit comme un cadre intégratif au sein de l'écosystème du machine learning scientifique, utilisant des outils établis comme PyTorch et PySR (pour la régression symbolique) au sein d'un pipeline structuré. Ses fonctions principales incluent :

• pycc.simulate() : Un solveur d'ODE polyvalent pour l'intégration directe du système. Il supporte les simulations théoriques (pour générer des données de vérité terrain) et la validation des modèles découverts. Il est compatible avec divers backends (NN, SymbR, Poly, Interp).
• pycc.train() : Le point d'entrée principal pour l'identification de la dynamique du système. Il agit comme un répartiteur, acheminant les données vers le module approprié (NN, SymbR, Poly) selon la méthode spécifiée par l'utilisateur.
• pycc.post_processing() : Un utilitaire conçu pour convertir les CC numériques (obtenues via NN ou Poly) en expressions symboliques explicites. Cela facilite l'inspection du modèle, l'analyse et la génération de modèles symboliques optimisés pour des simulations ultérieures.

Contributions clés

L'article présente PyCC.id comme un outil qui condense des avancées théoriques récentes en une bibliothèque flexible et conviviale. Ses principales contributions incluent :

• Flux de travail guidé par l'hypothèse : Déplacement de l'accent de la simple découverte basée sur les données vers une approche de squelette structurel qui garantit la cohérence physique et l'identifiabilité structurelle.
• Modularité et interopérabilité : La bibliothèque ne cherche pas à concurrencer les packages existants mais sert d'interface qui tire parti de leurs forces (ex: la puissance symbolique de PySR et la flexibilité des réseaux de neurones) au sein d'un cadre unifié.
• Accélération matérielle : Support natif pour les processeurs multicœurs (CPU) et les processeurs graphiques (GPU) (NVIDIA CUDA et Intel XPU via intel-extension-for-pytorch) pour l'entraînement des réseaux de neurones.
• Contraintes physiques : Capacité d'imposer des contraintes (ex: parité paire/impaire, valeurs spécifiques) directement pendant le processus d'entraînement, menant à des modèles plus robustes.
• Outils complets : Comprend un simulateur intégré, le support de multiples méthodes de paramétrage et une documentation étendue, incluant des tutoriels Google Colab.

Résultats et exemple illustratif

L'article démontre les capacités de PyCC en utilisant un système physique classique : un oscillateur non linéaire avec friction, régi par une équation différentielle du second ordre impliquant un amortissement dépendant de la vitesse et des forces de rappel dépendantes de la position.

• Génération de données : Le système a été simulé à l'aide d'équations théoriques pour générer un jeu de données de position, de vitesse et de forces externes.
• Identification : La bibliothèque a identifié avec succès la dynamique du système en utilisant l'Approche Fonctionnelle avec des réseaux de neurones. L'utilisateur a défini un squelette correspondant à une friction dépendante de la vitesse ($F_{ext} = \ddot{x} + f_1(\dot{x}) + f_2(x)$) et a appliqué des contraintes telles que $f_2(0)=0$ et une parité impaire pour les fonctions.
• Validation : Les fonctions apprises ($f_1$ et $f_2$) ont été visualisées et montrées comme correspondant étroitement aux relations constitutives théoriques.
• Post-traitement : Les résultats numériques ont été convertis en expressions analytiques via la régression symbolique (PySR), démontant la capacité de la bibliothèque à passer d'une approximation basée sur les données à des modèles symboliques interprétables.
• Simulation : Les modèles identifiés ont été intégrés vers l'avant, montrant un accord précis avec la dynamique théorique.

Signification

L'article positionne PyCC.id comme une étape importante vers la résolution de la nature mal conditionnée de la découverte d'équations. En formalisant l'intégration des connaissances du domaine via des squelettes structurels, la bibliothèque offre une voie pour valider ou éliminer des structures hypothétiques au niveau algorithmique. Cela réduit la dépendance au filtrage post-hoc arbitraire et facilite la découverte d'équations directrices interprétables et physiquement cohérentes. Le travail souligne que, alors que de nombreux packages cherchent la « meilleure » équation à partir de zéro, PyCC fournit un pipeline formel pour vérifier si une structure physique hypothétique est cohérente avec la dynamique mesurée, améliant ainsi la fiabilité et l'interprétabilité des applications de machine learning scientifique.