Structured Kolmogorov-Arnold Neural ODEs for Interpretable Learning and Symbolic Discovery of Nonlinear Dynamics

Cet article propose les SKANODEs, un cadre intégrant des réseaux de Kolmogorov-Arnold aux équations différentielles neuronales pour modéliser avec précision des dynamiques non linéaires complexes tout en découvrant automatiquement leurs lois physiques sous-jacentes sous forme d'expressions symboliques interprétables.

L'essentiel

Imaginez que vous essayez de comprendre comment fonctionne une voiture complexe, mais vous n'avez qu'un seul outil : un accéléromètre (un capteur qui mesure les secousses). Vous ne voyez ni le volant, ni la vitesse, ni la position de la voiture. Vous avez juste des vibrations.

C'est exactement le défi que rencontrent les ingénieurs et les scientifiques lorsqu'ils étudient des systèmes complexes comme les avions, les ponts ou même le climat. Ils ont des données brutes (des secousses), mais ils ont besoin de comprendre la "recette" cachée qui régit le mouvement.

Voici une explication simple de la méthode SKANODE proposée dans cet article, imaginée comme un détective scientifique.

1. Le Problème : Le "Boîte Noire"

Jusqu'à présent, les intelligences artificielles (IA) étaient comme des magiciens. Elles pouvaient prédire l'avenir avec une grande précision (par exemple, dire où sera l'avion dans 10 secondes), mais personne ne savait comment elles faisaient. C'était une "boîte noire". Si vous demandiez : "Pourquoi as-tu prédit ça ?", l'IA répondait : "Je ne sais pas, c'est juste ce que mes calculs disent."

Pour les ingénieurs, c'est dangereux. Ils ne veulent pas seulement prédire, ils veulent comprendre la physique (la gravité, la friction, la rigidité du métal) pour pouvoir réparer ou améliorer les systèmes.

2. La Solution : SKANODE (Le Détective avec une Carte au Trésor)

Les auteurs de l'article ont créé une nouvelle IA appelée SKANODE. Imaginez-la non pas comme un magicien, mais comme un détective très organisé qui possède deux super-pouvoirs :

Pouvoir A : La "Virtual Sensing" (Le Télépathie Physique)

Le détective ne se contente pas de regarder les secousses. Il utilise une "règle du jeu" très stricte (appelée modèle d'espace d'état structuré).

• L'analogie : Imaginez que vous entendez le bruit d'un moteur (l'accélération). Un humain sait instinctivement que si le moteur vibre fort, la voiture bouge (vitesse) et change de place (position).
• Ce que fait SKANODE : Même si on ne lui donne que les vibrations, il est contraint par les lois de la physique à reconstruire mentalement la vitesse et la position. Il ne devine pas n'importe quoi ; il "invente" une histoire cohérente où les secousses sont la conséquence logique d'un mouvement. C'est comme si l'IA apprenait à "sentir" la position et la vitesse sans avoir de capteurs pour les mesurer directement.

Pouver B : La "Découverte Symbolique" (Le Traducteur de Langage)

Une fois que le détective a compris le mouvement, il doit expliquer pourquoi cela se produit.

• L'analogie : La plupart des IA écrivent leur explication dans un langage incompréhensible (des millions de nombres). SKANODE, lui, utilise une technique spéciale (les réseaux KAN) qui lui permet de traduire ses calculs complexes en une équation mathématique simple, comme on en voit au lycée.
• Le résultat : Au lieu de dire "Le système bouge selon une fonction complexe", SKANODE dit : "Ah ! Ce système se comporte exactement comme une masse attachée à un ressort qui devient plus dur quand on l'étire trop (cubique) !" ou "Il y a une friction qui change selon la vitesse !"

3. Les Expériences : Trois Cas Réels

Les auteurs ont testé leur détective sur trois situations :

1. L'Oscillateur de Duffing (Le Ressort Capricieux) :

   • Le défi : Un système où la force de rappel n'est pas linéaire (plus on tire, plus ça résiste de manière exagérée).
   • Le succès : SKANODE a non seulement prédit le mouvement, mais il a écrit l'équation exacte, révélant le terme "cubique" caché. Les autres IA avaient prédit le mouvement, mais ne savaient pas expliquer la formule.

2. L'Oscillateur de Van der Pol (Le Battement de Cœur) :

   • Le défi : Un système avec un amortissement bizarre (il s'arrête et repart tout seul).
   • Le succès : SKANODE a découvert la formule précise de cet amortissement non linéaire, là où les autres modèles échouaient à trouver la logique.

3. L'Avion F-16 (Le Cas Réel) :

   • Le défi : Des données réelles d'un avion en vibration au sol. C'est du bruit, du chaos, et des pièces qui frottent les unes contre les autres.
   • Le succès : SKANODE a réussi à voir ce que les autres ne voyaient pas : un comportement "hystérétique" (comme un ressort qui reste un peu déformé après avoir été plié). Il a pu identifier ce phénomène physique caché dans les données brutes et l'expliquer par une équation.

4. Pourquoi est-ce une Révolution ?

Imaginez que vous essayez de réparer une montre.

• Les anciennes IA vous disent : "Si je tourne la vis A, la montre s'arrête." (C'est utile, mais vous ne comprenez pas le mécanisme).
• SKANODE vous dit : "La montre s'arrête parce que le ressort principal est cassé, et voici l'équation mathématique qui décrit exactement comment il se brise."

En résumé :
SKANODE est une IA qui ne se contente pas de prédire le futur (comme une boule de cristal), elle comprend les lois de la nature qui créent ce futur. Elle transforme des données brutes et bruyantes (des secousses) en une histoire claire et écrite (des équations) que les humains peuvent lire, vérifier et utiliser pour construire des choses plus sûres et plus intelligentes.

C'est le passage d'une IA qui "devine" à une IA qui "enseigne".

Résumé technique

1. Problématique et Contexte

La modélisation et la compréhension des systèmes dynamiques non linéaires constituent un défi majeur en science et en ingénierie. Bien que l'apprentissage profond (Deep Learning) ait démontré une grande capacité à capturer des comportements complexes, les modèles actuels souffrent de deux limitations critiques :

1. Manque d'interprétabilité physique : Les architectures comme les réseaux de neurones récurrents (RNN) ou les Équations Différentielles Ordinaires Neurales (NODE) fonctionnent souvent comme des « boîtes noires ». Elles apprennent des représentations latentes efficaces mais qui ne correspondent pas nécessairement à des grandeurs physiques réelles (déplacement, vitesse).
2. Difficulté de découverte d'équations sous observabilité partielle : Les méthodes existantes de découverte d'équations symboliques (comme SINDy) nécessitent généralement l'accès direct à toutes les variables d'état et à leurs dérivées, ainsi que des données propres. Or, dans les applications réelles (ingénierie structurelle, aérospatiale), les capteurs ne mesurent souvent que des grandeurs d'ordre supérieur (ex: accélérations) et les données sont bruitées.

L'objectif est donc de développer un cadre capable d'apprendre des dynamiques non linéaires à partir de mesures indirectes (accélérations), de récupérer des états latents physiquement interprétables (déplacements, vitesses) et d'extraire automatiquement les équations gouvernantes sous forme symbolique.

2. Méthodologie : SKANODE

Les auteurs proposent SKANODE (Structured Kolmogorov-Arnold Neural ODEs), un cadre unifié qui intègre trois composantes clés :

A. Modélisation par Espace d'État Structuré

Contrairement aux NODEs classiques qui apprennent des états latents abstraits, SKANODE impose une structure physique stricte à l'espace d'état latent $z(t)$.

• Pour un système d'ordre 2, l'état latent est défini explicitement comme $z(t) = [x(t), v(t)]^T$, où $x$ est le déplacement et $v$ la vitesse.
• La dynamique est modélisée par une équation différentielle ordinaire (ODE) structurée :
  $$\frac{d}{dt} \begin{bmatrix} x(t) \\ v(t) \end{bmatrix} = \begin{bmatrix} v(t) \\ h_\theta(x(t), v(t), u(t)) \end{bmatrix}$$
  où $h_\theta$ est une fonction apprise.
• Le modèle d'observation est directement lié à la physique : la sortie mesurée $y(t)$ (accélération) est égale à la dérivée de la vitesse, c'est-à-dire $y(t) = h_\theta(x, v, u)$.
• Avantage : Cette contrainte agit comme un biais inductif fort, forçant le modèle à apprendre des trajectoires de déplacement et de vitesse cohérentes même sans mesure directe de celles-ci (capteurs virtuels).

B. Intégration des Réseaux Kolmogorov-Arnold (KAN)

Au cœur de SKANODE se trouve l'utilisation des KANs, une architecture récente basée sur le théorème de représentation de Kolmogorov-Arnold.

• Contrairement aux MLP (Multi-Layer Perceptrons) qui utilisent des fonctions d'activation fixes, les KANs utilisent des fonctions d'activation paramétrables (splines) qui sont apprenables.
• Cela permet une approximation universelle flexible tout en conservant une structure propice à l'extraction symbolique.
• Des mécanismes de régularisation (norme L1 et entropie) sont appliqués sur les fonctions d'activation pour favoriser la parcimonie et l'interprétabilité.

C. Schéma d'Apprentissage en Deux Étapes

Le processus d'entraînement se déroule en deux phases distinctes :

1. Phase 1 (Approximation Universelle) : Un KAN ($KAN_{approx}$) est entraîné comme un approximateur universel au sein de la structure ODE. Il apprend la dynamique latente à partir uniquement des mesures d'accélération, récupérant ainsi des trajectoires de déplacement et de vitesse physiquement significatives.
2. Phase 2 (Découverte Symbolique et Calibration) : Les signaux latents récupérés sont utilisés comme entrée pour un second KAN ($KAN_{symbolic}$) configuré en mode symbolique. Ce réseau extrait automatiquement une expression mathématique fermée (forme symbolique) décrivant la dynamique. Cette expression symbolique est ensuite réinjectée dans le cadre ODE pour une calibration finale, améliorant la précision de la prédiction et la justesse de l'équation découverte.

3. Contributions Clés

• Découverte d'équations sous observabilité partielle : SKANODE est capable de découvrir les équations gouvernantes d'un système non linéaire en n'utilisant que des mesures d'accélération, sans nécessiter de dérivées numériques bruitées ni d'accès aux états complets.
• Interprétabilité physique garantie : Grâce à la structure d'espace d'état imposée, les variables latentes correspondent directement à des grandeurs physiques (déplacement, vitesse), contrairement aux NODEs classiques.
• Extraction symbolique end-to-end : Le cadre permet de passer d'une approximation numérique à une équation symbolique explicite au sein d'un pipeline différentiable, éliminant le besoin de pipelines post-hoc séparés.
• Preuve de théorème d'identifiabilité : Les auteurs démontrent théoriquement que, sous certaines conditions (richesse des données, capacité du modèle), SKANODE peut récupérer exactement la dynamique gouvernante et les états réels si la perte est nulle.

4. Résultats Expérimentaux

Le cadre a été évalué sur trois cas d'étude : deux oscillateurs non linéaires synthétiques et un jeu de données réel.

A. Oscillateur de Duffing (Synthétique)

• Système : Oscillateur amorti avec rigidité cubique ($x^3$).
• Résultats : SKANODE a récupéré avec succès l'équation symbolique incluant le terme cubique correct.
• Performance : Il a surpassé les NODEs augmentés (ANODE), les SONODEs, et les modèles classiques (ARX/NARX) en termes de précision de prédiction et de récupération des états latents (MSE et SSIM nettement supérieurs).
• Application Contrôle : Une étude de contrôle en boucle fermée a montré que l'utilisation de l'équation symbolique extraite permettait une linéarisation par retour d'état (Feedback Linearization) avec une précision équivalente à une inversion numérique, mais avec un temps de calcul 7 400 fois plus rapide (1,49 µs contre 11 ms), rendant le contrôle temps réel viable.

B. Oscillateur de Van der Pol (Synthétique)

• Système : Oscillateur avec amortissement non linéaire dépendant de la position ($\mu(1-x^2)\dot{x}$).
• Résultats : SKANODE a correctement identifié la structure d'amortissement non linéaire (terme quadratique couplé à la vitesse). Les modèles de base (ANODE/SONODE) ont échoué à capturer la dynamique ou à fournir des états interprétables.

C. Données Réelles : Avion F-16

• Contexte : Données de vibrations au sol d'un avion F-16 avec des charges utiles, mesurant les accélérations. L'interface aile-charge présente des non-linéarités complexes (hystérésis).
• Résultats :
  • SKANODE a prédit les accélérations avec une précision bien supérieure aux méthodes de référence (MSE de 0,0022 contre >0,5 pour les autres).
  • Découverte de l'hystérésis : Les portraits de phase des états latents récupérés par SKANODE ont révélé des boucles fermées caractéristiques d'un comportement hystérétique, confirmant les connaissances physiques du système.
  • Équation Symbolique : Le modèle a extrait une équation gouvernante incluant un état hystérétique latent, là où les méthodes numériques (SINDy) ont échoué à trouver une équation stable.

5. Signification et Conclusion

SKANODE représente une avancée significative dans l'apprentissage automatique pour les sciences physiques (Physics-Informed Machine Learning). En combinant les biais inductifs structurels (physique des systèmes d'ordre 2) avec la puissance expressive et symbolique des KANs, le cadre comble le fossé entre la précision des modèles de boîte noire et la transparence requise pour la prise de décision scientifique et l'ingénierie.

Points forts principaux :

• Robustesse au bruit : Fonctionne bien avec des données bruitées et partielles.
• Utilité pratique : Les équations symboliques extraites ne sont pas seulement descriptives mais utilisables pour le contrôle temps réel et la maintenance prédictive.
• Généralité : Applicable à une large gamme de systèmes dynamiques non linéaires en ingénierie structurelle, aéroélasticité et dynamique des fluides.

Ce travail ouvre la voie à une nouvelle génération de modèles d'IA capables de « comprendre » la physique sous-jacente des systèmes complexes à partir de capteurs limités, facilitant ainsi le diagnostic, la conception et le contrôle dans des environnements réels.