🤖 machine learning

LeARN: Learnable and Adaptive Representations for Nonlinear Dynamics in System Identification

Le document présente LeARN, un nouveau cadre d'identification de systèmes qui exploite l'apprentissage méta et un réseau de neurones profonds léger pour apprendre et adapter automatiquement les fonctions de base à partir des données, surmontant ainsi les limitations liées aux connaissances spécifiques au domaine des méthodes SINDy traditionnelles tout en atteignant des performances compétitives dans la modélisation de systèmes dynamiques non linéaires.

Auteurs originaux : Arunabh Singh, Joyjit Mukherjee

Publié 2026-06-02

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Arunabh Singh, Joyjit Mukherjee

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'apprendre à un robot comment piloter un drone par une journée venteuse. Pour y parvenir en toute sécurité, le robot a besoin d'un « livre de règles » qui explique exactement comment le vent, les moteurs et le poids du drone interagissent pour le faire bouger.

L'ancienne méthode : Le problème du « dictionnaire pré-écrit »

Pendant longtemps, les scientifiques ont utilisé une méthode appelée SINDy pour écrire ce livre de règles. Considérez SINDy comme un étudiant essayant de résoudre un problème mathématique en utilisant un dictionnaire pré-écrit de mots (comme « sinus », « cosinus » ou des « polynômes »).

La bonne nouvelle : Si le problème est simple, ce dictionnaire fonctionne très bien. L'étudiant peut trouver les bons mots, écrire une phrase claire et expliquer exactement pourquoi le drone se déplace de cette façon. C'est très transparent.
La mauvaise nouvelle : L'étudiant a besoin qu'un expert humain choisisse le dictionnaire approprié au préalable. Si le vent se comporte d'une manière étrange et nouvelle qui n'est pas dans le dictionnaire, l'étudiant est bloqué. Il ne peut pas inventer de nouveaux mots ; il ne peut utiliser que ceux qui lui ont été donnés. Cela rend le système rigide et difficile à adapter aux situations réelles et désordonnées.

La nouvelle méthode : LeARN (L'« étudiant inventif »)

Les auteurs de cet article ont créé un nouveau système appelé LeARN (Learnable and Adaptive Representations for Nonlinear Dynamics).

Au lieu de donner à l'étudiant un dictionnaire fixe, LeARN lui donne un carnet de notes vierge et un stylo super intelligent et flexible.

Apprendre à partir de zéro : LeARN n'a pas besoin qu'un humain lui dise quels mots utiliser. Il observe les données (les journaux de vol du drone) et apprend à écrire ses propres mots (fonctions mathématiques) qui décrivent parfaitement ce qui se passe.
L'astuce du « Meta-Learning » : Pour s'assurer que cet étudiant soit prêt pour n'importe quelle condition de vent (pas seulement celles sur lesquelles il s'est exercé), les auteurs ont utilisé une technique appelée Meta-Learning (apprentissage métacognitif).
- Analogie : Imaginez entraîner un athlète non pas seulement à courir sur une piste, mais à apprendre comment apprendre à courir sur du sable, de la glace ou de la boue. L'athlète s'entraîne sur de nombreuses surfaces différentes afin que, lorsqu'il est confronté à une nouvelle surface qu'il n'a jamais vue, il puisse instantanément ajuster sa façon de courir sans repartir de zéro.
- Dans l'article, LeARN s'est exercé sur diverses vitesses de vent (du calme au très fort) afin de pouvoir s'adapter instantanément lorsque le drone fait face à un nouveau motif de vent.

Comment cela fonctionne (Le « moteur en deux parties »)

LeARN divise le problème en deux parties, comme une équipe de deux personnes :

Le Créateur (le DNN) : Un réseau de neurones profonds léger qui invente les « mots » (fonctions de base) nécessaires pour décrire la physique. Il est flexible et peut créer des formes complexes pour s'ajuster aux données.
L'Éditeur (la matrice de sélection) : Un autre réseau qui décide quels de ces mots inventés sont réellement importants. Il garde le livre de règles simple en ignorant le bruit, garantissant que le modèle final reste facile à comprendre (interprétable).

Les résultats : Est-ce que cela fonctionne ?

L'équipe a testé LeARN sur un ensemble de données célèbre appelé Neural Fly, qui implique un drone effectuant un parcours en huit sous différentes conditions de vent.

Le défi : Les mouvements du drone étaient complexes et oscillatoires (ondulatoires), ce qui est difficile à modéliser.
La comparaison : Ils ont comparé LeARN à l'ancienne méthode SINDy.
- SINDy a eu du mal lorsque le vent est devenu très fort ou a changé de manière inattendue parce que son « dictionnaire » n'était pas construit pour ces conditions spécifiques.
- LeARN s'est adapté rapidement. À mesure que le problème devenait plus complexe (en ajoutant plus de variables comme la rotation et la vitesse ensemble), LeARN a commencé à être meilleur que SINDy.
Le verdict : LeARN a obtenu des taux d'erreur très proches de, et parfois meilleurs que, la méthode traditionnelle, mais sans avoir besoin qu'un expert humain pré-sélectionne les formules mathématiques.

Résumé

En bref, LeARN est un système qui apprend à un robot à écrire son propre livre de règles physiques à la volée. Au lieu de compter sur un humain pour deviner les bonnes formules mathématiques, il apprend les formules directement à partir des données et utilise une technique spéciale de « l'apprentissage de l'apprentissage » pour rester flexible lorsque l'environnement change. Il comble le fossé entre la flexibilité de l'IA moderne et la clarté des mathématiques traditionnelles, rendant les robots plus aptes à gérer le chaos imprévisible du monde réel.

Résumé technique : LeARN – Représentations apprenables et adaptatives pour la dynamique non linéaire

Énoncé du problème
L'identification de systèmes, c'est-à-dire la dérivation de modèles mathématiques à partir de données d'entrée-sortie, fait face à des défis importants pour les systèmes dynamiques non linéaires, particulièrement en robotique opérant dans des environnements non structurés. Bien que les modèles traditionnels basés sur la physique offrent une interprétabilité, ils peinent face aux non-linéarités complexes, aux perturbations inconnues et aux entrées de grande dimension. Les méthodes fondées sur les données comme SINDy (Sparse Identification of Nonlinear Dynamics) ont émergé comme une solution, en synthétisant la dynamique en combinaisons linéaires interprétables de fonctions de base. Cependant, SINDy dépend fortement de l'expertise du domaine pour construire une bibliothèque prédéfinie de fonctions de base (par exemple, des termes polynomiaux ou trigonométriques). Cette dépendance limite l'adaptabilité lorsqu'on est confronté à des dynamiques inconnues ou évolutives. Inversement, les approches d'apprentissage profond (par exemple, les approximateurs universels, les PINNs) manquent de l'interprétabilité structurelle requise pour les applications critiques en matière de sécurité. Les tentatives existantes pour apprendre des transformations de coordonnées latentes sacrifient souvent l'interprétabilité des équations dynamiques qui en résultent.

Méthodologie
Les auteurs proposent LeARN (Learnable and Adaptive Representations for Nonlinear Dynamics), un cadre conçu pour combler le fossé entre l'expressivité de l'apprentissage profond et l'interprétabilité de SINDy sans nécessiter de connaissances préalables du domaine.

Bibliothèque de bases apprenables : Contrairement à SINDy, qui utilise une bibliothèque fixe $\Theta(\cdot)$ , LeARN paramètre la bibliothèque de fonctions de base à l'aide d'un réseau de neurones profonds (DNN) léger, noté $\Theta(X; \psi)$ . Ce réseau apprend la forme fonctionnelle des fonctions de base directement à partir des données dans l'espace d'état physique.
Sélection de caractéristiques : Le cadre décompose la dynamique du système $\dot{x} \approx \Theta(X; \psi)E(X; \phi)^T$ , où $E(X; \phi)$ est un second DNN agissant comme une matrice de sélection de caractéristiques. Cette structure imite la régression parcimonieuse de SINDy, permettant au modèle d'identifier quelles caractéristiques d'entrée contribuent de manière dominante à la dynamique, préservant ainsi l'interprétabilité structurelle concernant l'importance des caractéristiques, même si la forme fonctionnelle des fonctions de base est apprise.
Méta-apprentissage pour l'adaptation : Pour gérer les variations des conditions de bruit et les dynamiques de système évolutives, LeARN emploie le MAML (Model-Agnostic Meta-Learning). Le processus de méta-entraînement optimise les paramètres initiaux ( $\psi, \phi$ ) à travers une distribution de tâches (par exemple, différentes conditions de vent). Cela garantit que le modèle possède une initialisation robuste permettant une adaptation rapide à des environnements non vus via quelques étapes de gradient lors du déploiement en ligne.
Adaptation en ligne : Lors du déploiement, le modèle s'adapte à de nouvelles tâches (par exemple, de nouvelles vitesses de vent) en utilisant une perte d'adaptation qui inclut un régularisateur pour imposer la continuité de Lipschitz sur les entrées d'état, assurant ainsi la stabilité.

Principales contributions

Élimination des bibliothèques prédéfinies : LeARN supprime l'exigence d'une bibliothèque de fonctions prédéfinie et de l'expertise du domaine, apprenant les fonctions de base directement à partir des données.
Adaptabilité via le méta-apprentissage : En apprenant par méta-apprentissage la bibliothèque des fonctions de base, le cadre permet une adaptation rapide aux changements de dynamique et aux conditions bruitées.
Interprétabilité équilibrée : L'utilisation de DNN légers permet de modéliser des non-linéarités complexes tout en maintenant l'interprétabilité grâce à la structure de parcimonie de la matrice de sélection de caractéristiques apprise, identifiant ainsi les caractéristiques d'entrée dominantes.

Résultats expérimentaux
Le cadre a été validé sur le jeu de données Neural Fly, un benchmark exigeant impliquant le vol d'un quadrotor sous diverses conditions de vent. Les auteurs ont comparé LeARN à SINDy à travers trois formulations de la dynamique du quadrotor :

Dynamique de translation partielle.
Dynamique d'attitude partielle.
Dynamique complète du système (combinant translation et attitude).

Constatations de performance :

Généralisation : LeARN a démontré une performance de généralisation compétitive par rapport à SINDy.
Passage à l'échelle de la dimensionnalité : Une découverte clé est que l'écart de performance entre LeARN et SINDy se réduit à mesure que la dimensionnalité de l'espace des caractéristiques d'entrée augmente. Pour la dynamique complète du système (dimension plus élevée), LeARN a atteint une différence d'erreur de généralisation de seulement 0,001811 par rapport à SINDy, suggérant une meilleure scalabilité pour les systèmes complexes et de haute dimension.
Comparaison qualitative : Des comparaisons visuelles de la dynamique complète sous différentes conditions de vent (par exemple, 35wind, 70wind, 100wind) ont montré que LeARN capture efficacement l'évolution dynamique, correspondant à la vérité terrain et aux performances de SINDy.

Signification et affirmations
L'article positionne LeARN comme une étape vers la découverte autonome de systèmes dynamiques. Sa principale importance réside dans sa capacité à découvrir les principes directeurs de systèmes complexes sans interventions extensives liées au domaine spécifique. Les auteurs affirment que LeARN offre une voie vers des systèmes robotiques robustes, polyvalents et adaptatifs capables d'opérer en toute sécurité dans des environnements réels et non structurés. En apprenant directement les fonctions de base, le cadre répond aux limites de scalabilité et de flexibilité de SINDy tout en préservant l'interprétabilité nécessaire aux applications critiques en matière de sécurité. Ce travail suggère un potentiel futur dans la surveillance de l'état de santé des systèmes via l'identification de données et la modélisation des dynamiques résiduelles intrinsèques.