Résumé technique : Dynamiques non linéaires robustement inversibles et le BiLipREN

1. Formulation du problème

L'article traite du défi consistant à définir et construire des systèmes dynamiques non linéaires robustement inversibles. Bien que l'inversion de système soit fondamentale en théorie de la commande (par exemple, la compensation par anticipation, la commande par modèle interne) et en apprentissage automatique (par exemple, les flux de normalisation pour la modélisation générative), les définitions classiques d'inversibilité ne parviennent souvent pas à garantir la robustesse face aux perturbations de signaux et aux écarts d'état initial.

Les approches existantes de l'inversion non linéaire reposent souvent sur l'analyse de la dynamique nulle ou sur des formes normales, qui peuvent être difficiles à construire et ne quantifient pas directement les gains incrémentaux entrée-sortie de la carte inverse. De plus, bien que les systèmes linéaires permettent des factorisations type minimum de phase/passe-tout (interne-externe), étendre ces concepts à des systèmes non linéaires avec une stabilité garantie et des gains bornés reste un problème ouvert. Les auteurs visent à :

1. Définir une notion d'inversibilité robuste où les systèmes direct et inverse sont tous deux contractants et bi-Lipschitiens.
2. Construire une paramétrisation par réseau de neurones différentiable qui garantit ces propriétés par conception.
3. Démontrer l'utilité de ce cadre dans la commande par modèle interne (IMC), l'apprentissage de fonctions de coût de substitution pour l'optimisation de trajectoires, et la modélisation de trajectoires génératives.

2. Méthodologie

A. Définition de l'inversibilité robuste

Les auteurs définissent un système comme étant robustement inversible s'il possède une inverse causale telle que le système direct et le système inverse sont tous deux :

• Contractants : Les trajectoires d'état convergent exponentiellement vers une trajectoire unique pour une entrée donnée, quels que soient les conditions initiales.
• Bi-Lipschitiens : La fonction directe et son inverse ont tous deux des gains incrémentaux entrée-sortie bornés.

Cela implique que des perturbations bornées dans la sortie (ou un écart d'état initial) entraînent des erreurs bornées dans l'entrée reconstruite, et vice versa. L'article établit que si un système est $\nu$-Lipschitien et contractant, et que son inverse est $1/\mu$-Lipschitien et contractant, le système est robustement inversible avec des bornes explicites sur la propagation de l'erreur.

B. Construction par composition de couches

Pour construire de tels systèmes, l'article propose une approche compositionnelle utilisant deux types de couches :

1. Couches dynamiques monotones Entrée/Sortie (E/S) fortement structurées : Ce sont des réseaux d'équilibre récurrents (REN) satisfaisant une inégalité de dissipation spécifique. Un système est $(\sigma, \eta)$-fortement monotone E/S si $2\langle \Delta y, \Delta u \rangle \ge \sigma \|\Delta u\|^2 + \eta \|\Delta y\|^2$. Cette propriété garantit que le système est bi-Lipschitien et inversible, l'inverse étant également fortement monotone E/S.
2. Couches orthogonales statiques et dynamiques :
   • Couches orthogonales statiques : Des applications affines avec des matrices de poids orthogonales ($P^\top P = I$). Elles sont bi-Lipschitiennes avec un gain de 1.
   • Couches orthogonales dynamiques : Des systèmes linéaires invariants dans le temps avec des matrices d'espace d'état orthogonales, agissant comme des filtres passe-tout (internes). Bien que leur inverse causal soit instable, ils sont stables en temps inverse, permettant une inversion non causale sur des lots finis.

En composant ces couches, les auteurs créent une Factorisation Interne-Externe Non Linéaire : $P = O(z) \circ G$, où $O(z)$ est une couche orthogonale dynamique (passe-tout) et $G$ est un système robustement inversible (minimum de phase).

C. L'architecture BiLipREN

La contribution centrale est le Réseau d'Équilibre Récurrent Bi-Lipschitien (BiLipREN).

• Structure : Une composition profonde de couches orthogonales statiques et de couches REN fortement monotones E/S : $G = O_K \circ M_K \circ \dots \circ O_1 \circ M_1 \circ O_0$.
• Paramétrage : Le modèle utilise un paramétrage différentiable (basé sur les transformations de Cayley pour les matrices orthogonales et les matrices de taux d'apport pour les couches monotones) qui garantit que les contraintes d'inversibilité robuste sont respectées pour n'importe quel paramètre appris.
• Inverse Analytique : L'inverse d'un BiLipREN est aussi un BiLipREN, calculable analytiquement en inversant l'ordre des couches et en inversant chaque composante. Cela évite le recours à des solveurs itératifs lors de l'inférence du modèle inverse.

3. Contributions Clés

1. Cadre Théorique : Introduction d'une définition de l'inversibilité robuste basée sur la contraction et le caractère bi-Lipschitien, fournissant des conditions suffisantes tractables pour les modèles d'état non linéaires.
2. Classe de Modèle (BiLipREN) : Proposition d'une nouvelle classe de réseaux de neurones récurrents qui sont robustement inversibles par conception. Le modèle admet une inverse analytique qui partage les mêmes propriétés structurelles.
3. Factorisation Non Linéaire : Démonstration que la composition de couches orthogonales dynamiques et de systèmes robustement inversibles produit une factorisation interne-externe non linéaire, généralisant la factorisation spectrale linéaire classique.
4. Applications :
   • Commande par Modèle Interne (IMC) : Application de la factorisation pour concevoir des contrôleurs IMC pour des systèmes non linéaires avec délais, garantissant la contraction en boucle fermée et une erreur statique nulle.
   • Apprentissage de Fonction de Coût de Substitution : Utilisation des BiLipREN pour modéliser les coûts d'optimisation de trajectoire. La propriété bi-Lipschitienne garantit que la fonction de coût de substitution satisfait la condition de Polyak-Łojasiewicz (PL), garantissant la convergence linéaire globale de la descente de gradient et permettant le calcul direct du minimum global via le modèle inverse.
   • Modélisation Générative : Utilisation du modèle comme un flux de normalisation pour des signaux à dimension infinie, transformant un bruit blanc gaussien en distributions de trajectoires complexes.

4. Résultats Expérimentaux

L'article valide le cadre à travers trois exemples illustratifs :

• Inversion Robuste (Masse-Ressort-Amortisseur) :

  • Un BiLipREN a été entraîné pour modéliser un système non linéaire masse-ressort-amortisseur à 4 masses.
  • Les résultats ont montré que, bien que le BiLipREN impose des contraintes structurelles plus fortes qu'un REN contractant standard (C-REN), il atteint une précision de modélisation directe comparable.
  • Crucialement, le BiLipREN a fourni un modèle inverse explicite sans entraînement supplémentaire. L'inverse est resté robuste aux attaques adverses, alors que l'assouplissement des bornes de Lipschitz ($\mu$) améliorait la précision du modèle direct mais dégradait la robustesse de l'inverse, soulignant un compromis.

• Factorisation Interne-Externe Non Linéaire :

  • Le modèle a réussi à apprendre la factorisation d'un système à délai stable non linéaire ($y_{t+1} = 0.9 \tanh(y_t) + u_{t-3}$).
  • La couche orthogonale dynamique apprise a approximé avec précision le délai de 3 étapes (composante passe-tout), tandis que la composante externe a capturé la dynamique minimum de phase.

• Commande par Modèle Interne (Système de Quadruple Réservoir) :

  • Un contrôleur IMC a été conçu pour un système de quadruple réservoir avec délai en utilisant la factorisation apprise.
  • Le contrôleur a atteint une erreur statique nulle pour les références et les perturbations par échelon.
  • Les expériences ont montré que si de petites valeurs de $\mu$ amélioraient l'ajustement du modèle, elles augmentaient la sensibilité au bruit dans l'entrée de commande. Une valeur de $\mu$ modérée offrait le meilleur équilibre entre performance de suivi et lissage des actions de commande.

• Apprentissage de Fonction de Coût de Substitution (Évitement d'Obstacles) :

  • Dans un problème d'évitement d'obstacles en 2D, un BiLipREN a été utilisé pour apprendre une fonction de coût de substitution à partir de données limitées.
  • Contra à les surrogats LSTM ou C-REN, qui souffraient de minima locaux spécieux et d'une sensibilité à l'initialisation lors de la descente de gradient, le substitut BiLipREN a permis le calcul direct du minimum global via son inverse analytique.
  • La trajectoire résultante était fluide, évitait les obstacles et surpassait le meilleur échantillon du jeu de données d'entraînement.

• Modélisation Générative :

  • Le modèle a été entraîné pour générer des trajectoires pour le problème d'évitement d'obstacles.
  • Les variables latentes projetées via le modèle inverse présentaient une autocorrélation négligeable et correspondaient à une distribution gaussienne standard (vérifié via des graphiques Q-Q), confirmant que le modèle a réussi à apprendre la distribution des données.

5. Signification et Revendications

L'article affirme que le cadre BiLipREN comble le fossé entre les concepts de la théorie de la commande classique (systèmes minimum de phase, factorisation interne-externe, commande robuste) et l'apprentissage profond moderne (flux de normalisation, réseaux d'équilibre).

• Robustesse : En imposant le caractère bi-Lipschitien et la contraction, le modèle garantit que la prédiction et la reconstruction sont toutes deux robustes aux perturbations, une propriété souvent absente des inverses de réseaux de neurones standards.
• Garanties d'Optimisation : Dans le contexte de l'apprentissage de coût de substitution, le cadre fournit des garanties théoriques (condition PL) pour la convergence globale, répondant au problème de la non-convexité dans l'optimisation boîte noire.
• Généralité : L'approche unifie les mappings de vecteurs de dimension finie (flux de normalisation) et le traitement de signaux de dimension infinie (factorisation spectrale) sous un cadre unique de systèmes dynamiques.
• Utilité Pratique : La capacité d'inverser analytiquement des modèles récurrents non linéaires complexes sans solveurs itératifs ouvre de nouvelles possibilités pour le contrôle en temps réel et l'optimisation de trajectoire efficace.

Les auteurs concluent que bien que les contraintes structurelles du BiLipREN soient fortes, elles n'empêchent pas une modélisation de haute performance, comme en témoignent les résultats compétitifs des sections expérimentales. Le cadre offre un moyen rigoureux d'intégrer les contraintes de stabilité et d'inversibilité directement dans l'architecture du réseau de neurones.