Data-Driven Prediction and Control of Hammerstein-Wiener Systems with Implicit Gaussian Processes

Each language version is independently generated for its own context, not a direct translation.

Imaginez que vous essayez de prédire le temps qu'il fera demain, mais au lieu d'avoir un modèle météo parfait, vous n'avez qu'une boîte noire et des observations passées. C'est le défi que rencontrent les ingénieurs lorsqu'ils tentent de contrôler des systèmes complexes (comme une usine chimique ou un robot) dont ils ne connaissent pas parfaitement les règles internes.

Voici une explication simple de cette recherche, basée sur l'article de Mingzhou Yin et Matthias A. Müller, en utilisant des analogies du quotidien.

1. Le Problème : La "Boîte Noire" vs. La "Recette de Cuisine"

Imaginez que vous avez une machine étrange (un système Hammerstein-Wiener).

L'entrée : Vous mettez un ingrédient brut (le signal d'entrée).
Le processus : Cet ingrédient passe par une première étape de transformation (comme hacher finement), puis traverse un moteur linéaire (comme cuire à feu constant), et enfin passe par une dernière étape de transformation (comme ajouter du sel ou du poivre) avant de sortir.
Le problème : Vous ne connaissez pas les recettes exactes des étapes de hachage et d'assaisonnement (les non-linéarités), mais vous savez que le moteur central fonctionne de manière logique et prévisible.

Les méthodes traditionnelles d'apprentissage automatique (les "boîtes noires") essaient de deviner le résultat final en regardant des milliers d'exemples, sans se soucier de la recette. C'est comme essayer de deviner le goût d'un plat en le goûtant au hasard, sans comprendre la cuisine. Cela fonctionne parfois, mais c'est imprécis et peu fiable.

2. La Solution : Le "Guide de Cuisine" Intelligent (Gaussien)

Les auteurs proposent une approche différente : l'Apprentissage par Processus Gaussien (GP) "Informatisé".

Au lieu de traiter la machine comme une boîte noire totale, ils disent : "Attendez, nous savons que la partie centrale est une recette linéaire simple. Utilisons cette connaissance pour guider notre apprentissage des parties mystérieuses."

Ils créent un prédicteur implicite. C'est un peu comme si vous aviez un chef cuisinier (le modèle) qui ne vous donne pas directement le plat fini, mais qui vous dit : "Si vous faites cela, et que le résultat est X, alors il doit y avoir eu cette transformation intermédiaire."

L'analogie du puzzle : Au lieu d'essayer de voir l'image complète d'un puzzle (le résultat final), ils assemblent les pièces en sachant que le centre du puzzle est une ligne droite parfaite. Cela réduit considérablement le nombre de combinaisons possibles pour les pièces manquantes (les non-linéarités).

3. L'astuce de la "Monotonie" (Les points virtuels)

Un défi majeur est que certaines transformations (comme l'assaisonnement) ont une règle simple : "Plus vous mettez de sel, plus c'est salé" (c'est ce qu'on appelle la monotonie).

Les ordinateurs, eux, ne savent pas toujours ça par défaut. Ils pourraient penser que mettre plus de sel rend le plat moins salé à un moment donné, ce qui est absurde.

Pour corriger cela, les auteurs ajoutent des "points de dérivée virtuels".

L'analogie : Imaginez que vous apprenez à un enfant à faire du vélo. Vous ne lui dites pas seulement "pédale", vous ajoutez des petits plots sur le sol (les points virtuels) et vous lui dites : "À cet endroit précis, la roue doit tourner vers l'avant, jamais vers l'arrière."
En mathématiques, cela force le modèle à respecter la règle "plus on pousse, plus ça avance", rendant la prédiction beaucoup plus sûre et réaliste.

4. Le Contrôle : Conduire avec un GPS qui anticipe

Une fois qu'ils ont appris à prédire le comportement de la machine, ils l'utilisent pour la contrôler (comme un pilote automatique).

Le défi : Dans les méthodes classiques, le pilote regarde la route, fait un pas, puis regarde à nouveau. Si la route est glissante (bruit), il peut faire des erreurs qui s'accumulent.
L'innovation : Leur méthode permet de voir plusieurs pas en avant d'un seul coup. Au lieu de prédire la prochaine seconde, ils prédisent les 4 prochaines secondes directement.
Le résultat : C'est comme si votre GPS ne vous disait pas juste "tournez à droite dans 100m", mais qu'il calculait tout le trajet jusqu'à la destination en tenant compte des embouteillages probables. Cela évite les erreurs d'anticipation et permet de respecter des contraintes de sécurité (ne pas dépasser une certaine vitesse ou température) avec une très haute probabilité.

5. Les Résultats : Plus rapide et plus précis

Dans leurs tests numériques (comme des simulations de réactions chimiques) :

Leurs "cuisiniers intelligents" (modèles structurés) ont fait beaucoup moins d'erreurs que les "cuisiniers aveugles" (modèles boîte noire).
Ils ont réussi à recréer les recettes cachées (les non-linéarités) avec une grande précision.
Le contrôle de la machine était plus stable et plus proche de l'idéal, même si cela demandait un peu plus de temps de calcul (comme un GPS très sophistiqué qui met quelques secondes de plus pour calculer l'itinéraire parfait).

En résumé

Cette recherche est comme passer d'un apprenti cuisinier qui goûte au hasard à un chef étoilé qui comprend la chimie de la cuisine. En combinant la connaissance des règles de base (la partie linéaire) avec l'apprentissage intelligent des exceptions (les non-linéarités), et en forçant le modèle à respecter le bon sens (la monotonie), ils ont créé un outil capable de prédire et de contrôler des systèmes complexes avec une précision et une sécurité supérieures.

C'est une victoire de l'intelligence artificielle "éclairée" par la physique, plutôt que de l'intelligence artificielle "aveugle".

Each language version is independently generated for its own context, not a direct translation.

1. Problématique et Contexte

L'article s'intéresse à la prédiction et au contrôle de systèmes Hammerstein-Wiener (H-W) à partir de données, sans connaissance explicite des modèles internes. Les systèmes H-W sont des modèles non linéaires blocs orientés composés d'une non-linéarité statique en entrée ( $\psi$ ), d'un système linéaire dynamique ( $G(q)$ ), et d'une non-linéarité statique en sortie ( $\phi^{-1}$ ).

Limites des approches existantes :

Méthodes basées sur le lemme fondamental de Willems (WFL) : Bien que efficaces pour les systèmes linéaires et certaines classes non linéaires (comme Hammerstein pur), elles échouent pour les systèmes H-W complets car elles ne peuvent pas gérer les non-linéarités de sortie (partie Wiener) de manière directe. De plus, elles nécessitent souvent un dictionnaire fini de fonctions de base, ce qui est difficile à obtenir et peut violer les conditions d'excitation persistante dans des espaces de signaux relevés.
Modèles Gaussian Process (GP) "Boîte noire" : Les approches GP-MPC (Model Predictive Control) classiques utilisent soit des modèles entièrement boîte noire, soit des structures additives. Elles ne capturent pas la structure physique spécifique H-W, ce qui conduit à des espaces de fonctions trop vastes et à une performance dégradée. De plus, la propagation de l'incertitude sur un horizon de prédiction multi-étapes avec des prédicteurs à un pas est complexe et souvent approximative.

Objectif : Développer une méthode de prédiction et de contrôle pilotée par les données qui intègre la structure H-W dans l'apprentissage, évitant ainsi les approximations lourdes de la propagation d'incertitude.

2. Méthodologie Proposée

Les auteurs proposent une approche basée sur un prédicteur implicite appris par Régression Gaussian Process (GP).

A. Structure du Prédicteur Implicite

Au lieu d'apprendre une fonction explicite $y = f(u)$ , la méthode apprend une relation implicite dérivée du lemme fondamental de Willems appliqué à la partie linéaire du système.

L'équation de caractérisation des trajectoires est reformulée sous la forme :
$0 = [\Gamma_1 \ \Gamma_2] \cdot \text{col}(\Psi(u), \Phi(y_p), \Phi(y_f)) - \bar{\Gamma}_2 e$
où $\Gamma_1$ et $\Gamma_2$ sont des paramètres linéaires, et $\Psi, \Phi$ sont les non-linéarités d'entrée et de sortie.
Cette formulation évite la composition explicite de fonctions non linéaires complexes, permettant d'encoder la structure H-W directement dans le noyau du GP.

B. Conception du Noyau Structuré (Structured Kernel)

Les non-linéarités $\psi(\cdot)$ et $\phi(\cdot)$ sont modélisées comme des processus gaussiens avec des noyaux spécifiques ( $k_u, k_y$ ).
Un noyau structuré est dérivé pour le prédicteur implicite global, combinant les paramètres linéaires ( $\Gamma_1, \Gamma_2$ ) et les noyaux des non-linéarités. Cela réduit l'espace des fonctions à apprendre à un sous-espace compatible avec la physique du système H-W.

C. Gestion de la Monotonie et Propagation d'Attente (Expectation Propagation)

Pour garantir que la non-linéarité de sortie $\phi^{-1}$ est bien définie (monotonie croissante), des points de dérivée virtuels sont ajoutés aux données d'entraînement.
L'algorithme Expectation Propagation (EP) est utilisé pour approximer la contrainte de monotonie ( $\phi' > 0$ ) via une fonction de vraisemblance probit, transformant le problème en une distribution gaussienne approchée.

D. Estimation des Hyperparamètres (JMAP-ML)

Les paramètres linéaires $\Gamma_1$ et $\Gamma_2$ sont traités comme des hyperparamètres.
Pour éviter le surapprentissage (overfitting) dû à la haute dimensionnalité de ces paramètres, un hyper-prior stable spline est imposé (inspiré de l'identification de systèmes linéaires stables).
L'estimation se fait via un problème JMAP-ML (Joint Maximum-A-Posteriori / Maximum-Likelihood), optimisant conjointement les paramètres du noyau et les paramètres linéaires.

E. Contrôle Prédictif (DDPC)

Le prédicteur est intégré dans un schéma de Contrôle Prédictif à Horizon Glissant (Receding Horizon Control).
Contrairement aux méthodes GP-MPC classiques qui propagent l'incertitude pas à pas, cette méthode fournit directement des prédictions multi-étapes, contournant le problème de la propagation d'incertitude non gaussienne.
Le problème d'optimisation minimise un coût espéré (incluant le biais et la variance de la prédiction) tout en respectant des contraintes de probabilité (chance constraints) sur les sorties, garanties par une inégalité de concentration basée sur la norme de Lipschitz de la non-linéarité.

3. Contributions Clés

Modélisation Implicite H-W : Première application d'un prédicteur implicite GP pour les systèmes H-W complets, intégrant à la fois les non-linéarités d'entrée et de sortie sans dictionnaire de fonctions de base fini.
Noyau Physique-Informé : Conception d'un noyau de covariance qui encode la structure bloc H-W, offrant une meilleure généralisation que les modèles boîte noire.
Intégration de la Monotonie : Utilisation de points de dérivée virtuels et de l'EP pour garantir la monotonie des non-linéarités de sortie, essentielle pour la stabilité et l'interprétabilité du modèle Wiener.
Estimation Robuste des Paramètres : Utilisation d'un hyper-prior stable spline pour estimer les paramètres linéaires, réduisant le risque de surapprentissage.
Contrôle Multi-Étapes Direct : Élimination de la nécessité de propager l'incertitude de manière itérative, simplifiant le problème de contrôle et améliorant la précision sur l'horizon.

4. Résultats Numériques

Les auteurs ont validé leur approche sur des exemples numériques comparant leur algorithme (Algorithme 2) à :

Un modèle GP boîte noire multi-étapes.
Un modèle GP boîte noire récursif (un pas).
Un prédicteur linéaire basé sur WFL (ignorant les non-linéarités).
Un MPC non linéaire utilisant le vrai modèle (référence idéale).

Résultats principaux :

Prédiction : L'algorithme proposé obtient les erreurs quadratiques moyennes (RMSE) les plus faibles sur tout l'horizon de prédiction. Les erreurs médianes sont réduites de 59,8 % à 70,5 % par rapport aux méthodes de comparaison. L'ajout des points de dérivée virtuels améliore significativement la reconstruction de la non-linéarité de sortie (monotonie).
Contrôle : Dans une simulation de contrôle de processus pH, l'algorithme proposé suit la référence avec une précision proche du MPC utilisant le vrai modèle, respectant les contraintes de sortie. Les méthodes boîte noire et linéaires échouent à capturer les pics de la référence en raison de leur incapacité à modéliser correctement les non-linéarités.
Complexité : La méthode est plus coûteuse en temps de calcul (entraînement et prédiction) que les modèles boîte noirs simples, en raison de l'optimisation des nombreux hyperparamètres et de l'algorithme EP. Cependant, les gains en précision et en robustesse justifient ce coût pour des applications critiques.

5. Signification et Conclusion

Cet article représente une avancée significative dans le domaine du contrôle piloté par les données pour les systèmes non linéaires complexes. En combinant la flexibilité des Processus Gaussiens avec la structure physique des systèmes Hammerstein-Wiener, les auteurs parviennent à créer un modèle "physique-informé" qui surpasse les approches purement boîte noire.

La capacité à garantir la monotonie des non-linéarités et à fournir des prédictions multi-étapes fiables sans propagation d'incertitude complexe rend cette méthode particulièrement adaptée pour des applications industrielles où la sécurité et la précision sont primordiales. Bien que la complexité computationnelle reste un défi, l'article ouvre la voie à des algorithmes d'optimisation plus efficaces et à des garanties de stabilité en boucle fermée pour les futurs travaux.