Learning a Contracting KKL-observer with Local Optimal Guarantees

Technische Samenvatting: Het Leren van een Contracterende KKL-observer met Lokale Optimale Garanties

Probleemstelling
Het Kazantzis-Kravaris-Luenberger (KKL)-kader biedt een algemene aanpak voor niet-lineaire toestandschatting door systeemdynamica te immergeren in een stabiele latente ruimte. Hoewel recente vooruitgang machine learning heeft gebruikt om de KKL-transformatie te benaderen (het oplossen van de bijbehorende niet-lineaire partiële differentiaalvergelijking), blijft een fundamentele uitdaging bestaan: de selectie van de latente dynamica $\phi$. In de praktijk worden deze dynamica vaak heuristisch gekozen (bijvoorbeeld lineaire diagonale systemen), wat weliswaar globale stabiliteit kan waarborgen, maar vaak leidt tot suboptimale prestaties wat betreft de steady-state gevoeligheid voor meetruis en niet-gemodelleerde verstoringen. Het kernprobleem dat wordt aangepakt, is hoe de latente dynamica systematisch kan worden ontworpen om lokale optimaliteit te bereiken zonder afbreuk te doen aan de globale contractiegaranties die inherent zijn aan de KKL-theorie.

Methodologie
De auteurs stellen een op leren gebaseerde strategie voor die de globale robuustheid van KKL-observatoren synthetiseert met de lokale optimaliteit van de Minimum Energy Estimator (MEE), ook wel bekend als de Mortensen-observer. De methodologie verloopt in drie hoofdfasen:

1. Theoretische Karakterisering van Lokaal Gedrag:
   Het artikel leidt een eerste-orde benadering af van de gereconstrueerde toestandsdynamica $\dot{\hat{x}}$ voor een algemene KKL-observer. Deze analyse toont aan dat het lokale gedrag wordt bepaald door een effectieve versterkingsmatrix $\Psi(\hat{x})$. De auteurs demonstreren dat, opdat de observer het optimale lokale gedrag van een Mortensen-filter kan nabootsen, deze versterking moet overeenkomen met een specifieke optimale term $\Psi_{opt}(\hat{x})$. Deze optimale term wordt afgeleid uit de oplossing van een Partiële Differentiaal Riccati-vergelijking (PDRE) die geassocieerd is met de Informatiematrix $P(x)$.

2. Leerstategie met Structurele Beperkingen:
   Om dit theoretisch optimale gedrag te realiseren, maken de auteurs gebruik van Deep Learning om drie sleutelcomponenten te benaderen: de immersiekaart $\hat{T}$, de reconstructiekaart $\hat{\tau}$ en de latente dynamica $\hat{\phi}$.

   • Contractiegarantie: Om globale stabiliteit te waarborgen (Vereiste R2), worden de latente dynamica $\hat{\phi}$ geparametriseerd met NodeRENs (Neurale Gewone Differentiaalvergelijkingen met specifieke structurele beperkingen), die wiskundig de contractie-eigenschap per ontwerp afdwingen.
   • Optimaliteitsbenadering: Aangezien het oplossen van de PDRE voor $P(x)$ onuitvoerbaar is voor algemene niet-lineaire systemen, wordt eerst een Multi-Layer Perceptron (MLP) getraind om de inverse informatiematrix $\hat{P}^{-1}$ te benaderen door het residu van de getransformeerde PDRE te minimaliseren.
   • Gecombineerde Optimalisatie: De immersiekaart, reconstructiekaart en latente dynamica worden gezamenlijk getraind om een samengestelde verliesfunctie te minimaliseren. Deze verliesfunctie omvat:
     • $\ell_{pde}$: Het straffen van afwijkingen van de KKL-PDE.
     • $\ell_{inv}$: Het waarborgen dat de reconstructiekaart een linksinvers is van de immersiekaart.
     • $\ell_{opt}$: Het dwingen van de effectieve versterking van de geleerde observer om overeen te komen met de optimale versterking die is afgeleid uit de benaderde $\hat{P}^{-1}$.

Belangrijkste Bijdragen

• Voorwaarde voor Lokale Optimaliteit: Het artikel leidt een specifieke voorwaarde af voor de latente dynamica, zodat een KKL-observer lokaal het gedrag van een Minimum Energy Estimator (Mortensen-observer) nabootst wanneer de schattingsfout klein is.
• Op Contractie Gebaseerd Leerkader: Het introduceert een methodologie om KKL-observatoren te leren met behulp van neurale netwerken die structureel contractie afdwingen (via NodeRENs), waardoor globale robuustheid wordt gegarandeerd terwijl lokale prestaties worden geoptimaliseerd.
• Benadering van Optimale Filtering: Het werk overbrugt de kloof tussen theorie voor optimale filtering (die doorgaans het oplossen van oneindig-dimensionale HJB-vergelijkingen vereist) en praktisch observerontwerp door data-gedreven benadering van de Informatiematrix en de bijbehorende optimale versterkingsstructuur.

Resultaten
De voorgestelde methodologie werd gevalideerd via numerieke simulaties op twee niet-lineaire benchmarks: de Van der Pol-oscillator en de omgekeerde Duffing-oscillator.

• Globale Stabiliteit: De geleerde observatoren toonden robuuste convergentie vanuit willekeurige beginvoorwaarden, toegeschreven aan de afgedwongen contractie-eigenschap van de latente dynamica.
• Omgaan met Ruis: De schatters volgden de systeemtoestanden nauwkeurig in aanwezigheid van significante meetruis.
• Aanpasbaarheid: Simulaties toonden aan dat door de wegingsmatrices ($R$) in de trainingsverliesfunctie aan te passen, het gedrag van de observer kon worden afgesteld. Een kleinere $R$ leidde ertoe dat de observer de ruizige dynamica nauwkeuriger volgde, terwijl een grotere $R$ ervoor zorgde dat deze meer leunde op het systeemmodel, wat het vermogen demonstreert om een afweging te maken tussen modeltrouw en ruisonderdrukking.

Betekenis en Beweringen
De auteurs beweren dat dit werk een "geprincipieerde karakterisering" biedt van latente dynamica voor KKL-observatoren, en voorbijgaat aan heuristische selectie. Door globale contractiegaranties te combineren met een leerdoel dat lokale optimaliteit nastreeft, biedt de voorgestelde strategie een systematische manier om observatoren te ontwerpen die zowel robuust zijn ten opzichte van initialisatie als op een gecontroleerde manier gevoelig voor ruis. Het artikel positioneert deze resultaten bescheiden als een demonstratie op academische benchmarks, met de opmerking dat toekomstig werk zal focussen op het vaststellen van benaderingsgrenzen voor de geleerde modellen en het uitbreiden van de theorie naar discrete-tijddynamica. De aanpak wordt gepresenteerd als een oplossing voor systemen waar analytische oplossingen voor de KKL-PDE onbereikbaar zijn en standaardobservatoren moeite kunnen hebben met ruisprestaties.