Learning Stable Controlled Dynamical Systems via Input-Contraction Neural Differential Models

Technische Samenvatting: Het leren van stabiele gecontroleerde dynamische systemen via Input-Contractie Neurale Differentiaalmodellen

Probleemstelling
Het artikel behandelt een kritieke beperking in data-gedreven systeemidentificatie: het onvermogen van bestaande Neurale Gewone Differentiaalvergelijkingen (Neural ODEs) om structurele stabiliteit te garanderen bij het modelleren van niet-autonome systemen die onderhevig zijn aan tijdvariërende controle-inputs. Hoewel Neural ODEs succesvol autonome vectorenvelden hebben geparametriseerd, missen hun uitbreidingen naar gecontroleerde systemen (bijv. Neural CDEs, ICODE) vaak een rigoureuze behandeling van externe inputs en behandelen ze deze vaak heuristisch. Bijgevolg missen deze modellen strikte garanties voor closed-loop stabiliteit onder generieke, niet-verdwijnende inputsequenties. Deze tekortkoming leidt tot foutaccumulatie, staatdivergentie en extreme gevoeligheid voor externe perturbaties tijdens langdurige rollouts, wat ze onbetrouwbaar maakt voor veiligheidskritische toepassingen in robotica en industriële besturing.

Methodologie: Het Input-Contractie Neurale Differentiaalmodel (ICNDM)
De auteurs stellen het Input-Contractie Neurale Differentiaalmodel (ICNDM) voor, een framework ontworpen om continue-tijd representaties van gecontroleerde dynamische systemen te leren, terwijl het inkrementele exponentiële convergentie waarborgt. De methodologie integreert drie kerncomponenten:

1. Input-Embedded Architectuur: In tegen tegenstelling tot standaard concatenatie-benaderingen, gebruikt ICNDM een specifieke neurale input-encoder, $E_\phi(u)$, om ruwe controle-inputs naar een latente ruimte te mappen. Dit ontkoppelt hoogfrequente controlesignalen van de directe algebraïsche koppeling met de staatvector, wat de variaties in gradiënten tijdens stijve ODE-integratie stabiliseert.
2. Gezamenlijke Neurale Metriek Optimalisatie: Het framework leert gelijktijdig het niet-autonome neurale vectorveld, $f_\theta(x, E_\phi(u))$, en een gegeneraliseerde Riemanniaanse contractie-metriek, $M_\omega(x)$. Om te waarborgen dat de metriek uniform positief definit blijft, leggen de auteurs een structurele beperking op via een gelokaliseerde Cholesky-decompositie ($M_\omega(x) = L_\omega(x)L_\omega(x)^T + \epsilon I$).
3. Geregulariseerde Doelfunctie: De trainingsdoelstelling combineert een standaard trajectvoorspellingsverlies met twee structurele regularisaties:
   • Een soft-spectrale barrièrestraf ($L_c$) die de contractievoorwaarde $\Psi(x, u) \preceq -\beta M_\omega(x)$ afdwingt, waarbij $\Psi$ de gegeneraliseerde niet-autonome contractiematrix is die de Jacobiaan van de staat en de tijdsafgeleide van de metriek omvat.
   • Een Frobenius-norm regularisator ($L_u$) op de input-Jacobiaan om de gevoeligheid van het vectorveld voor hoogfrequente inputvariaties te beperken.

Theoretische Bijdragen
Het artikel biedt formele theoretische garanties voor de voorgestelde architectuur:

• Inkrementele Exponentiële Convergentie: Onder de aanname dat de spectrale contractieverlies wordt geminimaliseerd, bewijzen de auteurs dat twee trajecten die door dezelfde inputsequentie worden gedreven, exponentieel convergeren, waarbij de foutmarge afneemt als $e^{-\beta t/2}$.
• Input-to-State Contraction (ISC): De auteurs leiden voldoende voorwaarden af voor input-to-state contractie onder begrensde externe verstoringen. Ze stellen vast dat de tracking-mismatch tussen trajecten die door verschillende inputs worden gedreven, globaal begrensd is door een term die afhankelijk is van het verschil in input en de Lipschitz-constante van het systeem, wat robuustheid tegen input-perturbaties garandeert.

Experimentele Resultaten
De prestaties van ICNDM werden geëvalueerd tegen vijf state-of-the-art baselines (Standard Neural ODE, Controlled Neural ODE, ICODE, ControlSynth, en Differential Neural Networks) over twee domeinen:

1. Nietlineaire Chaotische Benchmarks: Tests op Duffing- en Van der Pol-oscillatoren, gedreven door multi-frequentie sinusvormige inputs, toonden aan dat ICNDM de baselines aanzienlijk overtreft in langetermijnvoorspellingen. Terwijl standaardmodellen substantiële foutaccumulatie vertoonden (bijv. een MSE die stijgt naar $1.89 \times 10^{-1}$ voor de Standard NODE op de Duffing-oscillator over 200 stappen), handhaafde ICNDM stabiele grenzen (MSE van $1.02 \times 10^{-3}$).
2. Fysiek PMSM Drive Systeem: Validatie op een Permanent Magnet Synchronous Motor (PMSM) dataset bevestigde de praktische bruikbaarheid van het model. In 500-staps rollouts van de kwadratuur-as stroom week onbeperkte modellen significant af van de grondwaarheid, terwijl ICNDM de werkelijke dynamica accuraat volgde.
3. Robuustheid tegen Ruis: Experimenten waarbij Gaussische ruis in de inputkanalen werd geïnjecteerd, lieten zien dat ICNDM geleidelijk degradeert naarmate de ruisniveaus toenemen, terwijl baseline-modellen snelle foutgroei leden. Dit gedrag valideert empirisch de theoretische Input-to-State Contraction eigenschappen.

Betekenis en Claims
Het artikel claimt de kloof te overbruggen tussen input-bewuste modellering en structurele stabiliteitseigenschappen. Door expliciet tijdvariërende controleacties te modelleren en tegelijkertijd input-to-state contractie te garanderen via gezamenlijke metriek-optimalisatie, biedt ICNDM een oplossing voor de instabiliteit die inherent is aan onbeperkte neurale differentiaalvergelijkingen. De auteurs stellen dat dit framework rigoureuze asymptotische garanties biedt voor hoog-nietlineaire gecontroleerde systemen, een capaciteit die voorheen beperkt was tot autonome formuleringen of systemen die constante inputs veronderstellen. Het werk positioneert ICNDM als een robuust instrument voor systeemidentificatie in dynamische omgevingen, met aangetoonde superioriteit in het verminderen van langetermijn-drift en het verbeteren van de veerkracht tegen input-perturbaties.