Data-driven discovery and control of multistable nonlinear systems and hysteresis via structured Neural ODEs

Dit paper introduceert een gestructureerde Neural ODE-architectuur die de dynamiek van multistabiele niet-lineaire systemen en hysterese effectief leert en regelt door een vectorveld te modelleren dat zowel trajectstabiliteit garandeert als de locaties van meerdere attractoren bepaalt.

De kern

Stel je voor dat je een complexe machine probeert te begrijpen, zoals een reusachtige waterpomp of een biologisch ecosysteem. Deze systemen hebben een rare eigenschap: ze kunnen in verschillende "rusttoestanden" verkeren, afhankelijk van hoe je ze aanstuurt. Soms wil je ze naar een nieuwe staat brengen, maar als je de knop te hard omdraait, schieten ze plotseling naar een heel andere staat (een "tipping point"). Als je de knop weer terugdraait, komen ze niet direct terug; ze blijven vastzitten in de nieuwe staat. Dit noemen we hysteresis of een "geheugen-effect".

Het probleem voor wetenschappers is dat deze systemen vaak heel traag zijn om te veranderen. Als je ze observeert, zie je vaak alleen maar dat ze rustig naar één punt toe bewegen. Het is alsof je probeert het gedrag van een slak te bestuderen door alleen te kijken waar hij na 5 minuten is; je mist het hele verhaal van hoe hij daar kwam.

De auteurs van dit paper, Ike Griss Salas en Ethan King, hebben een slimme nieuwe manier bedacht om deze systemen te leren kennen en te besturen, zelfs met heel weinig data.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De "Magische Formule" (De Structuur)

Stel je een bal voor die in een landschap rolt. Normaal gesproken proberen AI-modellen (zoals Neural ODEs) het hele landschap te tekenen. Maar dat is lastig als je maar een klein stukje van het landschap hebt gezien.

De auteurs zeggen: "Wacht even, we weten al iets over deze systemen: ze willen altijd tot rust komen."
In plaats van een willekeurige formule te gebruiken, dwingen ze hun AI een specifieke vorm aan te nemen:

Snelheid = (Een negatief getal) × (Huidige positie - Doelpositie)

• Het negatieve getal: Dit zorgt ervoor dat de bal altijd vertraagt en stopt. Het garandeert dat het systeem niet uit elkaar valt of chaotisch wordt.
• De Doelpositie: Dit is de "magische" variabele. De AI leert waar de rustpunten (de valleien in het landschap) liggen.

Dit is als het bouwen van een auto die per definitie niet kan crashen. De motor (de AI) is zo ontworpen dat hij altijd probeert de auto naar een veilige parkeerplaats te sturen.

2. Het Oplossen van de "Meerdere Rustpunten"

Soms heeft een systeem niet één parkeerplaats, maar drie: twee veilige plekken en één gevaarlijke helling er tussenin.

• Als je de auto links van de helling zet, rolt hij naar links.
• Als je hem rechts zet, rolt hij naar rechts.
• Als je hem precies op de top zet, blijft hij staan (maar dat is onstabiel).

Deze AI kan dit onderscheid maken. Hij leert dat er meerdere "valleien" zijn. Zelfs als je de auto maar een klein stukje hebt zien rijden, kan de AI raden waar de andere valleien zijn, omdat hij de structuur van het landschap begrijpt.

3. Het Besturen door de "Valleien" (Feedback Control)

Stel je wilt de auto van de ene veilige parkeerplaats naar de andere brengen, maar er zit een hoge heuvel (een tipping point) tussenin. Als je te voorzichtig bent, rolt hij terug. Als je te hard gas geeft, crasht hij.

De methode van de auteurs gebruikt de "Doelpositie" die de AI heeft geleerd als een kaart.

• De bestuurder (de controller) kijkt naar de kaart en zegt: "Ik wil daar zijn."
• De AI berekent direct: "Om daar te komen, moet je nu even hard gas geven om over de heuvel te komen, en daarna voorzichtig remmen."

Dit werkt zelfs als de weg onzeker is (ruis) of als je maar een kort stukje hebt kunnen rijden om de weg te leren kennen.

4. Waarom is dit zo speciaal?

Vroeger waren AI-modellen als een kind dat probeert een puzzel te leggen door te gokken. Als je maar een paar stukjes had, legde het kind de puzzel verkeerd.
Deze nieuwe methode is als een kind dat de puzzelstukken in een doos met een label "Dit is een landschap met valleien" heeft. Het kind hoeft niet alles te raden; het past de stukken in het juiste patroon.

De resultaten in het paper:
Ze hebben dit getest op:

• Waterreservoirs: Het leren van hoe water stroomt en het regelen van de niveaus.
• Insectenplagen: Het voorspellen van wanneer een bos ineens vol zit met kevers (een plage) en hoe je dat terugdraait.
• Genetische schakelaars: Het begrijpen van hoe bacteriën beslissen welke genen aan of uit gaan.

In al deze gevallen kon de AI het systeem leren met veel minder data dan normaal nodig is, en kon hij de systemen veilig sturen naar de gewenste toestand, zelfs als ze "vastzaten" in een oude staat.

Samenvattend

De auteurs hebben een slimme truc bedacht om AI-modellen te dwingen zich te gedragen als stabiele, fysieke systemen. Door de AI te vertellen hoe het systeem moet werken (altijd naar rust zoeken), kunnen we met heel weinig observaties het hele gedrag van complexe systemen begrijpen en ze veilig besturen, zelfs als ze lastige "geheugen-effecten" hebben. Het is alsof je een auto bouwt die van nature weet hoe hij veilig moet parkeren, zelfs op een helling.

Technische samenvatting

Titel

Data-gedreven ontdekking en controle van multistabiele niet-lineaire systemen en hysterese via gestructureerde Neural ODE's.

1. Probleemstelling

Veel technische en biologische processen vertonen niet-lineaire dynamiek die asymptotisch stabiel is, wat betekent dat ze convergeren naar een eindige set evenwichtspunten die worden bepaald door stuurinvoeren. Het identificeren van dergelijke systemen puur op basis van data is echter uiterst uitdagend om de volgende redenen:

• Beperkte excitatie: Stabiele dynamiek levert vaak weinig variatie in de data, wat het leren van het onderliggende model bemoeilijkt.
• Niet-unieke oplossing: Voor niet-chaotische systemen is het herleiden van de exacte besturingsvergelijkingen vanuit één traject vaak wiskundig niet goed gesteld (ill-posed). Er kunnen meerdere modellen bestaan die dezelfde data verklaren.
• Multistabiliteit en Hysterese: Traditionele methoden hebben moeite om systemen met meerdere aantrekkingsgebieden (multistabiliteit) of hysterese (waarbij de toestand afhangt van de geschiedenis van de input) correct te modelleren, vooral wanneer de data beperkt is tot korte tijdsintervallen.

De auteurs stellen de vraag: als we het "ware" model niet uniek kunnen vinden, kunnen we dan een nuttige representatie leren die specifiek is ontworpen voor stabiliteit, interpretatie en controle?

2. Methodologie

De auteurs introduceren een gestructureerde Neural Ordinary Differential Equation (NODE) architectuur die de dynamiek modelleert via een specifieke factorisatie. In plaats van een algemene vectorveld $F(x, u)$ te leren, wordt de dynamiek uitgedrukt als:

$$\frac{dx}{dt} = F(x, u) = f(x) \cdot (x - g(x, u))$$

Waarbij:

• $f(x)$: Een neural network is dat elementsgewijs negatief is ($f(x) < 0$). Dit fungeert als een toestand-afhankelijke vervalrate die de trajecten naar binnen trekt, waardoor contractie en trajectstabiliteit over de hele toestandsruimte worden gegarandeerd.
• $g(x, u)$: Een neural network dat de locatie van de multipe aantrekkers (evenwichtspunten) bepaalt. De evenwichtspunten $x^*$ worden gevonden waar $x^* = g(x^*, u)$.

Kernaspecten van de methode:

• Interpretatie: De structuur ontkoppelt de stabiliteit ($f$) van de evenwichtslocaties ($g$). Dit maakt het mogelijk om bifurcaties (zoals "tipping points") en hysterese expliciet te identificeren.
• Controle: Omdat de evenwichtspunten direct worden gegeven door $g$, kan feedbackcontrole worden uitgevoerd door het optimaliseren van $u$ om $g(x, u)$ te laten convergeren naar een gewenste doeltoestand $x^*$. Dit wordt gedaan via een gradiënt-gedreven updatewet:
  $$\frac{du}{dt} = -\eta \nabla_u \frac{1}{2} \| g^{\circ k}(x, u) - x^* \|^2$$
  Hierbij fungeert $g^{\circ k}$ (herhaalde iteratie van $g$) als een goedkope voorspeller van de dynamiek.
• Training: Het model wordt getraind op korte tijdsintervallen (veel korter dan de volledige evolutie van het systeem) met behulp van twee mogelijke verliesfuncties:
  1. Trajectmatching: Vergelijking van gesimuleerde trajecten met waargenomen data.
  2. Gradiëntmatching: Vergelijking van de geleerde vectorvelden met de geschatte gradiënten uit de data (via eindige differenties).

3. Belangrijkste Bijdragen

1. Gestructureerde NODE Architectuur: Een nieuwe parametrisatie die intrinsieke stabiliteit garandeert zonder de noodzaak van een gezamenlijk geleerde Lyapunov-functie, wat trainingsstabiliteit verbetert.
2. Multistabiliteit en Hysterese: Het vermogen om systemen met meerdere stabiele toestanden en hysterese-lussen te leren en te modelleren, zelfs met zeer beperkte, korte tijdsdata.
3. Efficiënte Feedbackcontrole: Het introduceren van een controlestrategie die direct gebruikmaakt van de geleerde evenwichtskaart $g$. Dit stelt de controller in staat om complexe bifurcaties (zoals het oversteken van tipping points) te navigeren en naar zowel stabiele als instabiele evenwichtspunten te sturen.
4. Interpretatie en Bifurcatie-analyse: De methode levert een expliciete kaart van de evenwichtspunten op, waardoor bifurcatiediagrammen en hysterese-gedrag direct zichtbaar en analyseerbaar zijn zonder extra simulaties.

4. Resultaten

De methode werd getest op vier verschillende niet-lineaire benchmarks:

• Mengtanks (Mixing Tanks): Een systeem voor load-balancing. Het model leerde de dynamiek succesvol en bereikte een lage fout (nRMSE $\approx 1.54 \times 10^{-2}$) bij het sturen naar willekeurige doelen, zelfs onder ruis.
• Symmetrische Hysterese: Een systeem met een bekende analytische oplossing ($dx/dt = \lambda + x - x^3$). Het model leerde de bistabiele regio en de hysterese-lus correct, zelfs getraind op data met een tijdsinterval van slechts $t=0.25$ (waar de volledige evolutie veel langer duurt). De controlestrategie slaagde erin om tipping points te overbruggen.
• Spruce Budworm Populatie: Een insectenuitbraakmodel met asymmetrische takken in de bifurcatie. Het model slaagde erin om de volledige dynamiek, inclusief de kleinere tak die vaak wordt genegeerd door andere methoden, te leren.
• Genetische Toggle Switch: Een complex, gekoppeld bistabiel biologisch systeem met meerdere controleparameters. Ondanks de complexiteit en de aanwezigheid van hysterese, slaagde de controller erin om het systeem naar 10 willekeurige doelen te sturen met hoge nauwkeurigheid (99% binnen 5% foutmarge), zelfs met beperkingen op de controleparameters.

In alle gevallen presteerde de methode robuust onder ruis en met korte trainingsintervallen.

5. Betekenis en Conclusie

Dit werk biedt een paradigmaverschuiving in data-gedreven modellering van niet-chaotische systemen. In plaats van te zoeken naar een unieke, maar misschien onmogelijk te vinden, analytische vergelijking, focust de methode op het leren van een nuttige representatie die de fysieke beperkingen (stabiliteit) respecteert en direct bruikbaar is voor controle.

De belangrijkste implicaties zijn:

• Het maakt het mogelijk om complexe systemen te modelleren met weinig data (korte tijdsintervallen), wat cruciaal is voor dure of risicovolle experimenten.
• Het biedt een interpretabel raamwerk voor het begrijpen van bifurcaties en tipping points, wat essentieel is voor veiligheidskritische systemen.
• Het levert een efficiënte controlestrategie op die geen dure optimalisatieproblemen hoeft op te lossen, maar gebruikmaakt van de impliciete structuur van het geleerde model om direct naar evenwichtspunten te sturen.

De auteurs concluderen dat deze gestructureerde aanpak een krachtige tool is voor het beheer en de controle van complexe, multistabiele systemen in engineering en biologie.