Neural delay differential equations: learning non-Markovian closures for partially known dynamical systems

Deze paper introduceert Neural Delay Differential Equations (NDDEs), een continu-tijd framework dat geïnspireerd is op het Mori-Zwanzig formalisme en effectief niet-Markoviaanse dynamica leert uit gedeeltelijk waarneembare data door geheugeneffecten te modelleren via tijdvertragingen.

De kern

De "Geheugen-Neuralen": Hoe een AI leert om het verleden te gebruiken voor de toekomst

Stel je voor dat je probeert het weer te voorspellen, maar je hebt alleen een thermometer in je tuin. Je mist de windrichting, de luchtvochtigheid en de druk. Toch moet je voorspellen of het gaat regenen. In de echte wereld gebeurt dit vaak: we hebben systemen (zoals het weer, de stroom in een stad of een hartslag), maar we kunnen ze niet volledig zien. We hebben maar een paar "sensoren".

Deze paper introduceert een slimme nieuwe manier om deze onvolledige systemen te leren begrijpen en te voorspellen. Ze noemen dit Neural Delay Differential Equations (NDDEs). Laten we dit uitleggen met een paar alledaagse vergelijkingen.

1. Het Probleem: De "Blinde" Voorspeller

Stel je een robot voor die een bal probeert te vangen.

• De oude manier (Markov): De robot kijkt alleen naar waar de bal nu is. Hij denkt: "De bal is hier, dus hij gaat daarheen." Maar als de wind plotseling verandert, raakt hij de bal kwijt. Hij heeft geen idee van wat er eerder is gebeurd.
• Het echte probleem: In de echte wereld zien we vaak niet alles. We zien alleen de positie van de bal, niet de wind. Als je alleen naar het "nu" kijkt, mis je de oorzaak van de beweging.

2. De Oplossing: De "Tijdmachine"

De auteurs zeggen: "Wacht, als we het verleden niet kunnen zien, moeten we het verleden gebruiken."

Ze hebben een nieuw soort AI-bedacht die werkt als een Tijdmachine met een geheugen. In plaats van alleen te kijken naar nu, kijkt deze AI ook naar een seconde geleden, twee seconden geleden, en zo verder.

• De Analogie van de Dans:
  Stel je voor dat je een danspartner wilt voorspellen. Als je alleen kijkt naar waar ze nu staat, weet je niet of ze naar links of rechts gaat. Maar als je weet waar ze een seconde geleden stond, zie je de richting van haar beweging. Als je weet waar ze twee seconden geleden stond, zie je of ze een draai maakt.
  De nieuwe AI leert precies welke momenten uit het verleden belangrijk zijn. Soms is het verleden van 1 seconde geleden cruciaal, soms is het 5 seconden geleden.

3. De Slimme Truc: Het Leren van de "Pauzeknop"

Vroeger moesten wetenschappers raden hoe ver ze terug in de tijd moesten kijken. "Laten we 3 seconden terugkijken," zeiden ze. Maar wat als 3 seconden te kort is? Of te lang?

De grote doorbraak in dit onderzoek is dat de AI zelf leert hoe ver ze terug moet kijken.

• Vergelijking: Het is alsof je een radio hebt met een knop voor "verleden". De AI draait die knop zelf rond tot ze het perfecte geluid (de beste voorspelling) hoort. Ze leert automatisch: "Ah, voor dit systeem is het verleden van precies 2,4 seconden geleden het belangrijkst."

4. Waarom is dit zo goed? (De "Geheugen-Formule")

De auteurs halen inspiratie uit een oude natuurkundige theorie (Mori-Zwanzig), die zegt: "Als je een deel van een systeem niet ziet, manifesteert dat zich als een 'echo' uit het verleden."

• De Echo: Stel je voor dat je in een grot schreeuwt. Je hoort je eigen stem niet alleen direct, maar ook de echo's van een seconde geleden. Die echo's vertellen je iets over de vorm van de grot.
• De nieuwe AI (NDDE) luistert naar die "echo's" (de data uit het verleden) om te begrijpen wat er nu gebeurt, zelfs als ze niet alles direct ziet.

5. Wat hebben ze getest?

Ze hebben deze "Tijdmachine-AI" getest op verschillende dingen:

1. Bevolkingsgroei: Net als in de biologie, waar dierenpopulaties soms met een vertraging reageren op voedseltekorten.
2. Chaos: Systemen die heel onvoorspelbaar zijn (zoals het weer of vlammen in een brand).
3. Echte experimenten: Ze hebben data gebruikt van luchtstromen in een windtunnel (zoals geluid dat ontstaat als je door een open raam rijdt).

Het resultaat?
Deze nieuwe AI deed het beter dan de huidige topmodellen (zoals LSTM's, die ook een soort geheugen hebben). Waarom? Omdat ze niet alleen "geheugen" hebben, maar weten hoe ze dat geheugen moeten gebruiken. Ze zijn sneller, nauwkeuriger en kunnen zelfs ruis (fouten in de metingen) beter filteren.

Samenvatting in één zin

Deze paper introduceert een slimme AI die, net als een ervaren piloot die op zijn oren luistert naar het geluid van de motor, het verleden gebruikt om de toekomst te voorspellen, en die zelf leert hoe ver hij terug moet kijken om de beste beslissing te nemen.

Het is een stap in de richting van AI die niet alleen "nu" ziet, maar de geschiedenis van een systeem begrijpt.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Neural delay differential equations: learning non-Markovian closures for partially known dynamical systems", geschreven in het Nederlands.

Titel

Neurale Vertraging Differentiaalvergelijkingen (NDDE's): Het leren van niet-Markoviaanse sluitingsmodellen voor deels bekende dynamische systemen.

1. Het Probleem

Het modelleren van dynamische systemen op basis van data is essentieel in domeinen zoals biologie, klimaatwetenschap en financiën. Bestaande methoden, zoals Neurale Gewone Differentiaalvergelijkingen (NODEs), gaan vaak uit van de volledige toestand van het systeem (Markoviaanse aanname). In de praktijk is dit echter zelden het geval:

• Gedeeltelijke waarneembaarheid: Systemen worden meestal gemonitord via een beperkt aantal sensoren, waardoor slechts een deel van de toestand (observabelen) beschikbaar is.
• Niet-Markoviaanse dynamiek: Het toekomstige gedrag van een systeem hangt niet alleen af van de huidige toestand, maar ook van de geschiedenis (herinneringseffecten).
• Beperkingen van bestaande methoden: Methoden zoals LSTM (Long Short-Term Memory) of Augmented NODEs (ANODEs) kunnen deze geheugen-effecten modelleren, maar missen vaak interpretatiekracht (hun architectuur is niet direct gekoppeld aan fysieke mechanismen) of zijn computationally intensief. Bovendien zijn discrete tijdstappen in sommige modellen niet ideaal voor continu-tijd dynamische systemen.

2. Methodologie

De auteurs introduceren een raamwerk gebaseerd op Neurale Vertraging Differentiaalvergelijkingen (NDDE's) met leerbare vertragingen.

• Theoretische Basis:

  • Mori-Zwanzig (MZ) Formalisme: Dit biedt een theoretische link tussen verborgen variabelen en geheugentermen. Het toont aan dat de dynamiek van geobserveerde variabelen kan worden beschreven als een integraal-differentiaalvergelijking waarbij het verleden een rol speelt via een "memory kernel".
  • Takens' Inbeddingstheorema: Deze stelling garandeert dat de dynamiek van een systeem exact gereconstrueerd kan worden uit een eindige set van vertraagde observaties, mits het aantal vertragingen groot genoeg is (afhankelijk van de intrinsieke dimensie van het systeem).
  • Conclusie: In plaats van een complexe integraal te benaderen (zoals bij Neural IDE's), kan de geheugenterm exact worden gerepresenteerd door een eindige set van discrete vertragingen ($\tau_i$).

• Het Model (NDDE):
  De dynamiek van de observabelen $y(t)$ wordt gemodelleerd als:
  $$\frac{dy(t)}{dt} = h_\theta(t, y(t), y(t-\tau_1), \dots, y(t-\tau_n))$$
  Waarbij $h_\theta$ een neurale netwerkvectorkracht is en $\tau_i$ constante vertragingen zijn.

• Leren van Vertragingen:
  Een kerninnovatie is dat de vertragingen $\tau_i$ niet vooraf worden vastgesteld, maar leerbaar zijn. De auteurs leiden een geadjungeerde methode (adjoint method) af om de gradiënten van de verliesfunctie te berekenen ten opzichte van zowel de netwerkparameters $\theta$ als de vertragingen $\tau$. Dit maakt end-to-end training mogelijk en is computationally efficiënt voor grote datasets.

• Implementatie:
  De methode is geïmplementeerd in een open-source bibliotheek genaamd torchdde, die een robuuste DDE-oplosser en de geadjungeerde backpropagatie voor leerbare vertragingen biedt.

3. Belangrijkste Bijdragen

1. Constant-lag NDDE Framework: Een continu-tijd aanpak voor het leren van niet-Markoviaanse dynamiek direct uit data, zonder de noodzaak van discrete tijdstappen.
2. Leerbare Vertragingen: Een nieuwe trainingsprocedure die de waarden van de vertragingen optimaliseert via de geadjungeerde methode, in plaats van ze handmatig te kiezen of te fixeren.
3. Theoretische Validatie: Het koppelen van NDDE's aan het Mori-Zwanzig formalisme en Takens' theorema, wat een fysisch interpreteerbare basis biedt voor de geheugentermen.
4. Open Source: Beschikbaarheid van de code en de torchdde bibliotheek voor reproduceerbaarheid.

4. Resultaten

De methode is gevalideerd op diverse synthetische en experimentele datasets en vergeleken met state-of-the-art modellen (LSTM, NODE, ANODE, Latent ODE).

• Synthetische Systemen:

  • Populatie-dynamiek: De NDDE kon de vertraging $\tau$ succesvol leren (in de buurt van de theoretisch optimale waarde) en voorspelde de dynamiek nauwkeurig.
  • Brusselator: In een stijf, periodiek systeem presteerde NDDE stabiel op lange termijn, terwijl andere modellen (zoals NODE zonder geheugen) faalden.
  • Kuramoto-Sivashinsky (KS) Systeem: Een chaotisch systeem. NDDE presteerde statistisch superieur (dichtere verdeling aan de waarheid) en gaf een nauwkeurigere schatting van de maximale Lyapunov-exponent dan concurrenten.

• Experimentele Data (Open Cavity Flow):

  • Op basis van windtunnel-metingen van drukfluctuaties. NDDE overtrof LSTM en ANODE, vooral omdat de vertragingen de fysieke terugkoppeling (feedback-lus) in de stroming effectief kunnen modelleren.
  • Ruisbestendigheid: De methode bleek robuust tegen meetruis, omdat het leren van relaties tussen verleden en heden de ruis statistisch kan "uitmiddelen".

• Sluitingsmodellen (Closure Models):

  • In een Reduced Order Model (ROM) context voor de KS-vergelijking, fungeerde de NDDE als een sluitingsterm om informatieverlies door projectie te compenseren.
  • NDDE-sluitingen presteerden aanzienlijk beter dan ODE-sluitingen, vooral in regimes met weinig data (weinig POD-modus), wat aantoont dat het geheugen essentieel is wanneer de modelreductie grof is.

5. Betekenis en Conclusie

Dit artikel biedt een fundamenteel nieuwe aanpak voor het modelleren van systemen met gedeeltelijke observatie en geheugen.

• Interpreteerbaarheid: In tegenstelling tot "black-box" RNN's of Transformers, corresponderen de leerbare vertragingen in NDDE's direct met fysieke tijdschalen en terugkoppelmechanismen.
• Efficiëntie: Door het gebruik van de geadjungeerde methode en een eindige set vertragingen in plaats van een continue integraal, is de methode computationally efficiënter dan Neural IDE's.
• Prestatie: NDDE's overtreffen of evenaren bestaande methoden (LSTM, Latent ODE) in nauwkeurigheid en stabiliteit, terwijl ze vaak minder parameters vereisen.

De auteurs concluderen dat NDDE's een theoretisch onderbouwde en data-efficiënte alternatief bieden voor traditionele recurrente neurale netwerken bij complexe, niet-Markoviaanse dynamische systemen. Toekomstig werk richt zich op het bepalen van het optimale aantal vertragingen op een meer gestructureerde manier, bijvoorbeeld via vertraagde wederzijdse informatie.