CoSynFlow: Conformal Symplectic Neural Flows for Cross-System Prediction of Dissipative Hamiltonian Dynamics

Technische Samenvatting: CoSynFlow – Conforme Symplectische Neurale Flows voor Cross-Systeem Voorspelling van Dissipatieve Hamiltoniaanse Dynamica

Probleemstelling
Het leren van oplossingsoperatoren voor differentiaalvergelijkingen is een centraal doel in wetenschappelijke machine learning. Hoewel neurale operatoren oplossingen kunnen representeren over variërende begincondities en systeemparameters, behandelen zij de oplossingsafbeelding doorgaans als een onbeperkte functiebenadering, waarbij ze er niet in slagen de geometrische structuur van de onderliggende dynamica af te dwingen. Bestaande structuurbehoudende methoden, zoals SympNets en Symplectic Neural Flows, zijn ontworpen voor conservatieve Hamiltoniaanse systemen waarbij de symplectische vorm strikt behouden blijft. Echter, veel fysieke systemen zijn dissipatieve Hamiltoniaanse systemen, waarbij de symplectische vorm evolueert volgens een conforme factor die wordt bepaald door dissipatie ($\phi_t^* \omega = e^{\gamma t}\omega$).

Huidige benaderingen worden geconfronteerd met drie specifieke uitdagingen in deze context:

1. Incorrecte beperkingen: Gewone symplectische preservatie is ongepast voor dissipatieve systemen; het model moet de conforme symplectische structuur behouden.
2. Discreet versus Continu: Conventionele integratoren en geleerde vaste-stap-kaarten bereiken een doeltijd door herhaalde lokale updates, wat een gebrek aan een enkele model vormt dat oplossingskaarten over een continu bereik van query-tijden representeert.
3. Gebrek aan Generalisatie: Structuurbehoudende modellen die getraind zijn voor één Hamiltoniaan generaliseren niet naar andere, wat vereist dat er voor elk systeem binnen een familie apart getraind wordt.

Methodologie: CoSynFlow
De auteurs stellen CoSynFlow voor, een systeem-geconditioneerde conforme symplectische neurale flow die ontworpen is om continue-tijd oplossingskaarten te leren voor dissipatieve Hamiltoniaanse dynamica.

• Architectuur: Het model construeert de tijd-$t$ kaart als een compositie van symmetrische blokken. Elk blok bestaat uit gradiënt-shear-kaarten (gegenereerd door scalaire potentialen) en expliciete conforme schalinglagen.
  • Shears: De shear-kaarten $P$ en $Q$ zijn door constructie symplectisch omdat ze worden gegenereerd door scalaire potentialen.
  • Scaling: Expliciete schalinglagen $C$ passen een factor $e^{\gamma t \alpha_\ell}$ toe op de momentumvariabelen. De schalingfactoren $\alpha_\ell$ zijn genormaliseerd zodat $\sum \alpha_\ell = 1$.
  • Compositie: De compositie van deze blokken zorgt ervoor dat de totale kaart voldoet aan de exacte conforme symplectische conditie $(\hat{\Phi}_t^\theta)^* \omega = e^{\gamma t} \omega$ voor elke trainbare parameter.
• Systeem-Conditionering: Om cross-systeem voorspelling mogelijk te maken, brengt een geleerde operator (een Fourier Neural Operator) een einddimensionale Hamiltoniaanse descriptor (waarden van de Hamiltoniaan op vaste sensorpunten) en de dissipatieparameter $\gamma$ in kaart naar de blokparameters (potentialen en schalingstoelichtingen). Dit stelt een enkel getraind model in staat om oplossingskaarten voor ongeziene systemen te voorspellen zonder opnieuw te trainen.
• Continue-Tijd Input: De query-tijd $t$ wordt als een continue input aan elk blok verstrekt, waardoor het model de oplossingskaart voor elke $t$ kan evalueren en kaarten kan componeren om verder te voorspellen dan de trainingshorizon.
• Fysica-Geïnformeerde Training: Omdat de flow differentieerbaar is met betrekking tot de tijd, kan de residu van de leidende differentiaalvergelijking direct worden geëvalueerd, wat fysica-geïnformeerde training mogelijk maakt zonder extra datakosten.

Belangrijkste Bijdragen

1. Exacte Conforme Symplecticiteit: Door constructie is de geleerde tijd-$t$ kaart exact conforme symplectisch voor elke trainbare parameter, wat overeenkomt met de geometrische relatie van dissipatieve Hamiltoniaanse dynamica.
2. Continue-Tijd Flow Leren: Het model produceert de tijd-$t$ kaart voor elke $t$ in een enkele evaluatie. Het kan worden gecomponeerd om verder te voorspellen dan de trainingshorizon met de exacte conforme factor, en de differentieerbaarheid in $t$ staat fysica-geïnformeerde training toe op de residu van de leidende vergelijking.
3. Cross-Systeem Voorspelling: Een enkel gedeeld model voorspelt oplossingskaarten voor ongeziene dissipatieve Hamiltoniaanse systemen zonder opnieuw te trainen, terwijl conditionering de exacte geometrische structuur intact laat.

Experimentele Resultaten
De auteurs evalueerden CoSynFlow op willekeurig gegenereerde Hamiltoniaanse systemen en vier analytische benchmark-systemen (anisotrope oscillator, gekoppelde Duffing, Mexican hat potential, quartic coupled oscillator) buiten de trainingsdistributie.

• Nauwkeurigheid en Structuur: CoSynFlow behaalde de laagste in-distributie Mean Squared Error (MSE) en behield de conforme symplectische structuurfout op machineprecisie ($\sim 10^{-15}$), waarmee het ongestructureerde modellen, zacht geconstraineerde modellen en standaard neurale operatoren significant overtrof.
• Lange-Horizon Voorspelling: Bij het voorspellen over tien keer de trainingshorizon door geleerde kaarten te componeren, behaalde CoSynFlow de laagste staat- en energie-fouten. In contrast hiermee faalden modellen die gewone symplecticiteit afdwingen, wat leidde tot een contractie van de fase-ruimtevolume, wat resulteerde in kwalitatieve fouten (bijv. het niet kunnen bezinken in potentiaalputten).
• Extrapolatie: CoSynFlow demonstreerde robuustheid in het extrapoleren naar dissipatieparameters ($\gamma$) die tot drie keer groter waren dan tijdens de training gezien, waarbij het baselines met een factor 10 tot 20 overtrof.
• Fysica-Geïnformeerde Training: Het toevoegen van de residu van de leidende vergelijking aan de trainingsdoelstelling verminderde de staat-fout met een factor vier en de energie-fout met een factor zes op een enkel systeem met beperkte data.

Betekenis
Het artikel beweert dat CoSynFlow erin slaagt de kloof te overbruggen tussen geometrische deep learning en dissipatieve dynamica. Door de conforme symplectische structuur exact af te dwingen in plaats van benaderend, vermijdt het model de accumulatie van geometrische fouten die standaard neurale operatoren en ongestructureerde flows teisteren. Het vermogen om te generaliseren over een familie van systemen zonder opnieuw te trainen, gecombineerd met continue-tijd evaluatie en exacte structuurbehoud, biedt een robuust kader voor het leren van oplossingsoperatoren in dissipatieve fysieke systemen. Het werk demonstreert dat exacte geometrische beperkingen de benaderingscapaciteit niet beperken (bewezen via een uniforme benaderingstheorema) en essentieel zijn voor lange-horizon stabiliteit in dissipatieve settings.