Physics-guided Convolutional Neural Network for Domain Growth Prediction in Systems with Conserved Kinetics

Technische Samenvatting: Physics-Guided Convolutional Neural Network voor Voorspelling van Domeingroei

Probleemstelling
De spatiotemporele evolutie van complexe fysische systemen, zoals fase-scheiding in binaire mengsels, wordt beheerst door nietlineaire partiële differentiaalvergelijkingen (PDE's), specifiek de Cahn–Hilliard (CH) vergelijking. Traditionele numerieke oplossers (bijv. eindige-verschillen- of eindige-elementenmethoden) zijn computationeel duur en kampen met schaalbaarheidsuitdagingen op moderne architecturen. Hoewel machine learning (ML) alternatieven biedt in de vorm van surrogaatmodellen, kampen bestaande benaderingen met specifieke beperkingen wanneer ze worden toegepast op geconserveerde kinetica:

• Physics-Informed Neural Networks (PINNs): Hebben moeite met de vierde-orde ruimtelijke afgeleiden die inherent zijn aan de CH-vergelijking, wat leidt tot instabiele gradiëntpropagatie. Ze lijden ook aan spectrale bias, waarbij ze gladde oplossingen bevoordelen boven de scherpe interfaces die typerend zijn voor fase-scheiding, en ze slagen er vaak niet in om de conservering van de ordeparameter op natuurlijke wijze af te dwingen.
• Data-gestuurde Surrogaten (bijv. RNN's, standaard CNN's): Hoewel efficiënt, falen deze modellen vaak in het behouden van de conservering van de ordeparameter tijdens lange-termijn autoregressieve rollouts. Kleine voorspellingsfouten accumuleren in de tijd, wat leidt tot een geleidelijk verlies van de geconserveerde grootheid en fysisch inconsistente dynamica.

Methodologie
De auteurs stellen een attention-based, physics-guided convolutional neural network voor, dat specifiek is ontworpen om systemen met geconserveerde kinetica te modelleren. De methodologie integreert diepe leerarchitectuur met fysische beperkingen:

1. Architectuur: Het model is gebaseerd op een Residual U-Net architectuur, bestaande uit een contractiepad, een centrale brug en een expansiepad.

   • Residual Blocks: Elk pad maakt gebruik van residual blocks met group normalization (GN), GeLU-activatie en convolutionele lagen met circulaire padding om diepe netwerktraining te faciliteren.
   • Attention Mechanisme: Een self-attention blok is ingebed in de centrale brug op de laagste ruimtelijke resolutie (hoogste receptieve veld). Dit stelt het netwerk in staat om globale ruimtelijke correlaties en grootschalige morfologische evolutie te vangen, wat lokale convolutionele kenmerken aanvult.
   • Upsampling/Downsampling: Het netwerk gebruikt strided convolutions voor downsampling en getransponeerde convoluties voor upsampling, met skip-verbindingen om ruimtelijke details te behouden.

2. Physics-Guided Loss Functie: Om de intrinsieke conserveringswet van de CH-vergelijking af te dwingen, bevat de trainingsdoelstelling een samengestelde loss-functie:

   • Data Fidelity: De gemiddelde kwadratische fout (MSE) tussen de voorspelde velden en de grondwaarheid.
   • Conservation Constraint: Een extra strafterm ($L_{\langle\psi\rangle}$) die de gekwadrateerde afwijking tussen het ruimtelijke gemiddelde van het voorspelde veld en de grondwaarheid minimaliseert. Dit zorgt er expliciet voor dat de globale conservering van de ordeparameter ($\psi$) gedurende de evolutie wordt gewaarborgd.
   • Totale Loss: $L = L_{MSE} + \alpha L_{\langle\psi\rangle}$, waarbij $\alpha$ de regularisatiekracht reguleert.

3. Trainingsprotocol:

   • Data Generatie: Trainingsdata werd gegenereerd door de dimensieloze CH-vergelijking numeriek op te lossen met een eindige-verschillendemethode op een $64 \times 64$ rooster.
   • Dataset: De dataset bevat 20 onafhankelijke trajecten die kritische ($\psi_0 = 0$) en off-kritische ($\psi_0 = \pm 0.2, \pm 0.4$) composities dekken over een tijdsinterval $t \in [0, 300]$.
   • Taak: Het model wordt getraind om een snapshot op $t + 100\Delta t$ te voorspellen gegeven een snapshot op $t$. Lange-termijn evolutie wordt gegenereerd via recursieve autoregressieve inferentie.

Belangrijkste Resultaten
Het voorgestelde framework werd geëvalueerd op zowel kritische als off-kritische mengsels, waarbij een hoge getrouwheid werd aangetoond bij het vastleggen van complexe dynamica:

• Conservering van de Ordeparameter: Het model slaagt erin de ruimtelijk gemiddelde ordeparameter ($\langle\psi\rangle$) constant te houden over de tijd voor zowel kritische als off-kritische composities, waardoor de globale conserveringswet zelfs tijdens lange-termijn rollouts effectief wordt behouden.
• Morfologische Accuraatheid:
  • Kritische Mengsels: Het model reproduceert accuraat de bicontinueuze morfologie en domeincoarsening. Fouten zijn primair geconcentreerd bij de domeingrenzen en accumuleren zeer traag, waardoor stabiliteit over lange horizonten behouden blijft.
  • Off-kritische Mengsels: Hoewel de accuratheid iets sneller degradeert dan in kritische gevallen vanwege de complexiteit van druppelcoalescentie en -opbraak, vangt het model nog steeds de algemene druppelmorfologie en blijft het stabiel over uitgebreide tijdschalen.
• Generalisatie: Het model, getraind op $64 \times 64$ systemen, voorspelt succesvol de dynamica voor grotere systeemmaten ($160, 192, 256$) zonder merkbare degradatie in accuratheid.
• Fysische Consistentie:
  • Groeiwetten: De voorspelde domeingroei volgt de Lifshitz–Slyozov wet ($L(t) \sim t^{1/3}$) met hoge nauwkeurigheid, wat overeenkomt met numerieke oplossers voor zowel kritische als off-kritische gevallen.
  • Dynamische Schaling: Het model reproduceert de dynamische schalingshypothese, waarbij correlatiefuncties $C(r,t)$ samenvallen op een universele mastercurve wanneer ze worden uitgezet tegen de geschaalde afstand $r/L(t)$.
  • Statistische Verdelingen: De waarschijnlijkheidsverdeling van de ordeparameter $P(\psi)$ komt overeen met de numerieke resultaten en legt correct de symmetrie in kritische mengsels en de asymmetrie in off-kritische mengsels vast.

Betekenis en Claims
Het artikel claimt dat het voorgestelde framework een robuust, data-gestuurd alternatief biedt voor het modelleren van systemen met geconserveerde kinetica. De primaire betekenis ligt in de expliciete integratie van fysische conserveringswetten in de loss-functie, wat de accumulatie van onfysische fouten voorkomt die gebruikelijk zijn bij standaard autoregressieve ML-modellen.

De auteurs benadrukken dat het model niet alleen pixel-tot-pixel accuratesse bereikt, maar ook succesvol de onderliggende statistische en dynamische gedragingen van het systeem leert. Dit omvat:

1. Het behoud van de geconserveerde grootheid (ordeparameter) over lange tijdschalen.
2. Het vastleggen van de correcte groeikinetica (Lifshitz–Slyozov wet).
3. Het reproduceren van dynamische schaling en morfologische evolutie.

Dit werk suggereert dat deze aanpak kan worden uitgebreid naar andere complexe dynamische systemen die worden beheerst door geconserveerde kinetica, mits de specifieke conserveringswet bekend is en in de trainingsdoelstelling kan worden gecodeerd. De auteurs merken op dat toekomstig werk erop gericht kan zijn om deze conserveringswetten direct tijdens de training te leren, in plaats van ze als voorkennis te vereisen.