Extended pseudo-spectral physics-informed neural networks for phase-field models

Technische Samenvatting: Uitgebreide Pseudo-Spectrale Physics-Informed Neural Networks voor Faseveldmodellen

Probleemstelling
Faseveldmodellen staan centraal in de continuümbeschrijving van fase-scheiding, waarbij patroonvorming en microstructuurontwikkeling worden beheerst door de bulk vrije-energie-dichtheid en parameters voor de grensvlakdikte. In praktische toepassingen, zoals materiaalkunde en celbiologie, zijn deze constitutieve grootheden zelden a priori bekend en moeten ze worden afgeleid uit beperkte dynamische observaties. Hoewel klassieke inverse methoden en recente Physics-Informed Neural Network (PINN)-benaderingen zijn toegepast op faseveldmodellen, kampen bestaande technieken vaak met beperkingen. Specifiek maakte eerder werk door Zhao [31] gebruik van pseudo-spectrale SPINNs om het bulk chemisch potentiaal te identificeren, maar vereiste dat de grensvlakdikte-parameter en mobiliteit a priori vaststonden. Het behandelen van alle constitutieve grootheden als onbekenden in klassieke optimalisatie leidt vaak tot inherente niet-identificeerbaarheid door schaling-degeneratie. De kernuitdaging die in dit werk wordt aangepakt, is de gelijktijdige inverse identificatie van zowel het bulk chemisch potentiaal (de afgeleide van de homogene vrije energie-dichtheid) als onbekende gradiëntcoëfficiënten (specifiek de grensvlakdikte-parameter) uit transiënte snapshot-data, zonder uitsluitend te vertrouwen op evenwichtsprofielen.

Methodologie: Uitgebreide ESPINN (ESPINN)
De auteurs stellen het Extended Pseudo-Spectral Physics-Informed Neural Network (ESPINN) framework voor. Deze methode breidt de SPINN-architectuur uit door fysische parameters te behandelen als trainbare variabelen naast het neurale netwerk dat de vrije energie-functie benadert.

1. Wiskundige Formulering: Het framework richt zich op algemene faseveld-PDE's van de vorm $\partial_t \phi = G [\sum \mu_j g_j(\phi, \nabla \phi, \Delta \phi) + f(\phi)]$, waarbij $f(\phi)$ (bulk chemisch potentiaal) en coëfficiënten $\mu_j$ (gradiënttermen) onbekend zijn. De auteurs richten zich op de Cahn-Hilliard en Allen-Cahn vergelijkingen, waarbij de onbekende gradiëntcoëfficiënt overeenkomt met de grensvlakdikte-parameter $\epsilon$.
2. Neurale Architectuur:
   • Bulk Chemisch Potentiaal: De functie $f(\phi)$ wordt benaderd door een Multi-Layer Perceptron (MLP).
   • Scalaire Parameters: Onbekende coëfficiënten (bijv. $\epsilon^2$) worden geparametriseerd door enkele trainbare scalairen $\theta$ met behulp van een sigmoid reparameterisatie om fysische grenzen af te dwingen ($\gamma_{lb} \leq \gamma \leq \gamma_{ub}$).
   • Verliesfunctie: Het trainingsdoel minimaliseert de discrepantie tussen geobserveerde dataparen $(\Phi^{(1)}, \Phi^{(2)})$ gescheiden door tijdstappen $\Delta t$ en de voorspellingen van een semi-impliciet lineair gestabiliseerd schema. De verliesfunctie bevat een hyperparameter $C_0$ om de optimalisatie te conditioneren, die wordt aangepast op basis van het ruisniveau van de data.
3. Optimalisatiestrategie:
   • Ruisloze Data: Het framework maakt gebruik van een twee-fasen optimalisatie: Adam gevolgd door L-BFGS om de gladheid van het objectieve landschap te benutten voor precieze convergentie.
   • Ruisende Data: Om overfitting op stochastische perturbaties te voorkomen, wordt de L-BFGS-fase weggelaten en rust de optimalisatie uitsluitend op Adam met een verminderde verliesmultiplier ($C_0$) om de gradiëntmagnitudes te matigen.

Belangrijkste Bijdragen

• Gelijktijdige Inferentie: De primaire bijdrage is de uitbreiding van het SPINN-framework naar de gelijktijdige reconstructie van het bulk chemisch potentiaal en onbekende gradiëntcoëfficiënten (grensvlakdikte) uit transiënte data, waardoor de noodzaak vervalt om deze parameters a priori vast te leggen.
• Data-efficiëntie: Het framework demonstreert dat zelfs een enkele snapshot-paar substantiële constitutieve informatie bevat, wat nauwkeurige reconstructie mogelijk maakt met minimale temporele data.
• Robuustheid tegen Ruis: De studie onderzoekt systematisch de prestaties van het framework onder ruis, waarbij wordt aangetoond dat het verhogen van het aantal snapshot-paren werkt als een impliciete regularisator, wat de variantie vermindert en de nauwkeurigheid verbetert zonder de deterministische kenmerken van het geleerde model te wijzigen.
• Architecturale Sensitiviteitsanalyse: Het artikel biedt een gedetailleerde analyse van activatiefuncties en netwerkdiepte, waarbij wordt onthuld dat de gladheid en differentieerbaarheid van de activatiefunctie kritischer zijn voor de reconstructienauwkeurigheid dan de netwerkcapaciteit (diepte of breedte).

Resultaten
Numerieke experimenten werden uitgevoerd op eendimensionale Cahn-Hilliard simulaties met zowel polynomiale als logaritmische vrije energie-densiteiten.

• Ruisloos Regime: Het ESPINN-framework bereikte een nauwkeurige en statistisch stabiele reconstructie van zowel het bulk chemisch potentiaal als de grensvlakdikte-parameter. Opmerkelijk genoeg leverde het gebruik van slechts één snapshot-paar ($N=1$) resultaten op die nauw aansluiten bij de ware functies. Het verhogen van het aantal snapshots ($N$) naar 2 elimineerde zichtbare variantie in de reconstructie. Verdere verhogingen van $N$ tot 64 verbeterden de statistische stabiliteit, hoewel er bij $N > 64$ sprake was van afnemende meeropbrengsten.
• Ruisend Regime: In aanwezigheid van multiplicatieve ruis degradeerde de reconstructienauwkeurigheid geleidelijk. Hoewel beperkte ruisende data ($N=1$) leidde tot hoge variabiliteit, verminderde het verhogen van $N$ systematisch de fouten en de variantie. De methode bleef stabiel, zelfs bij hogere ruisniveaus ($\delta_L = 10^{-2}$), hoewel er een zichtbare bias ontstond.
• Architecturale Bevindingen: Gladde activatiefuncties (Sigmoid, Tanh, SiLU, GELU) presteerden consequent beter dan ReLU, dat fouten tot vier ordes van grootte hoger opleverde. Netwerkdiepte en -breedte hadden minimale impact op de uiteindelijke nauwkeurigheid, wat suggereert dat het inverse probleem niet capaciteitsgelimiteerd is, maar afhankelijk is van de differentieerbare eigenschappen van de activatiefunctie.
• Gevoeligheid voor Leersnelheid: De methode vertoonde gevoeligheid voor leersnelheden in de Adam-optimizer. Een exponentieel afnemende leersnelheid (initieel $10^{-2}$, afnemend naar $10^{-4}$) bood de beste balans tussen convergentiesnelheid en stabiliteit.

Betekenis en Claims
De auteurs claimen dat ESPINN een data-efficiënte en fysisch consistente aanpak vestigt voor het leren van vrije-energie-structuren in continuümmodellen van fase-scheiding. Het framework slaagt erin het inverse probleem van het identificeren van constitutieve grootheden uit transiënte dynamica aan te pakken, een taak waarbij evenwichtsprofielen alleen vanwege schaling-degeneratie onvoldoende zijn. Door aan te tonen dat nauwkeurige reconstructie mogelijk is vanuit beperkte data en dat de methode robuust blijft onder ruisige omstandigheden, suggereert dit werk dat transiënte dynamische data een betrouwbare basis bieden voor het afleiden van constitutieve informatie. De auteurs merken op dat hoewel de huidige studie beperkt is tot eendimensionale modellen met constante mobiliteit, de methodologie van nature uitbreidbaar is naar hogere dimensies en complexere vrije energie-functionalen, wat het een praktisch instrument maakt voor coarse-grained modellering in biomoleculaire condensaten, polymeerblends en legeringssystemen.