Neural network-enhanced $hr$-adaptive finite element algorithm for parabolic equations

Technische Samenvatting: Neuraal Netwerk-Versterkt $hr$-Adaptief Eindelementalgoritme voor Parabolische Vergelijkingen

Probleemstelling
Het artikel behandelt de computationele uitdagingen die inherent zijn aan het toepassen van adaptieve eindelementmethoden (AFEM) op tijdsafhankelijke parabolische vergelijkingen, in het bijzonder die met bewegende singulariteiten of multiscale kenmerken. Hoewel $hr$-adaptieve methoden (combinatie van mesh-verfijning $h$ en knoopverplaatsing $r$) theoretische voordelen bieden, lijdt hun praktische implementatie voor parabolische problemen onder drie primaire knelpunten:

1. Inefficiënte Verfijning: Conventionele $h$-adaptieve strategieën vereisen vaak een excessief aantal iteraties (30–40) per tijdstap om convergentie te bereiken door middel van laag-voor-laag bissectie.
2. Interpolatieproblemen: Het overdragen van de oplossing van een mesh uit een vorige tijdstap naar een nieuw verfijnde, niet-geneste mesh vereist complexe en computationeel dure puntlocatie-algoritmen en interpolatieoperatoren ($\Pi_h^n$).
3. Redundante Initialisatie: Standaard benaderingen erven de definitieve, sterk verfijnde mesh van de vorige tijdstap als startpunt voor de volgende stap, wat leidt tot een opgeblazen aantal vrijheidsgraden (DOF) en een aparte, complexe vergrovingsstap (coarsening) noodzakelijk maakt om de computationele kosten te beheersen.

Methodologie
De auteurs stellen een nieuw Neuraal Netwerk-Versterkt $hr$-Adaptief Eindelementalgoritme voor, ontworpen om deze beperkingen te overwinnen via drie geïntegreerde mechanismen:

1. Mesh-vrije Surrogaat via Neurale Netwerken (Vervanging van Interpolatie):
   In plaats van geometrische interpolatie tussen niet-geneste meshes uit te voeren, gebruikt de methode een neuraal netwerk (NN) om een continue, mesh-vrije surrogaat van de eindelementoplossing uit de vorige tijdstap ($u_{h}^{n-1}$) te construeren.

   • Het NN wordt getraind op de knopen en de oplossingswaarden van de vorige mesh.
   • Om Dirichlet-randvoorwaarden strikt af te dwingen, wordt de surrogaat geconstrueerd als $u_{\theta}^{n-1}(x) = d(x)u_{\theta}(x) + \tilde{g}(x, t_{n-1})$, waarbij $d(x)$ op de rand nul is en $\tilde{g}$ de randgegevens uitbreidt.
   • Warm-Start Strategie: De parameters van het NN worden geïnitialiseerd met de geconvergeerde minimizer van de vorige tijdstap, waardoor slechts korte fijnafstemming (enkele epochs) nodig is in plaats van volledige hertraining bij elke stap.
   • Deze surrogaat vervangt de interpolatieoperator in het volledig gediscreteerde schema, waardoor directe functie-evaluatie op elk ruimtelijk punt op de nieuwe mesh mogelijk is.

2. Gecontroleerde Mesh Generatie ($h$-Adaptiviteit):
   Het algoritme maakt gebruik van de Gmsh bibliotheek om meshes te genereren op basis van een door de gebruiker gedefinieerd mesh-grootteveld (SIZE).

   • Een mesh-grootteveld wordt berekend vanuit lokale foutschatters, gericht op een hoge dichtheid in regio's met een hoge fout.
   • In tegenstelling tot standaard bissectie, maakt deze benadering de generatie van ongestructureerde, niet-geneste meshes mogelijk die de resolutie in één enkele stap drastisch kunnen verhogen.

3. Predictieve Iteratiestrategie ($r$-Adaptiviteit en Loop Controle):
   Het algoritme beperkt de adaptieve loop tot een maximum van zeven iteraties per tijdstap via een predictieve workflow:

   • Iteraties 1–2: "Opstartfase" om de oplossing te stabiliseren.
   • Iteraties 3–5: Datacollectie om een machtswet-model ($\eta_h \approx cN^{-p}$) te fitten dat de relatie tussen de foutschatter en het aantal knopen (NOV) beschrijft.
   • Iteratie 6: Het gefitte model voorspelt de vereiste NOV om de tolerantie te halen. Een nieuwe mesh wordt gegenereerd om dit doel te evenaren.
   • Iteratie 7: Een laatste verificatiestap zorgt ervoor dat de voorgeschreven tolerantie wordt gehaald.
   • Gecombineerde Foutschatter: De foutindicator incorporeert informatie van zowel de huidige oplossing ($u_h^n$) als de NN-surrogaat van de vorige oplossing ($u_{\theta}^{n-1}$) om de mesh-generatie effectief te sturen.

Belangrijkste Bijdragen

• Eliminatie van Interpolatiekosten: Door de mesh-afhankelijke interpolatieoperator te vervangen door een mesh-vrije neurale netwerk-surrogaat, omzeilt de methode de algoritmische complexiteit en computationele kosten van het overdragen van data tussen niet-geneste meshes.
• Drastische Reductie in Iteraties: De predictieve mesh-generatiestrategie vermindert het aantal adaptieve iteraties per tijdstap van de gebruikelijke 30–40 naar een maximum van 7.
• Efficiënte Mesh Reset: De methode herinitialiseert de mesh naar een grove, uniforme staat aan het begin van elke tijdstap (in plaats van de verfijnde mesh te erven), waardoor een aparte vergrovingsstap wordt vermeden en de accumulatie van onnodige DOF wordt voorkomen.
• Dimensie-agnostisch: Het framework is ontworpen om dimensie-agnostisch te zijn, bewezen door succesvolle toepassing in zowel 2D als 3D zonder structurele wijzigingen in het algoritme.

Numerieke Resultaten
Het artikel valideert het algoritme via uitgebreide numerieke experimenten op parabolische vergelijkingen met bewegende singulariteiten (rotatie, diffusie en splitsing) in 2D en 3D, evenals niet-lineaire Allen–Cahn vergelijkingen en problemen op L-vormige domeinen.

• Efficiëntie: De voorgestelde methode bereikt de gewenste nauwkeurigheid in niet meer dan zeven ruimte-adaptieve iteraties per tijdstap.
• Trainingsoverhead: Hoewel de eerste tijdstap aanzienlijke training vereist (bijv. ~2000 epochs), vereisen opeenvolgende stappen minimale fijnafstemming (<100 epochs), waarbij gebruik wordt gemaakt van de warm-start strategie.
• Prestatiewinst: Vergelijkingen met conventionele $h$-adaptieve methoden tonen een substantiële reductie in de totale CPU-runtime (bijv. een reductie van 818s naar 132s in een 2D rotatievoorbeeld) en een significante reductie in het totale aantal vrijheidsgraden gedurende de simulatie.
• Nauwkeurigheid: De methode legt dynamische veranderingen in singulariteiten succesvol vast en bereikt quasi-optimale convergentiesnelheden voor gradiëntfouten.

Betekenis en Claims
Het artikel claimt dat het voorgestelde algoritme een allesomvattende efficiëntiewinst biedt door de fundamentele knelpunten van conventionele AFEM voor parabolische problemen aan te pakken. Door neurale netwerken te integreren niet als zelfstandige solvers, maar als gespecialiseerde, datagestuurde modules voor dataoverdracht en functierepresentatie, bereikt de methode een robuuste en efficiënte workflow. De auteurs benadrukken dat deze benadering het invoegen en bewegen van knopen gemakkelijker maakt, de tijd die nodig is voor herhaalde verfijning aanzienlijk vermindert en een hoge nauwkeurigheid bereikt met een gecontroleerd aantal vrijheidsgraden. De code is publiekelijk beschikbaar gesteld om verdere research en toepassing te faciliteren.