Neural network-enhanced $hr$-adaptive finite element algorithm for parabolic equations

Technisches Resümee: Neuronales Netz-gestützter $hr$-adaptiver Finite-Elemente-Algorithmus für parabolische Gleichungen

Problemstellung
Die Arbeit befasst sich mit den rechnerischen Herausforderungen, die mit der Anwendung von adaptiven Finite-Elemente-Methoden (AFEM) auf zeitabhängige parabolische Gleichungen verbunden sind, insbesondere wenn diese bewegliche Singularitäten oder Multiskalen-Merkmale aufweisen. Während $hr$-adaptive Methoden (die eine Mesh-Verfeinerung $h$ und eine Knotenbewegung $r$ kombinieren) theoretische Vorteile bieten, leidet ihre praktische Implementierung bei parabolischen Problemen unter drei primären Engpässen:

1. Ineffiziente Verfeinerung: Konventionelle $h$-adaptive Strategien erfordern oft übermäßige Iterationen (30–40) pro Zeitschritt, um eine Konvergenz durch schichtweise Bisektion zu erreichen.
2. Interpolationsherausforderungen: Der Transfer der Lösung von einem Mesh des vorherigen Zeitschritts auf ein neu verfeinertes, nicht-verschachteltes Mesh erfordert komplexe und rechenintensive Punktlokalisierungsalgorithmen und Interpolationsoperatoren ($\Pi_h^n$).
3. Redundante Initialisierung: Standardansätze übernehmen das finale, hochgradig verfeinerte Mesh des vorherigen Zeitschritts als Startpunkt für den nächsten Schritt, was zu einer übermäßigen Anzahl an Freiheitsgraden (DOF) führt und einen separaten, komplexen Verfeinerungsschritt (Coarsening) zur Reduzierung der Rechenkosten erforderlich macht.

Methodik
Die Autoren schlagen einen neuartigen Neuronale Netz-gestützten $hr$-adaptiven Finite-Elemente-Algorithmus vor, der darauf ausgelegt ist, diese Einschränkungen durch drei integrierte Mechanismen zu überwinden:

1. Netzfreier Surrogat mittels Neuronaler Netze (Ersatz für Interpolation):
   Anstatt eine geometrische Interpolation zwischen nicht-verschachtelten Meshes durchzuführen, verwendet die Methode ein neuronales Netz (NN), um einen kontinuierlichen, netzfreien Surrogat der Finite-Elemente-Lösung des vorherigen Zeitschritts ($u_{h}^{n-1}$) zu konstruieren.

• Das NN wird auf den Knoten und den Lösungswerten des vorherigen Meshes trainiert.
• Um Dirichlet-Randbedingungen strikt durchzusetzen, wird der Surrogat als $u_{\theta}^{n-1}(x) = d(x)u_{\theta}(x) + \tilde{g}(x, t_{n-1})$ konstruiert, wobei $d(x)$ am Rand verschwindet und $\tilde{g}$ die Randdaten erweitert.
• Warm-Start-Strategie: Die Parameter des NN werden mit dem konvergierten Minimierer des vorherigen Zeitschritts initialisiert, was nur eine kurze Feinabstimmung (wenige Epochen) statt eines vollständigen Retrainings pro Schritt erfordert.
• Dieser Surrogat ersetzt den Interpolationsoperator im voll diskreten Schema und ermöglicht so die direkte Funktionsauswertung an jedem räumlichen Punkt des neuen Meshes.

2. Kontrollierte Mesh-Generierung ($h$-Adaptivität):
   Der Algorithmus nutzt die Gmsh-Bibliothek, um Meshes basierend auf einem benutzerdefinierten Mesh-Größenfeld (SIZE) zu generieren.

• Ein Mesh-Größenfeld wird aus lokalen Fehlerschätzern berechnet, wobei die Dichte in Regionen mit hohem Fehler gezielt erhöht wird.
• Im Gegensatz zur Standardbisektion ermöglicht dieser Ansatz die Generierung unstrukturierter, nicht-verschachtelter Meshes, die die Auflösung in einem einzigen Schritt drastisch erhöhen können.

3. Prädiktive Iterationsstrategie ($r$-Adaptivität und Schleifensteuerung):
   Der Algorithmus begrenzt die adaptive Schleife auf maximal sieben Iterationen pro Zeitschritt durch einen prädiktiven Workflow:

• Iterationen 1–2: „Startphase“, um die Lösung zu stabilisieren.
• Iterationen 3–5: Datenerfassung zur Anpassung eines Potenzgesetz-Modells ($\eta_h \approx cN^{-p}$), welches den Fehlerindikator mit der Anzahl der Knoten (NOV) in Beziehung setzt.
• Iteration 6: Das angepasste Modell sagt die benötigte Anzahl an Knoten (NOV) voraus, um die Toleranz zu erfüllen. Ein neues Mesh wird generiert, um dieses Ziel zu erreichen.
• Iteration 7: Ein abschließender Verifikationsschritt stellt sicher, dass die vorgegebene Toleranz eingehalten wird.
• Kombinierter Fehlerschätzer: Der Fehlerindikator beinhaltet Informationen sowohl aus der aktuellen Lösung ($u_h^n$) als auch aus dem NN-Surrogat der vorherigen Lösung ($u_{\theta}^{n-1}$), um die Mesh-Generierung effektiv zu steuern.

Zentrale Beiträge

• Eliminierung von Interpolationskosten: Durch den Ersatz des mesh-abhängigen Interpolationsoperators durch einen netzfreien neuronalen Netz-Surrogat umgeht die Methode die algorithmische Komplexität und die Rechenkosten des Datentransfers zwischen nicht-verschachtelten Meshes.
• Drastische Reduktion der Iterationen: Die prädiktive Mesh-Generierungsstrategie reduziert die Anzahl der adaptiven Iterationen pro Zeitschritt von den typischen 30–40 auf maximal 7.
• Effizienter Mesh-Reset: Die Methode initialisiert das Mesh zu Beginn jedes Zeitschritts als grobes, uniformes Mesh (anstatt das verfeinerte Mesh zu erben), wodurch ein separater Coarsening-Schritt vermieden wird und die Akkumulation unnötiger Freiheitsgrade verhindert wird.
• Dimensionsagnostik: Das Framework ist dimensionsagnostisch konzipiert und wurde erfolgreich in 2D und 3D ohne strukturelle Änderungen am Algorithmus angewendet.

Numerische Ergebnisse
Die Arbeit validiert den Algorithmus durch umfangreiche numerische Experimente an parabolischen Gleichungen mit beweglichen Singularitäten (Rotation, Diffusion und Spaltung) in 2D und 3D sowie an nichtlinearen Allen–Cahn-Gleichungen und Problemen auf L-förmigen Domänen.

• Effizienz: Die vorgeschlagene Methode erreicht die gewünschte Genauigkeit in höchstens sieben adaptiven Schritten pro Zeitschritt.
• Trainingsaufwand: Während der erste Zeitschritt ein signifikantes Training erfordert (z. B. ~2000 Epochen), benötigen nachfolgende Schritte nur eine minimale Feinabstimmung (<100 Epochen), wobei die Warm-Start-Strategie genutzt wird.
• Leistungssteigerung: Vergleiche mit konventionellen $h$-adaptiven Methoden zeigen eine erhebliche Reduktion der gesamten CPU-Laufzeit (z. B. Reduktion von 818s auf 132s in einem 2D-Rotationsbeispiel) und eine signifikante Verringerung der Gesamtzahl der Freiheitsgrade während der Simulation.
• Genauigkeit: Die Methode erfasst dynamische Änderungen von Singularitäten erfolgreich und erreicht quasi-optimale Konvergenzraten für Gradientenfehler.

Bedeutung und Ansprüche
Die Arbeit behauptet, dass der vorgeschlagene Algorithmus einen umfassenden Effizienzgewinn bietet, indem er die grundlegenden Engpässe konventioneller AFEM für parabolische Probleme adressiert. Durch die Integration neuronaler Netze nicht als eigenständige Solver, sondern als spezialisierte, datengesteuerte Module für den Datentransfer und die Funktionsrepräsentation, erreicht die Methode einen robusten und effizienten Workflow. Die Autoren betonen, dass dieser Ansatz die Knoteninsertion und -bewegung wesentlich komfortabler macht, die Zeit für wiederholte Verfeinerungen erheblich reduziert und eine hohe Genauigkeit mit einer kontrollierten Anzahl an Freiheitsgraden erreicht. Der Code wird zur Förderung weiterer Forschung und Anwendung öffentlich zugänglich gemacht.