FFV-PINN: A Fast Physics-Informed Neural Network with Simplified Finite Volume Discretization and Residual Correction

Probleemstelling

Physics-Informed Neural Networks (PINNs) zijn een veelbelovende methode voor het oplossen van partiële differentiaalvergelijkingen (PDE's) door neurale netwerken te combineren met fysische wetten. Echter, bestaande PINN-architecturen kampen met ernstige beperkingen, vooral bij complexe stromingsproblemen (zoals de Navier-Stokes-vergelijkingen):

1. Gebrek aan lokale behoudswetten: Traditionele PINNs gebruiken automatische differentiatie (AD) om de residuen van de PDE's op geïsoleerde collocation-punten te berekenen. Hierbij wordt informatie van aangrenzende punten genegeerd, wat leidt tot een zwakke handhaving van behoudswetten (massa, impuls, energie) en een verminderde nauwkeurigheid.
2. Instabiliteit en convergentieproblemen: Het trainen van PINNs voor hoge Reynolds- (Re) en Rayleigh- (Ra) getallen is vaak instabiel. De optimalisatielandschap is sterk niet-convex, wat leidt tot oscillaties en een gebrek aan convergentie.
3. Complexiteit van numerieke discretisatie: Bestaande hybride methoden die traditionele numerieke methoden (zoals de Finite Volume Method, FVM) integreren, vereisen vaak complexe keuzes voor discretisatieschema's (bijv. upwind vs. centraal) afhankelijk van de stromingsrichting en het verhouding van convectie tot diffusie. Dit maakt de implementatie lastig en minder robuust.

Methodologie: FFV-PINN

De auteurs stellen FFV-PINN (Fast Finite Volume PINN) voor, een framework dat twee kerninnovaties combineert om de bovengenoemde problemen op te lossen:

1. Vereenvoudigde Finite Volume Discretisatie (Simplified FVM)

In plaats van de traditionele FVM te gebruiken, waarbij complexe schema's moeten worden gekozen op basis van de stromingsrichting, introduceert FFV-PINN een vereenvoudigde aanpak:

• Directe benadering: Het neurale netwerk voorspelt waarden op willekeurige posities. De waarden op de controlevlakken (control surfaces) van de FVM worden direct benaderd met de output van het netwerk, zonder de noodzaak voor ingewikkelde interpolatieschema's of het kiezen van upwind-richtingen.
• Verbeterde dispersie en dissipatie: Deze aanpak elimineert de noodzaak voor handmatige schema-selectie en resulteert in superieure numerieke eigenschappen (minder dispersie- en dissipatiefouten) vergeleken met traditionele schema's zoals First Order Upwind (FOU) of Second Order Upwind (SOU).
• Behoudswetten: De PDE's worden omgezet in een algebraïsche vorm gebaseerd op de integraalvorm van behoudswetten over controlevolumes. Deze discretized loss term ($L_{de}$) wordt toegevoegd aan de totale loss-functie, waardoor fysische behoudswetten strikter worden afgedwongen dan bij puur AD-gebaseerde PINNs.

2. Residual Correction Loss Term

Om de convergentie en stabiliteit te versnellen, wordt een nieuwe loss-term geïntroduceerd:

• Concept: Gebaseerd op het SIMPLE-algoritme uit de FVM, wordt een "residual correction" term ($L_{rc}$) afgeleid. Deze term richt zich op het minimaliseren van de afwijking tussen de huidige voorspelling en de theoretisch geconvergeerde oplossing.
• Implementatie: De loss-term gebruikt een relaxatiefactor ($\alpha$) en schattingen van de volgende tijdstap (via extrapolatie) om de update van de neurale netwerkparameters te sturen. Dit fungeert als een leidraad die de training in de richting van de behoudswetten duwt, wat leidt tot snellere en stabielere convergentie.

De totale loss-functie bestaat uit:

1. Randvoorwaarden (BC loss).
2. Fysische beperkingen gebaseerd op de vereenvoudigde FVM-discretisatie.
3. De nieuwe residual correction loss.

Kernbijdragen

1. Vereenvoudigde FVM voor Convectie: Een nieuwe discretisatiemethode die de complexiteit van schema-selectie omzeilt en direct gebruikmaakt van neurale netwerk-outputs, wat leidt tot een gestroomlijnd proces met hoge numerieke nauwkeurigheid.
2. Residual Correction Loss: Een innovatieve loss-term die de training stabiliseert en versnelt door de parametersystematisch te corrigeren op basis van de residuen van de behoudswetten.
3. Data-vrije oplossingen voor extreme gevallen: Het framework is succesvol toegepast op problemen die eerder als onoplosbaar werden beschouwd voor data-vrije PINNs, zonder gebruik te maken van extra trainingsdata (alleen randvoorwaarden).

Resultaten

De prestaties van FFV-PINN zijn gevalideerd op een reeks uitdagende stromingsproblemen:

• 2D en 3D Lid-Driven Cavity Flow:
  • De methode bereikte data-vrije oplossingen voor een Reynolds-getal van Re = 10.000 (een record voor PINNs zonder data).
  • Voor Re = 10.000 werd een trainingstijd van slechts 680 seconden behaald op een enkele NVIDIA RTX 3090 GPU, wat 125x sneller is dan de state-of-the-art SOAP-methode (die een krachtigere A6000 GPU gebruikte).
  • De resultaten tonen uitstekende overeenkomst met hoge-fideliteit CFD-simulaties, inclusief complexe vortex-structuren.
• Hoge Rayleigh-getallen (Natural Convection):
  • Voor het eerst werd een data-vrije oplossing bereikt voor natuurlijke convectie bij Ra = 10^8 met een trainingstijd van slechts 231 seconden.
• Backward-Facing Step Flow:
  • De methode voorspelde nauwkeurig de afscheidings- en heraansluitingspunten van de stroming bij Re = 200 en Re = 400, in overeenstemming met CFD-benchmarks.
• Unsteady Flow:
  • De methode toonde stabiliteit en nauwkeurigheid in tijdsafhankelijke simulaties (2D unsteady LDC bij Re = 400) zonder tijdsaccumulatie van fouten.

Betekenis en Conclusie

FFV-PINN markeert een belangrijke doorbraak in het veld van Physics-Informed Machine Learning. Door de integratie van een vereenvoudigde Finite Volume Method en een nieuwe residual correction loss, overwint het de traditionele beperkingen van PINNs op het gebied van stabiliteit, convergentie en het handhaven van fysische behoudswetten.

De belangrijkste implicaties zijn:

• Efficiëntie: Drastische reductie in trainingstijd (minuten in plaats van uren) voor complexe stromingsproblemen.
• Robuustheid: Het vermogen om hoge Reynolds- en Rayleigh-getallen te hanteren zonder extra trainingsdata, wat het toepasbaar maakt voor scenario's waar data schaars of duur is.
• Toekomstperspectief: Dit werk opent de deur voor het gebruik van PINNs in industriële toepassingen voor complexe stromingsdynamica, waarbij de methode concurreert met traditionele CFD-oplossers in zowel snelheid als nauwkeurigheid.