Flow field tomography with uncertainty quantification using a Bayesian physics-informed neural network

Deze studie presenteert een nieuwe aanpak voor stromingstomografie die gebruikmaakt van een Bayesiaanse, fysisch geïnformeerde neurale netwerken om 2D-stromingsvelden uit schaarse metingen te reconstrueren en onzekerheden te kwantificeren, waardoor superieure resultaten worden behaald ten opzichte van bestaande methoden en het probleem van semi-convergentie bij ruis wordt aangepakt.

De kern

De Onzichtbare Stroom: Hoe AI en Wetenschap de Vloeistof van de Toekomst Zien

Stel je voor dat je naar een stromende rivier kijkt, maar je mag er niet in stappen. Je mag ook geen steen in het water gooien. Je kunt alleen kijken door een paar smalle spleten in een muur die de rivier omringt. Wat je ziet, is slechts een samengevoegd beeld van alles wat er langs die spleten is gepasseerd. Je ziet een wazige schaduw, maar je weet niet precies waar de snelle stroming zit, waar de draaikolken draaien, of hoe het water op die specifieke plek beweegt.

Dit is precies het probleem waar wetenschappers mee te maken hebben bij het bestuderen van vloeistoffen (zoals lucht rond een vliegtuig of vlammen in een motor). Ze hebben metingen, maar die metingen zijn "line-of-sight" (rechtlijnig): ze geven een gemiddelde waarde over een hele lijn, niet over het hele 3D-gebied. Het reconstrueren van het volledige plaatje uit deze flarden informatie is als proberen een complete puzzel te maken terwijl je slechts de helft van de stukjes hebt en ze allemaal door elkaar liggen.

In dit artikel presenteren Joseph en Samuel een nieuwe, slimme manier om deze puzzel op te lossen. Ze gebruiken een soort "slimme computerhersenen" (een Kunstmatige Intelligentie) die niet alleen naar de data kijkt, maar ook de regels van de natuurkunde kent.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De Oude Manier: Gissen en Strijken

Vroeger probeerden wetenschappers dit op te lossen door te gissen. Ze begonnen met een willekeurig beeld en pasten het beetje bij beetje aan tot het leek op de metingen.

• Het probleem: Dit is als proberen een foto te herstellen door alleen te raden wat er mist. Als er ruis (storingsgeluid) in de metingen zit, begint de computer te "gillen" en te overdrijven. Het beeld wordt steeds mooier in de ogen van de computer, maar steeds lelijker in de werkelijkheid. Dit noemen ze "semi-convergentie": je denkt dat je dichtbij bent, maar je loopt de verkeerde kant op.
• De oplossing van de oude manier: Ze hielden de computer halverwege tegen, maar dat was een beetje willekeurig ("stoppen als het er goed uitziet").

2. De Nieuwe Manier: De AI die de Natuurkunde kent

De auteurs gebruiken een Physics-Informed Neural Network (PINN).

• De Analogie: Stel je voor dat je een schilderij moet maken van een storm, maar je hebt alleen een paar foto's van de wind die langs ramen waait.
  • Een normale AI zou proberen de foto's na te bootsen. Als de foto's ruis hebben, zou de AI een storm tekenen die eruitziet als een gekke krabbel.
  • Een Physics-Informed AI is als een schilder die ook een natuurkundige is. Hij weet: "Wind kan niet zomaar stoppen, en water stroomt niet door muren." Hij gebruikt de wiskundige regels van de stroming (de Navier-Stokes vergelijkingen) als een stevig raster over zijn schilderij.
  • Zelfs als de foto's (de metingen) wazig zijn, zorgt dit raster ervoor dat het schilderij eruitziet als een echte storm en niet als een abstracte krabbel.

3. De Grote Doorbraak: Direct vs. Achteraf

Eerder gebruikten wetenschappers deze AI om na een slechte reconstructie het beeld nog wat op te poetsen (post-processing).

• De Metafoor: Dit is als proberen een beschadigde foto te repareren door er een filter overheen te leggen. Als de foto al kapot is, helpt het filter niet echt.
• De Nieuwe Methode: De auteurs laten de AI de foto direct maken uit de ruwe data. Ze zeggen tegen de AI: "Kijk naar de metingen, maar zorg dat je antwoord voldoet aan de wetten van de natuurkunde."
• Het Resultaat: Het werkt verbluffend goed. Zelfs met heel weinig data (weinig ramen om door te kijken) en veel ruis, krijgen ze een haarscherp beeld van de stroming, veel beter dan de oude methoden.

4. Het Gevaar van "Te Hard Werken" (Semi-convergentie)

Toch heeft de nieuwe methode een valkuil. Als je de AI te lang laat trainen met ruisige data, begint hij de ruis te leren in plaats van de echte stroming.

• De Analogie: Het is alsof je een liedje probeert te horen in een drukke kamer. Eerst hoor je de melodie. Als je te lang luistert en je oren gaan "kraken" door de ruis, begin je de ruis te zien als muziek. Je denkt dat je het liedje perfect hoort, maar je hoort alleen maar statisch geluid.
• De Oplossing: De auteurs hebben een slimme "stopknop" bedacht. Ze kijken naar een specifieke meetwaarde (hoe goed voldoet het aan de natuurkundewetten?) en stoppen precies op het moment dat de AI begint te "gillen" over de ruis. Dit geeft het beste resultaat.

5. De Bayesianische Wiskunde: De "Onzekerheidsmeter"

Dit is misschien wel het coolste deel. Vaak geven computers een antwoord en zeggen ze: "Dit is het antwoord." Maar in de wetenschap is het belangrijker om te weten: "Hoe zeker zijn we van dit antwoord?"

• De Metafoor: Stel je voor dat je een weersvoorspelling krijgt.
  • De oude AI zegt: "Morgen regent het." (Punt-voorspelling).
  • De Bayesianische AI (B-PINN) zegt: "Morgen regent het, maar we zijn 90% zeker. Als je naar de rand van het gebied kijkt waar we minder metingen hebben, is de kans op regen wisselend, en hier is de onzekerheid groot."
• De auteurs gebruiken een geavanceerde wiskundige methode (Hamiltonian Monte Carlo) om niet één antwoord te vinden, maar een wolk van mogelijke antwoorden. Hiermee kunnen ze zien waar hun metingen goed zijn en waar ze twijfelen. Het is alsof ze een kaart maken met "betrouwbaarheidszones".

Samenvatting

Kortom, deze paper introduceert een slimme manier om onzichtbare stromingen zichtbaar te maken.

1. Ze gebruiken AI die de regels van de natuurkunde kent, zodat het antwoord altijd logisch is.
2. Ze laten de AI direct werken, in plaats van achteraf te poetsen.
3. Ze hebben een slimme timer bedacht om te voorkomen dat de AI door ruis in de war raakt.
4. Ze gebruiken een Bayesianische aanpak om niet alleen het antwoord te geven, maar ook aan te geven hoe zeker we daarover zijn.

Het is alsof ze een magische bril hebben bedacht die ons laat zien wat er echt gebeurt in een storm, zelfs als we maar door een klein gaatje kunnen kijken en het regent buiten.

Technische samenvatting

Probleemstelling

Stromingsveldtomografie is een techniek om 2D- of 3D-verdelingen van stromingsvariabelen (zoals snelheid, temperatuur, concentratie) af te leiden uit een reeks line-of-sight (LoS) geïntegreerde metingen. Het reconstructieproces is een ill-posed inverse probleem:

1. Er zijn vaak minder projecties dan onbekenden (rank-deficiëntie), wat leidt tot oneindig veel oplossingen die de metingen perfect voldoen.
2. Bestaande methoden (zoals iteratieve algoritmen ART, MART, SIRT) vereisen regularisatie om fysisch plausibele schattingen te krijgen. Huidige regularisatietechnijken (zoals Tikhonov of Total Variation) voegen vaak straff termen toe die niet volledig compatibel zijn met de onderliggende stromingsfysica.
3. Bestaande deep-learning benaderingen gebruiken vaak post-processing: eerst een ruwe reconstructie met een conventioneel algoritme, en daarna een Neural Network om dit te verfijnen. Dit beperkt de prestaties omdat de fouten van de initiële reconstructie al in het proces zijn opgenomen.
4. Bij aanwezigheid van ruis vertonen iteratieve methoden semi-convergentie: de fout neemt eerst af, maar neemt daarna weer toe door overfitting op ruis. Het bepalen van het juiste stopmoment is vaak heuristisch.
5. Traditionele methoden missen vaak een robuuste onzekerheidskwantificatie (UQ), wat essentieel is voor wetenschappelijke metingen.

Methodologie

De auteurs stellen een nieuwe raamwerk voor dat Physics-Informed Neural Networks (PINNs) en Bayese inferentie combineert voor directe reconstructie.

1. Directe Reconstructie met PINN:
In plaats van een conventionele reconstructie te post-processen, wordt de projectiemodel (de forward operator) direct in de verliesfunctie van het neural network geïntegreerd.

• Netwerkarchitectuur: Een diep, volledig verbonden netwerk dat ruimtetijd-coördinaten $(x, y, t)$ invoert en de stromingsvariabelen $(c, u, v, p)$ (concentratie, snelheid in x en y, druk) als output geeft.
• Verliesfunctie: De totale verliesfunctie bestaat uit twee delen:
  • Fysica-verlies ($L_{phys}$): De Navier-Stokes-vergelijkingen en de advectie-diffusie-vergelijking worden als strafftermen opgelegd. De residuals van deze PDE's worden geminimaliseerd.
  • Meetverlies ($L_{meas}$): In plaats van het vergelijken met een bekende grondwahrheid of een ruwe reconstructie, wordt de output van het netwerk ($C_{out}$) via het projectiemodel ($A$) omgezet naar voorspelde projecties. Deze worden vergeleken met de daadwerkelijke meetdata ($B$): $L_{meas} = ||AC_{out} - B||^2_F$.
• Dit elimineert de noodzaak van een voorafgaande reconstructie en zorgt dat het netwerk direct leert op basis van de ruwe projectiedata en de fysica.

2. Bayese PINN (B-PINN) voor Onzekerheidskwantificatie:
Om het probleem van semi-convergentie en de onzekerheid in de oplossing aan te pakken, implementeren de auteurs een Bayese versie.

• In plaats van één set gewichten te vinden die de verliesfunctie minimaliseren (Maximum A Posteriori - MAP), wordt een verdeling van netwerken gegenereerd.
• Likelihood: Gebaseerd op de meetruis (Gaussisch).
• Prior: Gebaseerd op de fysica-residuals (Navier-Stokes).
• Sampling: De posterieure verdeling van de netwerkparameters wordt benaderd met Hamiltonian Monte Carlo (HMC). Dit levert een kansdichtheidsfunctie (PDF) op voor de stromingsvelden.
• Output: De schatting wordt gedaan via het conditioneel gemiddelde (CM) van deze verdeling, en onzekerheid wordt uitgedrukt via credible intervals (CI).

3. Stopcriterium voor Conventionele PINN:
Voor niet-Bayese (conventionele) PINNs met ruisachtige data, ontdekten de auteurs drie trainingsfasen. Ze ontwikkelden een stopcriterium gebaseerd op het maximum van de continuïteitsresidual (overgang van fase I naar II) om overfitting (semi-convergentie) te voorkomen zonder heuristische keuzes.

Belangrijkste Resultaten

De methode werd getest op een 2D-simulatie van een passieve scalar achter een cilindrisch obstakel (Re=100, Pe=100).

1. Superieure Nauwkeurigheid: Directe reconstructie met een PINN presteerde aanzienlijk beter dan post-processing van conventionele reconstructies (zoals Tikhonov of Bayese Multivariate Gaussian). Zelfs met minder projecties (20 stralen) en ruis, was de directe reconstructie nauwkeuriger dan post-processing met veel meer, schone data.
   • De fout in concentratie ($\epsilon_c$) daalde met ongeveer 99% ten opzichte van post-processing.
   • Snelheids- en drukvelden waren veel nauwkeuriger bij directe reconstructie.
2. Omgaan met Ruis en Semi-convergentie:
   • Bij ruisachtige data vertoonde de conventionele PINN semi-convergentie. Het nieuwe stopcriterium (gebaseerd op de continuïteitsresidual) bleek zeer effectief om het optimale punt te vinden voordat de fout toenam.
   • Het aanpassen van de weging ($\gamma$) tussen meet- en fysicaverlies bleek gevoelig en niet altijd succesvol voor ruisachtige data bij conventionele training.
3. Bayese Benadering (B-PINN):
   • De B-PINN kon effectief een strengere fysica-prior gebruiken (kleinere $\sigma_{phys}$) die bij conventionele training zou leiden tot slechte resultaten (MAP-schattingen).
   • De B-PINN leverde robuuste schattingen zelfs bij 5% ruis, waar conventionele methoden faalden.
   • De B-PINN produceerde onzekerheidskaarten (credible intervals) die duidelijk de gebieden met hoge onzekerheid toonden (bijv. tussen de stralen of aan de randen van het domein), wat waardevol is voor modelvalidatie.
4. Grid Resolutie: Een fijnere grid verbeterde de directe reconstructie aanzienlijk, terwijl post-processing hier weinig baat bij had.

Bijdragen en Significantie

• Paradigmaverschuiving: Dit is de eerste toepassing van PINNs voor directe tomografische reconstructie, waarbij het meetmodel direct in de loss-functie zit, in plaats van als post-processing stap. Dit omzeilt de fouten van conventionele algoritmen.
• Onzekerheidskwantificatie: Het introduceren van B-PINNs voor stromingstomografie biedt een oplossing voor het ontbreken van UQ in dit veld. Het stelt onderzoekers in staat om niet alleen een schatting te geven, maar ook de betrouwbaarheid daarvan te kwantificeren.
• Robuustheid: De methode is zeer robuust tegen ruis en vereist minder metingen voor hoge nauwkeurigheid dan traditionele methoden.
• Toepassingsbereik: De techniek is breed toepasbaar op verschillende tomografische modaliteiten (laserspectroscopie, PIV, schlieren, etc.) en kan gebruikt worden voor het valideren van CFD-codes en het begrijpen van complexe stromingsverschijnselen zonder inbreuk op het stromingsveld.

Kortom, de auteurs tonen aan dat het combineren van fysica-gedreven neural networks met Bayese inferentie een krachtig, nauwkeurig en betrouwbaar alternatief biedt voor bestaande stromingstomografie-methoden.