Learning Complex Physical Regimes via Coverage-oriented Uncertainty Quantification: An application to the Critical Heat Flux

Diese Studie zeigt, dass im Gegensatz zu rein nachgelagerten Methoden wie der konformen Vorhersage coverage-orientierte Lernansätze, die Unsicherheit direkt in den Optimierungsprozess einbeziehen, für die Vorhersage des kritischen Wärmestroms (CHF) besser geeignet sind, da sie komplexe physikalische Regime effektiver internalisieren und physikalisch konsistente Unsicherheitsschätzungen liefern.

Das Wesentliche

🌡️ Der große Wärmekampf: Wie KI lernt, unsicher zu sein

Stellen Sie sich vor, Sie sind ein Koch, der versucht, das perfekte Steak zu braten. Aber es gibt ein Problem: Das Fleisch verhält sich nicht immer gleich. Manchmal ist es zart und braucht nur wenig Hitze, manchmal ist es hart und braucht viel, und dann gibt es diesen einen kritischen Moment, in dem es vom „perfekt gebraten" plötzlich zu „verbrannt" übergeht.

In der Kernphysik gibt es ein ähnliches Phänomen namens Kritische Wärmestromdichte (CHF). Das ist der Punkt, an dem eine Kühlflüssigkeit in einem Reaktor plötzlich nicht mehr kühlt, sondern verdampft – ein Moment, den man unbedingt vermeiden muss, da er zu Überhitzung führen kann.

Die Forscher aus diesem Papier haben sich gefragt: Wie können wir eine künstliche Intelligenz (KI) so trainieren, dass sie nicht nur den perfekten Wert vorhersagt, sondern auch weiß, wann sie sich nicht sicher ist?

Hier ist die Geschichte, wie sie das geschafft haben, mit ein paar einfachen Vergleichen:

1. Das Problem: Der „schlaue", aber übermütige Schüler

Bisher haben KI-Modelle oft wie ein sehr guter, aber etwas arroganter Schüler gearbeitet. Sie haben gelernt, die Durchschnittswerte zu erraten. Wenn man sie nach dem kritischen Punkt fragte, sagten sie: „Ich bin mir zu 100 % sicher!" – auch wenn sie eigentlich im Dunkeln tappen.

Das ist gefährlich. In der Physik gibt es verschiedene „Regime" (Zustände).

• Regime A: Die Flüssigkeit kocht ruhig (wie ein sanfter Topf).
• Regime B: Die Flüssigkeit trocknet aus (wie ein verbrannter Topf).
• Der Übergang: Dazwischen passiert Chaos.

Ein normales KI-Modell versucht, alles in eine einzige Formel zu pressen. Es ignoriert das Chaos in der Mitte und gibt einfach eine glatte, aber falsche Vorhersage ab. Es lernt nicht, dass die Welt an manchen Stellen unvorhersehbar ist.

2. Die alte Lösung: Der Sicherheitsgurt nach dem Unfall (Post-hoc)

Eine gängige Methode ist wie ein Sicherheitsgurt, den man erst nachdem das Auto gebaut wurde, anbringt. Man nimmt das fertige KI-Modell und sagt: „Okay, wir wissen nicht genau, wie sicher das ist, also geben wir einfach einen riesigen Puffer drumherum."

Das nennt man Conformal Prediction.

• Vorteil: Es ist statistisch sicher. Wenn das Modell sagt „100 Grad", dann liegt der echte Wert mit 95 % Wahrscheinlichkeit zwischen 90 und 110.
• Nachteil: Das Modell selbst hat nichts gelernt. Es ist immer noch der arrogante Schüler, der nicht weiß, warum er unsicher ist. Der Sicherheitsgurt ist nur ein Klebeband über dem Problem.

3. Die neue Lösung: Der Schüler lernt, seine Unsicherheit zu fühlen (Coverage-Oriented Learning)

Die Forscher haben einen anderen Weg gewählt. Statt dem fertigen Modell einen Gurt umzuhängen, haben sie das Modell während des Trainings gezwungen, seine Unsicherheit zu „fühlen".

Stellen Sie sich vor, wir trainieren den Schüler nicht nur darauf, die richtige Temperatur zu nennen, sondern auch darauf, ein Zittern in seiner Hand zu simulieren, wenn er unsicher ist.

• Wenn die Situation stabil ist (Regime A), zittert seine Hand kaum (kleine Unsicherheit).
• Wenn er in den chaotischen Übergang kommt, fängt seine Hand stark an zu zittern (große Unsicherheit).

Das erreichen sie durch Methoden wie Heteroskedastische Regression und Quality-Driven Learning.

• Die Metapher: Statt nur das Ziel zu treffen, lernt das Modell, wie breit sein Zielkreis sein muss, um das Ziel zu treffen. In ruhigen Phasen ist der Kreis klein (präzise). In chaotischen Phasen wird der Kreis riesig (unsicher).

4. Das Ergebnis: Ein Modell, das die Physik „versteht"

Was passiert, wenn man das Modell so trainiert?
Es passiert etwas Magisches: Das Modell lernt die Physik von selbst!

• Es merkt: „Aha, hier bei diesem bestimmten Wert (wenn der Dampfanteil steigt) wird es chaotisch."
• Es beginnt, seine Unsicherheitsgrenzen genau dort zu erweitern, wo der physikalische Übergang von „kochen" zu „trocknen" stattfindet.

Das Modell wird nicht nur genauer, sondern es wird auch ehrlicher. Es sagt nicht mehr einfach eine Zahl, sondern: „Ich sage 1000, aber in diesem speziellen Bereich könnte es zwischen 800 und 1200 liegen, weil hier die Physik verrückt spielt."

5. Warum ist das wichtig? (Die Kernbotschaft)

In der Kernenergie geht es um Sicherheit. Ein Modell, das sich zu sicher ist, ist gefährlich. Ein Modell, das weiß, wann es unsicher ist, ist ein selbstdiagnostizierendes Werkzeug.

Die Forscher zeigen mit diesem Papier:

1. Unsicherheit ist kein Fehler: Sie ist ein Teil der Physik. Wenn die Daten wild schwanken, ist das kein Rauschen, das man wegfiltern muss, sondern ein Signal, dass sich etwas Wichtiges ändert.
2. Lernen statt Nachbessern: Wenn man Unsicherheit direkt in den Lernprozess einbaut (wie beim neuen Ansatz), lernt das Modell die Struktur der Welt besser kennen als wenn man es nur nachträglich „sichert".

Zusammenfassung in einem Satz

Statt einer KI, die wie ein selbstbewusster, aber blindes Experte ist, haben die Forscher eine KI gebaut, die wie ein erfahrener Pilot ist: Sie weiß genau, wann das Wetter ruhig ist und wann sie die Hände fest am Steuer halten muss, weil sie spürt, dass die Physik gerade unvorhersehbar wird. Und das macht sie nicht nur sicherer, sondern auch verständlicher.

Technische Zusammenfassung

1. Problemstellung und Motivation

Das zentrale Problem im wissenschaftlichen Machine Learning (ML) besteht darin, physikalische Systeme korrekt abzubilden, die durch komplexe, multi-regime-Verhalten (Zustandsbereiche) und inhärente Stochastik gekennzeichnet sind. Herkömmliche ML-Ansätze minimieren oft globale Fehlermetriken (wie den mittleren quadratischen Fehler), was dazu führen kann, dass die inhärente Variabilität der Daten unterdrückt wird. Dies führt zu Modellen, die zwar nominell präzise sind, aber in turbulenten oder instabilen Regimen übermäßig selbstbewusste Vorhersagen treffen, da sie die physikalischen Übergänge nicht internalisieren.

Als Fallstudie dient die Vorhersage des Kritischen Wärmestroms (Critical Heat Flux, CHF). Der CHF ist ein Phänomen in der Thermohydraulik (z. B. in Kernreaktoren), das durch eine hochgradig nichtlineare Abhängigkeit von Eingangsparametern und das Vorhandensein zweier unterschiedlicher mikroskopischer physikalischer Regime gekennzeichnet ist:

1. DNB (Departure from Nucleate Boiling): Tritt bei niedrigen Dampfqualitäten auf.
2. Dryout: Tritt bei hohen Dampfqualitäten auf.

Der Übergang zwischen diesen Regimen weist eine deutlich höhere statistische Variabilität auf. Die Herausforderung besteht darin, ein ML-Modell zu entwickeln, das nicht nur den CHF-Wert präzise vorhersagt, sondern auch die Unsicherheit so quantifiziert, dass sie mit den physikalischen Regimen übereinstimmt (d. h. die Unsicherheit steigt im Übergangsbereich).

2. Methodik

Die Autoren vergleichen verschiedene Ansätze zur Unsicherheitsquantifizierung (UQ), um deren Einfluss auf die physikalische Repräsentation des Modells zu bewerten. Die Studie basiert auf dem standardisierten OECD/NEA-Datensatz der US Nuclear Regulatory Commission (NRC), der nach Bereinigung von Ausreißern und physikalisch inkonsistenten Daten (z. B. negative Unterkühlung) 22.872 Punkte umfasst.

Als Basis-Architektur dienen Residual Networks (ResNet) für tabellarische Daten. Die untersuchten UQ-Methoden lassen sich in zwei Kategorien unterteilen:

A. Post-hoc-Ansätze (Nachträgliche Kalibrierung)

• Conformal Prediction (CP): Ein statistisches Verfahren, das auf einem bereits trainierten, „eingefrorenen" Modell aufsetzt. Es berechnet Konfidenzintervalle basierend auf den Residuen eines Kalibrierungsdatensatzes.
  • Vanilla CP: Erzeugt konstante Intervallbreiten.
  • Adaptive CP: Nutzt eine Score-Funktion, die die Varianz der Vorhersagen berücksichtigt, um variable Intervallbreiten zu erzeugen.
  • Limitierung: Das Modell selbst lernt die Unsicherheit nicht; es wird nur nachträglich kalibriert.

B. End-to-End-Ansätze (Coverage-Oriented Learning)

Hier wird die Unsicherheit direkt in den Lernprozess integriert, indem das Modell gezwungen wird, die heteroskedastische Natur der Daten zu internalisieren.

• Heteroskedastische Regression (HR): Das Netzwerk gibt gleichzeitig den Mittelwert ($\mu$) und die Varianz ($\sigma^2$) aus. Die Optimierung erfolgt mittels einer generalisierten negativen Log-Likelihood-Loss-Funktion, die sowohl die Vorhersagegenauigkeit als auch die Unsicherheitsschätzung minimiert.
• Quality-Driven (QD) Prediction: Ein Ansatz, der asymmetrische obere und untere Unsicherheitsgrenzen direkt vorhersagt. Die Loss-Funktion kombiniert den Vorhersagefehler (RMSPE) mit einem Strafterm, der sicherstellt, dass die Coverage Probability (PICP) einen Zielwert (hier 95 %) erreicht, während die Intervallbreite minimiert wird.
• Bayesian Heteroscedastic Regression (BHR): Implementierung von HR mittels Bayesian Neural Networks (BNN). Dies ermöglicht die Trennung von aleatorischer Unsicherheit (Datenrauschen/Physik) und epistemischer Unsicherheit (Modellunsicherheit/Wissensmangel).

Zusätzlich wurden Strategien wie Multi-Task Learning (MTL) und Transfer Learning (TL) untersucht, um zu prüfen, ob geteilte Repräsentationen die Leistung verbessern.

3. Wichtige Beiträge

1. Paradigmenwechsel in der UQ: Die Arbeit argumentiert, dass UQ nicht nur ein Sicherheits-Check (Post-hoc) sein sollte, sondern ein aktiver Bestandteil des Optimierungsprozesses. Durch coverage-orientiertes Lernen wird das Modell gezwungen, die physikalischen Regime und deren Übergänge zu „lernen".
2. Erstmalige Anwendung von QD-Loss auf CHF: Die Studie wendet Quality-Driven Loss-Funktionen erstmals auf das CHF-Regressionsproblem an und zeigt, wie asymmetrische Unsicherheitsgrenzen physikalische Phänomene (Unterschätzung vs. Überschätzung) besser abbilden können.
3. Physikalische Konsistenz durch Heteroskedastizität: Die Autoren zeigen, dass end-to-end Ansätze (HR, QD) Modelle hervorbringen, deren Unsicherheitsintervalle dynamisch auf die Eingangsparameter reagieren und physikalische Übergänge (z. B. DNB zu Dryout) automatisch identifizieren, ohne dass explizite Regime-Marker benötigt werden.
4. Datenbereinigung und Vorverarbeitung: Eine rigorose Filterung des NRC-Datensatzes wurde durchgeführt, um physikalische Inkonsistenzen zu entfernen, was die Basis für ein stabiles Training bildete.

4. Ergebnisse

Die Ergebnisse wurden auf dem Testset und dem gesamten Datensatz mit Metriken wie RMSPE (Vorhersagefehler), PICP (Abdeckung), INF (Informativität/Intervallbreite) und einem kombinierten UQ-F-Score bewertet.

• Vorhersagegenauigkeit: Alle ResNet-basierten Modelle erreichten eine RMSPE von ca. 10–11 %, was dem State-of-the-Art entspricht oder dieses teilweise übertrifft.
• Unsicherheitskalibrierung:
  • Adaptive CP erreichte die Zielabdeckung (95 %) und lieferte informative Intervalle, zeigte aber keine direkte physikalische Anpassung des Modells.
  • HR und QD (End-to-End) erreichten ebenfalls die Zielabdeckung, wobei die Intervallbreiten stark mit dem physikalischen Regime korrelierten.
• Physikalische Interpretation der Unsicherheit:
  • Sowohl bei CP als auch bei HR/QD/BHR zeigte sich eine klare Korrelation zwischen der Austrittsqualität ($X$) und der relativen Intervallbreite.
  • DNB-Regime ($X < 0,25$): Geringe Unsicherheit (ca. 10–30 %).
  • Übergangsregime ($X \in [0,25; 0,5]$): Deutlicher Anstieg der Unsicherheit (bis zu 100–160 %), was den physikalischen Übergang und die Instabilität korrekt widerspiegelt.
  • Dryout-Regime ($X > 0,5$): Moderate, aber variable Unsicherheit.
• Vergleich der Methoden:
  • HR und QD lieferten oft informativere (schmalere) Intervalle bei gleicher Abdeckung als CP, da das Modell die Unsicherheit aktiv lernte.
  • BHR bestätigte, dass die aleatorische Unsicherheit (Datenrauschen/Physik) den größten Teil der Gesamtunsicherheit ausmacht, während die epistemische Unsicherheit (Modellfehler) vernachlässigbar klein ist. Dies validiert die Hypothese, dass die Variabilität im CHF-Phänomen physikalisch bedingt und nicht nur ein Zeichen von Modellmangel ist.
  • Transfer Learning (TL) erwies sich als vorteilhaft für die Vorhersagequalität und Kalibrierung, insbesondere bei HR und QD.

5. Bedeutung und Fazit

Die Studie demonstriert, dass die Integration von Unsicherheitsquantifizierung direkt in den Lernprozess (Coverage-oriented Learning) über die reine Sicherheitsbewertung hinausgeht. Sie transformiert das ML-Modell in ein selbstdiagnostisches Werkzeug, das physikalische Regime und deren Übergänge autonom erkennen kann.

• Für die Wissenschaft: Es wird gezeigt, dass Unsicherheit nicht als Störgröße zu unterdrücken, sondern als fundamentaler Bestandteil der physikalischen Darstellung zu internalisieren ist.
• Für die Anwendung (Kerntechnik): In sicherheitskritischen Bereichen wie der Nukleartechnik (BEPU-Methodik) ermöglicht dieser Ansatz nicht nur zuverlässigere Vorhersagen, sondern auch eine bessere Identifikation von Betriebszuständen, in denen das Modell aufgrund physikalischer Instabilitäten weniger vertrauenswürdig ist.
• Zukunftsperspektive: Der Ansatz fördert interpretierbares und robustes Scientific Machine Learning, bei dem die Modellarchitektur durch die Berücksichtigung der Datenvariabilität eine vollständigere Abbildung der physikalischen Realität lernt.

Zusammenfassend beweist das Paper, dass coverage-orientierte UQ-Methoden (insbesondere HR und QD) Modelle erzeugen, die sowohl statistisch kalibriert als auch physikalisch konsistent sind und somit besser geeignet sind, komplexe Mehrregime-Systeme zu modellieren als traditionelle Post-hoc-Ansätze.