🤖 machine learning

Single vs. Multiple Branches in DeepONet and S-DeepONet: Network Architecture Follows Coupling in Multiphysics Systems

Diese Arbeit zeigt, dass für DeepONet- und S-DeepONet-Architekturen Single-Branch-Designs in eng gekoppelten Multiphysik-Systemen Multi-Branch-Varianten übertreffen, indem sie gemeinsame latente Repräsentationen fördern, während Multi-Branch-Ansätze bei entkoppelten Aufgaben überlegen bleiben, was kollektiv Vollfeldvorhersagen ermöglicht, die bis zu $1,8 \times 10^4$ Mal schneller als traditionelle Solver sind.

Ursprüngliche Autoren: Jaewan Park, Kazuma Kobayashi, Qibang Liu, Seid Koric, Diab Abueidda, Syed Bahauddin Alam

Veröffentlicht 2026-06-12

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Jaewan Park, Kazuma Kobayashi, Qibang Liu, Seid Koric, Diab Abueidda, Syed Bahauddin Alam

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie versuchen, einem Computer beizubringen, wie sich komplexe physikalische Systeme verhalten – wie etwa die Ausbreitung von Wärme durch einen Metallblock, während gleichzeitig Elektrizität hindurchfließt, oder wie Stahl abkühlt und seine Form verändert, während er erstarrt. Dies sind keine einfachen Probleme; es sind „Multiphysik“-Rätsel, bei denen verschiedene Kräfte (Wärme, Elektrizität, Spannung) eng miteinander verwoben sind und sich ständig gegenseitig beeinflussen.

Lange Zeit haben Wissenschaftler leistungsstarke Computersimulationen (wie die Finite-Elemente-Methode) verwendet, um diese Rätsel zu lösen. Aber diese Simulationen sind langsam, als würde man versuchen, einen Rubik's Cube zu lösen, indem man jeden einzelnen Zug einzeln überprüft. Um dies zu beschleunigen, nutzen Forscher „Surrogatmodelle“ – KI-Abkürzungen, die aus vergangenen Simulationen lernen, um die Zukunft sofort vorherzusagen.

Diese Arbeit stellt eine sehr praktische Frage: Wenn wir diese KI-Abkürzungen bauen, sollten wir sie so konzipieren, dass sie verschiedene physikalische Kräfte als getrennte Teams behandeln, die parallel arbeiten, oder als ein großes, vereintes Team, das zusammenarbeitet?

Die Autoren testeten zwei verschiedene Architekturstile unter Verwendung einer Art von KI namens DeepONet:

Das „Single-Branch“-Team (Die vereinte Truppe): Stellen Sie sich eine einzige Gruppe von Arbeitern vor, die alle gemeinsam das gesamte Bild betrachten. Sie teilen sich ein gemeinsames Notizbuch (einen gemeinsamen „Latent Space“), in dem sie alles aufschreiben, was sie sehen. Sie diskutieren über die Wärme, die Elektrizität und die Spannung gleichzeitig und verstehen sofort, wie das eine das andere beeinflusst.
Das „Multi-Branch“-Team (Die spezialisierten Abteilungen): Stellen Sie sich zwei separate Teams vor. Ein Team schaut sich nur die Wärme an, und das andere Team nur die Elektrizität. Sie arbeiten isoliert, schreiben ihre eigenen Berichte und führen am Ende erst die Berichte zusammen, um das Endergebnis zu sehen.

Die Experimente: Drei verschiedene Rätsel

Die Forscher testeten diese beiden Ansätze in drei Szenarien, um zu sehen, welche „Teamstruktur“ am besten funktionierte.

1. Das einfache Rätsel (Reaktions-Diffusions-Prozess)

Das Szenario: Ein einzelner physikalischer Prozess (wie eine chemische Substanz, die sich in Wasser ausbreitet) mit zwei verschiedenen Eingabegrößen (einer Quelle und einer Reaktionsrate).
Das Ergebnis: Das Multi-Branch-Team gewann. Da die Eingaben unabhängig voneinander waren (das eine veränderte das andere nicht wirklich), ermöglichte es den spezialisierten Experten, die sich nur auf eine Sache konzentrierten, eine etwas höhere Präzision. Es ist wie beim Bau eines Autos, wenn man einen Spezialisten für den Motor und einen Spezialisten für die Reifen hat; sie müssen nicht viel miteinander reden, um ihre Arbeit gut zu erledigen.

2. Das verwobene Rätsel (Elektro-Thermisch)

Das Szenario: Elektrizität, die durch einen Draht fließt, erzeugt Wärme, und diese Wärme verändert, wie die Elektrizität fließt. Sie sind in einem Tanz gefangen, bei dem man sie nicht trennen kann.
Das Ergebnis: Das Single-Branch-Team war haushoch überlegen. Das Multi-Branch-Team hatte Schwierigkeiten, da es bereits die subtilen Arten und Weisen verpasst hatte, wie die Wärme und die Elektrizität sich in Echtzeit gegenseitig beeinflussten, als es versuchte, die separaten Berichte zusammenzuführen. Der Fehler des Multi-Branch-Teams war riesig (in einigen Fällen über 15 %), während das Single-Branch-Team nahezu perfekt war (unter 1 %).

3. Das schwere Hebel-Rätsel (Stahlverfestigung)

Das Szenario: Geschmolzener Stahl, der abkühlt. Während er abkühlt, zieht er sich zusammen und erzeugt Spannung. Die Temperatur bestimmt die Spannung, und die Spannung verändert die Temperatur. Es ist ein hochkomplexes, „pfadabhängiges“ System (die Geschichte, wie er abgekühlt ist, spielt eine Rolle).
Das Ergebnis: Auch hier war das Single-Branch-Team der klare Gewinner. Das Verhalten des Stahls ist so eng gekoppelt, dass die Trennung des „Temperatur-Teams“ vom „Spannungs-Team“ zu erheblichen Fehlern führte. Die vereinte Truppe, die die Beziehung zwischen Wärme und Spannung gleichzeitig lernte, sagte die Spannungsniveaus viel genauer voraus.

Die wichtigste Erkenntnis

Die Hauptentdeckung der Arbeit ist eine einfache Faustregel für das Design dieser KI-Modelle: Passe die Struktur der KI an die Physik an.

Wenn die Physik „entkoppelt“ ist (unabhängig): Verwende Multi-Branch-Netzwerke. Lass die Spezialisten ihr eigenes Ding machen.
Wenn die Physik „gekoppelt“ ist (eng verwoben): Verwende Single-Branch-Netzwerke. Zwinge die KI dazu, die Verbindungen zwischen den Kräften von Anfang an zu lernen, genau wie ein monolithischer (All-in-One) Solver in der traditionellen Ingenieurwissenschaft.

Der Geschwindigkeitsbonus

Neben der Genauigkeit hebt die Arbeit einen massiven Geschwindigkeitsvorteil hervor. Sob es trainiert sind, können diese KI-Modelle das Verhalten dieser komplexen Systeme 18.000 Mal schneller vorhersagen als die herkömmlichen, rechenintensiven Computersimulationen.

Traditioneller Solver: Benötigt etwa 5,5 Minuten, um ein Szenario zu lösen.
KI-Surrogat: Benötigt etwa 0,02 Sekunden.

Das bedeutet, dass Aufgaben, die früher Stunden oder Tage dauerten, nun in Millisekunden erledigt werden können, was die Tür für die Echtzeitüberwachung und -steuerung in Bereichen wie der Fertigung und Energiesystemen öffnet.

Zusammenfassende Analogie

Denken Sie an das Kochen eines komplexen Eintopfs.

Wenn Sie einen Salat zubereiten, bei dem die Tomaten die Salatblätter nicht verändern, können Sie eine Person die Tomaten schneiden lassen und eine andere den Salat schneiden lassen, um dann am Ende alles zu mischen (Multi-Branch).
Aber wenn Sie einen Eintopf kochen, bei dem das Fleisch den Geschmack der Brühe verändert und die Brühe wiederum beeinflusst, wie das Fleisch gart, dann brauchen Sie einen Koch, der alles ständig probiert, nachwürzt und rührt (Single-Branch). Wenn Sie versuchen, das Fleisch und die Brühe separat zu kochen und am Ende zusammenzumischen, wird der Eintopf nicht schmecken.

Diese Arbeit beweist, dass für „Eintöpfe“ (eng gekoppelte Physik) der Single-Chef-Ansatz nicht nur besser, sondern notwendig ist, um das richtige Ergebnis zu erzielen.

Technisches Resümee: Single- vs. Multi-Branch-Architekturen in DeepONet und S-DeepONet

Problemstellung

Die Echtzeitvorhersage komplexer physikalischer Systeme erfordert Surrogatmodelle, die in der Lage sind, aus Daten zu lernen und gleichzeitig eine präzise Darstellung starker Multiphysik-Kopplungen zu gewährleisten. Während Deep Operator Networks (DeepONets) bei Einzelphysik-Problemen bereits Erfolge gezeigt haben, bleibt ihre Effektivität bei der Erfassung nichtlinearer Interaktionen in eng gekoppelten Systemen (z. B. thermo-mechanische oder elektro-thermische Kopplung) weitgehend unerforscht. Es besteht eine kritische Lücke im Verständnis darüber, ob die Architektur des neuronalen Operators die physikalische Kopplungsstärke des zu modellierenden Systems widerspiegeln sollte. Insbesondere ist unklar, ob Single-Branch-Netzwerke (die gemeinsame latente Repräsentationen nutzen) oder Multi-Branch-Netzwerke (die Eingaben unabhängig kodieren und später fusionieren) für unterschiedliche Kopplungsregime überlegen sind.

Methodik

Die Autoren führen eine systematische topologische Ablationsstudie durch, welche Single-Branch- und Multi-Branch- (MIONet-Stil) Designs innerhalb zweier Operator-Familien vergleicht: des klassischen Feedforward DeepONet und des sequentiellen S-DeepONet (welches Gated Recurrent Units, GRUs, nutzt, um pfadabhängige Eingaben zu verarbeiten).

Die Studie evaluiert diese Architekturen anhand drei repräsentativer Benchmark-Probleme zunehmender physikalischer Komplexität:

Single-Physics Reaction-Diffusion: Ein transportdominierter Prozess mit heterogenen Quellen und Reaktionskoeffizienten. Die Eingaben sind räumliche Funktionen ( $u_0(x), k(x)$ ).
Gekoppelte Elektro-Thermische Diffusion: Ein System, das elektrische Leitung und thermische Diffusion umfasst, wobei die Leitfähigkeit temperaturabhängig ist und Joulesche Erwärmung auftritt. Eingaben sind zeitabhängige Sequenzen ( $Q_{ext}(t), \rho_e(t)$ ). Sowohl gekoppelte (wechselseitig abhängige Felder) als auch unkoppelte (unabhängige Felder) Szenarien werden getestet.
Viskoplastische Thermo-Mechanische Stahlverfestigung: Ein komplexes Modell des kontinuierlichen Gießens, das Wärmetransport mit latenter Wärme, Phasenumwandlungen (Austenit/Delta-Ferrit) und viskoplastischer Verformung beinhaltet. Die Eingaben sind zeitabhängige Wärmefluss- und Verschiebungsgeschichten. Sowohl gekoppelte als auch unkoppelte (festes Temperaturfeld) Szenarien werden analysiert.

Architektonische Varianten:

Single-Branch: Alle Eingangsfunktionen werden konkateniert und gemeinsam in einen gemeinsamen latenten Raum kodiert (unter Verwendung von FNNs für räumliche Eingaben oder GRUs für sequentielle Eingaben).
Multi-Branch (MIONet-Stil): Jede Eingangsfunktion wird unabhängig durch ihr eigenes Branch-Netzwerk kodiert. Die Branch-Ausgaben werden vor der Interaktion mit dem Trunk-Netzwerk mittels eines elementweisen (Hadamard-) Produkts zusammengeführt.

Die Leistung wird mittels des relativen $L_2$ -Fehlers für Single-Physics- und gekoppelte Elektro-Thermische Fälle sowie des Mean Absolute Error (MAE) für den thermo-mechanischen Fall quantifiziert, um Instabilitäten in der Nähe von Null-Spannungsbereichen zu vermeiden. Zudem wird die Robustheit durch das Injizieren von additivem Gaußschem Rauschen getestet.

Kernergebnisse

Die Studie zeigt einen deutlichen regimeabhängigen Leistungstrend auf:

Eng gekoppelte Systeme: In stark gekoppelten Multiphysik-Problemen (elektro-thermisch und thermo-mechanisch) übertreffen Single-Branch-Netzwerke konsistent die Multi-Branch-Varianten.
- Elektro-Thermisch: Das Single-Branch S-DeepONet erreichte signifikant geringere Fehler (z. B. ~0,76 % vs. ~4,23 % für das elektrische Potenzial im gekoppelten Regime). Das Multi-Branch-Modell zeigte eine Long-Tail-Fehlerverteilung, insbesondere beim elektrischen Potenzial.
- Thermo-Mechanisch: Das Single-Branch-Modell lieferte einen Stress-MAE von 0,12 MPa im Vergleich zu 0,219 MPa beim Two-Branch-Modell. Es bewahrte die Spitzenwerte der Zugspannung und die Spannungsreversierungen, die für die Vorhersage von Versagen entscheidend sind, besser.
- Begründung: Single-Branch-Architekturen fördern gemeinsame latente Repräsentationen, was es dem Netzwerk ermöglicht, Kreuzterme und nichtlineare Inter-Feld-Abhängigkeiten frühzeitig im Kodierungsprozess zu erlernen, analog zu monolithischen Lösern in der klassischen numerischen Analyse.
Entkoppelte oder Single-Physics-Systeme: In Single-Physics- oder ungekoppelten Multiphysik-Szenarien sind Multi-Branch-Designs entweder überlegen oder zeigen eine vergleichbare Leistung.
- Im Reaction-Diffusion-Benchmark (Single Physics) erreichte die Multi-Branch MIONet-Variante einen geringeren Fehler (2,55 %) als die Single-Branch-Variante (3,40 %).
- In ungekoppelten elektro-thermischen und thermo-mechanischen Tests zeigte das Multi-Branch-Modell leichte Genauigkeitsvorteile oder eine äquivalente Leistung, indem es von modellspezifischen Encodern für unabhängige Eingaben profitierte.
Recheneffizienz:
- Training: Single-Branch-Modelle benötigten im Allgemeinen weniger trainierbare Parameter und weniger Trainingszeit (z. B. 1,4 Stunden vs. 2,8 Stunden für den thermo-mechanischen Fall).
- Inferenz: Einmal trainiert, lieferten alle Modelle Vollfeld-Vorhersagen in Millisekunden. Die trainierten S-DeepONet-Modelle erzielten eine Beschleunigung von etwa $1,8 \times 10^4$ Mal gegenüber hochpräzisen Finite-Elemente-Analysen (FEA), die auf HPC-Systemen laufen.
Robustheit: Unter verrauschten Eingangsbedingungen (3–15 % additives Gaußsches Rauschen) blieb der Trend bestehen: Single-Branch-Modelle blieben für gekoppelte Physik robuster, während Multi-Branch-Modelle für ungekoppelte Fälle besser abschnitten.

Bedeutung und Ansprüche

Das Paper behauptet, dass die Wahl der neuronalen Operator-Architektur durch die Stärke der physikalischen Kopplung im Zielsystem geleitet werden sollte:

Für stark gekoppelte Systeme: Single-Branch-Designs sind die bevorzugte Architektur. Sie ahmen das Verhalten monolithischer Löser nach, indem sie Multiphysik-Interaktionen durch ein gemeinsames globales System propagieren und dadurch intrinsische Kopplungsterme effektiver erfassen als faktorisierte (Multi-Branch-) Ansätze.
Für entkoppelte Systeme: Multi-Branch-Designs bleiben aufgrund ihrer Modularität und der Fähigkeit, modellspezifische Priors ohne unnötige Parameterteilung zu kodieren, vorteilhaft.

Die Autoren betonen, dass diese Ergebnisse empirische Beobachtungen sind, die spezifisch für DeepONet- und S-DeepONet-Topologien gelten. Sie behaupten keine universelle Anwendbarkeit auf andere Operator-Familien (z. B. Fourier Neural Operators oder Attention-basierte Architekturen) und merken an, dass die Evaluierung über verschiedene Familien hinweg eine offene Frage bleibt.

Letztlich zeigt die Arbeit, dass die Abstimmung der neuronalen Operator-Architektur auf die zugrunde liegende Physik die Erstellung skalierbarer Echtzeit-Surrogatmodelle für komplexe Multiphysik-Systeme ermöglicht und damit die Rechenengpässe traditioneller High-Fidelity-Solver überwindet.