🤖 machine learning

Single vs. Multiple Branches in DeepONet and S-DeepONet: Network Architecture Follows Coupling in Multiphysics Systems

Dit artikel toont aan dat voor DeepONet- en S-DeepONet-architecturen single-branch ontwerpen beter presteren dan multi-branch varianten in nauw gekoppelde multiphysics-systemen door het bevorderen van gedeelde latente representaties, terwijl multi-branch benaderingen superieur blijven voor ontkoppelde taken, wat gezamenlijk volledige veldvoorspellingen mogelijk maakt die tot $1,8 \times 10^4$ keer sneller zijn dan traditionele solvers.

Oorspronkelijke auteurs: Jaewan Park, Kazuma Kobayashi, Qibang Liu, Seid Koric, Diab Abueidda, Syed Bahauddin Alam

Gepubliceerd 2026-06-12

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Jaewan Park, Kazuma Kobayashi, Qibang Liu, Seid Koric, Diab Abueidda, Syed Bahauddin Alam

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een computer probeert te leren hoe het gedrag van complexe fysieke systemen te voorspellen — zoals hoe warmte zich door een blok metaal verspreidt terwijl er elektriciteit doorheen stroomt, of hoe staal afkoelt en van vorm verandert terwijl het stolt. Dit zijn geen eenvoudige problemen; dit zijn "multifysische" puzzels waarbij verschillende krachten (warmte, elektriciteit, spanning) nauw met elkaar verweven zijn en elkaar constant beïnvloeden.

Lange tijd hebben wetenschappers krachtige computersimulaties gebruikt (zoals de Eindige Elementen Methode) om deze puzzels op te lossen. Maar deze simulaties zijn traag, alsof je een Rubik's kubus probeert op te lossen door elke mogere beweging één voor één te controleren. Om dit te versnellen, gebruiken onderzoekers "surrogaatmodellen" — AI-short-cuts die leren van eerdere simulaties om de toekomst direct te voorspellen.

Dit artikel stelt een zeer praktische vraag: Wanneer we deze AI-short-cuts bouwen, moeten we ze dan zo ontwerpen dat ze verschillende fysieke krachten behandelen als aparte teams die parallel werken, of als één groot, verenigd team dat samenwerkt?

De auteurs testten twee belangrijke architecturale stijlen met behulp van een type AI genaamd DeepONet:

Het "Single-Branch" Team (Het Verenigde Squad): Stel je een enkele groep werkers voor die naar het hele plaatje kijken tegelijk. Ze delen een gemeenschappelijk notitieblok (een gedeelde "latente ruimte") waar ze alles opschrijven wat ze zien. Ze bespreken de warmte, de elektriciteit en de spanning allemaal tegelijkertijd, waardoor ze direct begrijpen hoe de een de ander beïnvloedt.
Het "Multi-Branch" Team (De Gespecialiseerde Afdelingen): Stel je twee aparte teams voor. Eén team kijkt alleen naar de warmte, en het andere team kijkt alleen naar de elektriciteit. Ze werken in isolatie, schrijven hun eigen rapporten en plakken aan het einde pas hun rapporten op elkaar om het eindresultaat te zien.

De Experimenten: Drie Verschillende Puzzels

De onderzoekers testten deze twee benaderingen op drie verschillende scenario's om te zien welke "teamstructuur" het beste werkte.

1. De Simpele Puzzel (Reactie-Diffusie)

Het Scenario: Een enkel fysiek proces (zoals een chemische stof die zich in water verspreidt) met twee verschillende inputs (een bron en een reactiesnelheid).
Het Resultaat: Het Multi-Branch team won. Omdat de inputs onafhankelijk waren (de een veranderde de ander niet echt), konden de gespecialiseerde experts die zich op slechts één ding concentreerden iets nauwkeuriger zijn. Het is als het hebben van een specialist voor de motor en een specialist voor de banden bij het bouwen van een auto; ze hoeven niet veel met elkaar te praten om hun werk goed te doen.

2. De Verstrengelde Puzzel (Elektro-Thermisch)

Het Scenario: Elektriciteit die door een draad stroomt creëert warmte, en die warmte verandert de manier waarop elektriciteit stroomt. Ze zitten gevangen in een dans waarbij je ze niet van elkaar kunt scheiden.
Het Resultaat: Het Single-Branch team verpletterde de concurrentie. Het Multi-Branch team had moeite omdat ze, tegen de tijd dat ze probeerden hun afzonderlijke rapporten te combineren, de subtiele manieren waarop de warmte en de elektriciteit elkaar in real-time beïnvloedden, al hadden gemist. Het Unified Squad, dat vanaf het begin een gemeenschappelijk begrip deelde, legde deze interacties perfect vast. De fout voor het Multi-Branch team was enorm (meer dan 15% in sommige gevallen), terwijl het Single-Branch team bijna perfect was (onder de 1%).

3. De Zware Werken Puzzel (Staalstolling)

Het Scenario: Gesmolten staal dat afkoelt. Terwijl het afkoelt, krimpt het en creëert het spanning. De temperatuur bepaalt de spanning, en de spanning verandert de temperatuur. Het is een zeer complex, "pad-afhankelijk" systeem (de geschiedenis van hoe het is afgekoeld, doet ertoe).
Het Resultat: Opnieuw was het Single-Branch team de duidelijke winnaar. Het gedrag van het staal is zo nauw gekoppeld dat het scheiden van het "temperatuurteam" van het "spanningsteam" leidde tot significante fouten. Het Unified Squad, dat de relatie tussen warmte en spanning simultaan leerde, voorspelde de spanningsniveaus veel nauwkeuriger.

De Belangrijkste Conclusie

De belangrijkste ontdekking van het artikel is een simpele vuistregel voor het ontwerpen van deze AI-modellen: Pas de structuur van de AI aan op de fysica.

Als de fysica "ontkoppeld" is (onafhankelijk): Gebruik Multi-Branch netwerken. Laat de specialisten hun eigen ding doen.
Als de fysica "gekoppeld" is (nauw verstrengeld): Gebruik Single-Branch netwerken. Dwing de AI om de verbindingen tussen de krachten vanaf het begin te leren, net als een monolithische (alles-in-één) solver in de traditionele techniek.

De Snelheidsbonus

Naast alleen nauwkeurigheid, benadrukt het artikel een enorm snelheidsvoordeel. Zodra deze AI-modellen getraind zijn, kunnen ze het gedrag van deze complexe systemen 18.000 keer sneller voorspellen dan de traditionele, zware computersimulaties.

Traditionele Solver: Neemt ongeveer 5,5 minuten om één scenario op te lossen.
AI Surrogaat: Neemt ongeveer 0,02 seconden.

Dit betekent dat taken die vroeger uren of dagen duurden, nu in milliseconden kunnen worden uitgevoerd, wat de deur opent naar real-time monitoring en controle in zaken zoals productie en energiesystemen.

Samenvattende Analogie

Denk aan het koken van een complexe stoofpot.

Als je een salade maakt waarbij de tomaten de sla niet veranderen, kun je één persoon de tomaten laten snijden en een ander de sla, en ze aan het einde mengen (Multi-Branch).
Maar als je een stoofpot maakt waarbij het vlees de smaak van de bouillon verandert, en de bouillon bepaalt hoe het vlees gaart, dan heb je één chef nodig die constant proeft, bijstuurt en alles samen roert (Single-Branch). Als je probeert het vlees en de bouillon apart te bereiden en aan het einde te mengen, zal de stoofpot niet goed smaken.

Dit artikel bewijst dat voor "stoofpotten" (nauw gekoppelde fysica), de single-chef benadering niet alleen beter is, maar noodzakelijk is om het juiste resultaat te krijgen.

Technische Samenvatting: Single vs. Multiple Branches in DeepONet en S-DeepONet

Probleemstelling

Real-time voorspelling van complexe fysische systemen vereist surrogaatmodellen die in staat zijn om te leren van data terwijl ze complexe multipfysica-koppelingen nauwkeurig representeren. Hoewel Deep Operator Networks (DeepONets) succes hebben getoond bij single-physics problemen, blijft hun effectiviteit bij het vastleggen van nietlineaire interacties in nauw gekoppelde systemen (bijv. thermo-mechanische of elektro-thermische koppeling) onderbelicht. Er bestaat een kritieke kloof in het begrip van de vraag of de neurale operator-architectuur de fysieke koppelingssterkte van het systeem dat het probeert te modelleren moet weerspiegelen. Specifiek is het onduidelijk of single-branch netwerken (die gedeelde latente representaties delen) of multi-branch netwerken (die inputs onafhankelijk coderen en later fuseren) superieur zijn voor verschillende koppelingsregimes.

Methodologie

De auteurs voeren een systematische topologische ablatie-studie uit waarbij single-branch en multi-branch (MIONet-stijl) ontwerpen worden vergeleken binnen twee operatorfamilies: de klassieke feedforward DeepONet en de sequentiële S-DeepONet (die Gated Recurrent Units, GRU's, gebruikt om pad-afhankelijke inputs te verwerken).

De studie evalueert deze architecturen over drie representatieve benchmarkproblemen van toenemende fysische complexiteit:

Single-Physics Reactie-Diffusie: Een transport-gedomineerd proces met heterogene bronnen en reactiecoëfficiënten. Inputs zijn ruimtelijke functies ( $u_0(x), k(x)$ ).
Gekoppelde Elektro-Thermische Diffusie: Een systeem bestaande uit elektrische geleiding en thermische diffusie waarbij de geleidbaarheid temperatuurafhankelijk is en Joule-verhitting optreedt. Inputs zijn tijd-afhankelijke sequenties ( $Q_{ext}(t), \rho_e(t)$ ). Zowel gekoppelde (wederzijds afhankelijke velden) als ontkoppelde (onafhankelijke velden) scenario's worden getest.
Viscoplastische Thermo-Mechanische Staalstollingsproces: Een complex continu gietmodel dat warmteoverdracht met latente warmte, faseveranderingen (austenite/delta-ferriet) en viscoplastic deformatie omvat. Inputs zijn tijd-afhankelijke warmteflux- en verplaatsingshistorieën. Zowel gekoppelde als ontkoppelde (vast temperatuurveld) scenario's worden geanalyseerd.

Architecturale Varianten:

Single-Branch: Alle inputfuncties worden geconcateneerd en gezamenlijk gecodeerd in een gedeelde latente ruimte (met behulp van FNN's voor ruimtelijke inputs of GRU's voor sequentiële inputs).
Multi-Branch (MIONet-stijl): Elke inputfunctie wordt onafhankelijk gecodeerd door zijn eigen branch-netwerk. De branch-outputs worden samengevoegd via een elementgewijze (Hadamard) product voordat ze interageren met het trunk-netwerk.

Prestaties worden gekwantificeerd met behulp van relatieve $L_2$ -fout voor single-physics en gekoppelde elektro-thermische gevallen, en Mean Absolute Error (MAE) voor het thermo-mechanische geval om instabiliteit nabij nul-spanning regio's te vermijden. Robuustheid wordt ook getest via additieve Gaussische ruis-injectie.

Belangrijkste Resultaten

De studie onthult een duidelijke regime-afhankelijke prestatietrend:

Tightly Coupled Systemen (Sterk gekoppelde systemen): In sterk gekoppelde multipfysica-problemen (elektro-thermisch en thermo-mechanisch) presteren single-branch netwerken consistent beter dan multi-branch varianten.
- Elektro-Thermisch: De single-branch S-DeepONet bereikte aanzienlijk lagere fouten (bijv. ~0,76% vs. ~4,23% voor elektrisch potentiaal in het gekoppelde regime). Het multi-branch model vertoonde long-tailed foutverdelingen, met name voor het elektrische potentiaal.
- Thermo-Mechanisch: Het single-branch model leverde een spanning MAE van 0,12 MPa vergeleken met 0,219 MPa voor het twee-branch model. Het behield beter de piek trekwaarden en spanningsomkeringen die cruciaal zijn voor faalvoorspelling.
- Redenering: Single-branch architecturen stimuleren gedeelde latente representaties, waardoor het netwerk cross-termen en nietlineaire inter-veld afhankelijkheden vroeg in het encodingsproces kan leren, analoog aan monolithische solvers in de klassieke numerieke analyse.
Decoupled of Single-Physics Systemen (Ontkoppelde of single-physics systemen): In single-physics of ontkoppelde multipfysica-scenario's zijn multi-branch ontwerpen ofwel superieur of presteren zij vergelijkbaar.
- In de reactie-diffusie benchmark (single physics) bereikte de multi-branch MIONet variant een lagere fout (2,55%) dan de single-branch (3,40%).
- In ontkoppelde elektro-thermische en thermo-mechanische tests vertoonde het multi-branch model een lichte nauwkeurigheidsvoordeel of equivalente prestaties, profiterend van modaliteit-specifieke encoders voor onafhankelijke inputs.
Computationele Efficiëntie:
- Training: Single-branch modellen vereisten over het algemeen minder trainbare parameters en minder trainingstijd (bijv. 1,4 uur vs. 2,8 uur voor het thermo-mechanische geval).
- Inference: Eenmaal getraind, boden alle modellen full-field voorspellingen in milliseconden. De getrainde S-DeepONet modellen bereikten versnellingen van ongeveer $1,8 \times 10^4$ keer vergeleken met high-fidelity finite element analysis (FEA) solvers die op HPC-systemen draaien.
Robuustheid: Onder ruisige inputcondities (3–15% additieve Gaussische ruis), bleef de trend bestaan: single-branch modellen bleven robuuster voor gekoppelde fysica, terwijl multi-branch modellen beter presteerden voor ontkoppelde gevallen.

Betekenis en Claims

Het artikel stelt dat de keuze van de neurale operator-architectuur geleid moet worden door de sterkte van de fysische koppeling in het doel systeem:

Voor Sterk Gekoppelde Systemen: Single-branch ontwerpen zijn de geprefereerde architectuur. Ze bootsen het gedrag van monolithische solvers na door multipfysica-interacties door een gedeelde globale systeem te propageren, waardoor ze intrinsieke cross-coupling termen effectiever vastleggen dan gefactoriseerde (multi-branch) benaderingen.
Voor Ontkoppelde Systemen: Multi-branch ontwerpen blijven voordelig vanwege hun modulariteit en het vermogen om modaliteit-specifieke priors te coderen zonder onnodige parameterdeling.

De auteurs benadrukken dat deze bevindingen empirische observaties zijn specifiek voor DeepONet en S-DeepONet topologieën. Zij beweren niet universele toepasbaarheid op andere operatorfamilies (zoals Fourier Neural Operators of attention-gebaseerde architecturen), en merken op dat cross-familie evaluatie een openstaande vraag blijft.

Uiteindelijk demonstreert het werk dat het afstemmen van de neurale operator-architectuur op de onderliggende fysica de creatie van schaalbare, real-time surrogaatmodellen voor complexe multipfysica-systemen mogelijk maakt, waarmee de computationele bottlenecks van traditionele high-fidelity solvers worden overwonnen.