Operator Learning for Consolidation: An Architectural Comparison for DeepONet Variants

Deze studie vergelijkt DeepONet-architecturen voor het consolideringsprobleem in de geotechniek en toont aan dat een Fourier-features-gebaseerde variant (Model 4) niet alleen superieure nauwkeurigheid biedt bij sterk variërende oplossingen, maar ook een snelheidswinst van ongeveer 1.000x in 3D-scenario's mogelijk maakt, wat de weg vrijmaakt voor efficiënte onzekerheidskwantificering.

De kern

De Slimme Voorspeller voor Zetende Grond: Een Simpele Uitleg

Stel je voor dat je een gigantische, zware baksteen op een spons legt. Wat gebeurt er? De lucht en het water in de spons worden eruit geperst, de spons zakt langzaam in elkaar en wordt steviger. In de bouwwereld noemen we dit consolidatie. Als je een brug of een flatgebouw wilt bouwen op zachte grond, moet je precies weten hoe snel en hoe ver die grond gaat zakken. Anders kan het gebouw scheuren of instorten.

Vroeger deden ingenieurs dit met ingewikkelde wiskundige formules en computers die dagenlang moesten rekenen. Het was als het proberen van elke mogelijke route in een doolhof om de snelste weg te vinden.

Deze paper introduceert een nieuwe, slimme methode: DeepONet. Laten we dit uitleggen alsof het een super-snel voorspellingsspel is.

1. Het Probleem: De "Rekenmachine" vs. De "Profeet"

Stel je voor dat je een oude rekenmachine hebt (de traditionele computermodellen). Als je een nieuwe situatie wilt weten (bijvoorbeeld: "Wat als de grond iets zachter is?"), moet je de rekenmachine opnieuw programmeren en laten rekenen. Dit duurt lang.

DeepONet is als een profeet die het hele doolhof al heeft gezien. Hij heeft niet de regels van het doolhof uit zijn hoofd geleerd, maar hij heeft duizenden voorbeelden van doolhoven bekeken. Als je hem nu een nieuwe situatie geeft, zegt hij direct: "Ah, dit lijkt op die ene keer, het antwoord is X." Hij hoeft niet opnieuw te rekenen; hij herkent het patroon.

2. De Oplossing: De Twee Hersenen (Branch en Trunk)

De kern van deze paper is het vinden van de perfecte manier om die "profeet" (het AI-model) te bouwen. Het model heeft twee delen, net als een team van twee mensen:

• De "Branch" (De Tak): Deze kijkt naar de input. Wat is de grond nu? Hoeveel water zit erin? Hoe zwaar is de last? Hij vertaalt deze situatie naar een soort "geheime code".
• De "Trunk" (De Stam): Deze kijkt naar de locatie en tijd. Waar in de grond zitten we? Hoe laat is het? Hij vertaalt dit naar een andere "code".

De magie gebeurt als deze twee codes samenkomen. Ze vormen samen de voorspelling: "Op dit punt, op dit moment, is de druk precies zo."

3. De Grote Ontdekking: Waar zet je de "Grond-Gevoeligheid"?

De onderzoekers probeerden verschillende manieren om deze twee hersenen te laten samenwerken. Ze hadden een belangrijke variabele: de consolidatiecoëfficiënt ($C_v$). Dit is een maatstaf voor hoe snel de grond water laat lopen.

• Model 1 & 2 (De Verkeerde Weg): Ze stopten de "grond-gevoeligheid" ($C_v$) bij de Tak (de input-lezer). Dit was alsof je de snelheid van een auto probeert te voorspellen door alleen naar de bestuurder te kijken, maar niet naar de weg. Het werkte, maar niet perfect. De voorspelling was vaak te glad en miste de snelle veranderingen in het begin.
• Model 3 (De Beter Weg): Ze verplaatsten de "grond-gevoeligheid" naar de Stam (de tijd/locatie-lezer). Dit was een briljante zet! Omdat de snelheid waarmee de grond zakt (de tijd) direct wordt beïnvloed door de grondsoort, paste dit veel beter bij de wiskundige wetten van de natuur. Het model werd veel accurater.
• Model 4 (De Super-Upgrade): Ze gaven de "Stam" een bril met een speciale lens (Fourier Feature Embedding).
  • De Analogie: Stel je voor dat je een foto van een rimpelend wateroppervlak probeert te tekenen. Zonder bril zie je alleen grote golven. Met de bril zie je ook de kleine, snelle trillingen.
  • In het begin van het proces (wanneer de grond nog heel snel zakt) gebeuren er snelle, chaotische veranderingen. De "bril" hielp het model om die snelle trillingen te zien en te voorspellen. Dit was de winnaar.

4. Het Resultaat: Van Uren naar Seconden

Wat betekent dit voor de praktijk?

• In 1D (Een simpele lijn): Het nieuwe model was al 1,5 tot 100 keer sneller dan de oude methoden.
• In 3D (Een heel complex gebouw): Het verschil is gigantisch. De oude computer moest 120 seconden (2 minuten) rekenen om één situatie te simuleren. Het nieuwe DeepONet-model deed dit in 0,1 seconden.
  • Vergelijking: Het is als het verschil tussen een schrijver die elke brief handmatig schrijft, versus iemand die een stempel heeft die de hele brief in één klap zet.

5. Waarom is dit belangrijk? (Onzekerheid en Toekomst)

In de echte wereld weten we nooit 100% zeker hoe de grond eruitziet. Is het hier een beetje zand, daar een beetje klei?
Met de oude methoden zou je duizenden keren moeten rekenen om alle mogelijke scenario's te testen (om te zien of het gebouw veilig is). Dat is onmogelijk lang.

Met DeepONet kan een ingenieur in een handomdraai duizenden scenario's doorrekenen. Hij kan zeggen: "Zelfs als de grond 10% slechter is dan we dachten, zakt het gebouw niet te ver." Dit maakt het bouwen veiliger en goedkoper.

Samenvatting

De onderzoekers hebben een slimme AI-methode (DeepONet) getest voor het voorspellen van grondzakking. Ze ontdekten dat je de "grond-eigenschappen" niet bij de input moet stoppen, maar bij de tijd/locatie-berekening. Door daar nog een speciale "snelle lens" (Fourier features) aan toe te voegen, kregen ze een model dat:

1. Veel nauwkeuriger is (vooral in het begin van het proces).
2. Duizenden keren sneller is dan traditionele methoden.
3. Veel scenario's tegelijk kan testen, wat essentieel is voor veilig bouwen.

Het is een stap in de richting van een toekomst waarin ingenieurs niet uren hoeven te rekenen, maar direct kunnen zien wat er met hun bouwprojecten gaat gebeuren.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Operator Learning for Consolidation: An Architectural Comparison for DeepONet Variants" in het Nederlands.

Titel: Operator Learning voor Consolidatie: Een Architecturale Vergelijking voor DeepONet-varianten

Auteurs: Yongjin Choi, Chenying Liu, en Jorge Macedo (Georgia Institute of Technology & KAIST)

---

1. Probleemstelling

De modellering en simulatie van geotechnische problemen, zoals de consolidatie van bodem (het verdwijnen van overtollige poreuze waterdruk onder belasting), vereist doorgaans het oplossen van partiële differentiaalvergelijkingen (PDV's) met numerieke methoden zoals de Finite Element Method (FEM) of Finite Difference Method (FDM). Hoewel deze methoden nauwkeurig zijn, zijn ze computationally intensief, vooral bij 3D-scenario's of bij het uitvoeren van onzekerheidskwantificatie (waarbij duizenden simulaties nodig zijn).

Bestaande machine learning-benaderingen, zoals Physics-Informed Neural Networks (PINN), hebben beperkingen: ze moeten vaak opnieuw getraind worden bij wijzigingen in randvoorwaarden of materiaaleigenschappen en vereisen expliciete kennis van de PDV's. Neural Operators, en specifiek DeepONet, bieden een alternatief door operators te leren die functieruimtes op elkaar afbeelden. Dit stelt het model in staat om te generaliseren over verschillende randvoorwaarden en parameters zonder opnieuw te hoeven trainen. Echter, de toepassing van DeepONet in de geotechniek, en specifiek voor consolidatieproblemen, is nog beperkt onderzocht.

2. Methodologie

De studie evalueert systematisch verschillende DeepONet-architecturen voor het oplossen van de 1D- en 3D-consolidatievergelijking (afgeleid van de wet van Darcy en het principe van effectieve spanning).

Data Generatie:

• De "ground truth" data wordt gegenereerd met een numerieke solver (Finite Difference Method) voor de 1D en 3D diffusievergelijking.
• De invoer bestaat uit initiële profielen van overtollige poreuze waterdruk ($u_0$), die uniform of ruimtelijk variërend (via Gaussische Random Fields) zijn.
• De parameter van de consolidatie ($C_v$) varieert eveneens.
• Het dataset bevat 40.000 trainingsexamples en 5.000 validatieexamples voor de 1D case, en 20.000 voor de 3D case.

Architecturale Varianten:
De auteurs vergelijken vier modellen om de beste plaatsing van de parameter $C_v$ en de verwerking van de invoerfunctie te bepalen:

1. Model 1 (Standaard DeepONet): De parameter $C_v$ wordt samengevoegd (concatenated) met de initiële drukfunctie in de branch net. De trunk net ontvangt alleen ruimtetijd-coördinaten $(z, t)$.
2. Model 2 (Multiple-Input Operator Network - MIONet): $u_0$ en $C_v$ worden verwerkt door aparte branch nets en later samengevoegd via een "merge net".
3. Model 3 (Trunk-net Modulatie): De parameter $C_v$ wordt direct als invoer gegeven aan de trunk net (samen met $z$ en $t$), terwijl de branch net alleen de initiële druk $u_0$ verwerkt. Dit is gebaseerd op de analytische oplossing van de consolidatievergelijking, waarbij $C_v$ de tijdsafhankelijke basisfuncties moduleert.
4. Model 4 (Trunk-net + Fourier Feature Embedding): Een uitbreiding van Model 3 waarbij Fourier Feature Embedding wordt toegepast op de invoer van de trunk net. Dit transformeert lage-dimensionale invoer $(z, t, C_v)$ naar een hogere dimensie met sinusfuncties om snel variërende functies (zoals scherpe gradiënten in de vroege fase van consolidatie) beter te kunnen leren.

Verificatie:
De modellen worden getest op 3D-scenario's en de prestaties worden vergeleken met traditionele numerieke solvers (Implicit BDF en Explicit Runge-Kutta) en een klassieke Reduced Order Model (ROM) gebaseerd op Proper Orthogonal Decomposition (POD).

3. Belangrijkste Bijdragen

• Architecturale Inzicht: De studie toont aan dat het plaatsen van fysieke parameters ($C_v$) in de trunk net (Model 3) superieur is aan het plaatsen ervan in de branch net. Dit komt overeen met de wiskundige structuur van de analytische oplossing, waar $C_v$ de tijdsafhankelijkheid van de basisfuncties bepaalt.
• Verbetering door Fourier Features: Het toevoegen van Fourier Feature Embedding (Model 4) lost de beperkingen van Model 3 op, vooral bij het voorspellen van snel veranderende drukprofielen in de vroege fasen van de consolidatie.
• Schalbaarheid naar 3D: De succesvolle uitbreiding van het beste model (Model 4) naar 3D-consolidatieproblemen, waarbij de modelgeneralisatie behouden blijft.
• Onzekerheidskwantificatie: Een conceptueel bewijs van het vermogen van DeepONet om onzekerheidsanalyse (Monte Carlo simulaties) in 3D te versnellen, wat met traditionele methoden onpraktisch zou zijn.

4. Resultaten

Nauwkeurigheid:

• Model 1 en 2 vertonen significante fouten, vooral in de vroege fasen van de consolidatie en bij niet-uniforme drukprofielen.
• Model 3 laat een aanzienlijke verbetering zien (5 tot 7 keer lagere Mean Squared Error (MSE) dan Model 1/2).
• Model 4 presteert het best, met de laagste MSE en de kleinste maximale absolute fouten. Het minimaliseert de fouten in de kritieke vroege tijdsstappen waar de drukgradiënten het steilst zijn.
• In 3D-scenario's behoudt Model 4 een hoge nauwkeurigheid, met een gemiddelde MSE die vergelijkbaar is met de beste 1D-resultaten, ondanks de grotere complexiteit.

Berekeningsnelheid (Efficiëntie):

• 1D: DeepONet-modellen zijn ongeveer 1,5 tot 100 keer sneller dan traditionele numerieke solvers (afhankelijk van de solver: Implicit vs. Explicit).
• 3D: Het snelheidsvoordeel is dramatisch. DeepONet genereert een volledig 3D-oplossingsveld in ongeveer 0,1 seconde, terwijl de klassieke expliciete solver (RK45) ongeveer 126 seconden nodig heeft. Dit is een versnelling van meer dan 1.000 keer.
• De impliciete solver (BDF) faalde in de 3D-case door geheugenbeperkingen (te grote Jacobiaan-matrix), terwijl DeepONet dit probleem omzeilt.

Vergelijking met andere methoden:

• Tegenover een Fourier Neural Operator (FNO): DeepONet (Model 4) bereikte vergelijkbare generalisatieprestaties maar met aanzienlijk kortere trainingstijd (40 min vs. 165 min) en lager geheugengebruik.
• Tegenover een POD-ROM: DeepONet was aanzienlijk nauwkeuriger (vooral bij vroege tijdstippen en sterke gradiënten) terwijl de inferentiesnelheid vergelijkbaar bleef.

5. Betekenis en Toekomstperspectief

Deze studie markeert een belangrijke stap in de integratie van wetenschappelijk machine learning in de geotechniek.

• Efficiëntie: DeepONet biedt een haalbare route voor real-time monitoring en snelle onzekerheidskwantificatie in complexe geotechnische projecten (zoals dammen of funderingen), waar traditionele methoden te traag zijn.
• Generalisatie: Het vermogen om te generaliseren over verschillende materiaaleigenschappen ($C_v$) en initiële condities zonder opnieuw te trainen, maakt het ideaal voor ontwerpoptimalisatie en inverse problemen.
• Beperkingen: Het model presteert minder goed bij extrapolatie buiten het trainingsbereik van $C_v$ of bij zeer ruwe ruimtelijke correlaties die niet in de trainingsdata zaten. Dit benadrukt de noodzaak van zorgvuldig ontworpen trainingsdatasets gebaseerd op domeinkennis.
• Toekomst: De auteurs suggereren het integreren van "Physics-Informed" loss-termen of "Active Learning" om de generalisatie buiten het trainingsdomein te verbeteren, en het gebruik van transfer learning met echte veldmetingen.

Concluderend bewijst deze studie dat DeepONet, met de juiste architecturale aanpassingen (vooral $C_v$ in de trunk net en Fourier features), een krachtige, schaalbare en uiterst efficiënte vervanger is voor traditionele numerieke solvers in geotechnische consolidatieproblemen.