🔬 condensed matter

A versatile FEM framework with native GPU scalability via globally-applied AD

Deze paper introduceert Tatva, een veelzijdig FEM-framework dat door het toepassen van automatische differentiatie op een enkel globaal energiefunctionaal en het gebruik van matrixvrije oplossers, zowel hoge expressiviteit als lineaire schaalbaarheid op GPU's voor complexe mechanische problemen met miljoenen vrijheidsgraden biedt.

Oorspronkelijke auteurs: Mohit Pundir, Flavio Lorez, David S. Kammer

Gepubliceerd 2026-02-16

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mohit Pundir, Flavio Lorez, David S. Kammer

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een gigantisch legpuzzel moet oplossen, maar in plaats van stukjes hout, zijn het de krachten en bewegingen van een heel gebouw, een vliegtuigvleugel of zelfs een menselijk hart. In de wereld van de computerwetenschappen noemen we dit FEM (Finite Element Method). Het is de manier waarop ingenieurs simuleren hoe dingen vervormen, breken of bewegen.

Tot nu toe was er een groot probleem bij het oplossen van deze puzzels op de snelste computers ter wereld (de GPU's). Er was een keuze tussen twee slechte opties:

De "Alles-in-één" methode: Je probeert de hele puzzel als één groot, samenhangend geheel te zien. Dit is heel slim en flexibel (je kunt er alles mee doen, van contact tussen objecten tot complexe breuken), maar het kost zoveel rekenkracht en geheugen dat het vastloopt zodra de puzzel groot wordt. Het is alsof je probeert een heel bos te tekenen in één enkele, gigantische lijn: prachtig, maar onmogelijk te tekenen zonder dat je papier volloopt.
De "Stukje-voor-stukje" methode: Je bouwt de puzzel op door elk klein stukje apart te berekenen en ze daarna aan elkaar te plakken. Dit is snel en werkt voor grote puzzels, maar het is erg stijf. Je kunt er geen complexe, nieuwe regels aan toevoegen zonder de hele bouwmethode te veranderen. Het is als een fabriek die alleen standaard auto's kan bouwen; als je een vliegtuig wilt maken, moet je de hele fabriek slopen.

De oplossing: tatva

De auteurs van dit paper (Mohit Pundir, Flavio Lorez en David Kammer) hebben een nieuwe manier bedacht, genaamd tatva. Ze hebben de twee slechte opties samengevoegd tot één superkrachtige methode.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De "Globale Energie"-visie

Stel je voor dat je niet naar de losse puzzelstukjes kijkt, maar naar het geheel. In de natuurkunde hebben systemen altijd een "energie" (zoals spanning in een veer). De natuur probeert altijd de laagste energie te vinden.
De oude methoden berekenden de krachten per stukje. tatva kijkt naar de totale energie van het hele systeem als één groot getal. Vervolgens gebruikt de computer een slimme truc genaamd Automatische Differentiatie (AD).

Analogie: In plaats van dat een ingenieur handmatig de formule voor elke veer uitschrijft, laat je de computer de "afgeleide" (de verandering) van dat ene grote energie-getal berekenen. De computer doet dit automatisch en foutloos, hoe complex de formule ook is.

2. Het probleem van het geheugen (en de oplossing)

Het probleem was: als je de afgeleide neemt van dat ene grote energie-getal, krijg je een enorme, dichte tabel met getallen die in het geheugen van de computer niet past.

De oplossing: De auteurs gebruiken twee slimme trucs:
- Truc A (Matrix-vrij): Soms heb je de hele tabel niet nodig, je hebt alleen nodig om te weten: "Als ik hier een klein duwtje geef, wat gebeurt er dan?" Dit noemen ze een JVP (Jacobian-Vector Product). Het is alsof je niet de hele kaart van het bos tekent, maar alleen de route van het pad dat je wilt lopen. Dit is supersnel en past altijd in het geheugen.
- Truc B (Kleuren): Soms heb je wél de hele tabel nodig (bijvoorbeeld voor speciale analyses). Dan gebruiken ze een kleuringstechniek. Stel je voor dat je de puzzelstukjes in groepjes kleurt. Alle stukjes in groep "rood" hebben niets met elkaar te maken, dus je kunt ze tegelijkertijd berekenen zonder dat ze in de weg zitten. Door slim te kleuren, kunnen ze de grote tabel opbouwen zonder dat het geheugen volloopt.

3. Waarom is dit zo cool? (De voordelen)

Met tatva kunnen ingenieurs nu dingen doen die eerder onmogelijk of te moeilijk waren:

Alles in één taal: Of je nu een simpele staalconstructie hebt, of een complexe interactie tussen een vloeistof en een vast object, of zelfs een kunstmatige intelligentie (AI) die het materiaalgedrag voorspelt: het werkt allemaal op dezelfde manier. Je schrijft gewoon de energie-formule op, en de computer regelt de rest.
AI-integratie: Je kunt nu een "neuraal netwerk" (een AI) direct in de formule stoppen. De computer leert dan niet alleen hoe het materiaal zich gedraagt, maar rekent ook direct uit hoe de krachten zich voortplanten. Het is alsof je een slimme robot in je bouwwerk plaatst die direct reageert op elke beweging.
Schaalbaarheid: Omdat het zo efficiënt werkt op de moderne GPU's (de krachtige grafische kaarten die ook in gaming-computers zitten), kunnen ze simulaties doen met miljoenen variabelen zonder dat de computer vastloopt. De snelheid blijft constant, hoe groot het probleem ook wordt.

Samenvattend

Vroeger moesten ingenieurs kiezen tussen flexibiliteit (kunnen simuleren wat ze willen) en snelheid (het kunnen doen op grote schaal). Ze moesten vaak het ene opofferen voor het andere.

Dit paper introduceert tatva, een nieuwe manier van werken die beide biedt. Het is alsof ze een nieuwe taal hebben uitgevonden waarmee je zowel een gedicht als een recept kunt schrijven, zonder dat je twee verschillende boeken nodig hebt. Het maakt complexe simulaties sneller, makkelijker te programmeren en toepasbaar op de grootste en moeilijkste problemen in de techniek en wetenschap.

Titel: Een veelzijdig FEM-kader met native GPU-schaalbaarheid via globaal toegepaste automatische differentiatie

Auteurs: Mohit Pundir, Flavio Lorez, en David S. Kammer (ETH Zürich)
Publicatiedatum: 16 februari 2026 (voorgesteld)
Framework: tatva (een open-source Python-bibliotheek gebaseerd op JAX)

1. Het Probleem

In de computationele mechanica worden energie-gebaseerde variatie-methoden (zoals de Finite Element Methode, FEM) gebruikt om complexe fysische systemen te modelleren. De bewegingsvergelijkingen worden hierbij afgeleid uit de afgeleiden van een globaal energiefunctionaal.
Er bestaat echter een fundamenteel compromis in bestaande frameworks die gebruikmaken van Automatische Differentiatie (AD):

Globaal toegepaste AD: Hierbij wordt de AD direct toegepast op het totale discrete energiefunctionaal. Dit biedt hoge expressiviteit en maakt het eenvoudig om complexe fysische fenomenen (zoals contact, niet-lokale interacties, en multi-fysica koppelingen) te modelleren. Het nadeel is dat dit leidt tot een dichtheid van de tangentiale stijfheidsmatrix, wat resulteert in een rekenkosten en geheugengebruik dat kwadratisch schaalt ( $O(N^2)$ ) met het aantal vrijheidsgraden (DoF). Dit maakt het ongeschikt voor grote problemen.
Lokaal toegepaste AD: Hierbij wordt AD alleen toegepast op element- of integratieniveau, waarna de bijdragen worden samengevoegd (assembled) via traditionele "scatter-add" methoden. Dit behoudt de sparse structuur van de matrix en schaalbaar ( $O(N)$ ), maar beperkt de expressiviteit. Het vereist complexe, element-gerichte logica voor randvoorwaarden, contact en niet-lokale koppelingen, en is inefficiënt op moderne GPU-architecturen vanwege onregelmatig geheugentoegang.

De uitdaging is om een kader te creëren dat zowel de expressiviteit van een globale variatie-formulering behoudt als lineaire schaalbaarheid op GPU's bereikt.

2. Methodologie

De auteurs introduceren tatva, een monolithisch, energie-gericht kader dat de fysica definieert als een enkel globaal scalair potentiaal ( $\Psi$ ) en AD globaal toepast, maar slimme numerieke strategieën gebruikt om de kosten te beheersen.

Kerncomponenten van de methode:

Monolithische Energie-Formulering:
In plaats van elementen één voor één te assembleren, wordt het totale potentiaal $\Psi_h$ berekend als een som van lokale bijdragen over het hele mesh. De restantvector ( $r$ ) en de tangentiale operator ( $K$ ) worden afgeleid als respectievelijk de eerste en tweede afgeleide van dit globale scalair:
$r(u) = \nabla \Psi(u), \quad K(u) = \nabla^2 \Psi(u)$
Batched Computation (SIMD):
Om het geheugenvoetafdruk op GPU's te beperken, wordt het mesh opgedeeld in contigne batches. De berekening van de energie-dichtheid gebeurt parallel (SIMD) over alle elementen in een batch. Dit voorkomt dat de volledige computationele graaf voor grote problemen in het geheugen moet worden gerealiseerd.
Twee Strategieën voor Afgeleiden:
Om de $O(N^2)$ kosten van een dichte Hessian-matrix te vermijden, gebruikt het kader twee complementaire benaderingen:
- Matrix-vrije Jacobiaan-Vektor Producten (JVP): Voor iteratieve oplosmethoden (zoals Newton-Krylov) wordt de actie van de stijfheidsmatrix op een vector berekend via forward-mode AD. Dit kost slechts een constante factor meer dan het evalueren van de energie zelf en schaalt lineair ( $O(N)$ ).
- Sparse Differentiatie via Kleuring (Graph Coloring): Voor problemen die een expliciete sparse matrix vereisen (bijv. eigenwaardeproblemen), wordt de matrix gereconstrueerd door gebruik te maken van de sparsiteitsstructuur. Door vrijheidsgraden te "kleuren" (zodat onafhankelijke kolommen in één groep vallen), kan de matrix worden opgebouwd met slechts een klein, constant aantal JVP-evaluaties (ongeveer 30-90 kleuren, afhankelijk van het elementtype, ongeacht de probleemgrootte).
Voordeel voor GPU's:
De traditionele "scatter-add" assemblage vereist atomaire operaties die leiden tot geheugenbandbreedte-bottlenecks op GPU's. De tatva-benadering vervangt dit door gestructureerde, parallelle berekeningen die volledig compatibel zijn met de stream-oriented execution van GPU's.

3. Belangrijkste Bijdragen

Unificatie van Expressiviteit en Schaalbaarheid: Het paper lost het compromis op tussen globale expressiviteit en rekenkracht. Complexe problemen (contact, niet-lokale constraints, multi-fysica) kunnen worden gemodelleerd zonder de complexiteit van element-gerichte assemblage.
Lineaire Schaalbaarheid ( $O(N)$ ): Het kader bereikt lineaire schaalbaarheid op GPU's voor zowel matrix-vrije als sparse matrix-benaderingen, zelfs bij miljoenen vrijheidsgraden.
Native AI-integratie: Omdat het kader volledig differentieerbaar is, kunnen neurale netwerken (voor constitutieve modellen of domein-gebaseerde operatoren) naadloos worden geïntegreerd als onderdeel van de energiefunctionaal, zonder aanpassingen aan de solver.
Open Source Implementatie (tatva): Een Python-bibliotheek gebaseerd op JAX die onderzoekers toelaat complexe fysische potentialen te definiëren met minimale code, terwijl de compiler (XLA) de optimalisatie voor GPU's verzorgt.

4. Resultaten

De auteurs hebben het kader getest op een breed scala aan problemen en prestaties gemeten op een NVIDIA A100 GPU:

Schaalbaarheid: Tests met tot 10 miljoen vrijheidsgraden tonen een strikte lineaire $O(N)$ schaalbaarheid voor zowel JVP als sparse differentiatie. De doorvoer (throughput) blijft constant (bijv. ~47 miljoen DoF/s in 2D voor JVP), in tegenstelling tot traditionele methoden die afnemen bij toenemende grootte.
Vergelijking met Traditionele Assemblage: De traditionele "scatter-add" methode toont een dalende doorvoer door geheugenconcurrentie, terwijl tatva stabiele prestaties levert.
Verschillende Toepassingen:
- Elasticiteit en Randvoorwaarden: Nauwkeurige resultaten vergeleken met analytische oplossingen (Kirsch).
- Multi-point Constraints (MPC): Implementatie van stijve lichamen en periodieke randvoorwaarden via condensatie en Lagrange-multiplicatoren.
- Contact: Hertz-contactproblemen zonder speciale contactelementen, puur via een energie-term.
- Mixed-Dimensionele Koppeling: Cohesieve breuk (2D interface in 3D) en ingebedde vezels in een zacht materiaal.
- Multi-fysica: Thermische schokbreuk gekoppeld aan faseveld en mechanica.
- Niet-variational Problemen: Advectie-diffusie op een bolvormig oppervlak (niet-symmetrische operator).
- Data-gedreven Modellen: Integratie van Neurale Constitutieve Modellen (NCM) en Neural Operator Element Methods (NOEM) zonder aanpassing van de solver.

5. Betekenis en Conclusie

Dit werk markeert een paradigmaverschuiving in de computationele mechanica. Het toont aan dat globale automatische differentiatie en grootschalige prestaties niet onverenigbaar zijn.

Architecturale Verschuiving: In plaats van legacy element-gerichte workflows te optimaliseren voor nieuwe hardware, redefineert tatva het probleem zelf als een monolithisch, differentieerbaar functionaal.
Toekomstbestendig: Door de differentiatie en assemblage uit te besteden aan de compiler, wordt de implementatie van complexe fysische koppelingen (zoals contact, niet-lokale krachten, of AI-modellen) aanzienlijk vereenvoudigd.
Flexibiliteit: Onderzoekers kunnen kiezen tussen een matrix-vrije benadering (voor maximale schaalbaarheid) of een sparse matrix-benadering (voor robuustheid bij slecht gestelde problemen) zonder de onderliggende fysica-code te hoeven wijzigen.

Samenvattend biedt tatva een robuust, schaalbaar en expressief kader voor de volgende generatie simulaties in de mechanica, waarbij de beperkingen van traditionele FEM-implementaties op moderne GPU-architecturen worden overwonnen.