Engineering-Oriented Symbolic Regression: LLMs as Physics Agents for Discovery of Simulation-Ready Constitutive Laws

Dit artikel presenteert een engineering-gerichte symbolische regressieframework dat Large Language Models inzet als fysische agenten om stabiele, simulatieklare constitutieve wetten voor complexe materialen te ontdekken die zowel data-accuraatheid als strikte thermodynamische consistentie garanderen.

De kern

Stel je voor dat je een heel complex spel probeert te spelen, zoals het simuleren van hoe rubber reageert als je hetrekt, knijpt of draait. In de echte wereld (en in computersimulaties) hebben we wiskundige regels nodig om dit gedrag te voorspellen. Deze regels heten "constitutieve wetten".

Vroeger hadden wetenschappers twee moeilijke opties:

1. De "Super-precieze" methode: Ze verzamelden enorme hoeveelheden data met dure apparatuur. Dit gaf een perfect beeld, maar het was te duur en te ingewikkeld voor de gemiddelde ingenieur.
2. De "Probeer-en-fout" methode: Ze pasten een bestaande formule aan de data aan. Dit was makkelijk, maar vaak leidde dit tot formules die wel goed leken op papier, maar in de computerwereld "crashten" of onrealistische resultaten gaven (alsof je een auto bouwt die perfect rijdt op een testbaan, maar uit elkaar valt zodra je een bocht neemt).

De oplossing in dit artikel: De "Fysica-Agent"

De auteurs van dit paper hebben een nieuwe manier bedacht, genaamd EO-SR (Engineering-Oriented Symbolic Regression). Ze gebruiken een kunstmatige intelligentie (een Large Language Model, of LLM) niet als een simpele tekstschrijver, maar als een slimme assistent-fysicus.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. De Architect en de Bouwheer

Stel je voor dat je een nieuwe auto moet ontwerpen.

• De Symbolische Regressie (de bouwer): Dit is een robot die miljoenen wiskundige formules probeert te bouwen. Zonder hulp zou hij proberen alles wat erop lijkt: formules met zinnen, met vreemde symbolen, en formules die misschien wel goed werken op de testbaan, maar fysiek onmogelijk zijn (bijvoorbeeld een motor die oneindig snel kan gaan zonder brandstof).
• De LLM (de Fysica-Agent): Dit is de ervaren bouwheer die naast de robot staat. Hij zegt: "Stop! Je mag geen formules bouwen die de wetten van de natuurkunde schenden. Een auto kan niet oneindig snel, en rubber kan niet oneindig rekken zonder te breken."

Deze "Agent" vertaalt abstracte natuurwetten (zoals "energie moet altijd positief zijn" of "het materiaal moet stabiel blijven") naar een lijst met regels die de robot moet volgen.

2. Het Experiment: Rubber dat niet "crasht"

De auteurs testten dit systeem op rubberachtige materialen (zoals banden of rubberen handschoenen).

• Het probleem: Traditionele formules werken goed als je rubber alleen uitrekt. Maar als je het in een computer simuleert en je knijpt het ook een beetje (zoals in een auto-ongeluk), vallen deze formules vaak in elkaar. De computer zegt dan: "Fout! De wiskunde is onstabiel."
• De oplossing van de Agent: De LLM-agent dwong de robot om alleen formules te zoeken die altijd stabiel zijn, zelfs onder extreme druk.

3. Het Resultaat: Een nieuwe, slimme formule

Het systeem vond een nieuwe formule die niemand eerder had bedacht. Het is een slimme mix:

• Het heeft een basis die werkt zoals oud, betrouwbaar rubber (lineair).
• Het heeft een veiligheidsklep (een rationele term) die zorgt dat als het rubber bijna uitgerekt is, de weerstand enorm toeneemt. Dit voorkomt dat het rubber in de simulatie oneindig lang uitrekt (wat in de echte wereld zou betekenen dat het scheurt).

Waarom is dit zo cool?
Stel je voor dat je een nieuwe sleutel maakt voor een slot.

• De oude methoden maakten een sleutel die perfect paste in het slot op de foto (de testdata), maar die vastliep zodra je hem probeerde te draaien in het donker (de simulatie).
• De nieuwe methode (met de LLM-agent) maakte een sleutel die niet alleen past, maar ook ontworpen is om nooit vast te lopen, omdat de agent de "mechanica van het slot" begreep en die regels in het ontwerp verwerkte.

Conclusie: Van "Gokken" naar "Garanderen"

Dit paper laat zien dat we AI niet alleen moeten gebruiken om data te analyseren, maar als een waakhond voor de natuurwetten.

Door een slimme AI-agent te gebruiken die de regels van de fysica kent, kunnen we nu automatisch wiskundige formules vinden die:

1. Precies zijn (passen bij de meetdata).
2. Veilig zijn (crashen niet in complexe simulaties).
3. Begrijpbaar zijn (geen zwarte doos, maar een duidelijke formule).

Het is alsof we een brug hebben gebouwd tussen de ruwe, chaotische wereld van meetdata en de strakke, veilige wereld van ingenieursberekeningen. De AI is de tolk die zorgt dat de wiskunde nooit de natuurkunde vergeet.

Technische samenvatting

Titel

Engineering-Oriented Symbolic Regression (EO-SR): LLMs als Fysische Agenten voor de Ontdekking van Simulatie-klaar Constitutieve Wetten

1. Het Probleem

De ontdekking van constitutieve wetten (de wiskundige relaties die beschrijven hoe materialen reageren op krachten) voor complexe materialen staat voor een fundamentele tweedeling:

• Hoge-trouw datagedreven benaderingen: Methoden zoals Physics-Informed Neural Networks (PINNs) of Digital Image Correlation (DIC) kunnen complexe gedragingen modelleren, maar vereisen vaak dure, uitgebreide experimentele data en leveren "black-box" modellen op die weinig interpretatie bieden.
• Traditionele engineering-aanpassing: Het aanpassen van vooraf gedefinieerde analytische modellen (zoals Ogden of Mooney-Rivlin) aan standaard trekproeven is toegankelijk, maar leidt vaak tot numeriek instabiele modellen. Modellen die perfect passen bij de trainingsdata (lage MSE), kunnen buiten het kalibratiegebied fysisch ongeldig zijn (bijvoorbeeld het schenden van thermodynamische stabiliteit), wat resulteert in convergentiefouten in complexe eindige-elementenberekeningen (FEM).

Bestaande Symbolic Regression (SR) methoden lossen dit niet volledig op, omdat ze vaak fungeren als onbeperkte wiskundige zoekmachines die "fysisch ongeldige" expressies genereren die wel data passen, maar de natuurwetten schenden.

2. Methodologie: Het EO-SR Framework

De auteurs introduceren een Engineering-Oriented Symbolic Regression (EO-SR) framework dat Large Language Models (LLMs) inzet als "Physics-Informed Agents" om de zoekruimte te beperken tot fysisch geldige oplossingen. Het framework bestaat uit drie gekoppelde modules:

1. Data Parser: Normaliseert ruwe experimentele data naar een gestandaardiseerde tensorrepresentatie.
2. Skill Injector (De LLM-Agent): Dit is het kerninnovatiepunt. In plaats van harde code te schrijven, fungeert de LLM (Gemini-pro) als een domeinexpert. Op basis van een natuurlijke taalbeschrijving (bijv. "Isotrope Hyperelasticiteit") genereert de agent een "Skill-tuple" $S = (T, O, C)$:
   • $T$ (Transformatie): Zet invoer om naar fysisch objectieve invarianten (bijv. Cauchy-Green invarianten) en zorgt voor frame-onafhankelijkheid.
   • $O$ (Operator Set): Filtert wiskundige operatoren. Bijvoorbeeld: periodieke functies (sin/cos) worden uitgesloten omdat ze niet overeenkomen met het monotoon stijgende gedrag van polymeren.
   • $C$ (Constraints): Genereert ongelijkheidsconstraints op basis van thermodynamica, zoals de Drucker-stabiliteitscriterium (convexiteit van de energie).
3. Symbolic Evolution Engine: Voert een genetische zoektocht uit om een functie $f$ te vinden die de data minimaliseert, maar strak wordt gestuurd door de door de agent gegenereerde constraints. De loss-functie bevat een straffunctie voor het schenden van fysische wetten (bijv. convexiteit).

Na de zoektocht voert de LLM-agent een Agent-Assisted Selection uit om de beste kandidaat te kiezen, waarbij voorrang wordt gegeven aan modellen met een duidelijke fysische interpretatie en inherente convexiteit, in plaats van alleen de laagste fout.

3. Toepassing en Experimenten

Het framework werd getest op de hyperelastische modellering van rubberachtige materialen, gebruikmakend van de standaard Treloar-datasets (uniaxiale en equibiaxiale trekdata).

• Doel: Een constitutieve wet vinden die niet alleen de data past, maar ook numeriek robuust is voor FEM-simulaties.
• Vergelijking: Het gevonden model werd vergeleken met industriestandaarden (Yeoh, Ogden N=3) en een onbeperkte SR-oplossing.

4. Belangrijkste Resultaten

A. Ontdekking van een Nieuw Hybride Model

Het framework ontdekte een nieuw constitutief model (aangeduid als Eq16) dat een hybride structuur heeft:
$$W(\tilde{I}_1, \tilde{I}_2) = 0.031(3.75\tilde{I}_1 + \tilde{I}_2) + \frac{\tilde{I}_1}{77.9 - 1.05\tilde{I}_1}$$

• Lineair deel: Een Mooney-Rivlin term die het gedrag bij kleine vervormingen beschrijft.
• Rationeel deel: Een term met een pool (singulariteit) die de "locking" (beperkte rekbaarheid) van polymeerketens bij grote vervormingen modelleert.

B. Generalisatie en "Zero-Shot" Voorspelling

• Het model werd getraind op uniaxiale en equibiaxiale data, maar voorspelde zuivere schuiving (Pure Shear) met uitzonderlijke nauwkeurigheid (MSE ≈ 0.0048) zonder daarvoor getraind te zijn.
• Industriestandaarden zoals het Yeoh-model faalden hierbij door overfitting en het missen van de afhankelijkheid van het vervormingsmodus.

C. Thermodynamische Stabiliteit en Convexiteit

• Het gevonden model is onvoorwaardelijk convex (de Hessian-matrix is positief semi-definiet), wat garandeert dat het voldoet aan het Drucker-stabiliteitscriterium.
• Een onbeperkte SR-oplossing (Sqrt-Eq) had een iets lagere fit-fout, maar vertoonde gebieden met negatieve kromming (instabiliteit), wat het ongeschikt maakt voor simulaties.

D. FEM Validatie (Numerieke Robuustheid)

• Het EO-SR-model: Converteerde succesvol in een complexe simulatie van een dubbel-gescheurd proefstuk onder grote vervorming, inclusief lokale compressie.
• Ogden-model (N=3): Faalde in convergentie. Omdat het model alleen op trekdata was gefit, bevatte het een negatieve exponent die leidde tot een numerieke singulariteit (oneindige stijfheid) bij compressie (transversale krimp). Dit veroorzaakte een ill-voorwaardelijke Jacobiaan en een crash van de solver.

5. Bijdragen en Significantie

1. Overbrugging van de "Fitting-Simulation Gap": Het framework lost het probleem op waarbij modellen die goed passen bij data, falen in simulaties. Door fysische constraints (zoals convexiteit) direct in de zoekruimte te injecteren via LLMs, worden alleen "simulatie-klaar" wiskundige vormen gevonden.
2. LLMs als Fysische Agenten: Het artikel toont aan dat LLMs niet alleen tekst kunnen genereren, maar ook abstracte fysische principes (zoals "energie moet convex zijn") kunnen vertalen naar uitvoerbare wiskundige constraints en code. Dit elimineert de noodzaak voor handmatige afleiding van complexe beperkingen.
3. Ontdekking van Interpretabel Wiskunde: In plaats van een "black box" neural network, levert het framework een compacte, analytische formule op die fysisch interpreteerbaar is (combinatie van lineaire elasticiteit en eindige rekbaarheid).
4. Algemene Toepasbaarheid: De "Skill-based" architectuur is modulair en kan worden uitgebreid naar andere domeinen, zoals anisotrope weefsels (met trek-compressie asymmetrie) of plasticiteit, door de agent nieuwe "Skills" te laten genereren voor specifieke domeinen.

Conclusie:
Deze studie markeert een verschuiving in "AI for Science". Het toont aan dat foundation modellen kunnen fungeren als bewakers van theoretische consistentie, waardoor AI-ontdekte modellen evolueren van louter empirische regressies naar wiskundig rigoureuze, fysisch geldige constitutieve wetten die direct inzetbaar zijn in industriële simulaties.