Large Language Model Based Agent for Automated Discovery in Computational Physics

Het artikel introduceert PhyNex, een autonome agent die gebruikmaakt van grote taalmodellen en domeinspecifieke tools om systematisch wetenschappelijke oplossingen in de computationele fysica te verkennen en te optimaliseren, waarbij het succesvol door de mens ontworige state-of-the-art methoden evenaart of overtreft bij diverse taken zoals de voorspelling van diëlektrische spectra, Max-Cut heuristieken en kwantumbatterijoptimalisatie.

De kern

Stel je voor dat je een meesterkok bent die een nieuw recept probeert uit te vinden. Je weet precies hoe het gerecht moet smaken (het doel) en je hebt een lijst met toegestane ingrediënten en keukenregels (de fysieke beperkingen). Echter, je weet niet de exacte hoeveelheden kruiden of de precieze bereidingstijden. Traditioneel zou je maanden of jaren bezig zijn met proeven, aanpassen, falen en bijsturen totdat je recept perfect is.

Dit artikel introduceert PhyNex, een nieuw soort "robot-sous-chef" die dit proeven en bijsturen voor je doet, specifiek voor problemen in de computationele fysica.

Zo werkt PhyNex, met behulp van eenvoudige analogieën:

1. De strategie van de robotchef

In plaats van lukraak te gokken, gedraagt PhyNex zich als een zeer georganiseerde, volhardende knutselaar.

• De "Eén-stap-tegelijk-regel": Stel je voor dat je een complexe machine hebt. In plaats van de hele machine vanaf nul op te bouien, verandert PhyNex slechts één klein onderdeel tegelijk (zoals het vervangen van een tandwiel of het aandraaien van één schroef). Daarna test het de machine.
• Het Scorebord: Elke keer dat het een wijziging maakt, krijgt het een score. Als de score omhoog gaat, behoudt het die wijziging. Als de score omlaag gaat, probeert het iets anders.
• Het "Lesboek": Dit is de superkracht van de robot. Als een wijziging ervoor zorgt dat de machine kapot gaat (een "bug"), geeft PhyNex niet zomaar op. Het schrijft op waarom het kapot ging en hoe het te repareren is in een gedeeld "Lesboek". Als een andere robot-tak later dezelfde fout probeert te maken, controleert deze het boek en vermijdt de fout. Dit betekent dat hoe meer het probeert, hoe slimmer het wordt.

2. De drie uitdagingen (De "Recepten")

De auteurs hebben PhyNex getest op drie zeer verschillende wetenschappelijke "recepten" om te zien of het menselijke experts kan overtreffen:

• Uitdaging A: Licht voorspellen (Het Kristalprisma)

  • De Taak: Wetenschappers hebben kristallen en willen precies weten hoe deze met licht zullen interageren (zoals een prisma licht splitst in kleuren). Normaal gesproken vereist dit dure, langzame computersimulaties.
  • Het Resultaat: PhyNex ontdekte een manier om deze lichtpatronen direct vanuit de vorm van het kristal te voorspellen. Het ontdekte een specifieke regel: "Lichtabsorptie moet altijd een positief getal zijn" (je kunt geen negatief licht hebben). Door deze eenvoudige regel toe te voegen, werd het nauwkeuriger dan de door mensen ontworpen modellen.

• Uitdaging B: De Grafiek Snijden (De Partij Splitsen)

  • De Taak: Stel je een feestje voor waarbij mensen met elkaar verbonden zijn door vriendschappen (een graaf). Je wilt de gasten in twee groepen splitsen zodat het maximale aantal vriendschappen wordt "gesneden" (mensen in verschillende groepen). Dit is een klassiek wiskundig puzzelstuk.
  • Het Resultaat: PhyNex bedacht een nieuwe strategie voor het omgaan met "populaire" mensen (hubs) die iedereen kennen. Het besloot beslissingen over deze populaire mensen eerst te nemen. Deze aanpak was veel beter in het splitsen van de groep dan de methoden die mensen eerder hadden ontworpen.

• Uitdaging C: Een Kwantumbatterij Opladen (De Energie Sprint)

  • De Taak: Kwantumbatterijen zijn kleine, futuristische batterijen die ongelooflijk snel kunnen opladen, maar ze zijn chaotisch en moeilijk te controleren. Wetenschappers moeten het perfecte "oplaadschema" vinden om de meeste energie te verkrijgen zonder dat de batterij ontploft of energie verliest.
  • Het Resultaat: PhyNex vond twee verschillende manieren om de batterij op te laden. De ene manier was een vloeiend, gestaag ritme (zoals een kalme hartslag), en de andere een voorzichtige strategie die zich voorbereidt op de worst-case scenario's. Beide methoden extraheerden meer energie dan de door mensen ontworpen methoden, vooral in de beginfase van het opladen.

3. Waarom dit ertoe doet

Het artikel beweert dat PhyNex deze problemen in ongeveer 12 uur kan oplossen, een taak die menselijke onderzoekers maanden aan vallen en error kunnen kosten.

• Het is Transparant: In tegen tegenstelling tot sommige AI die een "black box" is (je weet niet hoe het werkt), laat PhyNex een spoor van broodkruimels achter. Je kunt in het "Lesboek" kijken en precies zien welke kleine wijziging de grootste verbetering heeft gebracht.
• De Verdeling van Arbeid: Het artikel suggereert een nieuwe manier waarop wetenschap kan werken:
  • Mensen definiëren de regels, de doelen en de natuurkundige wetten (het "Wat" en "Waarom").
  • PhyNex handelt het saaie, repetitieve werk af van het proberen van duizenden combinaties om de beste oplossing te vinden (het "Hoe").

Kortom, PhyNex is een geautomatiseerde ontdekkingsreiziger die door het uitgestrekte landschap van wetenschappelijke oplossingen navigeert, leert van zijn eigen fouten en betere paden vindt dan mensen alleen kunnen vinden, terwijl het tegelijkertijd een duidelijk verslag bijhoudt van hoe het daar gekomen is.

Technische samenvatting

Technische Samenvatting: PhyNex – Een LLM-gebaseerde Agent voor Geautomatiseerde Ontdekking in de Computationele Fysica

Probleemstelling

Wetenschappelijke ontdekking in de computationele fysica houdt vaak het optimaliseren van kwantitatief evalueerbare doelstellingen in die onderhevig zijn aan fysieke beperkingen. Hoewel onderzoekers uitblinken in het formuleren van deze problemen, is het proces van het iteratief verfijnen van methoden, het debuggen van implementaties en het afstemmen van oplossingsstrategieën arbeidsintensief en vereist dit vaak maanden of jaren. Bestaande geautomatiseerde benaderingen kampen met significante beperkingen: modulaire neuro-symbolische architecturen missen vaak generaliseerbaarheid, en evolutionaire programmazochtmethoden, hoewel flexibel, verhullen het causale verband tussen specifieke code-wijzigingen en prestatiewinst. Bovendien zijn veel autonome onderzoeksagenten toegesneden op specifieke klassen van taken, waardoor aanpassing aan nieuwe domeinen kostbaar is.

Er is behoefte aan een systeem dat kan:

1. Generaliseren over diverse computationele fysica-problemen.
2. Een interpreteerbare attributie bieden van prestatieverbeteringen aan specifieke algoritmische componenten.
3. De zoekruimte van uitvoerbare programma's navigeren zonder te vertrouwen op gradiëntgebaseerde optimalisatie (aangezien de mapping van code naar score niet-differentieerbaar is).

Methodologie: Het PhyNex-framework

De auteurs introduceren PhyNex, een autonome agent die is ontworpen om systematisch de oplossingsruimte van scorebare wetenschappelijke taken te verkennen. PhyNex koppelt door LLM gestuurde zoektochten aan domeinspecifieke computationele instrumenten die fysieke consistentie afdwingen.

Kernarchitectuur

Het framework functioneert als een closed-loop agent (Fig. 1) gedefinieerd door de volgende componenten:

• Probleemformulering: Een taak $T$ wordt gedefinieerd als $(X, Y, U)$, waarbij $X$ de invoerruimte is, $Y$ de uitvoerruimte is, en $U$ een set domeinspecifieke instrumenten (simulatoren, dataladers, evaluatoren) is die door de wetenschapper worden aangeleverd. Het doel is om een uitvoerbaar programma $\omega$ te vinden dat een scorefunctie $M(\omega)$ maximaliseert.
• Progressieve Lokale Zoektocht: PhyNex voert geen globale herstructurering uit. In plaats daarvan verfijnt het een oplossing door middel van gelokaliseerde, enkelvoudige component-modificaties. Bij elke stap stelt de LLM een gerichte wijziging $\Delta\omega$ voor aan een ouderprogramma. Dit zorgt ervoor dat veranderingen in de score direct kunnen worden toegeschreven aan specifieke algoritmische keuzes.
• Kennisaccumulatie: Het systeem onderhoudt een globale kennisbank ($K_{global}$) van "lessen" afgeleid van zowel succesvolle als mislukte pogingen.
  • Rectificatie: Als een kandidaatprogramma faalt (runtime error), wordt de fout en de diagnostische output teruggekoppeld naar de LLM om een fix te genereren.
  • Falen-lessen: Succesvolle reparaties genereren lessen die de faalmodus en de oplossing beschrijven. Deze worden toegevoegd aan $K_{global}$ om redundante fouten in daaropvolgende takken te voorkomen.
• Dieptegestuurde Parallelle Exploratie: PhyNex lanceert $K$ onafhankelijke zoekbomen parallel, elk startend vanuit een andere initiële oplossing.
  • Boomlogica: Een tak gaat alleen door als een modificatie de score verbetert; anders wordt deze beëindigd.
  • Koppeling: Alle bomen delen de $K_{global}$ kennisbank, waardoor een fout die in één traject wordt geconstateerd, ook in andere trajecten kan worden vermeden.
  • Trajectlogging: Elke modificatie wordt gelogd met de bijbehorende scoreverandering, wat een expliciet, interpreteerbaar exploratietraject creëert.

Belangrijkste Bijdragen

1. Autonome Algoritmische Ontdekking: PhyNex identificeert autonoom oplossingen die menselijke ontworpen baselines (SOTA) in drie verschillende domeinen evenaren of overtreffen, zonder dat uitgebreide prompt engineering nodig is.
2. Interpreteerbaarheid en Attributie: Door modificaties te beperken tot enkele componenten en de resulterende scoreveranderingen te loggen, produceert PhyNex exploratietrajecten die onthullen welke ontwerpkeuzes de prestaties drijven. Dit stelt onderzoekers in staat om de causale mechanismen achter verbeteringen te begrijpen (bijv. het identificeren dat een specifieke activatiefunctie of schedulingstrategie de primaire drijfveer van succes was).
3. Fysieke Consistentie via Instrumentarium: Het framework dwingt fysieke beperkingen af, niet enkel via de interne kennis van de LLM, maar door de set instrumenten $U$ (bijv. simulaties, evaluatoren), waardoor gegarandeerd wordt dat alle kandidaat-oplossingen binnen geldige fysieke regimes opereren.

Experimentele Resultaten

PhyNex werd gevalideerd op drie representatieve problemen, waarbij gemiddelde zoekverbeteringen boven menselijke baselines werden bereikt binnen 12 uur aan computatietijd.

Taak 1: Spectrale Voorspelling van Halfgeleiders

• Doel: Voorspellen van frequentieafhankelijke diëlektrische spectra vanuit kristalstructuren.
• Baseline: Menselijk ontworpen graph neuraal netwerk (GNN) uit Ref. [22].
• PhyNex Prestaties: Bereikte gemiddelde zoek-gelijkeniscoëfficiënten (SC) die de baseline overstijgen.
  • $\text{Im}(\bar{\epsilon}_{100})$: $0.810 \pm 0.011$ (vs. $0.78$ baseline).
  • $\text{Re}(\bar{n}_{300})$: $0.951 \pm 0.003$ (vs. $0.94$ baseline).
• Belangrijk Inzicht: PhyNex introduceerde autonoom fysisch gemotiveerde beperkingen, zoals een Softplus-activatie om niet-negatieve optische absorptie af te dwingen en baseline-offsets voor brekingsindices, welke werden geïdentificeerd als de primaire drijfveren van verbetering.

Taak 2: Probabilistische Circuit Max-Cut Optimalisatie

• Doel: Ontwerpen van variationele algoritmen voor Max-Cut op reguliere en Barabási–Albert (BA) schaalvrije grafen.
• Baseline: R-PAOA [23].
• PhyNex Prestaties:
  • Reguliere Grafen: Verbeterde genormaliseerde gemiddelde cut van $0.649$ naar $0.743$ (2-regulier) en $0.567$ naar $0.652$ (3-regulier) met slechts 4 parameters (vs. honderden in R-PAOA).
  • BA Grafen: Verbeterde genormaliseerde gemiddelde cut van $0.561$ naar $0.603$.
• Belangrijk Inzicht: De agent ontdekte graad-bewuste gate scheduling (het prioriteren van hub-nodes) en temporele correlaties tussen gates, waarmee de heterogene structuur van schaalvrije netwerken effectief wordt geëxploiteerd.

Taak 3: Laadprotocol Optimalisatie voor Dicke Quantum Batterijen

• Doel: Optimaliseren van tijdafhankelijke controleprotocollen om ergotropie te maximaliseren in het chaotische koppelingsregime.
• Baseline: Menselijk ontworpen Soft Actor-Critic (SAC) benadering.
• PhyNex Prestaties:
  • Gestuurde Exploratie (SAC prior): Bereikte een verbetering van $7.78\%$ bij het 80k trainingscheckpoint.
  • Open Exploratie (Geen prior): Bereikte een gemiddelde zoekverbetering van $5.90\%$ bij het 80k checkpoint en presteerde iets beter dan de baseline bij 480k stappen.
• Belangrijk Inzicht: De agent identificeerde dat het vervangen van prioritized experience replay door uniforme sampling en het toevoegen van een smoothness penalty aan de actor loss de prestaties verbeterde door overfitting op quantumruis te verminderen en destabiliserende controlefluctuaties te voorkomen.

Betekenis en Claims

Het artikel beweert dat PhyNex een praktische taakverdeling in wetenschappelijk onderzoek demonstreert:

• Wetenschappers definiëren de doelstellingen, beperkingen en evaluatiemetrieken (via de instrumentenset $U$).
• Geautomatiseerde Systemen navigeren door de methodologische zoekruimte en handelen de trial-and-error loop van implementatie en hyperparameter-tuning af.

De auteurs benadrukken dat PhyNex de fysieke inzichten niet vervangt, maar de weg van probleemspecificatie naar effectieve implementatie versnelt. Het vermogen van het systeem om interpreteerbare exploratietrajecten te produceren, wordt benadrukt als een cruciaal kenmerk, waardoor onderzoekers mechanistische inzichten (oorzaak-gevolg patronen) kunnen extraheren die toekomstig algoritmeontwerp kunnen informeren. Het werk suggereert dat voor problemen met scorebare doelstellingen en gematigde evaluatiekosten, systematische exploratie gedreven door LLM's de wetenschappelijke ontdekking aanzienlijk kan versnellen.

Door auteurs genoemde Beperkingen:

• Het framework is beperkt tot taken met scorebare doelstellingen en gematigde kosten per evaluatie (exclusief zeer kostbare simulaties zoals grootschalige DFT).
• Exploratie is lokaal; het kan kwalitatief verschillende oplossingsfamilies missen die niet-lokale sprongen vereisen.
• Het zoekdoel in Taak 3 werd gedefinieerd bij een specifiek checkpoint (80k), en de resultaten zijn het meest prominent daar.