LLM-Guided Open Hypothesis Learning from Autonomous Scanning Probe Microscopy Experiments

Dit artikel presenteert een autonoom raamwerk voor scanning probe-microscopie dat symbolische regressie integreert met grote taalmodellen om nieuwe fysische hypothesen te genereren en te evalueren uit schaarse experimentele data, waarbij succesvol interpreteerbare spannings-tijd groeiwetten voor ferro-elektrische domeinschakeling worden ontdekt zonder vooraf gespecificeerde modellen.

De kern

Stel je een wetenschapper voor die in een lab werkt met een superkrachtige microscoop. In het verleden moest deze wetenschapper precies beslissen wat hij zou meten, de test uitvoeren, de resultaten bekijken en vervolgens beslissen wat hij als volgende zou doen. Dit is traag en is sterk afhankelijk van de eigen intuïtie van de wetenschapper.

In de afgelopen jaren hebben wetenschappers "zelfrijdende" laboratoria gebouwd. Deze zijn als autonome auto's voor de wetenschap: de computer bestuurt de microscoop, voert experimenten uit en past de instellingen aan om zo snel mogelijk de beste resultaten te vinden. Er is echter een addertje onder het gras: deze zelfrijdende laboratoria zijn meestal zeer goed in optimaliseren (het vinden van de beste instelling), maar vreselijk in het ontdekken van nieuwe wetten. Ze kunnen je vertellen "deze spanning maakt de grootste stip", maar ze kunnen je niet vertellen waarom of een nieuwe regel van de natuurkunde opschrijven die dit verklaart. Ze zitten vast in een doos met ideeën die de menselijke programmeur hen heeft gegeven.

Dit artikel introduceert een nieuw systeem dat uit die doos breekt. Het leert de computer niet alleen het beste antwoord te vinden, maar ook nieuwe theorieën te bedenken op basis van wat het ziet.

Hier is hoe het systeem werkt, met behulp van een eenvoudige analogie:

Het Twee-Hersenen Systeem

Stel je dit nieuwe systeem voor als een team van twee zeer verschillende robots die samen aan een puzzel werken.

1. De "Patroonzoeker" (Symbolische Regressie)
Stel je een robot voor die ongelooflijk goed is in wiskunde, maar geen gezond verstand heeft. Je geeft het een paar verspreide datapunten (zoals een paar stippen op een grafiek), en het begint duizenden verschillende wiskundige formules te schreeuwen die die stippen zouden kunnen verbinden.

• Wat het doet: Het genereert wilde gokken zoals "De grootte van de stip is gelijk aan de spanning keer de wortel van de tijd" of "De grootte is gelijk aan de spanning plus een willekeurig getal."
• Het Probleem: Omdat het geen gezond verstand heeft, kan het formules suggereren die wiskundig perfect zijn maar fysiek onmogelijk (zoals zeggen dat een stip kleiner wordt als je het vermogen opvoert). Het is als een student die een wiskundeleerboek heeft uit het hoofd geleerd, maar niet begrijpt hoe de echte wereld werkt.

2. De "Natuurkunde-Professor" (Het Groot Taalmodel)
Stel je nu een tweede robot voor die een superintelligente natuurkunde-professor is. Deze robot heeft elke natuurkunde-leerboek ooit geschreven gelezen. Het doet de wiskunde zelf niet; in plaats daarvan fungeert het als een rechter.

• Wat het doet: Het kijkt naar de duizenden wilde formules die door de "Patroonzoeker" zijn gegenereerd en zegt: "Wacht even. Die formule zegt dat de stip achteruit in de tijd groeit? Dat is onmogelijk. Gooi het weg."
• De Magie: Het rangschikt de formules op basis van of ze zinvol zijn in de echte wereld. Het kiest diegene die de regels van de natuurkunde volgen (zoals "stippen zouden groter moeten worden bij meer spanning") en legt uit waarom ze goed zijn.

Het Experiment: Het Kweken van Kleine Elektrische Bellen

Om dit te testen, gebruikten de onderzoekers een speciale microscoop om een klein stukje materiaal genaamd PZT (een soort keramiek dat elektrische lading vasthoudt) te prikken. Wanneer ze het met elektriciteit raken, groeit er een kleine "bel" van omgeschakelde lading.

• Het Doel: Ze wilden de regel vinden die uitlegt hoe groot die bel wordt, afhankelijk van hoe lang ze het raken en hoe hard ze het raken.
• Het Proces:
  1. Start: Ze begonnen met slechts vijf willekeurige gokken (vijf verschillende raak-instellingen).
  2. De Lus:
     • De "Patroonzoeker" keek naar de vijf resultaten en schreef 50 mogelijke wiskundige regels op.
     • De "Natuurkunde-Professor" las ze, gaf ze scores en koos de beste.
     • De computer gebruikte die beste regel vervolgens om te beslissen waar hij als volgende moest raken om meer te leren.
     • Ze deden dit 10 keer, waarbij ze elke ronde meer data toevoegden.

Het Resultaat: Van Gokken naar Begrijpen

Aan het begin was de "Patroonzoeker" in de war. Het stelde domme regels voor, zoals "De belgrootte hangt alleen af van de tijd, niet van de spanning." De "Natuurkunde-Professor" gaf deze lage scores en zei: "Nee, dat heeft geen zin."

Naarmate het experiment doorging en de computer meer data verzamelde, begon de "Patroonzoeker" slimmere regels voor te stellen. Uiteindelijk koos de "Natuurkunde-Professor" een winnaar: een regel die zei dat de bel groeit op basis van zowel de spanning als de tijd, specifiek volgens een patroon waarbij de groei in de loop van de tijd vertraagt (zoals een "kruipende" beweging).

Waarom is dit een groot ding?
In eerdere experimenten moesten wetenschappers de computer vertellen: "Hier zijn drie mogelijke regels; kies de beste." De computer koos gewoon uit de lijst.
In dit nieuwe experiment creëerde de computer de regel zelf uit de data, en de "Natuurkunde-Professor" bevestigde dat het echt was. Het systeem vond niet alleen de beste instelling; het ontdekte een nieuwe manier om te beschrijven hoe het materiaal zich gedraagt.

De Conclusie

Dit artikel toont een manier om autonome wetenschap om te zetten van een "zoekmachine" (die alleen het beste antwoord in een lijst vindt) in een "wetenschapper" (die nieuwe natuurwetten kan schrijven). Door een wiskunde-bot die ideeën genereert te combineren met een AI-bot die controleert of die ideeën zinvol zijn, kan het systeem complexe fysieke regels op zichzelf leren, beginnend bij bijna niets.

Technische samenvatting

Technische Samenvatting: LLM-geleide open hypotheseleer uit autonome scanning probe-microscopie-experimenten

Probleemstelling
Autonome experimentatie heeft zich gevestigd als een paradigma voor gesloten-lus optimalisatie in microscopie en materiaalkunde, waarbij voornamelijk Bayesiaanse optimalisatie (BO) wordt gebruikt om instrumentparameters af te stemmen of structuur-eigenschapsrelaties te ontdekken binnen vaste zoekruimtes. Echter, huidige workflows zijn fundamenteel beperkt door hun afhankelijkheid van vooraf gedefinieerde objectief functies en hypotheseruimtes. Hoewel deze systemen efficiënt convergeren naar optima binnen door mensen gespecificeerde modellen, missen ze het mechanisme om nieuwe natuurwetten te genereren of experimentele data te interpreteren via open hypothese-generatie. Bestaande "hypotheseleer"-benaderingen kiezen doorgaans uit een vooraf gedefinieerde set door mensen ontworpen modellen, in plaats van relaties direct af te leiden uit data. Dit creëert een kloof in hiërarchische autonome systemen waar interpreteerbare kennis moet worden gegenereerd, geëvalueerd en verspreid over besluitniveaus, zonder beperkt te worden door eerdere menselijke modelklassen.

Methodologie
De auteurs stellen een "open hypotheseleer"-kader voor dat symbolische regressie integreert met fysische evaluatie op basis van Large Language Models (LLM) om over te schakelen van gesloten-lus optimalisatie naar open hypothese-ontdekking. De workflow bestaat uit drie kerncomponenten:

1. Symbolische Regressie voor Hypothese-Generatie:
   In plaats van parameters te fitten binnen een vaste modelstructuur, gebruikt het systeem symbolische regressie (met de PySR-bibliotheek) om direct de ruimte van wiskundige expressies te doorzoeken. Gegeven schaarse experimentele data, genereert deze module een Pareto-front van kandidaat-analytische expressies die voorspellende nauwkeurigheid (verlies) afwegen tegen modelcomplexiteit. Dit proces is puur datagedreven en produceert expliciete kandidaatvergelijkingen zonder fysische beperkingen in te bouwen tijdens de generatiefase.

2. LLM-gebaseerde Fysische Evaluatie:
   Om de beperking aan te pakken dat statistisch optimale expressies mogelijk fysisch ongeldig zijn, introduceert het kader een gestructureerde LLM-evaluator. De LLM ontvangt de kandidaatvergelijkingen, variabele definities en een contextrijke samenvatting van gevestigde natuurwetten (specifiek betreffende ferro-elektrische domeingroei, gegenereerd via een diep-onderzoekspijplijn). De LLM fungeert als validator in plaats van generator en scoort kandidaten op basis van:

   • Niet-trivialiteit: Afhankelijkheid van relevante variabelen (bijv. zowel spanning als tijd).
   • Monotonie: Consistentie met verwachte trends.
   • Schalingsgedrag: Uitlijning met bekende regimes (bijv. thermodynamisch evenwicht, kinetische groei, kruip).
   • Pathologie: Afwezigheid van singulariteiten of onfysische divergenties.
     De output omvat een kwantitatieve plausibiliteitsscore en een natuurlijke taalredeneringstrace die de beoordeling uitlegt.

3. Adaptief Experimenteel Ontwerp:
   De geselecteerde hypothese leidt de volgende experimentele stap. Het systeem berekent residuen tussen het geselecteerde model en de experimentele data. Een Gaussisch Proces (GP) wordt getraind op deze residuen om onzekerheid te modelleren. Vervolgens wordt Bayesiaanse Optimalisatie (BO) met een Upper Confidence Bound (UCB) acquisitie-functie toegepast op het residumodel om nieuwe meetcondities te selecteren. Dit richt zich op gebieden waar de huidige hypothese onvolledig is, waardoor het model iteratief wordt verfijnd.

Experimentele Implementatie
Het kader werd gedemonstreerd op autonome Piezoresponse Force Microscopy (PFM)-experimenten die ferro-elektrische domeinschakeling onderzochten in een lood-zirkonaat-titaanaat (PZT) dunne film.

• Opstelling: Spanningspulsen (1–10 V) met variërende duur (0,01–10 s) werden aangebracht op een vaste locatie om domeinschakeling te induceren. De resulterende domeingrootte (effectieve straal) werd gemeten via DART-PFM.
• Proces: Het experiment begon met vijf willekeurige zaadmetingen. Gedurende 10 iteratieve cycli verwierf het systeem 5 nieuwe datapunten per cyclus op basis van de residu-gedreven BO-strategie, wat resulteerde in in totaal 55 metingen.
• Evaluatie: Kandidaatmodellen werden gerangschikt door de LLM met behulp van een prompt die was ontworpen om fysische regels af te dwingen (bijv. vereiste afhankelijkheid van zowel $V$ als $t$).

Belangrijkste Resultaten

• Evolutie van Hypothesen: Beginnend met vijf zaadpunten, produceerde de symbolische regressie aanvankelijk triviale of fysisch onvolledige modellen (bijv. constante of enkelvoudige variabele afhankelijkheden). Naarmate de dataset groeide door adaptieve sampling, evolueerde de hypotheseruimte om gekoppelde spannings-tijd expressies te omvatten.
• Vergelijking van Selectiecriteria:
  • Datagedreven Selectie: Het standaard PySR "beste" criterium (balancering van verlies en complexiteit) gaf in latere iteraties de voorkeur aan een eenvoudig lineair spannings-only model ($r \propto V$) omdat het een gunstige verlies-tot-complexiteitsverhouding bood, ondanks het negeren van de tijdsafhankelijkheid die cruciaal is voor groei in eindige tijd.
  • LLM-geleide Selectie: De LLM-evaluator verwierp het spannings-only model omdat het de "niet-trivialiteits"-regel schond (gebrek aan tijdsafhankelijkheid). Het selecteerde een model van de vorm $r = V(0,000786 \log t + 0,00781)$.
• Fysische Consistentie: Het door de LLM geselecteerde model werd geïdentificeerd als consistent met "ongevorderde kinetiek" of "kruipgedrag", waarbij de domeinwand-snelheid exponentieel afhankelijk is van het inverse elektrische veld, wat leidt tot logaritmische tijdsafhankelijkheid. Dit resultaat sluit aan bij eerdere bevindingen in het veld, maar werd hier afgeleid zonder de modelklasse vooraf te specificeren.
• Voorspellende Prestaties: Bij evaluatie op toekomstige datapunten (verkregen na modelselectie) vertoonden de door de LLM geselecteerde modellen voorspellende nauwkeurigheid vergelijkbaar met de minimale-verliesmodellen, maar met lagere variantie. Cruciaal was dat de door de LLM geselecteerde modellen beter generaliseerden dan de puur op complexiteit gestraftte PySR "beste" modellen, die vaak de fysica onderfitten.

Betekenis en Claims
Het artikel claimt een route te vestigen voor het integreren van symbolische regressie, fysiek redeneren en adaptieve experimentatie in hiërarchische autonome wetenschappelijke workflows. De primaire bijdrage is de demonstratie dat autonome microscopie verder kan gaan dan optimalisatie binnen vaste zoekruimtes naar het genereren van interpreteerbare natuurwetten direct uit data.

Belangrijke claims zijn:

1. Open Hypothese-ontdekking: Het kader maakt het mogelijk om kandidaat-fysische relaties te genereren zonder te vertrouwen op een vooraf gedefinieerde set door mensen ontworpen modelklassen.
2. Fysiek-bewuste Rangschikking: De LLM-evaluator onderscheidt succesvol tussen statistisch efficiënte maar fysisch onvolledige modellen en die welke interpreteerbaar en consistent zijn met bekende mechanismen (bijv. het identificeren van het kruipregime).
3. Kennisverspreiding: De natuurlijke taalredenering die door de LLM wordt geboden, dient als een overdraagbaar kennisartefact, waardoor downstream-agenten kunnen begrijpen waarom een model werd geselecteerd, in plaats van alleen een numerieke score te ontvangen.
4. Validatie: De benadering identificeerde succesvol een kinetische, kruip-achtige domeinwand-groeiwet in PZT, een resultaat dat consistent is met eerdere hypotheseleer-studies die vertrouwden op vooraf gedefinieerde modellen, waarmee de "open" generatie-aanpak wordt gevalideerd.

De auteurs merken op dat hoewel de huidige implementatie symbolische regressie gebruikt voor analytische vormen, het bredere kader is ontworpen om numerieke of op simulatie gebaseerde modellen in toekomstige iteraties te accommoderen. Het werk positioneert deze methodologie als een stap richting autonome systemen die actief deelnemen aan het ontdekkingsproces in plaats van alleen vooraf gedefinieerde optimalisatietaken uit te voeren.