LLM-Guided Open Hypothesis Learning from Autonomous Scanning Probe Microscopy Experiments

Dieser Artikel stellt ein autonomes Rasterkraftmikroskopie-Framework vor, das symbolische Regression mit großen Sprachmodellen integriert, um aus spärlichen experimentellen Daten neue physikalische Hypothesen zu generieren und zu bewerten, und dabei erfolgreich interpretierbare Spannungs-Zeit-Wachstumsgesetze für die ferroelektrische Domänenschaltung ohne vorab spezifizierte Modelle entdeckt.

Das Wesentliche

Stellen Sie sich einen Wissenschaftler vor, der in einem Labor mit einem superleistungsfähigen Mikroskop arbeitet. In der Vergangenheit müsste dieser Wissenschaftler genau entscheiden, was zu messen ist, den Test durchführen, die Ergebnisse betrachten und dann entscheiden, was als Nächstes zu tun ist. Dies ist langsam und hängt stark von der eigenen Intuition des Wissenschaftlers ab.

In den letzten Jahren haben Wissenschaftler „selbstfahrende" Labore entwickelt. Diese sind wie autonome Autos für die Wissenschaft: Der Computer steuert das Mikroskop, führt Experimente durch und justiert die Einstellungen, um so schnell wie möglich die besten Ergebnisse zu erzielen. Allerdings gibt es einen Haken: Diese selbstfahrenden Labore sind zwar meist sehr gut darin, zu optimieren (die beste Einstellung zu finden), aber schrecklich darin, neue Gesetze zu entdecken. Sie können Ihnen sagen: „Diese Spannung erzeugt den größten Punkt", aber sie können Ihnen nicht sagen, warum, oder eine neue Regel der Physik aufschreiben, die dies erklärt. Sie stecken fest in einem Ideenkorsett, das ihnen vom menschlichen Programmierer gegeben wurde.

Dieser Artikel stellt ein neues System vor, das aus diesem Korsett ausbricht. Es lehrt den Computer nicht nur, die beste Antwort zu finden, sondern neue Theorien zu erfinden, basierend auf dem, was er sieht.

So funktioniert das System, anhand einer einfachen Analogie:

Das Zwei-Gehirn-System

Stellen Sie sich dieses neue System als ein Team von zwei sehr unterschiedlichen Robotern vor, die gemeinsam an einem Puzzle arbeiten.

1. Der „Musterfinder" (Symbolische Regression)
Stellen Sie sich einen Roboter vor, der unglaublich gut in Mathematik ist, aber keinen gesunden Menschenverstand hat. Sie geben ihm ein paar verstreute Datenpunkte (wie ein paar Punkte auf einem Graphen), und er fängt an, Tausende verschiedener mathematischer Formeln herauszuschreien, die diese Punkte verbinden könnten.

• Was er tut: Er generiert wilde Vermutungen wie „Die Größe des Punktes entspricht der Spannung multipliziert mit der Quadratwurzel der Zeit" oder „Die Größe entspricht der Spannung plus eine zufällige Zahl".
• Das Problem: Da er keinen gesunden Menschenverstand hat, könnte er Formeln vorschlagen, die mathematisch perfekt, aber physikalisch unmöglich sind (wie die Aussage, dass ein Punkt kleiner wird, wenn man die Leistung erhöht). Es ist wie ein Schüler, der ein Mathematik-Lehrbuch auswendig gelernt hat, aber nicht versteht, wie die reale Welt funktioniert.

2. Der „Physik-Professor" (Das Large Language Model)
Stellen Sie sich nun einen zweiten Roboter vor, der ein superkluger Physik-Professor ist. Dieser Roboter hat jedes je geschriebene Physik-Lehrbuch gelesen. Er führt die Mathematik nicht selbst durch; stattdessen fungiert er als Richter.

• Was er tut: Er betrachtet die Tausenden wilder Formeln, die vom „Musterfinder" generiert wurden, und sagt: „Moment mal. Diese Formel besagt, dass der Punkt rückwärts in der Zeit wächst? Das ist unmöglich. Weg damit."
• Die Magie: Er bewertet die Formeln danach, ob sie in der realen Welt Sinn ergeben. Er wählt diejenigen aus, die den Regeln der Physik folgen (wie „Punkte sollten mit mehr Spannung größer werden"), und erklärt, warum sie gut sind.

Das Experiment: Wachstum winziger elektrischer Blasen

Um dies zu testen, nutzten die Forscher ein spezielles Mikroskop, um ein winziges Stück Material namens PZT (eine Art Keramik, die eine elektrische Ladung speichert) zu manipulieren. Wenn sie es mit Elektrizität „zapsen", wächst eine winzige „Blase" umgeschalteter Ladung.

• Das Ziel: Sie wollten die Regel finden, die erklärt, wie groß diese Blase wird, basierend darauf, wie lange und wie stark sie sie zapsen.
• Der Prozess:
  1. Start: Sie begannen mit nur fünf zufälligen Vermutungen (fünf verschiedene Zapf-Einstellungen).
  2. Die Schleife:
     • Der „Musterfinder" betrachtete die fünf Ergebnisse und schrieb 50 mögliche mathematische Regeln auf.
     • Der „Physik-Professor" las sie, vergab Punktzahlen und wählte die beste aus.
     • Der Computer nutzte dann diese beste Regel, um zu entscheiden, wo als Nächstes gezapft werden sollte, um mehr zu lernen.
     • Dies wurde 10-mal wiederholt, wobei in jeder Runde mehr Daten hinzukamen.

Das Ergebnis: Vom Raten zum Verstehen

Am Anfang war der „Musterfinder" verwirrt. Er schlug alberne Regeln vor, wie „Die Blasengröße hängt nur von der Zeit ab, nicht von der Spannung". Der „Physik-Professor" vergab dafür niedrige Punktzahlen und sagte: „Nein, das ergibt keinen Sinn."

Als das Experiment fortschritt und der Computer mehr Daten sammelte, begann der „Musterfinder", schlauere Regeln vorzuschlagen. Schließlich wählte der „Physik-Professor" einen Gewinner aus: eine Regel, die besagte, dass die Blase basierend auf sowohl der Spannung als auch der Zeit wächst, und zwar einem Muster folgend, bei dem das Wachstum mit der Zeit nachlässt (wie eine „Kriech"-Bewegung).

Warum ist das eine große Sache?
In früheren Experimenten mussten Wissenschaftler dem Computer sagen: „Hier sind drei mögliche Regeln; wählen Sie die beste aus." Der Computer wählte einfach aus der Liste.
In diesem neuen Experiment erstellte der Computer die Regel selbst aus den Daten, und der „Physik-Professor" bestätigte, dass sie real ist. Das System fand nicht nur die beste Einstellung; es entdeckte eine neue Art, das Verhalten des Materials zu beschreiben.

Das Fazit

Dieser Artikel zeigt einen Weg, die autonome Wissenschaft von einer „Suchmaschine" (die nur die beste Antwort in einer Liste findet) in einen „Wissenschaftler" (der neue Gesetze der Physik formulieren kann) zu verwandeln. Durch die Kombination eines Mathematik-Bots, der Ideen generiert, mit einem KI-Bot, der prüft, ob diese Ideen Sinn ergeben, kann das System komplexe physikalische Regeln eigenständig lernen, ausgehend von fast nichts.

Technische Zusammenfassung

Technische Zusammenfassung: LLM-gestütztes offenes Hypothesenlernen aus autonomen Rasterkraftmikroskopie-Experimenten

Problemstellung
Autonome Experimente haben sich als Paradigma für die geschlossene Regelkreis-Optimierung in der Mikroskopie und Materialwissenschaft etabliert, wobei vorwiegend die Bayes'sche Optimierung (BO) zur Anpassung von Instrumentenparametern oder zur Entdeckung von Struktur-Eigenschafts-Beziehungen innerhalb fester Suchräume eingesetzt wird. Allerdings sind aktuelle Workflows in ihrer Abhängigkeit von vordefinierten Zielfunktionen und Hypothesenräumen fundamental begrenzt. Während diese Systeme effizient innerhalb menschlich spezifizierter Modelle zu Optima konvergieren, fehlt ihnen der Mechanismus, neue physikalische Gesetze zu generieren oder experimentelle Daten durch offene Hypothesengenerierung zu interpretieren. Bestehende Ansätze des „Hypothesenlernens" wählen typischerweise aus einer vordefinierten Menge menschlich entworfener Modelle aus, anstatt Beziehungen direkt aus den Daten abzuleiten. Dies erzeugt eine Lücke in hierarchischen autonomen Systemen, in denen interpretierbares Wissen generiert, bewertet und über Entscheidungsebenen hinweg propagiert werden muss, ohne durch vorherige menschliche Modellklassen eingeschränkt zu sein.

Methodik
Die Autoren schlagen ein Framework für „offenes Hypothesenlernen" vor, das symbolische Regression mit einer auf Large Language Models (LLM) basierenden physikalischen Evaluation integriert, um vom geschlossenen Regelkreis zur Entdeckung offener Hypothesen überzugehen. Der Workflow besteht aus drei Kernkomponenten:

1. Symbolische Regression zur Hypothesengenerierung:
   Anstatt Parameter innerhalb einer festen Modellstruktur anzupassen, nutzt das System symbolische Regression (unter Verwendung der PySR-Bibliothek), um direkt den Raum mathematischer Ausdrücke zu durchsuchen. Gegeben spärliche experimentelle Daten generiert dieses Modul eine Pareto-Front von Kandidaten-Analyseausdrücken, die die Vorhersagegenauigkeit (Verlust) gegen die Modellkomplexität abwägen. Dieser Prozess ist rein datengesteuert und produziert explizite Kandidatengleichungen, ohne während der Generierungsphase physikalische Einschränkungen einzubeziehen.

2. LLM-basierte physikalische Evaluation:
   Um die Einschränkung zu adressieren, dass statistisch optimale Ausdrücke möglicherweise physikalisch nicht valide sind, führt das Framework einen strukturierten LLM-Evaluator ein. Dem LLM werden die Kandidatengleichungen, Variablendefinitionen und ein kontextreicher Überblick über etablierte physikalische Prinzipien (speziell bezüglich ferroelektrischer Domänenwachstumsprozesse, generiert über eine Deep-Research-Pipeline) bereitgestellt. Der LLM fungiert als Validator und nicht als Generator und bewertet Kandidaten basierend auf:

   • Nicht-Trivialität: Abhängigkeit von relevanten Variablen (z. B. sowohl Spannung als auch Zeit).
   • Monotonie: Konsistenz mit erwarteten Trends.
   • Skalierungsverhalten: Übereinstimmung mit bekannten Regimen (z. B. thermodynamisches Gleichgewicht, kinetisches Wachstum, Kriechen).
   • Pathologie: Abwesenheit von Singularitäten oder unphysikalischen Divergenzen.
     Die Ausgabe umfasst einen quantitativen Plausibilitätswert und eine Spur der natürlichen Sprachbegründung, die die Bewertung erklärt.

3. Adaptives Experimentdesign:
   Die ausgewählte Hypothese leitet den nächsten experimentellen Schritt. Das System berechnet Residuen zwischen dem ausgewählten Modell und den experimentellen Daten. Ein Gauß-Prozess (GP) wird auf diesen Residuen trainiert, um die Unsicherheit zu modellieren. Anschließend wird die Bayes'sche Optimierung (BO) mit einer Upper Confidence Bound (UCB)-Akquisitionsfunktion auf das Residuenmodell angewendet, um neue Messbedingungen auszuwählen. Dies zielt auf Bereiche ab, in denen die aktuelle Hypothese unvollständig ist, und verfeinert das Modell iterativ.

Experimentelle Umsetzung
Das Framework wurde an autonomen Piezoresponse Force Microscopy (PFM)-Experimenten demonstriert, die das Umschalten ferroelektrischer Domänen in einem Bleizirkonattitanat (PZT)-Dünnschicht untersuchten.

• Aufbau: Spannungsimpulse (1–10 V) mit variierenden Dauer (0,01–10 s) wurden an einer festen Position angelegt, um Domänenumwandlungen zu induzieren. Die resultierende Domänengröße (effektiver Radius) wurde mittels DART-PFM gemessen.
• Prozess: Das Experiment begann mit fünf zufälligen Seed-Messungen. Über 10 iterative Zyklen hinweg erfasste das System basierend auf der residualgetriebenen BO-Strategie 5 neue Datenpunkte pro Zyklus, was insgesamt 55 Messungen ergab.
• Evaluation: Kandidatenmodelle wurden vom LLM anhand eines Prompts sortiert, der physikalische Regeln durchsetzte (z. B. die Forderung nach Abhängigkeit sowohl von $V$ als auch von $t$).

Hauptergebnisse

• Evolution der Hypothesen: Ausgehend von fünf Seed-Punkten produzierte die symbolische Regression zunächst triviale oder physikalisch unvollständige Modelle (z. B. konstante oder einvariablige Abhängigkeiten). Während der Datensatz durch adaptives Sampling wuchs, entwickelte sich der Hypothesenraum hin zu gekoppelten Spannungs-Zeit-Ausdrücken.
• Vergleich der Auswahlkriterien:
  • Datengesteuerte Auswahl: Das Standard-PySR-Kriterium „best" (Abwägung von Verlust und Komplexität) begünstigte in späteren Iterationen ein einfaches spannungslineares Modell ($r \propto V$), da es ein günstiges Verlust-zu-Komplexitäts-Verhältnis bot, obwohl es die für das Wachstum in endlicher Zeit kritische Zeitabhängigkeit vernachlässigte.
  • LLM-gesteuerte Auswahl: Der LLM-Evaluator lehnte das spannungsreine Modell ab, da es gegen die Regel der „Nicht-Trivialität" (Fehlen der Zeitabhängigkeit) verstieß. Er wählte ein Modell der Form $r = V(0,000786 \log t + 0,00781)$ aus.
• Physikalische Konsistenz: Das vom LLM ausgewählte Modell wurde als konsistent mit „durch Unordnung kontrollierter Kinetik" oder „Kriechverhalten" identifiziert, bei dem die Domänenwandgeschwindigkeit exponentiell vom inversen elektrischen Feld abhängt, was zu einer logarithmischen Zeitabhängigkeit führt. Dieses Ergebnis stimmt mit früheren Befunden in diesem Bereich überein, wurde hier jedoch ohne Vorab-Spezifikation der Modellklasse abgeleitet.
• Vorhersageleistung: Bei der Evaluation an zukünftigen Datenpunkten (erhoben nach der Modellauswahl) zeigten die vom LLM ausgewählten Modelle eine Vorhersagegenauigkeit, die mit den minimalen Verlustmodellen vergleichbar war, jedoch mit geringerer Varianz. Entscheidend ist, dass die vom LLM ausgewählten Modelle besser generalisierten als die rein durch Komplexität bestraften PySR-„best"-Modelle, die die Physik oft unterfitten.

Bedeutung und Behauptungen
Die Arbeit behauptet, einen Weg zur Integration von symbolischer Regression, physikalischem Schlussfolgern und adaptiver Experimentierung in hierarchische autonome wissenschaftliche Workflows zu ebnen. Der Hauptbeitrag ist der Nachweis, dass autonome Mikroskopie über die Optimierung innerhalb fester Suchräume hinausgehen kann, um interpretierbare physikalische Gesetze direkt aus Daten zu generieren.

Zu den wichtigsten Behauptungen gehören:

1. Offene Hypothesenentdeckung: Das Framework ermöglicht die Generierung von Kandidaten für physikalische Beziehungen, ohne auf eine vordefinierte Menge menschlich entworfener Modellklassen angewiesen zu sein.
2. Physikbewusstes Ranking: Der LLM-Evaluator unterscheidet erfolgreich zwischen statistisch effizienten, aber physikalisch unvollständigen Modellen und solchen, die interpretierbar und mit bekannten Mechanismen konsistent sind (z. B. Identifizierung des Kriechregimes).
3. Wissenspropagation: Die vom LLM bereitgestellte Begründung in natürlicher Sprache dient als übertragbares Wissensartefakt, das nachgelagerten Agenten ermöglicht zu verstehen, warum ein Modell ausgewählt wurde, anstatt nur eine numerische Punktzahl zu erhalten.
4. Validierung: Der Ansatz identifizierte erfolgreich ein kinetisches, kriechähnliches Domänenwand-Wachstumsgesetz in PZT, ein Ergebnis, das mit früheren Hypothesenlernstudien übereinstimmt, die auf vordefinierten Modellen beruhten, und validiert somit den Ansatz der „offenen" Generierung.

Die Autoren weisen darauf hin, dass die aktuelle Implementierung zwar symbolische Regression für analytische Formen verwendet, das breitere Framework jedoch so konzipiert ist, dass es in zukünftigen Iterationen numerische oder simulationsbasierte Modelle aufnehmen kann. Die Arbeit positioniert diese Methodik als einen Schritt hin zu autonomen Systemen, die aktiv am Entdeckungsprozess teilnehmen, anstatt lediglich vordefinierte Optimierungsaufgaben auszuführen.