LLM-Guided Open Hypothesis Learning from Autonomous Scanning Probe Microscopy Experiments

Questo lavoro presenta un framework autonomo di microscopia a sonda di scansione che integra la regressione simbolica con modelli linguistici di grandi dimensioni per generare e valutare nuove ipotesi fisiche a partire da dati sperimentali sparsi, scoprendo con successo leggi di crescita interpretabili tensione-tempo per la commutazione dei domini ferroelettrici senza modelli predefiniti.

L'essenziale

Immagina uno scienziato che lavora in un laboratorio con un microscopio superpotente. In passato, questo scienziato avrebbe dovuto decidere esattamente cosa misurare, eseguire il test, osservare i risultati e poi decidere cosa fare dopo. Questo processo è lento e si affida pesantemente all'intuizione dello stesso scienziato.

Negli ultimi anni, gli scienziati hanno costruito laboratori "autonomi". Questi sono come le auto a guida autonoma per la scienza: il computer controlla il microscopio, esegue esperimenti e modifica le impostazioni per trovare i migliori risultati il più rapidamente possibile. Tuttavia, c'è un problema: questi laboratori autonomi sono solitamente molto bravi nell'ottimizzare (trovare la migliore impostazione) ma terribili nel scoprire nuove leggi. Possono dirti "questo voltaggio produce il punto più grande", ma non possono dirti perché né scrivere una nuova regola della fisica che lo spieghi. Rimangono intrappolati in una scatola di idee fornita dal programmatore umano.

Questo articolo presenta un nuovo sistema che esce da quella scatola. Insegna al computer non solo a trovare la migliore risposta, ma a inventare nuove teorie basandosi su ciò che osserva.

Ecco come funziona il sistema, utilizzando un'analogia semplice:

Il Sistema a Due Cervelli

Immagina questo nuovo sistema come una squadra di due robot molto diversi che lavorano insieme a un puzzle.

1. Il "Rilevatore di Pattern" (Regressione Simbolica)
Immagina un robot incredibilmente bravo in matematica ma privo di buon senso. Gli dai alcuni punti dati sparsi (come pochi punti su un grafico) e inizia a urlare migliaia di diverse formule matematiche che potrebbero collegare quei punti.

• Cosa fa: Genera ipotesi folli come "La dimensione del punto è uguale al voltaggio moltiplicato per la radice quadrata del tempo" oppure "La dimensione è uguale al voltaggio più un numero casuale".
• Il Problema: Poiché non ha buon senso, potrebbe suggerire formule matematicamente perfette ma fisicamente impossibili (come dire che un punto diventa più piccolo quando si aumenta la potenza). È come uno studente che ha memorizzato un libro di testo di matematica ma non capisce come funziona il mondo reale.

2. Il "Professore di Fisica" (Il Modello Linguistico di Grande Dimensione)
Ora, immagina un secondo robot che è un professore di fisica superintelligente. Questo robot ha letto ogni libro di fisica mai scritto. Non fa i calcoli da solo; invece, agisce come un giudice.

• Cosa fa: Esamina le migliaia di formule folli generate dal "Rilevatore di Pattern" e dice: "Aspetta un attimo. Quella formula dice che il punto cresce all'indietro nel tempo? È impossibile. Scartala".
• La Magia: Classifica le formule in base alla loro coerenza con il mondo reale. Sceglie quelle che seguono le regole della fisica (come "i punti dovrebbero diventare più grandi con più voltaggio") e spiega perché sono buone.

L'Esperimento: Crescita di Piccole Bolle Elettriche

Per testare questo sistema, i ricercatori hanno utilizzato un microscopio speciale per colpire un minuscolo pezzo di materiale chiamato PZT (un tipo di ceramica che trattiene una carica elettrica). Quando lo colpiscono con l'elettricità, cresce una minuscola "bolla" di carica commutata.

• L'Obiettivo: Volevano trovare la regola che spiega quanto diventa grande quella bolla in base a quanto tempo la colpiscono e con quanta forza la colpiscono.
• Il Processo:
  1. Inizio: Hanno iniziato con solo cinque ipotesi casuali (cinque diverse impostazioni di impatto).
  2. Il Ciclo:
     • Il "Rilevatore di Pattern" ha esaminato i cinque risultati e ha scritto 50 possibili regole matematiche.
     • Il "Professore di Fisica" le ha lette, ha assegnato loro dei punteggi e ha scelto la migliore.
     • Il computer ha quindi utilizzato quella regola migliore per decidere dove colpire successivamente per imparare di più.
     • Hanno ripetuto questo processo 10 volte, aggiungendo più dati in ogni turno.

Il Risultato: Dal Tentativo alla Comprensione

All'inizio, il "Rilevatore di Pattern" era confuso. Suggeriva regole assurde, come "La dimensione della bolla dipende solo dal tempo, non dal voltaggio". Il "Professore di Fisica" assegnava a queste punteggi bassi e diceva: "No, questo non ha senso".

Mentre l'esperimento proseguiva e il computer raccoglieva più dati, il "Rilevatore di Pattern" ha iniziato a suggerire regole più intelligenti. Infine, il "Professore di Fisica" ha scelto un vincitore: una regola che diceva che la bolla cresce in base sia al voltaggio che al tempo, seguendo specificamente un pattern in cui la crescita rallenta nel tempo (come un movimento di "scorrimento" o creep).

Perché è una cosa importante?
Negli esperimenti precedenti, gli scienziati dovevano dire al computer: "Ecco tre possibili regole; scegli la migliore". Il computer sceglieva semplicemente dalla lista.
In questo nuovo esperimento, il computer ha creato la regola stessa dai dati, e il "Professore di Fisica" ha confermato che era reale. Il sistema non ha solo trovato la migliore impostazione; ha scoperto un nuovo modo per descrivere come si comporta il materiale.

La Conclusione

Questo articolo mostra un modo per trasformare la scienza autonoma da un "motore di ricerca" (che trova solo la migliore risposta in una lista) a uno "scienziato" (che può scrivere nuove leggi della fisica). Combinando un bot matematico che genera idee con un bot AI che verifica se quelle idee hanno senso, il sistema può imparare regole fisiche complesse da solo, partendo da quasi nulla.

Sommario tecnico

Sintesi Tecnica: Apprendimento di Ipotesi Aperte Guidato da LLM da Esperimenti di Microscopia a Sonda di Scansione Autonomi

Enunciato del Problema
La sperimentazione autonoma si è affermata come un paradigma per l'ottimizzazione in ciclo chiuso nella microscopia e nella scienza dei materiali, utilizzando principalmente l'ottimizzazione bayesiana (BO) per regolare i parametri strumentali o scoprire relazioni struttura-proprietà all'interno di spazi di ricerca fissi. Tuttavia, i flussi di lavoro attuali sono fondamentalmente limitati dalla loro dipendenza da funzioni obiettivo e spazi di ipotesi predefiniti. Sebbene questi sistemi convergano efficientemente verso ottimi all'interno di modelli specificati dall'uomo, mancano del meccanismo per generare nuove leggi fisiche o interpretare dati sperimentali attraverso la generazione di ipotesi aperte. Gli approcci esistenti di "apprendimento di ipotesi" selezionano tipicamente tra un insieme predefinito di modelli progettati dall'uomo, piuttosto che derivare relazioni direttamente dai dati. Ciò crea un divario nei sistemi autonomi gerarchici in cui la conoscenza interpretabile deve essere generata, valutata e propagata attraverso livelli decisionali senza essere vincolata da classi di modelli umani preesistenti.

Metodologia
Gli autori propongono un framework di "apprendimento di ipotesi aperte" che integra la regressione simbolica con la valutazione fisica basata su Modelli Linguistici di Grande Dimensione (LLM) per passare dall'ottimizzazione in ciclo chiuso alla scoperta di ipotesi aperte. Il flusso di lavoro è composto da tre componenti fondamentali:

1. Regressione Simbolica per la Generazione di Ipotesi:
   Invece di adattare parametri all'interno di una struttura di modello fissa, il sistema impiega la regressione simbolica (utilizzando la libreria PySR) per cercare direttamente lo spazio delle espressioni matematiche. Dati dati sperimentali sparsi, questo modulo genera una frontiera di Pareto di espressioni analitiche candidate che bilanciano l'accuratezza predittiva (perdita) con la complessità del modello. Questo processo è puramente guidato dai dati, producendo equazioni candidate esplicite senza incorporare vincoli fisici durante la fase di generazione.

2. Valutazione Fisica Basata su LLM:
   Per affrontare il limite secondo cui le espressioni statisticamente ottimali possono mancare di validità fisica, il framework introduce un valutatore LLM strutturato. All'LLM vengono fornite le equazioni candidate, le definizioni delle variabili e un riassunto ricco di contesto dei principi fisici consolidati (in particolare riguardo alla crescita dei domini ferroelettrici, generato tramite una pipeline di ricerca approfondita). L'LLM agisce come validatore piuttosto che come generatore, assegnando un punteggio ai candidati basandosi su:

   • Non banalità: Dipendenza da variabili rilevanti (ad esempio, sia tensione che tempo).
   • Monotonia: Coerenza con le tendenze attese.
   • Comportamento di Scala: Allineamento con regimi noti (ad esempio, equilibrio termodinamico, crescita cinetica, creep).
   • Patologia: Assenza di singolarità o divergenze non fisiche.
     L'output include un punteggio quantitativo di plausibilità e una traccia di ragionamento in linguaggio naturale che spiega la valutazione.

3. Progettazione Sperimentale Adattiva:
   L'ipotesi selezionata guida il prossimo passo sperimentale. Il sistema calcola i residui tra il modello selezionato e i dati sperimentali. Un Processo Gaussiano (GP) viene addestrato su questi residui per modellare l'incertezza. Quindi, l'Ottimizzazione Bayesiana (BO) con una funzione di acquisizione Upper Confidence Bound (UCB) viene applicata al modello dei residui per selezionare nuove condizioni di misura. Questo mira a regioni in cui l'ipotesi corrente è incompleta, affinando iterativamente il modello.

Implementazione Sperimentale
Il framework è stato dimostrato su esperimenti di Microscopia a Forza di Piezo-risposta (PFM) autonomi che indagano l'inversione dei domini ferroelettrici in un film sottile di titanato di zirconato di piombo (PZT).

• Configurazione: Impulsi di tensione (1–10 V) con durate variabili (0,01–10 s) sono stati applicati a una posizione fissa per indurre l'inversione dei domini. La dimensione risultante del dominio (raggio effettivo) è stata misurata tramite DART-PFM.
• Processo: L'esperimento è iniziato con cinque misurazioni casuali di partenza. In 10 cicli iterativi, il sistema ha acquisito 5 nuovi punti dati per ciclo basandosi sulla strategia BO guidata dai residui, risultando in un totale di 55 misurazioni.
• Valutazione: I modelli candidati sono stati classificati dall'LLM utilizzando un prompt ingegnerizzato per imporre regole fisiche (ad esempio, richiedendo la dipendenza sia da $V$ che da $t$).

Risultati Chiave

• Evoluzione delle Ipotesi: Partendo da cinque punti di partenza, la regressione simbolica ha inizialmente prodotto modelli banali o fisicamente incompleti (ad esempio, dipendenze costanti o a singola variabile). Mentre il set di dati cresceva attraverso il campionamento adattivo, lo spazio delle ipotesi è evoluto per includere espressioni accoppiate tensione-tempo.
• Confronto dei Criteri di Selezione:
  • Selezione Guidata dai Dati: Il criterio standard "migliore" di PySR (che bilancia perdita e complessità) ha favorito un modello lineare semplice solo in tensione ($r \propto V$) nelle iterazioni successive perché offriva un rapporto favorevole tra perdita e complessità, nonostante trascurasse la dipendenza dal tempo critica per la crescita a tempo finito.
  • Selezione Guidata dall'LLM: Il valutatore LLM ha respinto il modello solo in tensione per violazione della regola di "non banalità" (mancanza di dipendenza dal tempo). Ha selezionato un modello della forma $r = V(0,000786 \log t + 0,00781)$.
• Coerenza Fisica: Il modello selezionato dall'LLM è stato identificato come coerente con la "cinetica controllata dal disordine" o il "comportamento di creep", dove la velocità della parete di dominio dipende esponenzialmente dall'inverso del campo elettrico, portando a una dipendenza logaritmica dal tempo. Questo risultato si allinea con le scoperte precedenti nel campo, ma è stato derivato qui senza pre-specificare la classe di modelli.
• Prestazioni Predittive: Quando valutato su punti dati futuri (acquisiti dopo la selezione del modello), i modelli selezionati dall'LLM hanno dimostrato un'accuratezza predittiva paragonabile a quella dei modelli a perdita minima, ma con una varianza inferiore. Crucialmente, i modelli selezionati dall'LLM si sono generalizzati meglio dei modelli "migliori" di PySR penalizzati esclusivamente per la complessità, che spesso sottostimavano la fisica.

Significato e Affermazioni
Il documento afferma di stabilire una via per integrare la regressione simbolica, il ragionamento fisico e la sperimentazione adattiva nei flussi di lavoro scientifici autonomi gerarchici. Il contributo principale è la dimostrazione che la microscopia autonoma può andare oltre l'ottimizzazione all'interno di spazi di ricerca fissi per generare leggi fisiche interpretabili direttamente dai dati.

Le affermazioni chiave includono:

1. Scoperta di Ipotesi Aperte: Il framework permette la generazione di relazioni fisiche candidate senza fare affidamento su un insieme predefinito di classi di modelli progettati dall'uomo.
2. Classificazione Consapevole della Fisica: Il valutatore LLM distingue con successo tra modelli statisticamente efficienti ma fisicamente incompleti e quelli interpretabili e coerenti con meccanismi noti (ad esempio, identificando il regime di creep).
3. Propagazione della Conoscenza: Il ragionamento in linguaggio naturale fornito dall'LLM funge da artefatto di conoscenza trasferibile, permettendo agli agenti a valle di comprendere perché un modello è stato selezionato, piuttosto che ricevere solo un punteggio numerico.
4. Validazione: L'approccio ha identificato con successo una legge di crescita delle pareti di dominio cinetica, simile al creep, nel PZT, un risultato coerente con precedenti studi di apprendimento di ipotesi che si basavano su modelli predefiniti, validando così l'approccio di generazione "aperta".

Gli autori notano che, sebbene l'implementazione attuale utilizzi la regressione simbolica per forme analitiche, il framework più ampio è progettato per ospitare modelli numerici o basati su simulazioni nelle iterazioni future. Il lavoro posiziona questa metodologia come un passo verso sistemi autonomi che partecipano attivamente al processo di scoperta piuttosto che limitarsi a eseguire compiti di ottimizzazione predefiniti.