Sintesi Tecnica: Scoperta di Equazioni Scientifiche basata su LLM tramite l'Ottimizzazione della Policy con Regolarizzazione dei Token Informata dalla Fisica

1. Definizione del Problema

La Regressione Simbolica (SR) mira a distillare equazioni matematiche interpretabili da dati osservativi, fungendo da pietra angolare per la scoperta di leggi fisiche. Sebbene approcci recenti sfruttino i Large Language Models (LLM) per generare ipotesi di equazioni capitalizzando sui priori scientifici pre-addestrati, gli attuali framework soffrono di due criticità fondamentali:

1. Generazione Statica: Gli approcci attuali trattano gli LLM come generatori statici, affidandosi alla guida a livello di prompt (in-context learning) per guidare la ricerca evolutiva. Questo paradigma non riesce ad aggiornare le rappresentazioni interne del modello basandosi sul feedback della ricerca, impedendo al modello di interiorizzare i segnali di valutazione o di adattare la propria strategia di generazione a strutture di problemi specifici.
2. Ricerca Agnostica rispetto alla Fisica: I framework esistenti spesso danno priorità alla correttezza sintattica rispetto alla validità fisica. Senza vincoli rigorosi, gli LLM producono frequentemente equazioni che si adattano ai dati numericamente ma violano principi fisici fondamentali (ad esempio, l'omogeneità dimensionale) o contengono strutture matematicamente ridondanti, portando all'overfitting e all'inutilizzabilità pratica.

La sfida è trasformare l'LLM da un propositore statico a un generatore adattivo capace di allineare dinamicamente la propria distribuzione generativa con le caratteristiche strutturali e fisiche del sistema target.

2. Metodologia: PiT-PO

Gli autori propongono PiT-PO (Physics-informed Token-Regularized Policy Optimization), un framework unificato che unisce l'esplorazione evolutiva guidata da LLM con una rigorosa verifica. Il framework opera attraverso un processo evolutivo a ciclo chiuso guidato da due meccanismi sinergici:

2.1 Evoluzione dell'LLM in fase di Ricerca (In-Search)

A differenza degli approcci standard che mantengono l'LLM congelato, PiT-PO impiega la Group Relative Policy Optimization (GRPO) per aggiornare i parametri dell'LLM durante la ricerca evolutiva.

• Meccanismo: L'LLM è trattato come una policy $\pi_\theta$ che genera sequenze di token. La GRPO campiona un gruppo di output, li valuta e aggiorna i parametri della policy per massimizzare una funzione di perdita surrogata.
• Vantaggio: Questo fine-tuning "in-search" permette al modello di consolidare pattern simbolici efficaci e guidare l'esplorazione successiva in modo più efficiente, trasformando i priori scientifici generali in competenza specifica del dominio "al volo".

2.2 Segnali di Apprendimento a Doppio Vincolo

Per garantire che le equazioni generate siano sia scientificamente valide che strutturalmente parsimoniose, PiT-PO introduce un meccanismo a doppio vincolo che genera feedback granulari a livello di token.

A. Vincoli Fisici Gerarchici

Un sistema di ricompensa impone la validità scientifica attraverso un filtro gerarchico:

• Vincoli di Livello Generale: Penalità per l'Omogeneità Dimensionale ($P_{dim}$) e la Differenziabilità ($P_{diff}$) per eliminare strutture fisicamente impossibili (es. mismatch di unità).
• Vincoli Specifici del Dominio: La conoscenza esperta viene iniettata come bias induttivi. Per la modellazione della turbolenza, ciò include vincoli sulla Realizzabilità (autovalori positivi dello stress di Reynolds), la Consistenza delle Condizioni al Contorno (decadimento dello stress alle pareti), la Scalatura Asintotica (scaling cubico nei sottostrati viscosi) e la Consistenza dell'Energia.
• Attivazione a Gate: Le penalità fisiche vengono attivate solo dopo che un'equazione candidata raggiunge una soglia base di accuratezza di fitting, permettendo un'esplorazione "libera" nelle fasi iniziali prima di imporre una conformità rigorosa.

B. Vincoli Matematici Guidati dai Teoremi

Per affrontare la ridondanza matematica, gli autori introducono il Teorema di Esclusione del Supporto.

• Teoria: Questo teorema fornisce una garanzia teorica per identificare scoperte false (termini ridondanti) basandosi sull'entità dei coefficienti adattati rispetto all'interferenza interna ed esterna di altre funzioni di base.
• Penalità a Livello di Token: Se un termine viene identificato come ridondante (la sua entità di coefficiente scende al di sotto di una soglia derivata), viene applicata una penalità a livello di token ($P_{tok}$) ai token specifici che costituiscono tale termine. Questa penalità è logaritmica, imponendo penalità più forti sui termini con coefficienti minori.

2.3 Aggiornamento della Policy Consapevole dei Token

La GRPO standard assegna un vantaggio uniforme a tutti i token in una sequenza. PiT-PO affina questo processo sintetizzando la ricompensa globale con la penalità a livello di token.

• Vantaggio Consapevole del Token ($\hat{A}_{i,k}$): Il vantaggio per il $k$-esimo token è calcolato standardizzando la ricompensa globale e sottraendo la penalità locale del token se il token appartiene a un termine ridondante.
• Effetto: Questo crea un panorama a "doppia pressione" dove le ricompense globali guidano la policy verso equazioni fisicamente coerenti, mentre le penalità locali estirpano chirurgicamente i termini ridondanti, assicurando che la policy impari a sopprimere esplicitamente le strutture teoricamente ridondanti.

2.4 Pipeline di Addestramento

Il framework utilizza una topologia multi-isola per prevenire la convergenza prematura:

1. Esplorazione Basata su Isole: Molteplici isole isolate evolvono diverse linee di discendenza di equazioni per mantenere la diversità della ricerca.
2. Evoluzione In-Search: Le traiettorie da tutte le isole vengono aggregate per eseguire l'ottimizzazione della policy utilizzando LoRA (Low-Rank Adaptation) per l'efficienza.
3. Selezione Gerarchica: Un meccanismo di sopravvivenza del più adatto mantiene i candidati con le migliori prestazioni e resetta le isole con scarse prestazioni con semi ad alta fitness.

3. Risultati Chiave

3.1 Prestazioni nei Benchmark

PiT-PO è stato valutato sul LLM-SR Suite e LLM-SRBench contro i migliori modelli di riferimento (inclusi GPlearn, PySR, uDSR, RAG-SR, e LLM-SR).

• Accuratezza: PiT-PO ha raggiunto prestazioni allo stato dell'arte, recuperando il maggior numero di equazioni reali (ground-truth). Sull'LLM-SR Suite, ha ottenuto il 100% di accuratezza su Oscillation 1 e il 99,99% su Oscillation 2 (usando il backbone 8B). Ha superato significativamente i baseline su E. coli Growth e ha ottenuto risultati competitivi su Stress-Strain, sebbene non abbia superato il baseline 4o-mini in quest'ultimo caso.
• Accuratezza Simbolica: Su LLM-SRBench (239 task), PiT-PO ha ottenuto la più alta Accuratezza Simbolica (SA) in tutte le categorie (Chimica, Biologia, Fisica, Scienza dei Materiali), dimostrando una capacità superiore di recuperare la corretta forma simbolica piuttosto che limitarsi a un fitting numerico.
• Efficienza: PiT-PO ha dimostrato una convergenza più rapida e la capacità di uscire da regimi di stagnazione dove i metodi baseline (come LLM-SR) si assestavano su valori di MSE bassi ma con strutture errate.

3.2 Potenziamento dei Modelli Piccoli

Un risultato significativo è che PiT-PO consente a modelli open-source di piccola scala di competere o superare modelli chiusi di grandi dimensioni in contesti specifici.

• Utilizzando un modello Llama-3.2-1B quantizzato, PiT-PO ha ottenuto prestazioni competitive o superiori a LLM-SR usando Mixtral 8x7B e 4o-mini nei task di Oscillation e E. coli Growth. Tuttavia, sul task Stress-Strain, il modello 1B (76,91% di accuratezza) è stato inferiore al baseline 4o-mini (85,33%), indicando che, sebbene il framework colmi significativamente il divario di capacità, non supera universalmente tutti i giganti proprietari in ogni metrica.
• Ciò suggerisce che l'ottimizzazione della policy in-search potenzia efficacementamente i modelli piccoli, democratizzando l'accesso a strumenti di scoperta scientifica ad alte prestazioni su hardware di consumo, specialmente per task dove la scoperta strutturale è fondamentale.

3.3 Applicazione nel Mondo Reale: Modellazione della Turbolenza

Il framework è stato applicato per scoprire relazioni costitutive non lineari per l'anisotropia dello stress di Reynolds in Flusso su Colline Periodiche.

• Prestazioni: Il modello scoperto ha migliorato gli approcci RANS tradizionali (specificamente il modello $k-\omega$ SST) producendo stress di Reynolds anisotropi più vicini ai riferimenti DNS (Direct Numerical Simulation).
• Fedeltà Fisica: Il modello appreso ha mostrato una maggiore consistenza fisica, riducendo gli estremi non fisici e fornendo previsioni più accurate delle bolle di separazione del flusso e dei coefficienti di attrito superficiale rispetto ai modelli RANS standard e ad altri metodi basati su SR.

3.4 Studi di Ablazione

Gli studi di ablazione hanno confermato la necessità di entrambi i componenti:

• Rimuovendo i vincoli fisici (senza Phy), si è verificato un deterioramento sostanziale in NMSE e generalizzazione.
• Rimuovendo la regolarizzazione dei token (senza TokenReg), si è osservata la persistenza di termini ridondanti e un maggiore divario di generalizzazione tra i dati In-Distribution (ID) e Out-Of-Distribution (OOD).

4. Significato e Rivendicazioni

Il paper sostiene che PiT-PO sposta fondamentalmente il ruolo degli LLM nella scoperta scientifica da propositori statici a generatori adattivi e consapevoli della fisica.

• Consistenza Scientifica: Integrando vincoli fisici gerarchici e regolarizzazione dei token guidata dai teoremi, PiT-PO allinea la generazione con la fitness numerica, la consistenza scientifica e la parsimonia simultaneamente.
• Democratizzazione: La capacità di PiT-PO di potenziare modelli piccoli (es. 1 miliardo di parametri) per competere con i giganti closed-source in task chiave di scoperta stabilisce una metodologia pratica per la scoperta scientifica automatizzata che non dipende da enormi risorse computazionali o API proprietarie, sebbene le prestazioni varino in base alla complessità del task.
• Utilità Pratica: Il successo dell'applicazione alla modellazione della turbolenza dimostra che le correzioni simboliche scoperte hanno un valore tangibile nei flussi di lavoro ingegneristici reali, migliorando le previsioni del campo di moto oltre quanto possibile con i modelli lineari standard.

Gli autori concludono che questo approccio stabilisce un nuovo stato dell'arte per i benchmark di SR e offre una robusta via per integrare la conoscenza fisica specifica del dominio nelle dinamiche di apprendimento degli LLM.