💻 computer science

A Search‑Free Foundation Model for Symbolic Regression of Physical Laws

Il documento introduce PISR, un modello di base search-free che sfrutta un manifold formula-data a informazione fisica e allineamento contrastivo e il flow matching per recuperare rapidamente e accuratamente leggi fisiche interpretabili dai dati, superando i metodi esistenti sia in velocità che in accuratezza strutturale attraverso diversi benchmark scientifici e del mondo reale.

Autori originali: Chenxi He, Jingqiu Chen

Pubblicato 2026-07-28

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Chenxi He, Jingqiu Chen

Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere un detective che cerca di risolvere un mistero, ma invece di impronte digitali o calchi di scarpe, i tuoi indizi sono numeri. Nel mondo della scienza, esiste un tipo speciale di rompicapo chiamato "regressione simbolica". L'obiettivo non è solo prevedere cosa accadrà dopo (come un'app del meteo che ipotizza la pioggia), ma trovare la regola che spiega perché accade. Pensa a cercare di scoprire la ricetta segreta di una torta assaggiando solo le briciole. Vuoi scoprire l'esatta formula matematica — come $E=mc^2$ o le leggi della gravità — che la natura sta utilizzando.

Per molto tempo, i computer sono stati terribili in questo. Sono bravi a trovare schemi nei dati, ma spesso forniscono una risposta "scatola nera": una macchina complessa e illeggibile che funziona, ma che non racconta la storia. Altri metodi cercano di indovinare la ricetta lanciando migliaia di combinazioni casuali al muro per vedere cosa resta attaccato, ma questo è un processo lento, goffo e spesso si rompe quando i dati sono disordinati. La grande domanda che gli scienziati si sono posti è: possiamo costruire un computer che non si limiti a indovinare casualmente, ma che comprenda davvero la forma delle leggi scientifiche, così da poterle trovare rapidamente e correttamente, anche in presenza di dati reali e rumorosi?

È qui che entra in gioco una nuova invenzione chiamata PISR (Regressione Simbolica Informata dalla Fisica). Considera PISR non come un detective che cerca freneticamente in una biblioteca, ma come un maestro chef che ha memorizzato l'intera storia della cucina. I ricercatori dietro PISR hanno capito che le vere leggi fisiche non sono solo matematica casuale; esse vivono in un quartiere specifico e organizzato all'interno del vasto universo di tutte le possibili equazioni. Chiamano questo quartiere "varietà della formula" (formula manifold).

Invece di cercare la risposta ogni volta, PISR impara la "mappa" di questo quartiere. Utilizza un trucco astuto: si addestra su una vasta collezione di leggi note della fisica e della matematica, imparando a riconoscere la "vibrazione" o la "forma" di una vera legge. Quando gli fornisci un nuovo insieme di dati disordinati (come il movimento caotico del vento o l'orbita di una stella lontana), PISR non parte da zero. Proietta istantaneamente quei dati sulla sua mappa interna e chiede: "A cosa somiglia questo?". Poi utilizza due superpoteri per trovare la risposta:

Flow Matching (Corrispondenza di Flusso): Fa "scorrere" delicatamente il punto dati verso la legge nota più vicina sulla mappa, come un fiume che trova la strada verso l'oceano.
Retrieval (Recupero): Prende rapidamente i vicini più prossimi da una biblioteca di 400.000 formule reali che ha già studiato.

I risultati sono impressionanti. Nei test, PISR ha trovato la corretta struttura matematica per leggi fisiche nel 51,3% dei casi su un difficile set di problemi di fisica reale, superando tutti gli altri metodi. È stato anche circa 2,4 volte più veloce dei suoi migliori concorrenti. Ma la vera magia è avvenuta quando i ricercatori lo hanno testato su cose che non aveva mai visto prima. PISR ha recuperato con successo leggi famose da dati grezzi in campi diversi come la finanza, la biologia e l'astronomia, inclusi complessi modelli di turbolenza e la relazione tra la luminosità di una stella e la sua temperatura.

Fondamentalmente, il documento dimostra che PISR non sta solo memorizzando risposte. I ricercatori hanno provato che nel "cervello" del computer (il suo spazio matematico), le vere leggi scientifiche sono chiaramente separate dalla matematica casuale e priva di senso. È come avere una stanza dove tutte le leggi reali siedono in un cerchio ordinato e pulito, mentre il gergo casuale è disperso lontano. Poiché PISR sa che quel cerchio esiste, può ignorare il gergo e concentrarsi solo sui modelli significativi.

Tuttavia, questa non è una bacchetta magica che risolve tutto. Il documento avverte con cura che PISR è progettato per leggi "in forma chiusa" (closed-form) — equazioni che si possono scrivere su un foglio di carta. Attualmente non gestisce le equazioni che coinvolgono tassi di variazione nel tempo (come le equazioni differenziali) nello stesso modo. Inoltre, sebbene eccella nel trovare leggi che somigliano a formule scientifiche, fatica con problemi matematici astratti che non seguono le regole della fisica, perché ha imparato a ignorare quelle strutture "fuori dalla varietà" (off-manifold).

In breve, PISR rappresenta un passaggio dalla "ricerca a forza bruta" al "riconoscimento intelligente di schemi". Suggerisce che se insegniamo ai computer a comprendere la struttura sottostante di come l'universo scrive le sue regole, possiamo recuperare tali regole da dati disordinati molto più velocemente e accuratamente di quanto fatto in precedenza. I ricercatori hanno dimostato che le leggi scientifiche occupano un angolo speciale e strutturato dello spazio matematico e che, imparando a navigare in quell'angolo, possiamo riscoprire i segreti dell'universo con un singolo, rapido sguardo.

Sintesi Tecnica: Un Modello di Fondazione Search-Free per la Regressione Simbolica di Leggi Fisiche

1. Definizione del Problema

La Regressione Simbolica (SR) mira a recuperare leggi matematiche interpretabili e in forma chiusa da dati osservativi. Sebbene centrale per la scoperta scientifica, i metodi esistenti affrontano un compromesso fondamentale tra accuratezza e velocità:

I metodi basati sulla ricerca (es. Algoritmi Genetici, enumerazione parallela su GPU) sono accurati su dati puliti e a bassa dimensionalità, ma soffrono di elevati costi computazionali, fragilità su dati reali rumorosi e della necessità di esplorare nuovamente lo spazio combinatorio delle espressioni per ogni nuovo problema.
I metodi di deep learning end-to-end (es. transformer) offrono velocità, ma trattano tipicamente la SR come un compito di traduzione di sequenze. Essi imparano a modellare la distribuzione dei dati piuttosto che lo spazio sottostante delle formule, mancando di priori espliciti sulla struttura delle leggi fisiche. Di conseguenza, faticano a gestire lo spazio discreto, non lico e super-esponenzialmente crescente di espressioni richiesto per la vera scoperta fisica.

Il paper sostiene che gli attuali algoritmi basati sui dati non riescono a ragionare sulle relazioni strutturate della fisica reale perché non codificano un modello dello "spazio delle formule" che prevedono.

2. Metodologia: PISR (Physics-Informed Symbolic Regression)

Gli autori propongono PISR, un modello di fondazione search-free che inquadra la regressione simbolica come un problema di generazione all'interno di un manifold formula-data pre-addestrato e contrastivamente allineato. L'ipotesi centrale è che le vere leggi fisiche occupino un sub-manifold strutturato e a bassa complessità all'interno del vasto spazio di tutte le possibili espressioni, modellato dalla coerenza dimensionale e da ricorrenti motivi compositivi.

Architettura e Addestramento

Latent Manifold Condiviso: PISR impiega due encoder allineati tramite un obiettivo contrastivo simmetrico InfoNCE (stile CLIP):
1. Data Encoder ( $E_d$ ): Un encoder permutazione-invariante (pooled multi-head attention con 16 seed token appresi) che mappa i nuvole di punti $\{(x_i, y_i)\}$ in un vettore latente $z_d$ .
2. Formula Encoder ( $E_f$ ): Un encoder a grafo neurale che mappa l'albero della sintassi astratta (AST) di un'espressione in un vettore latente $z_f$ .
- Allineamento: Durante l'addestramento, una formula e i dati che essa genera vengono attratti verso punti vicini nello spazio latente ( $\mathbb{R}^{640}$ ), rendendo la prossimità un proxy per la relazione funzionale.
Supervisione Strutturale: Il modello è addestrato su un ampio corpus di fisica/matematica (33,6 milioni di espressioni) aumentato con un grafo di conoscenza fisica. Un termine di perdita strutturale ( $L_{struct}$ ) impone un prior fisico sulla struttura dell'espressione, utilizzando leggi genitrici, precondizioni ed edge del DAG di derivazione.
Scala del Modello: Il modello completo comprende circa 0,4 miliardi di parametri, inclusi gli encoder, un campo di flow-matching e un decoder.

Pipeline di Inferenza (Search-Free)

PISR opera in un singolo passaggio forward ammortizzato senza ricerca simbolica per istanza:

Generazione Latente: Un campo di flow-matching (stile DiT) trasporta il latente dei dati $z_d$ verso i latenti delle formule candidate.
Retrieval: Una libreria di 400.000 latenti di formule reali viene indicizzata. I $k$ -vicini più prossimi di $z_d$ vengono recuperati per fornire un complemento non parametrico ai candidati generati.
Decoding Condizionato: Un decoder autoregressivo renderizza sia i latenti generati dal flow che quelli recuperati in scheletri di espressione (token tipizzati), condizionati dalla rappresentazione dei dati.
Selezione: Le costanti libere delle espressioni candidate vengono adattate tramite minimi quadrati non lineari. I candidati sono classificati esclusivamente in base all'errore predittivo su dati non visti (non viene applicata alcuna penalità di complessità, poiché le leggi fisiche possono essere strutturalmente complesse). Viene restituita l'espressione con le prestazioni migliori.

3. Contributi Chiave e Risultati

L'Ipotesi del Formula-Manifold

Il paper fornisce prove empiriche che le formule fisiche reali sono linearmente separabili dalle espressioni casuali nello spazio latente appreso.

Separabilità: Un probe lineare raggiunge un ROC-AUC del 94,4% nel distinguere le leggi fisiche reali da espressioni casuali con struttura simile (controllando la frequenza degli operatori e la lunghezza).
Geometria: Le leggi reali formano una struttura ricca ed estesa (participation ratio 21,5) distinta dalle espressioni casuali (10,5), confermando che la "regione delle leggi" è definita da una grammatica compositiva piuttosto che essere semplicemente un sottoinsieme più piccolo.
Analisi Dimensionale: Questa separabilità è fondata sul teorema di Buckingham- $\pi$ , che restringe le leggi valide a gruppi adimensionali, scartando efficacemente la stragrande maggioranza delle espressioni sintatticamente valide ma fisicamente impossibili.

Performance nei Benchmark

PISR è stato valutato su tre benchmark contro quattro baseline: Genetic Programming (PySR), enumerazione parallela su GPU (PSE), un transformer specializzato nel dominio (PhyE2E) e SR generativa latente (GenSR).

Benchmark di Fisica Reale (797 task): PISR ha raggiunto il 51,32% di accuratezza strutturale, superando il secondo miglior modello (PySR) di 7,66 punti percentuali.
Generalizzazione Cross-Domain (270 task): PISR ha raggiunto il 71,11% di accuratezza, superando PySR di 15,93 punti. Ciò suggerisce che il modello ha appreso la struttura delle formule legge-simili piuttosto che solo la distribuzione della fisica, consentendo il trasferimento a finanza, economia e biologia.
Equazioni di Feynman (119 task): PISR ha raggiunto il 39,50% di accuratezza, superando la baseline di enumerazione su GPU di 6,73 punti.
Efficienza: PISI è circa 2,4 volte più veloce della programmazione genetica e 2,5 volte più veloce dell'enumerazione su GPU, richiedendo un singolo passaggio forward (~12,25s per task) rispetto alla ricerca iterativa delle baseline.

Recupero di Leggi Complesse

PISR ha recuperato unicamente leggi nominate da dati grezzi dove tutte le baseline hanno fallito, particolarmente in casi riguardanti:

Funzioni trascendenti: Identificazione corretta di forme esponenziali o logaritmiche dove le baseline hanno sostituito con surrogati algebrici (es. potenze annidate o approssimazioni razionali).
Esponenti variabili: Recupero di forme con esponenti variabili (es. $x^n$ ) dove i transformer hanno sostituito con esponenti fissi.
Domini Specifici: Recupero con successo della legge dei due terzi di Kolmogorov dai dati di turbolenza, della relazione di Stefan-Boltzmann dai cataloghi stellari, e della chiusura dello stress di Reynolds (ottenendo $R^2 \approx 0,99$ dove i modelli classici fallivano).

4. Significato e Rivendicazioni

Il paper sostiene che PISR rappresenti un cambio di paradigma dalla "ricerca" di leggi alla loro "generazione" all'interno di un manifold informato dalla fisica.

Bias Induttivo: Specializzandosi nel manifold delle formule simili a leggi, il modello raggiunge un'accuratezza allo stato dell'arte sui dati scientifici reali evitando al contempo la regione "senza struttura" degli spazi di espressione astratti dove le sue prestazioni sono scarse (una caratteristica, non un difetto, del suo design).
Generalizzazione: Il modello dimostra che un singolo modello di fondazione addestrato sulla fisica può generalizzare a domini scientifici non fisici (es. economia, biologia) perché questi domini condividono la stessa "grammatica compositiva" delle leggi scientifiche.
Scalabilità: L'architettura search-free rende computazionalmente fattibile tentare la generazione e la validazione di ipotesi su larga scala per problemi di chiusura aperti (es. modellazione della turbolenza), spostando il campo dal recupero di leggi note alla proposta di nuove leggi.

Gli autori sottolineano che il successo del modello risiede nell'ipotesi che le leggi scientifiche non siano elementi arbitrari dello spazio delle espressioni, ma occupino un sub-manifold strutturato definito dalla coerenza dimensionale e dai motivi fisici. Tale prior è decisivo per gestire i dati rumorosi e dimensionalmente strutturati tipici della scienza reale.