⚛️ fenomenologia

Faithful Uncertainties in ML-Based Inverse Problems: GPs, NNs and NTKs for the Triplet PDF

Questo articolo dimostra che nei problemi inversi basati sull'apprendimento automatico per la ricostruzione delle funzioni di distribuzione dei partoni, metodi con previsioni centrali simili possono produrre stime di incertezza vastamente differenti, evidenziando l'importanza critica dell'incorporazione della covarianza sperimentale completa, di prior funzionali appropriati e di rigorosi test di chiusura per garantire una calibrazione fedele dell'incertezza.

Autori originali: Nina Elmer, Sven Krippendorf, Maria Ubiali

Pubblicato 2026-10-23

📖 5 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Nina Elmer, Sven Krippendorf, Maria Ubiali

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Nel mondo ad alta posta della fisica delle particelle, gli scienziati non si limitano a osservare i mattoni fondamentali dell'universo; devono ricostruirli dalle ombre che proiettano. Quando i protoni si scontrano a velocità immense, producono un torrente di detriti, ma le particelle fondamentali all'interno del protone — i quark e i gluoni — rimangono nascoste. Per comprendere la struttura del protone, i ricercatori devono lavorare a ritroso dai dati disordinati e rumorosi di queste collisioni per dedurre la mappa invisibile di come il momento sia condiviso tra i costituenti del protone. Questo è noto come un problema inverso, un enigma matematico in cui la risposta non è univoca e i dati sono imperfetti. La sfida non è solo trovare la mappa più probabile, ma sapere quanta fiducia attribuirle. Se la mappa è errata, le previsioni per futuri esperimenti presso strutture come il Large Hadron Collider potrebbero essere fuorvianti. Per anni, i fisici si sono affidati a complessi metodi statistici per tracciare queste mappe, ma con l'ingresso dell'apprendimento automatico nel campo, è emersa una nuova domanda: questi potenti algoritmi possono dirci non solo che aspetto ha la mappa, ma quanto sono incerti su di essa?

Un team di ricercatori dell'Università di Cambridge ha affrontato questa questione sottoponendo tre diversi approcci di apprendimento automatico a un test in un ambiente controllato. Si sono concentrati su una versione specifica e semplificata dell'enigma del protone: la ricostruzione della distribuzione di una particolare combinazione di quark, nota come distribuzione del tripletto, utilizzando i dati di un esperimento storico chiamato BCDMS. Per garantire di poter giudicare i risultati in modo equo, non hanno utilizzato dati sperimentali reali, che non hanno una risposta "vera" nota. Al contrario, hanno creato una simulazione in cui conoscevano preventivamente l'esatta verità sottostante. Hanno generato punti dati fittizi che imitavano le misurazioni reali, completi di errori e correlazioni realistiche, e poi hanno chiesto a tre diversi sistemi di apprendimento automatico di recuperare la mappa originale. I sistemi confrontati erano i processi gaussiani, modelli statistici noti per la loro capacità di quantificare l'incertezza; le reti neurali, i motori di deep learning alla base di molte innovazioni dell'IA moderna; e un metodo più recente chiamato kernel tangente neurale (neural tangent kernel), che tenta di descrivere come le reti neurali apprendano.

I ricercatori hanno scoperto che, sebbene tutti e tre i metodi potessero produrre una mappa centrale molto simile alla verità, la loro fiducia in tale mappa variava enormemente. Si è rivelato che ottenere la risposta media corretta non fosse sufficiente; il test cruciale era se l'incertezza stimata corrisponcesse agli errori effettivi. Lo studio ha rivelato che il modo in cui un modello di apprendimento automatico gestisce gli errori noti nei dati è il fattore più importante per produrre una stima dell'incertezza affidabile. I modelli che ignoravano le complesse correlazioni tra i diversi punti dati, o quelli che cercavano di apprendere gli errori da zero senza essere istruiti sulla loro struttura, producevano bande di confidenza che erano o troppo strette o fuorviantiamente ampie. Solo i modelli che tenevano esplicitamente conto della struttura completa degli errori sperimentali, inclusa la modalità secondo cui l'errore di una misurazione potrebbe essere legato a un'altra, sono riusciti a produrre stime dell'incertezza statisticamente oneste.

Forse il reperto più sorprendente riguardava il comportamento di questi modelli nelle regioni in cui non esistevano dati. Nel mondo reale, i fisici devono spesso ipotizzare il comportamento delle particelle a livelli di energia o distanze che non hanno mai misurato direttamente. Lo studio ha mostrato che, in queste zone vuote, i modelli di apprendimento automatico non si limitavano a estrapolare in base ai dati che avevano visto. Al contrario, le loro ipotesi erano pesantemente dettate dagli assunti matematici incorporati prima ancora che iniziasse l'addestramento. Questi assunti, noti come "prior", agivano come una mano invisibile che guidava le previsioni del modello. Quando i ricercatori hanno cambiato questi assunti iniziali, le previsioni dei modelli nelle regioni non misurate sono cambiate drasticamente, anche se le loro prestazioni nelle regioni misurate rimanevano identiche. Ciò significa che l'incertezza riportata da un modello di apprendimento automatico in una regione inesplorata non è un riflesso puro dei dati, ma un'affermazione condizionale che dipende interamente dalle specifiche regole matematiche a cui il modello è stato sottoposto.

Il team ha anche testato una tecnica più recente che coinvolge i kernel tangente neurali, progettati per colmare il divario tra le reti neurali e i modelli statistici tradizionali. Hanno scoperto che la tempistica dell'analisi contava immensamente. Se valutavano l'incertezza del modello all'inizio del suo addestramento, prima che avesse appreso qualsiasi cosa dai dati, l'incertezza risultante era pericolosamente piccola e completamente inattendibile. Solo dopo che la rete era stata addestrata per un numero significativo di passi, le stime dell'incertezza diventavano affidabili. Ciò suggerisce che, affinché questi metodi avanzati siano utili in fisica, non possono essere trattati come strumenti statici; il loro stato interno deve essere monitorato e valutato nella fase corretta dell'apprendimento.

In definitiva, lo studio funge da avvertimento vitale e da guida per il futuro della ricerca fisica. Dimostra che un modello di apprendimento automatico può apparire perfetto in superficie, ricostruendo i dati noti con alta precisione, pur fallendo nel fornire una misura fedele della propria ignoranza. I ricercatori hanno concluso che, per fidarsi di questi strumenti, gli scienziati devono andare oltre il semplice controllo se la previsione centrale sia corretta. Devono testare rigorosamente se le loro bande di incertezza coprano effettivamente la verità, utilizzando metodi che tengano conto delle complesse correlazioni nei dati del mondo reale. Senza questi controlli accurati, i potenti nuovi strumenti dell'intelligenza artificiale potrebbero fornire risposte precise ma pericolosamente fuorvianti, specialmente quando sono chiamati ad avventurarsi nell'ignoto. La strada da seguire richiede un matrimonio tra la potenza dell'apprendimento automatico e la rigorosa disciplina statistica della fisica tradizionale, assicurando che, quando guardiamo le ombre del mondo subatomico, sappiamo esattamente quanta parte dell'immagine sia reale e quanta sia un'ipotesi.

Sintesi Tecnica: Incertezze Fedeli nei Problemi Inversi basati su ML

Enunciato del Problema
Questo articolo affronta la sfida critica della quantificazione dell'incertezza (UQ) nei problemi inversi basati sul machine learning (ML), specificamente nel contesto delle determinazioni delle Funzioni di Distribuzione dei Partoni (PDF) nell'ambito della fisica delle alte energie. Gli autori si concentrano sulla ricostruzione della funzione non singoletto tripletto PDF, $T_3(x, Q_0^2)$ , dalle funzioni strutturali di DIS (deep-inelastic scattering) misurate dall'esperimento BCDMS. Questo funge da banco di prova controllato per i fit globali delle PDF, dove l'obiettivo è ricostruire una funzione continua da un insieme finito e rumoroso di misurazioni indirette. Il problema centrale è che, sebbene molti metodi ML possano produrre valori centrali accurati, le loro stime di incertezza associate spesso mancano di "fedeltà" — ovvero, le incertezze riportate non si allineano statisticamente con la deviazione reale dalla funzione sottostante vera. Ciò è particolarmente critico nelle regioni di estrapolazione (ad esempio, piccoli- $x$ ) dove i dati sono assenti, e nelle regioni con incertezze sperimentali correlate.

Metodologia
Lo studio impiega un framework di closure-test, in cui i pseudo-dati sono generati da una "verità" nota (il valore centrale dell'analisi globale NNPDF4.0) con incertezze sperimentali correlate e realistiche. Ciò consente un confronto diretto tra le funzioni ricostruite e le relative incertezze rispetto alla verità fondamentale. Gli autori confrontano tre distinti approcci metodologici:

Processi Gaussiani (GP): Modelli non parametrici bayesiani che utilizzano diverse scelte di kernel (kernel RBF, Gibbs e Matérn). Gli autori testano sia i GP "raw" sia quelli che incorporano il pre-processing agli endpoint ( $x^\alpha(1-x)^\beta$ ) per codificare i priori fisici sul comportamento a piccoli e grandi- $x$ .
Reti Neurali (NN): Ensemble di Perceptroni Multistrato (MLP) addestrati con diverse funzioni di perdita:
- Errore Quadratico Medio (MSE) standard.
- MSE eteroscedastico (apprendimento delle varianze puntuali).
- Perdita $\chi^2$ (che incorpora la matrice di covarianza sperimentale completa $C_{exp}$ ).
  Le NN sono addestrate su tre livelli di dati di closure-test: Livello-0 (senza rumore), Livello-1 (singola realizzazione rumorosa) e Livello-2 (repliche Monte Carlo di dati rumorosi).
Kernel Tangente Neurale (NTK): Approssimazioni empiriche della dinamica di addestramento delle NN. Gli autori valutano l'NTK in tre fasi: inizializzazione casuale, dopo 100 epoche e dopo l'addestramento completo (5000 epoche). Questi sono trattati come la covarianza di un prior di GP condizionato dai dati.

Contributi Chiave e Diagnostica
Il documento introduce e applica diagnostiche specifiche per valutare la "fedeltà" delle incertezze:

Bias Normalizzato ( $R_b$ ): Una metrica diagnostica valutata nella regione di interpolazione (dati). Misura se la deviazione della media dell'ensemble dalla verità è statisticamente compatibile con la covarianza dell'ensemble. Gli autori sottolineano che $R_b$ dipende non solo dalla larghezza puntuale delle bande di incertezza, ma crucialmente dalla struttura di correlazione della covarianza predittiva.
Propagazione dell'Estrapolazione: Le funzioni $T_3$ ricostruite sono propagate alle sezioni ridotte neutre di HERA (dataset con valori di $x$ al di fuori dell'intervallo di addestramento BCDMS) per testare l'affidabilità delle incertezze nella regione di estrapolazione.
Decomposizione dell'Incertezza: Lo studio distingue tra "incertezza dei dati" (aleatoria, da $C_{exp}$ ) e "incertezza del modello" (epistemica, dalla dispersione dell'ensemble), analizzando come diversi livelli di addestramento (L0, L1, L2) e funzioni di perdita propagano questi componenti.

Risultati
Gli autori riscontrano che metodi che producono ricostruzioni centrali comparabili possono produrre stime di incertezza marcatamente diverse e spesso non fedeli:

Impatto della Funzione di Perdita: Nella regione dei dati, le NN addestrate con perdite MSE, MSE eteroscedastico e $\chi^2$ producono predizioni centrali simili. Tuttavia, le loro incertezze differiscono significamente. La perdita $\chi^2$ (utilizzando la $C_{exp}$ completa) produce incertezze fedeli nella regione di interpolazione. La perdita eteroscedastica, pur catturando la varianza puntuale, non tiene conto delle correlazioni, portando a bande non calibrate. L'MSE standard, ignorando interamente le incertezze dei dati, produce bande eccessivamente strette che sottostimano l'incertezza reale.
Ruolo dei Priori e del Pre-processing: La scelta del prior funzionale è dominante nella regione di estrapolazione.
- Per i GP, la scelta del kernel da sola è insufficiente; senza il pre-processing degli endpoint, le predizioni centrali non riescono a ricostruire il picco. Con il pre-processing, la ricostruzione migliora, ma le incertezze risultanti svaniscono agli endpoint ( $x \to 0, 1$ ) per costruzione, fallendo nel coprire la verità se l'esponente assunto ( $\alpha$ ) è errato.
- Per le NN, il prefattore di endpoint stabilizza l'estrapolazione ma rende l'incertezza condizionata agli esponenti assunti. Fit con diversi esponenti di piccolo- $x$ ( $\alpha=0.5$ vs $\alpha=1.0$ ) concordano nella regione dei dati ma divergono significativamente nella regione di estrapolazione.
Performance dell'NTK: L'NTK valutato all'inizializzazione casuale è un surrogato povero, sottostimando significativamente il picco e fornendo incertezze non fedeli ( $R_b \approx 9.5$ ). Valutare l'NTK dopo l'addestramento (100 o 5000 epoche) migliora la predizione centrale e la calibrazione dell'incertezza, sebbene l'NTK addestrato fornisca ancora incertezze leggermente più conservative rispetto al pieno ensemble di NN.
Test di Estrapolazione: Quando propagati ai dati HERA, tutti i modelli tranne l'NTK all'inizializzazione superano il controllo di coerenza. Tuttavia, il comportamento delle bande di incertezza varia: l'ensemble di NN addestrato con $\chi^2$ (L2) mostra un aumento dell'incertezza nella regione di piccolo- $x$ che copre la verità, mentre i GP pre-processati mostrano un'incertezza che svanisce e non copre la verità se il prior è errato.

Significatività e Rivendicazioni
Il documento conclude che i closure test combinati con diagnostiche consapevoli della covarianza sono essenziali per validare le incertezze nei problemi inversi basati su ML. Gli autori identificano tre ingredienti specifici che controllano la fedeltà delle incertezze:

Trattamento della Verosimiglianza (Likelihood): L'inclusione della matrice di covarianza sperimentale completa nella verosimiglianza (o la propagazione tramite repliche) è necessaria per catturare le incertezze correlate.
Priori Funzionali: L'incertezza nelle regioni di estrapolazione è determinata in gran parte dal prior funzionale (codificato in kernel o pre-processing degli endpoint) piuttosto che dai dati. Di conseguenza, le incertezze di estrapolazione sono condizionate da queste assunzioni di modellazione.
Stadio di Addestramento per gli NTK: Per le approssimazioni NTK, il kernel deve essere valutato con i parametri addestrati; l'NTK iniziale non è un surrogato fedele della rete addestrata.

Gli autori sostengono con moderazione che i loro risultati illustrano perché l'accordo sui valori centrali e l'ispezione visiva delle bande di incertezza siano insufficienti per la validazione. Argomentano che la procedura utilizzata qui — closure test con verità nota, confronto tra i livelli L0/L1/L2 e diagnostiche consapevoli della covarianza — fornisce un framework necessario per validare gli approcci ML nei problemi inversi della fisica, pur notando che uno studio sistematico su molte realizzazioni indipendenti è un passo successivo necessario per caratterizzare completamente la distribuzione della diagnostica del bias.

Articoli simili