Physically Consistent Parameter Inference: Transparent Machine Learning Emulation in High Energy Physics and Cosmology

Riepilogo Tecnico: Inferenza di Parametri Fisicamente Coerente tramite Machine Learning Trasparente

Definizione del Problema
I fit globali nella fisica delle alte energie (HEP) e nella cosmologia incontrano frequentemente la sfida di esplorare spazi di parametri ad alta dimensionalità vincolati da centinaia di misurazioni correlate. Le funzioni di verosimiglianza in questi domini presentano spesso topologie complesse, inclusi forti correlazioni tra parametri, comportamenti non gaussiani, molteplici minimi locali ed elongazioni "curve" delle degenerazioni. Inoltre, la valutazione delle predizioni teoriche necessarie per queste verosimiglianze è computazionalmente costosa, coinvolgendo spesso evoluzioni del gruppo di rinormalizzazione, integrali di distanza numerici o il calcolo di centinaia di osservabili. Gli approcci statistici tradizionali, come il Markov Chain Monte Carlo (MCMC) o il campionamento annidato (nested sampling), si basano su ripetute valutazioni della verosimiglianza, rendendo l'esplorazione esaustiva dello spazio dei parametri impraticabile o proibitivamente lenta. Esiste una critica necessità di modelli surrogati rapidi e interpretabili che possano emulare questi complessi paesaggi di verosimiglianza senza sacrificare il rigore statistico o l'interpretabilità fisica.

Metodologia
Gli autori propongono un framework di Machine Learning (ML) unificato progettato per emulare la funzione di log-verosimiglianza (o $\chi^2$) utilizzando XGBoost (eXtreme Gradient Boosting), un insieme di alberi di regressione basati sul boosting del gradiente. Il framework integra tre componenti principali:

1. Costruzione del Surrogato:

   • Generazione dei Dati di Addestramento: Il dataset di addestramento è costruito utilizzando una strategia ibrida. Combina un design di riempimento dello spazio (utilizzando Latin Hypercube Sampling o sequenze di Sobol) sull'intero volume del prior con una nuvola gaussiana più densa concentrata attorno alla regione del miglior fit, derivata dallamente dall'Hessiana del fit. Ciò garantisce la copertura sia di ampi spazi di parametri che di strette degenerazioni anisotrope.
   • Apprendimento Attivo (Active Learning): Nelle regioni in cui la verosimiglianza è sparsa o presenta strutture nette, un ciclo di apprendimento attivo raffina il dataset. Un surrogato basato su Processi Gaussiani (GP) predice l'incertezza e una funzione di acquisizione (Expected Improvement) seleziona nuovi punti per la valutazione esatta, concentrando progressivamente il campionamento dove migliora maggiormente la verosimiglianza emulata.
   • Trasformazione del Target: Per gestire l'ampio intervallo dinamico dei valori di $\chi^2$ (da $\sim 10^3$ a $10^6$) e garantire che il modello risolva le strette regioni di confidenza vicino al minimo, gli autori impiegano specifiche trasformazioni del target. Queste includono la log-verosimiglianza diretta per i fit di flavor, una strategia a due stadi classifier-plus-regressor utilizzando una trasformazione sigmoide per le particelle simili ad assioni (ALPs), e una trasformazione log10 traslata ($y = \log_{10}(\chi^2 - \chi^2_{\min} + 1)$) per la cosmologia. Questo spostamento mappa il minimo in una regione ripida e coerente della trasformazione indipendentemente dal valore assoluto di $\chi^2$.

2. Interpretabilità tramite SHAP:

   • Per garantire che le predizioni del ML rimangano fisicamente coerenti, il framework utilizza i valori SHAP (Shapley Additive exPlanations). Basati sulla teoria dei giochi cooperativi, i valori SHAP quantificano il contributo marginale di ogni caratteristica (parametro del modello) alla predizione.
   • L'algoritmo TreeSHAP viene utilizzato per calcolare i valori SHAP esatti in tempo polinomiale per gli insiemi di alberi. Ciò fornisce una classificazione del modello-indipendente dell'importanza dei parametri e rivela dipendenze non lineari, assicurando che il surrogato catturi la fisica sottostante piuttosto che il rumore numerico.

3. Esplorazione del Posteriore:

   • Il $\chi^2$ emulato viene campionato utilizzando un algoritmo di Random-Walk Metropolis–Hastings in parallelo. La covarianza di proposta è impostata sul fattore di Cholesky della covarianza del fit per migliorare il mixing in spazi correlati.
   • Test di Chiusura (Closure Tests): Il framework valida il surrogato confrontando la distribuzione di $\Delta\chi^2$ sui punti accettati rispetto alla distribuzione $\chi^2$ attesa (teorema di Wilks) e, nel caso cosmologico, confrontando direttamente il posteriore emulato con la verosimiglianza esatta campionata tramite molteplici back-end indipendenti (Astropy, CPU, GPU).

Applicazioni Chiave e Risultati
Il framework è validato attraverso tre applicazioni di global-fit di crescente dimensionalità e complessità:

1. Anomalie di Flavor nei Decadimenti Semileptonici del Mesone B (SMEFT19):

   • Contesto: Analisi delle deviazioni in $b \to c\tau\nu$, $b \to s\nu\bar{\nu}$ e $b \to s\ell^+\ell^-$ utilizzando il framework SMEF19 (Scenario III).
   • Performance: Il surrogato XGBoost ha raggiunto un coefficiente di correlazione di Pearson $r=0.99$ con la verosimiglianza esatta.
   • Accelerazione: La velocità di valutazione è aumentata di un fattore di $\sim 10^5$ (da $\sim 3$ secondi per punto a $\sim 34$ microsecondi).
   • Insight Fisico: Il surrogato ha riprodotto con successo la rottura della degenerazione $C_1 = C_3$ e la cresta curva nel piano $(C_1, \beta_q)$. L'analisi SHAP ha classificato correttamente i parametri ($C_3 > C_1 > \beta_q$), coerentemente con la struttura degli operatori sottostanti. Fondamentalmente, ha rivelato che la forte correlazione tra $R_D$ e $BR(B^+ \to K^+\nu\bar{\nu})$ riscontrata in scenari precedenti scompare quando $C_1$ e $C_3$ variano indipendentemente.

2. Particelle Simili ad Assioni (ALPs) e l'Anomalia di Belle II:

   • Contesto: Spiegare l'eccesso di $2.8\sigma$ in $B^+ \to K^+\nu\bar{\nu}$ con un'ALP leggera ($m_a \approx 2$ GeV). La verosimiglianza è non-gaussiana e discontinua a causa di soglie cinematiche e probabilità di decadimento dipendenti dalla vita media.
   • Strategia: È stato utilizzato un approccio a due stadi: un classificatore (trasformazione sigmoide) per isolare la regione rilevante a basso $\chi^2$, seguito da un regressore.
   • Performance: Il classificatore ha raggiunto un AUC di 0.974, mentre il regressore ha raggiunto $r=0.929$.
   • Accelerazione: La velocità di valutazione è aumentata di $\sim 5.3 \times 10^5$ (da $\sim 1.9$ secondi a $\sim 3.5$ microsecondi).
   • Insight Fisico: SHAP ha identificato la massa dell'ALP ($m_a$) come il parametro più critico, seguita dalla carica PQ dei quark di terza generazione sinistrorientati ($X^3_{qL}$) e dalla costante di decadimento ($f_a$). Il posteriore ha favorito correttamente $m_a \approx 1.8$ GeV e $f_a \in [10^6, 10^7]$ GeV.

3. Cosmologia ($\Lambda$CDM e $w_0w_a$CDM):

   • Contesto: Fit di supernove di tipo Ia (Pantheon+, DES), Oscillazioni Acustiche dei Barioni (DESI) e un prior CMB compresso per vincolare i parametri di energia oscura ($w_0, w_a$).
   • Validazione: A differenza degli altri casi, la verosimiglianza cosmologica esatta è sufficientemente economica da poter essere campionata direttamente. Gli autori hanno eseguito un MCMC sulla verosimiglianza esatta utilizzando quattro diversi back-end (Astropy, CPU, GPU e il surrogato ML) e hanno confermato che i posteri sono statisticamente indistinguibili.
   • Accelerazione: Il surrogato è stato da $3.6$a$22.4\times$ più veloce dell'implementazione CPU vettorizzata e da $7.2$a$12.1\times$ più veloce del kernel GPU.
   • Insight Fisico: Il surrogato ha catturato la preferenza per l'energia oscura dinamica ($w_0 > -1, w_a < 0$) con i dati di supernova+BAO e il ritorno a $\Lambda$CDM quando viene aggiunto il prior CMB. L'analisi SHAP ha identificato correttamente la gerarchia dei vincoli: senza CMB, i parametri di background ($H_0, \Omega_m$) dominavano; con il CMB, i parametri dell'energia oscura ($w_0, w_a$) sono diventati i più vincolati, riflettendo il restringimento fisico dei contorni.

Significatività e Rivendicazioni
L'articolo sostiene di presentare un framework di inferenza basato sulla verosimiglianza che è generale, interpretabile e fisicamente coerente. La sua importanza primaria risiede nel dimostrare che:

• Efficienza: I modelli surrogati ML possono accelerare l'esplorazione dello spazio dei parametri di diversi ordini di grandezza (fino a $10^5$) mantenendo un'alta accuratezza.
• Robustezza: Il metodo gestisce diverse topologie di verosimiglianza, da superfici lisce di tipo gaussiano a paesaggi non-gaussiani, discontinui e altamente strutturati, attraverso design di addestramento adattivi e trasformazioni del target.
• Trasparenza: Integrando i valori SHAP, il framework evita la natura di "scatola nera" tipica del ML, assicurando che le gerarchie e le correlazioni dei parametri inferite siano fisicamente interpretabili e coerenti con la teoria sottostante.
• Validazione: L'applicazione cosmologica funge da benchmark controllato, provando che l'accelerazione non avviene a scapito dell'accuratezza statistica, poiché i posteri emulati sono indistinguibili da quelli derivati da calcoli esatti.

Gli autori concludono che questo framework è facilmente trasferibile ad altri problemi di fit globale e offre una base per sviluppi futuri in apprendimento attivo automatizzato e emulatori differenziabili.