Flow-Based Surrogates for High-Dimensional Likelihoods in Experimental Neutrino Physics

Technische Samenvatting: Flow-gebaseerde Surrogaten voor Hoogdimensionele Likelihoods in Experimentele Neutrinofysica

Probleemstelling
Precisie-experimenten met lange baseline-neutrino's vertrouwen op near-detector data om systematische onzekerheden (nuisance parameters) te beperken die de ongeoscilleerde neutrinoflux beïnvloeden. Deze beperkingen zijn essentieel voor nauwkeurige oscillatieparameter-metingen bij far detectors en voor gezamenlijke analyses over meerdere experimenten heen. Echter, de geconstrainde likelihood-functies in deze scenario's zijn vaak hoogdimensionaal (bijv. $\sim 100$ parameters) en niet-Gaussisch vanwege niet-lineaire parameterafhankelijkheden, fysieke grenzen en beperkte statistiek.

Huidige propagatiemethoden kampen met een methodologische kloof:

1. Post-fit Gaussische Approximaties: Deze zijn draagbaar en hebben een gesloten vorm, maar gaan uit van een kwadratische log-likelihood, waardoor ze niet-Gaussische staarten, gekromde correlaties en niet-Gaussische modi niet kunnen vangen, wat potentieel tot bias leidt.
2. Markov Chain Monte Carlo (MCMC): Hoewel asymptotisch exact en getrouw aan de likelihood-structuur, zijn MCMC-samples geen gesloten-vorm continue functies, waardoor ze moeilijk direct in downstream likelihoods te gebruiken zijn voor gradiënt-gebaseerde optimalisatie of efficiënt hergebruik.
3. Volledige Likelihood Implementaties: Deze zijn accuraat maar vereisen toegang tot specifieke software, data en infrastructuur, wat onpraktisch is voor draagbare constraint-propagatie.

Methodologie
De auteurs stellen het gebruik van Normalizing Flows (NF) voor als expliciete, draagbare surrogaatmodellen voor hoogdimensionele systematische likelihoods. De aanpak behelst het leren van een inverteerbare kaart $f_\theta$ die een eenvoudige basisverdeling transformeert naar de doelwit systematische likelihood-dichtheid $p(\eta) \propto \mathcal{L}(\eta)$.

• Hybride Architectuur: Om de expressiviteit en computationele kosten in hoge dimensies te balanceren, gebruikt de auteurs een hybride architectuur die de nuisance parameters $\eta$ verdeelt in twee blokken:

  • $\eta_B$ (Hoogdimensionaal, ongeveer lineair): Gemodelleerd met coupling layers (affine coupling blocks). Deze bieden snelle, analytische one-pass inversies en dichtheids-evaluaties, geschikt voor de bulk van de parameters die een lineair gedrag vertonen.
  • $\eta_A$ (Laagdimensionaal, sterk niet-lineair): Gemodelleerd met conditionele autoregressieve Rational Quadratic Neural Spline Flows (RQ-NSF). Dit blok vangt complexe niet-Gaussische kenmerken op. De autoregressieve structuur is geconditioneerd op $\eta_B$ om kruiscorrelaties te behouden, terwijl de dure autoregressieve berekening wordt beperkt tot het kleinere, moeilijkere blok.
  • Initialisatie: De flow wordt geïnitialiseerd met de post-fit Gaussische approximatie (best-fit punt en covariantie-matrix van een standaard fit) om een sterke proposal-distributie en trainingssamples te bieden.

• Trainingsstrategie: Het model wordt getraind door het minimaliseren van een symmetrische Kullback-Leibler (KL) divergentie tussen de doel-likelihood en de flow-approximatie. Om de hoge dimensionaliteit en de kosten van likelihood-evaluaties aan te pakken, wordt een iteratief asynchroon trainingsschema gebruikt:

  • CPU-workers samplen vanuit een "lagged" checkpoint van de flow om proposal-samples te genereren.
  • Deze samples worden geëvalueerd tegen de dure doel-likelihood.
  • De resulterende dataset wordt in een FIFO-buffer geplaatst.
  • Een GPU-trainer optimaliseert continu de flow-parameters op de geaggregeerde dataset.
  • Dit proces verfijnt iteratief de proposal-distributie, waardoor de variantie van de importance weights wordt verminderd.

Belangrijkste Bijdragen en Resultaten
De methode werd getest op een realistische replica van een T2K near-detector analyse met 110 systematische parameters, waarvan 10 expliciete niet-Gaussische kenmerken introduceren via niet-lineaire event weights.

• Getrouwheid in de Parameterruimte: De getrainde NF-surrogaat reproduceert de doel-likelihood met hoge getrouwheid.
  • Marginale Verdelingen: De NF vangt nauwkeurig asymmetrische staarten en modi die verschoven zijn van de best-fit waarde op voor de 10 niet-lineaire parameters, waarbij deze nauw aansluiten bij een referentie MCMC-keten (4,2 miljoen samples). In contrast hiermee faalt de Gaussische approximatie om deze kenmerken te vangen.
  • Correlaties: De NF modelleert correct gekromde correlaties en vervormde betrouwbaarheidsregio's in 2D-projecties, wat de Gaussische modellen mist.
• Flux-voorspellingen: Wanneer systematische onzekerheden worden gepropageerd naar flux-voorspellingen:
  • De door de NF afgeleide onzekerheidsbanden komen overeen met MCMC-resultaten binnen $\approx \pm 1\%$.
  • De Gaussische approximatie overschat de breedte van de onzekerheid met $\approx 3,5\%$ en onderschat de mediane event rate met $\approx 0,2\%$, wat wijst op een bias in de Gaussische surrogaat.
• Sampling Efficiëntie:
  • De getrainde NF bereikt een relatieve effectieve samplegrootte (rESS) van 98%, vergeleken met slechts 5% voor de initiële Gaussische proposal.
  • Dit vertegenwoordigt een $\sim 20$-voudige verbetering in sampling-efficiëntie voor importance sampling.
  • Eenmaal getraind is de surrogaat computationeel goedkoop: het kan $\sim 38$ miljoen samples genereren per GPU-uur, vergeleken met $\sim 10.000$ evaluaties per CPU-uur voor de oorspronkelijke likelihood.
• Schaalbaarheid: De computationele kosten schalen primair met de grootte van het niet-lineaire blok ($D_A$), niet met de totale dimensie. Zelfs met $D_A=100$ blijft de surrogaat aanzienlijk sneller dan de oorspronkelijke likelihood-evaluatie.

Betekenis en Claims
Het artikel beweert dat normalizing flows een "getrouwe en draagbare" oplossing bieden voor hoogdimensionele likelihoods in de neutrinofysica. Door de gefitte systematische likelihood om te zetten in een expliciet dichtheidsmodel, fungeert de NF als een gesloten-vorm, samplable en puntgewijs evalueerbare surrogaat.

De betekenis ligt in het overbruggen van de kloof tussen Gaussische samenvattingen en MCMC-samples:

• Net als Gaussische approximaties is de NF lichtgewicht, draagbaar en vereist deze niet de originele data of de fitting-machinerie voor downstream gebruik.
• Net als MCMC behoudt het de volledige niet-Gaussische structuur (scheefheid, gekromde correlaties, niet-Gaussische staarten), waardoor de biases inherent aan kwadratische benaderingen worden vermeden.

De auteurs positioneren deze methode als essentieel voor toekomstige precisie-oscillatiemetingen, in het bijzonder voor gezamenlijke experiment-fits (bijv. T2K-NOvA) en globale analyses waarbij constraints van één fase rigoureus moeten worden gepropageerd naar een andere fase zonder verlies van statistische informatie. De getrainde flow maakt gradiënt-gebaseerde optimalisatie en onzekerheidspropagatie mogelijk in downstream analyses zonder de upstream fit opnieuw te hoeven draaien.