Estimating Complex Densities using Two-Stage Normalizing Flows

Hieronder volgt een gedetailleerde technische samenvatting van het artikel "Estimating Complex Densities using Two-Stage Normalizing Flows" in het Nederlands.

Titel: Schatting van Complexe Dichtheden met Twee-Staps Normaliserende Stromen (Two-Stage Normalizing Flows)

Auteurs: Roxana Darvishi, David C. Stenning, Ted von Hippel en Owen G. Ward.
Publicatiedatum: 10 maart 2026 (voorgesteld).

---

1. Het Probleem

In veel wetenschappelijke toepassingen is de doelwitkansverdeling (target probability distribution) niet direct te evalueren in gesloten vorm, noch is het mogelijk om er rechtstreeks stalen uit te trekken. Vaak bestaat de doelwitdichtheid uit meerdere componenten die op verschillende manieren beschikbaar zijn:

• Sommige componenten zijn alleen toegankelijk via stalen gegenereerd door simulatoren of externe datasets (waarbij de onderliggende dichtheidsfunctie onbekend of onberekenbaar is).
• Andere componenten hebben een wiskundig hanteerbare uitdrukking of zijn gespecificeerd via statistische aannames (bijv. priors in Bayesiaanse modellen).

Bestaande inferentiemethoden (zoals MCMC, Variational Inference of ABC) hebben vaak te kampen met beperkingen in deze scenario's:

• Ze vereisen vaak volledige toegang tot de gezamenlijke dichtheid of gezamenlijke stalen.
• Ze kunnen moeilijk omgaan met heterogene informatiebronnen (een mix van stalen en analytische termen).
• Ze zijn vaak beperkt tot óf het genereren van stalen, óf het evalueren van de dichtheid, maar zelden beide efficiënt tegelijk.
• Methoden zoals Approximate Bayesian Computation (ABC) vereisen simulaties van het volledige model, wat computatief zwaar kan zijn en niet werkt als alleen subvectors stalen beschikbaar zijn.

2. Methodologie: Twee-Staps Normaliserende Stromen (TSNF)

De auteurs stellen een nieuw raamwerk voor op basis van Normalizing Flows (NF), een generatief model dat complexe verdelingen benadert via een reeks inverteerbare transformaties toegepast op een eenvoudige basisverdeling (bijv. een standaard normale verdeling).

Het raamwerk werkt in twee fasen:

Fase 1: Benadering van componenten op basis van stalen (Forward-KL)

• Doel: De dichtheden van de componenten leren die alleen via stalen beschikbaar zijn.
• Methode: Er worden $m$ aparte Forward-KL Normalizing Flow-modellen getraind.
  • De loss-functie minimaliseert de Kullback-Leibler-divergentie $D_{KL}(g_{true} || g_{flow})$.
  • Dit vereist stalen van de onderliggende componenten, maar geen kennis van de exacte dichtheidsfunctie.
  • Het resultaat is een reeks geschatte dichtheden $\hat{g}_i(y_i)$ die op elk punt in de ruimte kunnen worden geëvalueerd.
• Stabiliteit: Er wordt speciale aandacht besteed aan de numerieke stabiliteit van de Jacobiaan-determinanten in deze fase om extreme waarden te voorkomen die de tweede fase zouden kunnen verstoren.

Fase 2: Reconstructie van de volledige doelwitverdeling (Reverse-KL)

• Doel: De volledige doelwitdichtheid reconstrueren door de geschatte componenten uit Fase 1 te combineren met de analytisch bekende termen.
• Constructie: De benaderde doelwitdichtheid wordt gevormd als:
  $$\tilde{f}_X(x) \propto h(y_0) \prod_{i=1}^{m} \hat{g}_i(y_i)$$
  Waarbij $h(y_0)$ de analytisch bekende termen vertegenwoordigt en $\hat{g}_i$ de geschatte componenten uit Fase 1 zijn.
• Training: Er wordt een Reverse-KL Normalizing Flow-model getraind op deze samengestelde verdeling $\tilde{f}_X$.
  • De loss-functie minimaliseert $D_{KL}(q_{flow} || \tilde{f}_X)$.
  • Omdat $\tilde{f}_X$ nu puntsgewijs berekenbaar is (via de geschatte componenten en de analytische termen), kan dit model worden getraind zonder dat de oorspronkelijke, onberekenbare doelwitdichtheid nodig is.
• Output: Het getrainde model in Fase 2 kan zowel efficiënt nieuwe stalen genereren als de dichtheid op willekeurige punten evalueren.

3. Toepassing op Hiërarchische Modellen met Onberekenbare Likelihoods

Een specifieke toepassing wordt beschreven voor Bayesiaanse hiërarchische modellen waarbij de likelihood-functie onberekenbaar is ("black-box"), maar stalen kunnen worden gegenereerd door software (bijv. BASE-9 in de astronomie).

• De software genereert stalen uit een verdeling die evenredig is met de likelihood vermenigvuldigd met een specifieke software-prior.
• De TSNF-methode gebruikt Fase 1 om de dichtheid van deze software-stalen te leren.
• In Fase 2 wordt de software-prior wiskundig gecompenseerd (geannuleerd) in de constructie van de doelwitdichtheid, waardoor het eindresultaat onafhankelijk is van de specifieke priorkeuze van de software.

4. Belangrijkste Resultaten

Simulatiestudies

1. Gemeenschappelijke Dichtheidsinferentie:

   • De methode slaagde erin een complexe, sterk niet-lineaire gezamenlijke dichtheid te reconstrueren uit gescheiden stalen van subvectoren en analytische randvoorwaarden.
   • Het model ving de complexe afhankelijkheidsstructuren en bimodaliteit nauwkeurig op.

2. Hiërarchische Modellen (Vergelijking met Two-Stage Fully Bayesian - TSFB):

   • De TSNF-methode werd vergeleken met de bestaande "Two-Stage Fully Bayesian" (TSFB) algoritme.
   • Robuustheid: De TSFB-methode bleek zeer gevoelig voor de keuze van de software-prior. Als de software-stalen ver afstonden van de ware posterior, faalde TSFB om de juiste verdeling te vangen (truncatie en bias). TSNF bleef robuust omdat de software-prior in Fase 2 wordt gecompenseerd.
   • Nauwkeurigheid: TSNF leverde nauwkeurigere schattingen op van marginaal gemiddelden, varianties en de covariantiestructuur (Frobenius-norm van de covariantiefout was aanzienlijk lager: 0.016 vs 1.846).
   • Efficiëntie: TSNF kon stalen genereren met een snelheid vergelijkbaar met het trekken van stalen uit een standaard normale verdeling, terwijl TSFB langzamer was door de Metropolis-Hastings iteraties.

Case Study: Astrofysica (Witte Dwergen)

• Context: Inferentie van parameters voor 30 witte dwergsterren waarbij de likelihood onberekenbaar is en alleen stalen beschikbaar zijn via de BASE-9 software.
• Resultaat:
  • De TSNF-methode produceerde soepelere en meer gestructureerde posterior-verdelingen dan TSFB.
  • TSFB-resultaten vertoonden "ruis" en onnatuurlijke sprongen in de dichtheid (due to discrete acceptatie van stalen in de Metropolis-Hastings stap).
  • TSNF slaagde erin ster-specifieke variabiliteit beter te onderscheiden, wat wijst op een betere exploratie van de parameter ruimte.

5. Bijdragen en Significantie

• Unificatie van Heterogene Informatie: De methode biedt een uniek raamwerk om informatiebronnen te combineren die in verschillende formaten voorkomen (stalen vs. analytische uitdrukkingen) zonder de onderliggende doelwitverdeling te hoeven vereenvoudigen of aan te passen.
• Tweevoudige Functionaliteit: Het model ondersteunt zowel stalen generatie (voor simulatie en onzekerheidskwantificering) als puntsgewijze dichtheids-evaluatie (voor likelihood-gebaseerde schatting en modelvergelijking) binnen één enkel model.
• Onafhankelijkheid van Software Priors: In tegenstelling tot bestaande methoden voor onberekenbare likelihoods, is de TSNF-methode niet gevoelig voor de specifieke priorkeuze van de genererende software, zolang de stalen maar representatief zijn voor de componenten.
• Toepasbaarheid: De methode is bijzonder waardevol in wetenschappelijke domeinen (zoals astronomie, biologie en milieuwetenschappen) waar complexe hiërarchische modellen worden gebruikt en volledige simulaties te duur of onmogelijk zijn.

Conclusie

De voorgestelde "Two-Stage Normalizing Flows" methode biedt een robuust en flexibel alternatief voor traditionele inferentiemethoden in scenario's met onberekenbare doelwitverdelingen. Door een combinatie van Forward-KL en Reverse-KL training te gebruiken, kan de methode complexe, niet-lineaire structuren nauwkeurig reconstrueren uit gedeeltelijke informatie, wat leidt tot betrouwbare inferentie in situaties waar standaard methoden falen.