Information-Preserving Domain Transfer with Unlabeled Data in Misspecified Simulation-Based Inference

Technische Samenvatting: Informatiebehoudende Domeinoverdracht met Ongelabelde Data in Foutgespecificeerde Simulatiegebaseerde Inferentie

Probleemstelling
Simulatiegebaseerde inferentie (SBI) maakt geamortiseerde Bayesiaanse parameterinferentie mogelijk op basis van door een simulator gegenereerde data, zonder dat expliciete likelihood-evaluatie vereist is. De betrouwbaarheid van neurale SBI-methoden, zoals Neural Posterior Estimation (NPE), verslechtert echter bij modelmisspecificatie—situaties waarin waarnemingen uit de echte wereld niet goed worden weergegeven door de simulator die voor training is gebruikt. In dergelijke gevallen kan directe inferentie op data uit de echte wereld leiden tot vertekende of oververzekerde posterieuren.

Bestaande benaderingen om misspecificatie te mitigeren, maken vaak gebruik van ongelabelde data uit de echte wereld om de marginale verdelingen van gesimuleerde en reële waarnemingen op elkaar af te stemmen (bijvoorbeeld via Maximum Mean Discrepancy of domein-adversariale training). De auteurs betogen echter dat alleen marginale afstemming ontoereikend is. Dit garandeert namelijk niet het behoud van de conditionele structuur die waarnemingen relateert aan taakvariabelen (parameters), wat kan leiden tot het verlies van informatie die cruciaal is voor posterieure inferentie. Bovendien vereisen veel bestaande methoden een kleine kalibratieset van data uit de echte wereld met bekende parameters, wat vaak niet beschikbaar is.

Methodologie: SPIN
Het artikel stelt SPIN (Simulation-based inference with Parameter-relevant Information-preserving domain transfer) voor, een raamwerk ontworpen voor NPE onder modelmisspecificatie, waarbij uitsluitend ongelabelde, ongepaarde waarnemingen uit de echte wereld worden gebruikt.

• Kernmechanisme: SPIN leert bidirectionele transportkaarten tussen het simulatordomein ($X_s$) en het domein van de echte wereld ($X_r$). Laat $G_{sr}: X_s \to X_r$ waarnemingen van de simulator afbeelden naar het domein van de echte wereld, en laat $G_{rs}: X_r \to X_s$ waarnemingen uit de echte wereld terug afbeelden naar het simulatordomein.
• Inferentieprotocol: Tijdens de testfase wordt een waarneming uit de echte wereld $x_r$ via $x_{rs} = G_{rs}(x_r)$ afgebeeld naar het simulatordomein. De posterior wordt vervolgens geschat met het voor de simulator getrainde NPE-model: $\hat{p}(\theta | x_r) = q_\psi(\theta | x_{rs})$.
• Informatiebehoudend Doel: De belangrijkste innovatie is een trainingsdoel dat garandeert dat het transport parameter-relevante informatie behoudt. Omdat labels voor parameters uit de echte wereld niet beschikbaar zijn, maakt SPIN tijdens het trainen gebruik van de simulatorlabels.
  1. Een gelabeld simulatorpaar $(\theta, x_s)$ wordt vertaald naar het domein van de echte wereld ($x_{sr} = G_{sr}(x_s)$) en vervolgens terug afgebeeld naar het simulatordomein ($x_{srs} = G_{rs}(x_{sr})$).
  2. Omdat $x_{srs}$ afkomstig is van een gelabeld steekproef, is de oorspronkelijke parameter $\theta$ bekend.
  3. SPIN optimaliseert een variatiele ondergrens voor de wederzijdse informatie (MI) tussen de parameter $\theta$ en de getransporteerde waarneming $x_{srs}$. Dit wordt bereikt door de negatieve log-likelihood van de oorspronkelijke parameter gegeven de getransporteerde waarneming te minimaliseren:
     $$\mathcal{L}_{info}(q) = \mathbb{E}_{(\theta, x_s) \sim p_s} [-\log q(\theta | G_{rs}(G_{sr}(x_s)))]$$
  4. Deze verliesfunctie moedigt de transportkaarten aan om informatie over de parameter te behouden, in plaats van uitsluitend marginale verdelingen op elkaar af te stemmen.
• Trainingsprocedure: Het raamwerk traint gezamenlijk de transportnetwerken ($G_{sr}, G_{rs}$), discriminators (voor adversariale domeinafstemming) en de posterior-schatter ($q_\psi$). De totale generatorverliesfunctie combineert adversariale vertaling, cyclische consistentie, identiteitsregularisatie en de informatiebehoudsterm ($\mathcal{L}_{info}$).

Belangrijkste Bijdragen

1. Informatiebehoudende Domeinoverdracht: In tegenstelling tot eerdere methoden voor domeinafstemming die zich richten op het afstemmen van marginale verdelingen, beperkt SPIN de domeinoverdracht expliciet tot het behoud van de wederzijdse informatie tussen de parameter van belang en de getransporteerde waarnemingen.
2. Aanpassing met Ongelabelde, Ongepaarde Data: SPIN vereist uitsluitend simulatorlabels voor training. Het past NPE aan met behulp van ongelabelde, ongepaarde waarnemingen uit de echte wereld, zonder dat een kalibratieset van data uit de echte wereld met bekende parameters nodig is.
3. Theoretische Rechtvaardiging: De auteurs leveren een populatie-identiteit aan die aantoont dat, indien de geleerde transport voldoet aan een parameterbehoudende gezamenlijke-transportvoorwaarde, het testrisico in de echte wereld gelijk is aan het met simulatorlabels getransporteerde risico dat wordt geminimaliseerd door $\mathcal{L}_{info}$.

Experimentele Resultaten
De auteurs hebben SPIN geëvalueerd op vier benchmarks:

• SIR: Een zwakke misspecificeerde synthetische benchmark gebaseerd op een epidemie-model met vertraagde rapportage.
• Pendulum: Een synthetische benchmark die demping introduceert in een wrijvingsloos slingermodel.
• Wind Tunnel: Een gecontroleerde fysieke benchmark met een windkamer-systeem waarbij het mechanistische model de responsen van de echte kamer benadert.
• Light Tunnel: Een gecontroleerde fysieke benchmark met een optisch beeldvormingssysteem met een vereenvoudigde modellering van responsen van lichttunnels.

Vondsten:

• Prestaties: Over synthetische en fysieke benchmarks heen verbeterde SPIN consistent de belangrijkste kwaliteitsmetrieken voor inferentie (Root Mean Squared Error, Log Posterior Probability en ACAUC) in vergelijking met standaard NPE en benchmarks voor marginale afstemming (NPE-MMD, NPE-DANN).
• Invloed van Misspecificatie: De verbeteringen van SPIN werden duidelijker naarmate de mate van modelmisspecificatie toenam. Bijvoorbeeld, in de Pendulum-benchmark, naarmate de dempingscoëfficiënt (sterkte van de misspecificatie) toenam, behield SPIN een superieure posterieure dichtheid en nauwkeurigheid in vergelijking met de benchmarks.
• Ablatie: Het verwijderen van de informatiebehoudsterm ($\mathcal{L}_{info}$) resulteerde in verslechterde prestaties, met name bij taken met grotere kloven tussen simulator en werkelijkheid. Dit bevestigt dat de winst wordt gedreven door het behoud van parameter-relevante informatie, en niet alleen door domeinafstemming.
• Data-efficiëntie: De prestaties van SPIN zijn afhankelijk van de hoeveelheid ongelabelde data uit de echte wereld ($N_r$), waarbij grotere datasets leiden tot stabieler transportleren, hoewel winst werd waargenomen zelfs bij gematigde datasetgroottes.

Betekenis en Claims
Het artikel stelt dat voor misspecificeerde SBI het verminderen van de marginale discrepantie tussen gesimuleerde en reële data noodzakelijk maar onvoldoende is. De auteurs betogen dat domeintransport expliciet de informatie moet behouden die relevant is voor de parameter van belang. SPIN demonstreert dat door gebruik te maken van simulatorlabels om informatiebehoud af te dwingen tijdens het transport van ongelabelde data uit de echte wereld, robuustere en nauwkeurigere posterieure inferentie kan worden bereikt. De methode is bijzonder effectief wanneer de kloof tussen simulator en werkelijkheid aanzienlijk is, en biedt een praktische oplossing voor situaties waarin labels voor parameters uit de echte wereld niet beschikbaar zijn.