Technische Samenvatting: Multi-objective Bayesiaanse Optimalisatie voor Likelihood-vrije Inferentie in Sequentiële Steekproefmodellen

1. Probleemstelling

In veel wetenschappelijke domeinen, met name in de psychologie en bij het modelleren van consumentengedrag, worden statistische modellen gedefinieerd door generatieve processen (simulatoren) die synthetische data produceren. Hoewel dit natuurlijk is voor het integreren van domeinkennis, bezitten deze modellen vaak onhandelbare likelihoodfuncties, waardoor traditionele Bayesiaanse inferentie onmogelijk wordt. Likelihood-vrije Inferentie (LFI), of Simulatie-gebaseerde Inferentie (SBI), lost dit op door uitsluitend te vertrouwen op modelsimulaties.

Een specifieke uitdaging ontstaat bij het werken met multi-source data (bijv. keuzeresultaten en reactietijden in Sequentiële Steekproefmodellen). Bestaande efficiënte LFI-methoden, zoals Bayesian Optimization for Likelihood-Free Inference (BOLFI), vereisen doorgaans het combineren van discrepanties uit meerdere databronnen tot een enkele scalaire metriek. Deze combinatie is vaak arbitrair; als dit niet met uiterste zorg gebeurt, kan dit leiden tot:

• Informatieverlies: De relatieve belangrijkheid van verschillende databronnen kan worden vertroebeld.
• Conservatieve onzekerheidskwantificering: De resulterende posterior kan overmatig diffuus zijn.
• Onvermogen om conflict te detecteren: Als databronnen conflicterende informatie leveren (bijv. door model-misspecificatie), kan een enkele gecombineerde discrepantie er niet in slagen om de regio's met een hoge likelihood van alle bronnen simultaan te verkennen.

Huidige gestructureerde dichtheidschatingsmethoden (bijv. synthetic likelihood) vereisen vaak excessieve simulaties, wat ze ongeschikt maakt voor computationeel dure simulatoren.

2. Methodologie: MOBOLFI

De auteurs stellen Multi-objective Bayesian Optimization for Likelihood-Free Inference (MOBOLFI) voor. Deze methode breidt de single-source BOLFI-aanpak uit om multi-source data te verwerken door de discrepanties van elke databron te behandelen als afzonderlijke objectieven binnen een multi-objective optimalisatiekader.

Kernmechanisme

1. Multi-dimensionale Discrepantie: In plaats van een enkele discrepantie $\Delta$, definieert MOBOLFI een vector van discrepanties $\mathbf{D}(\theta) = (D_1(\theta), \dots, D_K(\theta))^\top$, waarbij elke $D_k$ de verwachte discrepantie tussen gesimuleerde en geobserveerde data voor de $k$-de databron vertegenwoordigt.
2. Surrogaatmodellering: Een multivariate Gaussian Process (GP) wordt gebruikt als een surrogaatmodel voor de vector-waardige discrepantiefunctie $\mathbf{D}(\theta)$. Dit model legt niet alleen de onzekerheid in elke discrepantie vast, maar ook de afhankelijkheidsstructuur (covariantie) tussen de discrepanties van verschillende databronnen.
3. Multi-objective Bayesian Optimization (MOBO): Het algoritme maakt gebruik van MOBO om sequentieel simulatieparameters $\theta$ te selecteren. Specifiek gebruikt het de Noisy Expected Hypervolume Improvement (NEHVI) acquisitiefunctie. Dit stuurt de zoektocht naar de "Pareto-front"—de verzameling parameterwaarden waar de discrepanties voor alle databronnen simultaan worden geminimaliseerd (of waar geen enkele bron verbeterd kan worden zonder een andere te verslechteren).
4. Likelihood-benadering: Zodra de GP-surrogaat is getraind, benadert deze de distributie van de discrepanties. De likelihood voor de gezamenlijke data en voor individuele databronnen wordt benaderd met behulp van de cumulatieve distributiefunctie (CDF) van een multivariate normale verdeling afgeleid van de GP-voorspellingen.
   • De gezamenlijke likelihood wordt benaderd als $p(\mathbf{S}_{obs}|\theta) \propto \Phi(\mathbf{t}; \boldsymbol{\mu}_n(\theta), \boldsymbol{\Sigma}_n(\theta) + \boldsymbol{\Sigma})$.
   • Marginale en conditionele likelihoods voor individuele bronnen (bijv. $p(T_{obs}|\theta)$) worden afgeleid door de multivariate waarschijnlijkheid te deconstrueren, wat aparte inferentie op subsets van de data mogelijk maakt.

Implementatiedetails

• Tolerantie Selectie: De tolerantievector $\mathbf{t}$ wordt ingesteld op basis van de $q$-kwantiel van de trainingsdiscrepanties (bijv. $q=0.05$).
• Schaling: Om numerieke stabiliteit en effectieve exploratie te garanderen, worden discrepanties geschaald (bijv. met behulp van Mean Absolute Deviation) zodat ze op vergelijkbare grootte opereren voordat ze aan het MOBO-algoritme worden gevoed.
• Posterior Sampling: De benaderde likelihoods worden gebruikt binnen Markov Chain Monte Carlo (MCMC) algoritmen (specifiek Differential Evolution MCMC) om te samplen uit de benaderde posterior zonder verdere dure simulaties.

3. Belangrijkste Bijdragen

Het artikel schetst drie primaire bijdragen:

1. Efficiënte Exploratie van Disjuncte Gebieden met Hoge Likelihood: MOBOLFI kan de gebieden met een hoge likelihood voor meerdere databronnen in één enkele run verkennen, zelfs wanneer deze gebieden disjunct zijn (een scenario dat voorkomt bij model-misspecificatie). Dit is moeilijk voor single-objective benaderingen die in lokale optima van een gecombineerde metriek terecht kunnen komen.
2. Vermijden van Informatieverlies: Door het niet nodig te maken om discrepanties samen te voegen tot een enkele scalaire waarde, behoudt MOBOLFI de onderscheidende informatie van elke databron. Dit voorkomt de "zeer conservatieve" onzekerheidskwantificering die vaak wordt gezien bij het gebruik van willekeurige gewichten om discrepanties te combineren.
3. Diagnostische Mogelijkheden: De methode maakt de benadering van likelihoods voor individuele databronnen mogelijk. Dit stelt onderzoekers in staat om:
   • Te controleren op conflicterende informatie tussen databronnen (modelcontrole).
   • De relatieve belangrijkheid van specifieke databronnen voor het schatten van individuele parameters te bepalen.

4. Experimentele Resultaten

De auteurs valideren MOBOLFI via drie voorbeelden:

A. Toy Example (Brownian Motion)

• Setup: Een synthetisch model met twee databronnen (Normale observaties en gediscretiseerde Brownse beweging) die een 10-dimensionale parameter schatten.
• Bevindingen:
  • MOBOLFI produceerde posteriors met een lagere variantie en een betere uitlijning met de ware posterior vergeleken met BOLFI met een gewogen som van discrepanties.
  • MOBOLFI slaagde erin de ware posterior voor individuele databronnen te herstellen (conditioneel op slechts één bron) zonder extra computationele kosten na de gezamenlijke run.
  • In een misspecificatiescenario (waarbij de twee databron werden gegenereerd door verschillende ware parameters), identificeerde MOBOLFI de conflicterende informatie, terwijl BOLFI een posterior modus produceerde die tussen de conflicterende waarheden in lag, waardoor het niet in staat was de afzonderlijke gebieden met hoge likelihood te vangen.

B. Synthetische MLBA (Multi-attribute Linear Ballistic Accumulator)

• Setup: Een SSM gebruikt voor besluitvorming, gefit op synthetische keuze- en reactietijd (RT) data. De closed-form likelihood van MLBA diende als "gold standard".
• Bevindingen:
  • De MOBOLFI posteriors waren significant dichter bij de closed-form gold standard dan de BOLFI posteriors.
  • MOBOLFI toonde aan dat Reactietijd (RT) data cruciaal was voor het schatten van back-end parameters (beslissingsdrempel/moeilijkheidsgraad), terwijl Keuze (CH) data meer informatief was voor front-end parameters (voorkeuren).
  • In misspecificatiescenario's verkende MOBOLFI de parameterruimte effectief en identificeerde het lokale optima nabij de conflicterende ware parameters, terwijl BOLFI er niet in slaagde om het volledige gebied van hoge likelihood voor beide bronnen simultaan te verkennen.

C. Real-World Data (Ride-hailing Drivers)

• Setup: Een empirische studie naar de voorkeuren van Singaporese ride-hailing chauffeurs voor elektrische voertuigen (EV), gebruikmakend van keuze- en RT-data.
• Bevindingen:
  • De MOBOLFI-benaderingen waren veel dichter bij de closed-form likelihood schattingen dan de BOLFI-benaderingen.
  • De analyse onthulde dat terwijl keuze-data de schatting van voorkeursparameters aanstuurde, RT-data essentieel was voor het schatten van de beslissingsdrempel.
  • Gezamenlijke data boden efficiëntere schattingen dan marginale databronnen alleen.

D. Day Care Center Voorbeeld (Appendix)

• Setup: Inferentie op bacteriële transmissiesnelheden met behulp van samenvattende statistieken van meerdere centra.
• Bevindingen: MOBOLFI presteerde competitief met BOLFI, zelfs in deze single-source context (wanneer data-samenvattingen werden gepartitioneerd), wat de robuustheid aantoont.

5. Betekenis en Claims

Het artikel beweert dat MOBOLFI een robuust kader biedt voor Bayesiaanse inferentie in complexe, computationeel dure modellen met meerdere databronnen. De betekenis ligt in:

• Omgaan met Misspecificatie: Het biedt een mechanisme om conflicten tussen databronnen te detecteren en te analyseren, wat cruciaal is voor betrouwbare analyse in complexe modellen zoals SSMs.
• Simulatie-efficiëntie: Het bereikt nauwkeurige benaderingen met minder simulaties dan methoden die grote batches data vereisen voor dichtheidschatting, wat het geschikt maakt voor dure simulatoren.
• Interpreteerbaarheid: Door de bijdrage van de likelihoods te scheiden, biedt het dieper inzicht in welke databronnen de schatting van specifieke parameters aansturen, een kenmerk dat verloren gaat bij single-discrepancy benaderingen.

De auteurs merken op dat hoewel MOBOLFI door SSMs wordt gemotiveerd, het toepasbaar is op elk LFI-probleem met multi-source data. Ze erkennen dat er nog uitdagingen zijn, zoals de gevoeligheid voor de keuze van samenvattende statistieken en de initialisatie van het BO-algoritme, en stellen dit voor als gebieden voor toekomstig onderzoek.