Chained Markov melding using divide and conquer sequential Monte Carlo

Technische Samenvatting: Gekoppelde Markov-melding met behulp van Divide-and-Conquer Sequential Monte Carlo

Probleemstelling
Het integreren van bewijs uit meerdere gegevensbronnen is een centrale uitdaging in statistische analyse. Hoewel volledig Bayesiaanse benaderingen deze synthese op natuurlijke wijze accommoderen via posterieure verdelingen, is het specificeren en schatten van één enkel gezamenlijk model voor complexe, multi-bron data vaak computationeel onhaalbaar. Een veelgebruikt alternatief, "Markov-melding", stelt onderzoekers in staat submodellen voor individuele gegevensbronnen te specificeren en deze te combineren door een gezamenlijke prior te definiëren op gedeelde grootheden.

Echter, bestaande computationele methoden voor Markov-melding, met name voor "gekoppelde" structuren waarbij aangrenzende submodellen verschillende gemeenschappelijke parameters delen (bijvoorbeeld: Submodel 1 deelt $\phi_{1,2}$ met Submodel 2, dat op zijn beurt $\phi_{2,3}$ deelt met Submodel 3), staan voor aanzienlijke beperkingen. Eerdere benaderingen, zoals het twee-traps MCMC-algoritme voorgesteld door Manderson en Goudie (2023), zijn kwetsbaar en schalen niet goed naarmate het aantal submodellen ($M$) toeneemt. Bovendien lijdt standaard MCMC toegepast op het volledige gezamenlijke model vaak aan slechte menging, vooral wanneer latente toestandsvariabelen en statische parameters sterk gecorreleerd zijn (bijvoorbeeld in stochastische volatiliteitsmodellen).

Methodologie
De auteurs stellen een nieuw meerstaps-sampler voor, genaamd D&C-melding, die Markov-melding combineert met het Divide-and-Conquer Sequential Monte Carlo (D&C-SMC) raamwerk (Lindsten et al., 2017).

1. Boomdecompositie van Gekoppelde Modellen: De kerninnovatie is het aantonen dat een gekoppeld Markov-melding-model structureel kan worden omgezet in een boomstructuur. In deze decompositie is de doelwit-posterieure verdeling de wortelknooppunt, en vormen subposteriors van disjuncte sets submodellen de kindknooppunten. Deze structuur voldoet aan de voorwaarden voor een geldige boomdecompositie, waardoor de toepassing van D&C-SMC mogelijk wordt.
2. Meerstaps Steekproefstrategie:
   • Trap 1 (Bladknooppunten): De sampler richt zich op subposteriors van onafhankelijke of losjes verbonden submodellen parallel. Voor een keten van $M$ submodellen steekproeft de initiële trap doorgaans uit een subset van niet-aangrenzende submodellen (bijvoorbeeld submodellen met oneven index).
   • Intermediaire Trappen: Het algoritme voegt deeltjes van kindknooppunten geleidelijk samen tot ouderknooppunten. Dit impliceert het herschalen van deeltjes op basis van de waarschijnlijkheden van de nieuw geïntroduceerde submodellen en de gepoolde priors.
   • Wortelknooppunt (Laatste Trap): Het proces culmineert bij het wortelknooppunt, met als doel de volledige gezamenlijke posterieure verdeling.
   • Adaptieve Structuur: Het specifieke samenvoegpatroon hangt af van of $M$ oneven of even is en van de rest bij deling door 4. De auteurs leiden het exacte aantal benodigde trappen voor elk geval af (bijvoorbeeld: als $4 | (M+1)$, is het aantal trappen $(M+5)/4$).
3. SMC2-extensie: Om modellen met sterke correlaties tussen latente en statische parameters aan te pakken (zoals Stochastische Volatiliteitsmodellen), integreren de auteurs het SMC2-algoritme (Chopin et al., 2013) in het D&C-melding-raamwerk. Dit vervangt de standaard tempering-SMC bij het wortelknooppunt door een particle MCMC (PMCMC)-benadering, waarbij een deeltjesfilter wordt gebruikt voor latente variabelen en MCMC voor statische parameters.
4. Volgen van Deeltjestrajecten: Een kritiek onderdeel van de methode is het bijhouden van deeltjesindices over trappen heen. Aangezien deeltjes worden herschaald en samengevoegd, onderhoudt het algoritme "multiset" van indices om ervoor te zorgen dat steekproeven voor parameters uit eerdere trappen (bijvoorbeeld $\phi_{1,2}$) correct worden bijgewerkt en doorgegeven via latere trappen, zelfs wanneer die parameters niet direct betrokken zijn bij het huidige submodel dat wordt verwerkt.

Belangrijkste Bijdragen

• Schalbare Meerstaps Sampler: Het artikel introduceert een sampler die in staat is om een willekeurig aantal submodellen ($M \ge 3$) in een gekoppelde Markov-meldingstructuur te verwerken, waarmee de schaalbaarheidsproblemen van eerdere twee-traps MCMC-methoden worden overwonnen.
• Parallelisatie: Door het probleem te decomponeren in een boomstructuur, maakt de methode parallelle steekproefneming van onafhankelijke submodellen op elke trap mogelijk, wat de computatietijd verlaagt.
• Robuustheid tegen Correlatie: De integratie van SMC2 stelt de methode in staat complexe modellen (zoals Stochastische Volatiliteit) aan te pakken waarbij standaard MCMC en tempering-SMC falen door slechte menging.
• Generalisatie van Boomdecompositie: De auteurs bewijzen formeel dat de meerstaps-samplerstructuur een geldige boomdecompositie vormt, waardoor de theoretische fundering wordt geboden voor het toepassen van D&C-SMC op gekoppelde modellen.

Resultaten
De auteurs evalueren de methode via twee voorbeelden:

1. Voorbeeld (11 Submodellen): Een simulatie met 11 submodellen van variërende types, waaronder Normal, t-verdelingen, Hidden Markov-modellen en een Stochastische Volatiliteit (SV) model.
   • Prestatie: De D&C-melding-sampler presteerde vergelijkbaar met een gouden standaard volledige MCMC voor de meeste parameters.
   • SV-model: Voor de SV-modelparameters ($\phi_{5,6}$) vertoonden standaard MCMC en D&C-melding met tempering-SMC slechte prestaties (hoge MSE, lage dekking). De D&C-melding met SMC2-extensie presteerde echter aanzienlijk beter dan beide, met bijna perfecte dekking en lagere MSE.
   • Beperking: De auteurs merken op dat de sampler gevoelig is voor de kwaliteit van initiële steekproeven; slechte steekproeven in de eerste trap (bijvoorbeeld voor $\phi_{8,9}$) werden niet volledig gecorrigeerd in latere trappen, wat leidde tot suboptimale schattingen voor die specifieke parameter.
2. Geïntegreerd Populatiemodel voor Kleine Uilen (IPM): Een casestudie uit de praktijk die capture-recapture-, tel- en vruchtbaarheidsdata combineert om immigratie- en reproductiesnelheden te schatten.
   • De D&C-melding-sampler produceerde posterieure schattingen voor gemeenschappelijke parameters ($\alpha_0, \alpha_2, \rho$) die consistent waren met zowel het originele IPM als de originele Markov-melding-sampler.
   • De methode slaagde erin informatie uit alle submodellen te integreren, waardoor de onderschatting van onzekerheid die werd gezien bij "plug-in" twee-traps benaderingen werd gecorrigeerd.

Betekenis en Beweringen
Het artikel beweert dat de D&C-melding-benadering een flexibel alternatief biedt voor het steekproeven uit complexe gezamenlijke modellen, vooral wanneer het aantal submodellen groot is. Hoewel de methode niet universeel beter presteert dan volledige MCMC in alle scenario's (zoals gezien in het voorbeeld waar het voor de meeste parameters gelijk trok met MCMC in plaats van deze te overtreffen), maakt het vermogen om berekening te paralleliseren en specifieke moeilijke structuren aan te pakken (zoals SV-modellen via SMC2) het een waardevol instrument.

De auteurs concluderen nederig dat de methode bijzonder voordelig is voor situaties waar dataprivacybeperkingen gezamenlijke analyse voorkomen (bijvoorbeeld data van verschillende ziekenhuizen), aangezien het inferentie mogelijk maakt terwijl de gegevensbronnen gescheiden blijven tot het samenvoegingsstadium. Zij erkennen dat de huidige methode beperkt is tot ketenstructuren en identificeren de generalisatie naar willekeurige Gerichte Acyclische Grafen (DAG's) met meerdere gedeelde parameters als een noodzakelijke richting voor toekomstig werk.