Chained Markov melding using divide and conquer sequential Monte Carlo

Resumo Técnico: Melding de Markov em Cadeia usando Monte Carlo Sequencial Dividir e Conquistar

Declaração do Problema
Integrar evidências de múltiplas fontes de dados é um desafio central na análise estatística. Embora abordagens totalmente bayesianas acomodem naturalmente essa síntese através de distribuições posteriores, especificar e ajustar um único modelo conjunto para dados complexos e multi-fonte é frequentemente computacionalmente proibitivo. Uma alternativa comum, o "melding de Markov", permite que pesquisadores especifiquem submodelos para fontes de dados individuais e os combinem definindo uma priori conjunta sobre quantidades compartilhadas.

No entanto, os métodos computacionais existentes para melding de Markov, particularmente para estruturas "em cadeia" onde submodelos adjacentes compartilham parâmetros comuns distintos (por exemplo, o Submodelo 1 compartilha $\phi_{1,2}$ com o Submodelo 2, que compartilha $\phi_{2,3}$ com o Submodelo 3), enfrentam limitações significativas. Abordagens anteriores, como o algoritmo MCMC de dois estágios proposto por Manderson e Goudie (2023), são frágeis e não escalam bem à medida que o número de submodelos ($M$) aumenta. Além disso, o MCMC padrão aplicado ao modelo conjunto completo frequentemente sofre de mistura pobre, especialmente quando variáveis de estado latentes e parâmetros estáticos estão fortemente correlacionados (por exemplo, em modelos de volatilidade estocástica).

Metodologia
Os autores propõem um amostrador multiestágio inovador, denominado D&C-melding, que combina melding de Markov com o framework Dividir-e-Conquistar Monte Carlo Sequencial (D&C-SMC) (Lindsten et al., 2017).

1. Decomposição em Árvore de Modelos em Cadeia: A inovação central é demonstrar que um modelo de melding de Markov em cadeia pode ser estruturalmente convertido em um modelo com estrutura de árvore. Nesta decomposição, a distribuição posterior alvo é o nó raiz, e as posteriores parciais de conjuntos disjuntos de submodelos formam os nós filhos. Esta estrutura satisfaz as condições para uma decomposição em árvore válida, permitindo a aplicação do D&C-SMC.
2. Estratégia de Amostragem Multiestágio:
   • Estágio 1 (Nós Folha): O amostrador visa posteriores parciais de submodelos independentes ou fracamente conectados em paralelo. Para uma cadeia de $M$ submodelos, o estágio inicial geralmente amostra de um subconjunto de submodelos não adjacentes (por exemplo, submodelos de índice ímpar).
   • Estágios Intermediários: O algoritmo funde progressivamente partículas de nós filhos para nós pais. Isso envolve reamostrar partículas com base nas verossimilhanças dos submodelos recém-introduzidos e das priores agrupadas.
   • Nó Raiz (Estágio Final): O processo culmina no nó raiz, visando a distribuição posterior conjunta completa.
   • Estrutura Adaptativa: O padrão de fusão específico depende se $M$ é ímpar ou par e do seu resto módulo 4. Os autores derivam o número exato de estágios necessários para cada caso (por exemplo, se $4 | (M+1)$, o número de estágios é $(M+5)/4$).
3. Extensão SMC2: Para abordar modelos com correlações fortes entre parâmetros latentes e estáticos (como modelos de Volatilidade Estocástica), os autores integram o algoritmo SMC2 (Chopin et al., 2013) ao framework D&C-melding. Isso substitui o SMC de temperamento padrão no nó raiz por uma abordagem MCMC de partículas (PMCMC), utilizando um filtro de partículas para variáveis latentes e MCMC para parâmetros estáticos.
4. Rastreamento de Trajetórias de Partículas: Um componente crítico do método é o rastreamento dos índices de partículas através dos estágios. Como as partículas são reamostradas e fundidas, o algoritmo mantém "multiconjuntos" de índices para garantir que as amostras para parâmetros de estágios anteriores (por exemplo, $\phi_{1,2}$) sejam corretamente atualizadas e propagadas através dos estágios subsequentes, mesmo quando esses parâmetros não estão diretamente envolvidos no submodelo atual sendo processado.

Principais Contribuições

• Amostrador Multiestágio Escalável: O artigo introduz um amostrador capaz de lidar com um número arbitrário de submodelos ($M \ge 3$) em uma estrutura de melding de Markov em cadeia, superando os problemas de escalabilidade dos métodos anteriores de MCMC de dois estágios.
• Paralelização: Ao decompor o problema em uma estrutura de árvore, o método permite a amostragem paralela de submodelos independentes em cada estágio, reduzindo o tempo computacional.
• Robustez à Correlação: A integração do SMC2 permite que o método lide com modelos complexos (como Volatilidade Estocástica) onde o MCMC padrão e o SMC de temperamento falham devido à mistura pobre.
• Generalização da Decomposição em Árvore: Os autores provam formalmente que a estrutura do amostrador multiestágio constitui uma decomposição em árvore válida, fornecendo a base teórica para a aplicação do D&C-SMC a modelos em cadeia.

Resultados
Os autores avaliam o método através de dois exemplos:

1. Exemplo Simulado (11 Submodelos): Uma simulação envolvendo 11 submodelos de tipos variados, incluindo Normais, distribuições t, Modelos Ocultos de Markov e um modelo de Volatilidade Estocástica (SV).
   • Desempenho: O amostrador D&C-melding performou de forma comparável a um MCMC completo de referência para a maioria dos parâmetros.
   • Modelo SV: Para os parâmetros do modelo SV ($\phi_{5,6}$), o MCMC padrão e o D&C-melding com SMC de temperamento mostraram desempenho pobre (alto MSE, baixa cobertura). No entanto, a extensão D&C-melding com SMC2 superou significativamente ambos, alcançando cobertura quase perfeita e menor MSE.
   • Limitação: Os autores notam que o amostrador é sensível à qualidade das amostras iniciais; amostras pobres no primeiro estágio (por exemplo, para $\phi_{8,9}$) não foram totalmente corrigidas em estágios posteriores, levando a estimativas subótimas para aquele parâmetro específico.
2. Modelo de População Integrada de Corujas-pequenas (IPM): Um estudo de caso do mundo real combinando dados de captura-recaptura, contagem e fecundidade para estimar taxas de imigração e reprodução.
   • O amostrador D&C-melding produziu estimativas posteriores para parâmetros comuns ($\alpha_0, \alpha_2, \rho$) que foram consistentes tanto com o IPM original quanto com o amostrador original de melding de Markov.
   • O método incorporou com sucesso informações de todos os submodelos, corrigindo a subestimação da incerteza observada em abordagens de dois estágios "plug-in".

Significância e Alegações
O artigo alega que a abordagem D&C-melding oferece uma alternativa flexível para amostrar de modelos conjuntos complexos, particularmente quando o número de submodelos é grande. Embora o método não supere universalmente o MCMC completo em todos os cenários (como visto no exemplo simulado onde ele igualou, em vez de exceder, o desempenho do MCMC para a maioria dos parâmetros), sua capacidade de paralelizar o cálculo e lidar com estruturas específicas difíceis (como modelos SV via SMC2) o torna uma ferramenta valiosa.

Os autores concluem modestamente que o método é particularmente vantajoso para configurações onde restrições de privacidade de dados impedem a análise conjunta (por exemplo, dados de diferentes hospitais), pois permite inferência mantendo as fontes de dados separadas até o estágio de fusão. Eles reconhecem que o método atual é restrito a estruturas em cadeia e identificam a generalização para Grafos Acíclicos Direcionados (DAGs) arbitrários com múltiplos parâmetros compartilhados como uma direção necessária para trabalhos futuros.