Bayesian Inference for Discrete Markov Random Fields Through Coordinate Rescaling

1. O Problema

O artigo aborda os desafios computacionais e estatísticos na inferência bayesiana de Campos Aleatórios de Markov (MRFs) discretos.

• Intratabilidade Dupla: A inferência exata em MRFs discretos é frequentemente inviável devido à "intratabilidade dupla". Tanto a função de verossimilhança quanto a distribuição a posteriori envolvem uma constante de normalização ($Z(\eta)$) que requer a soma sobre todas as configurações possíveis do espaço de estados. Como o tamanho desse espaço cresce exponencialmente com o número de variáveis e seus estados, o cálculo exato torna-se proibitivo para redes de tamanho moderado ou grande.
• Limitações dos Métodos Atuais:
  • Algoritmos de Metropolis-Hastings Duplo (DMH): Embora precisos, exigem amostragem aninhada (MCMC interno) para aproximar a razão de constantes de normalização, resultando em custos computacionais extremamente altos e baixa escalabilidade.
  • Pseudo-Verossimilhança: Oferece escalabilidade computacional (evitando o cálculo de $Z(\eta)$), mas tende a subestimar sistematicamente a variabilidade posterior (incerteza), produzindo intervalos de credibilidade muito estreitos e enviesados.
  • Calibração Post Hoc: Métodos existentes que ajustam a variância após a amostragem não podem ser integrados diretamente em procedimentos que estimam a estrutura da rede e os parâmetros simultaneamente.

2. Metodologia Proposta: CoRe (Coordinate Rescaling)

Os autores propõem uma nova classe de métodos de amostragem MCMC chamada Coordinate Rescaling (CoRe). A ideia central é transformar o espaço de parâmetros durante o processo de amostragem para corrigir a geometria da distribuição posterior baseada na pseudo-verossimilhança, aproximando-a da posterior exata.

• Transformação Linear: O método aplica uma transformação linear aos parâmetros ($\beta = A(\eta - \eta^*) + \eta^*$), onde $\eta$ são os parâmetros na escala da pseudo-posterior e $\beta$ na escala transformada.
• Matriz de Redimensionamento ($A$): A matriz $A$ é construída para aproximar a estrutura de covariância da posterior alvo. Ela combina:
  • A curvatura local da pseudo-verossimilhança (fator de Cholesky da Hessiana).
  • Uma estimativa robusta da variância-covariância alvo, baseada no estimador Godambe-Huber-White (GHW), que corrige a subestimação da variância típica da pseudo-verossimilhança.
• Algoritmo de Amostragem: O algoritmo MCMC (baseado em FisherMALA) opera no espaço transformado $\beta$. A probabilidade de aceitação de Metropolis-Hastings é calculada usando a pseudo-verossimilhança, mas a proposta e a aceitação ocorrem no espaço onde a geometria da covariância foi corrigida.
• Versão Adaptativa (AdaCoRe): O artigo introduz também uma versão adaptativa onde a matriz de redimensionamento é atualizada iterativamente durante a fase de "burn-in" (aquecimento), eliminando a necessidade de especificar a matriz $A$ a priori e permitindo que o algoritmo aprenda a curvatura local dinamicamente.

3. Principais Contribuições

1. Novo Paradigma de Amostragem: Introdução do CoRe, que integra a correção de escala diretamente no algoritmo de amostragem, diferentemente de métodos post hoc que ajustam os resultados após a coleta de amostras.
2. Equilíbrio entre Escalabilidade e Precisão: O método mantém a eficiência computacional da pseudo-verossimilhança (evitando amostragem aninhada cara) enquanto recupera a quantificação correta da incerteza posterior e as covariâncias entre parâmetros.
3. Validação Empírica Rigorosa: Os autores realizaram extensos estudos de simulação comparando o CoRe e o AdaCoRe com:
   • Métodos de recalibração (Post Hoc com Robbins-Monro, GHW, Monte Carlo Hessian).
   • Aproximações de verossimilhança (Verossimilhança Empírica).
   • Métodos de kernel de transição (DMH e AdaDMH).
4. Implementação Prática: O método está sendo implementado no pacote R bgms, visando tornar a inferência bayesiana escalável acessível a pesquisadores aplicados.

4. Resultados dos Estudos de Simulação

Os experimentos foram conduzidos em redes de diferentes tamanhos ($p=6, 9$), estruturas (small-world, aleatória, totalmente conectada) e tamanhos de amostra ($n=500$ a $3000$).

• Precisão da Variância: O CoRe e o AdaCoRe corrigiram eficazmente a subestimação da variância da pseudo-verossimilhança. As razões entre o desvio padrão estimado e o exato ficaram próximas de 1, superando a pseudo-verossimilhança (que subestimava em 30-35%) e superando o DMH em termos de estabilidade em redes maiores.
• Overlap (Sobreposição) Posterior: Os métodos CoRe alcançaram uma sobreposição mediana de 90-95% com a posterior exata, comparável ao DMH (que é o "padrão-ouro" em precisão), mas com custos computacionais muito menores.
• Eficiência Computacional:
  • DMH/AdaDMH: Foram extremamente lentos (dezenas de minutos a horas por cadeia) e sofreram queda drástica na Eficiência de Amostragem Efetiva (ESS) à medida que a complexidade da rede aumentava.
  • CoRe/AdaCoRe: Foram significativamente mais rápidos que o DMH (segundos a poucos minutos) e mantiveram ESS estáveis e altos, mesmo em redes maiores.
  • Pseudo-Verossimilhança: Foi a mais rápida, mas com inferência estatisticamente deficiente (incerteza subestimada).
• Razão de Densidade Savage-Dickey: O CoRe forneceu evidências para independência condicional (testes de arestas ausentes) muito mais alinhadas com a posterior exata do que a pseudo-verossimilhança ou o AdaDMH.

5. Significado e Implicações

O trabalho demonstra que é possível superar a intratabilidade dupla em MRFs discretos sem sacrificar a precisão estatística em favor da velocidade, nem vice-versa.

• Seleção de Arestas e Aprendizado de Estrutura: A correção precisa da escala posterior é crucial para a seleção de arestas baseada em fatores de Bayes ou razões de densidade. O CoRe permite que a estimativa de parâmetros e a inferência estrutural ocorram em uma escala posterior calibrada, facilitando o aprendizado de estrutura conjunta.
• Viabilidade para Redes Maiores: Ao evitar a amostragem aninhada do DMH, o CoRe torna a inferência bayesiana viável para redes com dezenas de variáveis, um cenário onde métodos exatos falham e métodos de pseudo-verossimilhança falham na quantificação de incerteza.
• Generalização: O princípio de redimensionamento pode ser estendido para outros modelos com verossimilhanças compostas ou substitutas, como Modelos de Grafos Aleatórios Exponenciais (ERGMs) e modelos de autoregressão espacial.

Em resumo, o artigo apresenta o CoRe como uma solução robusta e escalável para a inferência bayesiana em MRFs discretos, preenchendo a lacuna entre a velocidade da pseudo-verossimilhança e a precisão dos métodos de troca exata.