Folded Transport MCMC: Certifiable Quotient Posterior Computation for Symmetric Bayesian Models

Resumo Técnico: Folded Transport MCMC (FolT-MCMC)

1. Definição do Problema

Modelos Bayesianos que exibem permutabilidade finita — como modelos de mistura com componentes permutáveis ou problemas de identificação estrutural com modos próximos — definem distribuições posteriores invariantes sob um grupo de permutações de rótulos ($G$). Esta simetria induz $m!$ (ou geralmente $|G|$) modos posteriores equivalentes, um fenômeno conhecido como troca de rótulos (label switching).

Abordagens padrão de Markov Chain Monte Carlo (MCMC) que operam no espaço de parâmetros rotulado completo enfrentam dois problemas críticos:

1. Multimodalidade Redundante: A cadeia deve percorrer $|G|$ modos simétricos, levando a uma mistura pobre e diagnósticos de convergência pouco confiáveis.
2. Certificação Vacante: Certificados de convergência baseados em limites de spectral gap (via o framework LCNF, por exemplo) tornam-se vacantes. A oscilação da razão de densidade logarítmica é inflada pelo "gap entre modos" (cross-mode gap) entre modos simétricos separados, fazendo com que os limites certificados inferiores do spectral gap colapsem para quase zero, mesmo que a cadeia misture bem dentro de um único modo.

Embora existam métodos de rotulagem post-hoc para recuperar parâmetros identificáveis, eles não abordam as dificuldades de mistura subjacentes da cadeia nem fornecem garantias de convergência certificadas para o processo de amostragem em si.

2. Metodologia: Folded Transport MCMC

O artigo introduz o Folded Transport MCMC (FolT-MCMC), um framework que realiza inferência diretamente sobre o posterior quociente (a distribuição sobre classes de equivalência) em vez do espaço rotulado completo.

Mecanismo Central:

• Alvo Quociente: O método define um domínio fundamental $D$ (por exemplo, um chamber ordenado para permutações ou um semi-espaço para reflexões) e uma densidade alvo dobrada $\pi_F(z) = |G| \cdot \pi(z)$ para $z \in D$. Isso elimina a multimodalidade simétrica, deixando um único modo representativo por órbita.
• Proposta Quociente: Um amostrador de independência é construído em $D$. A densidade de proposta $q_F$ é formada por uma simetrização de um normalizing flow aprendido $T_F$ (treinado em amostras dobradas) sobre as órbitas do grupo:
  $$q_F(z) = \sum_{g \in G} q_{T_F}(g \cdot z)$$
  Isso garante que a proposta respeite a simetria enquanto é treinada na estrutura de modo único do espaço quociente.
• Amostragem: O algoritmo executa Independence Metropolis–Hastings (IMH) no domínio fundamental $D$ usando a proposta quociente.

Estrutura Teórica:
O FolT-MCMC integra-se ao framework de certificação LCNF (Local Concentration and Normalizing Flow). O artigo prova que a certificação baseada em oscilação do LCNF se transfere para a métrica quociente:

• Métrica Quociente: Uma métrica $d_G(\theta, \theta') = \min_{g \in G} \|\theta - g \cdot \theta'\|$ é usada para lidar com argumentos de cobertura próximos à fronteira da dobra.
• Limites Corrigidos pelo Estabilizador: O framework incorpora um limite de massa de bola corrigido pelo estabilizador para considerar pontos na fronteira da dobra onde a ação do grupo não é livre.
• Certificação: O método calcula um limite inferior certificado de núcleo de quantil ($QC_\gamma$) para o spectral gap. Este limite é computável a partir de amostras finitas e parâmetros da rede, fornecendo um diagnóstico rigoroso da estabilidade da razão de densidade no núcleo de alta probabilidade do posterior.

3. Principais Contribuições

1. Framework de Posterior Quociente: Os autores definem o alvo dobrado $\pi_F$ e provam uma identidade exata de HPD (Highest Posterior Density) ($K_\alpha^F = K_\alpha \cap D$). Eles constroem a proposta quociente $q_F$ e mostram que o piso de densidade melhora por um fator de $|G|$, auxiliando significativamente a cobertura.
2. Certificação no Espaço Quociente: O artigo estabelece que o teorema de oscilação empírica do LCNF se transfere para o cenário quociente. Resultados teóricos chave incluem:
   • O raio de cobertura $\varepsilon^*_F$ no espaço quociente é menor ou igual ao raio não dobrado $\varepsilon^*_U$.
   • O limite inferior certificado melhora sempre que o flow não dobrado exibe "deficiência de proposta entre modos" (ou seja, falha em cobrir todos os modos simétricos simultaneamente).
3. Validação Empírica: Experimentos extensos demonstram que o FolT-MCMC produz certificados não vacantes onde métodos não dobrados falham.
   • Misturas Gaussianas: Em dimensões $d=2$ a $20$, o certificado dobrado permanece estável ($QC_\gamma \in [0.90, 0.94]$), enquanto o certificado não dobrado colapsa (ex: para $0.016$ em $d=20$).
   • Troca de Rótulos: Para misturas com até $24$ modos equivalentes ($m=4$), o certificado dobrado melhora por um fator de $145\times$ em comparação com a linha de base não dobrada.
   • Aplicação no Mundo Real: Aplicado a dados de acelerômetros de um edifício superalto durante o Tufão Mangkhut, o FolT-MCMC produziu um certificado não vacante para um problema de identificação de três modos próximos, onde o certificado não dobrado era vacante.

4. Resultados e Desempenho

• Independência de Dimensão: O certificado dobrado é empiricamente quase independente da dimensão. Em contraste, o certificado não dobrado degrada rapidamente com a dimensão devido à dificuldade da arquitetura de acoplamento em representar estruturas multimodais em altas dimensões.
• Sensibilidade ao Número de Modos: O certificado não dobrado é mais sensível ao número de modos simétricos ($s = |G|$) do que à dimensão ambiente. Aumentar o número de modos de 6 para 24 causou uma degradação de $15\times$ no certificado não dobrado, enquanto dobrar a dimensão (com modos fixos) causou apenas uma degradação de $2\times$.
• Comparação com Baselines:
  • vs. IMH Não Dobrado: O FolT-MCMC alcança altas taxas de aceitação e recupera os parâmetros verdadeiros, enquanto cadeias não dobradas frequentemente congelam ou falham em explorar o posterior.
  • vs. Amostrador de Permutação Aleatória (RPS): Embora o RPS possa recuperar estimativas de ponto corretas via permutação post-hoc, ele não melhora a qualidade da proposta subjacente (as taxas de aceitação permanecem baixas) e carece de um framework de certificação compatível. O FolT-MCMC fornece um certificado apertado e não vacante que condiz com o tamanho efetivo de amostra (ESS) empírico.
  • vs. Ordenação Post-hoc: Ordenar amostras de uma cadeia congelada produz estimativas de ponto corretas, mas não oferece garantia de convergência. O FolT-MCMC garante que o amostrador realmente explore o posterior.

5. Significância e Alegações

O artigo afirma que o FolT-MCMC resolve a barreira fundamental da convergência certificável em modelos Bayesianos simétricos.

• Restauração da Não-Vacuidade: A principal contribuição é restaurar a utilidade dos certificados baseados em oscilação na presença de multimodalidade simétrica. Ao dobrar o espaço, o método remove a oscilação entre modos que torna os certificados não dobrados vacantes.
• Distinção de Estimativa de Ponto: Os autores enfatem que, embora a rotulagem post-hoc possa recuperar estimativas de ponto corretas sob simetria exata, ela não pode certificar que o amostrador convergiu ou que os intervalos de credibilidade são válidos. O FolT-MCMC é necessário para a inferência posterior certificada.
• Princípio de Design: O artigo identifica uma regra de design crítica: a fronteira da dobra deve estar em um vale de baixa densidade entre os modos simétricos. Se a fronteira cortar regiões de alta densidade (como no diagnóstico "banana"), o limite de oscilação total pode aumentar, embora o certificado de núcleo de quantil ainda costume melhorar.

Limitações Reconhecidas:

• O certificado aplica-se ao núcleo de alta probabilidade do posterior, não a todo o suporte (comportamento de cauda). Garantias de spectral gap de suporte total para MCMC de transporte com espaços de estado ilimitados permanecem um problema em aberto.
• O método requer conhecimento exato do grupo de simetria $G$ e do domínio fundamental $D$.
• A soma da órbita na proposta escala com $|G|$, o que pode exigir aproximação para grupos muito grandes (embora gerenciável para $m \le 5$).

Em resumo, o FolT-MCMC oferece uma solução geométrica para a troca de rótulos que transforma um problema multimodal redundante e difícil de certificar em uma tarefa de inferência unimodal e certificável, preenchendo a lacuna entre garantias teóricas de convergência e desempenho prático em modelos Bayesianos simétricos.