Practical and Scalable Hamiltonian Monte Carlo Without the Metropolis Test

Enunciado do Problema
O Monte Carlo Hamiltoniano (HMC) e o Monte Carlo de Langevin subamortecido (LMC) são métodos de estado da arte para amostragem de distribuições de alta dimensão com densidades diferenciáveis. No entanto, esses métodos dependem de integração numérica, o que introduz um viés assintótico nas estimativas de esperança porque a distribuição estacionária do amostrador ($\tilde{p}$) desvia-se da distribuição alvo ($p$). Tradicionalmente, esse viés é eliminado adicionando-se uma etapa de rejeição de Metropolis–Hastets (MH). Embora isso garanta que a cadeia satisfaça o detalhamento de equilíbrio e remova o viés assintótico, a etapa de MH acarreta um custo computacional significativo em altas dimensões: a probabilidade de aceitação depende da soma dos erros de energia em todos os parâmetros, forçando o tamanho do passo a diminuir conforme a dimensão $d$ aumenta (escalonando como $d^{1/4}$). Isso resulta em uma mistura mais lenta e maior variância para cadeias de comprimento finito.

Alternativamente, esquemas "não ajustados" omitem a etapa de MH para evitar essa penalidade de escalonamento. Esses métodos podem operar com tamanhos de passo maiores e manter eficiência constante independentemente da dimensão. No entanto, eles sofrem de viés assintótico. A principal barreira para sua adoção prática tem sido a falta de um método automatizado e principiado para selecionar um tamanho de passo que equilibre esse viés contra a variância do conjunto de amostras finitas. Sem tal esquema, os praticantes não podem usar métodos não ajustados de maneira "caixa-preta".

Metodologia
Os autores propõem um esquema de ajuste automático para HMC, LMC e Monte Carlo de Langevin Microcanônico (MCLMC) não ajustados que seleciona um tamanho de passo baseado em uma tolerância de viés assintótico especificada pelo usuário. O cerne da metodologia reside em uma relação entre a Variância do Erro de Energia por Dimensão (EEVPD) e o viés assintótico.

1. Definição da Métrica: Os autores definem EEVPD como a variância do erro de energia de um passo ($\Delta H$) induzido pela integração numérica, normalizada pela dimensão $d$. Essa quantidade é computacionalmente barata de estimar online como uma média móvel durante o processo de amostragem.
2. Limites Teóricos:
   • Para distribuições Gaussianas alvo, os autores derivam uma relação analítica exata mostrando que a EEVPD fornece um limite superior para o viés assêntotico da matriz de covariância ($b^2_{cov}$) e da distância de Wasserstein ($W_2$). Especificamente, eles provam que $b^2_{cov} \leq \phi^{-1}(\text{EEVPD})$ para valores de EEVPD abaixo de um limite específico.
   • Eles demonstram que, para Gaussianas isotrópicas, este limite é agudo.
3. Validação Empírica: Experimentos numéricos em benchmarks não Gaussianos (incluindo Rosenbrock, Funnel e movimento Browniano) confirmam que o limite superior derivado de Gaussianas geralmente se mantém para alvos não Gaussianos, com exceção do caso do movimento Browniano, onde o viés é ligeiramente maior do que o previsto.
4. Algoritmo de Ajuste: O algoritmo proposto varia adaptativamente o tamanho do passo $\epsilon$ durante uma fase de aquecimento (warm-up) para visar um valor específico de EEVPD. Esse EEVPD alvo é derivado da tolerância de erro quadrático médio (RMSE) relativo desejada pelo usuário. Com base em uma análise de compromisso entre viés e variância para alvos Gaussianos, os autores recomendam definir o viés ao quadrado para ser aproximadamente um quinto da tolerância total de erro quadrático médio.

Principais Contribuições

• Esquema de Ajuste Automático: Um algoritmo caixa-preta que seleciona automaticamente tamanhos de passo para HMC, LMC e MCLMC não ajustados sem ajuste manual de hiperparâmetros.
• Justificativa Teórica: Prova rigorosa estabelecendo que a EEVPD limita superiormente o viés da covariância assintótica para distribuições Gaussianas, fornecendo uma base teórica para o uso do erro de energia como um controle de viés.
• Escalabilidade: Demonstração de que métodos não ajustados, quando sintonizados através deste esquema, evitam a penalidade de escalonamento $d^{1/4}$ dos métodos ajustados por Metropolis, mantendo o custo computacional constante conforme a dimensionalidade aumenta.

Resultos
O artigo avalia o método proposto contra contrapartes ajustadas por Metropolis (incluindo NUTS e MALT) e métodos ajustados via busca em grade (grid-search) através de vários benchmarks:

• Benchmarks de Inferência Bayesiana: Em problemas padrão (Gaussiana Padrão, Rosenbrock, Crédito Alemão, Resposta de Item, Volatilidade Estocástica), os métodos não ajustados superam consistentemente os métodos ajustados e o NUTS em termos do número de chamadas de gradiente necessárias para atingir um erro alvo ($b^2_{avg} < 0,01$). Na maioria dos casos, os métodos não ajustados requerem significativamente menos avaliações de gradiente.
• Modelos de Física de Alta Dimensão:
  • Teoria de Campo $\phi^4$ ($>10^6$ dimensões): O MCLMC não ajustado exigiu apenas 1.344 chamadas de gradiente para convergir, uma melhoria de 100 vezes sobre o NUTS (133.266 chamadas) e uma melhoria significativa sobre o MCLMC ajustado (39.240 chamadas).
  • Teoria de Campo de Rede U(1) ($\approx 2 \times 10^6$ dimensões): O MCLMC não ajustado convergiu em 198 chamadas de gradiente, enquanto o NUTS, HMC e MCLMC ajustados exigiram 127.875, 17.699 e 15.578 chamadas, respectivamente.
• Controle de Viés: No problema "Funnel", o MCLMC não ajustado produziu posteriors marginais indistinguíveis de uma cadeia NUTS muito longa, demonstrando que o viés de discretização foi suprimido com sucesso a níveis negligenciáveis.

Significância e Alegações
Os autores alegam que seu trabalho transforma amostradores baseados em gradiente não ajustados em ferramentas totalmente automáticas e escaláveis que não requerem ajuste manual de hiperparâmetros. Eles afirmam que, com este esquema de ajuste, os métodos não ajustados superam consistentemente e significativamente seus contrapartes ajustados, particularmente em configurações de alta dimensão onde o custo do teste de Metropolis torna-se proibitivo. O artigo posiciona esses métodos como uma alternativa escalável para uma ampla gama de aplicações, desde programação probabilística até ciência computacional (especificamente teoria estatística e de campos quânticos).

Os autores permanecem modestos quanto ao escopo de suas alegações:

• Eles reconhecem que os limites teóricos são rigorosamente provados para Gaussianas e estendidos empiricamente para não Gaussianas, observando uma exceção (movimento Browniano) onde o viés é maior do que o esperado.
• Eles não reivindicam superioridade em aplicações puras de aprendizado de máquina (ex: redes neurais bayesianas), citando a controvérsia sobre se tais modelos oferecem vantagens sobre redes padrão.
• Eles enfatizam que, embora o método seja "caixa-preta", os usuários ainda devem empregar diagnósticos (ex: rodar cadeias com metade do tamanho de passo) para verificar se o viés de discretização é negligenciável para seu problema específico, de forma semelhante às práticas padrão para verificar o viés de inicialização.