Besag-Clifford e-values for unnormalized testing

1. O Problema

O artigo aborda um desafio fundamental na estatística e no aprendizado de máquina: a testagem de hipóteses com distribuições de probabilidade não normalizadas.

• Contexto: Muitos modelos complexos (como Campos Aleatórios de Markov - MRFs, Máquinas de Boltzmann Restritas - RBMs, e produtos de especialistas - PoEs) são definidos apenas até uma constante de normalização desconhecida. A densidade é dada por $p(x) \propto g(x)$, onde a constante $K = \int g(x)dx$ é intratável.
• Limitação Atual: Testes de razão de verossimilhança (Neyman-Pearson), que são ótimos para hipóteses simples, tornam-se inviáveis porque a razão de verossimilhança $q(x)/p(x)$ não pode ser calculada sem conhecer as constantes de normalização de ambas as distribuições.
• Desafio Adicional: Métodos de Monte Carlo via Cadeia de Markov (MCMC) permitem amostrar dessas distribuições, mas a inabilidade de calcular a constante de normalização impede a construção direta de estatísticas de teste válidas (como valores-p ou valores-e) que garantam controle de erro Tipo I, especialmente em cenários de testes sequenciais ou pós-hoc.

2. Metodologia Proposta

Os autores propõem o uso de Valores-e de Besag-Clifford ($\hat{E}_M$), uma extensão do método de teste de Monte Carlo paralelo de Besag e Clifford (1989), adaptado para o paradigma de valores-e.

• Conceito Central (Exchangeabilidade): O método gera amostras $Y^{(1)}, \dots, Y^{(M)}$ que são exchangeáveis (permutáveis) com os dados observados $X$ sob a hipótese nula $P$. Isso é alcançado através de um esquema de amostragem "para trás e para frente":
  1. Dado $X$, evolui-se a cadeia de Markov para trás por $J$ passos usando um kernel reverso $V^J$ para obter um estado inicial $Y^{(0)}$.
  2. A partir de $Y^{(0)}$, geram-se $M$ trajetórias independentes para frente usando o kernel de transição $U^J$, produzindo $Y^{(1)}, \dots, Y^{(M)}$.
• Construção do Valor-e: Para uma estatística de teste não normalizada $T(x)$ (por exemplo, uma razão de verossimilhança não normalizada), o valor-e é definido como:
  $$\hat{E}_M(X) = \frac{(M + 1)T(X)}{T(X) + \sum_{m=1}^M T(Y^{(m)})}$$
• Validade: Devido à propriedade de exchangeabilidade sob $P$, a esperança deste valor-e é $\leq 1$, garantindo que seja um valor-e válido para qualquer $M$ e $J$, independentemente da complexidade da distribuição ou da desconhecida constante de normalização.
• Otimização Logarítmica: Quando $T(x)$ é proporcional à razão de verossimilhança verdadeira, o artigo demonstra que, à medida que $M \to \infty$, o valor-e converge para a razão de verossimilhança ótima (log-ótima), multiplicada por um fator de viés que depende do tempo de mistura da cadeia de Markov.

3. Principais Contribuições

O artigo apresenta várias contribuições teóricas e práticas:

1. Generalização para Distribuições Não Normalizadas: Estabelece um framework rigoroso para realizar testes de hipóteses válidos (controle de erro Tipo I) quando as distribuições são conhecidas apenas até uma constante de normalização.
2. Convergência e Optimalidade: Prova que, com um número suficientemente grande de amostras ($M$) e um algoritmo MCMC de mistura rápida (mixing), os valores-e de Besag-Clifford são aproximadamente log-ótimos. O desvio da optimalidade é quantificado e ligado ao tempo de mistura da cadeia (especificamente o tempo de mistura KL).
3. Aumento de Poder com Múltiplas Cadeias: Demonstra que a média de múltiplos valores-e gerados por cadeias independentes (iniciadas a partir de diferentes estados $Y^{(0)}_s$) aumenta o "poder-e" (e-power) sem violar a validade do teste.
4. Extensão para Hipóteses Compostas:
   • Nula Composta: Propõe o uso do mínimo de valores-e sobre um conjunto finito de distribuições nulas para construir regiões de confiança válidas.
   • Alternativa Composta: Permite o uso de estimadores de densidade (como modelos pré-treinados) na estatística de teste, normalizando-os via amostragem da nula.
5. Processos-e Sequenciais: Introduz os Processos-e de Besag-Clifford, permitindo testes sequenciais onde o tempo de parada pode depender dos dados (data-dependent stopping) mantendo o controle de erro Tipo I. Isso é crucial para aplicações em tempo real ou com custos de amostragem elevados.
6. Aplicação a Modelos Específicos: Detalha a aplicação em modelos AR(1), Máquinas de Boltzmann Restritas (RBMs) e Produtos de Especialistas (PoEs).

4. Resultados Empíricos e Simulações

Os autores validam a teoria através de simulações e um estudo de caso real:

• Processos AR(1): Em simulações com processos autorregressivos, demonstraram que o viés multiplicativo ($\Delta_J$) diminui conforme o número de passos $J$ aumenta (melhorando a mistura). O poder do teste aumenta significativamente ao aumentar o número de amostras $M$ e ao usar múltiplas cadeias paralelas.
• Produtos de Especialistas (PoE): Em testes sequenciais, o processo-e de Besag-Clifford mostrou-se estável e com crescimento exponencial sob a alternativa, superando ou competindo com processos de inferência universal, especialmente em estágios iniciais onde a estimativa de parâmetros pode ser instável.
• Velocidades do Superaglomerado de Shapley: Aplicaram o método a dados reais de velocidades de galáxias. O objetivo era comparar modelos PoE com diferentes números de "especialistas" (componentes). O método favoreceu decisivamente o modelo mais simples ($W=5$) sobre o mais complexo ($W=25$), demonstrando a capacidade de discriminar modelos complexos sem necessidade de normalização explícita.

5. Significado e Impacto

Este trabalho é significativo por várias razões:

• Viabilidade Prática: Torna viável a realização de testes de hipóteses rigorosos em modelos generativos complexos onde a verossimilhança é intratável, uma limitação comum em física estatística, biologia e aprendizado profundo.
• Flexibilidade de Teste: Oferece uma alternativa robusta aos valores-p, permitindo testes pós-hoc e sequenciais com garantias de erro Tipo I estritas, algo que métodos baseados em valores-p tradicionais frequentemente falham em garantir sem correções severas.
• Ponte entre Teoria e Prática: Conecta a teoria de valores-e (que tem ganhado popularidade por suas propriedades de robustez) com a prática de amostragem MCMC, fornecendo uma ferramenta computacionalmente viável para cientistas de dados que lidam com modelos não normalizados.
• Otimização de Recursos: A capacidade de usar múltiplas cadeias e paradas sequenciais permite otimizar o custo computacional, parando o teste assim que a evidência for suficiente, em vez de fixar um tamanho de amostra a priori.

Em resumo, o artigo fornece uma ferramenta teórica e prática poderosa para a inferência estatística em um domínio onde métodos clássicos falham, garantindo validade estatística rigorosa através da exploração inteligente da exchangeabilidade em cadeias de Markov.