Besag-Clifford e-values for unnormalized testing

1. El Problema

En el aprendizaje automático y la estadística moderna, muchas distribuciones de probabilidad complejas (como Campos Aleatorios de Markov, Máquinas de Boltzmann Restringidas y modelos Bayesianos) solo se conocen hasta una constante de normalización desconocida. Es decir, la densidad es $p(x) \propto g(x)$, donde la constante $K = \int g(x)dx$ es intratable.

Esto presenta un desafío fundamental para la prueba de hipótesis:

• Fallo del Test de Razón de Verosimilitud (LR): El estadístico de prueba óptimo (Lema de Neyman-Pearson) es la razón de verosimilitud $E(X) = q(x)/p(x)$. Sin embargo, si $p(x)$ no está normalizada, no se puede calcular $E(X)$ directamente.
• Problema de los Valores-p y Valores-e: Si se utiliza una "razón de verosimilitud no normalizada" (ULR) $T(x) = q(x)/g(x)$, su esperanza bajo la hipótesis nula $P$ es $1/K \neq 1$. Por lo tanto, no cumple la definición de valor-e (un estadístico no negativo con esperanza $\leq 1$ bajo $H_0$), lo que invalida el control del error Tipo I en pruebas secuenciales o post-hoc.
• Limitaciones del Muestreo Exacto: Asumir que se puede muestrear exactamente e independientemente de $P$ es una suposición fuerte y a menudo irrealizable en estos modelos complejos.

2. Metodología Propuesta

Los autores proponen el uso de Valores-e de Besag-Clifford, una extensión del método de muestreo paralelo de Besag y Clifford (1989) adaptado para generar valores-e válidos incluso con distribuciones no normalizadas.

El Algoritmo Central (Método Paralelo):

1. Intercambiabilidad: En lugar de asumir muestreo independiente, el método genera muestras que son intercambiables con los datos observados $X$ bajo la hipótesis nula.
2. Muestreo hacia atrás y hacia adelante:
   • Dado un dato observado $X$, se evoluciona una cadena de Markov hacia atrás durante $J$ pasos utilizando un kernel de transición inverso $V^J$, obteniendo un estado inicial $Y^{(0)}$.
   • Desde $Y^{(0)}$, se ejecutan $M$ cadenas de Markov hacia adelante de forma independiente (en paralelo) durante $J$ pasos, generando muestras $Y^{(1)}, \dots, Y^{(M)}$.
3. Construcción del Valor-e: Se define el estadístico de prueba $T(x)$ (por ejemplo, la razón de verosimilitud no normalizada $q(x)/g(x)$). El valor-e de Besag-Clifford se calcula como:
   $$\hat{E}_M(X) = \frac{(M + 1)T(X)}{T(X) + \sum_{m=1}^M T(Y^{(m)})}$$
   Bajo la hipótesis nula, $(X, Y^{(1)}, \dots, Y^{(M)})$ son intercambiables, lo que garantiza que $\mathbb{E}_P[\hat{E}_M(X)] \leq 1$, convirtiéndolo en un valor-e válido para cualquier $M$.

Mejoras y Extensiones:

• Múltiples Cadenas: Para mitigar problemas de mezcla lenta del MCMC, se promedian los valores-e obtenidos de múltiples cadenas independientes iniciadas desde diferentes evoluciones hacia atrás, aumentando la potencia ($e$-power) sin perder validez.
• Procesos de Valores-e: Se extiende el método a pruebas secuenciales, construyendo un proceso de valores-e que mantiene el control del error Tipo I en cualquier tiempo de parada dependiente de los datos.
• Hipótesis Compuestas: Se adapta para hipótesis nulas compuestas mediante la minimización sobre un conjunto finito de distribuciones o la construcción de regiones de confianza.

3. Contribuciones Clave

1. Optimalidad Logarítmica Asintótica: Demuestran que, a medida que el número de muestras $M \to \infty$, el valor-e de Besag-Clifford converge a un múltiplo escalar de la razón de verosimilitud verdadera. Si la cadena de Markov tiene un tiempo de mezcla rápido (específicamente, si el número de pasos $J$ es mayor que el tiempo de mezcla KL), el valor-e es casi log-óptimo.
2. Valididad para $M$ Finito: A diferencia de los métodos asintóticos tradicionales, la validez del control del error Tipo I se garantiza para cualquier número finito de iteraciones $M$ y pasos de cadena $J$.
3. Análisis de Sesgo y Mezcla: Caracterizan teóricamente el desvío de la optimalidad logarítmica mediante un término multiplicativo $\Delta_J$, que depende del kernel de transición inverso y del tiempo de mezcla de la cadena.
4. Aplicabilidad General: El marco se extiende a:
   • Pruebas de hipótesis compuestas.
   • Cuantificación de incertidumbre (regiones de confianza).
   • Evaluación de modelos generativos.
   • Pruebas secuenciales (e-processes).

4. Resultados Empíricos y Teóricos

• Simulaciones AR(1): En procesos autorregresivos, demostraron que el valor-e converge a la razón de verosimilitud verdadera. Observaron que aumentar el número de pasos $J$ (hacia el tiempo de mezcla) y el número de muestras $M$ mejora significativamente la potencia de la prueba, acercándose a la optimalidad teórica.
• Múltiples Cadenas: El promediado de múltiples cadenas de MCMC aumenta la potencia ($e$-power) en comparación con una sola cadena, reduciendo la sensibilidad a la inicialización y a la autocorrelación.
• Comparación con Inferencia Universal: En pruebas secuenciales contra alternativas compuestas, el proceso de valores-e de Besag-Clifford mostró una mayor estabilidad y tiempos de parada más rápidos que los procesos basados en inferencia universal estándar (como los basados en universal inference con estimadores de máxima verosimilitud), especialmente en etapas tempranas de la secuencia.
• Aplicación Real (Velocidades de Galaxias): Aplicaron el método a los datos de velocidad de galaxias del Supercúmulo de Shapley. Utilizaron un modelo de "Product of Experts" (PoE) con distribuciones t no normalizadas. El método favoreció decisivamente un modelo más simple ($W=5$ expertos) sobre uno más complejo ($W=25$), demostrando su utilidad práctica en modelos generativos complejos donde la normalización es imposible.

5. Significado e Impacto

Este trabajo es significativo porque:

• Desbloquea la Prueba de Hipótesis en Modelos No Normalizados: Permite realizar pruebas de hipótesis rigurosas y controladas en modelos donde la constante de normalización es intratable, un problema común en IA y física estadística.
• Garantías de Control de Error: Proporciona garantías estrictas de control del error Tipo I en configuraciones secuenciales y post-hoc, donde los métodos basados en valores-p fallan.
• Eficiencia Computacional vs. Validez: Ofrece un compromiso práctico: sacrifica un poco de eficiencia computacional (al requerir muestreo MCMC) para ganar validez estadística rigurosa en escenarios donde los métodos exactos son imposibles.
• Nueva Herramienta para la Inferencia Bayesiana y Generativa: Facilita la comparación de modelos generativos y la evaluación de la incertidumbre en sistemas complejos sin necesidad de calcular integrales de verosimilitud marginal.

En resumen, los autores presentan un marco robusto que combina la teoría de valores-e (robustez secuencial) con el muestreo de Monte Carlo (manejo de distribuciones complejas), permitiendo pruebas de hipótesis válidas y potentes en un amplio espectro de problemas de aprendizaje automático moderno.