Besag-Clifford e-values for unnormalized testing

1. Il Problema

Il lavoro affronta una sfida fondamentale nell'inferenza statistica e nell'apprendimento automatico: il testing di ipotesi su distribuzioni di probabilità non normalizzate.
Molti modelli complessi (come le Reti di Boltzmann Vincolate - RBM, i Campi Casuali di Markov - MRF, e i "Product of Experts" - PoE) sono definiti solo a meno di una costante di normalizzazione sconosciuta. Di conseguenza, la funzione di densità di probabilità è nota solo come $p(x) \propto g(x)$, dove la costante $K = \int g(x)dx$ è intrattabile.

Questo rende impossibile il calcolo diretto del rapporto di verosimiglianza (Likelihood Ratio), che è l'e-statistica ottimale (log-ottimale) per il testing di ipotesi semplici secondo il lemma di Neyman-Pearson. Senza la costante di normalizzazione, il rapporto di verosimiglianza non è un "e-value" valido (un test statistic non negativo con valore atteso $\le 1$ sotto l'ipotesi nulla), rendendo inapplicabili i metodi di testing standard basati su p-value o e-value classici, specialmente in contesti di testing sequenziale o post-hoc.

2. Metodologia: Besag-Clifford E-values

Gli autori propongono un metodo per normalizzare statistiche di test non normalizzate (Unnormalized Likelihood Ratios - ULR) utilizzando il metodo parallelo di Besag e Clifford (1989) per generare campioni scambiabili.

Il Concetto Chiave: Scambiabilità

L'approccio si basa sulla proprietà di scambiabilità. Se $X$ è il dato osservato e $Y^{(1)}, \dots, Y^{(M)}$ sono campioni generati in modo tale che il vettore $(X, Y^{(1)}, \dots, Y^{(M)})$ sia scambiabile sotto l'ipotesi nulla $P$, allora è possibile costruire un e-value valido.

L'Algoritmo (Parallel Method)

Invece di campionare direttamente da $P$ (spesso impossibile), si utilizza una catena di Markov (MCMC) con distribuzione stazionaria $P$:

1. Passo all'indietro: Si evolve la catena all'indietro per $J$ passi partendo da $X$ utilizzando il kernel di transizione inverso $V^J$, ottenendo uno stato intermedio $Y^{(0)}$.
2. Passo in avanti: Da $Y^{(0)}$, si eseguono $M$ camminate indipendenti in avanti per $J$ passi utilizzando il kernel di transizione diretto $U^J$, generando i campioni $Y^{(1)}, \dots, Y^{(M)}$.

Questo schema garantisce che, se $X \sim P$, allora $(X, Y^{(1)}, \dots, Y^{(M)})$ siano scambiabili.

Costruzione dell'E-value

Dato una statistica di test $T(x)$ (ad esempio, il rapporto di verosimiglianza non normalizzato $q(x)/g(x)$), l'e-value di Besag-Clifford è definito come:
$$\hat{E}_M(X) = \frac{(M + 1)T(X)}{T(X) + \sum_{m=1}^M T(Y^{(m)})}$$
Questa formula rappresenta un "soft-rank" che normalizza $T(X)$ rispetto alla media dei campioni generati. Per la Proposizione 1 del paper, $\hat{E}_M(X)$ è un e-value valido per qualsiasi $M \in \mathbb{N}$, garantendo il controllo dell'errore di Tipo I.

3. Contributi Chiave e Risultati Teorici

1. Ottimalità Logaritmica Asintotica

Il contributo teorico principale è la dimostrazione che, quando $M \to \infty$, l'e-value di Besag-Clifford costruito con $T(x) \propto q(x)/p(x)$ converge alla vera rapporto di verosimiglianza (l'e-value log-ottimale) a meno di un fattore scalare moltiplicativo $\Delta_J(Y^{(0)})$.
$$\hat{E}_M(X) \xrightarrow{pr.} \frac{E(X)}{\Delta_J(Y^{(0)})}$$
Il termine $\Delta_J$ dipende dal kernel di transizione inverso e dal numero di passi $J$. Se la catena di Markov si mescola rapidamente (mixing time basso) e $J$ è sufficientemente grande, $\Delta_J \approx 1$, rendendo il metodo log-ottimale.

2. Potere con Catene Multiple

Per mitigare l'impatto di un mescolamento lento (slow mixing) o di una cattiva inizializzazione, gli autori propongono di eseguire $S$ catene di Markov parallele partendo da diverse evoluzioni all'indietro di $X$. La media degli e-value ottenuti da queste catene:
$$\bar{E}_{M,S}(X) = \frac{1}{S} \sum_{s=1}^S \hat{E}_{M,s}(X)$$
mantiene la validità (controllo dell'errore di Tipo I) e aumenta il potere e (e-power) rispetto a una singola catena, avvicinandosi ulteriormente all'ottimalità logaritmica.

3. Estensioni a Ipotesi Composite e Testing Sequenziale

• Ipotesi Composite: Il metodo è esteso a null composite (insiemi finiti di distribuzioni) prendendo il minimo degli e-value calcolati per ciascun componente, permettendo la costruzione di regioni di confidenza valide.
• E-process: Viene introdotto il concetto di Besag-Clifford e-process per il testing sequenziale. Questo permette di fermare l'esperimento in qualsiasi momento basato sui dati (data-dependent stopping time) mantenendo il controllo dell'errore di Tipo I. Il processo converge asintoticamente al processo di rapporto di verosimiglianza ottimale.

4. Applicazione a Modelli Specifici

Il paper analizza casi specifici come processi autoregressivi (AR(1)), fornendo espressioni in forma chiusa per il termine di bias $\Delta_J$ e dimostrando come il potere e scala con il numero di passi $J$ e la correlazione $\phi$.

4. Risultati Empirici

Gli autori validano la teoria attraverso simulazioni e un'applicazione reale:

• Simulazioni AR(1): Confermano che all'aumentare di $M$ e $J$, l'e-value di Besag-Clifford si allinea al rapporto di verosimiglianza vero. L'uso di catene multiple ($S > 1$) riduce la varianza e aumenta il potere di rilevamento.
• Product of Experts (PoE) Sequenziali: In un contesto di testing sequenziale contro un'ipotesi alternativa composita, l'e-process di Besag-Clifford mostra una crescita stabile e rapida, superando le fluttuazioni iniziali osservate in altri metodi di inferenza universale.
• Applicazione Reale (Shapley Supercluster): Il metodo è applicato ai dati di velocità delle galassie nel Superammasso di Shapley. Viene testato il numero di "esperti" (componenti) in un modello PoE. I risultati mostrano che il modello più semplice ($W=5$) è fortemente favorito rispetto a uno più complesso ($W=25$), dimostrando l'efficacia del metodo su dati reali con distribuzioni non normalizzate.

5. Significato e Impatto

Questo lavoro è significativo perché:

1. Abilita il Testing su Modelli Intrattabili: Fornisce un framework rigoroso per il testing di ipotesi su modelli probabilistici complessi dove la costante di normalizzazione è sconosciuta, un problema comune nella fisica statistica e nell'apprendimento profondo.
2. Garantisce Validità Non Asintotica: A differenza di molti metodi MCMC che richiedono grandi campioni per garantire la validità, l'e-value di Besag-Clifford è valido per qualsiasi numero di iterazioni $M$, rendendolo ideale per applicazioni con risorse computazionali limitate.
3. Supporto al Testing Sequenziale: Estende la potenza degli e-value (che permettono analisi flessibili e post-hoc) a domini precedentemente inaccessibili a causa dell'intrattabilità delle distribuzioni.
4. Ottimalità Pratica: Dimostra che, con un'adeguata scelta dei parametri di mescolamento della catena di Markov, è possibile raggiungere un potere di test vicino all'ottimo teorico (log-ottimale) anche senza conoscere le costanti di normalizzazione.

In sintesi, gli autori trasformano un limite computazionale (l'incapacità di calcolare costanti di normalizzazione) in un problema di campionamento risolvibile tramite scambiabilità, offrendo uno strumento potente e teoricamente fondato per l'inferenza statistica moderna.