General Frameworks for Conditional Two-Sample Testing

Sintesi Tecnica: Quadri Generali per il Test a Due Campioni Condizionale

Impostazione del Problema
Questo articolo affronta il problema del test a due campioni condizionale, che mira a determinare se due popolazioni condividono la stessa distribuzione condizionale di una variabile di risposta $Y$ data una covariata $X$, tenendo conto di potenziali fattori di confondimento. Formalmente, dati due campioni indipendenti $\{(X^{(1)}_i, Y^{(1)}_i)\}_{i=1}^{n_1} \sim P^{(1)}_{XY}$ e $\{(X^{(2)}_i, Y^{(2)}_i)\}_{i=1}^{n_2} \sim P^{(2)}_{XY}$, l'obiettivo è testare l'ipotesi nulla:
$$H_0: P^{(1)}_{Y|X}(\cdot | X) = P^{(2)}_{Y|X}(\cdot | X) \quad \text{quasi certamente}$$
contro l'alternativa che esse differiscano con probabilità positiva. Questo problema sorge in applicazioni critiche come l'adattamento di dominio (convalida delle ipotesi di spostamento delle covariate) e l'equità algoritmica (rilevamento di bias condizionati ad attributi demografici).

Risultato di Difficoltà
Gli autori stabiliscono innanzitutto un fondamentale risultato di difficoltà per questo problema. Dimostrano che, senza ipotesi aggiuntive, nessun test valido a due campioni condizionale può possedere potenza non banale contro qualsiasi singola alternativa quando la variabile di condizionamento $X$ è continua. Questa scoperta parallela il risultato negativo per il test di indipendenza condizionale stabilito da Shah e Peters (2020). Una distinzione tecnica chiave nella loro dimostrazione è che, a differenza degli scenari standard di indipendenza condizionale dove gli indicatori di gruppo sono casuali, le dimensioni del campione $n_1$ e $n_2$ nel problema a due campioni sono deterministiche. Gli autori colmano questo divario utilizzando argomenti di concentrazione per mostrare che il problema rimane intrinsecamente difficile, rendendo necessarie ipotesi strutturali (ad esempio, regolarità o limitatezza dei rapporti di densità) per rendere il problema fattibile.

Quadri Metodologici
Per superare queste difficoltà, l'articolo introduce due quadri generali che incorporano implicitamente o esplicitamente ipotesi ragionevoli per abilitare test validi.

1. Quadro tramite Test di Indipendenza Condizionale (CIT)
Il primo quadro sfrutta l'equivalenza tra il test a due campioni condizionale e il test di indipendenza condizionale. Introducendo un indicatore di gruppo binario $Z$, il problema $P^{(1)}_{Y|X} = P^{(2)}_{Y|X}$ è equivalente al test di $Y \perp\!\!\!\perp Z \mid X$.

• Algoritmo 1: Gli autori propongono un metodo generico di conversione "scatola nera" che trasforma qualsiasi test di indipendenza condizionale esistente in un test a due campioni condizionale. L'algoritmo costruisce un dataset di terne i.i.d. $(X, Y, Z)$ campionando per sottocampionamento dai gruppi originali di dimensione fissa basandosi su una distribuzione Binomiale. Se le dimensioni sottocampionate superano le dimensioni originali del gruppo, l'ipotesi nulla è accettata; altrimenti, viene applicato un test standard di indipendenza condizionale ai dati permutati.
• Garanzie Teoriche: Il Teorema 2 dimostra che questa conversione preserva la validità asintotica (controllo dell'errore di Tipo I) e la consistenza (potenza) del test di indipendenza condizionale sottostante, a condizione che la statistica del test sia "stabile per accoppiamento" o che la perdita dovuta al sottocampionamento sia asintoticamente trascurabile.

2. Quadro tramite Stima del Rapporto di Densità (DRT)
Il secondo quadro trasforma il confronto condizionale in un confronto marginale utilizzando la stima del rapporto di densità.

• Principio: L'ipotesi nulla vale se e solo se la densità congiunta $f^{(1)}_{XY}$ è uguale a una versione ridistribuita di $f^{(2)}_{XY}$, specificamente $f^{(1)}_{XY}(x,y) = r_X(x) f^{(2)}_{XY}(x,y)$, dove $r_X(x) = f^{(1)}_X(x)/f^{(2)}_X(x)$ è il rapporto di densità marginale.
• Implementazione: Il problema è riformulato come un test a due campioni marginale tra $f^{(1)}_{XY}$ e la $f^{(2)}_{XY}$ ridistribuita. Gli autori dimostrano ciò attraverso due approcci concreti:
  • Approccio basato su classificatore: Addestramento di un classificatore per distinguere tra i due gruppi, dove la funzione di perdita per il secondo gruppo è ponderata dal rapporto di densità stimato $r_X$.
  • Approccio basato su kernel (MMD): Utilizzo della Discrepanza Massima del Mezzo (Maximum Mean Discrepancy) con ponderazione per importanza. Gli autori propongono una statistica MMD unificata a blocchi governata da un parametro $\gamma \in [0, 1]$.
    • Regime I ($0 \le \gamma < 1$): Utilizza statistiche U a blocchi per raggiungere la normalità asintotica.
    • Regime II ($\gamma = 1$): Ripristina l'MMD standard a tempo quadratico, calibrato tramite un bootstrap moltiplicatore per gestire la distribuzione limite non gaussiana.
• Divisione del Campione: Per evitare il bias da inserimento (plug-in bias), gli autori impiegano la divisione del campione (o cross-fitting) per separare la stima di $r_X$ dalla valutazione della statistica del test.

Contributi Chiave

1. Caratterizzazione della Difficoltà: Dimostrazione rigorosa che il test a due campioni condizionale è difficile quanto il test di indipendenza condizionale sotto condizionamento continuo, evidenziando la necessità di ipotesi.
2. Algoritmo di Conversione Generico: Un algoritmo innovativo (Algoritmo 1) che permette ai praticanti di applicare qualsiasi test di indipendenza condizionale esistente allo scenario a due campioni mantenendo garanzie teoriche.
3. Quadro del Rapporto di Densità: Un quadro flessibile che converte il test condizionale in test marginale tramite rapporti di densità, istanziato con metodi sia basati su classificatori che basati su kernel.
4. Teoria MMD Unificata: Sviluppo teorico di un quadro MMD unificato che copre sia i regimi a tempo lineare (a blocchi) che quelli a tempo quadratico, inclusa la calibrazione bootstrap per quest'ultimo.

Risultati e Scoperte Empiriche
L'articolo valuta i metodi proposti su dati sintetici (che coprono modelli lineari, ad alta varianza e post-non lineari) e dataset reali (Diamonds e Superconduttività).

• Dati Sintetici:
  • I metodi DRT (basati su rapporti di densità) mostrano una potenza superiore quando il rapporto di densità marginale è limitato e facilmente stimabile.
  • I metodi CIT (tramite l'Algoritmo 1) e i metodi kernel condizionali (CMMD, CGED) sono più robusti a rapporti di densità illimitati ma possono soffrire in scenari specifici ad alta varianza.
  • Nessun metodo singolo domina uniformemente; le prestazioni dipendono fortemente dal meccanismo di generazione dei dati e dalla difficoltà di stimare il rapporto di densità.
• Dati Reali:
  • In contesti ad alta dimensionalità (dataset Superconduttività), la scelta dello stimatore del rapporto di densità è critica. La Regressione Logistica Lineare (LLR) non è riuscita a controllare l'errore di Tipo I, mentre la Regressione Logistica a Kernel (KLR) ha ripristinato la validità, sebbene a un costo computazionale più elevato.
  • I metodi kernel condizionali (CMMD, CGED) hanno raggiunto una potenza competitiva ma hanno sostenuto costi computazionali significativamente più alti (ordini di grandezza più lenti rispetto ad altri metodi).

Significato e Affermazioni
L'articolo afferma di fornire una fondazione sistematica per il test a due campioni condizionale, un problema precedentemente poco esplorato nella statistica non parametrica. Stabilendo la difficoltà intrinseca e offrendo due quadri distinti e teoricamente fondati, il lavoro espande la cassetta degli attrezzi disponibile per i praticanti.

• Il quadro CIT offre una via pratica per sfruttare l'ampia letteratura sul test di indipendenza condizionale per problemi a due campioni.
• Il quadro DRT collega il test condizionale al campo ben studiato della ponderazione per importanza e del test marginale, offrendo flessibilità nella selezione del metodo (classificazione vs. kernel).
• Gli autori sottolineano che la validità di questi metodi dipende da ipotesi specifiche (ad esempio, limitatezza o stimabilità dei rapporti di densità), e forniscono indicazioni empiriche sui compromessi tra costo computazionale, potenza e controllo dell'errore di Tipo I attraverso diversi regimi di dati.

Il lavoro conclude identificando direzioni future, come l'estensione dei quadri al test a $K$ campioni condizionale ($K \ge 2$) e l'esplorazione di approcci basati sul ricampionamento come il Sampling Importance Resampling (SIR).