Adaptive Experimental Design Using Shrinkage Estimators

Sintesi Tecnica: Design Sperimentale Adattivo Utilizzando Stimatori di Contrazione (Shrinkage)

Enunciato del Problema
Nei trial randomizzati multi-braccio che coinvolgono $K$ trattamenti attivi e un controllo, vengono frequentemente impiegati design adattivi per migliorare l'efficienza della stima o identificare i trattamenti ottimali. La letteratura recente ha esteso l'allocazione classica di Neyman ai contesti sequenziali, con l'obiettivo di minimizzare l'errore degli stimatori di tipo Horvitz-Thompson apprendendo le varianze degli esiti e aggiornando le probabilità di assegnazione. Tuttavia, gli autori sostengono che questo approccio sia subottimale quando l'obiettivo primario è la stima simultanea di tutti gli effetti dei trattamenti. Gli standard stimatori delle differenze di medie trattano ogni braccio in isolamento, fallendo nel "prendere in prestito forza" (borrow strength) tra i diversi bracci di trattamento. In molte applicazioni, gli effetti dei trattamenti sono correlati e ignorare questa struttura porta a una perdita di errore quadratico atteso superiore al necessario. Il documento affronta la sfida di progettare regole di assegnazione dei trattamenti adattive che mirino specificamente alla minimizzazione del rischio per stimatori di tipo Stein, piuttosto che alla varianza marginale di stimatori non distorti.

Metodologia
Gli autori propongono un framework in cui le stime causali finali sono derivate utilizzando stimatori di contrazione applicati al vettore degli stimatori delle differenze di medie, $\hat{\tau}$. La metodologia procede attraverso i seguenti passaggi:

1. Selezione dello Stimatore: Il documento valuta tre candidati stimatori di contrazione per il vettore degli effetti di trattamento $\tau = (\tau_1, \dots, \tau_K)$:

   • Stimatore di Bock ($\hat{\delta}_B$): Progettato per vettori gaussiani con voci dipendenti, contraendo $\hat{\tau}$ verso lo zero in base al rapporto tra la traccia della matrice di covarianza e il suo autovalore maggiore.
   • Stimatore SURE-Min ($\hat{\delta}_S$): Uno stimatore di contrazione che minimizza direttamente l'Estimate del Rischio Non Distorto di Stein (SURE), contraendo $\hat{\tau}$ verso lo zero tramite un fattore derivato dalla traccia della matrice di covarianza e dalla norma al quadrato degli stimatori.
   • Stimatore di Dimmery ($\hat{\delta}_D$): Una modifica eteroscedastica dello stimatore di James-Stein, adattata per contrarre i contrasti verso lo zero piuttosto che verso una media globale.

2. Caratterizzazione del Rischio: Sotto l'ipotesi che gli stimatori a livello di braccio siano approssimativamente distribuiti normalmente ($\hat{\tau} \sim N(\tau, \Sigma)$), il rischio dell'errore quadratico atteso per questi stimatori è espresso come l'aspettativa di rapporti di forme quadratiche gaussiane. Gli autori utilizzano il SURE per derivare stime non distorte di questo rischio.

3. Design Oracle (Analisi Statica): Prima di affrontare l'adattività, gli autori analizzano design "oracle" in cui le medie dei potenziali esiti e le varianze sono note. Dimostrano che le allocazioni che minimizzano il rischio per gli stimatori di contrazione differiscono significativamente dall'allocazione standard di Neyman. In particolare, nei regimi a basso rapporto segnale-rumore (SNR), i design ottimali per gli stimatori di contrazione allocano una proporzione maggiore di unità al braccio di controllo rispetto all'allocazione di Neyman. Ciò accade perché l'aumento della dimensione del campione di controllo riduce le correlazioni fuori diagonale nella matrice di covarianza $\Sigma$, aumentando l'indipendenza delle informazioni disponibili per la contrazione.

4. Algoritmo Adattivo: Il documento propone un algoritmo greedy sequenziale per l'assegnazione del trattamento:

   • Fase di Warm-up: Le prime $N_{warm-up}$ unità vengono assegnate tramite randomizzazione completa per raccogliere dati iniziali.
   • Assegnazione Sequenziale: Per ogni arrivo successivo $i$, il trattamento $W_i$ viene assegnato al braccio $k$ che minimizza il rischio stimato dello stimatore di contrazione scelto, dati gli attuali stimatori degli effetti di trattamento $\hat{\tau}^{(i-1)}$ e delle varianze $\hat{V}^{(i-1)}$.
   • Calcolo Efficiente: Un componente critico dell'algoritmo è il calcolo efficiente del rischio della contrazione. Gli autori dimostrano che le aspettative del rischio possono essere calcolate tramite integrazione numerica univariata (utilizzando i risultati di Bao e Kan, 2013). Implementando tali integrali in C++ tramite RCPP, il rischio può essere calcolato in millisecondi, rendendo computabilmente fattibile l'assegnazione adattiva in tempo reale.

Risultati Chiave
Attraverso estese simulazioni con $N=1.000$ unità attraverso variabili dimensioni ($K \in \{6, 12\}$), scarsità di segnale e livelli di SNR, il documento riporta le seguenti scoperte:

• Spostamenti di Allocazione: Le allocazioni che minimizzano il rischio per tutti e tre gli stimatori di contrazione spostano costantemente una quota maggiore di unità al braccio di controllo rispetto all'allocazione standard di Neyman. Questo spostamento è più pronunciato per lo stimatore di Bock e più grande quando il rapporto segnale-rumore è basso ($\kappa = 0$) e il numero di bracci di trattamento è elevato.
• Riduzione dell'Errore: L'approccio adattivo produce riduzioni significative dell'Errore Quadratico Medio (MSE) rispetto ai design statici (randomizzazione completa e allocazione di Neyman) e agli stimatori di contrazione non adattivi. I benefici sono più significativi nei regimi a basso SNR.
• Performance degli Stimatori: Le versioni "positive-part" degli stimatori di contrazione (troncate per evitare fattori di contrazione negativi) sono utilizzate per la stima finale. Le regole di allocazione adattiva, che minimizzano il rischio surrogato degli stimatori smooth, riescono a ridurre l'MSE di queste stime finali.
• Fattibilità Computazionale: Il metodo di integrazione numerica permette di calcolare il rischio in meno di 0,1 millisecondi anche in dimensioni superiori (es. $K=16$), validando la praticità dell'algoritmo sequenziale greedy.

Significatività e Rivendicazioni
Il documento sostiene di fornire un metodo fondato per migliorare l'efficienza della stima in trial multi-braccio, allineando l'obiettivo del design adattivo con le specifiche proprietà statistiche degli stimatori di contrazione.

• Contributo Teorico: Gli autori stabiliscono che minimizzare il rischio di uno stimatore di contrazione richiede una strategia di allocazione diversa rispetto alla minimizzazione della varianza di uno stimatore non distorto. Forniscono le condizioni (tramite Lemmi 2 e 3) sotto le quali gli stimatori di contrazione dominano strettamente lo stimatore delle differenze di medie.
• Utilità Pratica: Il documento dimostra che è computabilmente fattibile implementare un design adattivo sequenziale greedy completo che miri al rischio di contrazione. Questo contrasta con i precedenti metodi adattivi che si concentrano su stimatori non distorti o sull'identificazione del miglior braccio (best-arm identification).
• Ambito Modesto: Gli autori dichiarano esplicitamente di non rivendicare l'ottimalità del loro algoritmo greedy rispetto a tutte le possibili regole di trattamento. Lo presentano invece come un'euristica semplice ed efficace che sfrutta il calcolo efficiente del rischio di contrazione per ottenere miglioramenti pratici nell'errore di stima, specialmente in ambienti con basso rapporto segnale-rumore. Il documento delinea inoltre un metodo per costruire intervalli di confidenza più brevi al termine del trial basandosi su questi design adattivi.