An adaptive variance estimator for relative sparsity

Riepilogo Tecnico: Un Stimatore di Varianza Adattivo per la Sparsità Relativa

Enunciato del Problema
Nel dominio delle politiche di trattamento basate sui dati, in particolare all'interno della medicina clinica, esiste la necessità di derivare politiche che differiscano in modo sparso dallo standard di cura per garantire interpretabilità e sicurezza. Il lavoro precedente di Weisenthal et al. [2023b] ha introdotto un quadro per la "sparsità relativa" utilizzando una penalità lasso adattiva per ottimizzare una politica ($\pi_\beta$) rispetto a una politica comportamentale ($\pi_b$). Sebbene questo quadro abbia stabilito un teorema di normalità asintotica (Teorema 2) per i coefficienti selezionati, la precedente implementazione della stima della varianza nei diagrammi di selezione era incompleta. Nello specifico, l'approccio precedente utilizzava solo lo stimatore di varianza per l'insieme "attivo" dei coefficienti (quelli che differiscono dalla politica comportamentale). Di conseguenza, la rappresentazione dell'incertezza per i coefficienti vicini ai loro corrispettivi comportamentali (la "regione comportamentale", dove il parametro di penalità $\lambda$ è grande) era scarsa, portando a diagrammi di selezione inaffidabili.

Metodologia
Questo articolo propone un nuovo stimatore adattivo di varianza dei coefficienti che sfrutta appieno il teorema di normalità asintotica stabilito in Weisenthal et al. [2023b]. La metodologia si basa su un setup di processo decisionale di Markov a tempo discreto multistadio che coinvolge una politica suggerita parametrizzata e una politica comportamentale, entrambe modellate come funzioni expit.

Il nucleo del metodo proposto è la derivazione di uno stimatore di varianza, $\sigma^2_{n,A}$, per i coefficienti lasso adattivi. A differenza dell'approccio precedente, questo stimatore tiene conto esplicitamente del processo di selezione delle variabili. La derivazione segue questi passaggi:

1. Base Teorica: Utilizza il Teorema 2 di Weisenthal et al. [2023b], che stabilisce la normalità asintotica dei coefficienti dell'insieme attivo ($\beta_{n,\gamma,A}$) in condizioni specifiche riguardanti il parametro di penalità $\lambda_n$ e il parametro di taratura $\delta$.
2. Formulazione della Varianza: Lo stimatore è costruito utilizzando l'inverso della matrice Hessiana ($H_n$) ristretta all'insieme attivo ($A_n$) e la varianza empirica di un vettore residuo $r_{v,n}$.
   $$\sigma^2_{n,A} = ((H_n)_{A_n A_n})^{-1} \left( \frac{1}{n} \sum_{i} (r^T_{v,n,i})(r^T_{v,n,i})^T \right) ((H_n)_{A_n A_n})^{-1})^T$$
3. Stima dei Componenti: Il vettore $r_{v,n}$ è stimato utilizzando gradienti ($z_n$), Hessiane ($H_n$) e derivate incrociate ($X_n$) derivati dalla funzione obiettivo. Crucialmente, lo stimatore incorpora il parametro di disturbo $v = \sqrt{n}(b_n - b_0)$, stimato tramite $q_i$ (come definito nel lavoro precedente), per tenere conto dell'incertezza nella stima della politica comportamentale.
4. Implementazione: Lo stimatore viene applicato per visualizzare la variabilità dei coefficienti della politica ($\beta_{n,\gamma,\lambda}$) su un intervallo di valori di $\lambda$, permettendo di osservare come i cambiamenti di selezione influenzano l'incertezza.

Principali Contributi

• Utilizzo Completo della Teoria Asintotica: L'articolo sviluppa uno stimatore di varianza che incorpora pienamente il teorema di normalità asintotica del lasso adattivo, colmando il vuoto nel lavoro precedente dove il teorema non era stato applicato completamente alla stima della varianza.
• Incertezza Consapevole della Selezione: Il nuovo stimatore tiene esplicitamente conto del meccanismo di selezione delle variabili. Fornisce stime di varianza specifiche per i coefficienti che sono selezionati (attivi/regione di fiducia) o non selezionati (comportamentali), anziché trattarli in modo uniforme.
• Miglioramento della Stima nella Regione Comportamentale: Tenendo conto del processo di selezione, lo stimatore fornisce stime di incertezza meglio controllate per i coefficienti che sono vicini ai loro corrispettivi comportamentali, una regione in cui le stime precedenti erano scadenti.

Risultati
Lo stimatore proposto è stato valutato attraverso studi di simulazione e un'analisi su dati reali utilizzando il database MIMIC-III per la somministrazione di vasopressori nella gestione dell'ipotensione.

• Simulazioni: Nello scenario di simulazione (seguendo Ertefaie e Strawderman [2018]), il nuovo stimatore (Equazione 1) ha dimostrato un comportamento marcatamente diverso rispetto allo stimatore precedente (Equazione 25 in Weisenthal et al. [2023b]) all'aumentare del parametro di penalità $\lambda$. Nello specifico, nella regione comportamentale dove i coefficienti stimati si avvicinano ai valori della politica comportamentale ($b_n$), il nuovo stimatore ha mostrato una varianza più controllata.
• Analisi su Dati Reali: Applicando lo stimatore al dataset MIMIC-III (focalizzandosi sulla pressione arteriosa media, frequenza cardiaca e altre covariate), i diagrammi di selezione hanno rivelato che la varianza stimata è meglio controllata nelle regioni in cui i coefficienti sono vicini ai loro corrispettivi comportamentali. La rappresentazione visiva dell'incertezza (regioni teoriche ombreggiate rispetto a linee empiriche tratteggiate) ha mostrato una stabilità migliorata rispetto al metodo precedente.

Significato e Affermazioni
L'articolo afferma che questo stimatore di varianza adattivo facilita l'"uso sicuro dell'apprendimento delle politiche in medicina clinica". Migliorando la rappresentazione dell'incertezza nei diagrammi di selezione grafici, clinici e ricercatori possono interpretare meglio la stabilità degli spostamenti delle politiche dallo standard di cura. L'autore ipotizza che le politiche di trattamento vincolate, derivate tramite sparsità relativa, siano più sicure da adottare quando la loro incertezza è rappresentata accuratamente, in particolare nelle zone di transizione tra lo standard di cura e la politica ottimizzata. Il lavoro suggerisce che la visualizzazione della variabilità dei coefficienti al variare di $\lambda$ è meglio ottenuta utilizzando questo stimatore, potenzialmente su una griglia fine, per supportare un processo decisionale robusto. L'articolo conclude con modestia, notando che, sebbene estenda il lavoro precedente sulla tesi e fornisca uno strumento pratico per l'inferenza, un lavoro futuro potrebbe studiare le proprietà di questo stimatore come funzione liscia di $\lambda$.