Outcome-Calibrated Regression and Predicted Outcome-Based Inference

Riepilogo Tecnico: Regressione Calibrata sull'Esito e Inferenza Basata sull'Esito Previsto

Enunciato del Problema
La regressione dei Minimi Quadrati Ordinari (OLS) è lo strumento standard per l'inferenza scientifica, apprezzata per la sua proprietà di essere il Miglior Stimatore Lineare Non Distorto (BLUE) secondo il teorema di Gauss-Markov. Questa proprietà garantisce che le previsioni siano non distorte condizionatamente alle covariate ($X$), ovvero $E(\hat{Y} - Y | X = x) = 0$. Tuttavia, gli autori identificano una carenza critica, spesso trascurata: le previsioni OLS generalmente non sono non distorte condizionatamente all'esito ($Y$).

A causa della minimizzazione dell'errore quadratico medio, le previsioni OLS si contraggono sistematicamente verso la media della popolazione dell'esito ($\mu_Y$). Ciò comporta un fenomeno di "regressione verso la media" (RTM) in cui i valori elevati dell'esito sono sottostimati e i valori bassi dell'esito sono sovrastimati. Matematicamente, il bias di previsione condizionato è $E(\hat{Y}_{OLS} - Y | Y = y) = (\eta_{OLS} - 1)(y - \mu_Y)$, dove $\eta_{OLS} < 1$ rappresenta la pendenza di popolazione della regressione delle previsioni sugli esiti veri (equivalente alla $R^2$ di popolazione).

Questo bias crea un problema non ignorabile per l'inferenza basata sull'esito previsto, una pratica comune in campi come l'analisi dell'età cerebrale, gli studi sul punteggio di rischio poligenico e l'inferenza causale, dove l'esito vero $Y$ non è osservato o è costoso da misurare, e l'inferenza viene eseguita utilizzando il valore previsto $\hat{Y}$ contro una variabile $W$. Gli autori dimostrano che questa contrazione si propaga nell'analisi a valle, attenuando sistematicamente l'associazione stimata tra $\hat{Y}$ e $W$, portando a stime degli effetti distorte e potenzialmente a conclusioni scientifiche errate.

Metodologia: Regressione Calibrata sull'Esito (OCR)
Per risolvere ciò, gli autori propongono la Regressione Calibrata sull'Esito (OCR), un nuovo quadro che impone l'imparzialità condizionata all'esito direttamente durante l'adattamento del modello.

1. Vincoli di Calibrazione: Il metodo impone due vincoli di uguaglianza lineare sui coefficienti di regressione $\beta$:

   • Pendenza Unitaria: La pendenza della regressione dei valori previsti sugli esiti osservati deve essere 1 ($\hat{\eta} = 1$). Ciò garantisce che la covarianza tra previsioni e osservazioni sia uguale alla varianza delle osservazioni.
   • Intercetta Zero: L'intercetta di questa regressione di calibrazione deve essere 0 ($\hat{\alpha} = 0$). Ciò garantisce che la media dei valori adattati corrisponda alla media degli esiti osservati.

2. Soluzione in Forma Chiusa: L'OCR è formulata come un problema di minimi quadrati vincolati:
   $$\hat{\beta}_{OCR} = \arg\min_{\beta} \frac{1}{2n}\|y - X\beta\|_2^2 \quad \text{s.t.} \quad A\beta = c$$
   dove $A\beta = c$ codifica i vincoli di pendenza e intercetta. Gli autori derivano una soluzione in forma chiusa utilizzando i moltiplicatori di Lagrange, mostrando che lo stimatore OCR è un aggiustamento lineare dello stimatore OLS:
   $$\hat{\beta}_{OCR} = \hat{\beta}_{OLS} - K(A\hat{\beta}_{OLS} - c)$$
   Qui, $K$ agisce come una matrice di correzione di calibrazione che mappa la violazione del vincolo dello stimatore OLS in un aggiustamento del coefficiente.

3. Proprietà Teoriche:

   • Gauss-Markov Vincolato: Tra tutti gli stimatori lineari non distorti che soddisfano i vincoli di calibrazione, $\hat{\beta}_{OCR}$ ha la varianza minima.
   • Imparzialità a Valle: Sotto l'assunzione che il residuo $(\hat{Y}_{OCR} - Y)$ sia indipendente dalla variabile esterna $W$ condizionatamente a $Y$, il coefficiente di regressione di $\hat{Y}_{OCR}$ su $W$ recupera il vero coefficiente di popolazione $\theta$ senza attenuazione.
   • Inferenza: Il documento fornisce formule per la matrice di varianza-covarianza di $\hat{\beta}_{OCR}$, gli errori standard e gli intervalli di confidenza/predizione validi, notando che la varianza è generalmente non superiore a quella dell'OLS a causa della restrizione dello spazio dei parametri.

Risultati Chiave
Gli autori validano l'OCR attraverso studi di simulazione che la confrontano con l'OLS su varie dimensioni di campione ($n$), dimensioni dei predittori ($p$) e livelli di rumore ($\sigma$).

• Calibrazione: Mentre l'OLS ha costantemente mostrato pendenze di calibrazione ($\hat{\eta}$) significativamente inferiori a 1 (variando da 0,335 a 0,837 a seconda del rumore), l'OCR ha raggiunto una calibrazione esatta ($\hat{\eta} = 1,000, \hat{\alpha} = 0$) in tutti gli scenari.
• Inferenza a Valle: Quando si regrediscono gli esiti previsti su una variabile esterna $W$ per stimare la vera associazione $\theta$:
  • OLS: Ha prodotto stime fortemente distorte (Bias $\approx -0,50$) con una copertura empirica del 0% dell'intervallo di confidenza al 95%. Il rapporto bias-deviazione standard è stato estremamente alto, indicando che il bias sistematico dominava la variabilità di campionamento.
  • OCR: Ha prodotto stime approssimativamente non distorte ($|Bias| < 0,25$, spesso molto più basse) con tassi di copertura empirica vicini al nominale 95% (variando dal 95,2% al 98,6%).
• Compromesso: L'imposizione dei vincoli di calibrazione comporta un Errore Quadratico Medio (MSE) più elevato per le previsioni stesse rispetto all'OLS, in particolare in condizioni di alto rumore. Tuttavia, questo aumento dell'errore di previsione è il costo necessario per eliminare il bias sistematico nell'inferenza a valle.

Significato e Affermazioni
Il documento afferma che il bias di regressione verso la media nell'OLS è una proprietà intrinseca del metodo, non un artefatto di campioni finiti, e che le sue conseguenze per l'inferenza a valle sono state largamente non caratterizzate fino ad ora.

Il significato dell'OCR risiede nella sua capacità di abilitare un'inferenza statistica valida quando si utilizzano esiti previsti come surrogati di verità fondamentali non osservate. Gli autori affermano che l'OCR è particolarmente rilevante per:

• Stima dell'effetto causale con esposizioni o esiti previsti.
• Analisi del gap di età cerebrale e orologi biologici dell'invecchiamento.
• Studi di associazione sui punteggi di rischio poligenico.
• Randomizzazione mendeliana a due campioni.
• Ambienti di apprendimento federato o di trasferimento in cui vengono condivise solo le previsioni del modello.

Sostituendo le previsioni OLS standard con previsioni corrette dall'OCR, i ricercatori possono eliminare l'attenuazione sistematica delle dimensioni degli effetti causata dalla regressione verso la media, riducendo così il bias nelle conclusioni scientifiche a valle. Gli autori presentano l'OCR non come un sostituto dell'OLS in tutti i contesti, ma come un quadro necessario specificamente quando l'obiettivo coinvolge l'inferenza basata su esiti previsti.