Outcome-Calibrated Regression and Predicted Outcome-Based Inference

Résumé technique : Régression calibrée sur les résultats et inférence basée sur les résultats prédits

Énoncé du problème
La régression des moindres carrés ordinaires (MCO) est l'outil standard pour l'inférence scientifique, appréciée pour sa propriété d'estimateur linéaire sans biais optimal (BLUE) selon le théorème de Gauss-Markov. Cette propriété garantit que les prédictions sont conditionnellement sans biais étant donné les covariables ($X$), c'est-à-dire $E(\hat{Y} - Y | X = x) = 0$. Cependant, les auteurs identifient une lacune critique, souvent négligée : les prédictions MCO ne sont généralement pas conditionnellement sans biais étant donné le résultat ($Y$).

En raison de la minimisation de l'erreur quadratique moyenne, les prédictions MCO rétrécissent systématiquement vers la moyenne de population du résultat ($\mu_Y$). Cela se traduit par un phénomène de « régression vers la moyenne » (RTM) où les grandes valeurs de résultat sont sous-prédites et les petites valeurs de résultat sont sur-prédites. Mathématiquement, le biais de prédiction conditionnel est $E(\hat{Y}_{MCO} - Y | Y = y) = (\eta_{MCO} - 1)(y - \mu_Y)$, où $\eta_{MCO} < 1$ représente la pente de population de la régression des prédictions sur les résultats réels (équivalente au $R^2$ de population).

Ce biais crée un problème non négligeable pour l'inférence basée sur les résultats prédits, une pratique courante dans des domaines tels que l'analyse de l'âge cérébral, les études sur les scores de risque polygénique et l'inférence causale, où le résultat réel $Y$ est inobservé ou coûteux à mesurer, et où l'inférence est réalisée en utilisant la valeur prédite $\hat{Y}$ contre une variable $W$. Les auteurs démontrent que ce rétrécissement se propage dans l'analyse en aval, atténuant systématiquement l'association estimée entre $\hat{Y}$ et $W$, conduisant à des estimations d'effet biaisées et potentiellement à des conclusions scientifiques erronées.

Méthodologie : Régression calibrée sur les résultats (OCR)
Pour résoudre ce problème, les auteurs proposent la régression calibrée sur les résultats (OCR), un nouveau cadre qui impose directement l'absence de biais conditionnel sur les résultats lors de l'ajustement du modèle.

1. Contraintes de calibration : La méthode impose deux contraintes d'égalité linéaires sur les coefficients de régression $\beta$ :

   • Pente unitaire : La pente de la régression des valeurs prédites sur les résultats observés doit être égale à 1 ($\hat{\eta} = 1$). Cela garantit que la covariance entre les prédictions et les observations est égale à la variance des observations.
   • Ordonnée à l'origine nulle : L'ordonnée à l'origine de cette régression de calibration doit être 0 ($\hat{\alpha} = 0$). Cela garantit que la moyenne des valeurs ajustées correspond à la moyenne des résultats observés.

2. Solution analytique : L'OCR est formulée comme un problème de moindres carrés contraint :
   $$\hat{\beta}_{OCR} = \arg\min_{\beta} \frac{1}{2n}\|y - X\beta\|_2^2 \quad \text{sous contrainte} \quad A\beta = c$$
   où $A\beta = c$ encode les contraintes de pente et d'ordonnée à l'origine. Les auteurs dérivent une solution analytique en utilisant des multiplicateurs de Lagrange, montrant que l'estimateur OCR est un ajustement linéaire de l'estimateur MCO :
   $$\hat{\beta}_{OCR} = \hat{\beta}_{MCO} - K(A\hat{\beta}_{MCO} - c)$$
   Ici, $K$ agit comme une matrice de correction de calibration qui transforme la violation de contrainte de l'estimateur MCO en un ajustement des coefficients.

3. Propriétés théoriques :

   • Gauss-Markov contraint : Parmi tous les estimateurs linéaires sans biais satisfaisant les contraintes de calibration, $\hat{\beta}_{OCR}$ présente la variance minimale.
   • Absence de biais en aval : Sous l'hypothèse que le résidu $(\hat{Y}_{OCR} - Y)$ est indépendant de la variable externe $W$ conditionnellement à $Y$, le coefficient de régression de $\hat{Y}_{OCR}$ sur $W$ retrouve le coefficient de population réel $\theta$ sans atténuation.
   • Inférence : L'article fournit des formules pour la matrice de variance-covariance de $\hat{\beta}_{OCR}$, les erreurs standards et les intervalles de confiance/prédiction valides, notant que la variance est généralement pas plus grande que celle des MCO en raison de la restriction de l'espace des paramètres.

Résultats clés
Les auteurs valident l'OCR par le biais d'études de simulation la comparant aux MCO à travers diverses tailles d'échantillon ($n$), dimensions de prédicteurs ($p$) et niveaux de bruit ($\sigma$).

• Calibration : Alors que les MCO ont systématiquement présenté des pentes de calibration ($\hat{\eta}$) significativement inférieures à 1 (variant de 0,335 à 0,837 selon le bruit), l'OCR a atteint une calibration exacte ($\hat{\eta} = 1,000, \hat{\alpha} = 0$) dans tous les scénarios.
• Inférence en aval : Lors de la régression des résultats prédits sur une variable externe $W$ pour estimer l'association réelle $\theta$ :
  • MCO : A produit des estimations fortement biaisées (Biais $\approx -0,50$) avec un taux de couverture empirique de 0 % de l'intervalle de confiance à 95 %. Le rapport biais-écart-type était extrêmement élevé, indiquant que le biais systématique dominait la variabilité d'échantillonnage.
  • OCR : A produit des estimations approximativement sans biais ($|Biais| < 0,25$, souvent beaucoup plus faibles) avec des taux de couverture empiriques proches du nominal de 95 % (variant de 95,2 % à 98,6 %).
• Compromis : L'imposition des contraintes de calibration entraîne une erreur quadratique moyenne (MSE) plus élevée pour les prédictions elles-mêmes par rapport aux MCO, en particulier dans des conditions de bruit élevé. Cependant, cette augmentation de l'erreur de prédiction est le coût nécessaire pour éliminer le biais systématique dans l'inférence en aval.

Signification et revendications
L'article affirme que le biais de régression vers la moyenne dans les MCO est une propriété inhérente de la méthode, et non un artefact d'échantillon fini, et que ses conséquences pour l'inférence en aval ont été largement non caractérisées jusqu'à présent.

La signification de l'OCR réside dans sa capacité à permettre une inférence statistique valide lors de l'utilisation de résultats prédits comme substituts de vérités de terrain inobservées. Les auteurs déclarent que l'OCR est particulièrement pertinente pour :

• L'estimation d'effets causaux avec des expositions ou des résultats prédits.
• L'analyse de l'écart d'âge cérébral et des horloges de vieillissement biologique.
• Les études d'association sur les scores de risque polygénique.
• La randomisation mendélienne à deux échantillons.
• Les contextes d'apprentissage fédéré ou de transfert où seules les prédictions du modèle sont partagées.

En remplaçant les prédictions MCO standard par des prédictions corrigées par OCR, les chercheurs peuvent éliminer l'atténuation systématique des tailles d'effet causée par la régression vers la moyenne, réduisant ainsi le biais dans les conclusions scientifiques en aval. Les auteurs présentent l'OCR non pas comme un remplacement des MCO dans tous les contextes, mais comme un cadre nécessaire spécifiquement lorsque l'objectif implique une inférence basée sur des résultats prédits.