Finite-sample bias-variance tradeoff with variables related to trial participation inserted into causal forest models for ensuring generalizability

Résumé technique : Compromis biais-variance en échantillons finis dans les forêts causales pour l'estimation généralisable des effets moyens conditionnels du traitement

Énoncé du problème
L'estimation des effets moyens conditionnels du traitement (CATE) à partir d'essais contrôlés randomisés (ECR) afin de généraliser les résultats à des populations sources plus larges est cruciale pour la médecine personnalisée. Cependant, ce processus est compliqué par le biais de sélection découlant de la participation aux essais et par les défis posés par les covariables de haute dimension. Bien que la théorie de l'identification suggère qu'une estimation non biaisée du CATE dans la population source est réalisable en conditionnant sur les covariables liées à la participation à l'essai (désignées par $X_2$) ainsi que sur les modificateurs d'effet d'intérêt ($X_1$), l'application pratique de cette théorie à l'aide de méthodes d'apprentissage automatique comme les forêts causales reste incertaine. Plus précisément, il existe une crainte que, dans des échantillons finis typiques des ECR médicaux, l'inflation de la variance causée par l'inclusion de covariables de sélection de haute dimension puisse l'emporter sur les avantages de la réduction du biais.

Méthodologie
Les auteurs ont mené une évaluation systématique des compromis biais-variance en échantillons finis à l'aide d'études de simulation et d'une application réelle.

• Génération de données : La simulation supposait un cadre d'ECR où les participants ($S=1$) sont sélectionnés à partir d'une plus grande population source ($S=0$) sur la base de covariables $X_2$. Le véritable effet individuel du traitement (ITE) était défini comme une fonction des modificateurs d'effet ($X_{1,ALL}$), des covariables de sélection ($X_2$) et de modificateurs non observés ($O$). Les tailles d'échantillon des essais variaient de 200 à 5 000, avec des populations sources de 100 000 individus.
• Approches d'estimation : L'étude a comparé quatre stratégies distinctes pour estimer le CATE à l'aide de forêts causales :
  1. Modèle 1 (Naïf) : Forêt causale ajustée sur les données de l'essai en utilisant uniquement $X_1$.
  2. Modèle 2 (Inclusion directe) : Forêt causale ajustée sur les données de l'essai en utilisant à la fois $X_1$ et $X_2$. Pour l'estimation du $CATE(X_1)$, une intégration de Monte Carlo a été utilisée pour marginaliser sur $X_2$.
  3. Modèle 1IPW : Forêt causale ajustée sur les données de l'essai pondérées par la pondération par l'inverse de la probabilité (IPW) dérivée d'une régression logistique de $X_2$, en utilisant uniquement $X_1$ dans la forêt.
  4. Modèle 2IPW : Forêt causale ajustée sur les données de l'essai pondérées par IPW en utilisant à la fois $X_1$ et $X_2$.
• Mesures d'évaluation : La performance a été évaluée via l'erreur quadratique moyenne (MSE), le biais et la variance pour deux objectifs :
  • Objectif A : Estimer le $CATE(X_1)$ dans la population source.
  • Objectif B : Prédire l'ITE via le $CATE(X_1, X_2)$ dans la population source.
• Application réelle : Les méthodes ont été appliquées à l'essai VITAL (acides gras oméga-3 et maladie coronarienne) en utilisant les données de l'enquête NHANES comme population source pour illustrer l'impact pratique de ces stratégies.

Résultats clés

• Compromis biais-variance : L'identification théorique suggère que l'inclusion de $X_2$ (Modèle 2) produit des estimations non biaisées. Cependant, les simulations ont démontré que, dans des tailles d'échantillon d'ECR réalistes, l'inflation de la variance résultant de l'ajout de $X_2$ à la forêt causale l'emportait souvent sur la réduction modeste du biais.
• Sensibilité à la taille de l'échantillon : L'inclusion de plus de 3 covariables liées à la participation ($X_2$) a considérablement dégradé la précision (augmentation de la MSE) sauf si les tailles d'échantillon étaient très grandes. Pour $X_1$ avec $\ge3$ covariables, le Modèle 2 nécessitait des tailles d'échantillon significativement plus grandes pour surpasser le Modèle 1.
• Supériorité de l'IPW : Les méthodes basées sur l'IPW (Modèle 1IPW et Modèle 2IPW) ont systématiquement amélioré la performance dans tous les scénarios. Le Modèle 1IPW, en particulier, offrait un compromis biais-variance favorable, surpassant souvent l'approche naïve (Modèle 1) même en présence de biais de sélection.
• Résultats de l'application : Dans l'application à l'essai VITAL, les modèles ajustés par IPW ont déplacé les estimations du CATE vers les effets de la population source et affiné les évaluations de l'hétérogénéité par rapport aux modèles non pondérés.

Contributions et signification clés
L'article remet en question l'hypothèse conventionnelle selon laquelle l'inclusion simple des variables de sélection de l'essai dans les algorithmes d'estimation du CATE (comme les forêts causales) constitue la stratégie optimale pour la généralisabilité. Les auteurs mettent en lumière une limitation critique en échantillons finis :

• Inflation de la variance : L'insertion directe de variables de participation à l'essai dans les forêts causales peut infler la variance de l'estimateur au point de réduire la performance globale de prédiction (MSE), en particulier dans les ECR médicaux avec des tailles d'échantillon inférieures à 5 000.
• Recommandation stratégique : Les auteurs proposent que la prise en compte du biais de sélection séparément — spécifiquement par la pondération par l'inverse de la probabilité (IPW) — constitue une stratégie plus raisonnable que l'inclusion directe. Cette approche permet à la forêt causale de se concentrer sur les modificateurs d'effet ($X_1$) tandis que l'IPW corrige le mécanisme de sélection, maintenant ainsi une variance plus faible tout en réalisant la correction de biais nécessaire.
• Fondement théorique : Les résultats sont présentés dans le cadre du compromis biais-variance des estimateurs non paramétriques basés sur des arbres, notant que l'expansion de la dimensionnalité dégrade les taux de convergence et dilue le processus d'échantillonnage des caractéristiques dans le sous-espace aléatoire, forçant une construction d'arbres sous-optimale.

Limites
Les auteurs reconnaissent que leurs conclusions sont basées sur des simulations dans un contexte spécifique et que l'application empirique n'a pas pu être pleinement validée par rapport aux résultats de la population source en raison de l'absence de données contrefactuelles dans les contextes réels. De plus, ils notent que leur comparaison n'incluait pas les approches de pseudo-résultats, car celles-ci ne sont pas encore facilement extensibles à l'estimation du CATE de haute dimension dans leur forme actuelle.