Adaptive Experimental Design Using Shrinkage Estimators

Résumé Technique : Plan Expérimental Adaptatif à l'aide d'Estimateurs de Contraction

Énoncé du Problème
Dans les essais randomisés multi-bras impliquant $K$ traitements actifs et un groupe témoin, des plans adaptatifs sont fréquemment employés pour améliorer l'efficacité de l'estimation ou identifier les traitements optimaux. La littérature récente a étendu l'allocation classique de Neyman aux contextes séquentiels, visant à minimiser l'erreur des estimateurs de type Horvitz-Thompson en apprenant les variances des résultats et en mettant à jour les probabilités d'assignation. Cependant, les auteurs soutiennent que cette approche est sous-optimale lorsque l'objectif principal est l'estimation simultanée de tous les effets de traitement. Les estimateurs standards de différence de moyennes traitent chaque bras de manière isolée, échouant ainsi à « emprunter la force » entre les différents bras de traitement. Dans de nombreuses applications, les effets de traitement sont liés, et ignorer cette structure conduit à une erreur quadratique espérée plus élevée que nécessaire. L'article traite le défi de concevoir des règles d'assignation de traitement adaptatives qui visent spécifiquement la minimisation du risque pour des estimateurs de contraction de type Stein, plutôt que la variance marginale des estimateurs sans biais.

Méthodologie
Les auteurs proposent un cadre où les estimations causales finales sont dérivées à l'aide d'estimateurs de contraction appliqués au vecteur des estimations de différence de moyennes, $\hat{\tau}$. La méthodologie procède selon les étapes suivantes :

1. Sélection de l'Estimateur : Le papier évalue trois estimateurs de contraction candidats pour le vecteur des effets de traitement $\tau = (\tau_1, \dots, \tau_K)$ :

   • L'estimateur de Bock ($\hat{\delta}_B$) : Conçu pour les vecteurs gaussiens à entrées dépendantes, il contracte $\hat{\tau}$ vers zéro en se basant sur le rapport entre la trace de la matrice de covariance et sa plus grande valeur propre.
   • L'estimateur SURE-Min ($\hat{\delta}_S$) : Un contracteur qui minimise directement l'estimation non biaisée du risque de Stein (SURE), contractant $\hat{\tau}$ vers zéro par un facteur dérivé de la trace de la matrice de covariance et de la norme au carré des estimations.
   • L'estimateur de Dimmery ($\hat{\delta}_D$) : Une modification hétéroscédastique de l'estimateur de James-Stein, adaptée pour contracter les contrastes vers zéro plutôt que vers une moyenne globale.

2. Caractérisation du Risque : Sous l'hypothèse que les estimateurs par bras sont approximativement distribués normalement ($\hat{\tau} \sim N(\tau, \Sigma)$), l'espérance du risque d'erreur quadratique est exprimée comme l'espérance de ratios de formes quadratiques gaussiennes. Les auteurs utilisent la méthode SURE pour dériver des estimations non biaisées de ce risque.

3. Plans Oracle (Analyse Statique) : Avant d'aborder l'adaptativité, les auteurs analysent des plans « oracle » où les moyennes et les variances des résultats potentiels sont connues. Ils démontrent que les allocations minimisant le risque pour les estimateurs de contraction diffèrent significativement de l'allocation de Neyman standard. Spécifiquement, dans les régimes de faible rapport signal sur bruit (SNR), les plans optimaux pour les estimateurs de contraction allouent une proportion plus grande d'unités au groupe témoin par rapport à l'allocation de Neyman. Ceci est dû au fait que l'augmentation de la taille de l'échantillon du groupe témoin réduit les corrélations hors diagonale dans la matrice de covariance $\Sigma$, augmentant ainsi l'indépendance de l'information disponible pour la contraction.

4. Algorithme Adaptatif : Le papier propose un algorithme séquentiel glouton pour l'assignation de traitement :

   • Phase de Mise en Chauffe (Warm-up) : Les $N_{warm-up}$ premières unités sont assignées via une randomisation complète pour recueillir des données initiales.
   • Assignation Séquentielle : Pour chaque arrivée suivante $i$, le traitement $W_i$ est assigné au bras $k$ qui minimise le risque estimé du contracteur choisi, étant donné les estimations actuelles des effets de traitement $\hat{\tau}^{(i-1)}$ et des variances $\hat{V}^{(i-1)}$.
   • Calcul Efficace : Un composant critique de l'algorithme est le calcul efficace du risque de la contraction. Les auteurs montrent que les espérances de risque peuvent être calculées via une intégration numérique univariée (en utilisant les résultats de Bao et Kan, 2013). En implémentant ces intégrales en C++ via RCPP, le risque peut être calculé en quelques millisecondes, rendant l'assignation adaptative en temps réel informatiquement réalisable.

Résultats Clés
À travers des simulations étendues avec $N=1\,000$ unités à travers diverses dimensions ($K \in \{6, 12\}$), de sparsité de signal et de niveaux de SNR, l'article rapporte les conclusions suivantes :

• Décalages d'Allocation : Les allocations minimisant le risque pour les trois estimateurs de contraction déplacent systématiquement une part plus importante d'unités vers le groupe témoin par rapport à l'allocation de Neyman standard. Ce décalage est plus prononcé pour l'estimateur de Bock et est maximal lorsque le rapport signal sur bruit est faible ($\kappa = 0$) et que le nombre de bras de traitement est élevé.
• Réduction de l'Erreur : L'approche adaptative produit des réductions significatives de l'erreur quadratique moyenne (MSE) par rapport aux plans statiques (randomisation complète et allocation de Neyman) et aux estimateurs de contraction non adaptatifs. Les bénéfices sont les plus importants dans les régimes de faible SNR.
• Performance des Estimateurs : Les versions à partie positive des estimateurs de contraction (tronquées pour éviter des facteurs de contraction négatifs) sont utilisées pour l'estimation finale. Les règles d'assignation adaptatives, qui minimisent le risque de substitution des estimateurs lisses, réussissent à réduire la MSE de ces estimations finales.
• Faisabilité Computationnelle : La méthode d'intégration numérique permet un calcul du risque en moins de 0,1 milliseconde, même dans des dimensions plus élevées (ex: $K=16$), validant la praticité de l'algorithme séquentiel glouton.

Signification et Revendications
Le papier affirme fournir une méthode fondée sur des principes pour améliorer l'efficacité de l'estimation dans les essais multi-bras en alignant l'objectif de conception adaptative avec les propriétés statistiques spécifiques des estimateurs de contraction.

• Contribution Théorique : Les auteurs établissent que minimiser le risque d'un estimateur de contraction nécessite une stratégie d'allocation différente de celle de la minimisation de la variance d'un estimateur sans biais. Ils fournissent des conditions (via les Lemmes 2 et 3) sous lesquelles les estimateurs de contraction dominent strictement l'estimateur de différence de moyennes.
• Utilité Pratique : Les auteurs démontrent qu'il est informatiquement faisable d'implémenter un plan adaptatif séquentiel complet et glouton qui cible le risque de contraction. Cela contraste avec les méthodes adaptatives précédentes qui se concentrent sur les estimateurs sans biais ou l'identification du meilleur bras.
• Portée Modeste : Les auteurs déclarent explicitement qu'ils ne prétendent pas à l'optimalité de leur algorithme glouton par rapport à toutes les règles de traitement possibles. Ils le présentent plutôt comme une heuristique simple et efficace qui exploite le calcul efficace du risque de contraction pour produire des améliorations pratiques de l'erreur d'estimation, particulièrement dans les environnements à faible rapport signal sur bruit. Le papier expose également une méthode pour construire des intervalles de confiance plus courts à la conclusion de ces essais basés sur ces conceptions adaptatives.