Orthogonal machine learning for conditional odds and risk ratios

1. Problématique et Contexte

Les effets conditionnels (ou effets de traitement hétérogènes) sont des mesures cruciales pour comprendre comment l'efficacité d'un traitement varie selon les caractéristiques des individus (covariables). Ces mesures permettent de cibler les interventions vers les sous-groupes qui en bénéficient le plus.

Bien que l'estimation de l'effet moyen de traitement conditionnel (CATE) sur l'échelle additive (différence de risque) soit bien documentée et soutenue par des méthodes avancées d'apprentissage machine (comme les DR-learners et R-learners), les méthodes pour les paramètres multiplicatifs, à savoir le rapport de cotes conditionnel (OR) et le rapport de risque conditionnel (RR), sont en retard.

Les approches traditionnelles reposent souvent sur des modèles paramétriques rigides (comme la régression logistique). Cependant, ces modèles souffrent de biais importants en cas de mauvaise spécification du modèle, ce qui est fréquent dans des données complexes et non linéaires. Les méthodes d'apprentissage machine non paramétriques existantes (comme les T-learners ou S-learners) appliquées directement aux rapports (plug-in estimators) peuvent également être instables et inefficaces car elles ne corrigent pas les erreurs d'estimation des fonctions de nuisance (probabilités de résultat et scores de propension) de manière orthogonale.

2. Méthodologie Proposée

Les auteurs proposent de généraliser les cadres d'apprentissage orthogonal (basés sur la fonction d'influence efficace, EIF) aux paramètres de rapport (OR et RR). L'objectif est de construire des pseudo-résultats orthogonaux qui satisfont des propriétés de reste d'ordre deux, rendant l'estimation finale robuste aux erreurs de la première étape (estimation des fonctions de nuisance).

A. Estimateurs DR-Learner (Double Robust)

Les auteurs dérivent les pseudo-résultats basés sur la fonction d'influence efficace (EIF) pour quatre cibles :

1. DR-OR et DR-LOR : Pour le rapport de cotes (OR) et son logarithme.
2. DR-RR et DR-LRR : Pour le rapport de risque (RR) et son logarithme.

Contrairement aux estimateurs "plug-in" classiques qui estiment d'abord $P(Y=1|T=1, X)$ et $P(Y=1|T=0, X)$ séparément puis calculent le rapport, les nouveaux estimateurs DR-learners régressent directement le pseudo-résultat orthogonal sur les covariables $X$. Cela permet de capturer la structure lisse de l'effet conditionnel même si les probabilités de résultat individuelles sont bruyantes.

La propriété clé démontrée (Théorème 1) est que l'espérance conditionnelle du pseudo-résultat $\hat{\varphi}$ est égale au paramètre cible $\theta(X)$ plus un terme de reste d'ordre deux en fonction des erreurs d'estimation des fonctions de nuisance. Cela garantit la dualité robuste et la orthogonalité de Neyman.

B. Estimateurs R-Learner

Les auteurs proposent également des variantes R-learners pour ces mêmes paramètres. La différence réside dans la fonction de perte de la deuxième étape : les observations sont pondérées par le chevauchement des scores de propension $w(X) = \hat{e}(X)(1-\hat{e}(X))$. Bien que théoriquement liés aux DR-learners, les simulations montrent que cette pondération peut augmenter la variance dans certains contextes.

C. Cadre Théorique

L'article établit que les risques empiriques associés à ces pseudo-résultats satisfont les conditions d'apprentissage statistique orthogonal de Foster et Syrgkanis (2023). Cela garantit que l'erreur d'estimation finale dépend de l'erreur des fonctions de nuisance à l'ordre quatre (ou plus), permettant une convergence rapide même avec des estimateurs de nuisance flexibles (comme les forêts aléatoires ou le SuperLearner).

3. Contributions Clés

1. Développement théorique : Dérivation formelle des pseudo-résultats orthogonaux pour les rapports de cotes et de risque conditionnels, prouvant qu'ils satisfont les identités de moyenne conditionnelle avec des restes d'ordre deux.
2. Extension des estimateurs : Généralisation des cadres DR-learner et R-learner (déjà établis pour le CATE additif) aux échelles multiplicatives.
3. Étude de simulation exhaustive : Comparaison rigoureuse sur des centaines de mécanismes de génération de données (DGP) aléatoires, utilisant une approche Monte Carlo non paramétrique inspirée de Rudolph et al. (2023). Cela permet d'évaluer la performance des estimateurs dans des scénarios réalistes complexes (interactions, non-linéarités, hétérogénéité).
4. Application réelle : Illustration sur les données NHANES (Santé et Nutrition aux USA) pour étudier l'effet de l'activité physique sur les troubles du sommeil.

4. Résultats Principaux

Les résultats des simulations et de l'application réelle mettent en évidence plusieurs tendances :

• Performance dans les scénarios complexes (Grand échantillon, forte hétérogénéité) :

  • Les estimateurs DR-learner (en particulier les versions log, DR-LOR et DR-LRR) surpassent significativement les modèles paramétriques (régression logistique) et les estimateurs "plug-in" simples (T-learner/S-learner) en termes d'erreur quadratique moyenne intégrée (iMSE).
  • La réduction du biais est le facteur dominant : les modèles paramétriques souffrent d'un biais élevé dû à la mauvaise spécification, tandis que les méthodes orthogonales réduisent ce biais tout en maintenant une variance acceptable.
  • Les estimateurs R-learner montrent systématiquement une variance plus élevée et sont moins recommandés dans ces contextes.

• Performance dans les scénarios simples ou à petit échantillon :

  • Lorsque l'hétérogénéité est faible ou que la taille de l'échantillon est petite ($n=200$), la variance des estimateurs orthogonaux (DR et R) devient prédominante.
  • Dans ces cas, les méthodes plus simples comme le SuperLearner (SL) ou même la régression logistique (LR) (si le modèle est proche de la vérité) offrent souvent de meilleures performances globales (iMSE plus faible) en raison de leur stabilité.

• Application NHANES :

  • L'analyse des données réelles montre que la régression logistique standard produit un rapport de cotes conditionnel constant (homogène), masquant ainsi l'hétérogénéité réelle.
  • En revanche, les estimateurs flexibles et orthogonaux (DR-LOR) révèlent une hétérogénéité substantielle de l'effet de l'activité physique sur le sommeil selon les caractéristiques démographiques et de santé.
  • Les règles de traitement dérivées des estimateurs DR-learner conduisent à de meilleurs résultats contre-factuels (moins de troubles du sommeil) que les règles basées sur des modèles simples ou l'application universelle du traitement.

5. Signification et Recommandations Pratiques

Cet article comble un vide méthodologique important en fournissant des outils robustes pour l'estimation d'effets de traitement hétérogènes sur des échelles multiplicatives (OR, RR), qui sont souvent préférées en épidémiologie et en médecine pour leur interprétabilité.

Recommandations pour les praticiens :

• Scénarios complexes (données riches, forte hétérogénéité) : Privilégier les estimateurs DR-learner (versions log : DR-LOR, DR-LRR). Ils offrent le meilleur compromis biais-variance et permettent de découvrir des sous-groupes bénéficiaires que les modèles linéaires manqueraient.
• Scénarios simples ou données limitées : Utiliser le SuperLearner (ensemble de modèles) ou la régression logistique si la simplicité est requise. Les estimateurs orthogonaux peuvent souffrir d'une variance excessive dans ces régimes.
• Éviter : Les variantes R-learner pour les rapports, car elles semblent souffrir d'une variance trop élevée dans les simulations présentées.

En conclusion, l'adoption de méthodes d'apprentissage machine orthogonal pour les rapports de cotes et de risque permet d'améliorer la précision de la recherche en santé (médecine de précision) en évitant les biais de modélisation et en révélant des schémas d'efficacité de traitement qui seraient autrement invisibles.