The Honest Truth About Causal Trees: Accuracy Limits for Heterogeneous Treatment Effect Estimation

1. Problématique et Contexte

Les arbres de décision récursifs, et en particulier les arbres causaux (Causal Trees), sont largement utilisés pour estimer les effets de traitement hétérogènes (HTE) dans les études expérimentales et observationnelles. Ces méthodes adaptent l'algorithme CART (Classification and Regression Trees) en modifiant les critères de division pour cibler l'hétérogénéité de l'effet de traitement. La méthode dite « honnête » (honesty), proposée par Athey et Imbens (2016), qui sépare la construction de l'arbre de l'estimation de l'effet, est souvent considérée comme une solution garantissant la validité des inférences et réduisant le surajustement.

Cependant, les propriétés statistiques fondamentales de ces estimateurs, en particulier leur taux de convergence uniforme, restent mal comprises. La littérature théorique existante repose souvent sur des hypothèses fortes (comme l'« $\alpha$-régularité ») qui supposent que chaque division de l'arbre alloue une fraction non négligeable d'observations à chaque nœud enfant. Cet article remet en question la validité de ces hypothèses dans les implémentations standards de type CART et explore les limites fondamentales de la partitionnement récursif adaptatif.

2. Méthodologie et Cadre Théorique

Les auteurs étudient une classe d'estimateurs d'effets de traitement conditionnels moyens (CATE) basés sur des arbres de décision construits via des règles de division gourmandes (greedy) de type CART.

• Modèle de données : Ils considèrent un modèle où l'effet de traitement est constant ($\tau(x) = \tau$) sur tout l'espace des covariables, avec des covariables indépendantes et continûment distribuées. Ce cas simple sert de borne inférieure : si l'estimateur échoue ici, il échouera également pour des fonctions plus complexes.
• Estimateurs analysés : Trois types d'estimateurs sont examinés :
  1. Différence de moyennes (DIM).
  2. Pondération par l'inverse de la probabilité (IPW).
  3. Minimisation de la somme des carrés des erreurs (SSE).
• Schémas d'échantillonnage : L'analyse couvre trois régimes :
  1. Sans séparation d'échantillon (NSS) : Les mêmes données servent à construire l'arbre et à estimer l'effet.
  2. Honnêteté (HON) : Un sous-échantillon construit l'arbre, un autre estime l'effet.
  3. Adaptativité X (X-Adaptive) : Les covariables sont partagées, mais les résultats et les traitements sont renouvelés à chaque étape de division.
• Outils mathématiques : L'analyse repose sur de nouveaux outils probabilistes, notamment des approximations non asymptotiques des supremums de sommes partielles et de processus gaussiens. Les auteurs utilisent des théorèmes centraux limites en haute dimension, des inégalités de comparaison gaussiennes et le théorème de Darling-Erdős. Ils corrigent également une erreur dans un résultat classique de Eicker (1979) concernant la distribution limite du supremum d'un processus d'Ornstein-Uhlenbeck.

3. Contributions Clés

1. Établissement de bornes inférieures de convergence : Les auteurs démontrent que les estimateurs d'arbres causaux construits via des règles CART standards ne peuvent pas atteindre des taux de convergence polynomiaux en $n$ (où $n$ est la taille de l'échantillon) dans la norme uniforme.
2. Analyse de l'honnêteté (Sample Splitting) : Ils montrent que l'utilisation de l'honnêteté n'élimine pas les limitations fondamentales. Bien qu'elle supprime un facteur logarithmique lent ($\sqrt{\log \log n}$), elle ne permet pas d'atteindre une convergence uniforme polynomiale.
3. Clarification des hypothèses de régularité : L'article révèle que l'hypothèse d'« $\alpha$-régularité » (nécessaire pour les garanties théoriques des forêts causales) est incompatible avec les règles de division CART canoniques, qui sélectionnent avec une probabilité non nulle des divisions très déséquilibrées.
4. Correction technique : Identification et correction d'une erreur dans la distribution asymptotique du maximum d'un processus d'Ornstein-Uhlenbeck dans Eicker [1979].

4. Résultats Principaux

A. Le Mécanisme de l'Échec : Divisions Déséquilibrées

Le cœur du problème réside dans le comportement des arbres de décision récursifs. Même dans le cas le plus simple (un effet de traitement constant), les règles de division gourmandes sélectionnent avec une probabilité non négligeable des divisions hautement déséquilibrées (des « end-cuts »).

• Cela crée des nœuds terminaux contenant très peu d'observations (voire un seul point).
• Comme l'effet de traitement est estimé par une moyenne locale dans chaque nœud, ces petits échantillons induisent une variance d'estimation extrêmement élevée dans certaines régions de l'espace des covariables.
• Ce phénomène se propage à travers les niveaux de l'arbre, créant de multiples régions où la taille d'échantillon effective ne croît pas avec $n$.

B. Théorèmes de Convergence (Théorème 1)

Sous des conditions de base, pour tout estimateur causal (DIM, IPW, SSE) avec au moins une division :

• Sans séparation d'échantillon (NSS) : La probabilité que l'erreur uniforme dépasse $C n^{-b/2} \sqrt{\log \log n}$ est bornée inférieurement par une constante positive pour tout $b \in (0,1)$. L'estimateur converge plus lentement que n'importe quel taux polynomial.
• Avec honnêteté (HON) : La probabilité que l'erreur uniforme dépasse $C n^{-b/2}$ est également bornée inférieurement. L'amélioration apportée par l'honnêteté est négligeable (suppression du terme $\sqrt{\log \log n}$), mais la convergence uniforme reste arbitrairement lente, voire inexistante (incohérence).

C. Incohérence Uniforme vs Convergence Moyenne (Théorèmes 2 et 3)

• Incohérence Uniforme : Les estimateurs peuvent être incohérents uniformément sur l'espace des covariables. Il existe des régions où l'erreur ne tend pas vers zéro même lorsque $n \to \infty$.
• Convergence en Moyenne (L2) : Paradoxalement, l'erreur quadratique moyenne intégrée (IMSE) peut converger à un taux presque optimal (de l'ordre de $1/n$). Cela s'explique par le fait que les régions problématiques (les nœuds très petits) ont une mesure de Lebesgue très faible. L'estimateur fonctionne bien « en moyenne » mais échoue catastrophiquement « ponctuellement » dans certaines zones.

D. Implications pour les Forêts Causales

Les résultats suggèrent que les garanties théoriques existantes pour les forêts causales (basées sur l'hypothèse d'$\alpha$-régularité) ne s'appliquent pas directement aux implémentations standard utilisant CART. Si l'on impose artificiellement une régularité stricte pour garantir la convergence, on perd l'adaptivité qui rend les arbres attrayants (capacité à isoler de petits sous-groupes).

5. Signification et Implications

• Limites de l'interprétabilité : Bien que les arbres causaux soient populaires pour leur interprétabilité et leur capacité à découvrir des sous-groupes, cet article montre qu'ils ne fournissent pas de garanties statistiques fiables pour l'estimation uniforme des effets de traitement, même avec des techniques de régularisation légères.
• Validité de l'inférence : Les intervalles de confiance basés sur des approximations gaussiennes standard peuvent être invalides dans les régions où les nœuds terminaux sont petits, car la taille d'échantillon effective n'augmente pas avec $n$.
• Régularisation : L'ajout de contraintes de taille minimale de nœud (pour éviter les petits échantillons) introduit un biais d'approximation significatif si l'effet de traitement n'est pas localement constant, créant un compromis biais-variance difficile à contrôler théoriquement.
• Contribution à la littérature : Ce travail s'inscrit dans une série de résultats négatifs récents sur les méthodes d'arbres adaptatifs, soulignant que l'adaptivité pure (sans contraintes structurelles fortes) peut mener à des comportements pathologiques en haute dimension ou pour l'estimation uniforme.

En résumé, l'article démontre que la « vérité honnête » sur les arbres causaux est qu'ils souffrent d'une limitation fondamentale inhérente à la partitionnement récursif adaptatif : l'incapacité à garantir une estimation précise et uniforme sur tout l'espace des covariables en raison de la génération inévitable de cellules de données trop petites.