Testing conditional independence under isotonicity

1. Problématique et Contexte

Le test d'indépendance conditionnelle (CI), noté $X \perp\!\!\perp Y \mid Z$, est une pierre angulaire de l'inférence causale, de la sélection de variables et de la modélisation graphique. Cependant, Shah et Peters (2020) ont démontré un résultat de dureté fondamental : sans hypothèses supplémentaires sur la distribution sous-jacente, il est impossible de construire un test d'indépendance conditionnelle valide avec une puissance non triviale (c'est-à-dire supérieure au niveau de signification $\alpha$) pour toute distribution alternative.

Les approches existantes contournent cette difficulté en imposant des restrictions fortes, telles que :

• Des modèles paramétriques (ex. : Gaussien).
• Une connaissance ou une estimation précise de la distribution conditionnelle $P_{X|Z}$.
• Des hypothèses de régularité (ex. : lissité de $P_{X|Z}$).

L'objectif de cet article est de proposer un test d'indépendance conditionnelle valide et puissant sous une hypothèse structurelle plus faible et naturelle : la monotonie stochastique de la distribution conditionnelle de $X$ par rapport à $Z$. Cette hypothèse est fréquente dans des domaines comme la biomédecine (le risque de maladie augmente avec l'intensité d'un facteur de risque) ou l'économie (le salaire augmente avec le niveau d'éducation).

2. Méthodologie : PairSwap-ICI

Les auteurs proposent une procédure appelée PairSwap-ICI (Pair Swap for Isotonic Conditional Independence).

A. Hypothèse de Monotonie Stochastique

L'hypothèse clé (Assumption 1) est que $X$ est stochastiquement non-décroissant par rapport à $Z$. Formellement, pour un ordre partiel $\preceq$ sur l'espace de $Z$ :
Si $z \preceq z'$, alors $P(X \ge x \mid Z=z) \le P(X \ge x \mid Z=z')$ pour tout $x$.
Cela définit l'hypothèse nulle restreinte $H_0^{ICI}$ : $X \perp\!\!\perp Y \mid Z$ ET $P_{X|Z}$ satisfait l'isotonicité.

B. Principe du Test

L'idée centrale repose sur l'observation de paires de points de données $(X_i, Y_i, Z_i)$ et $(X_j, Y_j, Z_j)$ telles que $Z_i \preceq Z_j$.

• Sous $H_0^{ICI}$ : En raison de la monotonie stochastique, on s'attend à ce que $X_i$ soit "plus petit" que $X_j$ (au sens stochastique).
• Sous l'alternative : Si $Y$ influence $X$ au-delà de $Z$, cette relation peut être violée de manière systématique.

La procédure se déroule en trois étapes :

1. Appariement (Matching) : L'analyste choisit une séquence de paires d'indices $(i_\ell, j_\ell)$ telles que $Z_{i_\ell} \preceq Z_{j_\ell}$. Ces paires peuvent être choisies en fonction de $Y$ et $Z$ pour maximiser la puissance (ex: appariement par voisins ou par "bins" croisés).
2. Statistique de test : Une fonction $\psi$ (anti-monotone) est appliquée aux paires de valeurs $X$. Une statistique globale $T$ est construite comme une somme pondérée de ces fonctions. Par exemple, pour un noyau linéaire, $T = \sum w_\ell (X_{i_\ell} - X_{j_\ell})$.
3. Permutation restreinte (PairSwap) : Pour calibrer le test, on effectue des permutations aléatoires uniquement à l'intérieur de chaque paire appariée. Pour chaque paire $(i_\ell, j_\ell)$, on échange ou non les valeurs $X_{i_\ell}$ et $X_{j_\ell}$ avec une probabilité de 0,5.
   • Si $H_0^{ICI}$ est vraie, la distribution de la statistique $T$ est invariante (ou dominée) par ces permutations.
   • La valeur $p$ est calculée en comparant la statistique observée à la distribution des statistiques obtenues par ces permutations.

C. Validité Finie

Le théorème principal (Théorème 2) établit que le contrôle de l'erreur de type I est valide en échantillon fini, quel que soit le choix de l'appariement ou de la statistique, tant que l'hypothèse de monotonie stochastique est respectée. Cela contraste avec de nombreuses méthodes existantes qui ne garantissent la validité qu'asymptotiquement.

3. Contributions Clés

1. Cadre Non-Paramétrique : Introduction d'une contrainte de forme (monotonie stochastique) qui permet de tester la CI sans spécifier de modèle paramétrique ni estimer la densité conditionnelle complète.
2. Contrôle d'Erreur de Type I Fini : La méthode PairSwap-ICI offre un contrôle strict de l'erreur de type I pour n'importe quelle taille d'échantillon, même avec des espaces $Y$ et $Z$ de haute dimension ou infinis.
3. Stratégies d'Appariement et de Pondération :
   • Stratégies Oracle : Détermination théorique des poids et appariements optimaux pour maximiser la puissance, basés sur les moments conditionnels.
   • Stratégies Heuristiques : Proposition de méthodes pratiques ne nécessitant pas d'estimation complexe, comme l'appariement par voisins (Neighbor matching) ou par bins croisés (Cross-bin matching), qui s'avèrent très performantes.
4. Analyse de Puissance et SNR Isotonique : Introduction d'une nouvelle métrique, le Rapport Signal-Bruit Isotonique (ISNR), qui caractérise la difficulté fondamentale du problème. Les auteurs montrent que la puissance du test est contrôlée par ce rapport et que leur méthode atteint des bornes de puissance quasi-optimales.
5. Extension Multivariée : La méthodologie est généralisée au cas où la réponse $X$ est vectorielle ($X \in \mathbb{R}^d$), en utilisant des projections sur le premier quadrant.

4. Résultats Principaux

• Théoriques :

  • Le test est valide sous $H_0^{ICI}$.
  • Sous des modèles de régression partielle linéaire, la puissance du test converge vers 1 si le signal (lié à $\beta_n$) dépasse un seuil critique de l'ordre de $n^{-1/2}$.
  • L'ISNR empirique caractérise la puissance asymptotique.
  • Les stratégies d'appariement "Cross-bin" (avec un nombre de bins croissant avec $n$) permettent d'atteindre la borne inférieure de puissance théorique, surpassant parfois l'appariement par voisins qui perd environ la moitié des données.

• Simulations :

  • Le test maintient un contrôle strict de l'erreur de type I même pour de petits échantillons, contrairement à des méthodes asymptotiques comme le GCM (Generalized Covariance Measure) ou le CRT (Conditional Randomization Test) qui peuvent être trop libéraux ou conservateurs.
  • La puissance est élevée et compétitive par rapport aux méthodes de référence (GCM, PCM, CRT) sur divers modèles (linéaires, quadratiques, interactions), en particulier lorsque les hypothèses de régularité des autres méthodes ne sont pas remplies.

• Données Réelles (Diabète) :

  • Application sur un jeu de données de diabète (Pima Indians).
  • Après contrôle de l'âge ($Z$), le test identifie la glycémie (Glucose) et l'IMC (BMI) comme des facteurs de risque significatifs pour le diabète.
  • En revanche, des variables comme le nombre de grossesses ou l'insuline, qui semblaient significatives en indépendance marginale, ne le sont plus une fois l'âge contrôlé, suggérant que leur association était confondue par l'âge.

5. Signification et Impact

Cet article apporte une solution robuste au problème fondamental de la dureté du test d'indépendance conditionnelle. En exploitant une hypothèse de monotonie stochastique, souvent justifiée par la connaissance du domaine (biologie, économie), les auteurs parviennent à :

1. Éviter les hypothèses de régularité (lissité) ou paramétriques restrictives.
2. Garantir la validité statistique (contrôle de l'erreur de type I) même sur de petits échantillons, ce qui est crucial pour les applications pratiques où les données sont limitées.
3. Offrir une flexibilité à l'analyste pour concevoir des statistiques de test puissantes via des stratégies d'appariement adaptatives.

La méthode PairSwap-ICI comble ainsi un vide important entre les tests paramétriques rigides et les tests non-paramétriques sans hypothèse (qui sont impossibles à réaliser avec puissance), offrant un outil pratique et théoriquement fondé pour l'inférence causale et la sélection de variables.