A Powerful Bootstrap Test of Independence in High Dimensions

1. Problématique et Contexte

L'article aborde le problème du test d'indépendance non paramétrique d'une variable aléatoire $X$ par rapport à un grand pool de variables $Y_1, \dots, Y_p$, où la dimension $p$ peut être beaucoup plus grande que la taille de l'échantillon $n$ (scénario de haute dimension).

L'hypothèse nulle est formulée comme suit :
$$H_0 : Y_j \perp X \quad \text{pour tout } j \in \{1, \dots, p\}$$
contre l'hypothèse alternative $H_1$ (la négation de $H_0$).

Défis spécifiques :

• Haute dimension : Le nombre de variables $p$ peut croître exponentiellement avec $n$.
• Dépendance non restreinte : La méthode doit être valide même si les variables $Y_1, \dots, Y_p$ sont fortement dépendantes entre elles.
• Limites des méthodes existantes : Les tests basés sur la covariance de distance (comme ceux de Székely, Rizzo et Bakirov) ou d'autres tests de rangs en haute dimension sont souvent conçus pour tester l'indépendance conjointe ($H_0^{joint}: (Y_1, \dots, Y_p) \perp X$). Or, $H_0^{joint}$ est une hypothèse plus forte que $H_0$. Les auteurs montrent que les tests existants ne contrôlent pas nécessairement le taux d'erreur de type I (la taille du test) sous $H_0$ lorsque la copule conditionnelle de $Y$ étant donné $X$ dépend de $X$, même si chaque $Y_j$ est marginalement indépendant de $X$.

2. Méthodologie Proposée

Les auteurs proposent un nouveau test basé sur la statistique de corrélation de rang de Chatterjee (2021), combinée à une procédure de rééchantillonnage par blocs (block multiplier bootstrap).

A. Statistique de Test

Pour chaque hypothèse individuelle $H_{0,j}$, la statistique de corrélation de rang de Chatterjee $\hat{\xi}_j$ est utilisée. La statistique globale du test est le maximum de ces corrélations sur toutes les dimensions :
$$\hat{T} := \sqrt{n} \max_{1 \le j \le p} \hat{\xi}_j$$
Cette statistique est normalisée par $\sqrt{n}$ pour assurer une convergence appropriée.

B. Estimation des Valeurs Critiques : Block Multiplier Bootstrap

Le défi principal est que la distribution asymptotique de $\hat{T}$ est complexe en haute dimension et que le bootstrap non paramétrique standard échoue à estimer la distribution de la corrélation de Chatterjee (Lin and Han, 2024) car il ignore la dépendance de type 1 (1-dependence) inhérente à la représentation linéaire asymptotique de la statistique.

Pour contourner cela, les auteurs utilisent un block multiplier bootstrap :

1. Représentation linéaire : La statistique $\sqrt{n}\hat{\xi}_j$ admet une représentation linéaire asymptotique de la forme $\frac{1}{\sqrt{n}}\sum W_{j,i} + r_{j,n}$, où $\{W_{j,i}\}$ est un processus 1-dépendant.
2. Découpage en blocs : La somme des termes $W_{j,i}$ est décomposée en "gros blocs" (indépendants entre eux) et "petits blocs" (négligeables asymptotiquement). Soit $q$ la taille du bloc.
3. Rééchantillonnage : Des multiplicateurs $\varepsilon_k$ (variables normales standards indépendantes) sont appliqués aux sommes des gros blocs estimés.
4. Statistique Bootstrap :
   $$\hat{T}^B := \max_{1 \le j \le p} \frac{1}{\sqrt{mq}} \sum_{k=1}^m \varepsilon_k \hat{A}_{j,k}$$
   où $\hat{A}_{j,k}$ sont les sommes estimées des blocs. La valeur critique $\hat{c}(\alpha)$ est le quantile $(1-\alpha)$ conditionnel de $\hat{T}^B$.

C. Choix Optimal du Paramètre de Bloc ($q$)

Les auteurs dérivent un choix optimal pour la taille du bloc $q$ en minimisant l'erreur quadratique moyenne (MSE) entre la variance du bootstrap et la variance asymptotique théorique.

• La solution optimale est approximée par $\tilde{q}(n) \approx (n/16)^{1/3}$.
• Les simulations montrent que le test est peu sensible au choix précis de $q$, mais ce choix théorique assure une approximation optimale de la variance.

D. Procédure Pas à Pas (Stepwise Procedure)

Pour identifier les variables spécifiques qui violent l'indépendance tout en contrôlant le taux d'erreur familial (FWER), les auteurs proposent une procédure de type "stepdown" (basée sur Romano and Wolf, 2005). Cette méthode rejette itérativement les hypothèses les plus extrêmes tout en ajustant les valeurs critiques conditionnellement à l'ensemble des hypothèses restantes, garantissant ainsi le contrôle du FWER asymptotique.

3. Résultats Théoriques Principaux

1. Contrôle de la taille uniforme (Theorem 1) :
   Sous des conditions de régularité sur la croissance de $p$ et $q$ (permettant à $p$ d'être exponentiel en $n$), le test contrôle asymptotiquement la taille au niveau nominal $\alpha$, uniformément sur une large classe de processus générateurs de données.

   • Point clé : La dépendance entre $Y_1, \dots, Y_p$ n'est aucunement restreinte.

2. Consistance (Theorem 2) :
   Le test est consistant contre toute alternative fixe où les variables sont continûment distribuées. La puissance tend vers 1 lorsque $n \to \infty$.

3. Validité du Bootstrap par blocs :
   Contrairement au bootstrap non paramétrique standard, le block multiplier bootstrap corrige correctement la variance de la corrélation de Chatterjee en tenant compte de la structure de dépendance 1-dépendante des termes de la somme, ce qui permet d'obtenir une approximation valide même en haute dimension.

4. Résultats des Simulations

Les auteurs comparent leur méthode (BMB) à des tests basés sur la covariance de distance (dcov.test, dcorT.test) et d'autres tests de rangs (ZXZL, ZZYS).

• Contrôle de la taille : Les tests basés sur la covariance de distance échouent à contrôler la taille sous $H_0$ lorsque la dépendance entre les $Y_j$ dépend de $X$ (violation de l'hypothèse d'indépendance conjointe mais respect de l'indépendance marginale). Le test BMB maintient un taux de rejet proche de 5% dans tous les scénarios.
• Puissance :
  • Le test BMB est généralement plus puissant que les alternatives, en particulier dans les scénarios de haute dimension et lorsque les variables $Y_j$ sont dépendantes.
  • Il excelle face aux alternatives "sparses" (peu de violations) et aux alternatives "cosinus" (non-linéaires), où les tests de covariance de distance perdent beaucoup de puissance.
  • Le test est robuste à la dépendance entre les $Y_j$ (paramètre $\tau$), tandis que la puissance des autres tests se dégrade significativement avec l'augmentation de cette dépendance.
• Insensibilité à $q$ : La performance du test est très stable quelle que soit la taille du bloc choisie, bien que le choix optimal théorique soit recommandé.

5. Application Empirique

Les auteurs appliquent leur méthode à un jeu de données biologiques (expression génique de souris sur 48 heures) pour identifier les gènes dont les niveaux de transcription oscillent au cours du cycle cellulaire.

• Données : $p = 45\,101$ gènes, $n = 48$ observations temporelles.
• Résultat : La procédure stepwise identifie 4 554 gènes violant l'indépendance (environ 10,1% des gènes).
• Comparaison : Ce résultat est supérieur en nombre à l'étude originale (3 667 gènes), tout en offrant un contrôle plus strict du taux d'erreur familial (FWER) par rapport au contrôle du taux de fausses découvertes (FDR) utilisé précédemment. Le test détecte également de nouveaux gènes rythmiques non identifiés par les méthodes précédentes.

6. Signification et Contributions

• Innovation Méthodologique : C'est l'un des premiers tests d'indépendance en haute dimension qui garantit le contrôle de la taille sans aucune hypothèse sur la structure de dépendance entre les variables de la pool ($Y$), un problème majeur dans les applications réelles (génétique, finance, etc.).
• Correction du Bootstrap : L'article résout le problème de l'inconsistance du bootstrap standard pour la corrélation de Chatterjee en introduisant une approche par blocs adaptée à la structure de dépendance des statistiques de rang.
• Outil Pratique : La disponibilité du package R hdIndep facilite l'adoption de cette méthode par la communauté statistique et appliquée.
• Robustesse : La méthode démontre une supériorité claire sur les tests basés sur la covariance de distance dans des scénarios réalistes où les hypothèses d'indépendance conjointe ne sont pas vérifiées.

En résumé, cet article fournit une solution théoriquement solide et empiriquement puissante pour le screening de variables en haute dimension, capable de gérer des dépendances complexes et des dimensions massives tout en contrôlant rigoureusement les erreurs de type I.