Rank-based Maxsum test for high dimensional regression coefficient

1. Problématique et Contexte

L'article aborde le problème de l'inférence globale des coefficients de régression dans des modèles linéaires de haute dimension, où le nombre de covariables $p$ est comparable ou supérieur à la taille de l'échantillon $n$. L'objectif est de tester l'hypothèse nulle globale $H_0 : \beta = 0$ contre l'alternative $H_1 : \beta \neq 0$.

Deux défis majeurs sont identifiés dans la littérature existante :

• Le compromis densité/parcimonie : Les tests de type « somme » (quadratiques) sont puissants lorsque le signal est dense (beaucoup de coefficients non nuls), mais perdent en puissance dans les régimes parcimonieux (peu de coefficients non nuls). À l'inverse, les tests de type « maximum » excellent pour les signaux parcimonieux mais sont moins performants pour les signaux denses. La plupart des méthodes existantes ne s'adaptent pas automatiquement à un niveau de parcimonie inconnu.
• La robustesse aux erreurs : La majorité des procédures de haute dimension supposent des erreurs légères (Gaussiennes ou sous-Gaussiennes). Elles deviennent peu fiables ou perdent en puissance lorsque les erreurs sont lourdes (heavy-tailed) ou contaminées, ce qui est fréquent dans les données réelles (génétique, biologie, etc.).

2. Méthodologie Proposée

Les auteurs proposent une nouvelle famille de tests adaptatifs et robustes, appelés tests Maxsum basés sur les rangs. La méthodologie repose sur trois piliers :

A. Construction des Statistiques Individuelles

L'approche combine deux types de statistiques basées sur les scores de Wilcoxon (rangs), qui offrent une robustesse naturelle aux erreurs non-Gaussiennes et à variance infinie :

1. Statistique de Somme ($T_{RS}$) : Basée sur la statistique U de rang de Feng et al. (2013). Elle est sensible aux alternatives denses.
   $$T_{RS} = \frac{n W_n}{\sqrt{2 \widehat{\text{tr}}(\Sigma^2)}}$$
2. Statistiques de Maximum ($T_{RM1}$ et $T_{RM2}$) : Basées sur les travaux de Xu et Zhou (2021).
   • $T_{RM1}$ : Statistique de maximum marginal.
   • $T_{RM2}$ : Statistique de maximum ajustée par la matrice de précision ($\Omega = \Sigma^{-1}$) pour tenir compte de la dépendance entre les covariables.

B. Indépendance Asymptotique

Le cœur théorique de l'article consiste à prouver que, sous l'hypothèse nulle $H_0$, la statistique de somme $T_{RS}$ et chacune des statistiques de maximum ($T_{RM1}$ ou $T_{RM2}$) sont asymptotiquement indépendantes.

• Cela est établi sous des conditions de régularité sur la structure de dépendance des covariables (modèle à composantes indépendantes, matrices de covariance et de précision faiblement dépendantes) et sur la distribution des erreurs (information de Fisher finie, mais sans exigence de variance finie).
• Les limites conjointes sont le produit de la fonction de répartition normale standard $\Phi(x)$ (pour la somme) et de la loi de Gumbel $F(y)$ (pour le maximum).

C. Combinaison par la Méthode de Cauchy

Pour créer un test adaptatif, les auteurs utilisent la méthode de combinaison de Cauchy (Liu et Xie, 2020).

• Les p-valeurs individuelles ($p_{RS}, p_{RM1}, p_{RM2}$) sont transformées via la fonction tangente.
• Deux nouveaux tests sont définis :
  $$T_{RC1} = \frac{1}{2} \tan\left[\left(\frac{1}{2} - p_{RS}\right)\pi\right] + \frac{1}{2} \tan\left[\left(\frac{1}{2} - p_{RM1}\right)\pi\right]$$
  $$T_{RC2} = \frac{1}{2} \tan\left[\left(\frac{1}{2} - p_{RS}\right)\pi\right] + \frac{1}{2} \tan\left[\left(\frac{1}{2} - p_{RM2}\right)\pi\right]$$
• Grâce à l'indépendance asymptotique prouvée, ces statistiques combinées suivent une loi de Cauchy standard sous $H_0$. Cela permet de rejeter $H_0$ si la statistique dépasse un seuil critique ou si la p-valeur combinée est inférieure au niveau de signification $\alpha$.

3. Contributions Clés

1. Théorie de l'Indépendance : Preuve formelle de l'indépendance asymptotique entre les statistiques de rang de type somme et de type maximum dans un cadre de haute dimension, justifiant mathématiquement leur combinaison.
2. Robustesse et Adaptativité : Développement de procédures qui sont simultanément :
   • Robustes : Valides sous des erreurs à queue lourde (ex: distributions t, log-normales, mélanges) sans nécessiter de moments d'ordre supérieur.
   • Adaptatives : Capables de maintenir une haute puissance quelle que soit la structure de parcimonie du signal (dense, parcimonieux ou intermédiaire), sans connaissance préalable de la densité du signal.
3. Extension des Méthodes Existantes : Intégration des travaux de Feng et al. (2013) et Xu et Zhou (2021) dans un cadre unifié de test global.

4. Résultats des Simulations

Des études de simulation ont été menées avec différentes tailles d'échantillons $(n, p)$, niveaux de parcimonie et distributions d'erreurs (Gaussienne, $t(3)$, Log-normale, Mélange Gaussien).

• Contrôle de la taille (Size Control) : Les tests proposés ($RC1, RC2$) maintiennent un contrôle précis du taux d'erreur de type I (niveau nominal 0.05) à travers toutes les configurations, y compris les cas d'erreurs lourdes, bien que légèrement libéraux dans certains scénarios finis.
• Puissance (Power) :
  • Les tests de type somme seuls (ex: $RS$) perdent beaucoup de puissance en régime parcimonieux.
  • Les tests de type maximum seuls (ex: $RM1, Max$) perdent de la puissance en régime dense, et leur performance se dégrade fortement sous des erreurs lourdes.
  • Les tests combinés ($RC1$ et $RC2$) surpassent systématiquement les méthodes individuelles. Ils offrent une puissance élevée et stable sur tout le spectre de parcimonie, même sous des distributions d'erreurs non-Gaussiennes.
  • Le test $RC2$ (incluant l'ajustement par la matrice de précision) montre une supériorité particulière lorsque les covariables sont fortement dépendantes (structure Toeplitz).

5. Signification et Impact

Cet article fournit une boîte à outils robuste et pratique pour le test de régression en haute dimension.

• Pratique : Il résout le dilemme courant de ne pas savoir si le signal est dense ou parcimonieux, ni si les données suivent une loi normale.
• Théorique : Il établit des fondements théoriques solides pour la combinaison de statistiques de rangs de types différents, élargissant la portée des tests non-paramétriques aux modèles de haute dimension complexes.
• Application : Les méthodes sont particulièrement pertinentes pour les domaines comme la génomique et la bio-informatique, où les données sont souvent de haute dimension, parcimonieuses et soumises à des distributions d'erreurs non idéales.

En conclusion, les auteurs démontrent que la combinaison de Cauchy de statistiques de rangs de type somme et maximum offre une solution supérieure aux approches existantes, garantissant à la fois robustesse et adaptabilité.