Ridge-Regularized Largest Root Test For High-Dimensional General Linear Hypotheses

Résumé Technique : Test de la plus grande racine par régularisation de Ridge pour les hypothèses linéaires générales de haute dimension

Énoncé du problème
L'article traite du problème fondamental du test d'hypothèses linéaires générales concernant les coefficients de régression dans un modèle linéaire multivarié ($Y = BX + \Sigma_p^{1/2}Z$). Plus précisément, il cible le test conjoint de $H_0: BC = 0$ contre $H_a: BC \neq 0$, où $p$ (dimension de la réponse), $m$ (dimension des prédicteurs) et $n_0$ (taille de l'échantillon) sont tous de grande taille et comparables.

Dans les contextes classiques où $n_0 \gg p$, le test de la plus grande racine de Roy, qui repose sur la plus grande valeur propre d'une matrice $F$ ($F = W_1 W_2^{-1}$), est une méthode puissante pour détecter les signaux concentrés. Cependant, dans les régimes de haute dimension où $p \geq n_2$ (avec $n_2 = n_0 - m$ étant les degrés de liberté résiduels), la matrice de covariance résiduelle $W_2$ devient singulière ou mal conditionnée. Cela rend l'inverse $W_2^{-1}$ indéfini ou instable, rendant le test classique infaisable. Les remèdes existants se concentrent souvent sur des cas spécifiques (par exemple, les tests de moyenne à deux échantillons) ou reposent sur des formes quadratiques et des méthodes de projection qui ne parviennent pas pleinement à capturer la puissance de l'approche de la plus grande racine pour les hypothèses linéaires générales.

Méthodologie
Pour surmonter le problème de singularité, les auteurs proposent un test de Roy par régularisation de Ridge. Le cœur de la méthodologie consiste à construire une matrice $F$ régularisée :
$$F_\lambda = W_1 (W_2 + \lambda I_p)^{-1}$$
où $\lambda > 0$ est un paramètre de régularisation. La statistique de test est la plus grande valeur propre de cette matrice, notée $\ell_{\max}(F_\lambda)$.

Le cadre théorique repose largement sur la Théorie des Matrices Aléatoires (RMT). Les auteurs établissent la distribution asymptotique de $\ell_{\max}(F_\lambda)$ sous l'hypothèse nulle dans un régime de haute dimension où $p, n_1, n_2 \to \infty$ proportionnellement. Les étapes techniques clés incluent :

1. Formulation de la matrice duale : Transformer la matrice asymétrique $F_\lambda$ en une matrice duale symétrique $\tilde{F}_\lambda$ pour faciliter l'analyse.
2. Loi de Marčenko-Pastur généralisée : Analyser la distribution spectrale limite de la matrice $G_\lambda = Z U_2 U_2^T Z^T + \lambda \Sigma_p^{-1}$, qui agit comme une matrice de covariance de population effective dans la formulation duale.
3. Universalité de la bordure (Edge Universality) : Prouver que les fluctuations de la plus grande valeur propre suivent la loi de Tracy-Widom de type 1 ($TW_1$) après centrage et mise à l'échelle appropriés, même sous des hypothèses d'erreurs non gaussiennes (moments finis).
4. Estimation des paramètres : Développer une procédure cohérente et pilotée par les données pour estimer les paramètres de centrage ($\Theta_1$) et de mise à l'échelle ($\Theta_2$) requis pour l'approximation $TW_1$. Cela implique de résoudre un problème d'optimisation pour estimer la distribution spectrale de la population à partir des valeurs propres de $W_2$, puis de résoudre un système d'équations différentielles ordinaires (ODE) pour dériver les dérivées nécessaires.

Contributions clés
L'article présente quatre contributions principales :

1. Extension aux hypothèses linéaires générales : Il étend les tests d'hypothèses de haute dimension au régime où le nombre d'hypothèses ($n_1$) est comparable aux degrés de liberté résiduels ($n_2$), tout en permettant à la dimension $p$ de dépasser la taille de l'échantillon $n_0$.
2. Première étude des tests de la plus grande racine par régularisation : Bien que la régularisation de Ridge soit connue dans d'autres contextes, il s'agit de la première étude examinant les tests de type plus grande racine sous régularisation statistique.
3. Fondements théoriques de la RMT : Du point de vue de la RMT, ce travail établit des lois locales, l'universalité, la rigidité de la bordure et la distribution de Tracy-Widom asymptotique pour la valeur propre extrême d'une classe de matrices de covariance échantillonnées régularisées et de matrices $F$ avec un terme de décalage non nul ($\lambda \Sigma_p^{-1}$).
4. Procédure d'estimation : Les auteurs proposent une procédure d'estimation cohérente et novatrice pour les paramètres de mise à l'échelle complexes impliqués dans la limite de Tracy-Widom, qui sont généralement difficiles à estimer en pratique.

Résultats et Performance

• Théorie asymptotique : Sous des conditions de moments légères et des hypothèses de régularité sur le spectre de la covariance de population, la statistique normalisée converge en distribution vers $TW_1$.
• Analyse de puissance : Le test est montré comme étant puissant contre les alternatives de rang faible. L'analyse compare la méthode proposée au cas limite $\lambda \to 0$ (Han et al., 2016) et $\lambda \to \infty$ (remplaçant $W_2$ par $I_p$). Les résultats indiquent que le test régularisé interpole entre ces extrêmes, offrant souvent des rapports signal sur bruit supérieurs lorsque $n_2$ est grand.
• Sélection pilotée par les données : Des stratégies pour sélectionner $\lambda$ sont développées à partir de perspectives bayésiennes décisionnelles et minimax.
• Simulations : Des simulations de Monte Carlo démontrent que le test proposé maintient des taux d'erreur de Type I bien contrôlés (proches du niveau nominal) à travers diverses structures spectrales (Identité, décroissance polynomiale, AR-ACF, modèles de facteurs) et atteint une puissance sensiblement plus élevée que les alternatives basées sur le maximum de vraisemblance (Ridge-LRT) et les tests de projection (Proj-LRT), particulièrement lorsque $n_1$ est grand.
• Application à des données réelles : La méthode est appliquée aux données du Human Connectome Project pour évaluer les associations entre les mesures cérébrales et les résultats comportementaux, identifiant avec succès des associations significatives dans des lobes cérébraux spécifiques (par exemple, le lobe temporal médial gauche, le frontal droit).

Signification et Revendications
L'article affirme que le test de régularisation de Ridge proposé fournit une solution robuste et puissante pour les hypothèses linéaires générales de haute dimension là où les méthodes classiques échouent en raison de la singularité des matrices. En établissant la limite de Tracy-Widom pour les matrices $F$ régularisées et en fournissant un algorithme d'estimation pratique, ce travail comble une lacune entre les résultats théoriques de la RMT et l'analyse multivariée appliquée. Les auteurs soulignent que l'invariance par rotation de la méthode assure une robustesse à travers différentes représentations de données sans nécessiter d'hypothèses structurelles spécifiques (comme la parcimonie) sur la matrice de covariance. Ce travail est présenté comme une étape fondamentale, les directions futures incluant des extensions vers les modèles de covariance à pics (spiked) et les régimes d'ultra-haute dimension via le criblage de variables.