Rank-based Maxsum test for high dimensional regression coefficient

Resumen Técnico: Prueba Maxsum Basada en Rangos para Regresión de Alta Dimensión

1. Planteamiento del Problema

El artículo aborda el desafío de realizar inferencia global sobre los coeficientes de regresión en modelos lineales de alta dimensión, donde el número de covariables ($p$) es comparable o mucho mayor que el tamaño de la muestra ($n$). El objetivo es probar la hipótesis nula global:
$$H_0: \beta = 0 \quad \text{vs} \quad H_1: \beta \neq 0$$

Existen dos limitaciones críticas en los métodos existentes:

1. Dependencia de la esparsidad: Las pruebas de tipo "suma" (sum-type) son potentes cuando la señal es densa (muchos coeficientes no nulos), mientras que las pruebas de tipo "máximo" (max-type) son superiores cuando la señal es esparsa (pocos coeficientes no nulos). En la práctica, el nivel de esparsidad es desconocido, lo que dificulta la elección de una prueba única.
2. Sensibilidad a colas pesadas: La mayoría de los procedimientos actuales asumen errores con colas ligeras (distribución normal o sub-Gaussiana). Cuando los errores son de colas pesadas o están contaminados, estos métodos pierden robustez y control de tamaño.

El trabajo busca desarrollar un procedimiento que sea simultáneamente robusto a errores de colas pesadas y adaptativo al nivel de esparsidad desconocido.

2. Metodología Propuesta

Los autores proponen una estrategia de combinación que integra estadísticos de suma y de máximo basados en rangos (Wilcoxon), utilizando el método de combinación de Cauchy.

A. Componentes Individuales:

1. Estadístico de Suma Basado en Rangos ($T_{RS}$):

   • Basado en el trabajo de Feng et al. (2013).
   • Utiliza puntuaciones de Wilcoxon ($e_i$) derivadas de los rangos de las respuestas $Y_i$.
   • Es robusto a errores de colas pesadas y potente para alternativas densas.
   • Definido como una U-estadística estandarizada: $T_{RS} = \frac{n W_n}{\sqrt{2 \widehat{\text{tr}}(\Sigma^2)}}$.

2. Estadísticos de Máximo Basados en Rangos ($T_{RM1}$ y $T_{RM2}$):

   • Basados en el trabajo de Xu y Zhou (2021).
   • $T_{RM1}$: Estadístico de máximo marginal basado en la correlación de puntuaciones de Wilcoxon con las covariables.
   • $T_{RM2}$: Estadístico de máximo ajustado por precisión, que incorpora una estimación de la matriz de precisión $\Omega = \Sigma^{-1}$ para manejar la dependencia entre predictores.
   • Diseñados para detectar señales esparsas.

B. Contribución Teórica Clave: Independencia Asintótica
El núcleo teórico del artículo es demostrar que, bajo la hipótesis nula ($H_0$), el estadístico de suma ($T_{RS}$) y cada uno de los estadísticos de máximo ($T_{RM1}$ y $T_{RM2}$) son asintóticamente independientes.

• Se establecen teoremas que prueban que la distribución conjunta converge al producto de las distribuciones marginales: una Normal Estándar (para la suma) y una Gumbel (para el máximo).
• Esta independencia se mantiene bajo condiciones de regularidad en las covariables (modelo de componentes independientes con colas sub-exponenciales) y en la distribución del error (información de Fisher finita, sin requerir varianza finita).

C. Prueba Maxsum Adaptativa (Combinación de Cauchy)
Aprovechando la independencia asintótica, los autores proponen combinar los valores-p ($p$-valores) de los componentes mediante el método de combinación de Cauchy (Liu y Xie, 2020):

• Se definen dos estadísticos combinados:
  $$T_{RC1} = \frac{1}{2}\tan\left[\left(\frac{1}{2} - p_{RS}\right)\pi\right] + \frac{1}{2}\tan\left[\left(\frac{1}{2} - p_{RM1}\right)\pi\right]$$
  $$T_{RC2} = \frac{1}{2}\tan\left[\left(\frac{1}{2} - p_{RS}\right)\pi\right] + \frac{1}{2}\tan\left[\left(\frac{1}{2} - p_{RM2}\right)\pi\right]$$
• Bajo $H_0$, ambos estadísticos convergen en distribución a una distribución de Cauchy estándar $Cauchy(0, 1)$.
• Esto permite rechazar $H_0$ si el estadístico combinado supera el cuantil superior $\alpha$ de la distribución de Cauchy, sin necesidad de estimar la dependencia entre los componentes ni realizar remuestreo (resampling).

3. Resultados Principales

A. Simulaciones de Control de Tamaño (Empirical Size):

• Se evaluaron 8 procedimientos (incluyendo pruebas de suma, máximo, combinaciones adaptativas y métodos clásicos como F-test o EB) bajo diferentes configuraciones de $(n, p)$ y distribuciones de error: Normal, $t$ de Student (colas pesadas), Log-normal y Mezcla Gaussiana.
• Hallazgo: Las pruebas propuestas ($RC1$y$RC2$) mantienen un control de tamaño preciso (cerca del nivel nominal 0.05) incluso en escenarios de errores de colas pesadas y contaminados, donde los métodos basados en mínimos cuadrados fallan o se vuelven conservadores/liberales.

B. Simulaciones de Potencia (Empirical Power):

• Se analizó la potencia en función del número de coeficientes no nulos ($s$) y la distribución de errores.
• Adaptabilidad:
  • Las pruebas de suma (como $RS$) pierden potencia drásticamente en regímenes esparsos.
  • Las pruebas de máximo (como $RM1$) pierden potencia en regímenes densos y son sensibles a errores de colas pesadas.
  • Las pruebas combinadas ($RC1$y$RC2$) demostraron un rendimiento superior y consistente a lo largo de todo el espectro de esparsidad (desde muy esparsa hasta densa).
• Robustez: En escenarios de colas pesadas, las pruebas basadas en rangos combinadas superaron significativamente a las pruebas basadas en mínimos cuadrados, manteniendo una potencia alta incluso cuando el ruido distorsionaba los momentos de segundo orden.
• Efecto de la Matriz de Precisión: En configuraciones con fuerte dependencia entre covariables (estructura Toeplitz), la versión ajustada por precisión ($RC2$) mostró ventajas adicionales, aunque $RC1$ (sin ajuste de precisión) ya ofrecía un rendimiento robusto y superior en la mayoría de los casos.

4. Significado e Impacto

1. Solución al Dilema Esparsidad-Densidad: El método ofrece una solución "todo en uno" que no requiere conocer el nivel de esparsidad de los coeficientes, adaptándose automáticamente al combinar evidencia de componentes sensibles a densidad y a esparsidad.
2. Robustez sin Coste de Potencia: Introduce robustez frente a errores de colas pesadas (vía el uso de rangos de Wilcoxon) sin sacrificar la potencia en escenarios de colas ligeras, superando las limitaciones de los métodos clásicos de regresión lineal.
3. Fundamento Teórico Sólido: La demostración de la independencia asintótica entre estadísticos de suma y máximo basados en rangos es un avance teórico que justifica el uso de métodos de combinación simples (como Cauchy) en contextos de alta dimensión complejos.
4. Aplicabilidad Práctica: Proporciona una herramienta confiable para ciencias de datos modernas (genómica, descubrimiento de fármacos) donde los datos suelen ser de alta dimensión, ruidosos y con distribuciones de error desconocidas o no normales.

En conclusión, el artículo establece un nuevo estándar para la inferencia global en regresión de alta dimensión, combinando la robustez de los métodos no paramétricos con la adaptabilidad de las estrategias de combinación de pruebas.