A Powerful Bootstrap Test of Independence in High Dimensions

Aquí presento un resumen técnico detallado del artículo "A Powerful Bootstrap Test of Independence in High Dimensions" (Una prueba potente de independencia en alta dimensión) de Olivares, Olma y Wilhelm.

1. Planteamiento del Problema

El artículo aborda el problema de la prueba de independencia no paramétrica entre una variable aleatoria escalar $X$ y un conjunto grande de $p$ variables aleatorias $Y_1, \dots, Y_p$.

• Hipótesis Nula ($H_0$): Todas las variables $Y_j$ son independientes de $X$ simultáneamente ($Y_j \perp X$ para todo $j \in \{1, \dots, p\}$).
• Hipótesis Alternativa ($H_1$): Al menos una $Y_j$ depende de $X$.
• Desafíos Principales:
  1. Alta Dimensión: El número de variables $p$ puede crecer exponencialmente con el tamaño de la muestra $n$ ($p \gg n$).
  2. Dependencia Estructural: No se imponen restricciones sobre la dependencia entre las variables del conjunto $\{Y_1, \dots, Y_p\}$. Pueden estar altamente correlacionadas o tener estructuras de dependencia complejas.
  3. Control de Errores: Es necesario controlar la tasa de error familiar (Family-Wise Error Rate, FWER) al realizar múltiples pruebas simultáneas para identificar qué variables específicas violan la independencia.
  4. Limitaciones de Métodos Existentes: Las pruebas basadas en covarianza de distancia (como las de Székely y Rizzo) a menudo fallan en controlar el tamaño (tasa de error tipo I) bajo $H_0$ en alta dimensión si la copula condicional de $Y$ dado $X$ depende de $X$, o requieren supuestos de intercambiabilidad que no siempre se cumplen.

2. Metodología Propuesta

Los autores proponen un nuevo procedimiento de prueba que combina la correlación de rangos de Chatterjee con un método de remuestreo (bootstrap) específico.

A. Estadístico de Prueba

El estadístico se basa en la correlación de rangos de Chatterjee ($\hat{\xi}_j$), propuesta por Chatterjee (2021), que mide la dependencia entre dos variables.

• Para cada $j$, se calcula $\hat{\xi}_j$.
• El estadístico global de la prueba es el máximo de estas correlaciones estandarizadas:
  $$\hat{T} := \sqrt{n} \max_{1 \le j \le p} \hat{\xi}_j$$

B. Block Multiplier Bootstrap (Bootstrap de Multiplicadores por Bloques)

Dado que la distribución asintótica del máximo de correlaciones en alta dimensión es difícil de derivar directamente y el bootstrap no paramétrico estándar falla para la correlación de Chatterjee (Lin y Han, 2024), los autores desarrollan un Block Multiplier Bootstrap:

1. Representación Lineal Asintótica: Se utiliza la representación lineal de $\hat{\xi}_j$ que involucra una suma de términos $W_{j,i}$. Estos términos forman un proceso 1-dependiente (no i.i.d.), lo que invalida el bootstrap estándar.
2. Bloques Grandes y Pequeños: Para manejar la dependencia, la suma se descompone en "bloques grandes" (independientes entre sí) y "bloques pequeños" (que actúan como separadores).
   • Se define un tamaño de bloque $q$ (parámetro de ajuste).
   • Se construyen sumas sobre bloques grandes ($A_{j,k}$) que son asintóticamente independientes.
3. Remuestreo: Se generan multiplicadores $\varepsilon_k$ (variables normales estándar independientes) y se construye un estadístico bootstrap:
   $$\hat{T}^B := \max_{1 \le j \le p} \frac{1}{\sqrt{mq}} \sum_{k=1}^m \varepsilon_k \hat{A}_{j,k}$$
   donde $\hat{A}_{j,k}$ son las sumas estimadas de los bloques.
4. Valor Crítico: El valor crítico $\hat{c}(\alpha)$ se obtiene como el cuantil condicional $(1-\alpha)$ de la distribución bootstrap dada la muestra.

C. Selección Óptima del Parámetro $q$

El tamaño del bloque $q$ es crucial. Los autores derivan una elección óptima $q^*(n)$ minimizando el Error Cuadrático Medio (MSE) entre la varianza bootstrap y la varianza asintótica teórica.

• La solución aproximada es $\tilde{q}(n) \approx (n/16)^{1/3}$.
• Simulaciones muestran que el tamaño de la prueba es robusto a variaciones en $q$, pero esta elección óptima mejora la precisión.

D. Procedimiento Paso a Paso (Stepwise)

Para identificar qué variables específicas violan la independencia mientras se controla el FWER, se propone un procedimiento de paso hacia abajo (stepdown) basado en Romano y Wolf (2005):

1. Se prueba la hipótesis global.
2. Si se rechaza, se eliminan las hipótesis individuales rechazadas y se repite el proceso con el subconjunto restante, actualizando los valores críticos condicionales.
3. Esto garantiza el control asintótico del FWER uniformemente sobre una amplia clase de procesos generadores de datos.

3. Contribuciones Clave

1. Control de Tamaño Uniforme en Alta Dimensión: Demuestran teóricamente que la prueba controla el tamaño (tasa de error tipo I) uniformemente incluso cuando $p$ crece exponencialmente con $n$, sin restricciones sobre la dependencia entre las $Y_j$.
2. Corrección del Bootstrap para Chatterjee: Resuelven el problema de la inconsistencia del bootstrap no paramétrico estándar para la correlación de Chatterjee al incorporar explícitamente la estructura de dependencia 1-dependiente mediante bloques.
3. Procedimiento de Selección con Control FWER: Integran la prueba en un marco de inferencia múltiple que permite seleccionar variables relevantes controlando el error familiar, algo que pocos métodos en alta dimensión logran sin restricciones fuertes.
4. Eficiencia Computacional: El método es computacionalmente eficiente incluso para $p$ muy grandes, a diferencia de otras pruebas basadas en rangos que se vuelven inviables.

4. Resultados de Simulación y Aplicación Empírica

Simulaciones

Los autores comparan su método (BMB) con pruebas basadas en covarianza de distancia (Székely-Rizzo) y otras pruebas de rangos (Zhou et al., 2024):

• Control de Tamaño: Las pruebas de covarianza de distancia fallan en controlar el tamaño cuando la dependencia entre $Y_j$ depende de $X$ (violando la hipótesis conjunta más fuerte), mientras que el método BMB mantiene el nivel nominal.
• Potencia:
  • BMB es más potente que los competidores en escenarios de alternativas dispersas (pocas variables dependientes) y alternativas de coseno (no lineales complejas).
  • Es robusto a la dependencia entre las variables $Y_j$; la potencia de los competidores cae drásticamente bajo dependencia, mientras que BMB se mantiene estable.
  • En dimensiones muy altas, BMB supera a los competidores en la mayoría de los escenarios, excepto en alternativas lineales densas donde algunos competidores pueden tener ventaja.
• Insensibilidad a $q$: El rendimiento de la prueba es casi insensible al valor exacto de $q$, validando la utilidad de la elección óptima propuesta.

Aplicación Empírica

Aplicaron el método a datos de expresión génica (ratón hígado) para identificar genes cuyos niveles de transcripción oscilan durante el ciclo celular.

• Datos: $n=48$ observaciones temporales, $p=45,101$ genes.
• Resultado: El procedimiento identificó 4,554 genes (aprox. 10.1%) que violan la independencia.
• Comparación: Este conjunto es mayor que el identificado en un estudio seminal previo (3,667 genes) que usaba una metodología diferente. El método propuesto encontró 2,635 genes nuevos no detectados anteriormente, demostrando su mayor potencia para detectar actividad rítmica, manteniendo al mismo tiempo un control estricto del FWER.

5. Significancia e Impacto

Este trabajo es significativo por varias razones:

• Rigor Teórico: Proporciona garantías teóricas sólidas (control de tamaño uniforme) en un régimen de alta dimensión donde muchos métodos existentes fallan o carecen de justificación teórica.
• Flexibilidad: Al no restringir la dependencia entre las variables de prueba, es aplicable a una gama mucho más amplia de problemas reales (genética, inferencia causal, detección de sesgos en ML) donde las variables suelen estar correlacionadas.
• Herramienta Práctica: La disponibilidad del paquete R hdIndep facilita la adopción de la metodología.
• Innovación en Bootstrap: La técnica de "Block Multiplier Bootstrap" aplicada a la correlación de Chatterjee abre nuevas vías para la inferencia en estadística no paramétrica de alta dimensión, superando las limitaciones del bootstrap estándar.

En resumen, el artículo presenta una solución robusta, potente y teóricamente fundamentada para el problema de la detección de dependencias en entornos de datos masivos y complejos, superando las limitaciones de las técnicas actuales basadas en covarianza de distancia.