Post-reduction inference for confidence sets of models

1. Planteamiento del Problema

El artículo aborda un desafío fundamental en la regresión con alta dimensionalidad (donde el número de variables $p$ es mucho mayor que el número de observaciones $n$), común en campos como la genómica.

• El Dilema de la Selección de Modelos: En contextos de alta dimensión, múltiples combinaciones de variables de baja dimensión pueden ser compatibles con los datos. Elegir un único modelo (por ejemplo, mediante Lasso) para la comprensión científica es engañoso, ya que diferentes modelos implican diferentes explicaciones científicas.
• La Propuesta de Cox y Battey: Se sugiere reportar un conjunto de confianza de modelos (todos los modelos compatibles con los datos a un nivel de significancia dado) en lugar de un único modelo.
• El Problema de la Reducción Preliminar: Dado que $p$ es muy grande, es necesario realizar una reducción preliminar (filtrado de variables) para obtener un modelo envolvente $\hat{E}$ manejable antes de evaluar los submodelos.
• La Falacia de la Inferencia Post-Selección/Reducción: Si se utiliza el mismo conjunto de datos para seleccionar $\hat{E}$ y luego para evaluar la adecuación de los submodelos mediante una prueba de razón de verosimilitud (o prueba F), se produce una miscalibración. El modelo $\hat{E}$ se ajusta demasiado a los datos (sobreajuste), lo que hace que las pruebas de hipótesis rechacen los modelos verdaderos con demasiada frecuencia, resultando en una probabilidad de cobertura del conjunto de confianza inferior a la nominal.
• Limitaciones de las Soluciones Actuales:
  • El corte de muestra (sample splitting) (usar una parte de los datos para reducir y otra para evaluar) restaura la cobertura pero desperdicia información y reduce la potencia, especialmente en muestras pequeñas.
  • Los métodos MCMC para muestrear la distribución condicional son computacionalmente prohibitivos debido al gran número de submodelos a evaluar.

2. Metodología Propuesta

Los autores proponen una solución basada en las separaciones inferenciales fundamentales del enfoque condicional de Fisher: la separación suficiencia/co-suficiencia y la separación ancilaridad/co-ancilaridad.

A. Principios Teóricos

En lugar de comparar un modelo pequeño contra un modelo grande (lo que requiere una dirección de desviación), el método busca extraer toda la información relevante para la evaluación de la adecuación del modelo sin perder información en la fase de reducción.

1. Variedad Co-suficiente (Co-sufficient Manifold): Dado un estadístico suficiente $S$ para los parámetros de interés, la información restante en los datos reside en la distribución condicional de $Y$ dado $S=s_0$. Esta distribución vive en una variedad (o esfera) llamada variedad co-suficiente. Bajo el modelo correcto, los datos proyectados en esta variedad deben seguir una distribución uniforme.
2. Estadístico Ancilar: Componentes de los datos cuya distribución no depende de los parámetros de interés (como la suma de cuadrados de los residuos en regresión lineal normal) pueden usarse para verificar la adecuación del modelo.

B. Implementación para Regresión Lineal Gaussiana

Para el modelo de regresión lineal normal, los autores desarrollan un procedimiento operativo que evita el corte de muestra:

1. Partición de Información mediante Aleatorización (Co-sufficient Partitioning):

   • En lugar de dividir los datos, generan réplicas pseudo-aleatorias de la variable respuesta $Y$ utilizando una matriz de coeficientes $\Gamma$ y ruido gaussiano independiente.
   • Esto crea $k$ réplicas $\tilde{Y}^{(1)}, \dots, \tilde{Y}^{(k)}$ que, bajo el modelo nulo, son independientes y uniformemente distribuidas en la variedad co-suficiente (esfera unitaria en el espacio ortogonal al modelo).
   • Se utiliza un estimador de la varianza del error ($\hat{\sigma}^2$) modificado, basado en una versión adaptada del estimador de validación cruzada refit (refitted cross-validation) de Fan et al. (2012), calculado en un subconjunto de los datos (ej. 60%) para minimizar la dependencia con las estadísticas de prueba.

2. Prueba de Uniformidad (Rayleigh Test):

   • Se evalúa si las direcciones de las réplicas pseudo-aleatorias en la esfera son uniformes.
   • Se utiliza la prueba de Rayleigh de alta dimensión. Si el modelo es incorrecto, las réplicas tenderán a agruparse (ángulos pequeños), desviándose de la uniformidad.
   • La estadística de prueba converge a una distribución normal estándar bajo el modelo nulo.

3. Enfoque Ancilar:

   • Alternativamente, se puede usar la suma de cuadrados de los residuos ($R^2$) normalizada por la varianza estimada. Bajo el modelo correcto, esto sigue una distribución $\chi^2$. Este método es sensible a la estimación de la varianza en muestras pequeñas.

3. Contribuciones Clave

1. Separación Inferencial Explícita: Formalizan el uso de las separaciones de suficiencia/co-suficiencia y ancilaridad para la inferencia post-reducción, evitando la necesidad de especificar una dirección de desviación (como en las pruebas de razón de verosimilitud).
2. Mecanismo de Aleatorización: Introducen una generalización de la estrategia de inferencia aleatorizada de Rasines y Young (2023) adaptada para generar réplicas co-suficientes sin descartar datos, superando las limitaciones del corte de muestra.
3. Teoría de Distribución Tractable: Demuestran que, bajo condiciones adecuadas (uso del estimador modificado de varianza), la estadística de prueba tiene una distribución asintótica conocida (Normal estándar), permitiendo la construcción de conjuntos de confianza con cobertura controlada.
4. Análisis de Eficiencia: Proporcionan un marco para comparar la eficiencia de la partición de información (método propuesto) frente al corte de muestra, mostrando que la partición es superior cuando la fase de reducción es difícil o la muestra es pequeña.

4. Resultados Empíricos (Simulaciones)

Los autores comparan sus métodos (Co-suficiente y Ancilar) contra:

• Prueba F estándar (sin ajuste, miscalibrada).
• Corte de muestra (Split-sample) con prueba F.

Hallazgos principales en simulaciones de regresión lineal gaussiana:

• Cobertura: La prueba F estándar sin ajuste tiene una cobertura terrible (cercana a 0 en algunos casos). El corte de muestra restaura la cobertura pero a costa de un tamaño de conjunto de confianza muy grande o pérdida de potencia si la reducción falla.
• Rendimiento del Método Propuesto:
  • Los métodos basados en co-suficiencia y ancilaridad logran una cobertura cercana al nivel nominal (0.95) incluso en muestras pequeñas ($n=100$) y alta dimensionalidad.
  • Son más robustos que el corte de muestra cuando la probabilidad de que el modelo verdadero sobreviva la fase de reducción es baja.
  • El uso de $k$ (número de réplicas) permite un equilibrio: valores bajos de $k$ ofrecen mayor cobertura conservadora, mientras que valores altos mejoran la potencia de detección de desviaciones.
• Tamaño del Conjunto: Los conjuntos de confianza generados son grandes (cientos o miles de modelos), lo cual refleja honestamente la incertidumbre de los datos, a diferencia de los métodos que seleccionan un único modelo.

5. Significado y Conclusión

• Honestidad Estadística: El método promueve la reportación de un conjunto de modelos compatibles en lugar de un único modelo, reconociendo la incertidumbre estructural en datos de alta dimensión.
• Eficiencia de Datos: Al no descartar datos (a diferencia del corte de muestra) y utilizar toda la información tanto para la reducción como para la evaluación condicional, el método es más eficiente, especialmente en escenarios donde los datos son escasos.
• Generalización: Aunque el desarrollo detallado es para modelos lineales gaussianos, los autores discuten la extensión a familias exponenciales canónicas (como regresión logística) y modelos de vida acelerada (log-normal), sugiriendo que las ideas de variedades co-suficientes son aplicables más allá del caso gaussiano.
• Impacto Práctico: Proporciona una alternativa viable a los métodos de Monte Carlo (MCMC) que son computacionalmente inviables para conjuntos de confianza de modelos en alta dimensión, ofreciendo una solución analítica y computacionalmente eficiente.

En resumen, el artículo presenta un marco teórico y práctico riguroso para realizar inferencia válida sobre la estructura del modelo en presencia de alta dimensionalidad, superando las limitaciones de la selección de variables tradicional y el corte de muestra mediante el uso inteligente de la geometría de la información condicional.