Least Squares-Based Permutation Tests in Time Series

Resumen Técnico: Pruebas de Permutación Basadas en Mínimos Cuadrados en Series Temporales

Planteamiento del Problema
El artículo aborda el desafío de realizar pruebas de hipótesis válidas para parámetros de regresión y tendencias monótonas en entornos de series temporales donde las observaciones exhiben una dependencia débil. La inferencia clásica de Mínimos Cuadrados Ordinarios (OLS) se basa en supuestos de errores independientes e idénticamente distribuidos (i.i.d.) y, a menudo, de gaussianidad. En las series temporales, estos supuestos fallan con frecuencia debido a la dependencia serial, lo que invalida las pruebas paramétricas estándar (por ejemplo, pruebas $t$, pruebas $\chi^2$), provocando tasas de error Tipo I infladas.

Si bien las pruebas de permutación ofrecen una alternativa no paramétrica que proporciona inferencia exacta en muestras finitas bajo la "hipótesis de aleatorización" (intercambiabilidad de los errores), son tradicionalmente inaplicables a las series temporales. Permutar las covariables en un entorno dependiente del tiempo destruye la estructura temporal y la relación entre las covariables y las respuestas. En consecuencia, el supuesto fundamental de intercambiabilidad requerido para la exactitud a menudo falla, y la distribución de permutación puede no aproximarse a la verdadera distribución de muestreo, lo que conduce a una invalidez asintótica.

Metodología
Los autores proponen un marco para construir pruebas de permutación que son asintóticamente válidas para una amplia clase de procesos estacionarios y débilmente dependientes (específicamente secuencias $\alpha$-mixing) manteniendo la exactitud cuando la hipótesis de aleatorización es válida (es decir, cuando los errores son i.i.d.).

La metodología central involucra dos escenarios de problemas distintos, ambos utilizando estadísticas estudiantizadas para lograr la pivoticidad asintótica:

1. Prueba de Coeficientes de Regresión ($H_0: \beta = 0$):

   • Configuración: El artículo considera una secuencia estacionaria, $\alpha$-mixing $\{(Y_i, X_i)\}$ donde $X_i \in \mathbb{R}^p$. El objetivo es probar si el coeficiente de regresión incondicional $\beta$ es cero.
   • Problema: El estadístico no estudiantizado $\sqrt{n}\hat{\beta}_n$ tiene una distribución gaussiana límite con covarianza $\Sigma_X^{-1}\Gamma\Sigma_X^{-1}$, mientras que la distribución de permutación converge a una gaussiana con covarianza $\sigma_Y^2 \Sigma_X^{-1}$. Estas covarianzas generalmente difieren bajo dependencia, lo que causa que la prueba de permutación no estudiantizada sea inválida.
   • Solución: Los autores construyen un estadístico estudiantizado dividiendo el coeficiente de regresión por un estimador consistente de la varianza de largo plazo. Específicamente, definen un estimador de varianza $\hat{\Gamma}_n$ (análogo a los estimadores de Newey-West) que da cuenta de la correlación serial en los residuos. El estadístico de prueba se construye como:
     $$Z_n = \left( \hat{\Gamma}_n^{-1/2} \hat{\Sigma}_X \right) \sqrt{n}\hat{\beta}_n$$
   • Resultado: Bajo la hipótesis nula, tanto la verdadera distribución de muestreo de $Z_n$ como su distribución de permutación convergen a la distribución normal multivariante estándar $N(0, I_p)$, independientemente de la estructura de dependencia subyacente (siempre que se cumplan las condiciones de mezcla y de momentos).

2. Prueba de Tendencia Monótona ($H_0^{(m)}$: Sin tendencia monótona):

   • Configuración: El artículo considera un modelo de arreglo triangular $Y_{n,i} = X_{n,i} + \lambda_{n,i}$, donde $X_{n,i}$ es un arreglo $\alpha$-mixing estacionario por fila y $\lambda_{n,i} = g(i/n)$ representa una potencial tendencia monótona.
   • Problema: Los autores demuestran que sin restricciones sobre la función de tendencia $g$, la distribución de permutación puede degenerar (por ejemplo, si la tendencia crece demasiado rápido, una sola observación de alto apalancamiento domina el estadístico de la prueba). Además, la varianza del estadístico de prueba no estudiantizado y la distribución de permutación generalmente no coinciden bajo dependencia.
   • Solución: Los autores imponen la restricción de que la función de tendencia $g$ es acotada y continua, evitando problemas extremos de apalancamiento. Luego construyen un estadístico estudiantizado utilizando un estimador de varianza $\hat{\tau}_n^2$ que estima la varianza de largo plazo del proceso de error $X_{n,i}$. El estadístico de la prueba es:
     $$T_n = \frac{n^{3/2} \hat{\beta}_n}{\sqrt{12} \hat{\tau}_n}$$
   • Resultado: De manera similar al caso de la regresión, el estadístico estudiantizado y su contraparte de permutación convergen a la distribución normal estándar $N(0, 1)$ bajo la hipótesis nula, asegurando la validez asintótica.

Contribuciones Clave y Resultados

• Validez Asintótica bajo Dependencia: La principal contribución teórica es demostrar que las pruebas de permutación, cuando están debidamente estudiantizadas, son asintóticamente válidas para procesos $\alpha$-mixing estacionarios. Esto extiende la aplicabilidad de las pruebas de permutación más allá del entorno i.i.d. hacia series temporales de dependencia débil en general.
• Preservación de la Exactitud: Las pruebas propuestas mantienen la propiedad de inferencia exacta en muestras finitas cuando se cumple la hipótesis de aleatorización (intercambiabilidad), una característica que las pruebas paramétricas estándar carecen sin supuestos gaussianos.
• Estimación de la Varianza: El artículo proporciona construcciones específicas para estimadores consistentes de la varianza de largo plazo ($\hat{\Gamma}_n$ y $\hat{\tau}_n^2$) que son robustos a la operación de permutación, asegurando que la distribución de permutación coincida con la verdadera distribución límite.
• Evidencia de Simulación: Las simulaciones de Monte Carlo confirman que las pruebas de permutación estudiantizadas controlan las tasas de error Tipo I en el nivel nominal (por ejemplo, $\alpha=0.05$) para diversas dependencias de procesos (incluyendo procesos $m$-dependientes y ARMA), mientras que las pruebas clásicas de Chi-cuadrado y las pruebas de permutación no estudiantizadas a menudo fallan, exhibiendo severos sobre-rechazos o bajo-rechazos dependiendo de la estructura de dependencia y el comportamiento de las colas.
• Implementación de Software: Los métodos están implementados en el paquete de R permixOLS, que incluye ejemplos resueltos y maneja problemas numéricos como la inversión de matrices mediante la descomposición en valores singulares con truncamiento.

Significancia y Reivindicaciones
El artículo afirma que su marco proporciona una solución robusta para la inferencia confirmatoria en regresión de series temporales y análisis de tendencias donde los supuestos estándar fallan. La significancia radica en cerrar la brecha entre la exactitud de las pruebas de aleatorización y la flexibilidad requerida para datos dependientes.

Los autores señalan modestamente que, si bien sus pruebas son asintóticamente válidas, la tasa de convergencia al nivel nominal depende del comportamiento de cola de los datos. En casos de distribuciones de cola muy pesada, se pueden requerir tamaños de muestra más grandes para que los estimadores de varianza estudiantizados se estabilicen. Sin embargo, incluso en estos regímenes difíciles, se demuestra que la prueba de permutación estudiantizada es superior a las alternativas clásicas, que pueden exhibir probabilidades de rechazo que superan con creces el nivel nominal a medida que el tamaño de la muestra aumenta.

En última instancia, el artículo establece que las pruebas de permutación pueden ser un enfoque válido para la inferencia en series temporales, siempre que los estadísticos de prueba se estudianticen para dar cuenta de la estructura de dependencia específica, recuperando así la pivoticidad asintótica.