Resumen Técnico: Inferencia Bayesiana de la Esparsidad en Procesos Vectoriales Autorregresivos Estables

Enunciado del Problema

El artículo aborda el desafío de realizar inferencia bayesiana en procesos vectoriales autorregresivos (VAR) gráficos estables, donde se requieren tanto la esparsidad como la estacionariedad. En aplicaciones de series temporales de alta dimensión (por ejemplo, genética, neurociencia, macroeconomía), identificar relaciones dirigidas (causalidad de Granger) e independencia condicional contemporánea es crucial. Estas relaciones se codifican en los patrones de esparsidad de las matrices de coeficientes autorregresivos ($\Phi$) y la matriz de precisión del error ($K = \Sigma^{-1}$).

Si bien la esparsidad puede inducirse mediante priores estándar (por ejemplo, spike-and-slab), imponer la estacionariedad es computacionalmente difícil. Un proceso VAR es estable si y solo si las raíces de su polinomio característico se encuentran fuera del círculo unitario, una condición que restringe los parámetros a una región geométrica compleja y no convexa conocida como la región estacionaria ($C_{p,m}$).

• El Conflicto: Los priores esparsos estándar se definen en un espacio euclidiano sin restricciones. Truncar estos priores a $C_{p,m}$ introduce constantes de normalización intratables, haciendo que la inferencia posterior sea doblemente intratable.
• La Consecuencia: Sin una imposición explícita, la masa posterior a menudo se desborda fuera de la región estacionaria, particularmente cuando la longitud de la serie temporal es corta en relación con la dimensión o cuando la esparsidad es baja. Esto conduce a varianzas de pronóstico ilimitadas y un rendimiento predictivo deficiente.

Metodología

Los autores proponen un nuevo marco bayesiano que impone simultáneamente la estacionariedad e induce la esparsidad mediante la expansión de parámetros y una estrategia de reparametrización.

1. Reparametrización para la Estacionariedad

Para evitar la complejidad geométrica de $C_{p,m}$, los autores introducen una variable auxiliar $\nu \in \mathbb{R}^+$ y mapean los coeficientes autorregresivos restringidos $\Phi$ a un conjunto sin restricciones de matrices cuadradas $Z = (Z_1, \dots, Z_p)$ y un factor de escala $u$.

• Mapeo: La transformación se define como $Z_s = \nu \phi_s$ y $u = \rho(C_\phi)$, donde $\rho(\cdot)$ es el radio espectral y $C_\phi$ es la matriz compañera.
• Mapeo Inverso: Los coeficientes originales se recuperan mediante $\phi_s = u Z_s / \rho(C_z)^s$, donde $C_z$ es la matriz compañera de $Z$.
• Propiedad Clave: Esta biyección preserva los ceros: $z_{s,ij} = 0$ si y solo si $\phi_{s,ij} = 0$ (para elementos fuera de la diagonal). Esto permite inducir esparsidad en el espacio sin restricciones $Z$ mientras se garantiza que el $\Phi$ resultante se encuentre dentro de la región estacionaria.

2. Especificación del Prior

• Coeficientes Autorregresivos ($\Phi$): Se coloca un prior spike-and-slab sobre las matrices sin restricciones $Z$.
  • Los elementos fuera de la diagonal $z_{s,ij}$ ($i \neq j$) se modelan como $z_{s,ij} = \gamma_{s,ij} \tilde{z}_{s,ij}$, donde $\gamma_{s,ij}$ es un indicador binario y $\tilde{z}_{s,ij}$ es una magnitud de efecto continua.
  • El "slab" es una distribución normal y el "spike" es un átomo en cero (o una normal estrecha).
  • Los hiperparámetros controlan la probabilidad de mezcla y la contracción.
• Matriz de Precisión del Error ($K$): Se utiliza una mezcla de distribuciones G-Wishart.
  • El prior se especifica como $\pi(G_2, K) = \pi(G_2)\pi(K|G_2)$, donde $G_2$ es el gráfico no dirigido de dependencias contemporáneas y $K|G_2 \sim W_{G_2}(d, D)$.
  • Este enfoque, común en modelos gráficos gaussianos, permite una $K$ esparsa mientras mantiene la conjugación con la verosimilitud gaussiana, aunque la constante de normalización se maneja mediante algoritmos de intercambio.

3. Inferencia Computacional (MCMC)

Los autores desarrollan un algoritmo Metropolis dentro de Gibbs para muestrear de la distribución conjunta posterior:

1. Parámetros Continuos ($\theta_{1,c}$): El vector que contiene las partes continuas de $Z$, el factor de escala $u$ y los hiperparámetros se muestrea utilizando el Muestreador No-U-Turn (NUTS). Este método basado en gradientes es esencial para navegar la dependencia posterior compleja inducida por la reparametrización.
2. Indicadores Discretos ($\theta_{1,d}$): Los indicadores binarios para la esparsidad en $Z$ se actualizan mediante un escaneo sistemático utilizando sus distribuciones de Bernoulli condicionales completas.
3. Gráfico y Matriz de Precisión ($\theta_2$): El gráfico no dirigido $G_2$ y la matriz de precisión $K$ se muestrean utilizando el algoritmo de determinación de modelos gráficos (Wang y Li, 2012), que emplea un algoritmo de intercambio para eludir la constante de normalización intratable de la G-Wishart.

Resultados Clave

Experimentos de Simulación

Los autores realizaron simulaciones extensas variando la longitud de la serie temporal ($n$), la dimensión ($m$), el orden ($p$) y los niveles de esparsidad ($r$).

• Identificación de Esparsidad: Imponer la estacionariedad redujo significativamente las tasas de clasificación errónea para los indicadores de esparsidad, particularmente cuando la esparsidad real era baja ($r=0.1$) o moderada ($r=0.5$). Sin restricciones de estacionariedad, la posterior a menudo falló en identificar los patrones de cero correctos, lo que condujo a altas distancias de Hamming entre los gráficos reales y estimados.
• Violación de Estacionariedad: En análisis donde no se impuso la estacionariedad, el 10% de las simulaciones resultó en distribuciones posteriores donde hasta el 16% de la masa se encontraba fuera de la región estacionaria, confirmando el riesgo de varianza ilimitada en modelos sin restricciones.
• Comparación: El método propuesto superó tanto a los VARs bayesianos esparsos sin restricciones como a los estimadores de verosimilitud regularizados basados en Lasso, particularmente en regímenes de alta dimensión y baja muestra.

Aplicaciones del Mundo Real

1. Datos Macroeconómicos de EE. UU.:
   • Configuración: Un modelo VAR(4) sobre 20 variables (incluyendo PIB, IPC y Tasa de Fondos Federales) desde 1959–2007.
   • Hallazgo: El prior propuesto (esparsos + estacionarios) arrojó el mejor rendimiento predictivo fuera de la muestra en todos los horizontes ($h=1, 2, 4, 8$).
   • Insight: Los modelos que no impusieron estacionariedad produjeron varianzas de pronóstico ilimitadas. El modelo estacionario esparsos identificó un fuerte bucle de retroalimentación entre el Índice de Precios al Consumidor (IPC) y la Tasa de Fondos Federales, consistente con la teoría económica.
2. Neurociencia (Conectividad Cerebral):
   • Configuración: Análisis de datos de electroencefalografía intracraneal (iEEG) de pacientes con epilepsia, centrándose en la potencia de banda en frecuencias beta y delta.
   • Hallazgo: El modelo reveló patrones distintos de conectividad dirigida. En la banda beta, hubo una probabilidad posterior significativamente mayor para bordes dirigidos de izquierda a derecha (LR) en comparación con otras direcciones.
   • Insight: Esta asimetría direccional se alinea con la historia clínica donde las crisis del paciente se originaron en el hemisferio izquierdo (amígdala/hipocampo) y se resolvieron después de la resección del lóbulo temporal izquierdo. Los resultados sugieren que la actividad cerebral interictal (no convulsiva) contiene información sobre la red funcional que genera las crisis.

Significado y Afirmaciones

El artículo afirma proporcionar la primera metodología para construir un prior para coeficientes autorregresivos vectoriales que simultáneamente restringe la inferencia a la región estacionaria y permite la esparsidad en el espacio de parámetros.

• Contribución Teórica: El trabajo resuelve la tensión entre la complejidad geométrica de la región estacionaria y la necesidad de estimación de parámetros esparsos mediante la introducción de una biyección que preserva los ceros a través de la expansión de parámetros.
• Impacto Práctico: Los autores demuestran que imponer la estacionariedad no es meramente una restricción teórica, sino una necesidad práctica para mejorar la precisión predictiva y la interpretabilidad científica, especialmente en configuraciones de alta dimensión donde los datos son limitados.
• Modestia: Los autores señalan que, aunque su enfoque es computacionalmente más intensivo que los métodos sin restricciones (debido a la variable auxiliar y al muestreo NUTS), el costo está justificado por la garantía de estacionariedad y la mejora resultante en la calidad de la inferencia. También reconocen que el método podría adaptarse a otros espacios con restricciones similares a normas (por ejemplo, el simplex).

El artículo concluye que ignorar la estacionariedad en VARs gráficos puede conducir a errores inferenciales graves y que su marco propuesto ofrece una solución robusta para aprender estructuras causales en sistemas dinámicos estables.