Resumen Técnico: Contracción de Covarianza mediante Interpolación Estocástica

Formulación del Problema

El artículo aborda el desafío fundamental de estimar la matriz de covarianza $\Sigma_\mu$ de un vector aleatorio de alta dimensión $X \in \mathbb{R}^D$ a partir de $N$ muestras, particularmente en regímenes donde $D$ es comparable o mayor que $N$. En tales entornos, la covarianza empírica de la muestra $\hat{\Sigma}$ presenta una alta varianza, es mal condicionada y sufre de dispersión espectral (descrita por la ley de Marčenko–Pastur) y ruido en los autovectores.

Los métodos de contracción clásicos (por ejemplo, Ledoit–Wolf) regularizan $\hat{\Sigma}$ atrayendo sus autovalores hacia un ancla (por ejemplo, la matriz identidad). Aunque son efectivos, estos métodos son rotacionalmente invariantes: preservan exactamente los autovectores empíricos. En consecuencia, cualquier señal desalineada con la base propia empírica es irrecuperable. Los refinamientos de contracción no lineal mejoran la estimación espectral, pero siguen estando limitados por esta invariancia rotacional.

Metodología

Los autores reformulan la contracción de la covarianza como un problema de minimización del riesgo empírico sobre un interpolante estocástico paramétrico entre una distribución fuente isotrópica $\mu_0$ y la medida empírica $\hat{\mu}$. El estimador se construye como la covarianza de una variable aleatoria $I_\theta = I(X_0, X; \theta)$, donde $X_0 \sim \mu_0$ y $X \sim \hat{\mu}$ están acoplados mediante una distribución conjunta $\nu$.

El marco introduce tres ejes distintos de regularización:

1. Programación del Interpolante (Interpolant Schedule)

El interpolante se define como $I_\theta = \alpha X_0 + \beta X$ con $\theta = (\alpha, \beta) \in [0, 1]^2$.

• Trayectoria Lineal ($\alpha + \beta = 1$): Recupera la contracción lineal clásica (Ledoit–Wolf).
• Trayectoria de Preservación de Traza ($\alpha^2 + \beta^2 = 1$): Recupera la contracción de preservación de traza.
• Programación 2D General: El minimizador del riesgo reside genéricamente en el interior del cuadrado $[0, 1]^2$, lejos de estas trayectorias 1D, lo que permite un compromiso sesgo-varianza más flexible.

2. Acoplamiento y Mapas de Flujo (Coupling and Flow Maps)

La elección del acoplamiento $\nu$ entre la fuente y el objetivo determina las propiedades estructurales del estimador:

• Acoplamiento Independiente: Supone independencia entre $X_0$ y $X$. Esto produce un estimador rotacionalmente invariante (preserva la base propia de $\hat{\Sigma}$).
• Acoplamiento de Transporte Óptimo (OT): Utiliza el mapa de Monge–Kantorovich (por ejemplo, la geodésica de Wasserstein-2). Aunque mejora el riesgo al interpolar autovalores en desviación estándar en lugar de varianza, sigue siendo rotacionalmente invariante, ya que el mapa de transporte comparte la base propia de $\hat{\Sigma}$.
• Mapas de Flujo Aprendidos (Neural): Los autores proponen aprender un campo de velocidad dependiente del tiempo $v_t(x)$ mediante Igualación de Flujo Condicional (Conditional Flow Matching). El flujo transporta $\mu_0$ hacia $\hat{\mu}$ resolviendo $\dot{X}_t = v_t(X_t)$. Crucialmente, si $v_t$ está parametrizado por una red neuronal, el flujo resultante es no lineal. Esto rompe la invariancia rotacional, permitiendo al estimador regularizar los propios autovectores y adaptarse a la geometría local de la variedad de datos.

3. Parada Temprana (Early Stopping)

Cuando el campo de velocidad es una red neuronal entrenada para minimizar la pérdida de igualación de flujo, entrenar hasta la convergencia ($\tau \to \infty$) provoca que el estimador colapse de nuevo hacia la covarianza empírica $\hat{\Sigma}$, memorizando el ruido de muestreo.

• Los autores identifican el presupuesto de entrenamiento (tiempo de parada $\tau$) como un tercer eje de regularización.
• Detenerse tempranamente produce una distribución terminal suavizada, intercambiando el sesgo de un flujo subentrenado contra la varianza de $\hat{\Sigma}$.
• Para seleccionar el punto de parada óptimo sin un conjunto de validación, proponen un sustituto de riesgo corregido por Stein (SURE). A diferencia de las correcciones estándar de Stein–Haff que requieren invariancia rotacional, este sustituto es aplicable al interpolante neuronal general utilizando Productos de Jacobiano-Vector (JVP) para estimar el término de divergencia.

Principales Contribuciones

1. Formalismo Unificado: El artículo unifica la contracción lineal clásica, la contracción de transporte óptimo y los estimadores basados en flujos neuronales bajo un único marco de interpolación estocástica.
2. Ruptura de la Invariancia Rotacional: Al emplear mapas de flujo no lineales (campos de velocidad neuronales), el método escapa de la limitación estructural de la contracción clásica, permitiendo la regularización de autovectores y la adaptación a la geometría intrínseca de los datos.
3. Estimación y Control de Riesgo: Los autores derivan un estimador de riesgo basado en datos (SURE) compatible con estimadores neuronales no rotacionalmente invariantes y demuestran que la parada temprana sirve como un mecanismo de regularización efectivo.
4. Límites Teóricos: Se deriva un límite superior teórico sobre el riesgo de Frobenius, mostrando que el error de estimación escala linealmente con el error $L_2$ del campo de velocidad aprendido, evitando la acumulación exponencial de error típica de los límites basados en trayectorias.

Resultados Experimentales

El método fue validado en benchmarks gaussianos sintéticos y datos de neuroimagen del mundo real.

• Experimentos Sintéticos: A través de varias formas espectrales (factorial, ley de potencia, decaimiento lineal) y relaciones de dimensionalidad ($q=D/N$), el estimador de Interpolación Estocástica (SI) logró consistentemente un menor riesgo (medido por distancias de Frobenius y Bures-Wasserstein) que Ledoit–Wolf y la contracción analítica de OT. Los perfiles de riesgo demostraron que el estimador óptimo a menudo se encuentra fuera de las trayectorias estándar de preservación de traza o lineales.
• Aplicación en el Mundo Real (fMRI): Aplicado al conjunto de datos ABIDE (fMRI en estado de reposo) con $D=200$ regiones y $N=100$ puntos temporales ($q=2$):
  • La covarianza empírica era singular.
  • El estimador SI superó significativamente a Ledoit–Wolf y a la contracción de Wasserstein-2 en términos de Log-Verosimilitud Negativa (NLL) fuera de la muestra.
  • El estimador SI logró un NLL de $30.96 \pm 15.64$, comparado con $51.68$ para Ledoit–Wolf y $40.89$ para la contracción de OT.

Significación y Reivindicaciones

El artículo sostiene que reformular la contracción de la covarianza como un problema de minimización de flujo en tiempo continuo revela nuevas vías para reducir el riesgo estadístico. La principal ventaja conceptual es la capacidad de evadir la restricción de invariancia rotacional que limita las técnicas tradicionales. Al regularizar dinámicamente los autovectores empíricos mediante mapas de flujo no lineales, el enfoque realiza una "contracción recocida y dependiente de la trayectoria" que se ajusta a la variedad subyacente de los datos.

Los autores enfatizan que la trayectoria de integración actúa como un control explícito sobre el compromiso sesgo-varianza. La utilidad práctica de esta interpolación no lineal se demuestra en el régimen altamente adverso y limitado de datos de la neuroimagen, donde el método captura la estructura de la covarianza de manera más efectiva que las líneas base robustas establecidas. El artículo concluye que, si bien el enfoque neuronal conlleva una carga computacional mayor que los estimadores de forma cerrada, ofrece una regularización geométrica superior, con trabajos futuros dirigidos hacia parametrizaciones más eficientes y extensiones a momentos de orden superior.