Resumen Técnico: Autoencoders de Pares Esparcidos Variacionales (vsPAIR) para Problemas Inversos y Cuantificación de la Incertidumbre

1. Planteamiento del Problema

Los problemas inversos consisten en reconstruir cantidades de interés ocultas (QoI), denotadas como $x$, a partir de observaciones indirectas y ruidosas $y$, típicamente modeladas como $y = F(x) + \varepsilon$. Estos problemas suelen ser mal planteados, lo que significa que pequeñas perturbaciones en $y$ pueden conducir a grandes cambios en la $x$ admisible.

Si bien los métodos variacionales clásicos (por ejemplo, Tikhonov, Variación Total) y los enfoques bayesianos proporcionan garantías teóricas, a menudo requieren evaluaciones repetidas del operador de propagación directa $F$ y un ajuste cuidadoso de los parámetros de regularización, lo que los hace computacionalmente costosos en entornos de alta dimensión o no lineales. Por el contrario, los enfoques basados en datos como las redes neuronales de extremo a extremo ofrecen una inferencia rápida, pero típicamente solo producen estimaciones puntuales, careciendo de la estructura probabilística necesaria para la Cuantificación de la Incertidumbre (UQ).

Los métodos generativos existentes para la UQ, como los modelos de difusión basados en el score, pueden aproximar la posterior $p(x|y)$, pero a menudo sacrifican la velocidad de inferencia debido a los requisitos de muestreo iterativo. Además, muchos enfoques de espacio latente sufren de códigos latentes "densos" donde la información está entrelazada a través de todas las dimensiones, lo que oscurece las fuentes de incertidumbre y dificulta la interpretación de qué características de los datos impulsan los errores de reconstrucción.

2. Metodología: El Marco de Trabajo vsPAIR

Los autores proponen el Autoencoder de Pares Esparcidos Variacional (vsPAIR), un marco diseñado para proporcionar una inferencia rápida y amortizada junto con estimaciones de incertidumbre estructuradas e interpretables. La arquitectura integra tres componentes principales:

2.1 Estructura de Autoencoder de Pares

Inspirado en las arquitecturas de "Gemelo Latente", vsPAIR emplea dos autoencoders separados:

1. Codificador de Observaciones: Un VAE (Autoencoder Variacional) estándar codifica las observaciones $y$ en un espacio latente $z_y$ utilizando una posterior variacional gaussiana $q_{\phi_y}(z_y | y)$.
2. Codificador de QoI: Un sVAE (Autoencoder Variacional Esparcido) codifica las cantidades de interés $x$ en un espacio latente $z_x$ utilizando una posterior variacional de tipo spike-and-slab (pico y placa): $q_{\phi_x}(z_x | x)$.
3. Mapeo Latente: Un mapeo aprendido $M_{\leftarrow}$ conecta los dos espacios latentes, transformando los parámetros de la distribución del codificador de observaciones $(\mu_y, \sigma_y)$ a los del codificador de QoI $(\mu_x, \sigma_x, \omega_x)$.

Este emparejamiento permite que el codificador de QoI aprenda características ancladas a datos limpios ($x$) en lugar de directamente desde observaciones corruptas, separando el aprendizaje de las características de la señal del proceso de inversión.

2.2 Representaciones Latentes Esparcidas (sVAE)

Para abordar el problema de la información entrelazada, el codificador de QoI utiliza una distribución spike-and-slab para su prior y posterior latente. Para cada dimensión latente $i$, la distribución es una mezcla de una masa puntual en cero (el "pico" o spike) y una gaussiana continua (la "placa" o slab):
$$q_{\phi}(z_i | x) = \omega_i \mathcal{N}(z_i | \mu_i, \sigma_i^2) + (1 - \omega_i)\delta_0(z_i)$$
Aquí, $\omega_i$ representa la probabilidad de que la $i$-ésima dimensión esté activa. Esta estructura obliga al modelo a concentrar la información en un pequeño número de factores identificables (dimensiones activas) en lugar de difundirla por todo el espacio latente.

2.3 Objetivo de Entrenamiento

El marco se entrena de extremo a extremo minimizando una función de pérdida compuesta (Ecuación 14) que incluye:

• ELBO para QoI ($L_{sVAE}$): Fomenta la reconstrucción de $x$ a partir de códigos latentes esparcidos.
• ELBO para Observaciones ($L_{VAE}$): Fomenta la reconstrucción de $y$.
• Pérdida de Mapeo Latente ($L_M$): Minimiza el Error Cuadrático Medio (MSE) entre los verdaderos parámetros latentes de $x$ y los parámetros predichos derivados de $y$ vía $M_{\leftarrow}$. Se añade una penalización de entropía binaria opcional para fomentar un enclavamiento decisivo (empujando $\omega$ hacia 0 o 1).
• Regularización Beta ($L_\rho$): Un término utilizado para aprender el nivel de escasez del prior $\rho$.

Crucialmente, el marco no requiere acceso al operador de propagación directa $F$ durante el entrenamiento; depende únicamente de muestras emparejadas $(x, y)$.

3. Principales Contribuciones

El artículo detalla tres contribuciones primarias:

1. El Marco de Trabajo vsPAIR: Una arquitectura novedosa que combina inferencia probabilística, escasez y mapeos latentes emparejados para permitir una inversión rápida y consciente de la incertidumbre sin requerir el operador de propagación directa.
2. Validación Experimental: Demostración de un rendimiento de reconstrucción competitivo en problemas inversos mal planteados, incluyendo inpainting ciego, tomografía computarizada (CT) e inferencia de condiciones iniciales para la ecuación del calor.
3. Incertidumbre Estructurada e Interpretable: Evidencia de que vsPAIR genera representaciones latentes esparcidas donde las dimensiones activas corresponden a características centrales de la reconstrucción. En consecuencia, la incertidumbre no se difunde, sino que se localiza en estos factores latentes específicos, permitiendo que la varianza en las estimaciones se rastree hasta fuentes identificables.

4. Resultados Experimentales

Los autores evaluaron vsPAIR contra líneas base deterministas (PAIR), líneas base variacionales (vPAIR) y líneas base puramente esparcidas (sVAE), así como métodos de UQ basados en difusión (DPS).

• Modelo Lineal Gaussiano: En un caso de prueba simple con una posterior conocida, vsPAIR aprendió con éxito un espacio latente estructurado donde las dimensiones activas colapsaron para coincidir con la dimensionalidad real de los datos. Las perturbaciones en estas dimensiones activas se alinearon con los autovectores de la verdadera covarianza de la posterior.
• Inpainting Ciego (MNIST):
  • Reconstrucción: vsPAIR logró un MSE competitivo, aunque ligeramente superior al de PAIR determinista, lo cual es consistente con el compromiso de regularización inherente a los VAEs.
  • Localización de la Incertidumbre: Los análisis cualitativos y cuantitativos mostraron que vsPAIR podía identificar dimensiones latentes que controlaban selectivamente las regiones corruptas. Mientras que vPAIR y vsPAIR mostraron "ratios de localización" similares (varianza concentrada en regiones faltantes), vsPAIR demostró que su estructura esparcida y emparejada permitía una separación más clara entre la estructura global y la incertidumbre local.
  • Estabilidad: vsPAIR mantuvo un subconjunto estable de dimensiones consistentemente activas (aprox. 11.5 por imagen), mientras que el sVAE de un solo codificador mostró una alta variabilidad en las dimensiones activas, sugiriendo que la estructura emparejada estabiliza el aprendizaje de características.
• Tomografía Computarizada (LoDoPaB-CT):
  • vsPAIR produjo reconstrucciones competitivas con TV-ADMM y más rápidas que el Muestreo de Posterior de Difusión (DPS).
  • Las estimaciones de incertidumbre se concentraron en los bordes y las características estructurales (por ejemplo, agujeros, estructuras óseas).
  • A diferencia de DPS, que a veces introducía detalles finos "alucinados", vsPAIR exhibió un comportamiento conservador, lo cual los autores señalan como favorable en aplicaciones médicas donde evitar falsos positivos es crítico.
  • El modelo concentró con éxito la varianza en un conjunto disperso de índices latentes (aprox. 1,383 dimensiones activas de 4,096).
• Ecuación del Calor (No Lineal):
  • Aplicado a la inferencia de condiciones iniciales a partir de estados temporales posteriores, vsPAIR logró reconstrucciones de alta fidelidad (MSE 0.071).
  • Los gráficos de varianza concentraron correctamente la incertidumbre alrededor de las fuentes de calor primarias, y los recorridos latentes mostraron que índices específicos controlaban las macro-características de la reconstrucción.

5. Significación y Reivindicaciones

El artículo afirma que vsPAIR ofrece un camino principista hacia una Cuantificación de la Incertidumbre interpretable. A diferencia de los métodos de UQ estándar que proporcionan medidas agregadas de confianza (por ejemplo, "el modelo tiene un 80% de certeza"), vsPAIR pretende responder qué es lo que genera incertidumbre. Al anclar las representaciones de la QoI a datos limpios y forzar la escasez, el marco aísla la incertidumbre en factores latentes específicos e identificables.

Los autores posicionan a vsPAIR como particularmente adecuado para aplicaciones donde:

• La interpretabilidad es primordial: Los usuarios necesitan entender qué características impulsan la ambigüedad (por ejemplo, distinguir una patología de un artefacto en imágenes médicas).
• Los modelos de propagación directa son desconocidos o costosos: El método requiere únicamente datos emparejados, no el operador $F$.
• Se requiere inferencia rápida: Una vez entrenado, vsPAIR proporciona inferencia amortizada mediante una sola pasada hacia adelante, evitando los costos de muestreo iterativo de los modelos de difusión.

El artículo reconoce modestamente las limitaciones: la huella del modelo es grande (aprox. 550 millones de parámetros para CT), y las probabilidades de activación ($\omega$) y las varianzas ($\sigma$) de la distribución latente mostraron una dependencia limitada respecto a la observación $y$ específica en los experimentos, lo que sugiere que el modelo aprende un subespacio reducido en lugar de una UQ totalmente dependiente de la observación. Los autores señalan que es necesario un trabajo futuro para calibrar mejor el marco y refinar la implementación del sVAE para lograr una mayor dependencia de los datos.