Modeling nonstationary spatial processes with normalizing flows

Resumen Técnico: Modelado de Procesos Espaciales No Estacionarios con Flujos Normalizadores

Enunciado del Problema
Los procesos espaciales no estacionarios, caracterizados por propiedades estadísticas que varían a través del espacio, son prevalentes en campos como la ciencia ambiental, la geostatística y la teledetección. Los enfoques de modelado tradicionales a menudo dependen de procesos gaussianos (PG) estacionarios con funciones de covarianza fijas, los cuales no logran capturar las dependencias espaciales complejas presentes en conjuntos de datos del mundo real, lo que potencialmente conduce a inferencias sesgadas y predicciones inexactas. Si bien los métodos existentes para modelar la no estacionariedad incluyen parámetros que varían espacialmente, funciones de covarianza Matérn no estacionarias y ecuaciones diferenciales parciales estocásticas, a menudo requieren supuestos de modelado restrictivos o construcciones adaptadas para problemas específicos.

Una alternativa prominente es el enfoque de deformación del dominio, propuesto originalmente por Sampson y Guttorp (1992), que transforma un proceso no estacionario en un dominio $D$ en un proceso estacionario en un dominio deformado $D_1$ mediante un mapeo inyectivo $f: D \to D_1$. Sin embargo, seleccionar una función de deformación apropiada es difícil. Los enfoques anteriores basados en aprendizaje profundo, como el modelo espacial composicional profundo de Zammit-Mangion et al. (2022), dependen de unidades de deformación seleccionadas por el usuario (por ejemplo, funciones de base radial, transformaciones de Möbius). Estos métodos están limitados por el conjunto finito de unidades disponibles y actualmente se restringen a dominios espaciales de una y dos dimensiones, lo que dificulta su aplicación a datos de dimensiones superiores.

Metodología
Los autores proponen un marco novedoso, GPNAF, que modela procesos espaciales no estacionarios utilizando Flujos Autoregresivos Neuronales (NAF). La idea central es aprender la función de deformación inyectiva $f(\cdot)$ (denotada como $T(\cdot)$ en el artículo) utilizando una clase de redes neuronales invertibles capaces de generar transformaciones complejas y de alta dimensión.

1. Flujos Autoregresivos Neuronales (NAF): El marco utiliza NAF, específicamente la arquitectura de Flujo Sigmoidal Denso Profundo (DDSF). Un NAF se construye como una secuencia de mapas triangulares $T(s; \vartheta)$, donde cada componente de la salida depende únicamente de las componentes precedentes de la entrada. Esta estructura autoregresiva garantiza que el mapa sea invertible e inyectivo, evitando problemas de plegado del espacio.
2. Arquitectura: La función de deformación se parametriza mediante una red neuronal donde los parámetros de transformación en cada paso son salidas de una red "condicionadora". Para imponer la propiedad autoregresiva (donde la $k$-ésima salida depende únicamente de las entradas $s_1, \dots, s_{k-1}$), los autores emplean técnicas de enmascaramiento binario (Germain et al., 2015).
3. Formulación del Modelo: El proceso latente $Y(\cdot)$ se modela como un proceso gaussiano de media cero en el dominio deformado $\tilde{D}$ con una función de covarianza estacionaria e isótropa $\tilde{C}_\phi$. Los datos observados $Z$ son mediciones ruidosas de $Y$.
4. Estimación: Los parámetros del modelo (parámetros de deformación $\vartheta$ y parámetros de covarianza estacionaria $\phi$) se estiman mediante un procedimiento de ascenso de coordenadas por bloques en dos etapas para maximizar la verosimilitud logarítmica. Esto implica alternar entre la optimización de la función de deformación y los parámetros de covarianza estacionaria. La predicción espacial se realiza utilizando kriging simple en el dominio deformado.

Contribuciones Clave

• Flexibilidad de Alta Dimensión: A diferencia de los modelos de deformación profunda anteriores limitados a 1D y 2D, el marco propuesto basado en NAF es aplicable a dominios espaciales de dimensiones superiores (por ejemplo, 3D) con cambios mínimos en la arquitectura subyacente.
• Selección Automatizada de Unidades de Deformación: El marco elimina la necesidad de que los usuarios seleccionen manualmente unidades de deformación específicas (por ejemplo, funciones de base radial o transformaciones de Möbius). La red neuronal aprende la deformación apropiada directamente a partir de los datos.
• Invertibilidad e Inyectividad: Al aprovechar las propiedades teóricas de los NAF, el método garantiza un mapeo inyectivo, asegurando que la función de deformación no pliegue el espacio sobre sí mismo, lo cual es crítico para una inferencia espacial válida.
• Capacidad de Representación: Los autores demuestran que los NAF poseen una mayor capacidad de representación que otros modelos de procesos espaciales comúnmente utilizados, capaces de capturar estructuras anisotrópicas y no estacionarias complejas.

Resultados
El artículo valida el marco GPNAF mediante estudios de simulación y una aplicación del mundo real:

1. Estudios de Simulación:

   • Experimento 1 (SIWGP): Los datos se generaron a partir de un proceso gaussiano de entrada espacial deformado conocido. GPNAF logró valores de Error Cuadrático Medio de Predicción (MSPE) que coincidían estrechamente con el modelo verdadero (GPdeepspat) y proporcionó intervalos de predicción bien calibrados, superando a los PG estacionarios, a los PG Matérn no estacionarios y a DeepKriging.
   • Experimento 2 (Deformación Espiral): Los datos se generaron utilizando una función de deformación espiral compleja. GPNAF superó significativamente a todos los métodos competidores en MSPE y proporcionó los intervalos de predicción más calibrados, demostrando su capacidad para capturar distorsiones espaciales intrincadas sin conocimiento físico previo.
   • Visualización: Los gráficos de error estándar para GPNAF mostraron que la incertidumbre estaba dominada por propiedades del proceso que varían espacialmente en lugar de por las ubicaciones de observación, a diferencia de los modelos estacionarios donde los patrones de incertidumbre reflejaban la densidad de observación.

2. Aplicación del Mundo Real (Boyas Argo):

   • El marco se aplicó a un subconjunto 3D del conjunto de datos de Boyas Argo (temperatura y salinidad del océano) en el Océano Atlántico.
   • GPNAF se comparó con modelos Matérn estacionarios y no estacionarios y con DeepKriging. GPNAF logró el MSPE más bajo (0.17) y los intervalos de predicción más ajustados entre los modelos, manteniendo al mismo tiempo una probabilidad de cobertura del intervalo de predicción (PICP) del 95% cercana al nivel nominal.
   • La función de deformación aprendida reveló deformaciones espaciales consistentes con las corrientes superficiales oceánicas: las regiones con corrientes fuertes (cambios rápidos de temperatura) se estiraron en el dominio deformado, mientras que las regiones con corrientes débiles se comprimieron. Esto homogeneizó efectivamente las estructuras de dependencia variables, permitiendo el uso de un modelo estacionario en el espacio transformado.

Significado y Afirmaciones
El artículo afirma que GPNAF ofrece un enfoque flexible y basado en datos para modelar procesos espaciales complejos, no estacionarios y anisotrópicos. Al utilizar flujos normalizadores, el método supera las limitaciones de los modelos de deformación anteriores en cuanto a dimensionalidad y la necesidad de especificación manual de unidades de deformación. Los autores afirman que este marco es particularmente valioso para aplicaciones de alta dimensión en geociencias y ciencias ambientales donde la variabilidad espacial es compleja y difícil de parametrizar a priori. La aplicación exitosa a datos oceanográficos 3D destaca la utilidad del marco en escenarios del mundo real que involucran variaciones térmicas heterogéneas. Los autores señalan que, aunque el enfoque actual es completamente basado en datos, el trabajo futuro podría incorporar restricciones guiadas por la física o extender el marco a configuraciones espacio-temporales.