Modeling nonstationary spatial processes with normalizing flows

Resumo Técnico: Modelagem de Processos Espaciais Não Estacionários com Fluxos Normalizadores

Enunciado do Problema
Processos espaciais não estacionários, caracterizados por propriedades estatísticas que variam no espaço, são prevalentes em áreas como ciência ambiental, geoestatística e sensoriamento remoto. Abordagens de modelagem tradicionais frequentemente dependem de processos Gaussianos (GPs) estacionários com funções de covariância fixas, que falham em capturar dependências espaciais complexas encontradas em conjuntos de dados do mundo real, podendo levar a inferências enviesadas e previsões imprecisas. Embora métodos existentes para modelagem de não estacionariedade incluam parâmetros variáveis espacialmente, funções de covariância Matérn não estacionárias e equações diferenciais parciais estocásticas, eles frequentemente exigem suposições de modelagem restritivas ou construções adaptadas para problemas específicos.

Uma alternativa proeminente é a abordagem de deformação de domínio (domain warping), originalmente proposta por Sampson e Guttorp (1992), que transforma um processo não estacionário em um domínio $D$ em um processo estacionário em um domínio deformado $D_1$ por meio de um mapeamento injetor $f: D \to D_1$. No entanto, selecionar uma função de deformação adequada é difícil. Abordagens anteriores baseadas em aprendizado profundo, como o modelo espacial composicional profundo de Zammit-Mangion et al. (2022), dependem de unidades de deformação selecionadas pelo usuário (por exemplo, funções de base radial, transformações de Möbius). Esses métodos são limitados pelo conjunto finito de unidades disponíveis e estão atualmente restritos a domínios espaciais unidimensionais e bidimensionais, dificultando sua aplicação a dados de dimensões superiores.

Metodologia
Os autores propõem um novo framework, GPNAF, que modela processos espaciais não estacionários utilizando Fluxos Autoregressivos Neurais (NAFs). A ideia central é aprender a função de deformação injetora $f(\cdot)$ (denotada como $T(\cdot)$ no artigo) usando uma classe de redes neurais invertíveis capazes de gerar transformações complexas e de alta dimensão.

1. Fluxos Autoregressivos Neurais (NAFs): O framework utiliza NAFs, especificamente a arquitetura Deep Dense Sigmoidal Flow (DDSF). Um NAF é construído como uma sequência de mapas triangulares $T(s; \vartheta)$, onde cada componente da saída depende apenas das componentes precedentes da entrada. Essa estrutura autoregressiva garante que o mapa seja invertível e injetor, prevenindo problemas de dobramento do espaço.
2. Arquitetura: A função de deformação é parametrizada por uma rede neural onde os parâmetros de transformação em cada etapa são saídas de uma rede "condicionadora". Para impor a propriedade autoregressiva (onde a $k$-ésima saída depende apenas das entradas $s_1, \dots, s_{k-1}$), os autores empregam técnicas de mascaramento binário (Germain et al., 2015).
3. Formulação do Modelo: O processo latente $Y(\cdot)$ é modelado como um processo Gaussiano de média zero no domínio deformado $\tilde{D}$ com uma função de covariância estacionária e isotrópica $\tilde{C}_\phi$. Os dados observados $Z$ são medições ruidosas de $Y$.
4. Estimação: Os parâmetros do modelo (parâmetros de deformação $\vartheta$ e parâmetros de covariância estacionária $\phi$) são estimados por meio de um procedimento de ascensão de coordenadas em blocos em duas etapas para maximizar a verossimilhança logarítmica. Isso envolve alternar entre a otimização da função de deformação e dos parâmetros de covariância estacionária. A previsão espacial é realizada utilizando krigagem simples no domínio deformado.

Principais Contribuições

• Flexibilidade de Alta Dimensão: Ao contrário de modelos de deformação profunda anteriores limitados a 1D e 2D, o framework proposto baseado em NAFs é aplicável a domínios espaciais de dimensões superiores (por exemplo, 3D) com mudanças mínimas na arquitetura subjacente.
• Seleção Automatizada de Unidades de Deformação: O framework elimina a necessidade de os usuários selecionarem manualmente unidades de deformação específicas (por exemplo, funções de base radial ou transformações de Möbius). A rede neural aprende a deformação apropriada diretamente dos dados.
• Invertibilidade e Injetividade: Ao aproveitar as propriedades teóricas dos NAFs, o método garante um mapeamento injetor, assegurando que a função de deformação não dobre o espaço sobre si mesmo, o que é crítico para uma inferência espacial válida.
• Capacidade Representacional: Os autores demonstram que os NAFs possuem maior capacidade representacional do que outros modelos de processo espacial comumente usados, capazes de capturar estruturas anisotrópicas e não estacionárias complexas.

Resultados
O artigo valida o framework GPNAF por meio de estudos de simulação e uma aplicação do mundo real:

1. Estudos de Simulação:

   • Experimento 1 (SIWGP): Os dados foram gerados a partir de um processo Gaussiano de entrada espacial deformado conhecido. O GPNAF alcançou valores de Erro Quadrático Médio de Previsão (MSPE) que correspondiam estreitamente ao modelo verdadeiro (GPdeepspat) e forneceu intervalos de previsão bem calibrados, superando GPs estacionários, GPs Matérn não estacionários e DeepKriging.
   • Experimento 2 (Deformação Espiral): Os dados foram gerados usando uma função de deformação espiral complexa. O GPNAF superou significativamente todos os métodos concorrentes em MSPE e forneceu os intervalos de previsão mais calibrados, demonstrando sua capacidade de capturar distorções espaciais intrincadas sem conhecimento físico prévio.
   • Visualização: Gráficos de erro padrão para o GPNAF mostraram que a incerteza era dominada por propriedades do processo variáveis espacialmente, e não por locais de observação, ao contrário de modelos estacionários onde os padrões de incerteza refletiam a densidade de observação.

2. Aplicação do Mundo Real (Argo Floats):

   • O framework foi aplicado a um subconjunto 3D do conjunto de dados Argo Floats (temperatura e salinidade oceânicas) no Oceano Atlântico.
   • O GPNAF foi comparado a modelos Matérn estacionários e não estacionários e ao DeepKriging. O GPNAF alcançou o menor MSPE (0,17) e os intervalos de previsão mais apertados entre os modelos, mantendo uma probabilidade de cobertura do intervalo de previsão (PICP) de 95% próxima ao nível nominal.
   • A função de deformação aprendida revelou deformações espaciais consistentes com as correntes superficiais oceânicas: regiões com correntes fortes (mudanças rápidas de temperatura) foram esticadas no domínio deformado, enquanto regiões com correntes fracas foram comprimidas. Isso efetivamente homogeneizou as estruturas de dependência variáveis, permitindo que um modelo estacionário fosse usado no espaço transformado.

Significado e Alegações
O artigo alega que o GPNAF oferece uma abordagem flexível e orientada por dados para modelar processos espaciais complexos, não estacionários e anisotrópicos. Ao utilizar fluxos normalizadores, o método supera as limitações de modelos de deformação anteriores quanto à dimensionalidade e à necessidade de especificação manual de unidades de deformação. Os autores afirmam que este framework é particularmente valioso para aplicações de alta dimensão em geociências e ciências ambientais, onde a variabilidade espacial é complexa e difícil de parametrizar a priori. A aplicação bem-sucedida a dados oceanográficos 3D destaca a utilidade do framework em cenários do mundo real envolvendo variações térmicas heterogêneas. Os autores observam que, embora a abordagem atual seja totalmente orientada por dados, trabalhos futuros poderiam incorporar restrições guiadas por física ou expandir o framework para configurações espaço-temporais.