Resumo Técnico: Processos de Operadores Neurais para Aprendizado de Operadores Probabilísticos sob Observações Parciais

1. Definição do Problema

Os Operadores Neurais (NOs), como o Operador Neural de Fourier (FNO), estabeleceram-se como paradigmas eficazes para aprender mapeamentos entre espaços de funções, particularmente para resolver equações diferenciais parciais (PDEs). No entanto, os NOs padrão são tipicamente desenvolvidos e avaliados sob a premissa de campos de entrada-saída densos e totalmente pareados. Isso contrasta com muitos cenários científicos realistas, como a assimilação de dados, onde a resposta física alvo é conhecida apenas através de observações esparsas, irregulares ou parciais, mesmo que as propriedades do domínio subjacente sejam conhecidas densamente.

Além disso, a quantificação de incerteza (UQ) no aprendizado de operadores permanece subdesenvolvida, especialmente sob observações esparsas. As abordagens existentes frequentemente dependem de ensembles externos ao modelo, calibração post-hoc ou permanecem vinculadas a formulações de entrada-saída densas. Embora os Processos Neurais (NPs) ofereçam uma perspectiva complementar ao aprender distribuições sobre funções a partir de conjuntos de contexto esparsos via inferência de variável latente amortizada, eles são projetados primariamente para regressão de funções pontuais e não foram amplamente adaptados para mapeamentos estruturados de função-para-função que exigem decodificação densa em escala de PDE.

O desafio central abordado neste trabalho é unificar a inferência condicionada a conjuntos dos NPs com a decodificação de operador estruturado dos NOs para prever campos de saída completos a partir de um contexto limitado e esparso, fornecendo, simultaneamente, uma quantificação de incerteza coerente.

2. Metodologia: Processos de Operador Neural (NOPs)

Os autores introduzem os Processos de Operador Neural (NOPs), um framework que condiciona em um conjunto de contexto esparso de observações conjuntas entrada-saída para inferir o mapeamento de um dado campo de entrada para sua solução alvo densa. O framework suporta variantes determinísticas e probabilísticas dentro de uma arquitetura compartilhada de codificador-decodificador.

2.1 Visão Geral da Arquitetura

O pipeline NOP consiste em três estáções principais:

1. Codificação de Contexto: O conjunto de contexto esparso $C = \{(x_i^{(c)}, a_i^{(c)}, u_i^{(c)})\}$ é codificado em uma representação condicionada ao contexto $R_C(x)$ avaliada em localizações de consulta (query).
2. Construção do Campo Oculto Inicial: A representação de contexto é combinada com a informação de entrada do lado da consulta (o campo de entrada $a(x)$ em uma grade densa) para formar um campo oculto inicial $v_0(x)$.
3. Decodificação de Operador: Um decodificador de Operador Neural (especificamente um decodificador do tipo FNO) processa $v_0(x)$ para produzir a previsão final $\hat{u}(x)$.

2.2 Estratégias de Condicionamento

O artigo investiga dois mecanismos de condicionamento complementares para unir a visão baseada em conjuntos dos NPs com a visão de domínio contínuo dos NOs:

• Condicionamento SetConv: Uma via de pooling global que eleva o conjunto de contexto esparso e irregular para um campo contínuo usando convoluções de conjunto kernelizadas (SetConv). Isso codifica separadamente a densidade do suporte de contexto e os valores de campo locais observados.
• Condicionamento por Atenção Alinhada à Consulta: Uma via de atenção que modela quais pontos de contexto são mais relevantes para cada localização de consulta, preservando a estrutura geométrica local. Isso permite que o modelo atenda diretamente ao conjunto de contexto em vez de depender apenas da proximidade do kernel.
• Representação Fundida: Essas vias podem ser combinadas em uma representação fundida antes da decodificação.

2.3 Extensão Probabilística

Para permitir a quantificação de incerteza, a arquitetura determinística é estendida com uma variável latente global $z$ que captura a incerteza ao nível da tarefa.

• Inferência Latente: Um resumo global da representação induzida pelo contexto é usado para inferir uma prior condicionada ao contexto $p_\theta(z | C)$. Durante o treinamento, uma posterior aproximada $q_\phi(z | C, U_Q)$ é aprendida usando as saídas alvo.
• Condicionamento Latente: A variável latente $z$ é injetada na etapa de entrada (concatenação por broadcast com $v_0(x)$) em vez de modular as camadas do decodificador, o que se mostrou resultar em uma inferência condicionada pela prior mais estável.
• Distribuição Preditiva: A distribuição preditiva final é obtida marginalizando a verossimilhança condicionalmente fatorada sobre a variável latente, decompondo a incerteza em um componente global de nível de tarefa (de $z$) e um componente preditivo local (da verossimilhança de saída).

3. Principais Contribuições

1. Formulação: Os autores formulam o aprendizado de operador sob observações parciais como predição condicionada a contexto em espaço de função e propõem os NOPs como o framework correspondente.
2. Arquitetura: Eles introduzem arquiteturas NOP determinísticas e probabilísticas que compartilham um pipeline de codificador-decodificador, apresentando mecanismos distintos para agregação de contexto (SetConv vs. Atenção) e incerteza latente.
3. Distinção Empírica: O trabalho identifica uma distinção empírica entre condicionamento global e local, demonstrando que a atenção que preserva a geometria é particularmente valiosa em configurações sensíveis à geometria, enquanto a via preferida depende do objetivo de inferência e do regime da PDE.
4. Validação: Através de experimentos sistemáticos e ablações, os autores mostram que os NOPs igualam ou superam os operadores neurais de grade densa enquanto observam apenas uma pequena fração do campo de resposta (menos de 25% em 1D e menos de 7% em 2D), fornecem estimativas de incerteza significativas e permanecem computacionalmente competitivos na inferência.

4. Resultados Experimentais

O framework foi avaliado em quatro famílias de benchmarks: regressão de Processos Gaussianos (GP) (como diagnóstico), equação de Burgers 1D (suave, periódica), fluxo de Darcy 2D (não periódico, sensível à geometria) e Navier–Stokes 2D (periódico, mas dinamicamente complexo).

4.1 Desempenho Determinístico

• Viabilidade Esparsa: A predição de operador condicional esparsa é viável, com variantes NOP alcançando erros comparáveis ou ligeiramente inferiores aos referenciais FNO de grade densa padrão.
• Dependência de Regime:
  • Burgers (Periódico): A via de atenção melhora o desempenho mesmo em configurações padrão, alinhando-se bem com o decodificador espectral.
  • Darcy (Não periódico): Preservar a geometria local contexto-consulta via atenção é essencial. A variante apenas com SetConv degrada sob amostragem uniforme, mas melhora com observações agrupadas, enquanto a variante baseada em atenção (DANOP) estabiliza as variações de desempenho entre diferentes estratégias de amostragem, mostrando maior robustez a mudanças na geometria das observações.
  • Navier–Stokes: A atenção proporciona maior robustez sob mudanças na estratégia de amostragem de contexto e no orçamento, embora o SetConv permaneça competitivo sob avaliação uniforme padrão.

4.2 Desempenho Probabilístico

• Quantificação de Incerteza: O framework fornece estimativas de incerteza significativas que aumentam em regiões fracamente restringidas.
• Condicionamento Latente: As extensões probabilísticas preservam a capacidade preditiva. A lacuna entre a média da prior e a média da posterior é modesta, indicando que a prior aprendida está bem alinhada com a posterior.
• Parametrização de Variância:
  • Burgers: Cabeças heterocedásticas (HE) apresentam melhor desempenho, com lacunas negligenciáveis entre posterior e prior.
  • Darcy: Cabeças homocedásticas (HO) frequentemente performam melhor, atuando como um regularizador que impede o modelo de absorver a dificuldade através da inflação da variância.
  • Navier–Stokes: Cabeças HE são superiores; cabeças HO são muito restritivas para este regime dinâmico heterogêneo, levando à degradação do desempenho.
• Robustez: A arquitetura com condicionamento fundido (PANOP) geralmente supera a variante apenas com SetConv (PNOP), particularmente em avaliações de zero-latente, sugerindo que o condicionamento consciente da geometria melhor suporta a inferência estocástica latente.

4.3 Ablações e Limitações

• Transferência de Cross-Resolução: Embora o Burgers 1D exiba transferência bem-sucedida para grades mais finas (zero-shot), configurações 2D não periódicas (Darcy, Navier–Stokes) mostram degradação significativa. Isso sugere que a representação condicional aprendida não se transfere limpo entre discretizações em regimes complexos, uma limitação potencialmente compartilhada pela interação entre representações esparsas e decodificadores espectrais.
• Custo de Treinamento vs. Inferência: Extensões probabilísticas aumentam o tempo de treinamento e a memória (devido aos grafos de inferência latente), mas mantêm uma latência de inferência modesta (milissegundos por batch).
• Modos de Falha: Um modo de falha central é a perda da estrutura espacial quando o contexto local é excessivamente comprimido em resumos globais. Isso é benigno em configurações periódicas suaves, mas prejudicial em regimes sensíveis à geometria como o Darcy.

5. Significância e Alegações

O artigo alega que os NOPs fornecem um framework prático, explícito e extensível para combinar inferência condicional esparsa, decodificação de operador estruturado e quantificação de incerteza. A significância do trabalho reside em:

• Unificação: Unir o aprendizado de operador e o meta-aprendizado probabilístico em espaço de função.
• Princípios de Design: Esclarecer que preservar explicitamente a geometria local é um requisito de design fundamental para configurações sensíveis à geometria, e que uma inferência probabilística confiável requer um condicionamento latente que complemente, em vez de sobrescrever, os vieses indutivos espaciais do tronco determinístico.
• Praticidade: Demonstrar que a predição de campo total com incerteza coerente é viável usando apenas uma pequena fração de observações, oferecendo potenciais economias em sensores ou armazenamento para aplicações onde medições densas são custosas.

Os autores mantêm a modéstia quanto ao escopo, observando que os benchmarks não cobrem dinâmicas fortemente caóticas, sistemas altamente multiescala ou geometrias irregulares, e que o backbone FNO fixo pode limitar o desempenho em regimes não periódicos. Eles identificam como trabalho futuro as representações latentes espacialmente estruturadas e famílias de decodificadores mais adequadas para geometrias irregulares.