🤖 machine learning

GENERIC-FNO: Embedding Energy Conservation and Entropy Production into Fourier Neural Operators

O artigo introduz o GENERIC-FNO, o primeiro operador neural que incorpora a estrutura GENERIC completa da termodinâmica de não equilíbrio diretamente no espaço de funções ao construir condições de degenerescência exatas via multiplicadores de Fourier diagonais, garantindo, assim, a conservação de energia e a produção de entropia com precisão de máquina em diversas EDPs e resoluções sem termos de penalidade.

Autores originais: Jason Sulskis, Sathya Ravi

Publicado 2026-06-09

📖 7 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Jason Sulskis, Sathya Ravi

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você esteja tentando ensinar um computador a prever como um fluido se move, como o calor se espalha ou como uma onda quebra. Você fornece ao computador um monte de dados, e ele aprende a adivinhar o próximo passo. Mas aqui está o problema: os modelos de computador padrão são como uma criança brincando com um carrinho de brinquedo em um chão irregular. Eles podem entender a ideia geral, mas, com o tempo, começam a derivar. Eles podem fazer o carro ir mais rápido do que a física permite, ou podem fazer o calor aparecer do nada. No mundo real, a energia é conservada (ela não simplesmente desaparece ou surge). E a entropia (desordem) sempre aumenta ou permanece a mesma. Os modelos de IA padrão costumam esquecer essas regras, levando a previsões que parecem aceitáveis por um segundo, mas que desmoronam depois de um tempo.

Este artigo apresenta um novo modelo de IA chamado GENERIC-FNO. Pense nele como um modelo "consciente da física" que não apenas adivinha; ele é programado por natureza para obedecer às leis da termodinâmica desde o primeiro momento em que é construído.

Veja como ele funciona, dividido com analogias simples:

1. As Duas Forças: A Reversível e a Irreversível

No mundo real, as coisas acontecem de duas maneiras:

Reversível (Os Balanços Perfeitos): Imagine um pêndulo oscilando no vácuo. Ele vai e volta para sempre sem perder energia. Isso é "reversível".
Irreversível (O Gelo Derretendo): Imagine uma xícara de café quente esfriando. Ela perde calor para o ambiente e nunca fica quente espontaneamente de novo. Isso é "irreversível" e cria entropia.

A maioria dos modelos de IA tenta aprender ambos ao mesmo tempo, mas eles costumam se confundir, misturando-os ou violando as regras. O GENERIC-FNO separa isso claramente. Ele possui duas "mãos" distintas:

A Mão Reversível: Lida com as partes que oscilam e conservam energia.
A Mão Irreversível: Lida com as partes que esfriam e dissipam energia.

2. O Truque do "Sanduíche" (O Ingrediente Secreto)

A maior inovação do artigo é como ele força essas duas mãos a jogarem bem juntas sem quebrar as regras.

Normalmente, se você quer que uma IA siga uma regra, você diz a ela: "Ei, se você quebrar esta regra, eu te darei uma nota baixa" (isso é chamado de penalidade). Mas os autores dizem que isso é como dizer a uma criança: "Não corra", mas deixá-la correr de qualquer maneira e apenas repreendê-la depois. A criança ainda corre e, eventualmente, bate.

Em vez disso, o GENERIC-FNO usa uma construção de "Sanduíche":

Imagine que a "Mão Reversível" é uma fatia de pão.
Imagine que a "Mão Irreversível" é outra fatia de pão.
No meio, eles colocam um "recheio" especial (um filtro matemático).

Este recheio é projetado para que a Mão Reversível não possa tocar na parte da "Entropia" (desordem) do sistema, e a Mão Irreversível não possa tocar na parte da "Energia". É como construir uma parede dentro da máquina que impede fisicamente a mão errada de tocar a coisa errada.

Devido a essa barreira física construída no código:

A IA não pode acidentalmente criar energia do nada.
A IA não pode acidentalmente destruir energia.
Ela não precisa ser "repreendida" (penalizada) para seguir as regras; ela literalmente não consegue quebrá-las.

3. A Garantia de "Precisão de Máquina"

Os autores testaram isso e descobriram algo incrível. Como as regras estão integradas à estrutura, o modelo segue as leis da física com precisão de máquina.

Analogia: Se você tem uma conta bancária onde a matemática é programada para nunca permitir um saldo negativo, você não precisa verificar o saldo todos os dias para saber que não ficará em dívida. A própria matemática garante isso.
Em seus testes, a conservação de energia do modelo foi precisa até 13 casas decimais. É como se o modelo fosse um contador perfeito que nunca comete um erro de arredondamento.

4. O Superpoder do "Zoom"

Um dos recursos mais legais é a Super-Resolução.

Analogia: Imagine que você ensina uma criança a desenhar um mapa de uma cidade usando uma grade pequena, de baixa resolução (como uma grade de 10x10 pixels). Normalmente, se você pedir para essa criança desenhar a mesma cidade em uma tela enorme, de alta definição (256x256 pixels), ela ficaria perdida ou o desenho pareceria borrado.
O GENERIC-FNO é diferente. Porque ele aprendeu as regras da cidade (a física) em vez de apenas memorizar os pixels, ele pode olhar para a grade pequena e instantaneamente desenhar uma versão de alta definição perfeita da cidade sem qualquer treinamento adicional. Ele funciona bem tanto em grades pequenas quanto em grades gigantes.

5. O Mistério do "Gauge" (Um Ponto Sutil)

O artigo menciona um conceito complexo chamado "Liberdade de Gauge" (Gauge Freedom).

Analogia: Imagine que você está descrevendo uma jornada. Você pode dizer: "Caminhei 5 milhas para o Norte", ou "Caminhei 5 milhas para o Norte e depois 10 milhas para o Leste, mas a Terra girou, então acabei no mesmo lugar". Ambas as descrições levam ao mesmo resultado, mas os números parecem diferentes.
Neste modelo, a IA aprende "Energia" e "Entropia", mas não existe apenas uma maneira correja de defini-las matematicamente. Os autores admitem que, embora o resultado (o movimento do fluido) seja perfeito, os números específicos que a IA atribui à "Energia" podem variar dependendo de como você olha para eles.
No entanto, eles criaram um "detector" especial que ignora esses números confusos e apenas verifica: "Este sistema está perdendo energia (dissipando) ou apenas oscilando de ida e volta (reversível)?" Este detector funciona perfeitamente e diz a verdade sobre a física, independentemente da matemática confusa por baixo.

6. Onde Ele Enfrenta Dificuldades (As Limitações Honestas)

Os autores são muito honestos sobre onde este modelo ainda não é perfeito.

O Problema do "Deslize Puro": Se você tiver um sistema que é perfeitamente reversível (como um escorregador sem atrito), o modelo é ligeiramente menos preciso do que uma IA padrão, "não restrita".
Por quê? Porque a IA padrão tem permissão para "trapacear" um pouco para se ajustar perfeitamente aos dados. O GENERIC-FNO se recusa a trapacear porque está preso às regras. É como um chef rigoroso que se recusa a adicionar sal extra para tornar um prato mais saboroso, mesmo que o cliente goste. O prato é "fisicamente correto", mas talvez não seja o "mais saboroso" para aquele conjunto de dados específico.
O Problema da "Grade Grossa": Se você tentar rodar o modelo em uma grade de baixíssima qualidade ou borrada, a matemática fica um pouco instável para esses deslizes perfeitos. Os autores descobriram que isso se deve ao método de "passo" (stepping) que usam para avançar no tempo, e não às regras da física em si.

Resumo

O GENERIC-FNO é um novo tipo de IA que constrói as leis da termodinâmica (conservação de energia e entropia) diretamente em seu esqueleto.

Ele não apenas aprende a prever; ele aprende a prever corretamente de acordo com as leis da física.
Ele funciona em grades pequenas e gigantes sem necessidade de retreinamento.
Ele evita a "deriva" que faz com que outros modelos de IA falhem ao longo de períodos longos.
Ele troca um pouco do poder bruto de ajuste pela garantia de que a física nunca será quebrada.

É um passo em direção a uma IA que não apenas imita o mundo, mas respeita as regras fundamentais que mantêm o universo unido.

Resumo Técnico: GENERIC-FNO

Problema

Operadores neurais, como o Fourier Neural Operator (FNO) e o DeepONet, demonstraram sucesso como substitutos para operadores de solução de equações diferenciais parciais (PDEs), aprendendo mapeamentos entre espaços de funções que se generalizam através de diferentes discretizações. No entanto, quando implantados de forma autorregressiva para prever trajetórias longas, operadores neurais sem restrições acumulam erros que não são meramente numéricos, mas físicos. Eles carecem de uma noção inerente de leis de conservação e dissipação, levando a derivas de energia e ao aumento espúrio de quantidades que deveriam decair monotonicamente.

Embora métodos de preservação de estrutura existentes em espaço de funções imponham leis de conservação únicas ou dinâmicas puramente reversíveis (Hamiltonianas), eles falham em capturar a produção de entropia irreversível essencial para processos dissipativos reais. Por outro lado, o aprendizado termodinamicamente consistente baseado no formalismo GENERIC (General Equation for the Non-Equilibrium Reversible–Irreversible Coupling) tem sido amplamente confinado a vetores de estado de dimensão finita, grafos ou sistemas de partículas. Nenhum operador neural existente incorpora a estrutura completa do GENERIC — acoplando a dinâmica reversível e conservadora de energia com a dinâmica irreversível e produtora de entropia via condições de degenerescência — diretamente no espaço de funções.

Metodologia: GENERIC-FNO

Os autores introduzem o GENERIC-FNO, o primeiro operador neural que incorpora a estrutura completa do GENERIC no espaço de funções. A dinâmica de um campo $u(x,t)$ é modelada como:
$\partial_t u = L \frac{\delta E}{\delta u} + M \frac{\delta S}{\delta u}$
onde $E$ é o funcional de energia, $S$ é o funcional de entropia, $L$ é um operador antissimétrico (reversível) e $M$ é um operador semidefinido positivo (irreversível). A consistência termodinâmica (as primeira e segunda leis) é garantida por duas condições de degenerescência: $L \frac{\delta S}{\delta u} = 0$ e $M \frac{\delta E}{\delta u} = 0$ .

Componentes Arquiteturais Chave

Funcionais Aprendidos: A energia $E_\theta[u]$ e a entropia $S_\phi[u]$ são aprendidas como operadores neurais de valor escalar. Eles mapeiam o campo de entrada para uma densidade de características, seguido de uma média espacial e um pequeno cabeçalho MLP. Essa média espacial garante que os funcionais sejam independentes da resolução. Suas derivadas variacionais ( $\delta E/\delta u$ , $\delta S/\delta u$ ) são computadas via diferenciação automática de modo reverso.
Operadores de Preservação de Estrutura por Construção: Em vez de aprender matrizes densas que escalam com o tamanho da grade, $L$ $L$ e $M$ $M$ são parametrizados como multiplicadores de Fourier diagonais atuando sobre uma banda fixa de modos de baixa frequência.
- A base do operador reversível é antissimétrica ( $i a(k)$ ).
- A base do operador irreversível é semidefinida positiva ( $|b(k)|^2$ ).
Enforcement Exato de Degenerescência: Para satisfazer as condições de degenerescência exatamente sem termos de penalidade ou projeção do update final, os autores "sanduicham" os multiplicadores diagonais entre projeções de rank-um $L^2$ $L^{2}$ .
- O operador reversível $L$ é projetado fora da direção do gradiente de entropia: $L = (I - P_S) D_L (I - P_S)$ .
- O operador irreversível $M$ é projetado fora da direção do gradiente de energia: $M = (I - P_E) D_M (I - P_E)$ .
- Esta construção garante que $L \frac{\delta S}{\delta u} = 0$ e $M \frac{\delta E}{\delta u} = 0$ ocorram identicamente (até a precisão de máquina) para qualquer inicialização, dimensão ou resolução.

Invariância de Gauge e Diagnósticos

O artigo reconhece que a tupla $(E, S, L, M)$ que realiza um determinado fluxo não é única (liberdade de gauge). Embora as garantias estruturais sejam invariantes de gauge, a atribuição da dinâmica aos canais reversíveis vs. irreversíveis não é. Para abordar isso, os autores introduzem um diagnóstico de dissipação invariante de gauge ( $r_{mech}$ ) baseado em uma energia quadrática fixa $Q[u] = \frac{1}{2}\|u\|^2$ , em vez dos funcionais aprendidos. Esta métrica distingue a dinâmica genuinamente reversível das demais dinâmicas dissipativas de forma independente da decomposição aprendida.

Principais Contribuições

Primeiro Operador GENERIC em Espaço de Funções: O primeiro operador neural que incorpora a estrutura completa do GENERIC (energia/entropia aprendidas e operadores reversíveis/irreversíveis acoplados) no espaço de funções, permitindo o aprendizado termodinamicamente consistente para teorias de campo.
Degenerescência por Construção: Uma nova parametrização usando multiplicadores de Fourier diagonais "sanduichados" por projeção que impõe as condições de degenerescência exatamente. Isso elimina a necessidade de penalidades suaves, projeções de update ou resíduos livres, garantindo que as identidades estruturais ocorram com precisão de máquina ( $\sim 10^{-13}$ ) independentemente da inicialização ou resolução.
Diagnósticos Invariantes de Gauge: Identificação da não unicidade da decomposição aprendida e a proposta de um diagnóstico falsificável e invariante de gauge para medir a dissipação física sem referenciar quantidades aprendidas.
Independência de Resolução e Dimensão: Demonstração de que as garantias estruturais exatas e a precisão são transferíveis zero-shot através de um intervalo de super-resolução de $4\times$ (ex: $64 \to 256$ ) e através de dimensões espaciais (1D e 2D).
Estudo Empírico Abrangente: Avaliação em três backbones de operadores (2D FNO, 1D FNO, DeepONet) e quatro PDEs (Calor, Advecção, Burgers, Onda Amortecida), relatando explicitamente onde as restrições estruturais melhoram a precisão e onde elas acarretam custos.

Resultados Experimentais

O modelo foi avaliado em quatro PDEs abrangendo regimes reversíveis, dissipativos e mistos:

Precisão e Estabilidade: Em problemas dissipativos (Calor) e mistos (Burgers, Onda Amortecida), o GENERIC-FNO superou os baselines sem restrições e com penalidade de energia, frequentemente com menos parâmetros. Por exemplo, no backbone 2D FNO, reduziu o erro de rollout de Burgers em 85% comparado ao FNO padrão.
Estabilidade de Longo Horizonte: Em rollouts de 200 passos (muito além do horizonte de treinamento de 15 passos), os baselines sem restrições divergiram significamente (energia crescendo $\approx 9\times$ para Calor), enquanto o GENERIC-FNO permaneceu limitado e fisicamente admissível.
Super-Resolução: O modelo manteve alta precisão e garantias estruturais quando avaliado zero-shot em grades até $4\times$ mais finas que a grade de treinamento.
Transporte Reversível: Em advecção linear pura (um sistema puramente reversível), o GENERIC-FNO mostrou erro ligeiramente superior aos baselines sem restrições no backbone FNO. Os autores atribuem isso ao fato de a restrição impedir o modelo de usar seu canal irreversível para flexibilidade de ajuste, combinado com limitações de integrador explícito em grades grosseiras.
Diagnósticos de Dissipação: O diagnóstico invariante de gauge $r_{mech}$ identificou corretamente o sistema reversível (valor $\approx 0$ ) e recuperou a ordenação correta da dissipação física de verdade em todas as PDEs.

Significância e Alegações

O artigo afirma que o GENERIC-FNO fecha a lacuna entre o aprendizado termodinamicamente consistente (previamente limitado a sistemas de dimensão finita) e os operadores neurais para espaços de funções. Ao impor as primeira e segunda leis da termodinâmica por construção em vez de via penalidade, o método garante que a dinâmica aprendida permaneça na variedade fisicamente admissível.

Os autores enfatizam que as garantias estruturais são exatas e transferíveis, tornando o modelo robusto para previsões de longo horizonte onde os substitutos sem restrições falham. Eles explicitamente notam as trocas: o método pode reduzir a expressividade em tarefas de transporte puramente reversíveis se o backbone carecer de capacidade, e a implementação atual utiliza um integrador explícito que limita a precisão em grades grosseiras para sistemas reversíveis. No entanto, a capacidade de aprender dinâmicas termodinamicamente consistentes no espaço de funções sem termos de penalidade representa um passo significativo para substitutos estáveis e fisicamente fundamentados para problemas de campos complexos, como os encontrados em turbulência e fluidos complexos.