Resumo Técnico: Previsão Não é Física: Aprendizado e Avaliação de Quantidades Conservadas em Simuladores Neurais

Declaração do Problema

Redes neurais treinadas em dados de simulação física frequentemente alcançam alta precisão de previsão de curto prazo (baixo Erro Quadrático Médio de rolagem) enquanto falham em obedecer a leis físicas fundamentais, como a conservação de energia. Mesmo quando modelos generativos, como redes de difusão, são guiados por estruturas de conservação aprendidas durante a amostragem, eles frequentemente produzem trajetórias onde a energia desvia significativamente ao longo do tempo. Essa desconexão levanta uma questão crítica: Redes neurais podem aprender ou selecionar quantidades globalmente conservadas diretamente a partir de observações de estado, e é um erro de previsão baixo suficiente para garantir movimento fisicamente válido?

Os autores investigam se os modelos podem identificar propriedades invariantes a partir de trajetórias físicas para verificar modelos, guiar a geração ou identificar leis físicas, abordando especificamente a lacuna entre a precisão no nível da trajetória e a conservação global.

Metodologia

Ambientes e Dados

O estudo avalia três sistemas hamiltonianos clássicos com invariantes analíticos conhecidos:

1. Movimento de Projétil: Energia separável $E = \frac{1}{2}(v_x^2 + v_y^2) + gy$.
2. Pêndulo Não Linear: Hamiltoniano não separável $H = \frac{1}{2}\omega^2 - g \cos \theta$.
3. Sistema Massa-Mola: Energia separável $E = \frac{1}{2}kx^2 + \frac{1}{2}v^2$.

Os dados são gerados usando soluções exatas de forma fechada ou integração adaptativa RK45 para garantir que o desvio de energia da verdade fundamental seja negligenciável ($10^{-5}$ a $10^{-7}$). Os experimentos incluem trajetórias sem ruído e trajetórias com ruído gaussiano aditivo de 1%.

Modelos Avaliados

Os autores comparam quatro abordagens para aprender invariantes:

1. Rede de Energia Estruturada (SE): Uma arquitetura que decompõe explicitamente o escalar em termos cinéticos e potenciais, $H(s) = T_\theta(v) + V_\phi(q)$. Isso serve como uma linha de base com fortes priores físicos.
2. Rede de Descoberta de Conservação de Caixa Preta (CDN): Um MLP padrão sem estrutura física imposta.
   • CDN-Conservação: Treinada apenas em consistência temporal.
   • CDN-Alinhada: Treinada em consistência temporal mais uma perda de alinhamento padronizada fraca à energia analítica em $t=0$.
3. CDN Polinomial: Um modelo linear $f(s) = w^\top \phi(s)$ onde $\phi(s)$ inclui polinômios de grau 2 e características trigonométricas.
4. Linha de Base de Difusão: Um DDPM treinado para gerar mudanças de estado ($\Delta s$), guiado durante a rolagem pelo invariante CDN e uma projeção suave em direção ao conjunto de nível de energia da rede SE.

Funções de Perda

O objetivo principal para o aprendizado de invariantes combina dois termos:

1. Consistência Temporal: Minimiza a diferença entre o invariante aprendido em passos de tempo consecutivos, $f(s_{t+1}) - f(s_t)$.
2. Hinge de Variância: Previne a solução trivial onde o modelo produz uma constante para todas as entradas, impondo variância no lote inicial.
3. Perda de Alinhamento (Opcional): Uma perda padronizada fraca em $t=0$ para alinhar o invariante aprendido com a energia analítica até escala e deslocamento.

Principais Contribuições e Resultados

1. Precisão de Previsão Não Implica Conservação

O modelo de difusão alcançou baixo MSE de rolagem (por exemplo, $3.4 \times 10^{-4}$ para o pêndulo), mas falhou em conservar energia. O desvio padrão da energia nas trajetórias geradas foi 7.500 a 36.000 vezes maior do que nas trajetórias da verdade fundamental. Isso demonstra que baixo erro de previsão e orientação suave de invariantes são insuficientes para impor leis de conservação global.

2. A Necessidade de Supervisão Fraca para Seleção de Invariantes

Embora o objetivo de conservação (consistência temporal) incentive o modelo a aprender algo constante, ele é subdeterminado.

• CDN-Conservação (Sem Alinhamento): Sem alinhamento à energia analítica, o modelo falha em recuperar o verdadeiro Hamiltoniano. Nos sistemas de pêndulo e massa-mola, o $R^2$ de Pearson colapsou para próximo de zero ($< 10^{-3}$).
• CDN-Alinhada: Com um pequeno termo de alinhamento ($\lambda_{align}=0.2$), a CDN de caixa preta alcançou $R^2 \ge 0.996$ em todos os sistemas, provando que consistência temporal combinada com supervisão fraca pode recuperar quantidades fisicamente significativas sem priores estruturais.

3. Sensibilidade a Cronogramas de Treinamento (CDN Polinomial)

A CDN polinomial exibiu sensibilidade significativa à duração do treinamento e ao volume de dados:

• Cronograma Curto: No pêndulo, convergiu para uma solução parcial dominada pelo termo de energia cinética ($\omega^2$), perdendo o termo potencial ($\cos \theta$), resultando em $R^2 = 0.78$.
• Cronograma Longo: Com mais épocas e dados, o modelo recuperou o Hamiltoniano completo, atingindo $R^2 = 0.9998$.
  Isso indica que a paisagem de perda de conservação contém mínimos locais pobres (hamiltonianos parciais) que exigem orçamento de treinamento suficiente para escapar.

4. Robustez ao Ruído

Sob ruído gaussiano aditivo de 1%, o desempenho da Rede de Energia Estruturada degradou-se uniformemente ($R^2$ caiu em $\approx 0.013$). Em contraste, a CDN de Caixa Preta foi mais robusta nos sistemas de projétil e massa-mola, superando o modelo estruturado. Os autores sugerem que forçar uma decomposição $T(v) + V(q)$ em dados ruidosos exige ajustar sinais corrompidos separadamente, enquanto a CDN sem restrições pode aprender uma função robusta do estado completo.

5. Validação por Regressão Simbólica

Usando regressão esparsa STLSQ nos alvos de energia analítica, os autores confirmaram que sua biblioteca de características era expressiva o suficiente para recuperar equações simbólicas exatas para os três sistemas. No entanto, eles observam que isso é uma verificação de pipeline e não descoberta não supervisionada, pois o alvo de regressão era a energia conhecida.

Significado e Alegações

O artigo argumenta que métricas de precisão no nível da trajetória (como MSE) são benchmarks insuficientes para modelos de simulação física. Um modelo pode ser altamente preciso no curto prazo enquanto viola leis fundamentais de conservação.

Os autores afirmam que:

• Conservação é um eixo distinto de qualidade: Deve ser avaliada separadamente do erro de previsão.
• Piores arquitetônicos têm trade-offs: Embora redes estruturadas (SE) performem quase perfeitamente em dados limpos que correspondem às suas suposições, elas podem ser mais frágeis ao ruído do que modelos flexíveis de caixa preta (CDN) quando supervisão fraca é fornecida.
• Otimização importa: A capacidade de recuperar quantidades conservadas depende fortemente de cronogramas de treinamento; orçamentos limitados podem levar a soluções parciais que parecem válidas ($R^2$ moderado), mas falham em capturar a física completa.
• Orientação não é uma solução mágica: Orientação suave a partir de invariantes aprendidos durante a amostragem de difusão não garante conservação de energia em rolagens longas, destacando a necessidade de restrições mais estritas ou melhores estratégias de amostragem.

O trabalho conclui que, embora redes neurais possam aprender invariantes, fazê-lo de forma confiável requer consideração cuidadosa do design da perda, duração do treinamento e o equilíbrio entre priores estruturais e flexibilidade do modelo.