Resumo Técnico: Uma Abordagem de Regressão Simbólica Livre de Dados para Resolver Equações

Declaração do Problema

Muitas equações na ciência e engenharia, particularmente aquelas que envolvem termos transcendentais ou operadores diferenciais complexos, não podem ser resolvidas por técnicas analíticas existentes. Consequentemente, elas são tipicamente abordadas usando métodos numéricos que produzem soluções aproximadas sem expressões simbólicas explícitas. Embora as soluções numéricas sejam quantitativamente precisas, elas frequentemente obscurecem as dependências funcionais subjacentes, simetrias e comportamentos qualitativos do sistema.

As abordagens existentes para recuperar soluções explícitas enfrentam um compromisso (trade-off):

1. Solucionadores Analíticos: Podem derivar soluções simbólicas exatas, mas são limitados a classes específicas de estruturas de equações (por exemplo, sistemas polinomiais ou classes restritas de EDOs).
2. Regressão Simbólica: Pode descobrir expressões interpretáveis, mas depende fundamentalmente de dados de entrada-saída pareados supervisionados, que muitas vezes não estão disponíveis quando apenas a equação governante e as condições de contorno são conhecidas.
3. Métodos Neurais Baseados em Resíduos (ex: PINNs): Operam diretamente a partir de equações governantes e restrições sem a necessidade de dados rotulados. No entanto, eles produzem soluções codificadas em parâmetros de redes neurais (aproximações numéricas), em vez de uma forma simbólica explícita, limitando a utilidade analítica posterior.

Existe uma lacuna na literatura para um método que opere diretamente de equações governantes e restrições auxiliares, evite a necessidade de dados de entrada-saída supervisionados e recupere a solução em uma forma simbólica explícita.

Metodologia: Solucionador de Equações Simbólicas (SES)

Os autores propõem o Symbolic Equation Solver (SES), um framework que formula a resolução de equações como um problema de otimização sobre modelos simbólicos diferenciáveis. Ao contrário da regressão simbólica tradicional, o SES não ajusta um modelo a dados; em vez disso, ele otimiza uma expressão simbólica para satisfazer a equação governante e suas restrições.

Arquitetura Central

• Classe de Modelo Simbólico: O SES utiliza uma rede simbólica diferenciável baseada na formulação Equation Learner (EQL). Nesta arquitetidade, funções de ativação neurais convencionais são substituídas por uma biblioteca de operadores simbólicos (ex: identidade, constantes, potenciação ao quadrado, exponencial, tangente hiperbólica, multiplicação).
• Diferenciabilidade: A rede é totalmente diferenciável, permitindo que os gradientes se propaguem através dos operadores simbólicos. Isso permite o uso de métodos de otimização de primeira ordem padrão (Adam) para otimizar os pesos da rede, que correspondem aos coeficientes da expressão simbólica.
• Função Objetivo: O sinal de treinamento é derivado inteiramente dos resíduos da equação. Dada uma equação governante $F_k(x, u, \nabla u, \dots) = 0$ e condições auxiliares $B_j(x, u, \nabla u, \dots) = 0$, o SES minimiza uma função de perda composta pelos resíduos ao quadrado avaliados em pontos de colocação amostrados:
  $$L(\theta) = \frac{1}{N_F}\sum |F_k|^2 + \frac{1}{N_B}\sum |B_j|^2$$
  Para equações não diferenciais, uma variável auxiliar é introduzida para gerar pontos de colocação, tratando a solução como uma função constante desta variável.

Estratégia de Otimização

O processo de treinamento envolve três fases distintas para garantir a convergência para uma solução esparsa e interpretável:

1. Minimização de Resíduo: O modelo é treinado por 50.000 épocas usando apenas o objetivo de resíduo para satisfazer a equação.
2. Indução de Esparsidade: O treinamento continua por 200.000 épocas com uma penalidade $\ell_1$ adicionada aos pesos internos. Durante esta fase, um mecanismo de poda remove periodicamente 25% dos pesos com menor contribuição para a perda, incentivando uma estrutura simbólica compacta.
3. Ajuste Fino (Fine-Tuning): A penalidade $\ell_1$ é removida, e os pesos restantes são ajustados finamente por 20.000 épocas usando apenas o objetivo de resíduo.
4. Extração: A expressão simbólica final é extraída através do percurso do grafo computacional podado e arredondando os pesos aprendidos para cinco casas decimais.

Principais Contribuições

1. Recuperação Simbólica Livre de Dados: O SES demonstra que soluções simbólicas explícitas podem ser recuperadas sem quaisquer dados de treinamento de entrada-saída pareados, baseando-se apenas na estrutura matemática das equações governantes e restrições.
2. Framework Unificado: A abordagem unifica o princípio de otimização baseado em equações de solucionadores neurais baseados em resíduos (como PINNs) com a interpretabilidade da regressão simbólica. Aplica-se tanto a equações algébricas quanto diferenciais dentro de uma única formulação.
3. Otimização Conjunta para Sistemas: O framework estende-se naturalmente para sistemas com múltiplas quantidades desconhecidas, otimizando-as conjuntamente sob um objetivo compartilhado.

Resultados Experimentais

Os autores avaliaram o SES em um conjunto diversificado de problemas, comparando as expressões simbólicas recuperadas contra soluções analíticas conhecidas:

• Sistemas Lineares: Recuperou com sucesso soluções constantes exatas ($x=2, y=1$) para um sistema de equações lineares.
• Equações Transcendentais: Recuperou a solução $x=1$ para a equação $e^x + x^3 = e + 1$, um problema que normalmente requer métodos numéricos, pois o isolamento simbólico padrão é impossível.
• Equações Diferenciais Ordinárias (EDOs):
  • Recuperou $y(t) = \tanh(t)$ para a EDO não linear $dy/dt = 1 - y^2$.
  • Recuperou a solução de transporte quadrática $u(x,t) = (x-t)^2$ para uma equação de transporte linear, preservando a forma funcional correta, apesar de valores de coeficientes aproximados.
• Equações Diferenciais Parciais (EDPs):
  • Resolveu com sucesso uma equação de Poisson 2D com condições de contorno mistas, recuperando a estrutura polinomial exata $u(x,y) = x^2 + y^2 + xy^2$.
  • Recuperou a solução para um segundo conjunto de condições de contorno para a mesma EDP, demonstrando robustez a diferentes configurações de restrição.

Em todos os casos, o SES produziu expressões simbólicas compactas que coincidiram com as soluções analíticas, frequentemente revelando as dependências funcionais e simetrias corretas.

Significância e Alegações

O artigo postula que a resolução de equações pode ser reestruturada não apenas como derivação analítica ou aproximação numérica, mas como otimização no espaço de funções simbólicas. A significância do SES reside em sua capacidade de unir as formulações baseadas em equações e a recuperação simbólica.

• Interpretabilidade e Descoberta: Ao recuperar soluções em forma simbólica explícita, o SES expõe dependências estruturais e relações funcionais que são difíceis de inferir de aproximações puramente numéricas. Os autores sugerem que essa capacidade pode servir como um mecanismo para a geração e descoberta de hipóteses científicas, fornecendo formas analíticas candidatas e invariâncias.
• Aprendizado de Máquina Científico: O SES representa um passo para integrar o raciocínio simbólico mais diretamente no aprendizado de máquina científico, oferecendo um caminho para modelos que sejam tanto preditivos quanto estruturalmente fundamentados.
• Limitações e Trabalho Futuro: Os autores notam modestamente que os resultados atuais são provas de conceito em problemas com soluções analíticas conhecidas e estruturas relativamente concisas. Eles reconhecem que estender o framework para EDPs mais desafiadoras, sistemas de alta dimensão e dinâmica caótica exigirá arquiteturas mais expressivas, bibliotecas de operadores mais ricas e estratégias de otimização mais robustas.