A Neural Operator-Based Approach to Symbolic Discovery of PDEs

Resumen Técnico: Un enfoque basado en operadores neuronales para el descubrimiento simbólico de EDPs

Planteamiento del problema
Los métodos existentes para el descubrimiento de modelos simbólicos, como el Aprendiz de Ecuaciones (EQL) y los enfoques de regresión dispersa (por ejemplo, PDE-FIND), están fundamentalmente limitados por su dependencia de librerías de funciones analíticas locales. Estos métodos construyen ecuaciones candidatas utilizando cantidades puntuales, incluyendo valores de campo, derivadas locales y combinaciones algebraicas. Aunque son efectivos para las Ecuaciones Diferenciales Parciales (EDP) clásicas, fallan al intentar descubrir leyes gobernantes que involucren interacciones no locales, operadores integrales, ecuaciones de campos auxiliares o efectos de memoria temporal. Muchos sistemas físicos —como aquellos gobernados por la difusión fraccionaria, sistemas de campos acoplados o viscoelasticidad hereditaria— dependen de operadores que actúan sobre espacios funcionales completos en lugar de puntos locales, lo que los vuelve inaccesibles para los marcos actuales de descubrimiento simbólico.

Metodología: NOMTO
Los autores proponen el Aprendizaje y Descubrimiento de Modelos Simbólicos basados en Operadores Neuronales (NOMTO), un marco que extiende la arquitectura EQL para incorporar operadores neuronales preentrenados como primitivas simbólicas.

• Arquitectura: NOMTO representa ecuaciones candidatas como grafos computacionales dispersos y diferenciables. A diferencia del EQL estándar, donde los nodos aplican solo operaciones algebraicas o diferenciales locales predefinidas, NOMTO permite que ciertos nodos seleccionados sean implementados como sustitutos de operadores neuronales preentrenados. Estos sustitutos actúan sobre funciones discretizadas y devuelven salidas de operadores discretizados en la misma rejilla.
• Separación del aprendizaje y el descubrimiento: Un principio de diseño central es el desacoplamiento del aprendizaje del operador y el descubrimiento de la ecuación.
  1. Preentrenamiento: Los operadores neuronales (específicamente FNO [Operador Neuronal de Fourier], CNO [Operador Neuronal Convolucional] y FNN [Redes Neuronales Totalmente Conectadas]) se entrenan de forma independiente para aproximar operadores físicos específicos (por ejemplo, el Laplaciano fraccionario, el mapa de gradiente-Poisson, la integral de memoria hereditaria). Estos sustitutos son luego congelados.
  2. Optimización simbólica: Durante la fase de descubrimiento, los nodos sustitutos permanecen fijos. El proceso de optimización ajusta únicamente los pesos escalares entrenables que conectan los nodos en el grafo computacional.
• Estrategia de optimización: El marco emplea un paradigma de grueso a disperso que consta de tres fases:
  1. Entrenamiento denso: El grafo completo se entrena para ajustar la dinámica objetivo sin restricciones de dispersión.
  2. Dispersión (Sparsification): Se añade una penalización $\ell_1$ a la función de pérdida y se podan los pesos por debajo de cierta magnitud para identificar la estructura dispersa.
  3. Reajuste: El grafo podado se vuelve a entrenar sin la penalización de dispersión para refinar los coeficientes de las rutas activas.
• Extracción de expresiones: Tras el entrenamiento, se eliminan los pesos insignificantes y la estructura activa restante se traduce en una ecuación simbólica explícita. La expresión resultante combina términos algebraicos estándar con la notación para los sustitutos de operadores neuronales preentrenados (por ejemplo, $\hat{G}^a_m$).

Resultados clave
NOMTO fue evaluado en tres sistemas físicos distintos que requieren operadores no locales o dependientes de la historia:

1. Difusión fraccionaria: El sistema involucra un operador Laplaciano fraccionario, un operador espacial no local. NOMTO recuperó con éxito la ecuación gobernante $u_t \approx -\hat{\kappa} \hat{G}^a_{L_s}[u]$. El sustituto basado en FNO alcanzó la mayor precisión (MSE Relativo $9.47 \times 10^{-6}$) e identificó correctamente el coeficiente $\hat{\kappa} = 1.00$.
2. Sistema Euler-Poisson: Este sistema acopla ecuaciones de transporte locales con un término de fuerza no local derivado de una ecuación de Poisson auxiliar. NOMTO recuperó tanto los términos de convección local como el acoplamiento de gradiente-Poisson no local. El sustituto CNO logró el menor error en la ecuación de momento (MSE Relativo $3.245 \times 10^{-4}$), mientras que todas las arquitecturas identificaron correctamente la estructura simbólica y los coeficientes.
3. Viscoelasticidad hereditaria: Este caso involucra una ley constitutiva con una integral de memoria temporal. NOMTO descubrió con éxito la estructura $\sigma(t) = E\varepsilon(t) + A\hat{G}^a_H[\varepsilon](t)$, recuperando el módulo elástico instantáneo y la amplitud de la memoria con alta precisión en todos los tipos de sustitutos.

En todos los casos, NOMTO superó o igualó a los sustitutos de redes neuronales estándar (FNN) en términos de corrección estructural y recuperación de coeficientes, demostrando que los operadores preentrenados pueden servir como sustitutos simbólicos fieles de mecanismos físicos complejos.

Significado y pretensiones
El artículo sostiene que NOMTO representa un cambio de "el descubrimiento simbólico de funciones" hacia "el descubrimiento simbólico de leyes físicas con valores de operador". Al integrar operadores aprendidos como nodos fijos y diferenciables dentro de un grafo simbólico disperso, el marco:

• Amplía la clase de elementos descubribles: Extiende el descubrimiento simbólico más allá de las librerías diferenciales locales para incluir leyes gobernantes con operadores espaciales no locales, mapeos de campos auxiliares y efectos de memoria temporal.
• Preserva la interpretabilidad: A pesar de utilizar redes neuronales, el resultado final sigue siendo una ecuación simbólica interpretable donde el papel de los mecanismos no locales es explícito.
• Permite la modularidad: La separación del aprendizaje del operador y el descubrimiento de la ecuación permite que las librerías de operadores sean reutilizadas en diferentes tareas de descubrimiento y facilita la incorporación de conocimiento físico previo mediante la selección de operadores candidatos.

Los autores reconocen limitaciones, señalando que la fidelidad del modelo recuperado depende de la precisión de los operadores sustitutos y que la construcción de la librería de operadores aún requiere cierto grado de conocimiento previo sobre los mecanismos físicos plausibles. Sin embargo, este trabajo establece una vía para integrar los avances en el aprendizaje de operadores con el aprendizaje automático científico interpretable.