Resumen Técnico: Un enfoque de regresión simbólica libre de datos para la resolución de ecuaciones

Planteamiento del Problema

Muchas ecuaciones en la ciencia y la ingeniería, particularmente aquellas que involucran términos trascendentales o operadores diferenciales complejos, no pueden resolverse mediante las técnicas analíticas existentes. En consecuencia, suelen abordarse utilizando métodos numéricos que producen soluciones aproximadas sin expresiones simbólicas explícitas. Si bien las soluciones numéricas son cuantitativamente precisas, a menudo oscurecen las dependencias funcionales subyacentes, las simetrías y los comportamientos cualitativos del sistema.

Los enfoques existentes para recuperar soluciones explícitas enfrentan una disyuntiva:

1. Resolutores Analíticos: Pueden derivar soluciones simbólicas exactas, pero están limitados a estructuras de ecuaciones específicas (por ejemplo, sistemas polinómicos o clases restringidas de ODEs).
2. Regresión Simbólica: Puede descubrir expresiones interpretables, pero depende fundamentalmente de datos de entrada-salida supervisados por pares, los cuales a menudo no están disponibles cuando solo se conocen la ecuación gobernante y las condiciones de contorno.
3. Métodos Neuronales Basados en Residuos (ej. PINNs): Operan directamente desde las ecuaciones gobernantes y las restricciones sin necesidad de datos etiquetados. Sin embargo, producen soluciones codificadas en parámetros de redes neuronales (aproximaciones numéricas), en lugar de formas simbólicas explícitas, lo que limita su utilidad analítica posterior.

Existe un vacío en la literatura para un método que opere directamente desde las ecuaciones gobernantes y las restricciones auxiliares, evite la necesidad de datos de entrada-salida supervisados y recupere la solución en una forma simbólica explícita.

Metodología: Solucionador de Ecuaciones Simbólicas (SES)

Los autores proponen el Solucionador de Ecuaciones Simbólicas (SES), un marco que formula la resolución de ecuaciones como un problema de optimización sobre modelos simbólicos diferenciables. A diferencia de la regresión simbólica tradicional, el SES no se ajusta a un modelo con datos; en su lugar, optimiza una expresión simbólica para satisfacer la ecuación gobernante y sus restricciones.

Arquitectura Central

• Clase de Modelo Simbólico: El SES utiliza una red simbólica diferenciable basada en la formulación del Aprendiz de Ecuaciones (EQL). En esta arquitectura, las funciones de activación neuronales convencionales se reemplazan por una biblioteca de operadores simbólicos (por ejemplo, identidad, constantes, potenciación al cuadrado, exponencial, tangente hiperbólica, multiplicación).
• Diferenciabilidad: La red es totalmente diferenciable, lo que permite que los gradientes se propaguen a través de los operadores simbólicos. Esto permite el uso de métodos de optimización de primer orden estándar (Adam) para optimizar los pesos de la red, los cuales corresponden a los coeficientes de la expresión simbólica.
• Función Objetivo: La señal de entrenamiento se deriva enteramente de los residuos de la ecuación. Dada una ecuación gobernante $F_k(x, u, \nabla u, \dots) = 0$ y condiciones auxiliares $B_j(x, u, \nabla u, \dots) = 0$, el SES minimiza una función de pérdida compuesta por los residuos al cuadrado evaluados en puntos de colocación:
  $$L(\theta) = \frac{1}{N_F}\sum |F_k|^2 + \frac{1}{N_B}\sum |B_j|^2$$
  Para ecuaciones no diferenciales, se introduce una variable auxiliar para generar puntos de colocación, tratando la solución como una función constante de dicha variable.

Estrategia de Optimización

El proceso de entrenamiento consta de tres fases distintas para asegurar la convergencia hacia una solución dispersa e interpretable:

1. Minimización de Residuos: El modelo se entrena durante 50,000 épocas utilizando únicamente el objetivo de residuo para satisfacer la ecuación.
2. Inducción de Dispersión: El entrenamiento continúa durante 200,000 épocas con la adición de una penalización $\ell_1$ sobre los pesos internos. Durante esta fase, un mecanismo de poda elimina periódicamente el 25% de los pesos con menor contribución a la pérdida, fomentando una estructura simbólica compacta.
3. Ajuste Fino: La penalización $\ell_1$ se elimina y los pesos restantes se ajustan finamente durante 20,000 épocas utilizando únicamente el objetivo de residuo.
4. Extracción: La expresión simbólica final se extrae mediante el recorrido del grafo computacional podado y redondeando los pesos aprendidos a cinco decimales.

Contribuciones Clave

1. Recuperación Simbólica Libre de Datos: El SES demuestra que se pueden recuperar soluciones simbólicas explícitas sin necesidad de datos de entrenamiento de entrada-salida por pares, basándose únicamente en la estructura matemática de las ecuaciones gobernantes y sus restricciones.
2. Marco Unificado: El enfoque unifica el principio de optimización basado en ecuaciones de los resolvedores neuronales basados en residuos (como las PINNs) con la interpretabilidad de la regresión simbólica. Se aplica tanto a ecuaciones algebraicas como diferenciales dentro de una única formulación.
3. Optimización Conjunta para Sistemas: El marco se extiende naturalmente a sistemas con múltiples cantidades desconocidas, optimizándolas conjuntamente bajo un objetivo compartido.

Resultados Experimentales

Los autores evaluaron el SES en un conjunto diverso de problemas, comparando las expresiones simbólicas recuperadas contra las soluciones analíticas conocidas:

• Sistemas Lineales: Recuperó con éxito soluciones constantes exactas ($x=2, y=1$) para un sistema de ecuaciones lineales.
• Ecuaciones Trascendentales: Recuperó la solución $x=1$ para la ecuación $e^x + x^3 = e + 1$, un problema que típicamente requiere métodos numéricos ya que el aislamiento simbólico estándar es imposible.
• Ecuaciones Diferenciales Ordinarias (ODEs):
  • Recuperó $y(t) = \tanh(t)$ para la ODE no lineal $dy/dt = 1 - y^2$.
  • Recuperó la solución de transporte cuadrático $u(x,t) = (x-t)^2$ para una ecuación de transporte lineal, preservando la forma funcional correcta a pesar de los valores de los coeficientes aproximados.
• Ecuaciones Diferenciales Parciales (PDEs):
  • Resolvió con éxito una ecuación de Poisson 2D con condiciones de contorno mixtas, recuperando la estructura polinómica exacta $u(x,y) = x^2 + y^2 + xy^2$.
  • Recuperó la solución para un segundo conjunto de condiciones de contorno para la misma PDE, demostrando robustez ante diferentes configuraciones de restricciones.

En todos los casos, el SES produjo expresiones simbólicas compactas que coincidían con las soluciones analíticas, revelando a menudo las dependencias funcionales y simetrías correctas.

Significado y Pretensiones

El artículo postula que la resolución de ecuaciones puede replantearse no meramente como una derivación analítica o una aproximación numérica, sino como una optimización en el espacio de funciones simbólicas. La importancia del SES radica en su capacidad para cerrar la brecha entre las formulaciones basadas en ecuaciones y la recuperación simbólica.

• Interpretabilidad y Descubrimiento: Al recuperar soluciones en forma simbólica explícita, el SES expone dependencias estructurales y relaciones funcionales que son difíciles de inferir a partir de aproximaciones puramente numéricas. Los autores sugieren que esta capacidad podría servir como un mecanismo para la generación y el descubrimiento de hipótesis científicas, proporcionando formas analíticas candidatas e invarianzas.
• Aprendizaje Automático Científico: El SES representa un paso hacia la integración del razonamiento simbólico de manera más directa en el aprendizaje automático científico, ofreciendo un camino hacia modelos que sean tanto predictivos como estructuralmente fundamentados.
• Limitaciones y Trabajo Futuro: Los autores señalan modestamente que los resultados actuales son una prueba de concepto sobre problemas con soluciones analíticas conocidas y estructuras relativamente concisas. Reconocen que extender el marco hacia PDEs más desafiantes, sistemas de alta dimensión y dinámicas caóticas requerirá arquitecturas más expresivas, bibliotecas de operadores más ricas y estrategias de optimización más robustas.