Resumen Técnico: Bases Espectrales Reales vs. Complejas para Operadores Neuronales

Planteamiento del Problema

Los Operadores Neuronales de Fourier (FNO) han emergido como una arquitectura líder para el aprendizaje de operadores de solución de ecuaciones diferenciales parciales (PDE) mediante la parametrización de convoluciones globales en el dominio de Fourier complejo. Sin embargo, para la gran mayoría de los sistemas físicos gobernados por soluciones de PDE de valores reales, la Transformada Rápida de Fourier (FFT) estándar introduce redundancia representacional. Específicamente, el espectro complejo de una señal real exhibe simetría conjugada, lo que significa que la mitad del espectro está determinado por la otra mitad. A pesar de esto, las implementaciones estándar de FNO aprenden matrices de pesos complejos que deben, implícitamente, descubrir y aplicar esta restricción, lo que potencialmente aumenta el espacio de búsqueda efectivo y la carga computacional sin añadir capacidad representacional.

El artículo investiga si la base de Fourier compleja es la representación espectral óptima para todas las clases de PDE o si una base puramente real podría ser superior para simetrías de operadores específicas.

Metodología

El Operador Neuronal de Hartley (HNO)

Los autores introducen el Operador Neuronal de Hartley (HNO), diseñado como el espejo de valor real exacto del FNO.

• Transformada: El HNO reemplaza la FFT con la Transformada de Hartley Discreta (DHT). La DHT opera enteramente en el dominio real utilizando el núcleo $cas(\theta) = \cos(\theta) + \sin(\theta)$.
• Arquitectura: A diferencia de la FFT, que explota la simetría conjugada para almacenar solo la mitad del espacio de frecuencias positivas, la DHT de una señal real no posee tal simetría; cada coeficiente es independiente. En consecuencia, el HNO retiene el espectro completo (por ejemplo, los cuatro cuadrantes en 2D) pero aprende un único multiplicador real por cada modo espectral retenido.
• Diseño Isoparamétrico: Para asegurar una comparación justa, el HNO se construye de forma isoparamétrica con el FNO a igual ancho. Mientras que el FNO aprende un peso complejo (dos parámetros reales) por modo sobre un espectro reducido a la mitad, el HNO aprende un peso real único por modo sobre el espectro completo. El número total de parámetros entrenables reales permanece idéntico entre ambas arquitecturas.
• Implementación: Los autores implementan el HNO utilizando torch.fft de PyTorch mediante el cálculo de la DHT a través de la relación $H\{f\}(k) = \text{Re}\{F\{f\}(k)\} - \text{Im}\{F\{f\}(k)\}$. Esto aprovecha los núcleos de FFT existentes acelerados por GPU mientras evita el desarrollo de núcleos personalizados para los experimentos iniciales.

Protocolo Experimental

El estudio realiza una evaluación sistemática a través de cinco clases de PDE:

1. Elípticas: Poisson, Biharmónica.
2. Parabólicas: Ecuación del calor.
3. Hiperbólicas: Ecuación de onda.
4. Advectivas: Advección-difusión.
5. No lineales: Ecuación de Burgers, Navier-Stokes 2D (forma de vorticidad).

Controles:

• Condiciones Iniciales: Se prueban tres familias: Campos Aleatorios Gaussianos (GRF), Expansiones de Autofunciones y Superposiciones de Bultos Gaussianos (Gaussian Bump).
• Condiciones de Contorno: Se evalúan tanto condiciones periódicas como de Dirichlet homogéneas.
• Entrenamiento: Ambos operadores se entrenan con los mismos optimizadores (Adam), esquemas de tasa de aprendizaje, decaimiento de peso (weight decay), recorte de gradiente y anchos de red. Las verdades de campo para las PDE dependientes del tiempo se generan mediante métodos de diferencia finita para evitar el sesgo implícito hacia representaciones basadas en Fourier.

Contribuciones Clave

1. Un Espejo de Valor Real Limpio del FNO: El artículo formula el HNO como un contraparte estrictamente real del FNO, eliminando la aritmética compleja y las restricciones de simetría conjugada mientras mantiene conteos de parámetros idénticos. Esto aísla la base espectral como la única variable en la comparación.
2. Principio de Alineación Base-Operador: Los autores desarrollan un marco teórico que vincula la base espectral óptima con la simetría de la función de Green del operador de solución.
   • Operadores Elípticos Autoadmitidos: Estos poseen funciones de Green reales y simétricas. La convolución de Hartley se simplifica a la multiplicación elemento a elemento para núcleos simétricos, permitiendo que el HNO represente estos operadores exactamente con un único multiplicador real por modo. El FNO, por el contrario, debe aprender a anular sus componentes imaginarios.
   • Operadores Dependientes del Tiempo: Estos operadores suelen portar fase (oscilación en ecuaciones de onda, transporte en advección). Un multiplicador diagonal real estructuralmente no puede representar operadores con símbolos complejos (fase). Por lo tanto, el FNO es teóricamente favorecido para estos casos.
3. Ordenamiento de Fase del Operador: El artículo establece que la brecha de rendimiento entre HNO y FNO no es binaria sino monotónica, escalando con el "contenido de fase" del propagador del operador.
4. Benchmarks Exhaustivos: El estudio proporciona los primeros benchmarks de operadores basados en Hartley para las ecuaciones de Burgers y Navier-Stokes 2D, junto con un análisis de costos que muestra que los sobrecostos de rendimiento actuales se deben al backend emulado de la DHT y no a la transformada en sí.

Resultados

Los resultados empíricos confirman las predicciones teóricas, mostrando una división clara basada en la simetría del operador:

• PDEs Elípticas (HNO Favorecido): En las ecuaciones de Poisson y Biharmónica, el HNO logra un error relativo $L_2$ menor que el FNO. La ventaja es más pronunciada para la ecuación Biharmónica, el operador autoadmitido más fuerte probado. Las fronteras periódicas, que preservan la diagonalización exacta de Hartley, muestran mayores ganancias que las fronteras de Dirichlet.
• PDEs Dependientes del Tiempo (FNO Favorecido): El FNO supera al HNO en todas las ecuaciones dependientes del tiempo. El margen de victoria correlaciona con el contenido de fase del operador:
  • Ecuación del Calor: Como un propagador sin fase ($e^{-\nu|k|^2 t}$), se sitúa en el límite donde el HNO ocasionalmente aventaja al FNO en entradas suaves, pero el FNO es generalmente competitivo.
  • Ecuación de Onda: Oscilatoria pero sin amortiguación, mostrando una ventaja intermedia para el FNO.
  • Dominio de Transporte (Advección, Burgers, Navier-Stokes): Estos operadores exhiben la mayor ventaja del FNO debido a sus fuertes símbolos portadores de fase (ej. $e^{-ic \cdot k t}$).
• Condiciones Iniciales: La elección de la familia de condiciones iniciales modula la magnitud de la brecha de error, pero no cambia el signo del ganador. La preferencia de la base está determinada por la simetría del operador, no por la distribución de los datos.

Significado y Reivindicaciones

El artículo argumenta en contra de la búsqueda de una base espectral "universal" para los operadores neuronales. En su lugar, propone una regla predictiva: ajustar la base espectral a la simetría del operador de solución.

• Base Real (HNO): Óptima para operadores autoadmitidos y sin fase (soluciones elípticas, difusión). El multiplicador diagonal real diagonaliza exactamente la función de Green simétrica, reduciendo el paisaje de optimización y eliminando la necesidad de aprender restricciones (ej. $\text{Im}\{W\} = 0$).
• Base Compleja (FNO): Necesaria para operadores que portan fase (oscilación, transporte). La aritmética compleja es estructuralmente requerida para representar los componentes imaginarios del símbolo del propagador.

Los autores concluyen que la selección de la base espectral es una elección de diseño activa impulsada por la física del problema. Mientras que el HNO ofrece una alternativa eficiente en parámetros y teóricamente fundamentada para problemas elípticos, el FNO sigue siendo superior para sistemas dependientes del tiempo y dominados por el transporte. El trabajo sugiere que los diseños futuros de operadores neuronales deberían adaptar sus representaciones espectrales basándose en la simetría detectada del operador objetivo.