KANO: Kolmogorov-Arnold Neural Operator

A continuación presento un resumen técnico detallado del artículo "KANO: Kolmogorov–Arnold Neural Operator", publicado como ponencia en ICLR 2026.

1. El Problema: El Cuello de Botella Espectral Puro de los FNO

El aprendizaje de operadores (Operator Learning) busca aproximar mapeos entre espacios de funciones de dimensión infinita, fundamental para modelar dinámicas físicas gobernadas por Ecuaciones Diferenciales Parciales (EDP).

• Limitación de los FNO: El Fourier Neural Operator (FNO) es el estándar actual, pero utiliza una codificación "hard-coded" basada en la transformada de Fourier truncada. Esto impone un cuello de botella de espectro puro.
• Dinámicas Dependientes de la Posición: Muchos sistemas físicos importantes (como EDPs con coeficientes variables o operadores de posición en mecánica cuántica) son "densos" en el dominio espectral. En estos casos, el operador de multiplicación por posición ($x \cdot a(x)$) se convierte en una matriz de Toeplitz densa en el dominio de Fourier.
• Fallo de Generalización: Los FNO dependen de activaciones no lineales para crear "off-diagonales" espectrales (mezcla de modos), pero estas dependen estrictamente de la distribución de entrada durante el entrenamiento. Como resultado, los FNO sufren de una maldición de la dimensionalidad y fallan catastróficamente al generalizar fuera de la distribución de entrenamiento (out-of-distribution) para dinámicas dependientes de la posición, requiriendo un tamaño de modelo super-exponencial para alcanzar una precisión dada.

2. Metodología: KANO (Kolmogorov–Arnold Neural Operator)

Los autores proponen KANO, un operador neuronal interpretable que combina bases espectrales y espaciales mediante redes Kolmogorov–Arnold (KAN).

Arquitectura Clave

KANO elimina las redes de proyección y elevación (lift-up/projection) anchas típicas de los FNO para maximizar la recuperabilidad simbólica. Utiliza capas iterativas $L_{KANO}$ definidas como:
$$L_{KANO}(a)(x) = \Phi_{\theta_1} \left( \mathcal{O}_{m}^{p} [p_{\theta_2}(x, \xi) * \mathcal{F}_m(a)(\xi)](x), a(x) \right)$$

Donde:

1. Símbulo Pseudo-Diferencial ($p(x, \xi)$): En lugar de multiplicadores espectrales diagonales fijos, KANO aprende un símbolo $p(x, \xi)$ parametrizado por una red KAN. Este símbolo depende tanto de la posición espacial ($x$) como de la frecuencia ($\xi$).
2. Cuantización de Kohn-Nirenberg: El operador se calcula mediante una cuantización que permite la convolución en el dominio espacial y la multiplicación en el espectral, capturando la dualidad necesaria para manejar términos diferenciales (esparcidos en frecuencia) y términos de multiplicación (esparcidos en espacio).
3. Interpretabilidad Simbólica: Al utilizar KANs (donde las aristas son funciones univariadas entrenables, usualmente splines), el modelo es visualmente inspeccionable. Esto permite extraer fórmulas simbólicas cerradas de los operadores aprendidos.

Fundamento Teórico

• Expresividad de Doble Dominio: KANO elige la representación más dispersa para cada término: usa la base espectral para derivadas y la base espacial para multiplicadores de posición. Esto desacopla el error de proyección ($\epsilon_{proj}$) del error de la red latente ($\epsilon_{net}$).
• Escalabilidad: Mientras que FNO requiere un tamaño de modelo super-exponencial para operadores densos, KANO demuestra teóricamente que su tamaño escala polinomialmente con la precisión deseada para dinámicas dependientes de la posición, siempre que el símbolo sea suave.

3. Contribuciones Clave

1. Análisis Teórico del Cuello de Botella: Demostración formal de que los FNO no pueden converger a dinámicas genéricas dependientes de la posición con un tamaño de parámetros práctico debido a la dependencia de la distribución de entrada en sus off-diagonales espectrales.
2. Nuevo Marco KANO: Propuesta de un operador neuronal con interpretabilidad simbólica intrínseca que generaliza robustamente fuera de la distribución de entrenamiento mediante una arquitectura de doble dominio (espacial y espectral).
3. Validación Empírica y Simbólica: Recuperación exitosa de fórmulas cerradas con alta precisión y superación significativa de los baselines en benchmarks de física cuántica y EDPs sintéticas.

4. Resultados Experimentales

Los experimentos se centraron en dos áreas principales:

A. Benchmarks de Operadores Sintéticos

Se evaluaron tres operadores dependientes de la posición ($G_1, G_2, G_3$) entrenando solo en una familia de datos (Grupo A) y probando en familias no vistas (Grupo B).

• Generalización: KANO mostró una pérdida consistente entre los grupos de entrenamiento y prueba. En contraste, FNO y sus variantes (U-FNO, AM-FNO) sufrieron aumentos drásticos en la pérdida al generalizar.
• Eficiencia: KANO utilizó solo el 0.03% de los parámetros del modelo FNO base, pero logró una pérdida relativa $\ell_2$ un orden de magnitud menor.
• Recuperación Simbólica: Tras el entrenamiento, KANO recuperó las fórmulas exactas de los operadores con precisión hasta la cuarta cifra decimal en los coeficientes.

B. Benchmark de Dinámica Cuántica (Hamiltonianos)

Se probó en la evolución temporal de un Hamiltoniano de doble pozo cuártico y una ecuación de Schrödinger no lineal (NLSE).

• Escenarios de Supervisión: Se comparó entrenamiento con función de onda completa (ideal, no físicamente alcanzable) frente a datos de PMF (probabilidad de posición y momento, físicamente realista).
• Rendimiento:
  • KANO (Q-KANO) alcanzó una infidelidad de estado de $\approx 6 \times 10^{-6}$, superando por órdenes de magnitud al FNO entrenado con datos ideales ($\approx 1.5 \times 10^{-2}$).
  • Incluso con datos parciales (solo posición y momento), KANO mantuvo una alta fidelidad y recuperó la estructura simbólica del Hamiltoniano, incluyendo el potencial $w(x)$ y los coeficientes de no linealidad.
  • El FNO falló en mantener baja infidelidad en horizontes temporales largos, divergiendo rápidamente de la evolución real.

5. Significado e Impacto

Este trabajo representa un cambio de paradigma en el aprendizaje de operadores:

• De la Aproximación Universal a la Generalización Universal: Mientras que los modelos anteriores se centraban en aproximar cualquier mapeo dentro de la distribución de entrenamiento, KANO busca generalizar a dinámicas físicas reales fuera de esa distribución.
• IA Científica Interpretable: KANO no es una "caja negra". Su capacidad para recuperar ecuaciones simbólicas cerradas a partir de datos permite la verificación física y el descubrimiento de leyes, cerrando la brecha entre el aprendizaje automático y la modelización científica tradicional.
• Eficiencia en Sistemas Complejos: Demuestra que para sistemas con coeficientes variables (comunes en la física real), la arquitectura híbrida espacial-espectral es superior y más eficiente en parámetros que los enfoques puramente espectrales.

En resumen, KANO resuelve el problema fundamental de la generalización en operadores dependientes de la posición mediante una arquitectura inspirada en el teorema de Kolmogorov-Arnold, ofreciendo precisión, eficiencia y, crucialmente, interpretabilidad simbólica.