🤖 machine learning

Neural Discovery of Memory and Nonlocal Kernels in Integro-Differential Equations with Constrained Kolmogorov--Arnold Networks

Este artículo propone un marco de resolución diferenciable utilizando Redes de Kolmogorov-Arnold con restricciones (específicamente MC-KAN con restricciones estrictas y Cheb-KAN con penalización suave) para descubrir de manera robusta núcleos de memoria y no locales interpretables en ecuaciones integro-diferenciales a partir de observaciones dispersas y ruidosas, demostrando que imponer restricciones de forma física por construcción produce una precisión superior sobre las penalizaciones suaves, particularmente para problemas multidimensionales.

Autores originales: Aruzhan Tleubek, Salah A Faroughi

Publicado 2026-07-14

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Aruzhan Tleubek, Salah A Faroughi

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que eres un detective intentando descubrir las "reglas fantasma" que gobiernan una máquina misteriosa. No puedes ver los engranajes internos de la máquina, pero puedes observar cómo se mueve cuando la empujas. En el mundo de la física, muchos sistemas (como bandas elásticas que regresan lentamente a su forma original, o el calor propagándose a través de un material con memoria) no solo reaccionan a lo que está sucediendo en este preciso instante. Tienen memoria. Tienen una "memoria que se desvanece".

Los matemáticos describen esta memoria usando un ingrediente especial llamado núcleo (kernel). Piensa en el núcleo como una tarjeta de recetas que le dice al sistema exactamente cuánto peso darle a cada momento de su pasado. Si conoces la receta, puedes predecir el futuro perfectamente. Pero, por lo general, ¡la tarjeta de la receta falta! Los científicos tienen los movimientos del sistema (los datos), pero no conocen la receta. Este es un rompecabezas complicado porque muchas recetas diferentes podrían producir el mismo movimiento, especialmente si tus observaciones son borrosas o incompletas.

La vieja forma vs. La nueva forma

Durante mucho tiempo, los científicos intentaron resolver esto mediante derivaciones matemáticas complejas específicas para cada problema, o adivinando una receta y esperando que encajara. Los autores de este artículo dicen: "Intentemos algo diferente". Construyeron una red neuronal (un tipo de cerebro de IA) que actúa como un detective. En lugar de adivinar, este cerebro de IA aprende la receta directamente de los datos desordenados y ruidosos de cómo se mueve el sistema.

Pero aquí está el truco: si simplemente dejas que un cerebro de IA estándar adivine, podría proponer una receta que no tiene sentido físico. Por ejemplo, podría sugerir que la memoria se vuelve más fuerte cuanto más viejo es el evento, o que la influencia del pasado de repente se vuelve negativa. En el mundo real, la memoria suele desvanecerse suavemente y nunca cambia de signo.

Las dos estrategias de detective

Para evitar que la IA haga conjeturas sin sentido, los investigadores probaron dos formas de obligar a la IA a seguir las reglas de la física.

Estrategia 1: La penalización "suave" (El Cheb-KAN)
Imagina que estás entrenando a un perro. Le dices: "No saltes al sofá", y si lo hace, le das un "no" suave (una penalización suave). El perro podría escuchar, pero también podría saltar de todos modos si realmente quiere. Esto es lo que hace el Cheb-KAN. Intenta aprender la receta, pero si la receta rompe las reglas (como volverse negativa o curvarse de la forma incorrecta), la computadora añade una pequeña "puntuación de castigo" a la tarea de la IA. La IA intenta minimizar el castigo, pero no se le prohíbe estrictamente romper las reglas.

Estrategia 2: La restricción "dura" (El MC-KAN)
Ahora, imagina que construyes una jaula alrededor del perro. El perro físicamente no puede saltar al sofá porque la jaula está ahí. Esto es el MC-KAN (Red Kolmogorov-Arnold Monótona-Convexa). Los investigadores no solo le pidieron a la IA que se portara bien; construyeron el cerebro de la IA utilizando bloques matemáticos especiales (polinomios de Bernstein) que hacen imposible que la IA genere una receta que rompa las reglas. La IA está obligada por su propia arquitectura a producir solo recetas que sean positivas, que siempre se desvanezcan y que tengan la curvatura correcta. No es una sugerencia; es una ley de la máquina.

La gran prueba: ¿Puede la IA encontrar la receta?

El equipo puso ambas estrategias a prueba en tres escenarios, que van desde lo simple hasta lo muy complejo.

1. La memoria simple (Ecuación de Volterra 1D)
Comenzaron con un sistema simple donde la memoria se desvanece como una curva exponencial estándar (como una taza de café enfriándose). Le dieron a la IA datos con diferentes niveles de "ruido" (estática o borrosidad).

El Resultado: Ambas estrategias encontraron la receta correcta. Incluso cuando los datos tenían mucho ruido, ambas acertaron. Sin embargo, la Restricción Dura (MC-KAN) fue ligeramente más precisa, encontrando la receta con un 13% a 54% menos de error que la versión de Penalización Suave, dependiendo de cuánto ruido había en los datos. Fue como si el perro con la jaula nunca cometiera ni un solo error, mientras que el perro con el "no" suave cometió algunos deslizamientos diminutos.

2. La memoria elástica (Onda viscoelástica 1D)
A continuación, observaron una vara elástica vibrando. La memoria aquí no era una curva simple; era una "exponencial estirada", que es una forma más compleja que se encuentra a menudo en polímeros vítreos. Hicieron que los datos fueran muy dispersos, lo que significa que solo le dieron a la IA unos pocos instantáneas del movimiento de la vara (tan solo 11 instantáneas de un posible 1001).

El Resultado: Sorprendentemente, ambos métodos pudieron seguir encontrando la receta incluso con tan pocos datos. Pero de nuevo, el Restricción Dura (MC-KAN) fue más consistente. Encontró la receta con aproximadamente un 40% menos de error que la versión de Penalización Suave. La versión de Penalización Suave a veces tambaleaba un poco, mientras que la versión de Restricción Dura se mantuvo estable.

3. El caos 2D (Reacción-Difusión no local)
Finalmente, abordaron el desafío más difícil: un sistema 2D donde la memoria depende del espacio en dos direcciones (como un patrón formándose sobre una superficie). Los datos eran dispersos (solo 7 instantáneas temporales en una rejilla de 32x32) y ruidosos (hasta 0.15 de desviación estándar de ruido).

El Resultado: Aquí es donde la diferencia fue enorme. La estrategia de Penalización Suave empezó a alucinar. Produjo recetas que tenían ondulaciones extrañas y no se desvanecían correctamente. La Restricción Dura (MC-KAN) se mantuvo sólida como una roca.
- En el nivel de ruido más alto (σ = 0.15), el método de Restricción Dura tuvo un error de núcleo del 12.36%, mientras que el método de Penalización Suave tuvo un error del 21.95%. La Restricción Dura fue casi el doble de precisa.
- El método de Penalización Suave incluso produjo formas "no admisibles" (recetas que parecían leyes de potencia en lugar de las formas exponenciales correctas) cuando el ruido era alto. El método de Restricción Dura nunca rompió las reglas.

El veredicto final

El artículo concluye que, si bien ambos métodos funcionan bien cuando los datos son limpios y simples, imponer las reglas integrándolas en la estructura de la IA (Restricciones Duras) es mucho más robusto cuando los datos son desordenados, dispersos o de alta dimensión.

Los autores descubrieron que, para el problema 2D más difícil con ruido, el método de Restricción Dura redujo el error en aproximadamente un 44% en comparación con el método de Penalización Suave. También utilizaron con éxito una herramienta llamada PySR para traducir la receta de la "caja negra" aprendida por la IA de nuevo a una fórmula matemática clara y legible (como $e^{-0.99\tau}$ ), demostiendo que la IA no solo adivinó números, sino que realmente aprendió la ley física subyacente.

Lo que el artículo dice que NO es cierto:

El artículo no afirma que esto funcione para todo tipo de memoria. Excluye explícitamente los núcleos que oscilan, cambian de signo o no se desvanecen. El método de Restricción Dura está construido específicamente para una "memoria que se desvanece" que es positiva y suave.
El artículo no dice que sea una solución mágica para todos los problemas inversos. Admite que para el problema 2D, tuvieron que dividir la receta en partes para encontrar la fórmula completa, y que el acoplamiento entre las dos direcciones no se recuperó perfectamente de una sola vez.
Los resultados se basan en simulaciones (datos generados por computadora), no en experimentos del mundo real todavía. Los autores sugieren que este es el siguiente paso, pero la prueba actual reside en los números que ellos mismos generaron.

En resumen: Si quieres encontrar la receta secreta de una memoria que se desvanece a partir de datos desordenados, construir una jaula alrededor de tu IA (Restricciones Duras) funciona mucho mejor que simplemente pedirle amablemente que se comporte (Penalizaciones Suaves).

Resumen Técnico: Descubrimiento Neuronal de Núcleos de Memoria y No Locales en Ecuaciones Integro-Diferenciales con Redes Kolmogorov–Arnold Restringidas

1. Planteamiento del Problema

El artículo aborda el problema inverso mal planteado de identificar núcleos de memoria o no locales desconocidos que gobiernan las ecuaciones integro-diferenciales (IDE) a partir de observaciones espaciotemporales dispersas y ruidosas. Las IDE modelan sistemas físicos con efectos de memoria (por ejemplo, relajación viscoelástica, difusión anómala) o no localidad espacial (por ejemplo, peridinámica, difusión-reacción no local), donde el estado depende de la evolución histórica o de interacciones espaciales distantes a través de un núcleo de convolución $K$ .

Los métodos de identificación existentes enfrentan limitaciones significativas:

Los enfoques clásicos dependen de derivaciones analíticas específicas para cada problema, requisitos de observación especializados (por ejemplo, mediciones de flujo en la frontera) o supuestos restrictivos para garantizar la buena formulación (well-posedness).
Los métodos actuales de Aprendizaje Automático Científico (SciML) a menudo representan los núcleos de forma implícita dentro de los parámetros de una red neuronal, careciendo de interpretabilidad en forma cerrada, o requieren derivaciones de adjuntos caso por caso para el cálculo de gradientes. Además, muchos métodos tienen dificultades para imponer restricciones físicas (positividad, monotonicidad, convexidad) necesarias para la recuperación estable del núcleo en entornos mal planteados.

El objetivo es desarrollar un marco flexible y basado en datos que recupere directamente la forma funcional del núcleo a partir de las observaciones, adhiriéndose estrictamente a las restricciones de forma física, sin requerir fórmulas de inversión analíticas específicas para cada problema.

2. Metodología

Los autores proponen un marco basado en un resolvedor diferenciable que integra una representación de núcleo neuronal entrenable dentro de un resolvedor numérico para la IDE. El marco sigue una estrategia de "discretizar-luego-optimizar", computando gradientes mediante diferenciación automática a través del resolvedor, evitando así la necesidad de ecuaciones adjuntas específicas para cada caso.

2.1. Parametrización del Núcleo Neuronal

El núcleo desconocido $K(\tau)$ (donde $\tau$ representa retrasos temporales y/o espaciales) se parametriza utilizando Redes Kolmogorov–Arnold (KANs). Se comparan dos arquitecturas específicas:

Cheb-KAN (KAN de Chebyshev con restricciones suaves):
- Utiliza bases de polinomios de Chebyshev para las funciones de arista.
- Las propiedades físicas (positividad, disminución monótona, convexidad) se fomentan mediante términos de penalización suave añadidos a la función de pérdida.
- La función de pérdida combina el desajuste de los datos con penalizaciones por valores negativos, primera derivada positiva y segunda derivada negativa.
MC-KAN (KAN de Monotonía-Convexidad con restricciones estrictas):
- Utiliza bases de polinomios de Bernstein para las funciones de arista.
- Las propiedades físicas se imponen por construcción a través de restricciones en los coeficientes polinómicos.
- Mecanismo: Al restringir los coeficientes de Bernstein para que cumplan condiciones específicas de orden y convexidad (por ejemplo, $c_0 \ge c_1 \ge \dots \ge c_N$ para la disminución monótona), la función resultante garantiza ser positiva, monótonamente decreciente y convexa dentro del dominio $[0, 1]$ .
- La arquitectura emplea un ordenamiento de capas específico: la primera capa utiliza funciones de arista convexas decrecientes, mientras que las capas subsiguientes utilizan funciones de arista convexas crecientes. Esta composición asegura que el núcleo final cumpla con los requisitos físicos requeridos independientemente de los coeficientes aprendidos.

2.2. Entrenamiento y Recuperación

Entrenamiento: El núcleo neuronal se integra en un resolvedor hacia adelante (utilizando cuadratura o FFT para las integrales). Los parámetros se optimizan para minimizar el desajuste entre los datos espaciotemporales predichos y observados.
Regresión Simbólica: Tras el entrenamiento, el núcleo neuronal aprendido se muestrea y se aplica regresión simbólica (vía PySR) para extraer una expresión matemática interpretable de forma cerrada (por ejemplo, formas exponenciales o de ley de potencia).

3. Contribuciones Clave

Marco de Resolvedor Diferenciable: Un marco general para el descubrimiento de núcleos que integra representaciones neuronales directamente en resolvedores numéricos, eliminando la necesidad de derivaciones de adjuntos específicos para cada caso.
Arquitectura KAN con Restricciones Estrictas: La introducción de MC-KAN, que utiliza polinomios de Bernstein para garantizar las restricciones físicas (positividad, monotonía, convexidad) por construcción, en lugar de depender de penalizaciones suaves.
Análisis Comparativo: Una evaluación sistemática de los enfoques de restricción suave (Cheb-KAN) frente a los de restricción estricta (MC-KAN) ante diversos niveles de dispersión de datos, ruido y dimensionalidad.
Interpretabilidad: La integración exitosa de la regresión simbólica para convertir los núcleos neuronales aprendidos en leyes constitutivas de forma cerrada.

4. Resultados Experimentales

El marco fue validado en tres problemas de referencia:

Experimento I: IDE de Volterra 1D (Memoria Temporal)

Tarea: Recuperar un núcleo de memoria exponencial a partir de datos de series temporales ruidosos.
Resultados: Ambos métodos identificaron con éxito la forma exponencial. Sin embargo, MC-KAN logró consistentemente errores de reconstrucción de núcleo menores que Cheb-KAN en todos los niveles de ruido y profundidades de red.
Observación: Aunque ambos métodos recuperaron la forma analítica correcta ( $K(\tau) = e^{-r\tau}$ ) mediante regresión simbólica, el MC-KAN proporcionó aproximaciones numéricas más precisas, particularmente en niveles de ruido más altos.

Experimento II: PIDE de Onda Viscoelástica 1D (Memoria Temporal)

Tarea: Recuperar un núcleo de tipo exponencial estirada (KWW) a partir de instantáneas temporales dispersas de la vibración de una varilla viscoelástica.
Resultados: Ambos métodos fueron robustos a la dispersión de datos (hasta el 1% de la rejilla completa). MC-KAN logró aproximadamente un 40% menos de error en la reconstrucción del núcleo que Cheb-KAN en todos los niveles de dispersión.
Observación: Las reconstrucciones de MC-KAN permanecieron estrictamente positivas, monótonas y convexas, mientras que Cheb-KAN exhibió ligeros artefactos oscilatorios. Ambos métodos recuperaron con éxito los parámetros reales de KWW ( $\tau_0, \beta$ ) mediante regresión simbólica.

Experimento III: Ecuación de Reacción-Difusión No Local 2D (No Localidad Espacial)

Tarea: Recuperar un núcleo de interacción espacial 2D complejo y anisotrópico a partir de datos dispersos y ruidosos.
Resultados:
- En el caso sin ruido, Cheb-KAN funcionó marginalmente mejor.
- Bajo condiciones de ruido ( $\sigma \ge 0.02$ ), MC-KAN superó significativamente a Cheb-KAN. Con $\sigma = 0.15$ , MC-KAN redujo el error del núcleo en casi un factor de dos en comparación con Cheb-KAN.
- Robustez: Las restricciones estrictas en MC-KAN evitaron las oscilaciones no físicas que aparecieron en las reconstrucciones de Cheb-KAN cuando los datos eran dispersos y ruidosos.
- Normalización: Una normalización de entrada por ley de potencia (que concentra la resolución cerca del origen) mejoró aún más el rendimiento de MC-KAN para núcleos con gradientes pronunciados.
- Recuperación Simbólica: Aunque las formas acopladas 2D fueron difíciles de recuperar directamente, la regresión simbólica identificó con éxito las secciones unidimensionales separables y la estructura de acoplamiento (forma de producto) en el espacio logarítmico.

5. Significación y Reivindicaciones

El artículo sostiene que imponer restricciones de forma motivadas físicamente por construcción (vía MC-KAN) proporciona mayor robustez que las penalizaciones suaves para el descubrimiento de núcleos multidimensionales, particularmente cuando las observaciones son dispersas y ruidosas.

Robustez: El beneficio principal de las restricciones estrictas no es necesariamente un rendimiento superior en problemas inversos simples y bien observados, sino la capacidad de mantener representaciones físicamente consistentes y precisas a medida que la calidad de los datos se degrada.
Generalidad: El marco es compatible con integradores de tiempo y discretizaciones espaciales estándar, lo que lo hace aplicable a una amplia clase de IDE sin requerir derivaciones de adjuntos personalizados.
Limitaciones: Los autores reconocen que el MC-KAN actual está restringido a núcleos positivos, monótonos y convexos (excluyendo núcleos oscilatorios o que cambian de signo). Además, la regresión simbólica para núcleos multidimensionales totalmente acoplados sigue siendo un desafío, requiriendo a menudo la recuperación por etapas de los componentes separables.

En resumen, este trabajo demuestra que combinar resolvedores diferenciables con redes neuronales estructuralmente restringidas (específicamente KANs basadas en Bernstein) ofrece un enfoque poderoso, interpretable y robusto para resolver problemas inversos en sistemas con memoria o no locales.