Resumen Técnico: Mitigación del Sesgo Espectral en Surrogatos Neuronales Informados por la Física para la Dinámica Estructural No Lineal

1. Planteamiento del Problema

Los Perceptrones Multicapa (MLP) estándar utilizados en Redes Neuronales Informadas por la Física (PINNs) sufren de sesgo espectral: una tendencia sistemática a aprender componentes de baja frecuencia de una señal mientras fallan en capturar modos de alta frecuencia. Esta limitación es crítica en la dinámica estructural no lineal, donde las respuestas del sistema contienen intrínsecamente componentes de multifrecuencia (por ejemplo, modos fundamentales y armónicos superiores) derivados de interacciones modales, comportamiento histérico y rigidez no lineal.

Aunque recientemente se han propuesto alternativas como las Redes Kolmogorov–Arnold (KAN) para mitigar esto mediante activaciones de aristas aprendibles, las comparaciones existentes entre KAN y MLP suelen ser defectuosas. Los estudios previos frecuentemente sufren de:

• Recuentos de parámetros desiguales.
• Normalización inadecuada de la entrada (causando saturación de la activación).
• Condiciones iniciales (CI) de cero codificadas de forma fija incluso para estados no nulos.
• Aplicación inconsistente de restricciones informadas por la física.

Estas inconsistencias metodológicas conducen a conclusiones erróneas sobre la eficacia de las elecciones arquitectónicas frente a las representaciones de entrada.

2. Metodología

Este estudio establece un marco experimental riguroso y de parámetros emparejados para aislar los efectos de la representación de la entrada y la arquitectura del núcleo (backbone).

2.1 Problemas de Referencia

Se seleccionaron cuatro problemas de dinámica no lineal canónicos, cada uno representando una clase dinámica distinta:

1. Oscilador Histerético de Bouc–Wen: Histéresis independiente de la tasa (entrenamiento basado en datos).
2. Oscilador de Duffing: Rigidez geométrica cúbica con comportamiento cuasi periódico (informado por la física).
3. Oscilador de Van der Pol Forzado: Oscilación de ciclo límite autoexcitada (informado por la física).
4. Edificio de Cortante de Tres Grados de Libertad (3-DOF): Superposición modal multifrecuencial lineal (basado en datos).

2.2 Diseño Arquitectónico (2 × 2 Factorial)

Se compararon cuatro modelos, todos restringidos a ~16,400 parámetros entrenables para asegurar la equidad:

1. MLP Simple: MLP estándar con entrada de tiempo normalizada ($t/t_{max}$).
2. Fourier-MLP: MLP con codificación de características de Fourier ($\Phi(t)$).
3. Solo-KAN: KAN con activaciones de polinomios de Chebyshev aprendibles y entrada de tiempo normalizada.
4. FPIKAN (KAN mejorado con Fourier): KAN con codificación de características de Fourier.

Controles Metodológicos Clave:

• Normalización de Entrada: Las entradas de los modelos Plain MLP y KAN-only fueron normalizadas al intervalo $[0, 1]$ para evitar la saturación de la función $\tanh$; los modelos de Fourier fueron inmunes debido a la naturaleza acotada de seno y coseno.
• Condiciones Iniciales: Aplicación explícita de las verdaderas CI físicas ($u(0), \dot{u}(0)$) en lugar de ceros codificados por defecto.
• Función de Pérdida: Una pérdida unificada que comprende fidelidad de datos ($L_{data}$), restricciones de condiciones iniciales ($L_{IC}, L_{vel}$) y residuales físicos ($L_{phys}$) para los benchmarks aplicables.
• Entrenamiento: Optimizador Adam con recocido de coseno (cosine annealing) durante 5,000 épocas.

2.3 Análisis Teórico

El estudio incluye un análisis de flujo de gradiente de las capas KAN. Se postula que, si bien los polinomios de Chebyshev actúan como descomponedores espectrales implícitos, sus segundas derivadas (requeridas para la pérdida informada por la física en ODEs de segundo orden) producen magnitudes de gradiente oscilatorias. Estas oscilaciones crean un paisaje de optimización incompatible cuando se combinan con entradas codificadas por Fourier, lo que puede desestabilizar el entrenamiento.

3. Contribuciones Clave

1. Comparación de Parámetros Emparejados: La primera comparación rigurosa de arquitecturas KAN y MLP a través de cuatro benchmarks no lineales con capacidad de modelo estrictamente igual (~16.4k parámetros).
2. Estudio de Ablación Factorial: Un diseño sistemático $2 \times 2$ que aisla las contribuciones individuales de la codificación de características de Fourier y la arquitectura del núcleo (MLP vs. KAN).
3. Corrección Metodológica: Identificación y corrección de siete "errores" de implementación comunes en la literatura de PINN (por ejemplo, falta de CI de velocidad, tiempo no normalizado, parámetros desajustados) que previamente sesgaban los resultados.
4. Análisis de Incompatibilidad de Gradientes: Demostración matemática de por qué la combinación de codificación de Fourier con KANs basados en Chebyshev puede degradar el rendimiento debido a la dinámica de gradientes conflictiva.
5. Evaluación de Fidelidad Espectral: Análisis en el dominio de la frecuencia demostrando que las métricas de error en el dominio del tiempo por sí solas son insuficientes para diagnosticar el sesgo espectral.

4. Resultados

4.1 Dominancia de la Codificación de Características de Fourier

El hallazgo más significativo es que la codificación de características de Fourier es el factor dominante en la mitigación del sesgo espectral.

• Añadir codificación de Fourier a un MLP Simple redujo los errores relativos $L_2$ en un 98.6% a 100% en todos los benchmarks.
• El Fourier-MLP logró el error más bajo en los cuatro benchmarks ($L_2 \le 0.014$, con $L_2 < 10^{-3}$ para Duffing y Van der Pol).
• Sin la codificación de Fourier, tanto el Plain MLP como el KAN-only fallaron en capturar la dinámica de alta frecuencia en los benchmarks de Bouc–Wen y el edificio de 3-DOF, arrojando un $L_2 \approx 1.0$ (predicción cercana a cero).

4.2 Rendimiento de KAN sin Codificación de Fourier

En ausencia de codificación de Fourier, el modelo KAN-only superó al Plain MLP en sistemas oscilatorios no lineales:

• Duffing: KAN redujo el error en 1.9× ($0.074$ vs. $0.139$).
• Van der Pol: KAN redujo el error en 3.5× ($0.164$ vs. $0.574$).
• Esto confirma que las activaciones de Chebyshev aprendibles actúan como descomponedores espectrales implícitos, mitigando parcialmente el sesgo en regímenes de frecuencia más simples.

4.3 La "Paradoja" de FPIKAN

Contrario a la expectativa de que combinar dos estrategias de mitigación produciría mejores resultados, el FPIKAN fue consistentemente inferior al Fourier-MLP.

• En el benchmark de Duffing, añadir codificación de Fourier a KAN aumentó el error en un 201.7% (de $0.074$a$0.224$).
• En el benchmark de Van der Pol, el error aumentó un 9.0%.
• Causa: Las magnitudes de gradiente oscilatorias inherentes a los polinomios de Chebyshev de alto grado entran en conflicto con el paisaje de optimización suave requerido por los residuales físicos de segundo orden, especialmente cuando se acoplan con entradas de Fourier.

4.4 Convergencia y Análisis Espectral

• Convergencia: El Fourier-MLP convergió suavemente a $MSE < 10^{-7}$. El FPIKAN convergió inicialmente pero se estancó en niveles de error más altos ($10^{-3}$ a $10^{-5}$), consistente con la hipótesis de inestabilidad de gradiente.
• Fidelidad Espectral: El Fourier-MLP reconstruyó con precisión todo el espectro de frecuencias. Los modelos sin Fourier exhibieron una severa atenuación de alta frecuencia, filtrando efectivamente los modos por encima de 2–3 Hz.

5. Significancia y Conclusiones

El artículo concluye que para los surrogatos neuronales informados por la física en la dinámica estructural no lineal:

1. La Representación de la Entrada es Crítica: La codificación de características de Fourier es la decisión de diseño más importante, eliminando eficazmente el sesgo espectral independientemente de la arquitectura del núcleo.
2. Arquitectura Recomendada: El Fourier-MLP es la arquitectura recomendada, ofreciendo el error más bajo, un entrenamiento más rápido (~2× más rápido que las alternativas KAN) y una implementación más simple.
3. Valor de KAN Independiente: Las KAN aportan valor cuando la codificación de Fourier no es factible (por ejemplo, rangos de frecuencia desconocidos), ya que superan a los MLP hasta en 3.5× mediante la descomposición espectral implícita.
4. Contraproductividad de la Hibridación: Combinar la codificación de Fourier con KANs basados en Chebyshev (FPIKAN) es actualmente contraproducente debido a la incompatibilidad de gradientes. Los autores sugieren la exploración futura de variantes de KAN basadas en B-splines o wavelets con derivadas acotadas para resolver esto.
5. Rigor Metodológico: El estudio enfatiza que la literatura comparativa previa puede estar comprometida por fallos de implementación. La adherencia al emparejamiento estricto de parámetros, la normalización adecuada y la aplicación correcta de las condiciones iniciales es esencial para obtener conclusiones científicas válidas en este campo.