🤖 machine learning

Learning Reduced-Order Dynamics with Singularity via Latent-Augmented Neural Ordinary Differential Equations

Este artículo propone el marco de las Ecuaciones Diferenciales Ordinarias Neuronales con Aumento Latente (LA-NODEs) para resolver los problemas de trayectorias autointersecantes en el modelado de orden reducido industrial, mediante el aumento de las ODEs neuronales para representar campos vectoriales conflictivos, logrando así una precisión y fidelidad de predicción superiores en sistemas complejos como las unidades de motores síncronos de imanes permanentes interiores (IPMSM) y los sistemas de energía distribuida.

Autores originales: Xiaorui Wang, Yu Zhou, Wenjie Mei, Dongzhe Zheng, Yang Bai, Masaaki Nagahara

Publicado 2026-08-25

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Xiaorui Wang, Yu Zhou, Wenjie Mei, Dongzhe Zheng, Yang Bai, Masaaki Nagahara

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el complejo mundo de la ingeniería moderna, desde los motores que impulsan los vehículos eléctricos hasta las redes que alimentan nuestras ciudades, los sistemas suelen ser demasiado intrincados para gestionarlos en tiempo real. Estas máquinas están gobernadas por leyes de la física que involucran docenas de variables que cambian simultáneamente, creando un rompecabezas de alta dimensionalidad que es computacionalmente costoso de resolver. Para hacer que estos sistemas sean manejables para el control y la optimización, los ingenieros utilizan una técnica llamada reducción de orden de modelo. Este proceso simplifica una máquina compleja en una versión más pequeña y rápida al centrarse solo en las partes más visibles, de forma muy parecida a observar un objeto tridimensional a través de una ventana bidimensional. Sin embargo, esta simplificación conlleva una trampa oculta. Cuando la realidad completa y compleja se comprime en una vista de menor dimensión, diferentes estados internos pueden parecer exactamente iguales desde el exterior. Esto crea una situación confusa donde un solo punto en el mapa simplificado corresponde a múltiples direcciones de movimiento diferentes, un fenómeno conocido como singularidad. Si un modelo computacional intenta aprender el comportamiento de tal sistema sin tener en cuenta esta ambigüedad, se queda estancado, incapaz de predecir hacia dónde irá el sistema después.

Los investigadores han dependido durante mucho tiempo de una herramienta poderosa llamada Ecuaciones Diferenciales Ordinarias Neuronales para aprender estos sistemas dinámicos directamente a partir de los datos. Estos modelos actúan como aproximadores universales, capaces de aprender patrones intrincados sin necesidad de fórmulas físicas explícitas. Sin embargo, las versiones estándar de estos modelos chocan con un muro difícil cuando se enfrentan a las singularidades causadas por la reducción de modelos. Debido a que asumen que cada punto del sistema tiene solo una dirección de movimiento única, fallan cuando ese punto tiene en realidad varios caminos posibles. El resultado es un modelo que aprende la forma general del sistema pero pierde los detalles críticos, lo que conduce a errores significos de predicción. Esta limitación no es solo un fallo menor; es una barrera fundamental que impide el modelado preciso de muchos sistemas industriales del mundo real donde los datos son incompletos o simplificados.

Para superar esto, un equipo de investigadores de la Universidad Tecnológica de Lanzhou, la Universidad de Hiroshima, la Universidad de Nanjing y la Universidad de Princeton ha desarrollado un nuevo marco llamado Ecuaciones Diferenciales Ordinarias Neuronales con Aumento de Latencia. La idea central es sorprendentemente sencilla: si la vista a través de la ventana está demasiado abarrotada para distinguir los caminos, el modelo necesita mirar a través de una ventana ligeramente más grande. Los investigadores propusieron añadir una capa de información oculta, o "latente", al modelo. Esta capa adicional actúa como un espacio de trabajo temporal que eleva el sistema a un espacio de mayor dimensionalidad solo el tiempo suficiente para separar los caminos confusos. Al hacer esto, el modelo puede distinguir entre estados que parecen idénticos en la superficie pero que se mueven en direcciones diferentes. Una vez que el modelo aprende el camino correcto en este espacio expandido, proyecta la respuesta de vuelta a la vista original y simplificada, resolviendo eficazmente la confusión sin necesidad de conocer el estado interno completo y complejo de la máquina.

El equipo demostró matemáticamente que este enfoque es necesario. Demostraron que, sin esta dimensión extra, el error en el aprendizaje de tales sistemas no puede reducirse a cero, sin importar cuántos datos se proporcionen o cuánto tiempo entrene el modelo. El error está bloqueado por la geometría del propio problema. Sin embargo, al introducir estas variables latentes, el modelo puede teóricamente lograr una precisión perfecta, aprendiendo la verdadera dinámica incluso cuando los datos observados son ambiguos. Crucialmente, los investigadores no solo añadieron dimensiones extra al azar; derivaron una regla específica de cuántas son necesarias. Encontraron que el número de dimensiones extra requeridas depende de la complejidad de la confusión en los puntos singulares. Si un punto tiene dos direcciones posibles, una dimensión extra es suficiente para separarlas. Si tiene tres, se necesitan dos dimensiones extra. Esto proporciona una forma clara y fundamentada de diseñar el modelo, equilibrando la necesidad de precisión con el costo de computación.

Para probar su teoría, los investigadores aplicaron este nuevo marco a dos sistemas industriales muy diferentes. El primero fue un motor síncrono de imanes permanentes interiores, un tipo de motor eléctrico utilizado en transmisiones de alto rendimiento. En este sistema, los investigadores redujeron el modelo de tres variables a dos, creando un escenario donde la velocidad del motor estaba oculta, causando que la vista simplificada mostrara un solo punto con dos direcciones de velocidad posibles. El segundo sistema fue una red de energía distribuida, simulando una microrred con paneles solares y baterías. Aquí, la reducción creó un punto con tres direcciones posibles. En ambos casos, los investigadores compararon su nuevo método contra modelos existentes, incluyendo redes neuronales estándar y otros modelos avanzados de ecuaciones diferenciales. Los resultados fueron claros: el nuevo marco superó consistentemente a todos los demás. En el experimento del motor, el nuevo modelo mantuvo sus errores de predicción extremadamente bajos, mientras que los modelos antiguos tuvieron dificultades significativas a medida que el sistema se acercaba a los puntos de confusión. En la prueba del sistema de energía, el nuevo modelo redujo el error promedio en más de la mitad en comparación con el siguiente mejor método, y se mantuvo estable incluso a medida que el sistema evolucionaba con el tiempo.

Los investigadores también investigaron cómo el tamaño de la capa oculta afectaba el rendimiento. Encontraron que aumentar el número de dimensiones extra mejoraba la precisión hasta un punto específico, tras el cual añadir más dimensiones no aportaba ningún beneficio y solo ralentizaba el proceso de entrenamiento. Para el sistema de energía, que requería dos dimensiones extra para resolver su confusión de tres vías, aumentar la dimensión más allá de dos causó en realidad una ligera caída en el rendimiento. Esto confirmó su regla teórica: el modelo necesita solo el espacio extra suficiente para separar los caminos, pero no más. Este hallazgo es vital para la aplicación práctica, ya que asegura que los ingenieros puedan construir modelos eficientes sin desperdiciar recursos computacionales en una complejidad innecesaria.

El estudio concluye que este enfoque ofrece una solución robusta para el modelado de alta precisión de sistemas industriales complejos donde los datos son limitados o simplificados. Al reconocer y abordar matemáticamente las limitaciones geométricas de los modelos de orden reducido, los investigadores han proporcionado una herramienta que puede recuperar características del sistema que antes era imposible capturar con precisión. Si bien el método ha mostrado una gran promesa en estas simulaciones y experimentos específicos, los autores señalan que su capacidad para manejar sistemas de dimensionalidad extremadamente alta o aquellos con una pérdida de información severa aún requiere más exploración. No obstante, el trabajo establece un camino claro hacia la creación de modelos impulsados por datos más fiables que puedan seguir el ritmo de las demandas de la ingeniería moderna, convirtiendo el problema de las singularidades de un callejón sin salida en un rompecabezas soluble.

Resumen Técnico: Aprendizaje de Dinámicas de Orden Reducido con Singularidad mediante Ecuaciones Diferenciales Ordinarias Neuronales con Aumento de Latencia

1. Planteamiento del Problema

En los procesos industriales prácticos, los modelos no lineales de alta dimensión suelen ser computacionalmente intratables para la optimización en tiempo real y el control predictivo basado en modelo. En consecuencia, se emplea la reducción de orden de modelo para derivar modelos sustitutos de baja dimensión. Sin embargo, reducir la dimensionalidad de un sistema a menudo implica proyectar estados de alta dimensión sobre un espacio de observación de menor dimensión. Esta proyección puede resultar en mapeos no inyectivos, donde estados internos distintos corresponden al mismo estado observado.

A nivel de trayectoria, esto se manifiesta como trayectorias autointersecantes en el espacio de fase del sistema de orden reducido. En estos puntos de intersección (singularidades), un único estado de observación está asociado con múltiples vectores de velocidad distintos (direcciones de movimiento). Las Ecuaciones Diferenciales Ordinarias Neuronales (NODEs) estándar y sus variantes (como las CSODE o las ControlSynth NODEs) asumen que el campo vectorial es una función de un solo valor de la variable de estado. Por consiguiente, no pueden representar con precisión sistemas donde un solo estado admite múltiples dinámicas distintas, lo que conduce a errores de entrenamiento inevitables y a una incapacidad para capturar la verdadera evolución del sistema. Aunque las NODEs dependientes del tiempo podrían teóricamente desambiguar estas direcciones, requieren el aprendizaje de mapeos con una precisión temporal extrema, lo cual suele ser computacionalmente intratable e insuficiente para aplicaciones industriales donde las variables latentes no dependen únicamente del tiempo.

2. Metodología: Ecuaciones Diferenciales Ordinarias Neuronales con Aumento de Latencia (LA-NODEs)

Para abordar las limitaciones de las NODEs autónomas en presencia de singularidades, los autores proponen el marco de trabajo de las Ecuaciones Diferenciales Ordinarias Neuronales con Aumento de Latencia (LA-NODEs).

Arquitectura Central

El marco LA-NODE aumenta el espacio de estados observados con variables latentes aprendibles. El sistema se modela como un conjunto acoplado de ecuaciones diferenciales:

Dinámica Primaria: $\dot{y}(t) = \tilde{f}_\theta(y(t), z(t))$ , donde $y(t)$ es el estado observado.
Dinámica Latente: $\dot{z}(t) = g_\phi(y(t), z(t))$ , donde $z(t) \in \mathbb{R}^k$ representa las variables latentes aumentadas.

Al elevar el sistema a un espacio de mayor dimensión ( $\mathbb{R}^{p+k}$ ), el marco asegura que las trayectorias que se intersecan en el espacio de observación reducido permanezcan distintas en el espacio aumentado. Las variables latentes $z(t)$ actúan como un "espacio de trabajo" que resuelve la ambigüedad de la velocidad en los puntos singulares. Durante la inferencia, el estado latente se descarta y solo se utiliza la evolución del estado observado $y(t)$ .

Fundamento Teórico

El artículo establece una conexión formal entre la dimensión de aumento requerida y las propiedades geométricas de las singularidades:

Lema 1: Demuestra que para las NODEs autónomas, la presencia de singularidades (donde un estado mapea a múltiples velocidades) impone un límite inferior estrictamente positivo en el error de entrenamiento. El error no puede reducirse a cero independientemente de la arquitectura de la red porque el modelo debe asignar una única velocidad a un estado que requiere múltiples.
Lema 2: Demuestra que al aumentar el espacio de estados con al menos una dimensión latente ( $k \ge 1$ ), el marco puede lograr un error de entrenamiento de cero. Los estados aumentados permiten distinguir entre estados previamente indistinguibles, restaurando la naturaleza biyectiva del campo vectorial.
Teorema 1 (Contribución Teórica Clave): Deriva una condición para la dimensión de aumento mínima requerida. Sea $\mathcal{V}(y^*)$ el conjunto de vectores de velocidad distintos en una singularidad $y^*$ . El rango de velocidad $r(y^*)$ se define como la dimensión del subespacio generado por estas velocidades. El teorema establece que la dimensión de aumento $k$ debe satisfacer:
$k \ge \max_{y^*} \{r(y^*)\}$
Si $k$ es menor que el rango de velocidad, el modelo no puede representar el conjunto completo de direcciones de velocidad, y el límite inferior de error de entrenamiento del Lema 1 permanece activo.

3. Validación Experimental

La efectividad de las LA-NODEs fue validada en dos modelos industriales representativos que exhiben diferentes propiedades de singularidad:

Caso 1: Accionamiento de Motor Síncrono de Imanes Permanentes de Interiores (IPMSM)

Sistema: Un sistema electromecánico 3D reducido a 2D ( $i_d, i_q$ ) mediante la eliminación de la velocidad angular eléctrica ( $\omega_e$ ).
Singularidad: Una singularidad de "dos trayectorias" donde diferentes valores de $\omega_e$ mapean al mismo estado de corriente pero producen velocidades distintas.
Rango de Velocidad: $r=1$ .
Resultado: Teóricamente, $k=1$ es suficiente. Los experimentos mostraron que la LA-NODE (con $k=1$ ) logró un Error Cuadrático Medio (MSE) significativamente menor en comparación con las líneas base CSODE, ANODE y Transformer. La CSODE falló al capturar la dinámica cerca de la singularidad, exhibiendo grandes desviaciones, mientras que la LA-NODE mantuvo la consistencia a través del espacio de estados.

Caso 2: Sistema de Energía Distribuida (DES)

Sistema: Un sistema dinámico 4D que involucra generación fotovoltaica, almacenamiento de energía y cargas, reducido a 2D (salidas de potencia observadas).
Singularidad: Una singularidad de "tres trayectorias" donde tres estados internos distintos mapean a la misma observación con tres direcciones de velocidad distintas.
Rango de Velocidad: $r=2$ .
Resultado: El Teorema 1 dicta que $k \ge 2$ . Los experimentos confirmaron que un aumento de 2D era necesario. La LA-NODE (con $k=2$ ) superó a todas las líneas base, reduciendo el MAE y el RMSE en aproximadamente un 56% y 59% respectivamente en comparación con el segundo mejor método (ANODE).

Análisis de Sensibilidad

Un análisis de sensibilidad en el sistema DES varió la dimensión de aumento $k$ de 1 a 5.

Desempeño: El aumento de $k$ de 1 a 2 resultó en una reducción masiva del error (contribuyendo con ~97% de la reducción total del error). Aumentos posteriores ( $k > 2$ ) produjeron ganancias marginales y, eventualmente, un ligero aumento en el error de prueba debido a la sobreparametrización y la complejidad de la optimización.
Eficiencia: El tiempo de entrenamiento aumentó linealmente con $k$ . El análisis concluyó que seleccionar la dimensión mínima factible que satisfaga el Teorema 1 ofrece el mejor equilibrio entre la capacidad de representación y el costo computacional.

4. Contribuciones Clave

Identificación de una Limitación Fundamental: El artículo demuestra formalmente que las NODEs autónomas no pueden lograr un error de entrenamiento de cero al aprender sistemas de orden reducido con singularidades debido a la naturaleza multivaluada de la dinámica subyacente en los puntos de intersección.
Marco Propuesto (LA-NODE): Introduce una arquitectura con aumento latente que eleva el sistema a un espacio de mayor dimensión, permitiendo teóricamente un error de entrenamiento de cero al resolver las ambigüedades de velocidad.
Criterio Teórico para la Selección de la Dimensión: Deriva un límite inferior basado en el rango de velocidad para la dimensión de aumento. Esto proporciona una guía para seleccionar el $k$ mínimo requerido para resolver ambigüedades topológicas específicas, equilibrando la expresividad del modelo y la eficiencia.
Validación Industrial: Valida el método en dos sistemas industriales complejos (IPMSM y DES), demostrando una precisión de predicción y fidelidad de modelado superiores en comparación con las líneas base de vanguardia (CSODE, ANODE, Transformer).

5. Significado y Reivindicaciones

El artículo afirma que las LA-NODEs proporcionan un enfoque efectivo para el modelado de alta precisión basado en datos de sistemas industriales complejos donde la reducción de la dimensionalidad introduce singularidades. Al abordar las limitaciones geométricas de las NODEs estándar, el marco recupera características del sistema que son difíciles de capturar utilizando enfoques convencionales.

Los autores enfatizan que su contribución no es meramente una nueva arquitectura, sino una comprensión teórica de por qué el aumento es necesario y cuánto se requiere. Afirman que sin satisfacer la condición del rango de velocidad, el modelo está fundamentalmente limitado en su capacidad para aprender la verdadera dinámica.

Limitaciones y Trabajo Futuro:
El artículo reconoce modestamente que el marco depende de la existencia de un espacio latente de dimensión finita para resolver la ambigüedad. Para sistemas con una pérdida de información severa o dinámicas ocultas altamente complejas, el aumento del estado por sí solo podría ser insuficiente. Además, la validación actual es sobre variedades de baja dimensión, y la escalabilidad hacia espacios de estados de alta dimensión requiere mayor exploración. El trabajo futuro apunta a extender el marco hacia sistemas de alta dimensión y optimizarlo para el control en tiempo real bajo perturbaciones estocásticas.