A guided residual search for nonlinear state-space identification

A continuación presento un resumen técnico detallado del artículo "A guided residual search for nonlinear state-space identification" (Una búsqueda guiada de residuos para la identificación de espacios de estado no lineales), escrito por Merijn Floren y Jan Swevers.

1. Planteamiento del Problema

La identificación de sistemas dinámicos no lineales a partir de datos de entrada-salida experimentales es un desafío significativo debido a la necesidad de realizar simultáneamente la selección de la estructura del modelo y la estimación de parámetros.

• Desafío Principal: La estimación de parámetros en modelos de espacio de estado no lineales (específicamente bajo el marco de Representación Fraccional Lineal No Lineal o NL-LFR) requiere resolver un problema de optimización altamente no convexo. Esto conduce a:
  • Convergencia lenta.
  • Atrape en mínimos locales subóptimos.
  • Sensibilidad extrema a la inicialización.
• Limitaciones de Métodos Existentes:
  • La inicialización basada en modelos lineales deja los parámetros de la no linealidad residual al azar, lo que a menudo resulta en soluciones pobres.
  • Los métodos que estiman trayectorias de estado latente (como el uso de codificadores profundos) son computacionalmente costosos o requieren conocimiento previo de las ecuaciones físicas o datos periódicos.
  • Existe un problema de desplazamiento de distribución (distribution shift): los modelos entrenados para predecir un paso adelante pueden divergir exponencialmente cuando se utilizan para simulación recursiva a largo plazo debido a la acumulación de errores.

2. Metodología Propuesta

Los autores proponen una estrategia de identificación secuencial en tres etapas diseñada para descomponer el problema global no convexo en subproblemas tratables, mejorando la inicialización y la convergencia.

A. Estructura del Modelo (NL-LFR)

El sistema se modela como una interconexión de retroalimentación entre un sistema lineal invariante en el tiempo (LTI) y una no linealidad estática (una red neuronal feedforward).

• Ecuaciones: El estado $x$ evoluciona linealmente, pero recibe una entrada de retroalimentación $w$ de la no linealidad $f_{NN}$, la cual depende del estado $z$ (una combinación lineal de $x$ y la entrada $u$).

B. Etapa 1: Búsqueda Guiada de Residuos (Guided Residual Search)

Esta es una estrategia de optimización de dos niveles (bilevel) para inferir las variables latentes ($w$ y $x$) y estimar las matrices de acoplamiento ($B_w, D_{yw}$) sin entrenar aún la red neuronal completa.

1. Problema Interno: Dadas las matrices actuales, se estima la secuencia de residuos no lineales $w$ y el estado $x$ resolviendo un problema de optimización local en una ventana deslizante. Esto trata las muestras como independientes para evitar la acumulación de errores durante esta fase.
2. Problema Externo: Se actualizan las matrices $B_w$ y $D_{yw}$ para minimizar el error entre las salidas simuladas y los datos medidos, utilizando los residuos inferidos en el paso anterior.

• Resultado: Se obtiene un conjunto de datos inferidos $\mathcal{D}^*$ que contiene estimaciones de $w$, $x$ y $y$, sirviendo como una inicialización informada.

C. Etapa 2: Aprendizaje Paramétrico del Residuo No Lineal

Utilizando el conjunto de datos inferido $\mathcal{D}^*$, se entrena la red neuronal $f_{NN}$ junto con las matrices $C_z$ y $D_{zu}$.

• Se minimiza el error cuadrático entre el $w$ inferido y la salida de la red neuronal.
• Al tratar las muestras como independientes e idénticamente distribuidas (i.i.d.), este paso es computacionalmente eficiente y paralelizable.

D. Etapa 3: Optimización Final con Disparación Múltiple (Multiple Shooting)

Esta etapa refina todos los parámetros del modelo (LTI + Red Neuronal) y las trayectorias de estado simultáneamente.

• Mitigación del Desplazamiento de Distribución: Se utiliza la técnica de disparación múltiple. El horizonte de simulación se divide en intervalos cortos donde los estados iniciales de cada intervalo se tratan como variables de decisión.
• Ventaja: Esto suaviza el paisaje de la función de pérdida, limita la acumulación de errores exponenciales (teorema de Lipschitz) y permite escapar de regiones no contractivas, utilizando las estimaciones de las etapas anteriores como inicialización.

3. Contribuciones Clave

1. Búsqueda Guiada de Residuos: Un método novedoso para estimar dinámicas residuales no lineales sin requerir conocimiento previo de las ecuaciones físicas ni datos periódicos, superando limitaciones de trabajos anteriores.
2. Análisis Teórico y Experimental del Desplazamiento de Distribución: Los autores formalizan teóricamente (Teorema 1) cómo los errores de predicción de un paso crecen exponencialmente en simulaciones recursivas debido a la constante de Lipschitz de las redes neuronales ($L > 1$). Demuestran experimentalmente que el entrenamiento de la red neuronal puede mejorar el error de un paso pero degradar la estabilidad de la simulación a largo plazo.
3. Estrategia de Mitigación: Propone el uso de disparación múltiple en la fase final no solo para optimización, sino específicamente para contrarrestar el efecto del desplazamiento de distribución introducido por la etapa de entrenamiento de la red neuronal.
4. Iniciación Robusta: El método proporciona una inicialización que coloca al optimizador en una región de atracción favorable, evitando mínimos locales donde fallan las inicializaciones puramente lineales.

4. Resultados Experimentales

El método se validó en dos benchmarks experimentales:

• Sistema Silverbox (Mass-Spring-Damper con no linealidad cúbica):

  • Comparado con métodos de caja negra de última generación (SUBNET, PNLSS).
  • La combinación de búsqueda guiada y disparación múltiple (Escenario S1) logró un error cuadrático medio normalizado (NRMSE) significativamente menor que la inicialización lineal sola.
  • Superó a los métodos de caja negra en la mayoría de las métricas, mostrando una convergencia rápida y consistente.

• Prueba de Vibración en Suelo de un F-16:

  • Sistema más complejo con una entrada y tres salidas.
  • Evidencia del Desplazamiento de Distribución: Se observó que, aunque la pérdida de entrenamiento de la red neuronal disminuía, el error de simulación del modelo completo aumentaba rápidamente (volatilidad), confirmando el Teorema 1.
  • Convergencia: A pesar de que el modelo inicial tras el entrenamiento de la red tenía un error de simulación alto, la optimización con disparación múltiple logró converger rápidamente a una solución superior. En contraste, la inicialización puramente lineal quedó atrapada en un mínimo local y no mejoró.
  • El modelo final NL-LFR superó al modelo de aproximación lineal mejor (BLA) en todos los canales de salida.

5. Significado e Impacto

Este trabajo representa un avance significativo en la identificación de sistemas no lineales para control y modelado:

• Eficiencia y Fiabilidad: Descompone un problema intrínsecamente difícil en pasos manejables, reduciendo la dependencia de una inicialización adivinada y mejorando la fiabilidad de la convergencia.
• Puente entre Teoría y Práctica: Aborda explícitamente la brecha entre el entrenamiento de modelos de un paso (común en aprendizaje automático) y la simulación recursiva (necesaria en control), ofreciendo una solución práctica mediante la disparación múltiple.
• Aplicabilidad General: Al no requerir ecuaciones físicas conocidas ni datos periódicos, el método es aplicable a una gama más amplia de sistemas industriales complejos que los enfoques anteriores.

En resumen, el artículo propone un marco robusto que combina la inferencia de variables latentes guiada por residuos con técnicas de optimización avanzada (disparación múltiple) para lograr modelos de espacio de estado no lineales de alta precisión y buena capacidad de generalización.