Nonlinear filtering based on density approximation and deep BSDE prediction

Aquí presento un resumen técnico detallado del artículo "Nonlinear Filtering Based on Density Approximation and Deep BSDE Prediction" (Filtrado No Lineal Basado en Aproximación de Densidad y Predicción de EDP Estocástica Inversa Profunda), escrito por Kasper Bååmark, Adam Andersson y Stig Larsson.

---

1. Planteamiento del Problema

El artículo aborda el problema de filtrado bayesiano en sistemas híbridos que combinan una dinámica de estado en tiempo continuo con observaciones en tiempo discreto.

• Sistema de Estado: El estado latente $S_t$ evoluciona según una Ecuación Diferencial Estocástica (SDE):
  $$dS_t = \mu(S_t)dt + \sigma(S_t)dB_t$$
  donde $B_t$ es un movimiento browniano.
• Observaciones: Se realizan mediciones discretas $O_k$ en tiempos $t_k$:
  $$O_k = h(S_{t_k}) + V_k$$
  donde $V_k$ es ruido aditivo independiente.
• Objetivo: Calcular la distribución condicional (densidad de probabilidad) del estado latente $S_{t_k}$ dado el historial de observaciones $O_{1:k}$.

Desafíos Actuales:

• Los métodos clásicos (como el Filtro de Kalman) son efectivos solo en sistemas lineales o gaussianos.
• En regímenes no lineales y no gaussianos, los métodos existentes fallan:
  • Los filtros extendidos (EKF) introducen sesgos.
  • Los filtros de partículas sufren de la maldición de la dimensionalidad, requiriendo un número exponencial de partículas a medida que aumenta la dimensión del estado.
• Las aproximaciones basadas en EDP (Ecuación de Fokker-Planck) son computacionalmente inviables en altas dimensiones debido a la discretización de la malla.

2. Metodología Propuesta

Los autores proponen un filtro bayesiano aproximado recursivo que combina la representación de Feynman-Kac no lineal con el método de Ecuaciones Diferenciales Estocásticas Inversas (BSDE) profundas (Deep BSDE).

A. Formulación Recursiva

El problema se descompone en pasos de predicción y actualización:

1. Predicción: Se modela mediante la ecuación de Fokker-Planck (una EDP parabólica).
2. Actualización: Se realiza mediante la fórmula de Bayes en el momento de la observación.

B. Conexión con BSDEs

En lugar de resolver la EDP de Fokker-Planck directamente (difícil en altas dimensiones), los autores utilizan una representación probabilística no lineal de Feynman-Kac.

• Transforman la ecuación de predicción en un sistema de Ecuaciones Diferenciales Estocásticas Inversas (BSDE).
• Introducen un término de deriva auxiliar $b$ para simplificar el generador de la BSDE, permitiendo que los términos dependientes del gradiente se cancelen o simplifiquen, reduciendo la complejidad de la función de pérdida.

C. Aproximación mediante Redes Neuronales (Deep BSDE)

El paso de predicción se resuelve numéricamente utilizando el método Deep BSDE:

• Se reformula la solución de la BSDE como un problema de optimización.
• Se utilizan redes neuronales profundas para aproximar la solución $u(t, x)$ y su gradiente $\nabla u(t, x)$ (que corresponde a la densidad y su gradiente).
• Entrenamiento Offline, Ejecución Online: El modelo se entrena una vez (offline) utilizando muestras generadas del sistema. Una vez entrenado, puede aplicarse en tiempo real (online) con nuevas observaciones sin necesidad de reentrenar.

D. Esquema Algorítmico

1. Inicialización: Se define la densidad inicial $\pi_0$.
2. Ciclo Recursivo ($k = 0, \dots, K-1$):
   • Predicción: Resolver la BSDE asociada al intervalo $[t_k, t_{k+1}]$ usando Deep BSDE para obtener la densidad predicha.
   • Actualización: Multiplicar la densidad predicha por la función de verosimilitud $L(O_{k+1}, x)$ (fórmula de Bayes) para obtener la densidad a posteriori.
   • Esta densidad a posteriori se convierte en la condición inicial para el siguiente paso de predicción.

3. Contribuciones Clave

1. Nuevo Esquema de Filtro: Propuesta de un filtro recursivo basado en densidad que utiliza el método Deep BSDE secuencialmente, incorporando las observaciones como entrada en el entrenamiento de las redes neuronales.
2. Análisis de Error Teórico: Demostración de un límite de error híbrido (a priori y a posteriori) bajo una condición de H"ormander parabólica.
   • El límite muestra que el error total depende de la discretización temporal ($\tau^{1/2}$) y del error residual de la optimización (término a posteriori).
   • Extiende los resultados de convergencia de trabajos anteriores a un sistema de ecuaciones forward-backward desacopladas en secuencia.
3. Validación Numérica: Confirmación empírica de la tasa de convergencia teórica en ejemplos numéricos.

4. Resultados Numéricos

Los autores realizaron experimentos en dos casos de estudio unidimensionales para verificar la convergencia teórica:

• Proceso de Ornstein-Uhlenbeck (Lineal):
  • Se compara con la solución exacta del Filtro de Kalman.
  • Resultado: Se observa una convergencia de orden $1/2$ en la discretización temporal, coincidiendo con la cota teórica. El error se mantiene estable en el tiempo para discretizaciones finas.
• Proceso Bistable (No Lineal):
  • Drift no lineal ($\mu(x) \propto 5x - x^3$) que genera una distribución bimodal. No existe solución cerrada; se usa un filtro de partículas como referencia.
  • Resultado: Aunque las condiciones teóricas estrictas no se cumplen totalmente (debido al drift cúbico), el método muestra una convergencia de orden $1/2$ hasta que el error se satura debido a limitaciones prácticas (tamaño de la red, muestreo Monte Carlo, optimización).
  • Se confirma que el error total está dominado por el término de discretización y el residuo de la función de pérdida.

Nota sobre Escalabilidad: Aunque los experimentos de convergencia se limitaron a 1D para análisis teórico, el artículo menciona un estudio complementario [4] donde el método se aplicó exitosamente a un ejemplo no lineal de 100 dimensiones, demostrando su capacidad para mitigar la maldición de la dimensionalidad.

5. Significado e Impacto

• Superación de la Maldición de la Dimensionalidad: Este enfoque ofrece una alternativa viable a los filtros de partículas en espacios de alta dimensión, donde los métodos basados en mallas fallan y los métodos basados en partículas degeneran.
• Fundamento Teórico Sólido: A diferencia de muchas aplicaciones de "Deep Learning" en física que son puramente empíricas, este trabajo proporciona una garantía matemática de convergencia y un análisis de error riguroso.
• Aplicabilidad General: El método es aplicable a sistemas no lineales y no gaussianos complejos, con potencial en campos como:
  • Seguimiento de objetivos y localización de robots.
  • Estimación de volatilidad en finanzas.
  • Asimilación de datos en geociencias.
  • Epidemiología y decodificación neuronal.

En resumen, el artículo presenta un marco teórico y práctico robusto que integra el aprendizaje profundo con la teoría estocástica clásica para resolver problemas de filtrado no lineal en dimensiones que antes eran computacionalmente intratables.