A convergent scheme for the Bayesian filtering problem based on the Fokker--Planck equation and deep splitting

1. El Problema

El artículo aborda el problema de filtrado no lineal en un contexto de alta dimensión. El objetivo es estimar la densidad de probabilidad de un estado oculto $S_t$ dado un conjunto de observaciones ruidosas y parciales $y_{0:k}$ hasta el tiempo $k$.

• Modelo: Se considera un proceso de estado continuo en el tiempo que sigue una Ecuación Diferencial Estocástica (SDE) con deriva $\mu$ y difusión $\sigma$, y observaciones discretas en el tiempo.
• Desafío Principal: Los métodos clásicos (como el filtro de Kalman) asumen unimodalidad (distribuciones gaussianas), lo cual es insuficiente para sistemas no lineales. Los métodos de Monte Carlo Secuencial (Filtros de Partículas) son efectivos pero sufren de la maldición de la dimensionalidad, volviéndose computacionalmente inviables cuando la dimensión del estado $d$ es alta (ej. $d \geq 4$ o en aplicaciones como meteorología con $d \sim 10^7$).
• Objetivo: Desarrollar un método que aproxime la densidad de filtrado completa (no solo la media y covarianza) en espacios de alta dimensión, garantizando la convergencia teórica y la eficiencia computacional.

2. Metodología

Los autores proponen un algoritmo híbrido que combina la teoría de ecuaciones diferenciales parciales (EDP) con el aprendizaje profundo. El esquema sigue una estructura clásica de predicción-actualización:

A. Formulación Matemática

• Predicción: Entre observaciones, la densidad de probabilidad evoluciona según la Ecuación de Fokker-Planck (la ecuación adjunta al generador infinitesimal del proceso de difusión).
• Actualización: En los instantes de observación, la densidad se actualiza mediante la fórmula de Bayes (multiplicando por la verosimilitud de la medición).
• Representación de Feynman-Kac: En lugar de resolver la EDP directamente en una malla (imposible en alta dimensión), se utiliza una representación estocástica. La solución de la EDP se expresa como una esperanza condicional sobre trayectorias de un proceso auxiliar $X$.

B. El Esquema de "Deep Splitting" (División Profunda)

El núcleo del método es una aproximación numérica de la ecuación de Fokker-Planck mediante un esquema de división temporal y redes neuronales:

1. Discretización Temporal: El tiempo entre observaciones se divide en $N$ pasos finos.
2. Aproximación de Euler-Maruyama: Se utiliza una aproximación numérica del proceso estocástico subyacente.
3. Optimización Recursiva: En lugar de calcular la esperanza explícitamente, el método formula un problema de minimización recursiva. En cada paso de tiempo, se busca una función (aproximada por una red neuronal) que minimice el error cuadrático esperado entre la función actual y la evolución del paso anterior.
   • La función objetivo es: $\arg \min_u \mathbb{E}[|u(Z) - G_b \hat{\pi}(Z)|^2]$, donde $G_b$ es un operador diferencial de primer orden.
4. Redes Neuronales y Activación Energética:
   • Se utilizan Redes Neuronales Fully Connected (FCNN) para aproximar la función de densidad.
   • Se emplea una activación basada en energía (exponencial negativa, $e^{-f_\theta}$) para garantizar que la densidad aproximada sea siempre positiva y para evitar la necesidad de calcular la constante de normalización durante el entrenamiento (se normaliza solo en la fase de inferencia).
5. Entrenamiento Online: Una vez entrenada la red para un conjunto de distribuciones de observaciones, el algoritmo puede realizar inferencia en tiempo real para nuevas secuencias de observaciones sin necesidad de reentrenar.

3. Contribuciones Clave

1. Nuevo Esquema Convergente: Introducción de un método de filtrado basado en Deep Splitting adaptado a observaciones discretas, uniendo la predicción mediante EDP y la actualización bayesiana.
2. Análisis de Convergencia Riguroso:
   • Se demuestra una tasa de convergencia fuerte de orden 1 en el tiempo ($O(\tau)$), bajo una condición de Hörmander parabólica (que garantiza la regularidad de la densidad) y suponiendo coeficientes acotados y suaves.
   • La tasa de convergencia es independiente de la distribución de los datos de observación.
   • Como corolario, se establece la convergencia para la aproximación de la Ecuación de Fokker-Planck por sí sola, desconectada del problema de filtrado.
3. Mitigación de la Maldición de la Dimensionalidad: El método utiliza un enfoque basado en muestreo (Feynman-Kac) y redes neuronales, lo que permite manejar dimensiones mucho más altas que los métodos de diferencias finitas o elementos finitos tradicionales.
4. Validación Empírica: Demostración del método en un ejemplo no lineal de 10 dimensiones, superando las limitaciones de los métodos clásicos en este rango.

4. Resultados

• Estudios de Convergencia (1D):
  • En un proceso "tanh" (que cumple las suposiciones teóricas), el error disminuye con un orden de convergencia cercano a 1 respecto al número de pasos temporales.
  • En un proceso bistable (que no cumple todas las suposiciones de suavidad), la convergencia es de orden 1/2, lo que sugiere que las condiciones teóricas son críticas para la tasa óptima.
• Ejemplo de Alta Dimensión (10D):
  • Se comparó el método propuesto (EBDS) con un Filtro de Kalman de Conjunto (EnKF) y un Filtro de Partículas (PF).
  • Precisión: El método propuesto mostró una mayor precisión en la métrica de Negativa Log-Verosimilitud (NLL) que en el Error Absoluto Medio (MAE), indicando que captura mejor la forma global de la densidad de filtrado que solo su media.
  • Eficiencia: Para superar al método propuesto en la métrica NLL, el Filtro de Partículas requirió del orden de $10^6$ partículas, mientras que el método de Deep Splitting logró resultados comparables con una configuración de red neuronal mucho más eficiente computacionalmente para la tarea de densidad completa.
  • Los métodos basados en Kalman (EnKF) funcionaron bien debido a la cuasi-linealidad del problema, pero el método propuesto demostró robustez en un entorno no lineal.

5. Significado e Impacto

Este trabajo es significativo porque:

• Cierra la brecha teórica: Proporciona una prueba de convergencia rigurosa para métodos de aprendizaje profundo aplicados a ecuaciones de filtrado estocástico, un área donde a menudo falta fundamentación matemática sólida.
• Viabilidad en Alta Dimensión: Ofrece una solución práctica para problemas de filtrado en dimensiones medias-altas (10-20+), donde los métodos de partículas fallan y los métodos basados en mallas son imposibles.
• Aplicabilidad Industrial: Al ser un algoritmo "online" (una vez entrenado, es rápido para nuevas observaciones), es adecuado para aplicaciones en tiempo real como seguimiento de objetivos, finanzas cuantitativas y pronóstico del tiempo.
• Flexibilidad: El enfoque de densidad no normalizada permite una mayor flexibilidad en la formulación y evita problemas numéricos asociados con la normalización directa en etapas tempranas.

En resumen, el artículo presenta un marco teórico y numérico robusto que utiliza el aprendizaje profundo para resolver ecuaciones de evolución de densidades estocásticas, logrando una convergencia garantizada y una escalabilidad superior a los métodos tradicionales de filtrado bayesiano.