Resumen Técnico: Deep ZakaiJ

Enunciado del Problema

Los datos de series temporales en dominios como las finanzas y la oceanografía exhiben con frecuencia discontinuidades de salto abruptas impulsadas por estados latentes no observados (por ejemplo, choques macroeconómicos o regímenes de tormentas). Predecir estas trayectorias es un desafío porque el momento y la magnitud de los saltos no pueden inferirse únicamente a partir del historial observado.

Los enfoques existentes enfrentan limitaciones significativas:

• Modelos Clásicos de Difusión con Saltos: Aunque están fundamentados matemáticamente (por ejemplo, los modelos de Merton), dependen de supuestos paramétricos rígidos y tienen dificultades para capturar estructuras latentes complejas y no lineales.
• Modelos Neuronales de Saltos: Los enfoques recientes de aprendizaje profundo (por ejemplo, EDEs de Salto Neuronal) a menudo operan sobre trayectorias completamente observadas, fallando en inferir los estados ocultos que gobiernan la dinámica.
• Modelos de Estado Latente: Métodos como las EDOs Latentes o las EDEs Neuronales tratan los estados latentes como representaciones implícitas aprendidas mediante inferencia variacional amortizada. Carecen de un mecanismo de actualización bayesiana principista para manejar los tiempos de parada totalmente inaccesibles característicos de los procesos de salto.
• Extensiones del Filtro de Kalman: Modelos como CRU y NCDSSM incorporan el filtrado de Kalman en arquitecturas profundas, pero se restringen a dinámicas lineales-gaussianas, las cuales no pueden modelar las no linealidades inherentes a los sistemas de difusión con saltos.

Existe la necesidad de un marco que realice filtrado no lineal sobre regímenes latentes en sistemas de difusión con saltos parcialmente observados, manteniéndose diferenciable y entrenable.

Metodología: Deep ZakaiJ

Los autores proponen Deep ZakaiJ, un modelo de estado latente que integra la ecuación de filtrado no lineal de Zakai en una arquitectura neuronal codificador-decodificador. El marco está diseñado para sistemas parcialmente observados donde un proceso observado $X_t$ es impulsado por un estado latente no observado $\Theta_t$.

1. Fundamento Teórico

El modelo se basa en la ecuación de Zakai, que describe la evolución de la ley condicional no normalizada (filtro) del estado latente dadas las observaciones. Mediante un cambio de medida hacia una medida de referencia $Q$ donde el proceso de observación es sin deriva, los autores derivan una forma débil de la ecuación de Zakai (Ecuación 3) que evoluciona la densidad no normalizada $q_t(\phi)$.

2. El Codificador Zakai

La innovación central es una discretización por división de Strang de la ecuación de Zakai, que descompone la actualización de la creencia en tres subpasos interpretables y diferenciables:

• Paso A (Propagación del Prior): Propaga el prior latente utilizando un propagador numérico (núcleo de transición de Markov) derivado del generador latente. Se añade una corrección residual aprendida $R^A_\psi$ para tener en cuenta la discrepancia del modelo y el sesgo numérico.
• Medio-paso B (Innovación de Difusión): Actualiza la creencia basándose en el componente continuo de la observación. Realiza un reponderamiento bayesiano utilizando una aproximación gaussiana local del incremento continuo.
• Medio-paso C (Innovación de Salto): Actualiza la creencia basándose en el componente de salto. Emplea una aproximación de "como máximo un salto" válida para intervalos de tiempo pequeños, reponderando la posterior contra una mezcla de hipótesis de "sin salto" y "salto ocurrido". Esto permite que el filtro reaccione agudamente a grandes dislocaciones.

El codificador actualiza recursivamente la posterior no normalizada $q_k$ sobre una cuadrícula latente fija, extrayendo una característica de creencia de baja dimensión $\beta_k$ para la predicción. Los autores demuestran que este codificador discreto alcanza una precisión global de primer orden en relación con la evolución exacta de Zakai.

3. Decodificador de Difusión con Saltos Estructurado

El decodificador es un modelo estructurado que parametriza la distribución condicional de los incrementos futuros dada la observación actual, la creencia filtrada $\beta_k$ y un estado latente candidato $\theta$.

• Desenreda explícitamente las dinámicas continuas (deriva $\mu$, volatilidad $\sigma$) de los choques discontinuos (intensidad de salto $\lambda$, mapa de tamaño de salto $\gamma$).
• Las redes neuronales condicionan estos coeficientes sobre la observación y la característica de creencia.
• Aproximación de Salto Pequeño: Para manejar saltos de actividad infinita dentro de una arquitectura discreta, el decodificador absorbe los micro-saltos (magnitud $<\epsilon$) en coeficientes continuos efectivos, tratando explícitamente solo los saltos macroscópicos en el paso de filtrado.

4. Entrenamiento Conjunto

El modelo se entrena de extremo a extremo maximizando un objetivo paso a paso que combina:

1. Verosimilitud de Predicción: El log-verosimilitud de los incrementos futuros bajo la ley de difusión con saltos aprendida.
2. Regularización de Filtrado: Un término de divergencia KL que alienta a la posterior filtrada a mantenerse cerca del prior (evitando el colapso).

Los gradientes se retropropagan a través de las operaciones de división de Strang y los pasos de normalización.

Contribuciones Clave

1. Codificador Zakai: Una discretización de la ecuación de Zakai mediante división de Strang en tres pasos interpretables (prior, innovación de difusión, innovación de salto). Proporciona una aproximación diferenciable y de precisión de primer orden de la evolución exacta de filtrado para sistemas de difusión con saltos parcialmente observados.
2. Decodificador Estructurado: Un modelo de difusión con saltos condicionado explícitamente a la creencia latente filtrada, preservando la separación entre dinámicas continuas y discontinuas y aprendiendo un compensador predecible.
3. Validación Empírica: Mejoras demostradas en la calidad de las predicciones distribucionales (calibración y nitidez) en conjuntos de datos sintéticos, financieros y oceanográficos, manteniendo al mismo tiempo una precisión puntual competitiva.

Resultados Experimentales

Los autores evaluaron Deep ZakaiJ en:

• Datos Sintéticos: Un proceso de difusión con saltos parcialmente observado con verdad fundamental conocida.
• Datos Financieros: Precios de cierre de 10 minutos de XAU/USD (Oro vs. Dólar estadounidense).
• Datos Oceanográficos: Observaciones de altura de ola (WVHT) de NOAA/NDBC.

Rendimiento:

• Calidad Distribucional: Deep ZakaiJ superó consistentemente a las líneas base (incluidas EDEs Latentes, EDEs de Salto Neuronal y modelos fundacionales como Chronos) en términos de CRPS (Puntuación de Probabilidad Rango Continuo) y Log-Verosimilitud.
• Calibración: El modelo logró intervalos predictivos bien calibrados, con una cobertura del 90% (Cov90) cercana al nivel nominal (por ejemplo, 89.0% en sintéticos, 92.9% en XAU/USD, 85.3% en NDBC). En contraste, muchas líneas base mostraron una cobertura significativamente inferior o superior.
• Precisión Puntual: El modelo se mantuvo competitivo en MAE y RMSE, a menudo igualando o mejorando ligeramente a los predictores puntuales más avanzados.
• Recuperación Latente: En estudios de caso sintéticos y cualitativos, el filtro inferido rastreó con éxito los cambios de estado latente y reaccionó a cambios de régimen (por ejemplo, reversiones de tendencia en los precios del oro), demostrando la extracción de una estructura latente interpretable.

Significado y Afirmaciones

El artículo afirma que Deep ZakaiJ cierra la brecha entre el filtrado estocástico principista y el aprendizaje profundo moderno. Al integrar la ecuación de Zakai directamente en una arquitectura neuronal, el modelo:

• Habilita la inferencia estructurada para sistemas parcialmente observados con saltos, una capacidad ausente en los actuales modelos neuronales de saltos.
• Proporciona representaciones latentes interpretables que separan las dinámicas continuas de los choques discretos.
• Ofrece una cuantificación superior de la incertidumbre, produciendo intervalos predictivos calibrados incluso bajo cambios estructurales donde otros modelos fallan.

Los autores posicionan este trabajo como un paso hacia una predicción de series temporales más robusta en entornos caracterizados por regímenes latentes y discontinuidades abruptas, como la gestión de riesgos financieros y los sistemas de alerta temprana ambiental. Reconocen limitaciones, señalando que la formulación actual es univariada y depende de una cuadrícula latente fija, sugiriendo trabajo futuro en representaciones de alta dimensión y adaptativas.