Resumen Técnico: De Saltos a Firmas: un Método Generativo para Procesos de Puntos Temporales

Planteamiento del Problema

Los Procesos de Puntos Temporales (TPP, por sus siglas en inglés) modelan eventos discretos que ocurren en tiempo continuo, lo cual es fundamental para aplicaciones en finanzas, sismología y salud. Aunque los TPP Neuronales (NTPP) han avanzado en el campo utilizando redes neuronales expresivas, enfrentan dos limitaciones primordiales:

1. Objetivos de Entrenamiento: Los métodos predominantes optimizan pérdidas locales por evento (por ejemplo, la maximización de la log-verosimilitud). Estas se descomponen en sumas de pérdidas condicionales, lo que impide proporcionar una señal global para propiedades estructurales como la autocorrelación, las dependencias de largo alcance y las distribuciones de tiempos conjuntos.
2. Métricas de Evaluación: La evaluación estándar se basa en la Log-Verosimilitud Negativa (NLL) o métricas puntuales (por ejemplo, el Error Absoluto Medio). Estas son insensibles a la estructura global de la secuencia, pueden ocultar el colapso de modo y a menudo favorecen predicciones subdispersas. Además, las medidas de discrepancia de distribución existentes (como MMD o las distancias de Wasserstein) carecen de justificación teórica en el espacio de trayectorias de conteo (funciones escalonadas càdlàg).

Existe una brecha teórica significativa: las firmas de caminos rugosos (rough path signatures), que ofrecen mapas de características universales y garantías de determinismo para caminos continuos de variación acotada, no pueden aplicarse directamente a los TPP porque las trayectorias de muestra de los TPP son discontinuas (càdlàg), violando los supuestos de continuidad requeridos para el modelado generativo basado en firmas.

Metodología: SIGTPP

El artículo propone SIGTPP, un marco generativo basado en firmas que cierra la brecha entre secuencias de eventos discretos y la teoría de caminos continuos. La metodología consta de cuatro componentes principales:

1. El Embedding de Interarribo ($\Phi$)

Para aplicar métodos de firmas a saltos discretos, los autores introducen un levantamiento (lift) estable e inyectivo desde el espacio de caminos de conteo ($\mathcal{N}$) al espacio de caminos continuos de variación acotada ($\mathcal{C}$).

• Mecanismo: Para un camino de conteo $\eta$ con tiempos de evento $t_k$, el embedding construye una función continua lineal por tramos $x = \Phi(\eta)$. El valor de la función en cada tiempo de evento $t_k$ se establece como el tiempo de interarribo $\tau_k = t_k - t_{k-1}$.
• Aumentación Temporal: La firma se calcula sobre la curva aumentada en el tiempo $t \mapsto (t, \Phi(\eta)_t)$ en $\mathbb{R}^2$. Esto codifica tanto los tiempos absolos de los eventos como las duraciones de interarribo, eliminando componentes de tipo árbol para asegurar que la firma sea inyectiva.
• Garantía Teórica: El artículo demuestra que $\Phi$ es Lipschitz continua e inyectiva. Bajo supuestos de separación suaves (tiempo mínimo de interarribo $\delta > 0$), el mapa inverso es Hölder continuo, asegurando que las discrepancias en el espacio embebido reflejen discrepancias genuinas en el espacio original de caminos de conteo.

2. Pérdida de Firma Global

En lugar de optimizar densidades condicionales por evento, SIGTPP optimiza una pérdida global sobre trayectorias completas.

• Función de Pérdida: El modelo minimiza la distancia Signature-Wasserstein-1 (Sig-W1) entre las firmas truncadas esperadas de los caminos generados y los caminos de datos observados.
• Optimización: La pérdida se define como la distancia $\ell_2$ entre las firmas truncadas esperadas:
  $$\text{Sig-W}^{(M)}_1(\mu_\theta, \nu) := \left\| \mathbb{E}_{N_\theta \sim \mu_\theta} [S_M(\Phi(N_\theta))] - \mathbb{E}_{N \sim \nu} [S_M(\Phi(N))] \right\|_2^2$$
  Esto reemplaza al discriminador adversarial de las GANs por una métrica directa sobre el álgebra tensorial, evitando la inestabilidad del entrenamiento.

3. Métricas de Evaluación

Los autores derivan tres discrepancias de distribución teóricamente fundamentadas para evaluar los TPP generativos, todas basadas en la métrica de camino $d_N(\eta, \xi) = \int_0^{T_{max}} |\eta_t - \xi_t| dt$:

• Distancia de Energía (E): Una métrica inducida por la propiedad de tipo negativo del espacio $L_1$.
• Distancia de Wasserstein-1 (W1): Eleva la métrica de camino a una métrica de distribución.
• Signature-Wasserstein-1 (Sig-W1): Utiliza las firmas esperadas como medida de discrepancia, válida debido a la inyectividad de $\Phi$.

4. Arquitectura del Modelo

SIGTPP se implementa como un generador autorregresivo de un solo paso utilizando una LSTM de una sola capa. Predice los tiempos de log-interarribo condicionados al estado de la historia, al tiempo acumulado actual y al ruido exógeno.

Contribuciones Clave

1. Embedding de Interarribo: Un mapeo novedoso, estable e inyectivo que permite la aplicación de métodos basados en firmas a secuencias de eventos discretos (caminos càdlàg).
2. Modelo SIGTPP: El primer modelo generativo basado en firmas para TPP, entrenado mediante una pérdida global a nivel de camino en lugar de pérdidas condicionales locales.
3. Marco Teórico: Pruebas que establecen la continuidad Lipschitz y la biyectividad del embedding, así como la derivación de discrepancias de distribución matemáticamente válidas (E, W1, Sig-W1) en el espacio de caminos de conteo.
4. Análisis de Evaluación: Una demostración de que las métricas puntuales (MAE/MSE) fallan al evaluar la calidad generativa, favoreciendo a menudo a regresores deterministas que ignoran la variación de la distribución.

Resultados Experimentales

El modelo fue evaluado en 4 conjuntos de datos sintéticos (Poisson, Poisson Inhomogéneo, Hawkes Univariante, Hawkes Multivariante) y 5 conjuntos de datos del mundo real (Terremotos, Stack Overflow, Taobao, Taxi, Yelp).

• Desempeño: SIGTPP logró el mejor rango promedio en 8 métricas complementarias. Superó o igualó a los baselines más fuertes (VAE, DDPM, WGAN) en el 64% de los pares conjunto de datos-métrica.
• Mejora Relativa: Según una métrica de puntuación relativa, SIGTPP mejoró respecto a cada baseline en al menos un 19% en promedio.
• Fidelidad de la Distribución: SIGTPP superó significativamente a los baselines en las métricas de distribución a nivel de camino (E, W1, Sig-W1), mostrando una alineación superior con la ley temporal conjunta.
• Compromisos (Trade-offs): SIGTPP destacó en la estructura global, pero tuvo un desempeño ligeramente inferior en el Continuous Ranked Probability Score (CRPS) en comparación con los modelos de difusión (DDPM) y los VAE. Los autores atribuyen esto al hecho de que los objetivos a nivel de camino priorizan la alineación distributiva global sobre la calibración condicional local.
• Métricas Puntuales: El baseline determinista (DETER) logró los mejores puntajes de MAE/MSE, confirmando que los errores puntuales no miden la calidad generativa ni la fidelidad de la distribución.

Significancia y Reivindicaciones

El artículo afirma proporcionar un "marco común de caminos" que unifica la generación y la evaluación de los TPP. Su principal significancia radica en:

• Extender las Firmas a Eventos Discretos: Adaptar con éxito la teoría de caminos rugosos a procesos càdlàg mediante el embedding de interarribo.
• Global vs. Local: Demostrar que la optimización de una pérdida de firma global produce una mejor fidelidad estructural (autocorrelación, dependencias de largo alcance) que la tradicional maximización de la verosimilitud por evento.
• Rigor en la Evaluación: Establecer que las métricas puntuales estándar son insuficientes para los TPP generativos y proporcionar un conjunto de discrepancias de distribución teóricamente justificadas (E, W1, Sig-W1) como el estándar de evaluación.

Los autores reconocen limitaciones, incluyendo el costo computacional de las firmas de alto grado, la naturaleza artificial del levantamiento de interpolación lineal y el carácter preliminar de los límites teóricos. Sin embargo, sostienen que el marco ofrece una alternativa robusta para modelar dependencias temporales complejas donde la estructura global es crítica.