Sintesi Tecnica: Dai Salti alle Firme: un Metodo Generativo per i Processi Puntuali Temporali

Definizione del Problema

I Processi Puntuali Temporali (TPP) modellano eventi discreti che si verificano in tempo continuo, sostenendo applicazioni in finanza, sismologia e sanità. Sebbene i Neural TPP (NTPP) abbiano fatto avanzare il campo utilizzando reti neurali espressive, essi affrontano due limitazioni primarie:

1. Obiettivi di Addestramento: I metodi prevalenti ottimizzano perdite locali per singolo evento (ad esempio, la massimizzazione della log-verosimiglianza). Questi si decompongono in somme di perdite condizionali, fallendo nel fornire un segnale globale per proprietà strutturali come l'autocorrelazione, le dipendenze a lungo raggio e le distribuzioni congiunte temporali.
2. Metriche di Valutazione: La valutazione standard si basa sulla Log-Verosimiglianza Negativa (NLL) o su metriche puntuali (ad esempio, l'Errore Assoluto Medio). Queste sono insensibili alla struttura globale della sequenza, possono mascherare il collasso della modalità (mode collapse) e spesso favoriscono previsioni sottodisperse. Inoltre, le metriche di discrepanza distributiva esistenti (come MMD o le distanze di Wasserstein) mancano di una giustificazione teorica sullo spazio dei cammini di conteggio (funzioni a gradini càdlàg).

Esiste un significativo vuoto teorico: le firme dei cammini rugosi (rough path signatures), che offrono mappe di caratteristiche universali e garanzie di determinismo per cammini continui di variazione limitata, non possono essere applicate direttamente ai TPP perché i cammini di campionamento dei TPP sono discontinui (càdlàg), violando gli assunti di continuità richiesti per la modellazione generativa basata su firme.

Metodologia: SIGTPP

Il documento propone SIGTPP, un framework generativo basato su firme che colma il divario tra sequenze di eventi discrete e la teoria dei cammini continui. La metodologia consiste in quattro componenti principali:

1. L'Embedding degli Intertempi di Interarrivo ($\Phi$)

Per applicare i metodi delle firme ai salti discreti, gli autori introducono un lift stabile e iniettivo dallo spazio dei cammini di conteggio ($\mathcal{N}$) allo spazio dei cammini continui di variazione limitata ($\mathcal{C}$).

• Meccanismo: Per un cammino di conteggio $\eta$ con tempi di evento $t_k$, l'embedding costruisce una funzione continua piecewise-lineare $x = \Phi(\eta)$. Il valore della funzione in ogni tempo di evento $t_k$ è impostato sull'intertempo di interarrivo $\tau_k = t_k - t_{k-1}$.
• Augmentazione Temporale: La firma è calcolata sul cammino aumentato temporalmente $t \mapsto (t, \Phi(\eta)_t)$ in $\mathbb{R}^2$. Questo codifica sia i tempi assoliti degli eventi che le durate degli intertempi, rimuovendo le componenti ad albero per garantire che la firma sia iniettiva.
• Garanzia Teorica: Il documento dimostra che $\Phi$ è Lipschitz continua e iniettiva. Sotto deboli assunti di separazione (tempo minimo di interarrivo $\delta > 0$), la mappa inversa è Hölder continua, garantendo che le discrepanze nello spazio embedded riflettano discrepanze reali nello spazio originale dei cammini di conteggio.

2. Perdita di Firma Globale

Invece di ottimizzare le densità condizionali per singolo evento, SIGTPP ottimizza una perdita globale su intere traiettorie.

• Funzione di Perdita: Il modello minimizza la distanza Signature-Wasserstein-1 (Sig-W1) tra le firme troncate attese dei cammini generati e i cammini dei dati osservati.
• Ottimizzazione: La perdita è definita come la distanza $\ell_2$ tra le firme troncate attese:
  $$\text{Sig-W}^{(M)}_1(\mu_\theta, \nu) := \left\| \mathbb{E}_{N_\theta \sim \mu_\theta} [S_M(\Phi(N_\theta))] - \mathbb{E}_{N \sim \nu} [S_M(\Phi(N))] \right\|_2^2$$
  Questo sostituisce il discriminatore avversario delle GAN con una metrica diretta sull'algebra tensoriale, evitando l'instabilità dell'addestramento.

3. Metriche di Valutazione

Gli autori derivano tre discrepanze distributiveamente fondate per valutare i TPP generativi, tutte basate sulla metrica del cammino $d_N(\eta, \xi) = \int_0^{T_{max}} |\eta_t - \xi_t| dt$:

• Distanza di Energia (E): Una metrica indotta dalla proprietà di tipo negativo dello spazio $L_1$.
• Distanza di Wasserstein-1 (W1): Eleva la metrica del cammino a una metrica distributiva.
• Signature-Wasserstein-1 (Sig-W1): Utilizza le firme attese come misura di discrepanza, valida grazie all'iniettività di $\Phi$.

4. Architettura del Modello

SIGTPP è implementato come un generatore autoregressivo a 1-step utilizzando un singolo strato LSTM. Esso predice i log-intertempi di interarrivo condizionati dallo stato della storia, dal tempo cumulativo corrente e dal rumore esogeno.

Contributi Chiave

1. Embedding degli Intertempi di Interarrivo: Una mappatura innovativa, stabile e iniettiva che permette l'applicazione di metodi basati sulle firme ai cammini discreti (cammini càdlàg).
2. Modello SIGTPP: Il primo modello generativo basato su firme per i TPP, addestrato tramite una perdita globale a livello di cammino piuttosto che perdite condizionali locali.
3. Framework Teorico: Dimostrazioni che stabiliscono la continuità Lipschitz e la biiettività dell'embedding, e la derivazione di discrepanze distributive matematicamente valide (E, W1, Sig-W1) sullo spazio dei cammini di conteggio.
4. Analisi della Valutazione: Una dimostrazione del fatto che le metriche puntuali (MAE/MSE) non sono sufficienti per valutare la qualità generativa, favorendo spesso regressori deterministici che ignorano la variazione distributiva.

Risultati Sperimentali

Il modello è stato valutato su 4 dataset sintetici (Poisson, Poisson Inomogeneo, Hawkes Univariato, Hawkes Multivariato) e 5 dataset del mondo reale (Terremoti, Stack Overflow, Taobao, Taxi, Yelp).

• Performance: SIGTPP ha ottenuto il miglior ranking medio su 8 metriche complementari. Ha superato o eguagliato i più forti baseline (VAE, DDPM, WGAN) nel 64% delle coppie dataset-metrica.
• Miglioramento Relativo: Secondo una metrica di punteggio relativo, SIGTPP è migliorato rispetto a ogni baseline di almeno il 19% in media.
• Fedeltà Distributiva: SIGTPP ha superato significativamente i baseline sulle metriche di livello di cammino (E, W1, Sig-W1), mostrando un migliore allineamento con la legge temporale congiunta.
• Trade-off: Sebbene SIGTPP eccella nella struttura globale, ha sottoperformato leggermente sul Continuous Ranked Probability Score (CRPS) rispetto ai modelli basati su diffusione (DDPM) e ai VAE. Gli autori attribuiscono ciò al fatto che gli obiettivi a livello di cammino danno priorità all'allineamento distributivo globale rispetto alla calibrazione condizionale locale.
• Metriche Puntuali: Il baseline deterministico (DETER) ha ottenuto i migliori punteggi MAE/MSE, confermando che gli errori puntuali non misurano la qualità generativa o la fedeltà distributiva.

Significato e Rivendicazioni

Il documento sostiene di fornire un "framework comune di cammino" che unifica la generazione e la valutazione dei TPP. Il suo significato primario risiede nel:

• Estendere le Firme agli Eventi Discreti: Adattare con successo la teoria dei cammini rugosi ai processi càdlàg tramite l'embedding degli intertempi di interarrivo.
• Globale vs Locale: Dimostrare che l'ottimizzazione di una perdita di firma globale produce una migliore fedeltà strutturale (autocorrelazione, dipendenze a lungo raggio) rispetto alla tradizionale massimizzazione della verosimiglianza per singolo evento.
• Rigore della Valutazione: Stabilire che le metriche puntuali standard sono insufficienti per i TPP generativi e fornire una suite di discrepanze distributive giustificate teoricamente (E, W1, Sig-W1) come standard di valutazione.

Gli autori riconoscono i limiti, tra cui il costo computazionale delle firme ad alto grado, la natura artificiale del lift di interpolazione lineare e la natura preliminare dei vincoli teorici. Tuttavia, affermano che il framework offre un'alternativa robusta per modellare complesse dipendenze temporali dove la struttura globale è critica.