Neural Networks for Parameter Estimation of the Discretely Observed Hawkes Process

Sintesi Tecnica: Reti Neurali per la Stima dei Parametri di un Processo di Hawkes Osservato Discretamente

Definizione del Problema
Il processo di Hawkes è un processo puntuale auto-eccitante ampiamente utilizzato per modellare sequenze di eventi in campi quali la sismologia, la finanza e l'epidemiologia. Sebbene la stima dei parametri sia ben consolidata per dati osservati continuamente tramite Massima Verosimiglianza (ML) o Aspettativa Massimizzazione (EM), tali metodi diventano impraticabili quando il processo è osservato solo discretamente (censurato a intervalli). In questo contesto, si conoscono solo i conteggi totali degli eventi all'interno di intervalli disgiunti, il che rende la funzione di verosimiglianza analiticamente intrattabile.

Gli approcci esistenti a questo problema affrontano un compromesso tra accuratezza ed efficienza computazionale. I metodi approssimativi, come quelli di Shlomovich et al. (2022b) e Schneider e Weber (2023), tentano di ricostruire i tempi latenti degli eventi ma presentano un bias significativo. Al contrario, i metodi altamente accurati come l'algoritmo Pseudo-Marginal Metropolis–Hastings (PMMH) (Chen et al., 2025) sono computazionalmente proibitivi, particolarmente per processi non markoviani o dataset di grandi dimensioni. Esiste la necessità di un estimatore che offra un'accuratezza comparabile al PMMH ma con costi computazionali significativamente ridotti.

Metodologia
Gli autori propongono un approccio privo di verosimiglianza (likelihood-free) utilizzando una Rete Neurale (NN) completamente connessa e feed-forward per stimare i parametri del processo di Hawkes partendo dalle statistiche riassuntive dei dati di conteggio. La metodologia consiste in tre componenti fondamentali:

1. Costruzione della Statistica Riassuntiva:
   Inveve di alimentare la rete con sequenze di conteggio grezze, gli autori costruiscono una statistica riassuntiva a bassa dimensione basata su stime di imputazione "naive".

• Stima di Imputazione Singola: Per il caso markoviano (kernel esponenziale), viene costruito un percorso campionario latente distribuendo uniformemente gli eventi all'interno dei loro intervalli osservati. L'Estimatore di Massima Verosimiglianza (MLE) dei parametri di Hawkes viene poi calcolato da questo percorso imputato. Questo funge da statistica riassuntiva altamente informativa e a dimensione minima.
• Autoregresione Binomiale Negativa (NBAR): Per i kernel non markoviani (non esponenziali), la stima di imputazione è integrata dai parametri NBAR. Un modello NBAR viene adattato ai conteggi osservati per catturare la struttura di dipendenza e la sovradispersione, fornendo informazioni aggiuntive riguardo alla densità dei discendenti (offspring density).
• Adattabilità: La statistica riassuntiva è progettata per gestire intervalli di censura di dimensioni disuguali e tassi di background variabili nel tempo, normalizzando i tassi e utilizzando approssimazioni a tratti per i volumi di background.

2. Architettura e Addestramento della Rete Neurale:

• Input/Output: La NN prende come input la statistica riassuntiva e produce in output un vettore contenente la mediana posteriore (stima puntuale) e i quantili $\tau$ superiore e inferiore per ogni parametro. Ciò consente la stima puntuale simultanea e la quantificazione dell'incertezza bayesiana.
• Funzione di Perdita: La rete viene addestrata utilizzando una funzione di perdita dei quantili (pinball loss) per mirare a specifici quantili della distribuzione posteriore $p(\theta | s)$.
• Inferenza Ammortizzata: La NN viene addestrata una sola volta su un ampio dataset simulato (coppie parametro-osservazione generate da un prior). Una volta addestrata, la rete esegue l'inferenza su nuovi dati tramite un singolo passaggio in avanti (forward pass), rendendo il costo dell'inferenza trascurabile indipendentemente dalla lunghezza del percorso campionario.

3. Distribuzione Prior:
   Gli autori utilizzano un prior "inverse softplus normal" (ISN) per i parametri positivi e un prior logit-normal per il rapporto di branching $\eta$. Queste scelte sono pratiche, con l'obiettivo di porre massa sufficiente vicino allo zero e nell'intervallo unitario per migliorare le prestazioni della NN per piccoli valori dei parametri senza influenzare significativamente la generalizzabilità.

Risultati Chiave
Esperimenti di simulazione dimostrano che l'estimatore NN proposto offre prestazioni comparabili all'estimatore PMMH allo stato dell'arte in termini di accuratezza (Errore Quadratico Medio) e probabilità di copertura.

• Accuratezza: Per i kernel esponenziali, le stime della NN mostrano un bias empirico minimo, corrispondendo strettamente ai risultati PMMH attraverso vari livelli di aggregazione ($\Delta$).
• Efficienza: L'approccio NN offre una drastica riduzione del tempo computazionale rispetto al PMMH. Mentre il PMMH richiede campionamento iterativo ed è computazionalmente costoso, la NN fornisce un'inferenza quasi istantanea dopo la fase iniziale di addestramento.
• Confronto con le Alternative: L'estimatore NN supera i metodi spettrali (stimatore di Whittle) e i metodi di ricostruzione distorti (MCEM) sia in termini di accuratezza che di stabilità.
• Applicazione nel Mondo Reale: Il metodo è applicato ai dati settimanali sulla morbilità da morbillo a Tokyo e sui dati sulla Salmonella in Nuova Galles del Sud. I risultati replicano i risultati di studi precedenti (Cheysson e Lang, 2022; Chen et al., 2025) e modellano con successo i tassi di background variabili nel tempo per le fluttuazioni stagionali.

Significatività e Rivendicazioni
L'articolo sostiene che il metodo proposto riesce a colmare il divario tra l'alta accuratezza dei metodi basati sulla verosimiglianza (come PMMH) e l'efficienza computazionale richiesta per applicazioni pratiche.

• Inferenza Ammortizzata: Un contributo primario è la dimostrazione dell' "inferenza ammortizzata", dove il costo computazionale viene spostato interamente nella fase di addestramento. Ciò consente l'analisi di lunghi percorsi campionari o dati in tempo reale senza necessità di riaddestramento o ulteriore fitting del modello.
• Robustezza ai Vincoli dei Dati: Il metodo gestisce intervalli di dimensioni disuguali e tassi di background variabili nel tempo, superando i limiti dei metodi spettrali e di approssimazione della verosimiglianza esistenti.
• Quantificazione dell'Incertezza: A differenza di molti metodi approssimativi che mancano di stime dell'errore standard, la NN fornisce intervalli di credibilità marginali direttamente tramite la stima dei quantili.
• Semplicità: La statistica riassuntiva si basa su una semplice imputazione e autoregresione, richiedendo una conoscenza esperta minima per il design rispetto ai complessi schemi di ricostruzione del percorso latente.

Gli autori concludono che, sebbene l'algoritmo PMMH rimanga il gold standard per accuratezza, l'estimatore NN offre un'alternativa altamente scalabile, veloce e accurata per i processi di Hawkes osservati discretamente, particolarmente in contesti in cui la velocità e la scalabilità sono critiche.