Parametric inference for the discretely observed multivariate Hawkes process using particle Markov Chain Monte Carlo

Sintesi Tecnica: Inferenza Parametrica per Processi di Hawkes Multivariati Osservati Discretamente

Enunciato del Problema
Il Processo di Hawkes Multivariato (MHP) è un modello standard per l'analisi di sequenze di eventi multidimensionali caratterizzate da auto-eccitazione e cross-eccitazione. Sebbene gli algoritmi di Massima Verosimiglianza (MLE) e di Expectation Maximization (EM) siano ben stabiliti per i MHP con tempi di evento precisi, essi falliscono quando i dati sono osservati solo in intervalli discreti (conteggi aggregati). In tali scenari, la funzione di verosimiglianza diventa analiticamente intrattabile perché i tempi esatti degli eventi e le loro tipologie all'interno degli intervalli sono variabili latenti non osservate. Gli approcci esistenti a questo problema, come le approssimazioni Integer-Valued Autoregressive (INAR), i metodi Monte Carlo EM (MCEM) modificati, i processi di Hawkes a grana grossa (coarse-grained) e il MCMC Bayesiano, soffrono spesso di bias, inefficienza computazionale o dell'incapacità di gestire tassi di background non stazionari e intervalli di censura disuguali.

Metodologia
Gli autori propongono un framework per l'inferenza parametrica utilizzando il Pseudo-Marginal Metropolis-Hastings (PMMH) combinato con il Sequential Monte Carlo (SMC).

1. Rappresentazione dello Spazio degli Stati: I tempi degli eventi e le tipologie non osservate all'interno di ogni intervallo di osservazione sono trattati come variabili latenti in un modello a spazio di stato. La verosimiglianza dei dati aggregati viene fattorizzata in un prodotto di probabilità condizionate sugli intervalli temporali.
2. Stima della Verosimiglianza Non Viaggiata tramite SMC: Per affrontare la verosimiglianza intrattabile, gli autori impiegano un algoritmo SMC per generare una stima non deviata (unbiased) della funzione di verosimiglianza.
   • Distribuzione di Proposta: Un'innovazione chiave è l'uso di una distribuzione di proposta uniforme ordinata per i tempi degli eventi latenti all'interno di un intervallo, condizionata ai conteggi osservati. Ciò assicura che ogni particella proposta sia coerente con i dati osservati (a differenza delle proposte Poissoniane che possono generare particelle con peso zero). Le tipologie di eventi vengono assegnate tramite una distribuzione ipergeometrica multivariata.
   • Resampling Adattivo: L'algoritmo SMC utilizza un resampling adattivo basato sulla Dimensione Campionaria Effettiva (ESS) per mitigare la degenerazione delle particelle, minimizzando al contempo l'introduzione di rumore Monte Carlo.
3. Algoritmo PMMH: La stima della verosimiglianza tramite SMC, non deviata, viene sostituita per la verosimiglianza vera all'interno di un algoritmo di Metropolis-Hastings. Risultati teorici (Andrieu e Roberts, 2009) garantiscono che la distribuzione stazionaria della catena di Markov risultante sia la vera distribuzione a posteriori dei parametri, a condizione che lo stimatore della verosimiglianza sia non deviato.
4. Stima dei Parametri: La media o la mediana a posteriori funge da stima puntuale, con intervalli di credibilità derivati dai quantili del campione MCMC. Il metodo supporta tassi di background variabili nel tempo (modellati tramite B-spline) e gestisce finestre di osservazione di dimensioni irregolari.

Contributi Chiave

• Inferenza Non Deviata: Il documento fornisce un metodo per eseguire un'inferenza bayesiana esatta (nel limite di particelle infinite) per i MHP osservati discretamente, costruendo uno stimatore della verosimiglianza non deviato.
• Meccanismo di Proposta Efficiente: L'introduzione della proposta uniforme ordinata riduce significativamente la varianza della stima della verosimiglianza rispetto alle precedenti proposte Poissoniane. Ciò consente all'algoritmo PMMH di convergere con un numero molto minore di particelle, migliorando drasticamente l'efficienza computazionale.
• Flessibilità: Il framework accoglie tassi di background non stazionari e finestre di osservazione irregolari senza richiedere l'aumento dei dati (data augmentation) o la discretizzazione del modello.

Risultati

• Studi di Simulazione:
  • Validità: Le stime SMC delle probabilità degli eventi convergono alle vere stime Monte Carlo con basso bias e varianza all'aumentare del numero di particelle.
  • Efficienza della Proposta: La proposta uniforme ordinata produce una varianza significativamente inferiore nelle stime del log-likelihood rispetto alle proposte Poissoniane, consentendo l'uso di meno particelle (ad esempio, $J=10$) mantenendo l'accuratezza.
  • Confronto delle Prestazioni: In simulazioni attraverso diversi livelli di aggregazione ($\Delta \in \{0.1, 0.5, 1.0\}$), lo stimatore PMMH ha dimostrato un bias minimo e intervalli di confidenza ben calibrati. Ha superato i metodi MCEM e CGHP (Coarse-Grained Hawkes Process) in termini di Errore Quadratico Medio (MSE), particolarmente ai livelli di aggregazione più elevati dove tali metodi mostravano un bias significativo.
  • Velocità Computazionale: Il metodo PMMH è stato più veloce dell'approccio Bayesian MCMC (che non poteva essere parallelizzato nell'implementazione di riferimento) e dei metodi MCEM/CGHP, scalando efficientemente con il calcolo parallelo delle particelle.
• Applicazione Empirica:
  • Il metodo è stato applicato ai conteggi giornalieri di attacchi terroristici in Kabul–Nangarhar (Afghanistan) e Khyber Pakhtunkhwa (Pakistan) dal 2018 al 2021.
  • Il modello ha catturato con successo la dinamica, rivelando una significativa auto-eccitazione in entrambe le regioni e una forte cross-eccitazione dal Pakistan all'Afghanistan ($\hat{\eta}_{1,2} = 0.438$).
  • I tassi di background stimati hanno riflettuto l'accelerazione degli attacchi in Afghanistan a seguito del ritiro degli Stati Uniti, in linea con i rapporti esterni. Il modello si è adattato bene ai dati osservati, con i conteggi empirici che rientravano nei quantili simulati al 95%.

Significatività e Rivendicazioni
Gli autori affermano che il loro metodo offre un'alternativa statisticamente rigorosa e computazionalmente efficiente per l'analisi dei MHP osservati discretamente. Sfruttando la natura non deviata di SMC all'interno di un framework PMMH, il metodo evita il bias inerente a MCEM e gli errori di approssimazione dei modelli a grana grossa. Il contributo specifico della proposta uniforme ordinata è evidenziato come il fattore critico che permette velocità e stabilità al metodo, rendendolo competitivo con le alternative di alta qualità pur fornendo un'immediata quantificazione dell'incertezza (intervalli di credibilità) e flessibilità per i processi non stazionari. Il documento nota con modestia che, sebbene gli stimatori si comportino bene empiricamente, la prova teorica di consistenza e normalità asintotica per il contesto specifico dei MHP rimane un tema per lavori futuri, basandosi attualmente sulla teoria generale SMC/PMMH.