Non-Negative Matrix Factorization for Event Data

Riepilogo Tecnico: Fattorizzazione di Matrici Non Negative per Dati di Eventi (EventNMF)

Definizione del Problema
I dati di eventi a tempo continuo, in cui le entità emettono eventi istantanei nel tempo (ad esempio, spike neuronali, eventi sismici, interazioni sociali), sono onnipresenti in vari domi. Sebbene la Fattorizzazione di Matrici Non Negative (NMF) sia uno strumento standard per scoprire strutture interpretabili in tali dati, le applicazioni esistenti richiedono tipicamente il pre-processing dei tempi grezzi tramite binning o smoothing per generare segnali temporali. Questa discretizzazione introduce svantaggi significativi: rischia di cancellare le eterogeneità a livello di entità e le caratteristiche temporali fini, altera le proprietà statistiche del processo puntuale sottostante e introduce un difficile trade-off tra bias e varianza relativo alla selezione della larghezza del bin o della larghezza di banda del kernel.

Metodologia: EventNMF
Il documento introduce EventNMF, un modello di fattorizzazione non negativa in tempo continuo che opera direttamente sui tempi degli eventi senza ricorrere al binning. La metodologia centrale si basa sui seguenti componenti:

• Modello Generativo: Ogni entità $i$ è modellata come un processo di Poisson inespresso con una funzione di intensità $\lambda_i(t)$. Si assume che l'intensità ammetta una fattorizzazione a basso rango:
  $$\lambda_i(t) = \sum_{r=1}^R u_{ir} f_r(t)$$
  dove $u_{ir} \geq 0$ sono i carichi (loadings) non negativi specifici per l'entità, e $f_r(t) \geq 0$ sono i fattori temporali latenti condivisi.
• Base Parametrica: Per rendere il modello parametrico, ogni fattore latente $f_r(t)$ è espanso su una base fissa di B-spline non negative $\{\phi_b\}_{b=1}^B$:
  $$f_r(t) = \sum_{b=1}^B \gamma_{rb} \phi_b(t)$$
  dove $\gamma_{rb} \geq 0$. Ciò consente al modello di approssimare una vasta gamma di forme di intensità mantenendo la non-negatività.
• Funzione Obiettivo: I parametri (matrice di carico $U$ e matrice di coefficienti $\Gamma$) vengono stimati minimizzando la log-likelihood negativa delle misure di conteggio osservate sotto l'assunzione del processo di Poisson. La funzione di perdita per l'entità $i$ è:
  $$l_i(U, \Gamma) = u_i^\top \Gamma I(\Phi) - \sum_{\tau \in E_i} \log(u_i^\top \Gamma \Phi(\tau))$$
  dove $I(\Phi)$ è il vettore degli integrali delle funzioni di base ed $E_i$ è l'insieme dei tempi degli eventi.
• Ottimizzazione: Gli autori derivano efficienti aggiornamenti moltiplicativi per $U$ e $\Gamma$ che garantiscono la non-negatività durante tutto il processo di ottimizzazione. La complessità computazionale per iterazione è $O(RBE)$, lineare nel numero di eventi, rendendo il metodo scalabile.
• Connessione Teorica: Il documento dimostra che quando il grado della B-spline è zero, EventNMF si riduce esattamente alla standard Poisson-NMF applicata ai conteggi binati. Pertanto, EventNMF generalizza gli approcci binati esistenti al dominio continuo.

Contributi Chiave

1. Modellazione Diretta in Tempo Continuo: EventNMF elimina la necessità di binning o smoothing, operando direttamente sui tempi degli eventi grezzi per preservare le caratteristiche temporali fini e le proprietà statistiche.
2. Framework Unificato: Collega la riduzione della dimensionalità (NMF) con la stima dell'intensità del processo di Poisson all'interno di un unico framework utilizzando le verosimiglianze di Poisson.
3. Algoritmo Efficiente: La derivazione degli aggiornamenti moltiplicativi fornisce una procedura di stima semplice, matematicamente fondata e computazionalmente efficiente.
4. Validazione Empirica: Il metodo è validato su dati sintetici e tre applicazioni del mondo reale:
   • Sismologia: Analisi dei dati sismici California-Nevada (2014–2024), separando con successo distinti pattern sismici (ad esempio, la scossa principale di Ridgecrest del 2019 rispetto all'attività persistente dei Geysers) in fattori temporali e spaziali interpretabili.
   • Neuroscienze: Analisi single-trial del dataset Allen Visual Coding Neuropixels, recuperando distinti motivi di risposta a livello di popolazione (transienti di onset, ritmi sostenuti, soppressione) e mappandoli su aree cerebrali specifiche.
   • Reti Sociali: Analisi dei contatti faccia a faccia in una scuola primaria, recupero non supervisionato di pattern di interazione specifici per classe, e differenziazione tra interazioni durante le lezioni (costanti) e durante i periodi liberi (picchi).

Risultati e Performance

• Esperimenti Sintetici: Su dati sintetici con fattori latenti noti, EventNMF supera i baseline di NMF binato (NARFD) e i metodi di PCA funzionale (PPCA). Lo studio evidenzia un trade-off bias-varianza: spline di grado superiore catturano meglio i processi latenti smooth rispetto agli approcci di grado 0 (binati), mentre un eccesso di funzioni di base può portare all'overfitting. La configurazione ottimale è stata individuata con grado di spline $p=3$.
• Robustezza alla Sparsità: Il metodo dimostra robustezza in regimi di scarsità; avere più entità migliora significativamente il recupero quando gli eventi per entità sono bassi (<1), mentre le performance si stabilizzano in regimi densi.
• Confronto: A differenza di PPCA, che produce componenti con segno e fatica con le cumulative monotone, EventNMF fornisce carichi non negativi e template di tasso che si allineano con la natura fisica dei tassi di evento. A differenza di NARFD, EventNoma evita la sensibilità ai parametri di larghezza del bin.

Significatività e Rivendicazioni
Il documento sostiene che EventNMF fornisca un'alternativa "matematicamente fondata, facile da implementare e computazionalmente efficiente" agli attuali metodi allo stato dell'arte per i dati di eventi. La sua principale significatività risiede nella rimozione del collo di bottiglia del pre-processing tramite binning, permettendo così la scoperta di pattern temporali interpretabili che altrimenti potrebbero essere attenuati o persi. Gli autori posizionano il lavoro come un ponte tra l'analisi dei dati funzionali e la modellazione dei processi puntuali.

Gli autori rimangono modesti riguardo alle direzioni future, notando che, sebbene l'attuale metodo gestisca efficacemente i processi di Poisson, l'estensione del framework a processi auto-eccitanti (come i processi di Hawkes multivariati accoppiati) rimane una sfida teorica ed empirica aperta. Suggeriscono inoltre che la scalabilità a dataset con miliardi di eventi potrebbe essere ulteriormente migliorata tramite il campionamento casuale (random subsampling).