Non-Negative Matrix Factorization for Event Data

Technische Samenvatting: Non-Negative Matrix Factorization voor Event-data (EventNMF)

Probleemstelling
Continue-time event-data, waarbij entiteiten instantane events emitteren over de tijd (bijv. neuronale spikes, seismische gebeurtenissen, sociale interacties), is alomtegenwoordig in diverse domeinen. Hoewel Non-Negative Matrix Factorization (NMF) een standaardinstrument is voor het blootleggen van interpreteerbare structuren in dergelijke data, vereisen bestaande toepassingen doorgaans preprocessing van de ruwe event-tijden via binning of smoothing om temporele signalen te genereren. Deze discretisatie introduceert significante nadelen: het riskeert het uitwissen van entiteit-specifieke heterogeniteiten en fijnmazige temporele kenmerken, verandert de statistische eigenschappen van het onderliggende puntproces, en introduceert een moeilijk te controleren bias-variance tradeoff met betrekking tot de selectie van de bin-breedte of kernel-bandbreedte.

Methodologie: EventNMF
Het artikel introduceert EventNism, een continuous-time non-negatieve factorisatiemodel dat direct op event-tijden opereert zonder binning. De kernmethodologie is gebouwd op de volgende componenten:

• Generatief Model: Elke entiteit $i$ wordt gemodelleerd als een inhomogene Poisson-proces met een intensiteitsfunctie $\lambda_i(t)$. De intensiteit wordt verondersteld een low-rank factorisatie toe te laten:
  $$\lambda_i(t) = \sum_{r=1}^R u_{ir} f_r(t)$$
  waarbij $u_{ir} \geq 0$ non-negatieve loadings zijn die specifiek zijn voor de entiteit, en $f_r(t) \geq 0$ gedeelde latente temporele factoren zijn.
• Parametrische Basis: Om het model parametrisch te maken, wordt elke latente factor $f_r(t)$ uitgebreid over een vaste non-negatieve B-spline basis $\{\phi_b\}_{b=1}^B$:
  $$f_r(t) = \sum_{b=1}^B \gamma_{rb} \phi_b(t)$$
  waarbij $\gamma_{rb} \geq 0$. Dit stelt het model in staat om een breed scala aan intensiteitsvormen te benaderen terwijl de non-negativiteit behouden blijft.
• Doelfunctie: De parameters (de loading-matrix $U$ en de coëfficiënt-matrix $\Gamma$) worden geschat door de negatieve log-likelihood van de geobserveerde tel-maten te minimaliseren onder de aanname van een Poisson-proces. De loss-functie voor entiteit $i$ is:
  $$l_i(U, \Gamma) = u_i^\top \Gamma I(\Phi) - \sum_{\tau \in E_i} \log(u_i^\top \Gamma \Phi(\tau))$$
  waarbij $I(\Phi)$ de vector van integralen van de basisfuncties is en $E_i$ de verzameling event-tijden voor entiteit $i$ is.
• Optimalisatie: De auteurs leiden efficiënte multiplicatieve updates af voor $U$ en $\Gamma$ die non-negativiteit garanderen tijdens het hele optimalisatieproces. De computationele complexiteit per iteratie is $O(RBE)$, lineair in het aantal events, wat de methode schaalbaar maakt.
• Theoretische Connectie: Het artikel demonstreert dat wanneer de B-spline graad nul is, EventNMF exact reduceert tot standaard Poisson-NMF toegepast op gebinde counts. Hiermee generaliseert EventNMF bestaande gebinde benaderingen naar het continue domein.

Belangrijkste Bijdragen

1. Directe Continuous-Time Modellering: EventNMF elimineert de noodzaak voor binning of smoothing, en opereert direct op ruwe event-tijden om fijnmazige temporele kenmerken en statistische eigenschappen te behouden.
2. Verenigd Framework: Het verbindt dimensionaliteitsreductie (NMF) met puntproces-intensiteitsschatting binnen één enkel framework met behulp van Poisson-likelihoods.
3. Efficiënt Algoritme: De afleiding van multiplicatieve updates biedt een eenvoudige, wiskundig gefundeerde en computationeel efficiënte schattingsprocedure.
4. Empirische Validatie: De methode wordt gevalideerd op synthetische data en drie real-world toepassingen:
   • Seismologie: Analyse van Californië-Nevada aardbevingendata (2014–2024), waarbij onderscheidende seismische patronen (bijv. de 2019 Ridgecrest mainshock versus persistente Geysers-activiteit) succesvol zijn gescheiden in interpreteerbare temporele en ruimtelijke factoren.
   • Neurowetenschap: Single-trial analyse van de Allen Visual Coding Neuropixels dataset, waarbij onderscheidende populatie-niveau respons-motieven (onset transients, sustained rhythms, suppression) zijn gerecupereerd en in kaart zijn gebracht naar specifieke hersengebieden.
   • Sociale Netwerken: Analyse van face-to-face contacten in een basisschool, waarbij ongecontroleerde recovery van klas-specifieke interactiepatronen plaatsvond, en differentiatie tussen les-tijd (steady) en vrije-periode (gepiekt) interacties.

Resultaten en Prestaties

• Synthetische Experimenten: Op synthetische data met bekende latente factoren presteert EventNMF beter dan binned NMF baselines (NARFD) en functionele PCA-methoden (PPCA). De studie benadrukt een bias-variance tradeoff: hogere-graads splines vangen gladde latente processen beter dan graad-0 (gebinde) benaderingen, terwijl excessieve basisfuncties kunnen leiden tot overfitting. De optimale configuratie werd gevonden bij spline-graad $p=3$.
• Sparsity Robustheid: De methode vertoont robuustheid in sparse regimes; het hebben van meer entiteiten verbetert de recovery aanzienlijk wanneer het aantal events per entiteit laag is (<1), terwijl de prestaties stabiliseren in dense regimes.
• Vergelijking: In tegen tegenstelling tot PPCA, dat getekende componenten oplevert en moeite heeft met monotone cumulatieve functies, levert EventNMF non-negatieve loadings en rate-templates die overeenkomen met de fysieke aard van event-rates. In tegenstelling tot NARFD vermijdt EventNMF de gevoeligheid voor bin-breedte parameters.

Betekenis en Claims
Het artikel claimt dat EventNMF een "wiskundig gefundeerd, gemakkelijk te implementeren en computationeel efficiënt" alternatief biedt voor huidige state-of-the-art methoden voor event-data. De primaire betekenis ligt in het wegnemen van de preprocessing-bottleneck van binning, waardoor de ontdekking van interpreteerbare temporele patronen mogelijk wordt die anders gladgestreken of verloren zouden gaan. De auteurs positioneren het werk als een brug tussen functionele data-analyse en puntproces-modellering.

De auteurs blijven bescheiden over toekomstige richtingen en merken op dat hoewel de huidige methode effectief werkt voor Poisson-processen, het uitbreiden van het framework naar zelf-exciterende processen (zoals gekoppelde multivariate Hawkes-processen) een open theoretische en empirische uitdaging blijft. Ze suggereren ook dat schaalbaarheid naar datasets met miljarden events verder verbeterd kan worden via random subsampling.