Non-Negative Matrix Factorization for Event Data

기술 요약: 이벤트 데이터에 대한 비음수 행렬 분해 (EventNMF)

문제 정의
엔티티가 시간에 따라 즉각적인 이벤트를 방출하는 연속 시간 이벤트 데이터(예: 뉴런의 스파이크, 지진 이벤트, 사회적 상호작용)는 다양한 도메인에서 흔히 발견됩니다. 비음수 행렬 분해(NMF)는 이러한 데이터에서 해석 가능한 구조를 밝혀내는 표준적인 도구이지만, 기존의 응용 방식은 일반적으로 원시 이벤트 시간을 빈닝(binning)이나 스무딩(smoothing)을 통해 템포럴 시그널로 전처리하는 과정을 필요로 합니다. 이러한 이산화는 엔티티 수준의 이질성과 미세한 시간적 특징을 삭제할 위험이 있으며, 기저 점 프로세스(point process)의 통계적 특성을 변화시키고, 빈 너비(bin width) 또는 커널 대역폭(kernel bandwidth) 선택에 따른 제어하기 어려운 편향-분산 트레이드오프를 유발합니다.

방법론: EventNML
본 논문은 빈닝 없이 원시 이벤트 시간에 직접 작용하는 연속 시간 비음수 분해 모델인 EventNMF를 소개합니다. 핵심 방법론은 다음 구성 요소들을 기반으로 구축되었습니다:

• 생성 모델 (Generative Model): 각 엔티티 $i$는 불균일 포아송 과정(inhomogeneous Poisson process)으로 모델링되며, 강도 함수(intensity function) $\lambda_i(t)$를 가집니다. 이 강도는 다음과 같은 저계수 분해(low-rank factorization)를 따른다고 가정합니다:
  $$\lambda_i(t) = \sum_{r=1}^R u_{ir} f_r(t)$$
  여기서 $u_{ir} \geq 0$은 엔티티에 특화된 비음수 로딩(loadings)이며, $f_r(t) \geq 0$은 공유된 잠재 시간 요인(latent temporal factors)입니다.
• 매개변수 기반 (Parametric Basis): 모델을 매개변수화하기 위해, 각 잠재 요인 $f_r(t)$는 고정된 비음수 B-스플라인 기저(basis) $\{\phi_b\}_{b=1}^B$로 확장됩니다:
  $$f_r(t) = \sum_{b=1}^B \gamma_{rb} \phi_b(t)$$
  여기서 $\gamma_{rb} \geq 0$입니다. 이를 통해 모델은 비음수성을 유지하면서도 광범위한 강도 형태를 근사할 수 있습니다.
• 목적 함수 (Objective Function): 파라미터(로딩 행렬 $U$ 및 계수 행로 $\Gamma$)는 포아송 과정 가정하에 관측된 카운팅 측도(counting measures)의 음의 로그 가능도(negative log-likelihood)를 최소화함으로써 추정됩니다. 엔티티 $i$에 대한 손실 함수는 다음과 같습니다:
  $$l_i(U, \Gamma) = u_i^\top \Gamma I(\Phi) - \sum_{\tau \in E_i} \log(u_i^\top \Gamma \Phi(\tau))$$
  여기서 $I(\Phi)$는 기저 함수의 적분 벡터이고, $E_i$는 이벤트 시간들의 집합입니다.
• 최적화 (Optimization): 저자들은 최적화 과정 전반에 걸쳐 비음수성을 보장하는 효율적인 **곱셈 업데이트(multiplicative updates)**를 유도했습니다. 반복당 계산 복잡도는 $O(RBE)$로, 이벤트 수에 선형적이며 확장성이 뛰어납니다.
• 이론적 연결 (Theoretical Connection): 본 논문은 B-스플라인 차수가 0일 때, EventNMF가 빈닝된 카운트에 적용된 표준 Poisson-NMF와 정확히 일치함을 입증합니다. 따라서 EventNML은 기존의 빈 기반 접근 방식을 연속 도메인으로 일반화합니다.

주요 기여

1. 직접적인 연속 시간 모델링: EventNMF는 빈닝이나 스무딩의 필요성을 제거하여, 미세한 시간적 특징과 통계적 특성을 보존하기 위해 원시 이벤트 시간에 직접 작용합니다.
2. 통합 프레임워크: 포아송 가능도를 사용하여 차원 축소(NMF)와 점 프로세스 강도 추정을 하나의 프레임워크 내에서 연결합니다.
3. 효율적인 알고리즘: 곱셈 업데이트의 유도는 수학적으로 원칙적이고 계산적으로 효율적인 추정 절차를 제공합니다.
4. 실증적 검증: 합성 데이터와 세 가지 실제 응용 분야를 통해 검증되었습니다:
   • 지진학: 캘리포니아-네바다 지진 데이터(2014–2024) 분석을 통해, 서로 다른 지진 패턴(예: 2019년 Ridgecrest 본진 vs. 지속적인 Geysers 활동)을 해석 가능한 시간적 및 공간적 요인으로 성공적으로 분리했습니다.
   • 신경과학: Allen Visual Coding Neuropixels 데이터셋의 단일 시행(single-trial) 분석을 통해, 인구 수준의 반응 모티프(온셋 과도 현상, 지속적 리듬, 억제)를 회복하고 이를 특정 뇌 영역에 매핑했습니다.
   • 사회 네트워크: 초등학교 내 대면 접촉 분석을 통해, 학습 시간(안정적)과 자유 시간(피크 발생) 간의 상호작용 차이를 구분하고 학급별 상호작용 패턴을 비지도 학습으로 회복했습니다.

결과 및 성능

• 합성 실험: 알려진 잠재 요인을 가진 합성 데이터에서, EventNMF는 빈 기반 NMF 베이스라인(NARFD) 및 기능적 PCA(PPCA) 방법보다 우수한 성능을 보였습니다. 연구는 편향-분산 트레이드오프를 강조합니다: 높은 차수의 스플라인은 차수-0(빈 기반) 접근 방식보다 부드러운 잠재 프로세스를 더 잘 포착하지만, 과도한 기저 함수는 과적합을 초래할 수 있습니다. 최적의 설정은 스플라인 차수 $p=3$에서 발견되었습니다.
• 희소성 강건성 (Sparsity Robustness): 이 방법은 희소한 영역에서도 강건함을 보여줍니다. 엔티티당 이벤트 수가 적을 때(<1) 더 많은 엔티티를 보유하는 것이 회복에 크게 도움이 되며, 밀집된 영역에서는 성능이 안정화됩니다.
• 비교: 부호가 있는 성분을 생성하고 단조 누적(monotone cumulatives) 처리에 어려움을 겪는 PPCA와 달리, EventNMF는 물리적인 이벤트 발생률과 일치하는 비음수 로딩 및 레이트 템플릿을 제공합니다. 빈 너비 파라미터에 민감한 NARFD와 달리, EventNMF는 이러한 민감성을 피합니다.

의의 및 주장
본 논문은 EventNMF가 이벤트 데이터에 대한 현재의 최첨단 방법들에 대해 "수학적으로 원칙적이고, 구현하기 쉬우며, 계산적으로 효율적인" 대안을 제공한다고 주장합니다. 이 연구의 주요 의의는 빈닝이라는 전처리 병목 현상을 제거함으로써, 자칫 스무딩되어 사라지거나 손실될 수 있는 해석 가능한 시간적 패턴의 발견을 가능하게 한다는 점에 있습니다. 저자들은 이 작업을 함수적 데이터 분석(functional data analysis)과 점 프로세스 모델링 사이의 가교 역할을 하는 작업으로 위치시킵니다.

저자들은 향-방향에 대해 겸허한 태도를 유지하며, 현재의 방법이 포아송 과정을 효과적으로 다루지만, 자기 흥분 과정(예: 결합된 다변량 호크스 프로세스)으로 프레임워크를 확장하는 것은 여전히 이론적 및 경험적 과제로 남아 있다고 언급했습니다. 또한 수십억 개의 이벤트를 가진 데이터셋으로의 확장성은 무작위 서브샘플링을 통해 더욱 개선될 수 있다고 제안했습니다.