Multivariate Representations of Univariate Marked Hawkes Processes

1. 연구 배경 및 문제 제기 (Problem)

• 단변수 표시된 Hawkes 과정의 한계: 지진 여진, 전염병 확산, 소셜 미디어 콘텐츠 확산, 주문서 동향 등 다양한 현상을 모델링하는 데 널리 사용되는 Hawkes 과정은 '표시 (Mark)'를 포함할 수 있습니다. 그러나 기존의 단변수 표시된 Hawkes 과정 모델링은 종종 분리 가능성 (Mark-separability) 을 가정합니다. 즉, 지면 강도 (ground intensity) 와 표시 (magnitude 등) 의 분포가 서로 독립적이라고 가정합니다.
• 실제 현상과의 괴리: 실제 데이터 (예: 지진) 에서는 지면 강도와 표시 분포가 분리 불가능 (non-separable) 한 경우가 많습니다. 분리 불가능한 모델을 직접 구현하는 것은 모델 지정 (model specification) 이 어렵고, 최대우도추정법 (MLE) 을 통한 파라미터 추정이 느리며 계산 비용이 매우 높다는 문제가 있습니다.
• 기존 대안의 부족:
  • Neural Hawkes (cLSTM, Transformer 등): 유연하지만 파라미터 해석이 불가능하고, 유한 표본 및 점근적 통계적 성질이 아직 확립되지 않았습니다.
  • 비모수적 접근 (Fredholm 적분 등): 커널 행렬을 완전히 비모수적으로 추정하여 계산이 복잡하고 파라미터 해석이 어렵습니다.
• 핵심 문제: 분리 불가능한 단변수 표시된 Hawkes 과정을 계산적으로 tractable (처리 가능) 이면서도 파라미터 해석이 가능한 방식으로 모델링할 수 있는 프레임워크가 필요합니다.

2. 제안된 방법론 (Methodology)

저자들은 단변수 표시된 Hawkes 과정을 다변수 비표시 (unmarked) Hawkes 과정으로 표현 (Representation) 하는 새로운 프레임워크를 제안합니다.

• 표시 공간의 분할 (Partitioning):
  • 표시 (Mark) 의 지지집합 (support) 을 유한한 측정 가능 집합 $\{A_1, A_2, ..., A_K\}$ 으로 분할합니다.
  • 각 분할된 영역 $A_i$ 를 다변수 Hawkes 과정의 서로 다른 성분 (component) 으로 간주합니다.
• 다변수 표현의 정의:
  • 원래의 단변수 표시된 과정의 조건부 강도 함수 $\lambda(t, M|H_t)$ 를 $K$ 개의 성분 강도 함수의 합으로 근사합니다.
  • 각 성분의 강도는 해당 표시 영역에 속하는 사건들 간의 상호 자극 (cross-excitation) 을 통해 모델링됩니다.
  • 수식적으로, 다변수 표현의 강도 함수는 다음과 같이 정의됩니다:
    $$\lambda_\theta(t, M|H_t) = \sum_{i=1}^K \chi_{A_i}(M) \left( \lambda_{0i} + \sum_{j=1}^K \sum_{t_{\ell,j}<t} \alpha_{ij} g_{ij}(t - t_{\ell,j}) \right)$$
    여기서 $\chi_{A_i}$ 는 지표 함수, $\lambda_{0i}$ 는 배경 강도, $\alpha_{ij}$ 는 성분 $j$ 가 성분 $i$ 를 자극하는 정도, $g_{ij}$ 는 커널 함수입니다.
• 근사 원리:
  • 표시 공간의 분할을 더 세밀하게 (K 증가) 할수록, 이 다변수 비표시 과정은 원래의 분리 불가능한 단변수 표시된 Hawkes 과정을 $L_1$ 노름 (norm) 에서 임의의 오차 범위 내에서 근사할 수 있음을 보입니다.

3. 주요 기여 및 이론적 결과 (Key Contributions & Results)

이 논문은 다음과 같은 세 가지 핵심 이론적 결과를 증명합니다.

1. 근사 존재성 (Existence of Approximation):

   • 임의의 분리 불가능한 단변수 표시된 Hawkes 과정에 대해, 성분 수 $K$ 가 증가함에 따라 다변수 비표시 Hawkes 과정의 조건부 강도 함수가 원래 과정의 강도 함수와 $L_1$ 거리가 0 으로 수렴함을 증명했습니다 (Theorem 3.2).
   • 이는 표시 분포가 알려지지 않았거나 비정상적 (non-stationary) 인 경우에도 유연하게 적용 가능함을 의미합니다.

2. 정상성 유지 (Stationarity Preservation):

   • 원래 대상 과정이 정상적 (stationary) 이라면, 이를 근사하는 다변수 표현 또한 정상적임을 증명했습니다 (Theorem 3.3).
   • 이는 다변수 표현이 폭발 (explosion) 하지 않으며, 빈도론적 예측 (frequentist forecasting) 및 시뮬레이션에 안정적으로 사용될 수 있음을 보장합니다.

3. 파라미터 식별 가능성 (Identifiability):

   • 제안된 다변수 표현의 파라미터 ($\lambda_{0i}, \alpha_{ij}, \beta_{ij}$ 등) 가 식별 가능 (identifiable) 함을 증명했습니다 (Theorem 3.5).
   • 이는 최대우도추정법 (MLE) 등을 통해 추정된 파라미터가 고유한 값을 가지며, 통계적 추론이 유효함을 의미합니다.

4. 시뮬레이션 연구 및 실증 분석 (Simulation Study)

• 실험 설정: 지수 커널을 가진 정상 단변수 표시된 Hawkes 과정을 생성하고, 이를 다양한 성분 수 ($K=1$ 부터 $6$) 의 다변수 비표시 Hawkes 과정으로 근사하여 최대우도추정 (MLE) 을 수행했습니다.
• 결과:
  • 성분 수 $K$ 가 증가할수록 파라미터 추정의 오차 (Median Absolute Error) 가 감소하며 이론적 값에 수렴하는 것을 확인했습니다.
  • 오차 상한선: 표시 분포가 최대 엔트로피 (균일 분포) 를 가지는 최악의 경우를 가정했을 때, 다변수 표현으로 인한 파라미터 수 증가에 따른 오차의 상한선을 제시했습니다.
  • 계산 효율성: 파라미터 수가 증가하더라도, Neural Hawkes 모델에 비해 파라미터 해석이 가능하고 계산적으로 tractable 하여 다양한 시나리오에서 더 효율적인 모델로 평가됩니다.

5. 의의 및 결론 (Significance & Conclusion)

• 모델링의 유연성: 분리 불가능한 복잡한 현상을 분리 가능한 다변수 프레임워크로 변환함으로써, 기존에 계산적으로 다루기 어려웠던 비분리형 (non-separable) Hawkes 과정을 유연하게 모델링할 수 있게 되었습니다.
• 해석 가능성: Neural Hawkes 와 같은 블랙박스 모델과 달리, 제안된 방법은 추정된 파라미터에 대한 명확한 물리적/통계적 해석을 제공합니다.
• 실용성: 지진, 범죄, 금융 데이터 등 다양한 시공간 및 이벤트 스트림 데이터에 적용 가능한 강력한 도구를 제공합니다.
• 미래 연구 방향: 커널 밀도 추정 (Kernel Density Estimation) 방식의 적용을 통한 고차원 표시 공간 처리 및, 희소성 (sparsity) 유도를 통한 모델 복잡도 감소가 향후 연구 과제로 제시되었습니다.

요약하자면, 이 논문은 단변수 표시된 Hawkes 과정을 다변수 비표시 Hawkes 과정으로 변환하는 수학적 프레임워크를 제시하고, 그 근사성, 정상성, 파라미터 식별 가능성을 이론적으로 증명함으로써, 복잡한 시계열 이벤트 데이터 분석에 있어 계산 효율성과 해석 가능성을 동시에 확보한 획기적인 접근법을 제시했습니다.