기술적 요약: 신경 파라미터화를 통한 금융 시계열의 시간 비동질적 마르코프 역학 학습

1. 문제 제기

본 논문은 고전적 마르코프 모델과 현대적 딥러닝 접근법 각각이 중대한 한계를 겪는 비정상 확률 시스템, 특히 금융 시계열을 모델링하는 과제를 다룹니다.

• 희소성 장벽: 고전적 마르코프 모델링은 이산 상태 간의 전이를 경험적으로 계수하는 데 의존합니다. 두꺼운 꼬리를 가진 금융 수익률의 뉘앙스를 포착하려면 세밀한 이산화 (많은 수의 빈, $n$) 가 필요합니다. 그러나 가능한 전이의 수는 이차적으로 ($n^2$) 증가합니다. 유한하고 노이즈가 있는 금융 데이터셋에서는 이로 인해 심각한 데이터 희소성이 발생하여 전이 셀의 대부분이 관측되지 않게 됩니다 (예: $n=55$일 때 셀의 99.9% 가 5 회 미만의 관측치를 가짐). 이는 경험적 추정량을 0 과 고분산 노이즈로 가득 찬 퇴화된 연산자로 붕괴시켜 구조 분석에 무용지물로 만듭니다.
• 해석 가능성 격차: 신경 시퀀스 모델은 복잡한 의존성을 처리할 수 있지만, 일반적으로 불투명한 잠재 표현을 통해 작동하여 전이 히트맵, 행 이질성, Chapman–Kolmogorov 일관성 (Chapman–Kolmogorov consistency) 과 같은 고전적 연산자 이론 진단의 적용을 방해합니다.

저자들은 중도적 접근법을 제안합니다: 신경망의 유연성을 활용하여 명시적이고 시간에 따라 변하는 마르코프 전이 연산자를 파라미터화하는 프레임워크로, 경험적 계수의 희소성을 극복하면서도 수학적 투명성을 유지하는 것입니다.

2. 방법론

핵심 기여는 시간 비동질적 마르코프 연산자의 신경 파라미터화입니다.

2.1 프레임워크 공식화

시스템은 특징에 조건부인 시간 비동질적 마르코프 체인으로 모델링됩니다.

• 상태 공간: 수익률은 분위수 빈 할당 (quantile binning) 을 통해 유한한 상태 공간 $S = \{s_1, \dots, s_n\}$으로 이산화됩니다.
• 특징 조건부: 전이 확률은 관측 가능한 공변량 $F_t$(거시경제 지표, 기업 펀더멘털) 와 현재 상태 $X_t$에 의존합니다.
• 연산자 구성: 전이를 계수하는 대신, 신경망 $f^{(h)}_\theta$가 $(X_t, F_t)$에서 다음 상태에 대한 확률 분포로의 매핑을 학습합니다.
  $$\hat{A}^{(h)}_t(i, \cdot) = f^{(h)}_\theta(s_i, F_t)$$
  시간 $t$에서 전체 전이 행렬 $\hat{A}^{(h)}_t$를 구성하기 위해, 동일한 특징 스냅샷 $F_t$ 하에서 가능한 모든 상태 $s_i \in S$에 대해 네트워크를 평가합니다. 이는 관측되지 않은 전이에도 유효하고 매끄러운 확률 연산자가 출력되도록 보장합니다.

2.2 모델 아키텍처 및 훈련

• 아키텍처: 멀티 레이어 퍼셉트론 (MLP) 은 원-핫 상태 인코딩과 특징 벡터의 연결 (concatenation) 을 입력으로 받습니다. 소프트맥스 (softmax) 계층을 통해 확률 분포를 출력합니다.
• 훈련 목적 함수: 모델은 음의 로그 가능도를 최소화하기 위해 Adam 최적화를 사용하여 훈련됩니다. 이산화된 수익률의 노이즈를 처리하기 위해, 인접한 빈에 부분 질량을 할당하는 평활화된 타겟 (smoothed-target) 목적 함수를 선택적으로 사용합니다.
• 베이스라인:
  • 상태 제거 제거 (State-Free Ablation): $X_t$를 제거하고 특징 $F_t$에만 조건부인 모델로, 행 불변 연산자를 생성합니다.
  • 경험적 계수기: 고전적 추정량 (주변, 조건부, 백오프 평활화) 으로 고해상도에서 계수법의 실패를 입증합니다.

2.3 진단 도구

출력이 명시적 연산자 행렬이므로, 프레임워크는 특정 진단을 가능하게 합니다:

• 행 이질성 (Row Heterogeneity): 상태 의존성을 정량화하기 위해 행 간의 총변이 거리 (total-variation distance) 를 측정합니다.
• 행 엔트로피 (Row Entropy): 전이 분포의 분산/불확실성을 측정합니다.
• Chapman–Kolmogorov (CK) 일관성: 직접 추정된 $h$-단계 연산자를 $h$개의 1-단계 연산자의 합성 (composition) 과 비교합니다. 이는 1 차 마르코프 가정이 무너지는 시간 창을 식별하는 지역적 진단으로 작용합니다.

3. 주요 결과

실험은 $n=55$개의 빈과 다양한 예측 지평을 가진 단일 주식 (JPM) 에 초점을 맞춥니다.

3.1 경험적 계수의 실패

목표 해상도 ($n=55$) 에서 경험적 전이 행렬은 사실상 비어 있습니다. 셀의 57% 이상이 완전히 관측되지 않았으며, 99.9% 는 5 회 미만의 관측치를 포함합니다. 이는 이 표가 이 해상도에서 연산자 수준의 분석을 지원하지 못함을 확인시켜 줍니다.

3.2 구조적 유효성 및 상태 의존성

• 상태 조건부: 상태 조건부 모델은 $\bar{\rho} = 0.0073$의 평균 행 이질성을 달성하며 비자명한 구조를 가진 연산자를 생성합니다. 반면, 상태 제거 제거 모델은 정확히 $\rho = 0.0000$(동일한 행) 로 붕괴되어, 이산화된 상태 $X_t$가 고유한 전이 정보를 담고 있음을 확인시켜 줍니다.
• 변동성 및 동질화: 역설적인 발견은 고변동성 체제가 전이 역학을 다양화하는 것이 아니라 **동질화 (homogenize)**한다는 것입니다.
  • 행 엔트로피는 실현 변동성과 강력하고 음의 상관관계를 보입니다 ($r = -0.62, p \approx 10^{-251}$).
  • 스트레스 기간 (실현 변동성 상위 20%) 에는 전이 행이 유사하고 집중된 분포로 붕괴됩니다. 반면, 평온한 기간에는 행이 더 다양합니다.

3.3 Chapman–Kolmogorov 진단

CK 진단은 1 차 마르코프 가정이 균일하게 위반되는 것이 아니라 특정 시간 창에서 실패함을 보여줍니다.

• 상태 조건부 모델은 단순한 1-단계 연산자의 곱으로 완벽하게 재구성할 수 없는 진정한 상태 의존 역학을 학습하기 때문에 더 높은 CK 불일치 (평균 KL 발산 0.140 대 베이스라인 0.022) 를 보입니다.
• CK 위반은 특정 창 (예: $t \in [2120, 2200]$) 에 집중되며, 집중적이고 저엔트로피 역학의 기간과 상관관계가 있습니다. 이를 통해 모델은 "기억" 가정이 무너지는 지점을 정확히 파악할 수 있습니다.

3.4 예측 성능

논문은 단일 자산 일일 데이터의 약형 효율성과 저주파 특징의 한계와 일치하는 modest 한 예측 개선을 보고합니다.

• 지평 $h=10$에서 상태 조건부 모델은 주변 베이스라인 대비 $\Delta$NLL 이 $+0.025$를 달성합니다 (95% CI: $[-0.020, +0.028]$).
• 더 짧은 지평에서는 성능이 주변 베이스라인 근처이거나 그 이하입니다.
• 보정 (Calibration) 은 합리적이며, 상태 조건부 모델은 음수 수익률에 대해 0.079 의 기대 보정 오차 (ECE) 를 달성합니다.

4. 중요성 및 주장

본 논문은 최첨단 예측 정확도 달성이 아니라 복잡한 시계열 모델링에 구조적 해석 가능성을 복원하는 데 주요 중요성이 있다고 주장합니다.

• 격차 해소: 신경망이 명시적 확률 연산자와 같은 수리적으로 일관된 구조적 형태를 출력하도록 제약할 수 있음을 보여줌으로써, 고해상도 비정상 데이터에 대한 엄격한 고전적 연산자 분석을 가능하게 합니다.
• 진단 능력: 전이 연산자를 노출시킴으로써, 블랙박스 시퀀스 모델에서는 불가능한 히트맵, 이질성 지표, CK 검사 등 고전적 도구의 사용을 가능하게 합니다.
• 시장 역학에 대한 통찰: 이 프레임워크는 고변동성 기간의 전이 역학 동질화 및 마르코프 가정의 지역적 붕괴와 같은 특정 구조적 행동을 드러내어, 시장 체제를 연구하는 "투명하고 보정된 현미경"을 제공합니다.

저자들은 현재의 단일 자산, 일일 해상도 설정이 신호 대 잡음비를 제한한다는 점을 지적하며 즉각적인 예측 유용성에 대해서는 겸손하게 접근합니다. 그들은 이러한 해석 가능성의 이점을 유지하면서 실질적인 예측 개선을 실현하기 위해서는 다중 자산, 고주파 유니버스로의 확장이 필수적이라고 제안합니다.