기술 요약: 비동기적 시장 간 글로벌 변동성 예측

1. 문제 정의

본 논문은 국제 주식 시장의 거래 달력이 비동기적인 상황에서 다변량 실현 변동성(multivariate realized volatility)을 예측하는 근본적인 과제를 다룬다. 국제 거래소들은 서로 다른 휴장 일정을 가지고 있으며, 이는 특정 날짜에 일부 시장은 개장하고 다른 시장은 폐장하는 "연합 달력(union calendar)"을 생성한다.

이러한 비동기성은 예측에 있어 두 가지 결정적인 문제를 야기한다:

1. 정보 집합 위반(Information-Set Violation): 전통적인 방식은 비공통 거래일(데이터 손실)을 절단하거나 누락된 데이터를 0으로 대체(노이즈 주입)하는 경향이 있다. 결정적으로, 다단계 예측(multi-step forecasting) 시 모델은 예측 기점($o = t - h$)에서 예측 집합이 엄격하게 제한되지 않을 경우 의도치 않게 미래 정보를 포함할 위험이 있다.
2. 고차원 공간에서의 과적합(Overfitting in High-Dimensional Spaces): 최근 문헌은 비선형적 전이 효과를 포착하기 위해 복잡한 머신러닝 아키텍처(예: STGNN, Transformer)를 활용한다. 그러나 금융 변동성은 신호 대 잡음비(signal-to-noise ratio)가 매우 낮다. 제약 없는 신경망은 견고한 경제적 연결성을 학습하기보다 일시적인 거래 노이즈에 과적합되기 쉬우며, 정적이고 전체 샘플을 사용하는 공분산 행렬을 통해 엄격한 외표본(out-of-sample) 정보 경계를 위반하곤 한다.

본 연구의 핵심 질문은 복잡한 신경망이 무조건 선형 모델보다 우수할 수 있는지 여부가 아니라, 정교하게 규제된, 기점 적응형(origin-admissible) 교차 시장 정보가 확립된 변동성 모델을 넘어 통계적으로 유의미한 점진적 예측 정확도를 제공할 수 있는지 여부이다.

2. 방법론: PGA-Trans-HAR 프레임워크

저자들은 제약된 교차 시장 정보의 가치를 테스트하기 위해 설계된 간결한 하이브리드 예측 시스템인 PGA-Trans-HAR를 제안한다. 이 아키텍처는 동결된 강력한 계량경제학적 베이스라인과 경계가 지정된 신경망 보정치를 결합하며, 네 가지 구체적인 구조적 제약에 의해 제어된다.

A. 예측 기점 적응형 정보 정렬 (Forecast-Origin-Admissible Information Alignment)

시스템은 연합 달력 위에서 작동하지만, 관측된 시장 거래일과 거래소 폐장일을 엄격히 구분한다.

• 마스킹(Masking): 비대칭 마스크($m_{t,n}$)는 폐장된 거래소가 시간적 또는 공간적 소스로서 허위의 제로 변동성 신호를 전달하지 않도록 보장하는 동시에, 해당 시장이 목적지 쿼리(destination queries)로서 기능할 수 있도록 허용한다.
• 엄격한 기점 경계(Strict Origin Bounding): 신경망 윈도우와 롤링 계량경제학적 사전 확률(prior)을 포함한 모든 입력값은 예측 기점 $o = t - h$에 의해 인덱싱된다. 구간 $(o, t]$ 내의 어떤 관측치도 포함되지 않는다.

B. 제약된 교차 시장 정보 채널 (Constrained Cross-Market Information Channel)

모델은 데이터 기반의 공간 주의 메커니즘(spatial attention mechanism)과 구조적 계량경제학적 사전 확률을 결합한다.

• Rolling Ridge-VAR/GFEVD Prior: 예측 기점까지의 직전 252일간의 역사적 윈도우를 바탕으로 릿지 규제화된 벡터 자기회귀(Ridge-regularized VAR) 모델을 추정한다. 일반화된 예측 오차 분산 분해(GFEVD)를 통해 이를 방향성 예측 연결성을 가진 행 정규화 행렬로 변환한다. 이 사전 확률은 20번의 예측 기점마다 갱신되어 미래 참조 편향(look-ahead bias)을 방지한다.
• 데이터 기반 주의(Data-Driven Attention): 공간적 셀프 어텐션 메커니즘은 마스킹된 입력 데이터로부터 직접 의존성을 학습한다.
• 시장별 게이팅(Market-Specific Gating): 각 목적지 시장 $n$에 특화된 학습된 시불변 게이트 $g_n$은 데이터 기반 어텐션과 계량경제학적 사전 확률 사이의 볼록 결합(convex allocation)을 조절한다. 이 게이트는 피팅된 모델 내에서 날짜와 관계없이 일정하며, 외산 신호를 흡수하는 방식의 지속적인 이질성을 포ิ착한다.

C. 벤치마크 중심 비선형 예측 (Benchmark-Centered Nonlinear Forecasting)

이 시스템은 고전적 모델을 대체하는 대신, 이질적 자기회귀(HAR) 모델을 동결된 앵커(anchor)로 사용한다.

• 경계가 지정된 잔차 보정(Bounded Residual Correction): 신경망 시스템은 역 softplus 도메인에서만 제한된 잔차 보정을 예측한다. 최종 예측값은 다음과 같다:
  $$\hat{x}_{t,n} = \text{softplus}\left( \text{softplus}^{-1}(\hat{x}^{\text{HAR}}_{t,n}) + \alpha_n r_{b,n} \delta_{b,n} \right)$$
  여기서 $\hat{x}^{\text{HAR}}$는 동결된 선형 HAR 예측치이며, 신경망 항은 $\alpha_n$과 시그모이드 게이트 $r_{b,n}$에 의해 엄격히 제한된다. 이는 양수성을 보장하며 신경망 성분이 오직 점진적인 가치만을 제공하도록 보장한다.

D. 노드 균형 최적화 (Node-Balanced Optimization)

손실 함수에는 단일 시장에서의 심각한 상대적 성능 저하를 징벌하는 항이 포함되어 있어, 모델이 특정 시장을 희생하면서 전체 패널 성능을 최적화하는 것을 방지한다.

3. 주요 기여

1. 비동기 환경에서의 방법론적 엄밀성: 논문은 비동기적 거래 달력을 처리하기 위한 엄격한 프로토콜을 공식화하여, 모든 예측 입력이 예측 기점에서 엄격히 관측 가능하도록 함으로써 입력값 및 관계 그래프 모두에서 미래 참조 편향을 제거하였다.
2. 간결한 하이브리드 아키텍처: 제약된 하이브리드 시스템(계량경제학적 사전 확률 + 데이터 기반 어텐션 + HAR 앵커)이 저신호-고잡음 환경에서 순수 선형 모델 및 제약 없는 딥러닝 아키텍처보다 우수함을 입증하였다.
3. 복잡성의 구조적 절제(Ablation): 중첩된 절제 실험(nested ablations)을 통해 아키텍처 구성 요소의 구체적인 가치를 분리해냈으며, 이를 통해 단순한 유연성이 반드시 성능 향상으로 이어지는 것은 아니며 구조적 규제가 점진적 이득을 위해 필수적임을 보여주었다.
4. 강건한 통계적 평가: 5개 시드 앙상블, HAC 조정 Diebold–Mariano 검정, 그리고 일간, 주간, 월간 지평에 걸친 모델 신뢰 집합(MCS)을 포함한 종합적인 평가 체계를 사용하였다.

4. 실증 결과

연구는 2006년부터 2022년까지 8개의 주요 글로벌 지수(SPX, GDAXI, FCHI, FTSE, OMXSPI, N225, KS11, HSI)의 고빈도 데이터를 활용하였다.

• HAR 베이스라인 대비 성능:
  • 일간($h=1$) 및 주간($h=5$): 8개 시장 모두에서 단변량 HAR 벤치마크 대비 MSE와 MAE를 모두 감소시켰다.
  • 월간($h=22$): 제약된 프레임워크는 8개 시장 중 7개 시장에서 오차를 감소시켰다.
• 광범 \text{벤치마크 대비 성능:
  • 일간: 가장 낮은 교차 시장 평균 MAE를 달이트(단, 선형 HAR-KS는 MSE를 최소화함).
  • 주간 및 월간: 전체 선형 및 딥러닝 벤치마크(VHAR, GNN-HAR, DCRNN-HAR, Pure-ST-Transformer 포함) 중에서 가장 낮은 평균 MSE 및 MAE를 달성하였다.
• 통계적 유의성:
  • Diebold–Mariano 검정은 특히 일간 및 주간 지평의 절대 손실(MAE) 조건에서 통계적으로 유의미한 개선을 확인하였다.
  • 모델 신뢰 집합(MCS) 결과, 모델은 주간 및 월간 지평의 모든 시장에서 우수 집합(superior set)에 포함되었으나, 일간 지평에서는 스칼라 게이팅 변형 모델들과 경쟁이 치열함을 보였다.
• 절제 실험 통찰:
  • 지평 의존성: 롤링 계량경제학적 사전 확률 단독 모델이 일간 지평에서 가장 유의미한 이득을 제공하였다.
  • 게이트 효능: 학습된 시장별 게이트($g_n$)는 주간 및 월간 지평에서 균일한 스칼라 혼합($g=0.5$)보다 정확도를 개선했으나, 일간 지평에서는 오히려 성능을 저하시켰다. 이는 단기 예측은 더 강력한 균일 수축(shrinkage)의 혜의를 받는 반면, 장기 지평은 차별화된 교차 시장 배분을 필요로 함을 시사한다.
  • 복잡성: 제약 없는 딥 어텐션(Pure-ST-Transformer)은 단기 지평에서 HAR보다 우수한 성능을 보이지 못했으며, 이는 아키텍처의 유연성만으로는 경제적 규제 없이는 불충분함을 확인시켜 준다.

5. 의의 및 주장

본 논문은 조건부 긍정(qualified affirmative) 결론을 내린다. 즉, 훈련된(disciplined) 기점 적응형 교차 시장 정보는 HAR 앵커에 대해 진정한 점진적 예측 가치를 제공하며, 이러한 이득은 구조적 전이 효과가 지속되는 중기 및 장기 지평에서 가장 뚜렷하게 나타난다.

저자들은 본 연구의 기여가 딥러닝의 우월성이나 계량경제학의 압도적 승리가 아니라, 제약된 정보의 가치에 있음을 강조한다. 결과는 다음과 같은 금융 예측 환경에서의 시사점을 제공한다:

• 아키텍처의 유연성은 경제적으로 해석 가능한 제약(예: 기점 적응형 사전 확률, 경계가 지정된 잔차)에 의해 통제될 때 가장 효과적이다.
• "블랙박스" 접근법은 예측을 HAR(확립된 변동성 역학)에 고정하고 신경망이 오직 경계가 지정된 점진적 보정만을 제공하도록 하는 하이브리드 접근법보다 효과적이지 않다.
• 롤링 GFEVD 사전 확률, 비대칭 마스킹, 그리고 시장별 게이팅 메커니즘의 특정 조합은 경제적 규제 없이 과적합하지 않으면서 교차 시장 데이터로부터 점진적인 예측 기여도를 성공적으로 추출해 낸다.

본 논문은 모델의 보편적 우위, 구조적 인과 식별, 또는 위기 국면의 내생적 예측 능력에 대한 주장을 명시적으로 피한다. 대신, 이 프레임워크를 가용 정보 집합의 경계를 엄격히 준수하면서 점진적 정확도를 추출하기 위한 견고한 방법론으로 포지셔닝한다.