기술 요약: 확률적 금융 리스크 예측을 위한 주기 인지형 아날로그 검색 (Period-Aware Analog Retrieval)

1. 문제 정의

본 연구가 다루는 핵심 과제는 금융 수익률의 전체 분포, 특히 바젤 III(Basel III)와 같은 프레임워크에서 요구되는 가치평가 위험(VaR) 및 기대 손실(Expected Shortfall, ES)을 위한 꼬리 리스크(tail risk)를 정확하게 예측하는 것입니다. 기존 방법론들은 근본적인 사각지대를 가지고 있습니다. 즉, 과거의 관측치가 현재의 시장 환경과 구조적으로 비교 가능한지 검증하지 않은 채, 전역적으로 통합된 과거 데이터에 모델을 적합시킴으로써 예측을 구축한다는 점입니다.

기존 문헌에서 식별된 세 가지 주요 한계점은 다음과 같습니다:

1. 모수적 방법론 (Parametric Methods): GARCH, CAViaR, 분위 회귀(quantile regression)와 같은 모델들은 함수 형태에 대한 가정을 부과하며, 이는 꼬리 부분에서 무너지거나 체제 전환(regime shifts)을 포착하지 못하는 경우가 많습니다 (Engle and Manganelli 2004; Ghysels et al. 1996).
2. 나이브한 아날로그 방법론 (Naive Analog Methods): 전통적인 아날로그 검색은 원시 피처 공간에서의 유클리드 거리를 사용하므로, "체제 혼합(regime mixing)"(예: 2009년 위기 상황의 날을 2017년 저변동성 상황의 날과 유사하다고 취급함)과 "달력 인식 결여(calendar blindness)"(계절적 이질성을 무시함)를 초래하여 꼬리 추정치의 미교정(miscalibration)을 발생시킵니다 (A¨ıt-Sahalia and Lo 1998; Brock et al. 1992).
3. 딥러닝의 한계 (Deep Learning Limitations): LSTM이나 Transformer와 같은 아키텍처는 강력한 표현력을 학습하지만, 이들은 조건부 분포의 형태나 시장 에피소드 간의 구조적 유사성을 보존하기보다는 지점별 예측 오차(pointwise prediction error) 최적화에 집중합니다 (Hochreiter and Schmidhuber 1997; Vaswani et al. 2017).

본 논문은 분포적 예측을 **검색 문제(retrieval problem)**로 재정의해야 한다고 주장합니다. 즉, 거시경제적 체제, 연중 시기, 피처 구조 측면에서 현재 상태와 유사한 과거의 시장일들을 식별하고, 그들의 실현된 결과를 사용하여 예측 분포를 구축하는 것입니다.

2. 방법론: 주기 인지형 아날로그 검색 (PAAR)

제안된 PAAR 프레임워크는 검색된 아날로그가 진정으로 비교 가능한 환경에서 왔음을 보장하기 위해 세 가지 필터에 의해 제약된 검색 문제로 분포적 예측을 취급합니다.

2.1 아키텍처 개요

파이프라인은 피처 구성, 체제 식별, 인코더 학습, 그리고 검색 기반 분포 추정의 네 단계로 구성됩니다.

2.2 피처 구성

추세, 반전, 변동성, 유동성, 모멘텀, 거시경제 신호 및 시장 폭(breadth)을 아우르는 지표들로부터 구성된 시장 피처 벡터 $x_t \in \mathbb{R}^{25}$를 구축합니다. 피처들은 구조적 추세를 제거하기 위해 이전 252일간의 이동 z-score를 사용하여 정규화됩니다. 달력 메타데이터(연중 일자, 월 등)는 보조 입력으로 추가되지만, 유사도 측정에서는 제외되며 대신 검색 제약 조건으로 활용됩니다.

2.3 체제 식별 (필터 1)

체제 혼합을 방지하기 위해, 아카이브는 **4-상태 가우시안 은닉 마르코프 모델(HMM)**을 사용하여 분할됩니다. HMM은 표면적인 가격 패턴보다는 거시경제적 배경을 포착하기 위해 5차원 거시경제 벡터(10일 실현 변동성, 수익률 곡선 기울기, 10년 만기 국채 수익률 변화, FX 변화, 60일 모멘텀)에 적합됩니다.

• 제약 조건: 쿼리 날짜와 동일한 추론된 체제에 할당된 아카이브 관측치만이 후보가 될 수 있습니다.
• 적응: 현재 체제의 데이터가 희소한 경우, HMM 전이 확률에 따라 인접한 체제로 검색 범위를 확장합니다.

2.4 인코더 학습

메트릭의 부적절함(유클리드 거리가 구조적 유사성을 포착하지 못하는 문제)을 해결하기 위해, 3층 MLP 인코더가 $x_t$를 32차원 임베딩 $e_t$로 매핑합니다. 인코더는 다음의 복합 손실 함수로 학습됩니다:

• 결과 정렬 손실 (Outcome Alignment Loss): 동일한 체제 내에서 실현된 수익률 분위수가 유사한 날들은 서로 끌어당기고, 분위수가 다른 날들은 서로 밀어냅니다.
• 체제 분리 손실 (Regime Separation Loss): 서로 다른 체제의 임베딩이 최소 2.0의 마진만큼 떨어져 있도록 보장합니다.

2.5 3단계 필터링 캐스케이드

쿼리 날짜 $t$가 주어지면, 검색 프로세스는 세 가지 연속적인 필터를 적용합니다:

1. 체제 게이트 (Regime Gate): 후보군을 동일한 HMM 체제로 제한합니다.
2. 주기 인지 윈도우 (Period-Aware Window): 체제 필터링된 풀 내에서 $|\ell_s - \ell_t| \le \delta$ (기본값 $\delta=30$일) 조건을 만족하는 관측치만을 유지하여 계절적 유사성(예: 10월 말과 10월 말의 매칭)을 보장합니다.
3. 다면적 유사도 (Multi-Facet Similarity): 남은 후보들은 다음을 결합한 가중치 점수 $\phi(x_t, x_s)$에 의해 순위가 매겨집니다:
   • 가격 패턴 형상 (추세/반전).
   • 거시경제적 정렬.
   • 변동성 프로파일.
   • 학습된 임베딩 거리 ($\phi_{embed}$).
   • 참고: 고변동성 체제에서는 분포의 선명도를 유지하기 위해 이웃 수 $k$를 축소합니다.

2.6 분포 추정

예측 분포 $\hat{F}_{t+h}(y)$는 상위-$k$개의 아날로그들의 실현된 순방향 수익률에 대한 가중 경험적 누적 분포 함수(empirical CDF)로 구축됩니다.

• 스무딩 (Smoothing): 가우시안 커널 밀도 추정(KDE)이 적용됩니다.
• 폴백 (Fallback): 스트레스 상황의 체제에서 아날로그 풀이 작은 경우, 헤비 테일을 수용하기 위해 최대 가능도 추정(MLE)을 통한 Student-t 적합으로 전환됩니다.
• 교정 (Calibration): 252일 윈도우 동안 체계적인 커버리지 오류를 수정하기 위해 롤링 분위수 재교정기(isotonic regression)가 사용되며, 특히 꼬리 분위수를 타겟팅합니다.

3. 주요 기여

본 논문은 세 가지 구체적인 기여를 합니다:

1. 체제 및 주기 인지 프레임워크: 체제 혼합, 계절적 혼란, 메트릭 부적절성을 공동으로 해결하는 구조화된 검색 시스템을 제공하며, 모델 에러의 소재를 파라미터 형태에서 검색된 이웃 집합의 품질로 전환합니다.
2. 학습된 유사도 메트릭: 점별 예측 오차가 아닌 분포적 결과(수익률 분위수)와 기하학적 구조를 정렬하도록 특화되어 학습된 임베딩 공간을 제공합니다.
3. 평가 프로토콜: 적절한 스코어링 규칙(WQL, CRPS), 꼬리 리스크 교정(VaR/ES), 그리고 경제적 성과(Sharpe ratio)를 사용하여 다양한 시장 사이클에 걸친 종합적인 평가를 수행합니다.

4. 실험 결과

프레임ets는 1995년 1월부터 2026년 3월까지의 S&P 500 일간 데이터를 사용하여 10개의 베이스라인(고전적 모델, ML, 딥러닝, 파운데이션 모델)에 대해 워크 포워드 백테스트를 실시했습니다.

4.1 분포 정확도

• PAAR-RAF (유사도 측면에 파운데이션 모델 임베딩을 포함)와 PAAR-KDE가 가장 우수한 가중 분위 손실(WQL)과 연속 확률 밀도 점수(CRPS)를 달성했습니다.
• 두 PAAR 변형 모두 평균 절대 척도 오차(MASE)가 1.0 미만으로 나타나, 나이브 벤치마크보다 일관된 개선을 입증했습니다.
• Diebold-Mariano 검정을 통한 통계적 유의성 테스트 결과, PAAR-RAF가 고전적인 ARMA/ARIMA 모델을 포함한 모든 베이스라인을 유의미하게 능가함을 확인했습니다.

4.2 꼬리 교정 및 리스크 관리

• VaR 커버리지: PAAR-KDE는 10% 목표 VaR 초과율에 근접하게 유지되었으며 Kupiec 검정을 통과했으나, 많은 ML 및 딥러닝 베이스라인은 심각한 과소 커버리지를 보였습니다 (예: Random Forest 24%, Chronos 25.1%).
• 경제적 성과: PAAR 변형들은 딥러닝 베이스라인보다 우수한 샤프 지수(Sharpe ratio)를 달型했습니다. PAAR-KDE는 26년의 윈도우 동안 가장 높은 최종 수익을 기록했으며, 2008년과 2020년 위기 속에서도 양(+)의 궤적을 유지했습니다.
• 파운데이션 모델: Chronos 파운데이션 모델의 제로샷 배포는 심각한 꼬리 미교정을 초래했습니다. 그러나 그 임베딩을 검색 측면으로 사용한 경우(PAAR-RAF) 전반적으로 가장 우수한 성능을 보였는데, 이는 파운데이션 모델이 직접적인 확률적 예측기보다는 표현 학습 도구로서 가치가 있음을 시사합니다.

4.3 절제 연구 (Ablation Study)

세 가지 필터 캐스케이드 중 하나라도 제거하면 성능이 저하되었습니다:

• 다면적 유사도 미사용: WQL/CRPS에서 가장 큰 저하가 발생하여, 표현의 품질이 정확도의 핵심 동력임을 확인했습니다.
• 체제 게이트 미사용: 샤프 지수가 감소하였으며, 이는 제약 없는 검색이 구조적으로 호환되지 않는 상태로부터 노이즈를 도입함을 나타냅니다.
• 주기 필터 미사용: WQL은 약간 개선되었으나 샤프 지수는 크게 감소했습니다. 이는 집계된 지표는 놓칠 수 있어도, 꼬리 행동과 위험 조정 수익을 위해서는 계절적 정렬이 매우 중요하다는 것을 보여줍니다.

5. 의의 및 주장

본 논문은 금융 예측을 함수 근사에서 조건부 분포 검색으로 재구성하는 것이 두 가지 실질적인 이점을 제공한다고 주장합니다:

1. 오설정(Misspecification) 회피: 비교 가능한 조건 하에서의 실현된 결과를 통해 직접 분포를 구축함으로써, 수익률 분포에 파라미터 패밀리를 강요하거나 이질적인 체제를 가로질러 전역 모델이 외삽(extrapolate)해야 하는 문제를 피합니다.
2. 규제 및 실행 가능성: 명명된 역사적 아날로그에 의해 뒷받침되는 해석 가능한 예측을 생성하며, 여러 위기 상황에서도 명목 목표에 근접한 꼬리 커버리지를 유지합니다. 이는 정확한 꼬리 교정이 매우 중요한 자본 적정성(바젤 III) 규제 요구 사항을 직접적으로 충족합니다.

저자들은 단일 주식 지수에 국한된 점, HMM 체제 추정의 순환성 가능성, 그리고 모든 체제-달력 조합에 대해 충분한 아날로그가 아카이브에 존재한다는 가정 등의 한계를 언급했습니다. 또한 향후 연구에서 검색 아카이브를 다양한 자산군으로 확장하고 온라인 검색 업데이트를 탐색할 것을 제안했습니다.