On options-driven realized volatility forecasting: Information gains via rough volatility model

이 논문은 러프 확률변동성 모델을 기반으로 옵션 데이터에서 추출한 스폿 변동성 추정치를 Heterogeneous Autoregressive(HAR) 모델에 통합함으로써, 기존 확률변동성 모델 및 VIX 지수보다 일간 실현변동성 예측 정확도와 1 개월 horizon 전반에 걸친 예측 성능을 크게 향상시킨다는 것을 보여줍니다.

핵심

이 논문은 **"주가의 변동성 (가격이 얼마나 들쑥날쑥한지) 을 더 정확하게 예측하는 새로운 방법"**에 대해 다룹니다.

기존의 예측 방법들이 과거 데이터만 보고 미래를 짐작했다면, 이 연구는 옵션 (선물) 시장에서 나오는 '미래에 대한 시장의 기대감'을 수학적으로 분석해서 예측 정확도를 높이는 방식을 제안합니다. 특히, '거친 (Rough)' 변동성이라는 새로운 개념을 도입하여 기존 방법들보다 훨씬 뛰어난 성과를 냈다고 말합니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 핵심 비유: 날씨 예보와 '기분'을 읽는 일기장

기존 방법 (HAR 모델):
과거의 일기장 (과거 주가 데이터) 을 뒤져서 "어제 비가 왔으니 오늘도 비가 올 확률이 높다"라고 예측하는 방식입니다. 과거의 패턴을 잘 분석하지만, 지금 막 구름이 끼기 시작하는 '미래의 변화'는 놓치기 쉽습니다.

이 연구의 방법 (옵션 기반 예측):
날씨 예보관들이 과거 일기장뿐만 아니라, **사람들이 "내일 비가 올 것 같아서 우산을 사려는 모습 (옵션 시장 데이터)"**까지 관찰하는 것입니다. 사람들은 내일 비가 올지 모른다고 생각하면 우산을 사는데, 이 '우산 구매 열기'는 실제 비가 오기 전부터 이미 나타나죠. 이 연구는 이 '우산 구매 열기'를 수학적으로 분석해서 날씨 (주가 변동성) 를 더 정확히 예측합니다.

2. 새로운 발견: "거친 (Rough)" 변동성이란 무엇인가?

기존의 수학 모델들은 주가의 움직임을 매끄러운 곡선으로 그리는 경향이 있었습니다. 마치 부드러운 실크 천처럼요. 하지만 실제 주가는 실크가 아니라 거친 모래알처럼 매우 불규칙하고 급격하게 움직입니다.

• 기존 모델 (Heston, Bates 등): 실크 천처럼 매끄러운 움직임을 가정합니다.
• 이 연구의 모델 (Rough Heston): 거친 모래알처럼 미세하게 요동치는 실제 시장의 성질을 반영합니다.

논문의 결론은 **"실크 천으로 만든 옷보다, 거친 모래알을 정교하게 다듬은 옷이 실제 날씨 (변동성) 를 더 잘 막아준다"**는 것입니다. '거친 변동성' 모델을 쓰면 예측 정확도가 훨씬 높아집니다.

3. 기술적 난제 해결: "AI 가 대신 계산해 줍니다"

문제는 이 '거친 모래알' 모델을 계산하는 게 너무 어렵고 느리다는 점입니다. 컴퓨터가 모든 계산을 하려면 몇 시간이 걸릴 수도 있어, 실시간 예측에는 쓸모가 없었습니다.

• 해결책: 연구진은 **딥러닝 (인공지능)**을 활용했습니다.
• 비유: 복잡한 수학 공식 (거친 모래알 계산) 을 매번 풀지 않고, AI 가 수백만 번의 연습을 통해 **"이런 입력이 들어오면 대략 이런 결과가 나오겠구나"**라고 외워둔 **가벼운 대용량 지도 (Surrogate)**를 만들었습니다.
• 덕분에 복잡한 계산이 순식간에 끝나서, 실시간으로 시장 데이터를 분석하고 예측할 수 있게 되었습니다.

4. 연구 결과: 누가 이겼나?

연구진은 2011 년부터 2021 년까지의 S&P 500 지수 데이터를 가지고 실험을 했습니다.

1. 정확도: 과거 데이터만 보는 기존 모델보다, 옵션 시장의 기대감을 반영한 '거친 변동성' 모델이 훨씬 정확하게 다음 날의 주가 등락폭을 예측했습니다.
2. 방향성 예측: 주가가 오를지 내릴지 (방향) 를 맞히는 능력도 기존 모델보다 약 5.6% 더 높았습니다. 이는 투자 전략을 짤 때 매우 중요한 지표입니다.
3. 지속성: 1 일 후뿐만 아니라 1 주, 1 개월 후의 예측에서도 이 모델이 계속 우위를 보였습니다.

5. 요약: 왜 이 연구가 중요한가?

• 과거만 보지 않는다: 옵션 시장에서 사람들이 '미래'를 어떻게 생각하는지 (Forward-looking) 를 수학적으로 끌어와 예측에 활용했습니다.
• 현실적인 모델: 주가의 거친 움직임을 더 잘 반영하는 'Rough Heston' 모델을 도입했습니다.
• 실용성: 복잡한 계산을 AI 로 빠르게 해결하여, 이론이 실제 투자에 쓸모 있게 만들었습니다.

한 줄 요약:

"과거의 일기장만 보던 날씨 예보에, **'사람들이 우산을 사려는 미래의 기대감'**과 **'AI 가 계산한 정교한 거친 모래알 모델'**을 더해서, 주가의 등락을 훨씬 정확하게 예측할 수 있게 되었습니다."

기술 요약

논문 요약: 옵션 기반 실현 변동성 예측을 위한 Rough Volatility 모델의 정보 이득

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 변동성 (Volatility) 은 자산 가격 결정, 위험 관리, 통화 정책 등에서 핵심적인 역할을 합니다. 최근 고빈도 데이터의 활용으로 '실현 변동성 (Realized Volatility, RV)'을 정밀하게 추정할 수 있게 되었으며, Corsi (2009) 의 이질적 자기회귀 (HAR) 모델은 RV 예측의 표준 벤치마크로 자리 잡았습니다.
• 문제점: 기존 HAR 모델 및 대부분의 변동성 예측 연구는 과거의 주가 수익률 데이터 (후행 정보) 에만 의존합니다. 반면, 옵션 가격은 미래 현금 흐름에 대한 시장 참여자의 기대를 반영하므로 **선행 정보 (Forward-looking information)**를 포함하고 있습니다.
• 연구 목적: 옵션 시장에서 추론된 모델 기반의 스폿 변동성 (Spot Volatility) 추정치를 HAR 모델에 통합하여, 기존 모델들의 예측 능력을 향상시킬 수 있는지, 특히 최신 이론인 Rough Volatility (거친 변동성) 모델이 전통적인 확률 변동성 모델 (Heston, Bates, SVCJ) 및 VIX 지수보다 우월한 정보 이득을 제공하는지 검증하는 것입니다.

2. 방법론 (Methodology)

가. 데이터 및 기본 모델

• 데이터: S&P 500 지수의 고빈도 (5 분) 내일 수익률 (2011 년 1 월~2021 년 6 월) 과 옵션 데이터 (OptionMetrics) 를 사용했습니다.
• 벤치마크: Corsi (2009) 의 HAR 모델을 기반으로 하며, 여기에 VIX 지수 (HAR-RV-VIX) 와 다양한 확률 변동성 (SV) 모델에서 추론된 스폿 변동성 (HAR-RV-SV) 을 추가한 HARX 모델을 구성했습니다.

나. Rough Heston 모델 및 파라미터 추정

• 모델: 전통적인 Heston, Bates, SVCJ 모델과 비교 대상으로 **Rough Heston 모델 (El Euch & Rosenbaum, 2019)**을 사용했습니다. 이 모델은 변동성의 '거친 (rough)' 경로 특성을 포착하여 기존 모델이 간과한 변동성 역학을 설명합니다.
• 추정 프레임워크 (Andersen et al., 2015a):
  • 옵션 패널 데이터에서 잠재적 변동성 ($V_t$) 과 모델 파라미터를 추정하기 위해 **반복적 2 단계 절차 (Iterative Two-step Approach)**를 적용했습니다.
  • 1 단계: 구조 파라미터를 고정하고 스폿 분산 시계열을 추정.
  • 2 단계: 추정된 스폿 분산을 이용해 구조 파라미터를 최적화.
  • 이 과정을 수렴할 때까지 반복하며, 옵션 가격 적합도와 고빈도 실현 변동성 간의 일치를 penalized nonlinear least squares (NLS) 를 통해 달성했습니다.

다. 딥러닝 서브레이트 (Deep Learning Surrogate) 활용

• 도전 과제: Rough Heston 모델은 비마코프적 (non-Markovian) 성질과 분수 Riccati 방정식으로 인해 계산 비용이 매우 높습니다. 대규모 옵션 패널 데이터에서 반복 추정을 수행하는 것은 계산적으로 불가능에 가깝습니다.
• 해결책: **딥러닝 기반의 경량 서브레이트 (Surrogate)**를 개발하여 옵션 가격 함수를 근사화했습니다.
  • 수백만 개의 합성 데이터 (모델 파라미터 + 계약 변수 $\to$ 옵션 가격) 를 학습시켜 신경망 (MLP) 을 훈련시켰습니다.
  • 이 서브레이트는 기존 수치적 가격 결정 엔진 (Fourier inversion 등) 을 대체하여 추정 속도를 획기적으로 가속화하면서도 높은 정확도를 유지했습니다.

3. 주요 기여 (Key Contributions)

1. Rough Volatility 의 통합: HAR 모델에 Rough Heston 모델에서 추출한 스폿 변동성 추정치를 통합하여, 변동성의 미세한 역학 (rough path persistence) 을 포착하고 예측 정확도를 높였습니다.
2. 강건한 파라미터 추정 프레임워크: Andersen et al. (2015a) 의 일관성 있는 파라미터 추정 방법을 대규모 옵션 패널에 적용하여, 잠재 상태 (latent states) 와 모델 파라미터를 신뢰성 있게 복원했습니다.
3. 계산 효율성 혁신: Rough Volatility 모델의 계산적 한계를 딥러닝 서브레이트를 통해 극복하여, 대규모 데이터셋에서의 실증 분석을 가능하게 했습니다. 이는 금융 분야에서 딥러닝을 '직접 예측'이 아닌 '모델 추정 가속화' 도구로 활용한 사례입니다.

4. 실증 결과 (Results)

• 인-샘플 (In-sample) 분석:

  • HAR-RV-RHeston 모델이 모든 벤치마크 (HAR-RV, HAR-RV-VIX, Heston, Bates, SVCJ) 보다 가장 높은 **수정된 $R^2$ (0.644)**을 기록했습니다.
  • Rough Heston 계수는 통계적으로 매우 유의미하며 (t-stat = 13.767), 기존 SV 모델이나 VIX 보다 추가적인 설명력을 제공함을 보였습니다.

• 아웃-오브-샘플 (Out-of-sample) 예측:

  • 오차 지표: HAR-RV-RHeston 모델은 MAE, RMSE, QLIKE 모든 지표에서 가장 낮은 오차를 기록했습니다. (예: MAE 0.2137, HAR-RV 대비 9% 감소).
  • 방향성 예측 (MDA): 변동성 상승/하락 방향을 예측하는 정확도 (MDA) 가 **73.60%**로, 기존 HAR-RV 모델 (68.00%) 보다 5.6%p 높았습니다. 이는 트레이딩 전략 최적화에 매우 중요한 성과입니다.
  • 통계적 유의성: Diebold-Mariano (DM) 검정 결과, HAR-RV-RHeston 모델은 모든 다른 모델보다 통계적으로 유의하게 우월한 예측 성능을 보였습니다.

• 다중 예측 구간 (Multi-horizon):

  • 1 일부터 22 일 (약 1 개월) 까지의 다양한 예측 구간에서 HAR-RV-RHeston 모델이 일관되게 낮은 오차와 높은 방향성 정확도를 유지했습니다.

5. 의의 및 결론 (Significance)

• 이론적 의의: 옵션 시장에서 추출된 '거친 변동성 (Rough Volatility)' 정보가 전통적인 확률 변동성 모델이나 비모수적 VIX 지수보다 미래 실현 변동성 예측에 더 풍부한 정보를 제공함을 실증적으로 입증했습니다.
• 실무적 의의: 변동성 예측 정확도의 향상은 파생상품 가격 결정, 위험 관리 (VaR 등), 그리고 변동성 기반 트레이딩 전략의 수익성 개선에 직접적인 기여를 할 수 있습니다.
• 방법론적 의의: 딥러닝을 복잡한 금융 모델의 계산 가속화 도구로 활용하는 새로운 패러다임을 제시하여, 향후 더 복잡한 금융 모델 (예: Quadratic Rough Heston) 의 실증 분석 가능성을 열었습니다.

결론적으로, 이 연구는 Rough Volatility 모델과 딥러닝 기반 추정 기법을 결합함으로써 실현 변동성 예측의 새로운 표준을 제시하며, 옵션 기반 정보의 가치와 변동성의 '거친' 특성이 예측 모델에서 갖는 중요성을 강조합니다.