Filtered Extreme-Value Theory Meets Asymmetric GARCH: Out-of-Sample Volatility Forecasting and 99% Value-at-Risk Backtesting for U.S. Equity Indices, 2004–2018

금융의 고위험 세계에서 리스크 관리자들은 자본의 수호자로서, 시장이 불리하게 돌아갈 때 포트폴리오가 단 하루 만에 얼마나 많은 돈을 잃을 수 있는가라는 단 하나의 어려운 질문에 끊임없이 답하기 위해 노력합니다. 이를 위해 그들은 주가의 미래 움직임을 예측하려는 수학적 모델에 의존합니다. 이 모델들은 시장의 두 가지 뚜렷한 현실을 반영해야 합니다. 첫째, 시장은 일정하고 예측 가능한 단계로 움직이지 않습니다. 대신, 평온한 시기는 종종 격렬한 난기류로 이어지는데, 이를 변동성 군집 현상(volatility clustering)이라고 합니다. 둘째, 시장이 폭락할 때는 단순 통계가 가정하는 매끄러운 종 모양의 곡선을 따르는 경우가 드뭅니다. 대신, 극단적인 사건이 표준 수학이 예측하는 것보다 훨씬 더 자주 발생하는 '두꺼운 꼬리(fat tails)' 현상을 보입니다. 이러한 변화하는 변동성의 파도를 추적하는 것과 드물게 발생하는 파멸적인 급락의 위험을 정확하게 측정하는 것 사이에서 균형을 잡는 것이 현대 시장 리스크 관리의 핵심 과제입니다.

인도 공과대학교 마드라스(IIT Madras)의 연구원 아린 야다브(Arin Yadav)가 수행한 최근 연구는 서로 다른 수학적 도구들이 미국의 주요 주가 지수, 특히 S&P 500과 NASDAQ 종합 지수의 리스크를 예측할 때 얼마나 잘 작동하는지를 테스트함으로써 이 과제를 다룹니다. 이 연구는 1999년부터 2018년까지 약 20년 동안의 일일 주식 수익률이라는 방대한 데이터셋을 다루며, 특히 모델이 한 번도 접해보지 못한 데이터에서 결과를 테스트하기 위해 2004년 이후의 기간에 초점을 맞추었습니다. 연구의 목표는 이러한 모델에 복잡한 기능들, 즉 나쁜 소식과 좋은 소식에 각각 다르게 반응하는 능력과 극단적인 시장 폭락을 모델링하기 위한 특화된 기술을 추가하는 것이 실제로 현재 사용 중인 표준 방식보다 더 나은 예측을 이끌어내는지 결정하는 것이었습니다.

연구진은 여러 경쟁 모델들을 비교했습니다. 먼저 그들은 시장의 움직임이 상승이든 하락이든 상관없이 모두 동일하게 취급하는 기초 모델(baseline model)로 시작했습니다. 그런 다음, 나쁜 소식이 좋은 소식보다 시장을 더 격렬하게 흔든다는 사실을 인식하는 '레버리지 효과(leverage effect)' 개념을 반영한 더 정교한 버전들을 테스트했습니다. 마지막으로, 일일 변동성을 추적하기 위해 표준 모델을 사용하면서도, 가장 최악의 날들을 살펴볼 때는 특화된 '극단 가치(extreme value)' 기법으로 전환하는 하이브리드 접근 방식을 테스트했습니다. 이 하이브리드 방식은 가장 위험한 손실이 숨어 있는 분포의 꼬리 부분을 더 잘 포착하도록 설계되었습니다. 또한 연구에는 과거 500일 동안 일어났던 일을 단순히 살펴보는 역사적 시뮬레이션(historical simulation)과 같은 오래되고 잘 알려진 방법들과, 시장 수익률이 정규 분포(종 모양의 곡선)를 따른다고 가정하는 표준 모델을 포함한 대조군이 포함되었습니다.

변동성 예측 결과, 더 복잡한 모델들이 약간의 우위를 점하는 것으로 나타났습니다. 부정적인 충격이 긍정적인 충격보다 변동성을 더 크게 증가시킨다는 점을 고려한 모델들이 일일 변동 폭을 예측하는 데 더 나은 성능을 보였습니다. 구체적으로, 이러한 비대칭 모델 중 하나는 S&P 500에 대해 표준 기초 모델 대비 분산 예측 오차를 약 2.2% 줄였습니다. 이 퍼센트가 작아 보일 수 있지만, 금융 모델링의 세계에서 이는 수천 번의 일일 예측에 걸친 일관되고 통계적으로 유의미한 개선을 의미합니다. 그러나 연구 결과, 이러한 모델들이 일반적인 시장 움직임의 크기를 예측하는 데는 더 나았지만, 진정한 돌파구는 드물고 파멸적인 사건을 예측할 때 나타났습니다.

연구진이 100일 중 단 한 번만 돌파되어야 하는 임계값인 99% Value-at-Risk(VaR)를 얼마나 잘 예측하는지 테스트했을 때, 차이는 극명해졌습니다. 널리 사용되는 RiskMetrics 방식과 단순 역사적 시뮬레이션을 포함한 표준 방식들은 반복적으로 실패했습니다. 이들은 너무 많은 돌파 사례를 예측했는데, 이는 리스크를 과소평가하여 모델이 허용된 범위를 훨씬 더 자주 벗어나게 만들었음을 의미합니다. 반면, 변동성 필터와 극단 가치 기법을 결합한 하이브리드 모델은 매우 뛰어난 성과를 보였습니다. S&P 500의 경우, 기대치인 35.3건에 근접한 34건의 돌파를 기록하여 완벽한 예측과 통계적으로 구별할 수 없는 결과를 보여주었습니다. NASDAQ의 경우 44건의 돌파를 기록하여 약간 초과되었으나, 이는 여전히 허용 가능한 범위 내에 있었습니다. 다른 모델들은 통계적 테스트에 의해 기각되었으며, 이는 극단적인 리스크를 측정하는 작업에 있어 근본적으로 잘못 조정되었음을 나타냅了.

하이브리드 모델이 왜 그렇게 잘 작동했는지 이해하기 위해, 연구진은 개선의 원인을 격리하는 특정 실험을 수행했습니다. 그들은 가장 성능이 좋았던 변동성 모델을 가져와서, 극단적인 꼬리를 추정하는 방식을 표준적인 정규 분포 가정으로 교체했습니다. 이 변화로 인해 돌파 횟수는 34건에서 다시 70건으로 급증했습니다. 이 발견은 성공의 주요 동력이 일일 변동성을 추적하는 방식이 아니라, 극단적인 꼬리를 모델링하는 데 사용된 특화된 기술이었음을 시사합니다. 즉, 일일 리듬을 제대로 맞추는 것도 도움이 되었지만, 극단적인 위험 구역의 형태를 제대로 파악하는 것이 필수적이었다는 것입니다.

연구진은 또한 이 모델들이 데이터셋 내에서 가장 심각했던 스트레스 기간인 2008년 9월부터 2009년 6월 사이의 금융 위기 동안 어떻게 작동했는지 살펴보았습니다. 극심한 시장 혼란이 있었던 이 209일 동안, 표준 역사적 시뮬레이션 방식은 리스크 한계를 16번이나 돌파하며 처참하게 실패했습니다. 그러나 하이브리드 모델은 견고함을 유지하며 두 지수 모두에서 단 2~3건의 돌파만을 기록했습니다. 나아가, 모델이 손실을 예측했을 때, 그 특정 날들에 발생한 실제 손실액은 모델의 추정치와 3% 이내의 차이를 보였습니다. 위기 상황에서의 이러한 정확도는 모델이 시장 붕괴로부터 살아남기 위해 얼마만큼의 자본을 보유해야 하는지를 신뢰할 수 있게 알려줄 수 있다는 점에서 매우 중요합니다.

연구진은 비대칭 모델이 일반적인 시장 변동성을 추적하는 데는 완만한 개선을 제공하지만, 안전성을 확보하는 데 있어 가장 큰 이득은 분포의 꼬리를 명시적으로 모델링하는 데서 온다고 결론지었습니다. 시장 폭락이 정규 패턴을 따른다고 가정하는 모델은 현대 은행 규제에서 요구하는 99% 신뢰 수준을 충족하기에 불충분합니다. 연구는 리스크 관리의 두 구성 요소인 '일일 변동성 추적'과 '극단적 사건 모델링'이 서로 다른 실패 모드를 해결한다는 점을 시사합니다. 하나는 타이밍을 돕고, 다른 하나는 리스크 수준이 올바르게 추정되도록 보장합니다. 비록 이 연구가 두 개의 상관관계가 높은 미국 지수와 단일 신뢰 수준에 국한되어 있다는 한계가 있지만, 가장 위험한 리스크를 다룰 때는 일일 변동성을 필터링하는 구체적인 방법보다 극단적인 꼬리를 처리하는 방식이 더 중요하다는 강력한 증거를 제시합니다.