An outlier-robust dynamic semiparametric model for jointly forecasting value-at-risk and expected shortfall

당신이 일 년 중 가장 최악의 폭풍을 예측하려는 기상 예보관이라고 상상해 보십시오. 당신은 단순히 비가 언제 시작되는지만 알고 싶은 것이 아니라, 제방이 무너졌을 때 침수된 물이 얼마나 깊어질지 알아야 합니다. 금융의 세계에서 이것이 바로 리스크 관리자들이 하는 일입니다. 그들은 금융 시장이 붕괴할 위험을 측정하기 위해 두 가지 특별한 도구를 사용합니다. 첫 번째 도구인 **가치-위험(Value-at-Risk, VaR)**은 99%의 확률로 넘지 않을 것이라고 확신하는 수위를 알려주는 홍수 측정기와 같습니다. 이는 대중적인 "모래 위의 선"입니다. 두 번째 도구인 **기대 쇼트폴(Expected Shortfall, ES)**은 훨씬 더 결정적입니다. 이 도구는 "좋다, 물이 저 선을 넘을 수도 있다는 건 알겠다. 하지만 만약 넘게 된다면, 실제로 물이 얼마나 깊어질 것인가?"라고 묻습니다. 즉, 최악의 시나리오들이 보여주는 평균적인 깊이입니다.

수십 년 동안 수학자들은 이러한 수준을 예측하기 위해 복잡한 모델을 구축해 왔습니다. 그러나 이 모델들에는 하나의 비밀스러운 약점이 있습니다. 바로 "이상한" 데이터 포인트를 마주했을 때 패닉에 빠진다는 점입니다. 금융에서 "이상한" 포인트란 이상치(outlier)를 의미합니다. 즉, 일반적인 패턴에 부합하지 않는 갑작스럽고 거대한 가격 급등이나 급락을 말합니다. 마치 잔잔한 호수에 떨어진 유성처럼 말이죠. 표준 모델들은 이러한 유성을 그저 약간 더 큰 빗방울 정도로 취급하여, 미래의 예측 전체를 왜곡하게 만듭니다. 이 논문은 왕지에(Jie Wang)와 쉬부윈(Buyun Xu)이 작성하였으며, 충격 흡수 장치처럼 작동하는 새로운 방식의 모델 구축법을 소개합니다. 이 모델은 단 하나의 유성이 전체 시스템을 파괴하게 두는 대신, 극단적인 스파이크를 무시하는 법을 배워서 날씨가 혼란스러워지더라도 홍수 측정기가 정확한 상태를 유지하도록 합니다.

---

문제점: 나쁜 사과 하나가 예보 전체를 망칠 때

금융 시장은 결코 평온하지 않습니다. 놀라움으로 가득 차 있습니다. 때로는 갑작스러운 스캔들 때문에 주가가 하루 만에 10% 하락하기도 하고, 깜짝 실적 발표 때문에 15% 급등하기도 합니다. 통계학의 언어로 이것들은 **이상치(outliers)**입니다.

VaR와 ES를 예측하는 데 사용되는 표준 모델들은 매우 민감하고 정교한 온도 조절기와 같습니다. 만약 당신이 그 위에 얼음물을 끼얹는다면, 온도 조절기는 단순히 온도를 조절하는 데 그치지 않고, 집 전체가 얼어붙었다고 착각하여 히터를 완전히 꺼버리는 등 패닉에 빠질 것입니다. 현실 세계에서 이는 단 한 번의 거대한 시장 충격이 모델로 하여금 과잉 반응하게 만들어, 일어나지 않을 수도 있는 재앙을 예측하거나, 더 심하게는 지난번 사건에 너무 매몰되어 다음번의 진짜 위험을 보지 못하게 만들 수 있음을 의미합니다.

이 논문의 저자들은 이러한 모델들이 일반적인 시장의 "날씨"를 다루는 데는 뛰어나지만, "날씨"가 극단적으로 변할 때는 무너진다는 점에 주목했습니다. 그들은 "그래, 방금 엄청난 스파이크가 발생했지만, 그렇다고 해서 이 시장이 움직이는 방식에 대한 역사를 통째로 다시 쓰게 만들지는 말자"라고 말할 수 있는 모델을 만들고자 했습니다.

해결책: "제한된 혁신 전파(Bounded Innovation Propagation)" 충격 흡수 장치

이를 해결하기 위해 연구진은 **제한된 혁신 전파(Bounded Innovation Propagation, BIP)**라는 개념을 도입했습니다. 이것을 모델의 뇌를 위한 충격 흡수 장치라고 생각하십시오.

당신이 울퉁불퉁한 도로를 운전하고 있다고 상상해 보십시오. 표준 모델은 서스펜션(현가장치)이 없는 자동차와 같습니다. 포트홀(이상치)을 칠 때마다 자동차 전체가 격렬하게 흔들리고 운전자는 통제력을 잃습니다. 새로운 BIP 모델은 헤비듀티 서스펜션이 장착된 자동차와 같습니다. 거대한 포트홀을 밟더라도 서스펜션이 충격을 흡수하기 위해 압축됩니다. 차는 덜컹거림을 느끼겠지만, 뒤집히지는 않습니다.

기술적인 용어로, 이 모델은 "제한 함수(bounded function)"를 사용합니다. 이는 "충격이 아무리 크더라도, 그것이 우리의 미래 예측에 미치는 영향은 결코 특정 한도를 초과할 수 없다"라고 규정하는 수학적 규칙입니다. 만약 주가가 50% 폭락한다면(거대한 이상치), 모델은 미래 예측을 업데이트할 때 이를 마치 약 10% 정도만 하락한 것처럼 취급합니다. 즉, 피해 규모를 제한하는 것입니다.

이 새로운 모델의 명칭은 BIP-CAViaR-FZ입니다. 이는 세 가지 요소를 결합합니다:

1. CAViaR: 리스크가 시간에 따라 어떻게 변하는지 추적하는 유연한 방법.
2. FZ 손실 함수(FZ Loss): VaR(선)와 ES(깊이)가 동시에 정확한지 확인하는 특별한 스코어링 시스템.
3. BIP: 이상치가 점수를 망치는 것을 막아주는 충격 흡수 장치.

실험 결과

저자들은 단순히 이 방식이 작동할 것이라고 추측만 한 것이 아니라, 컴퓨터 시뮬레이션과 실제 데이터를 사용하는 두 가지 방법을 통해 엄격한 테스트를 거쳤습니다.

1. 시뮬레이션 실험실
먼저, 그들은 컴퓨터 속에 수천 개의 가짜 금융 시장을 만들었습니다. 이 시장들이 다양한 종류의 "날씨"를 갖도록 프로그래밍했습니다. 어떤 곳은 평온했고(정규 분포), 어떤 곳은 두꺼운 꼬리(빈번한 큰 충격)를 가졌으며, 어떤 곳은 왜곡되었습니다(큰 하락이 큰 상승보다 많음). 심지어 특정 "유성"(이상치)들을 데이터에 주입하기도 했습니다.

결과는 명확했습니다:

• 평온한 날씨에서: 새로운 모델은 기존 모델들과 똑같이 우수한 성능을 보였습니다. 아무것도 망가뜨리지 않았습니다.
• 폭풍우 치는 날씨에서: 데이터에 이상치가 가득할 때, 기존 모델들은 혼란에 빠져 큰 실수를 저질렀습니다. 그러나 새로운 BIP 모델은 냉정함을 유지했습니다. 이 모델은 리스크 수준을 훨씬 더 정확하게 예측했습니다.
• "두꺼운 꼬리(Heavy Tail)" 효과: 이 장점은 시장이 "두꺼운 꼬리"(즉, 일반적인 종 모양 곡선이 제시하는 것보다 극단적인 사건이 더 자주 발생하는 현상)를 가지고 있고, 매우 드문 사건(예: 1% 확률의 폭락)을 관찰할 때 가장 두드러졌습니다. 이러한 까다로운 시나리오에서 새로운 모델은 현저히 높은 정확도를 보였습니다.

2. 실전 테스트
다음으로, 그들은 미국의 5대 주요 기술 기업인 애플, 아마존, 알파벳(구글), 인텔, 마이크로소프트의 실제 주식 데이터를 사용하여 모델을 테스트했습니다. 2006년부터 2025년까지의 일일 수익률을 살펴보았습니다.

그들은 이 주식 가격들이 이상치로 가득 차 있다는 것을 발견했습니다. 예를 들어, 아마존의 주가 기록에는 유성처럼 보이는 거대한 급등과 급락이 여러 차례 나타납니다. 새로운 BIP 모델을 표준 모델들과 비교했을 때 다음과 같은 결과가 나왔습니다:

• 더 매끄러운 예측: 표준 모델들은 이러한 스파이크에 격렬하게 반응하여 리스크 예측치가 요동쳤습니다. 반면, BIP 모델은 훨씬 더 매끄럽고 안정적인 예측치를 만들어냈습니다.
• 더 나은 정확도: 모델이 미래를 얼마나 잘 예측하는지 확인했을 때, BIP 모델은 실수가 더 적었습니다. 노이즈에 휘둘리지 않고 진정한 리스크 수준을 포착하는 데 더 뛰어났습니다.
• 이차 모델(Quadratic Models): 개선 효과는 더 복잡한 형태인 "이차 모델" 버전에서 특히 컸습니다. 이 복잡한 모델들은 이상치에 가장 민감했는데, BIP 충격 흡수 장치가 이들이 무너지는 것을 막아주었습니다.

결론

본 논문은 금융 리스크를 계산하는 방식에 "충격 흡수 장치"를 추가함으로써, 시장의 혼돈 속에서도 예측을 훨씬 더 신뢰할 수 있게 만들 수 있음을 시사합니다. 저자들은 새로운 BIP-CAViaR-FZ 모델이 단순히 이상치 속에서 살아남는 것을 넘어, 이상치의 존재 속에서도 번창하며 "모래 위의 선"(VaR)과 "침수의 깊이"(ES)를 모두 예측하는 데 있어 훨씬 더 견고한 방법을 제공한다는 것을 발견했습니다.

표준 모델들도 평온한 날에는 여전히 유용하지만, 저자들은 금융 시장이 무질서하고 놀라움으로 가득한 실제 세상에서는 이 새로운 접근 방식이 더 현명하고 안전한 선택이라고 주장합니다. 이 모델은 나쁜 날을 무시하는 것이 아니라, 단 하루의 나쁜 날이 전체 예보를 망치지 않도록 보장합니다.