Using Machine Learning to Forecast Market Direction with Efficient Frontier Coefficients

논문 요약: 효율적 프론티어 계수를 활용한 머신러닝 기반 시장 방향성 예측

1. 연구 배경 및 문제 정의 (Problem)

• 현대 포트폴리오 이론 (MPT) 의 한계: 마코비츠 (Markowitz) 의 평균 - 분산 최적화 모델은 자산의 기대수익률 벡터와 공분산 행렬을 정확히 추정해야 하지만, 실제 시장은 정상성 (stationarity) 을 만족하지 않아 과거 데이터로 미래 수익률을 추정하는 데 큰 오차가 발생합니다. 특히 기대수익률 벡터 추정은 매우 민감하고 어렵습니다.
• 기존 접근법의 부족: 블랙 - 리터먼 (Black-Litterman) 모델과 같은 베이지안 접근법은 투자자의 견해를 입력해야 하지만, 이를 정량화하기 어렵고 모델이 복잡하여 해석이 어렵습니다. 또한, 기존 머신러닝 연구들은 기술적 지표나 펀더멘털 데이터를 사용하거나 복잡한 모델 (SVM, 신경망 등) 을 사용하여 예측 정확도를 높이는 데 집중했으나, 포트폴리오 최적화 프레임워크와의 통합 및 해석 가능성 측면에서 한계가 있었습니다.
• 핵심 문제: 시장 방향성 (상승/하락) 을 예측하여 이를 포트폴리오 최적화의 기대수익률 추정치로 효과적으로 통합할 수 있는 해석 가능한 (interpretable) 방법론이 필요합니다.

2. 방법론 (Methodology)

이 연구는 효율적 프론티어 (Efficient Frontier) 의 함수적 계수를 새로운 특징 (Feature) 으로 사용하여 시장 방향을 예측하고, 이를 포트폴리오 최적화에 통합하는 3 단계 프로세스를 제안합니다.

가. 새로운 특징 공학: 효율적 프론티어 계수 (Efficient Frontier Coefficients)

• 메르톤 (Merton, 1972) 의 효율적 프론티어 폐쇄형 해를 기반으로, 3 개의 해석 가능한 계수를 도출합니다.
  1. $r_{mvp}$: 최소 분산 포트폴리오 (MVP) 의 기대수익률.
  2. $\sigma_{mvp}$: MVP 의 표준편차 (위험).
  3. $u$: 효율적 프론티어의 곡률 (curvature) 또는 유틸리티 함수의 기울기. 이는 자산 간 분산의 가치와 시장 내 자산들의 수익률 분포 차이를 나타냅니다.
• 이 계수들은 시장의 구성 요소 정보를 압축하여 포함하며, $r_{mvp}$와 $\sigma_{mvp}$는 시장 상태 (개선/악화) 를, $u$는 분산 투자 효과를 나타냅니다.

나. 시장 방향성 예측 모델 (Online CART)

• 모델: 분류 및 회귀 트리 (CART) 를 사용하여 다음 달의 시장 방향 (상승/하락) 을 이진 분류합니다.
• 입력 데이터: 전월의 지연된 (lagged) 효율적 프론티어 계수 3 개 ($r_{mvp}, \sigma_{mvp}, u$).
• 학습 전략:
  • 오버피팅 방지: 특징 수가 적으므로 트리의 최대 깊이 (max depth) 를 1 또는 2 로 제한하여 해석 가능성을 유지하고 과적합을 방지합니다.
  • 검증: 시간 계열 교차 검증 (Time-series split, 5-fold) 을 사용하여 미래 데이터 누출 (look-ahead bias) 을 방지합니다.
  • 가중치: 월간 수익률의 절대값을 샘플 가중치로 부여하여 정보량이 많은 데이터 포인트에 더 큰 중요도를 부여합니다.

다. 포트폴리오 최적화 통합 (Forecast Integration)

• CAPM 활용: CART 모델이 예측한 시장 방향 (상승/하락) 을 바탕으로 개별 자산의 기대수익률을 추정합니다.
• 조건부 기대수익률 (Conditional Expectation):
  • 시장이 상승할 확률 ($\hat{p}$) 이 주어졌을 때, 시장 수익률의 조건부 기대값을 **역 밀스 비율 (Inverse Mills Ratio)**을 사용하여 계산합니다. 이는 잘린 정규분포 (truncated normal distribution) 의 특성을 이용합니다.
  • CAPM 식에 이 조건부 시장 기대수익률을 대입하여 개별 자산의 기대수익률 벡터를 추정합니다.
  • CAPM 의 적합도 ($R^2$) 를 가중치로 사용하여 추정된 수익률 벡터를 보정합니다.
• 최종 포트폴리오: 추정된 수익률 벡터와 공분산 행렬을 사용하여 **탄젠트 포트폴리오 (Tangency Portfolio, 최대 샤프 비율 포트폴리오)**를 구성합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 특징 집합 제안: 포트폴리오 이론에서 유래한 3 개의 해석 가능한 효율적 프론티어 계수 ($r_{mvp}, \sigma_{mvp}, u$) 를 머신러닝 예측 모델의 입력 특징으로 처음 제안했습니다.
2. 예측과 최적화의 통합 프레임워크: 시장 방향성 예측을 단순히 예측 정확도 (Accuracy) 평가가 아닌, 역 밀스 비율과 CAPM 을 통해 포트폴리오 최적화의 기대수익률 벡터로 직접 변환하는 체계적인 프레임워크를 제시했습니다.
3. 해석 가능성 (Interpretability): 복잡한 딥러닝 모델 대신 단순한 의사결정나무 (CART) 를 사용하여, 왜 특정 시장 예측이 이루어졌는지 트리 구조를 통해 시각적으로 설명할 수 있습니다.

4. 실험 결과 (Empirical Results)

• 데이터: 1999 년부터 2022 년까지의 S&P 500 섹터 ETF 9 개 (기술, 헬스케어, 금융 등) 및 무위험 이자율 (Fama-French 3-factor 데이터) 사용.
• 벤치마크 비교:
  1. 기존 기술적 지표 (RSI, 모멘텀 등) 를 사용한 CART.
  2. Fama-French 3 요인 (MKT, SMB, HML) 을 사용한 CART.
  3. 단순 탄젠트 포트폴리오, 등가중치 포트폴리오, S&P 500 지수.
• 성능:
  • 예측 정확도: 효율적 프론티어 계수를 사용한 모델이 기술적 지표나 Fama-French 요인보다 정확도 (Accuracy), 정밀도 (Precision), 재현율 (Recall), F1 점수 및 음의 예측값 (NPV) 에서 모두 우월한 성능을 보였습니다. 특히 시장 하락을 예측하는 능력 (NPV 65%) 에서 두드러졌습니다.
  • 포트폴리오 성과: 2008 년부터 2022 년까지의 아웃 - 오브 - 샘플 기간에서 제안된 모델은 모든 벤치마크 대비 **더 높은 샤프 비율 (Sharpe Ratio)**과 **알파 (Alpha)**를 달성했습니다. 최대 낙폭 (Max Drawdown) 대비 연평균 수익률도 우수했습니다.
  • 거래 비용 고려: 1% 의 일일 거래 수수료와 1.5 배의 레버리지 제한을 적용한 현실적인 시뮬레이션에서도 우월한 성과를 유지했습니다.

5. 의의 및 결론 (Significance)

• 이론적 함의: 시장 방향성이 효율적 프론티어 계수에 의해 정의된 트리 구조를 따를 수 있음을 시사하며, 포트폴리오 이론과 머신러닝의 깊은 연관성을 입증했습니다.
• 실무적 가치: 복잡한 입력 (Black-Litterman 의 견해 등) 없이도 시장 상태의 변화를 계수로 포착하여 포트폴리오의 기대수익률을 동적으로 조정할 수 있는 강력한 도구를 제공합니다.
• 향후 연구: 다른 자산 클래스로 확장, 기술적 지표와의 특징 결합, Random Forest 등 더 정교한 분류 모델 적용 등을 통해 연구의 범위를 넓힐 수 있습니다.

이 논문은 포트폴리오 최적화의 핵심인 '기대수익률 추정' 문제를 해결하기 위해, 포트폴리오 이론 자체에서 도출된 계수를 머신러닝의 특징으로 활용함으로써 기존 방법론보다 우월한 성과를 보여주는 혁신적인 접근법입니다.