전통적인 금융 이론 (마크로위츠의 포트폴리오 이론) 은 투자할 자산 (주식) 이 많을수록 위험을 분산시켜 좋다고 말합니다. 하지만 현실은 다릅니다.
상황: 우리는 500 개의 주식 (N) 을 투자하고 싶지만, 그 주식들의 과거 데이터를 모은 기간 (T) 은 고작 1 개월 (약 22 일) 뿐입니다.
문제: 500 개의 지도를 보려면 500 개의 길 정보가 필요한데, 우리는 22 개의 길 정보만 가지고 있습니다.
기존의 실패: 기존 방법 (샘플 공분산 행렬 사용) 은 이 부족한 정보로 500 개 주식을 배분하려다 **"과적합 (Overfitting)"**에 걸립니다. 마치 시험 문제를 22 개만 보고 500 개의 문제를 풀려고 할 때, 정답을 외워서 100 점을 맞았지만 (훈련 데이터), 실제 시험 (테스트 데이터) 에서는 0 점만 받는 것과 같습니다.
2. 기존 해결책 vs. 이 논문의 새로운 아이디어
기존의 해결책 (Ridgeless/가짜 역행렬):
"데이터가 부족하면 가장 간단한 수학적 해법 (의사역행렬) 을 쓰자"라고 합니다.
결과: 훈련 데이터에서는 완벽하게 0 점 (위험 0) 을 맞지만, 실제 시장에서는 폭망합니다. 마치 "내 차는 절대 사고가 나지 않아"라고 믿다가 실제로는 첫 출근길에 추돌하는 꼴입니다.
이 논문의 해결책 (Ridgelet/리지렛):
저자들은 **"조금만 더 찌그러뜨려보자"**는 아이디어를 냅니다.
비유: 500 개의 주식을 배분할 때, 수학적으로 "완벽한 해"를 찾으려다 망치는 대신, **"약간의 잡음 (Tiny Ridge)"**을 섞어서 해를 구합니다.
핵심: 아주 작은 수 (예: 0.00000001) 를 더해서, 수학적으로 불안정한 부분을 살짝 고정시키는 것입니다. 이를 **'Ridgelet(리지렛)'**이라고 부릅니다.
3. 놀라운 발견: "두 번의 하강 (Double Descent)"
이 논문의 가장 흥미로운 점은 '두 번의 하강' 현상을 발견했다는 것입니다.
첫 번째 하강: 자산을 2 개에서 10 개로 늘리면 위험이 줄어듭니다. (분산 효과)
위험의 정점: 자산 수가 데이터 수 (22 일) 에 가까워지면 위험이 폭발합니다. (이게 기존에 알려졌던 위험 구간)
두 번째 하강 (기적): 하지만 자산을 22 개를 넘어 500 개, 1,000 개로 계속 늘리면, 위험이 다시 급격히 떨어집니다!
왜 그럴까요? 자산을 너무 많이 넣으면, 수학적으로 "훈련 데이터에 완벽하게 맞는 (위험 0 인) 포트폴리오"가 무수히 많이 생깁니다. Ridgelet 은 이 수많은 해 중에서 **"가장 균형 잡힌 (노름이 작은) 해"**를 골라냅니다. 이 과정에서 오히려 새로운 데이터 (실제 시장) 에도 잘 적응하는 지능적인 포트폴리오가 탄생하는 것입니다.
4. Ridgelet 2: "맞춤형 신발"
첫 번째 버전 (Ridgelet 1) 은 모든 주식을 똑같이 취급합니다. 하지만 실제 시장은 회사마다 리스크가 다릅니다.
Ridgelet 2: 각 주식의 고유한 리스크 패턴을 분석해서, **"맞춤형 신발"**처럼 더 정교하게 조정합니다.
결과: 이 방법은 S&P 500(미국) 과 닛케이 225(일본) 주식을 섞어 만든 초고분산 포트폴리오에서도 기존 최고의 방법들보다 더 낮은 위험을 보여주었습니다.
5. 한 줄 요약
"데이터가 부족할 때 자산을 적게 넣으라고 했던 옛날 상식을 버리세요. 대신 아주 작은 '수학적 보조 장치 (Ridgelet)'를 붙이고, 자산을 최대한 많이 넣으세요. 그랬을 때 오히려 실제 시장에서 가장 안전한 포트폴리오를 만들 수 있습니다."
이 연구는 인공지능 (AI) 의 원리인 "복잡한 모델이 오히려 일반화 능력이 좋다"는 사실이 금융 투자에도 적용될 수 있음을 증명한 획기적인 논문입니다.
1. 연구 배경 및 문제 정의 (Problem)
고차원 포트폴리오 최적화의 난제: 현대 금융 시장은 자산 수 (N) 가 매우 많지만, 이를 학습할 수 있는 시계열 데이터의 크기 (T) 는 제한적입니다. 특히 N≫T (자산 수가 표본 크기보다 훨씬 큰) 인 고차원 환경에서 최소 분산 포트폴리오 (Minimum Variance Portfolio, MVP) 를 추정하는 것은 전통적인 방법론에서 큰 어려움을 겪습니다.
표본 공분산 행렬의 실패: 전통적인 MVP 는 표본 공분산 행렬 (S0) 의 역행렬을 사용합니다. 그러나 N>T 인 경우 S0 는 특이행렬 (rank-deficient) 이 되어 역행렬이 존재하지 않습니다.
기존 접근법의 한계:
Ridgeless (의역행렬 사용):S0 의 Moore-Penrose 의역행렬 (S0+) 을 사용하는 방법은 훈련 데이터에 완벽하게 적합 (interpolation) 하여 훈련 내 분산 (in-sample variance) 을 0 으로 만들지만, 테스트 데이터 (out-of-sample) 에서는 위험이 발산하여 일반화 성능이 극도로 나쁩니다.
과적합에 대한 통념: 기존 통계학에서는 훈련 내 분산이 0 인 경우 (Zero Variance Portfolio, ZVP) 는 과적합 (overfitting) 의 전형적인 사례로 여겨져 테스트 성능이 나쁠 것이라고 가정했습니다.
2. 제안된 방법론 (Methodology)
저자들은 기계학습 (Machine Learning) 의 최근 발견, 특히 이중 하강 (Double Descent) 현상과 유해하지 않은 과적합 (Benign Overfitting) 이론을 포트폴리오 최적화에 적용합니다.
가. Ridgelet Estimator (Ridgelet1)
핵심 아이디어: 표본 공분산 행렬 S0 에 아주 작은 양의 상수 τ (예: 10−8) 를 더한 Ridgelet 추정량을 제안합니다. ω^τ=1⊤Sτ−11Sτ−11,where Sτ=S0+τIN
동작 원리:
이 방법은 N>T 일 때 존재하는 무수히 많은 ZVP 해 중 유클리드 노름 (ℓ2-norm) 이 최소가 되는 해를 근사적으로 찾습니다.
τ 는 튜닝 파라미터가 아니라 수치적 안정성을 위한 매우 작은 고정 상수입니다.
Ridgeless (S0+) 와의 차이: Ridgeless 는 S0 의 열공간 (column space) 에만 의존하는 반면, Ridgelet 은 S0 의 영공간 (null space) 을 활용하여 훈련 내 분산을 0 으로 만들면서도 테스트 데이터에서 안정적인 성능을 냅니다.
나. 개선된 Ridgelet (Ridgelet2)
요인 모델 (Factor Model) 적용: 주식 수익률이 공통 요인과 개별적 (idiosyncratic) 오차로 구성된 요인 모델을 따른다고 가정합니다.
개별 공분산 행렬 추정: Ridgelet1 은 개별 공분산 행렬 Ω 를 단위 행렬 (IN) 로 가정합니다. 하지만 실제 시장은 Ω 가 희소 (sparse) 한 구조를 가질 수 있습니다.
POET 추정량 활용: Fan et al. (2013) 의 POET (Principal Orthogonal Complement Thresholding) 방법을 사용하여 Ω 를 일관성 있게 추정하고, 이를 Ridgelet 식에 대입합니다. ω^τ=1⊤Sτ,Ω^−11Sτ,Ω^−11,where Sτ,Ω^=S0+τΩ^
이점:N≫T regime 에서 Ω 를 정확히 추정할 수 있다면, Ridgelet2 는 오라클 (Oracle, 참 분산 행렬을 아는 경우) 과 동일한 최적의 아웃-오브-샘플 위험을 달성할 수 있습니다.
3. 주요 이론적 결과 및 기여 (Key Contributions & Results)
가. 이중 하강 (Double Descent) 현상의 입증
포트폴리오 위험 곡선이 자산 수 N 에 대해 이중 하강 형태를 보입니다.
첫 번째 하강:N<T 구간에서 N 이 증가함에 따라 위험 감소.
피크:N≈T 일 때 위험이 최대화됨.
두 번째 하강:N>T 구간에서 N 이 더욱 증가할수록 위험이 다시 급격히 감소하여 오라클 수준에 수렴함.
Ridgelet vs Ridgeless:
Ridgelet:N>T 구간에서 두 번째 하강을 보이며, 테스트 위험이 오라클 위험과 유사하게 유지됨 (일반화 가능).
Ridgeless:N>T 구간에서 위험이 발산하거나 다시 증가하여 일반화 실패 (과적합).
나. 무작위 행렬 이론 (RMT) 기반의 점근적 분석
Ridgelet1:N/T→∞ 일 때, 포트폴리오의 상대적 위험 (Relative Variance) 이 일정한 상수 범위 내에 머무르며 발산하지 않음을 증명.
Ridgelet2: 개별 공분산 행렬 Ω 를 일관성 있게 추정할 수 있다면, N≫T regime 에서 점근적으로 최적 (Asymptotically Optimal) 이 됨을 증명. 즉, 오라클 포트폴리오의 위험과 통계적으로 구별할 수 없는 수준까지 도달합니다.
다. 시뮬레이션 및 실증 분석
시뮬레이션: 다양한 시나리오 (동질적/이질적 개별 공분산, 정규/heavy-tailed 분포) 에서 Ridgelet 방법론이 기존 방법 (선형 축소, 비선형 축소, 등가중치 등) 보다 우수한 성능을 보임.
실증 분석 (S&P 500 및 닛케이 225):
S&P 500 구성종목 및 닛케이 225 를 포함한 다국적 포트폴리오에서 적용.
Ridgelet2 는 1 개월의 일일 데이터 (T=22) 로 700 개 이상의 주식 (N≈725) 에 대한 포트폴리오를 구성할 때, 기존 최고 성능의 방법론 (FNLS 등) 과 경쟁하거나 더 나은 위험 감소 효과를 보임.
특히 N>T 환경에서 등가중치 (EW) 포트폴리오보다 훨씬 낮은 위험을 달성.
4. 연구의 의의 및 결론 (Significance)
패러다임의 전환: 고차원 포트폴리오 최적화에서 "단순한 표본 공분산 행렬 + 아주 작은 Ridge 항"이 복잡한 축소 (shrinkage) 기법이나 요인 모델보다 효과적일 수 있음을 보여줌.
과적합의 재해석: 훈련 데이터에 완벽한 적합 (Zero Variance) 을 보이는 포트폴리오가 반드시 나쁜 것은 아니며, 적절한 구조 (Ridgelet) 를 통해 오히려 유해하지 않은 과적합 (Benign Overfitting) 을 달성하여 테스트 데이터에서 최상의 성능을 낼 수 있음을 입증.
실용적 가치: 데이터가 부족한 금융 시장에서 더 많은 자산에 투자하면서도 위험을 통제할 수 있는 강력한 도구를 제공. 특히 Ridgelet2는 개별 공분산 구조를 활용하여 이론적으로 최적의 성능을 보장합니다.
기계학습과 금융의 융합: 딥러닝과 고차원 통계학의 최신 이론 (Double Descent, Benign Overfitting) 을 전통적인 포트폴리오 이론에 성공적으로 적용한 사례입니다.
요약하자면, 이 논문은 N≫T 환경에서 Ridgelet 추정량 (특히 Ridgelet2) 을 사용하여 훈련 내 분산을 0 으로 만들면서도 아웃-오브-샘플에서 최적의 위험을 달성할 수 있음을 이론적, 실증적으로 증명했습니다.