Cross-Sectional Heterogeneity in LSTM Networks for Financial Time Series

당신이 날씨를 예측하려고 노력하고 있다고 상상해 보세요. 하지만 구름을 보는 대신 주식 시장을 보고 있는 것입니다. 이것이 바로 **금융 시계열 예측(financial time series prediction)**의 세계입니다. 과학자들이 과거의 기록을 바탕으로 내일 주가가 오를지 내릴지를 추측하려는 분야죠. 이는 매우 까다로운 게임입니다. 주식 시장을 거대하고 소란스러운 바다라고 생각해 보세요. "신호(signal)"는 파도가 어디로 향하는지 알려주는 실제 바람의 방향이지만, "소음(noise)"은 실제 패턴을 보기 어렵게 만드는 물보라, 갈매기의 비명, 그리고 무작ful한 잔물결입니다. 시장은 매우 효율적이기 때문에(즉, 모든 사람이 뉴스를 즉각적으로 알기 때문에), 신뢰할 수 있는 패턴을 찾는 것은 허리케인 속에서 속삭임을 듣는 것과 같습니다.

이를 해결하기 위해 연구자들은 머신러닝, 구체적으로는 LSTM(Long Short-Term Memory)이라는 일종의 컴퓨터 뇌를 사용합니다. LSTM은 아주 체계적인 사서라고 생각하면 됩니다. 이 사서는 주가 기록을 매일 읽으며 중요한 부분은 기억하고 소음은 잊어버려 미래를 예측합니다. 오랫동안 이 사서들은 모든 주식을 마치 서로 다른 모자를 쓰고 있을 뿐, 모두 같은 사람인 것처럼 취급하도록 훈련받았습니다. 그들은 애플의 역사와 유틸리티 기업의 역사를 완전히 똑같은 방식으로 바라보았습니다. 하지만 현실 세계에서 기술 기업과 전력 회사는 뉴스에 반응하는 방식이 매우 다릅니다. 이 논문은 단순한 질문을 던집니다. 만약 우리의 사서에게 주식들이 서로 다른 "동네(섹터)"에 속해 있으며, 이 동네마다 고유한 개성이 있다는 것을 인식하도록 가르친다면 어떻게 될까요?

위대한 주식 시장의 '기숙사 배정 모자'

이 연구에서 저자인 율리우스 되벨트(Julius Döbelt)는 표준적인 LSTM 사서를 업그레이드하기로 결정했습니다. 기존 버전도 훌륭했지만, 고성장 기술주와 안정적인 유틸리티주를 똑같이 취급했기 때문에 다소 서툴렀습니다. 되벨트는 새로운 기술인 **섹터 임베딩(Sector Embeddings)**을 도입합니다.

당신이 수백 명의 손님이 모인 거대한 파티에 있다고 상상해 보세요. 기존의 사서는 모든 손님을 보며 그들이 지난 한 시간 동안 어떻게 움직였는지만을 바탕으로 누가 다음에 춤을 출지 예측하려 할 것입니다. 하지만 되벨트의 새로운 사서는 특별한 "기숙사 배정 모자"를 받습니다. 사서가 춤을 보기 전에도, 이 모자는 각 손님에게 "기술", "헬스케어", "에너지" 등의 태그를 즉시 붙여줍니다. 사서는 "기술" 그룹의 손님들은 특정한 리듬으로 춤을 추는 경향이 있는 반면, "에너지" 그룹의 손님들은 완전히 다른 스타일을 가지고 있다는 것을 학습합니다. 컴퓨터에 이러한 "섹터 태그"를 특별한 입력값으로 제공함으로써, 모델은 마침내 주식의 과거 성과가 단순히 자신의 역사뿐만 아니라, 그가 속한 전체 동네의 분위기에 의해서도 결정된다는 것을 이해할 수 있게 됩니다.

실험: 30년의 시간 여행

이 아이디어를 테스트하기 위해, 되벨트는 타임머신을 만들었습니다. 그는 1995년부터 2024년까지의 S&P 500(미국 내 500대 기업) 데이터를 가져왔습니다. 그는 단 1년치 데이터만 본 것이 아닙니다. 그는 3년의 역사로 모델을 훈련시킨 후 그다음 해를 테스트하는 시뮬레이션을 27번 반복했습니다. 이것은 학생을 3년 동안 교육한 뒤, 그 학생이 정말로 배웠는지 아니면 단순히 답을 외운 것인지 확인하기 위해 매년 새로운 학년마다 시험을 치르는 것과 같습니다.

그는 자신의 새로운 "섹터 LSTM"을 세 가지 경쟁자와 비교했습니다:

1. 기본 LSTM: 동네를 무시하는 기존의 사서.
2. 랜덤 포레스트(Random Forest): 많은 작은 질문을 던져 결정을 내리는 또 다른 종류의 컴퓨터 뇌(전문가 위원회와 같은 방식).
3. 매수 후 보유(Buy-and-Hold) 전략: 시장 전체를 그냥 사고 기다리는 투자자.

결과: 동네의 법칙이 (대체로) 승리하다

결과는 명확하고 흥미로웠습니다. 새로운 섹터 LSTM이 다른 모델들을 지속적으로 앞질렀습니다. 모델이 섹터 태그를 사용했을 때, 어떤 주식이 평균보다 높을지 혹은 낮을지에 대해 더 정확한 예측을 내놓았습니다.

• 승자: 섹터 LSTM은 수익을 내는 것과 위험을 낮게 유지하는 것 사이에서 가장 좋은 균형을 보여주었습니다. 이 모델은 샤프 지수(위험 대비 얼마나 많은 이익을 얻었는지 측정하는 점수) 0.69를 달랐는데, 이는 기본 LSTM(0.39)과 랜덤 포레스트(0.53)보다 현저히 높은 수치였습니다.
• 패자: 흥미롭게도, 유가, 금 선물, 금리 같은 추가적인 "거시 금융" 데이터를 추가하는 것은 도움이 되지 않았습니다. 사실, 이 모든 경제 뉴스를 사용하려고 했던 모델이 최악의 성과를 냈습니다. 이 특정 일간 예측 작업에서는 글로벌 기상 보고를 아는 것보다 자신이 속한 동네를 아는 것이 훨씬 더 중요하다는 점을 시사합니다.

"블랙박스"를 열다

AI에 대한 가장 큰 불만 중 하나는 그것이 "블랙박스"라는 점입니다. 우리는 그것이 작동한다는 것은 알지만, 왜 그렇게 되는지는 모릅니다. 되벨트는 이 상자 안을 들여다보기로 했습니다. 그는 모델이 아무도 알려주지 않았음에도 불구하고 주식 시장의 두 가지 유명한 규칙을 비밀리에 학습했다는 것을 발견했습니다.

1. 산업 모멘텀(Industry Momentum): 모델은 특정 동네(예: 기술주)가 지난 몇 달 동안 잘 나갔다면, 당분간 계속 잘 나가는 경향이 있다는 것을 학습했습니다. "섹터 태그"는 모멘텀 부스터 역할을 하여 모델이 승리하는 동네에 베팅하도록 밀어주었습니다.
2. 단기 반전(Short-Term Reversal): 모델은 또한 단일 주식이 어제 크게 급등했다면, 오늘 약간은 후퇴할 가능성이 높다는 것도 학습했습니다. 이는 마치 고무줄이 다시 튕겨 돌아오는 것과 같습니다.

하지만 논문은 또한 주의할 점을 찾아냈습니다. 이 "동네 모멘텀" 기술은 2007년처럼 안정적인 시기에는 잘 작동하여 모델이 승자를 정확히 맞혔습니다. 그러나 2000년 닷컴 버블 붕괴 직후나 2020년 팬데믹과 같은 혼란의 시기에는 이 기술이 역효과를 냈습니다. 시장이 패닉에 빠졌을 때, 지난 해의 "패자"들이 갑자기 "승자"가 되었고, 동네 트렌드에 의존했던 모델은 잘못된 말에 베팅하게 되었습니다. 이는 모델이 똑똑하긴 하지만 마법은 아니라는 점을 시사합니다. 시장의 규칙이 갑자기 변할 때 모델은 여전히 어려움을 겪습니다.

결론

이 논문은 "주식은 단순한 숫자가 아니라 하나의 팀의 일원이다"라는 것을 AI에게 가르치는 것이 예측력을 높이는 강력한 방법임을 시사합니다. 단순한 "섹터 태그"를 추가함으로써 모델은 소란스러운 주식 시장을 항해하는 능력이 향상되었습니다. 하지만 저자는 또한 엄청난 수익을 쉽게 얻던 시대는 아마 끝났다고 경고합니다. 모델의 성공은 완만하며, 시장이 정상적으로 움직이는 것에 크게 의존합니다. 이는 노이즈가 가득한 바다에서도 자신이 어떤 배에 타고 있는지 아는 것이 큰 차이를 만든다는 것을 증명하는, 견고한 진전입니다.