Generalized Stock Price Prediction for Multiple Stocks Combined with News Fusion

이 논문은 사전 훈련된 대규모 언어 모델 (LLM) 과 주식 이름 임베딩 기반의 어텐션 메커니즘을 활용하여 뉴스와 과거 주가를 통합적으로 분석하고, 개별 주식이 아닌 여러 종목에 적용 가능한 일반화된 주가 예측 모델을 제안하여 평균 절대 오차를 7.11% 개선한 결과를 제시합니다.

핵심

주가 예측의 새로운 비법: "뉴스 속 숨은 보석 찾기"

이 논문은 주식 가격이 어떻게 변할지 예측하는 새로운 방법을 소개합니다. 기존의 방식은 과거 주가 데이터만 봤다면, 이 연구는 "수천 개의 뉴스 기사 속에서 그 주식에 진짜 중요한 이야기만 골라내어" 예측 정확도를 높이는 기술을 개발했습니다.

이 복잡한 기술을 누구나 쉽게 이해할 수 있도록 세 가지 비유로 설명해 드리겠습니다.

---

1. 문제: "소음 속의 목소리" (과도한 정보)

주식 시장을 예측할 때 우리는 매일 수백 편의 뉴스 기사를 접합니다. 하지만 모든 뉴스가 그 주식에 중요한 것은 아닙니다.

• 기존 방식: "삼성전자"라는 키워드로 검색해서 관련 뉴스만 모으는 방식입니다. 하지만 검색이 완벽하지 않아 중요한 뉴스는 빠지고, 엉뚱한 뉴스가 섞일 수 있습니다.
• 이 연구의 문제의식: 검색을 따로 하는 대신, 모든 뉴스를 한 번에 받아서 AI 가 스스로 "어떤 뉴스가 이 주식에 진짜 중요한가?"를 판단하게 하자는 것입니다. 마치 거대한 도서관에서 책 한 권을 고르려 할 때, 도서관 사서가 직접 찾아주는 것이 아니라, AI 가 책장 전체를 훑어보며 가장 필요한 책만 뽑아내는 것과 같습니다.

2. 해결책: "명품 쇼핑의 쇼핑백" (뉴스 필터링 기술)

이 연구의 핵심은 **LLM(거대 언어 모델)**이라는 초지능 AI 를 활용하여 뉴스들을 필터링하는 것입니다. 여기서 세 가지 독특한 필터링 방법이 등장합니다.

A. "질문자"를 보내는 방법 (Cross-attentive Pooling)

• 비유: 당신이 "애플"이라는 회사의 주식을 보고 싶다고 칩시다. AI 는 "애플"이라는 이름의 **질문지 (Query)**를 만들어 수천 개의 뉴스 기사 (키, 값) 에 던집니다.
• 작동 원리: "애플"이라는 질문지에 가장 잘 맞는 (예: "아이폰 신제품 출시", "애플 주가 하락") 뉴스는 강한 신호를 받고, "사과 농장 날씨"나 "애플 (과일)"에 대한 뉴스는 약한 신호를 받습니다. AI 는 이렇게 중요한 뉴스만 골라내어 하나의 요약본을 만듭니다.

B. "함께 앉아서 대화"하는 방법 (Self-attentive Pooling)

• 비유: "애플"이라는 이름과 수천 개의 뉴스 기사를 모두 한 테이블에 앉힙니다. 그리고 "여러분, 이 중에서 '애플' 주식과 관련된 이야기가 뭐예요?"라고 묻습니다.
• 작동 원리: 뉴스 기사들이 서로 대화하며, "애플"이라는 이름과 가장 관련이 깊은 기사들이 서로 손을 잡고 중요한 정보를 모읍니다. 이 방식은 뉴스와 주식 이름이 서로 영향을 주며 중요한 정보를 찾아냅니다.

C. "순서까지 고려한 대화" (Position-aware Self-attentive Pooling)

• 비유: 위 방법과 비슷하지만, 뉴스가 어떤 순서로 도착했는지도 기억합니다. "아침에 나온 뉴스가 오후 뉴스보다 더 중요할 수도 있잖아?"라고 생각하며 순서를 고려해 요약합니다.

3. 최종 결정: "주식과 뉴스의 결혼" (융합)

필터링된 뉴스 요약본과 과거 주가 데이터를 AI 가 하나로 합칩니다.

• 기존: 주가 그래프만 보고 "내일 오를 것 같다"고 예측.
• 이 연구: "주가 그래프도 봤고, 오늘 아침에 나온 중요한 뉴스 요약본도 봤으니, 내일은 더 정확히 오를 것이다"라고 예측합니다.

이 모든 과정을 하나의 통합된 모델로 만듭니다. 즉, 삼성전자를 예측할 때 배우고, 현대자동차를 예측할 때도 그 지식을 공유하여 어떤 주식이라도 잘 예측할 수 있는 만능 AI를 만든 것입니다.

---

4. 결과: "정확도가 뚝 떨어졌다?" (아니요, 오름!)

실험 결과, 이 새로운 방법은 기존 방법보다 오류 (예측 오차) 를 약 7% 줄였습니다.

• 의미: 주가 예측은 매우 어렵습니다. 7% 의 정확도 향상은 금융 시장에서 엄청난 차이를 만듭니다.
• 특이사항: 이 방법은 뉴스가 많은 한국 시장 (대만 주식 데이터) 에서 특히 잘 작동했습니다. 하지만 미국처럼 주식 약어 (예: 'AAPL', 'F') 만 사용하는 곳에서는, 약어가 너무 짧아서 AI 가 의미를 파악하기 어려워 약간의 어려움이 있었습니다. (예: 'F'는 포드 자동차일 수도 있고, 다른 회사일 수도 있음)

5. 결론: 왜 이 연구가 중요한가요?

이 연구는 **"뉴스를 어떻게 읽을 것인가"**에 대한 새로운 답을 제시합니다.

• 과거: 키워드로 검색해서 뉴스 모으기.
• 현재: AI 가 주식 이름을 보고, 수천 개의 뉴스 속에서 진짜 중요한 이야기를 스스로 찾아내어 주가 예측에 활용.

마치 훌륭한 비서가 매일 쏟아지는 뉴스 중에서 사장님 (투자자) 에게 꼭 필요한 정보만 골라내어 보고하는 것과 같습니다. 이 기술이 발전하면, 우리는 더 정확한 주가 예측을 통해 더 현명한 투자를 할 수 있게 될 것입니다.

기술 요약

1. 연구 배경 및 문제 제기 (Problem)

• 전통적 접근법의 한계: 기존 주가 예측 모델 (ARIMA, RNN 등) 은 주로 과거 가격 데이터에 의존하며, 최근에는 텍스트 데이터 (뉴스, SNS) 를 통합하려는 시도가 늘고 있습니다.
• 정보 검색의 비효율성: 기존 연구들은 특정 주식과 관련된 뉴스를 검색 (Information Retrieval) 하여 필터링하는 방식을 사용했습니다. 그러나 키워드 기반 검색은 관련성이 낮거나 암시적인 정보를 놓치기 쉽고, 검색 단계와 예측 모델이 분리되어 있어 검색 오차가 예측 정확도에 직접적인 영향을 미칩니다.
• 노이즈 문제: 반대로 모든 뉴스를 수집하면 관련 없는 정보 (노이즈) 가 모델 성능을 저하시킵니다.
• 일반화 부족: 기존 모델들은 대부분 개별 주식 (Single Stock) 에 맞춰 훈련되었으며, 여러 주식에 적용 가능한 **일반화된 모델 (Generalized Model)**을 구축하는 연구는 부족했습니다.

2. 제안된 방법론 (Methodology)

저자들은 Time-LLM 프레임워크를 기반으로 하여, 뉴스 데이터와 주가 데이터를 융합하고 여러 주식에 적용 가능한 단일 모델을 제안했습니다. 주요 구성 요소는 다음과 같습니다.

A. 전체 아키텍처

1. 뉴스 인코딩 (News Encoding): 매일 발행된 모든 금융 뉴스를 사전 훈련된 언어 모델 (BERT 또는 DeBERTa) 을 통해 임베딩합니다.
2. 주의 기반 풀링 (Attentive Pooling): 매일 수백 개의 뉴스 기사를 하나의 벡터로 요약합니다. 이때 **주식 이름 임베딩 (Stock Name Embeddings)**을 쿼리 (Query) 로 활용하여 해당 주식과 관련된 뉴스만 선별적으로 가중치를 부여합니다.
   • Cross-attentive Pooling (CAP): 주식 이름 임베딩을 Query 로, 뉴스 임베딩을 Key/Value 로 사용하여 크로스 어텐션을 수행합니다.
   • Self-attentive Pooling (SAP): 주식 이름 임베딩을 뉴스 시퀀스 앞에 추가한 후, 전체 시퀀스에 대해 셀프 어텐션을 수행합니다.
   • Position-aware SAP (PA-SAP): 뉴스의 시간적 순서를 고려하기 위해 위치 임베딩을 추가한 후 셀프 어텐션을 수행합니다.
3. 뉴스 - 가격 융합 (News-Price Fusion):
   • 크로스 어텐션: 뉴스와 가격 데이터 간의 상호작용을 양방향 (Price-to-News, News-to-Price) 으로 학습합니다.
   • GCN (Graph Convolutional Network): 주식 간의 구조적 의존성을 모델링하고, 5 일 윈도우 단위의 인과적 합성곱 (CausalCNN) 을 통해 단기 동향을 포착합니다.
4. LLM 기반 예측 (Patch Reprogramming): 융합된 특징 (Stock-aware Features) 을 LLM (LLaMA, GPT-2) 이 이해할 수 있는 토큰 임베딩 공간으로 매핑 (Patch Reprogramming) 한 후, 고정된 (Frozen) LLM 을 통해 미래 주가를 예측합니다.

B. 핵심 전략

• 일반화 모델: 개별 주식별 모델이 아닌, 여러 주식 데이터를 합쳐 하나의 모델을 훈련시켜 unseen 데이터 (새로운 주식) 에도 적용 가능하게 합니다.
• 동적 뉴스 필터링: 검색 단계가 아닌 모델 내부의 어텐션 메커니즘을 통해 주식별 맥락에 맞는 뉴스를 동적으로 필터링합니다.

3. 주요 기여 (Key Contributions)

1. 일반화된 주가 예측 모델: 여러 주식에 걸쳐 훈련된 단일 통합 모델을 제안하여, 대만 및 미국 시장 모두에서 적용 가능성을 입증했습니다.
2. 의미 인식 뉴스 선택 메커니즘: 주식 이름 임베딩을 어텐션 메커니즘에 통합하여, LLM 의 시맨틱 지식을 활용해 뉴스 노이즈를 자동으로 필터링하는 풀링 방식을 고안했습니다.
3. 뉴스와 가격의 심층 융합: GCN 과 크로스 어텐션을 결합하여 구조화된 가격 데이터와 비구조화된 텍스트 데이터를 효과적으로 통합했습니다.
4. 실증적 검증: 대만 증권거래소 (TW21) 와 미국 BigData23 데이터셋을 통해 기존 베이스라인 (Time-LLM, LSTM, FPT 등) 대비 성능 향상을 입증했습니다.

4. 실험 결과 (Results)

• 데이터셋:
  • TW21 (대만): TSMC, 미디어텍 등 6 개 주요 주식 (2021~2024).
  • BigData23 (미국): 42 개 주식 (다양한 섹터).
• 성능 향상:
  • TW21 결과: 제안한 Self-attentive Pooling (SAP) 방식이 가장 일관된 성능을 보였습니다. 베이스라인 (Time-LLM) 대비 평균 절대 오차 (MAE) 가 7.11% 감소했습니다.
  • Cross-attentive Pooling (CAP) 은 대형주 (TSMC, Foxconn) 에서 매우 낮은 오차를 보였으나, 주식 간 편차가 컸습니다.
  • BigData23 결과: 티커 (Ticker, 예: 'AAPL') 기반 데이터에서는 주식 이름의 의미적 모호성으로 인해 CAP 의 성능이 저하되었으나, SAP 는 여전히 견고한 성능을 유지했습니다.
• 모델 비교:
  • LSTM 과 비교 시, 제안된 LLM 기반 모델 (+SAP) 은 MAE 를 56.14%, MSE 를 **73.23%**까지 획기적으로 줄였습니다.
  • 계산 비용은 증가했으나 (LLM 훈련 시간 약 2 일 vs LSTM 30 분), 예측 정확도 향상 측면에서 타당한 트레이드오프를 보였습니다.

5. 의의 및 결론 (Significance)

• 검색 의존성 탈피: 별도의 뉴스 검색 단계 없이 모델 내부에서 뉴스의 관련성을 판단함으로써, 검색 오차와 노이즈 문제를 해결했습니다.
• 범용성 입증: 단일 모델로 여러 주식 (대만 및 미국 시장) 을 예측할 수 있음을 보여주어, 금융 예측 모델의 확장성을 입증했습니다.
• 향후 방향:
  • 소형주 및 저가주 등 정보량이 적은 주식으로 데이터 범위 확장.
  • 티커 (Ticker) 의 의미적 모호성을 해결하기 위한 엔티티 링크링 (Entity Linking) 기술 도입.
  • 장기 예측 (60 일~120 일) 을 위한 입력 윈도우 확장 및 실제 트레이딩 전략 백테스팅.

이 논문은 대규모 언어 모델 (LLM) 과 어텐션 기반 뉴스 필터링을 결합하여, 다중 주식 환경에서 더 정확하고 일반화된 주가 예측이 가능함을 보여주는 중요한 연구입니다.