논문 요약: Quantformer (양적 트랜스포머)

1. 문제 정의 (Problem)

전통적인 양적 거래 (Quantitative Trading) 에서는 복잡하고 역동적인 금융 시장의 다양한 변수, 특히 장기적인 정보와 수익으로 이어질 수 있는 핵심 신호를 포착하는 것이 학습 알고리즘에게 큰 도전 과제였습니다. 기존 방법론은 다음과 같은 한계가 있었습니다.

• 정적 분석의 한계: 마코위츠 포트폴리오 이론이나 CAPM 과 같은 전통적 모델은 정적 기본 분석에 의존하여 복잡한 시장 역학을 포착하기 어렵습니다.
• ML 모델의 한계:
  • 입력 데이터의 이질성: 자연어 처리 (NLP) 기반의 트랜스포머 (Transformer) 모델은 텍스트 (단어) 를 입력으로 받도록 설계되어 있습니다. 하지만 금융 데이터는 범주형 데이터 (산업 유형) 와 수치형 데이터 (주가 변동, 회전율, 재무 지표) 가 혼합되어 있어, 기존의 워드 임베딩 (Word Embedding) 방식으로는 직접 처리하기 어렵습니다.
  • 작업 구조의 불일치: NLP 의 시퀀스 - 투 - 시퀀스 (Seq2Seq) 작업 (예: 번역) 과 달리, 주식 예측은 미래의 특정 기간 수익률을 정확히 예측하는 것이 목표입니다. 기존 트랜스포머의 디코더 구조와 마스킹 (Masking) 연산은 이러한 수치 예측 작업에 최적화되지 않았습니다.

2. 방법론 (Methodology)

이 논문은 수치형 데이터를 직접 처리할 수 있도록 트랜스포머 아키텍처를 개조한 Quantformer를 제안합니다.

• 데이터 전처리:

  • 입력: 20 개의 연속된 타임스탬프에 대한 주가 수익률 (Return) 과 거래 회전율 (Turnover Rate) 의 2 차원 벡터를 사용합니다.
  • 정규화: Z-score 정규화 (평균 0, 분산 1) 를 적용하여 이상치의 영향을 줄이고 특징 간의 비교 가능성을 높입니다.
  • 레이블링: 미래 수익률의 분위수 (Quantile) 를 기반으로 한 원-핫 (One-hot) 벡터를 타겟으로 사용합니다. (예: 상위 20%, 중간 20%, 하위 20% 등).

• Quantformer 아키텍처의 핵심 수정 사항:

  1. 선형 임베딩 (Linear Embedding): NLP 의 '워드 임베딩' 레이어를 제거하고, 수치형 데이터를 직접 처리할 수 있는 **표준 선형 레이어 (Linear Layer)**로 대체했습니다.
  2. 포지셔널 인코딩 제거 (No Positional Encoding): 시계열 데이터는 시간 순서가 내재되어 있으므로, 별도의 포지셔널 인코딩 모듈을 제거하여 모델을 간소화했습니다.
  3. 디코더 단순화: 시퀀스 생성이 아닌 미래 수익률 확률 분포 예측이 목적이므로, 자기회귀 (Autoregressive) 예측 메커니즘과 마스킹 연산을 제거하고 디코더를 단순화했습니다.
  4. 멀티헤드 셀프 어텐션: 각 주식의 시간적 의존성을 포착하기 위해 표준 멀티헤드 셀프 어텐션 메커니즘을 유지하되, 수치 데이터에 최적화된 방식으로 적용했습니다.

• 학습 및 트레이딩 전략:

  • 손실 함수: 평균 제곱 오차 (MSE Loss) 를 사용하여 예측 확률 분포와 실제 분포 간의 거리를 최소화합니다.
  • 포트폴리오 구성: 모델이 예측한 미래 수익률의 분위수 순위 (Quantile Rank) 를 기반으로 상위 주식들을 선별하여 등가중치 (Equal-weight) 포트폴리오를 구성합니다.

3. 주요 기여 (Key Contributions)

1. 수치형 데이터 전용 트랜스포머 아키텍처 제안: 텍스트 기반이 아닌 수치형 시계열 데이터에 직접 적용 가능한 트랜스포머 변형 모델 (Quantformer) 을 최초로 제안했습니다.
2. 감성 분석에서의 전이 학습 (Transfer Learning) 아이디어: NLP 의 감성 분석에서 영감을 받아, 시장 심리 (Sentiment) 와 거래량 데이터를 결합하여 투자 요인 (Factor) 을 생성하는 새로운 접근법을 제시했습니다.
3. 대규모 실증 분석: 2010 년부터 2023 년까지 중국 자본 시장의 4,601 개 종목, 500 만 개 이상의 롤링 데이터를 활용하여 월간, 주간, 일간 주파수별로 광범위한 백테스트를 수행했습니다.

4. 실험 결과 (Results)

• 데이터셋: 상하이 및 선전 증권거래소 상장 4,601 개 종목 (2010~2023).
• 성능 비교:
  • 기존 요인 대비 우위: JoinQuant 에서 제공하는 100 개의 전통적인 가격 - 거래량 (Price-Volume) 요인 전략과 비교했습니다.
  • 수익률: Quantformer 기반 전략 (월간, Month 1) 은 연간 수익률 (AR) 17.35%, **초과 수익률 (AER) 19.43%**를 기록했습니다. 이는 100 개 기존 요인 중 가장 높은 성과였습니다.
  • 리스크 조정 수익: 샤프 비율 (Sharpe Ratio) 이 0.915로, 비교 대상 중 가장 높았으며 (차순위 0.243), 알파 (Alpha) 또한 양의 값을 보여 시장 대비 초과 수익 능력을 입증했습니다.
  • 하방 위험: 99% VaR(Value at Risk) 이 2.81% 로, 다른 요인들보다 낮은 하방 위험을 보였습니다.
• 스케일 효과: 학습 데이터의 규모 (상위 1%, 5%, 10%, 20% 등) 를 변화시켰을 때, 모델은 일관된 성능을 보였으며, 특히 상위 1% 전략은 연간 수익률 24.71% 를 기록했습니다.

5. 의의 및 결론 (Significance)

• 트랜스포머의 금융 적용 가능성 입증: 자연어 처리를 넘어 수치형 금융 시계열 데이터에서도 트랜스포머 아키텍처가 강력한 예측 능력을 가질 수 있음을 증명했습니다.
• 실용적 투자 전략: 단순한 예측을 넘어, 실제 거래 가능한 포트폴리오 최적화 전략으로 연결되었으며, 중국 시장이라는 대규모 데이터에서 검증되었습니다.
• 향후 전망: 이 연구는 양적 거래 분야에서 딥러닝, 특히 트랜스포머 기반 모델의 새로운 방향성을 제시하며, 시장 심리와 기술적 지표를 통합한 고도화된 투자 요인 개발의 가능성을 열었습니다.

이 논문은 복잡한 금융 데이터를 처리하기 위해 기존 NLP 모델을 어떻게 변형하고 적응시킬 수 있는지에 대한 구체적인 기술적 통찰과 실증적 증거를 제공합니다.