기술 요약: FinMamba

문제 정의

주가 움직임 예측은 금융 데이터의 높은 변동성, 낮은 신호 대 잡음비(signal-to-noise ratio), 그리고 시장 영향력의 복잡하고 다면적인 특성으로 인해 매우 중요하면서도 도전적인 과제입니다. 기존의 딥러닝 접근 방식은 다음과 같은 두 가지 주요 한계에 직면해 있습니다:

1. 정적 또는 편향된 종목 간 관계: 현재의 모델들은 정적인 사전 지식(예: 산업 섹터)이나 순수하게 데이터 기반의 사후 상관관계(예: 피어슨 계수)에 의존하는 경우가 많으며, 역동적인 시장 상황을 충분히 반영하지 못합니다. 구체적으로, 거시경제적 요인에 의해 종목 간 상관관계가 시장 하락기(체계적 위험)에는 심화되고 상승기에는 약화되는 현상을 포착하지 못합니다.
2. 비효율성 및 패턴 인식: 트랜스포머(Transformer)와 같은 전통적인 시퀀스 모델은 이차 복잡도(quadratic complexity)로 인해 긴 과거 데이터를 처리하는 데 어려움을 겪으며, 반복되는 패턴보다는 이상치(outlier)를 과도하게 강조하는 경향이 있습니다. 반대로, 실시간 거래에 필요한 낮은 지연 시간(latency)을 유지하면서 여러 시간 척도(미세한 분 단위 변동부터 거시적인 경제 트렌드까지)에 걸친 의존성을 효율적으로 모델링하는 능력이 부족합니다.

방법론

저자들은 이러한 한계를 해결하기 위해 **시장 인지 그래프(Market-Aware Graph, MAG)**와 다층 마마(Multi-Level Mamba, MLM) 구조를 통합한 FinMamba 프레임워크를 제안합니다.

1. 시장 인지 그래프 (MAG)

MAG 모듈은 정적인 사전 지식과 동적인 사후 상관관계를 융합하고, 이를 시장 지수 피드백으로 정교화함으로써 종목 간 관계를 동적으로 모델링합니다.

• 동적 종목 상관관계 그래프 생성: 모델은 다음을 결합하여 인접 행렬 $A_t$를 구축합니다:
  • 사후 상관관계 ($Q$): 단기 시퀀스 유사성을 포착하기 위해 룩백 윈도우(lookback window) $L$에 대해 스피어먼 계수를 사용하여 매일 계산됩니다.
  • 사전 관계 ($D$): 1차 및 2차 산업 분류를 기반으로 장기적인 구조적 관계를 인코딩하는 "산업 붕괴 행렬(Industry Decay Matrix)"로, 동일 산업 내 종목에 더 높은 가중치를 부여합니다.
  • 최종 인접 행렬은 $A_t = Q_t \cdot D$로 계산됩니다.
• 시장 인지 그래프 희소화(Sparsification): 시장 변동성에 적응하기 위해 모델은 가지치기(pruning) 메커니즘을 채택합니다. 모델은 대상 종목 집단의 평균으로 표현되는 시장 지수 $M_t$를 기반으로 희소도 수준 $\kappa_t$를 계산합니다. 인셉션(Inception) 블록과 시그모이드(Sigmoid) 함수를 사용하여 모델은 유지할 엣지(edge)의 수를 결정합니다.
  • 메커니즘: 시장 지수가 낮을 때(변동성이 높거나 위기 상황), 모델은 더 많은 엣지를 유지합니다(높은 상관관계). 시장 지수가 높을 때는 더 많은 엣지를 제거하여 종목 간의 차별화를 반영합니다.
• 그래프 어텐션 집계: 멀티 헤드 어텐션 메커니즘을 통해 가지치기된 그래프의 이웃 노드로부터 메시지를 집계하여 정교한 종목 임베딩을 생성합니다.

2. 다층 마마 (MLM)

MLM 모듈은 종목 임베딩을 처리하여 다양한 그래뉴러리티(granularity)에 걸친 시간적 의존성을 포착합니다.

• 다층 투영(Multi-Level Projection): 입력값은 선형 매핑을 통해 $k$개의 서로 다른 레벨로 투영됩니다. 이를 통해 모델은 미세한 로컬 디테일(마이크로 레벨)과 광범위한 글로벌 패턴(매크로 레벨)을 동시에 추출할 수 있습니다.
• 선택적 상태 공간 메커니즘: 각 레벨은 마마(Mamba) 블록에 의해 처리됩니다. 트랜스포머와 달리, 마마는 선택적 메커니즘을 사용하여 현재 입력과 관련된 특정 과거 패턴은 기억하고 무관한 정보는 버릴 수 있습니다. 이를 통해 모델은 선형 시간 복잡도와 메모리 소비량으로 긴 시퀀스를 처리할 수 있습니다.
• 출력: 모든 레벨의 출력은 재투영되고 결합(concatenate)된 후, 선형 레이어를 통과하여 다음 거래일의 랭킹 점수를 예측합니다.

3. 최적화

모델은 다음의 결합 손실 함수를 사용하여 엔드 투 엔드(end-to-end)로 학습됩니다:

• 랭크 및 예측 손실 ($L_{RP}$): 점 단위 회귀를 위한 평균 제곱 오차(MSE)와 종목 간 상대적 순서를 최적화하기 위한 페어와이즈 랭킹 손실(pairwise ranking loss)의 조합입니다.
• 그래프 정보 병목(Graph Information Bottleneck, GIB) 손실 ($L_{GIB}$): 집계된 그래프 임베딩과 원래 입력 사이의 상호 정보를 최소화하도록 설계된 정규화 항으로, 모델이 노이즈를 필터링하면서 핵심 상관관계 정보만을 유지하도록 보장합니다.

주요 기여

본 논문은 다음과 같은 기여를 주장합니다:

• 시장 인지 그래프 구축: 거시경제적 시장 조건하에서 종목 간 관계 모델링을 명시적으로 강화한 최초의 연구입니다. 이는 정적 사전 지식(산업)과 동적 사후 관계(가격 시퀀스)를 통합하고, 시장 지수 피드백을 사용하여 시장 트렌드에 따라 상관관계를 적응적으로 조정합니다.
• FinMamba 프레임워크: 시장 인지 그래프와 다층 마마를 결합한 새로운 아키텍처를 제안합니다. 이 프레임워크는 높은 계산 효율성을 유지하면서 여러 시간 척도(마이크로에서 매크로까지)에 걸친 패턴 지향적 의존성을 효과적으로 모델링합니다.
• 최첨단 성능(SOTA): 미국(S&P 500, NASDAQ 100) 및 중국(CSI 300, CSI 500) 주식 시장에 대한 광범위한 실험을 통해, FinMamba가 기존의 퀀트 투자 방법 및 일반적인 시계열 예측 모델에 비해 우수한 예측 정확도와 거래 수익성을 달acia 있음을 입증했습니다.

실험 결과

저자들은 BLSW, CSM과 같은 클래식 퀀트 전략, AlphaStock과 같은 딥 강화 학습 방법, 그리고 다양한 딥러닝 아키텍처(Transformer, Mamba, THGNN, PatchTST 등)를 포함한 광범위한 베이스라인 모델을 대상으로 FinMamba를 평가했습니다.

• 성능 지표: 모델은 연간 수익률(ARR), 연간 변동성(AVol), 최대 낙폭(MDD), 연간 샤프 지수(ASR), 정보 비율(IR)을 사용하여 평가되었습니다.
• 주요 결과:
  • FinMamba는 대부분의 지표에서 네 가지 데이터셋 모두에 대해 최고 또는 차석의 결과를 달성했습니다. 특히 ARR, ASR, IR에서 뛰어난 성과를 보였습니다.
  • 그래프 기반의 종목 간 관계 모델링이 결여된 일반 시계열 예측 모델(예: Crossformer, iTransformer)보다 우수한 성능을 보였습니다.
  • 그래프 구조에 시장 지수 피드백을 효과적으로 통합함으로써 다른 그래프 기반 방법(예: THGNN, VGNN)을 능가했습니다.
  • 절제 연구(Ablation Studies): 산업 붕괴 행렬, 시장 인지 희소화 또는 다층 마마 구조를 제거했을 때 성능이 크게 저하되었으며, 이는 각 구성 요소의 필요성을 확인시켜 줍니다.
  • 효율성: Fin-Mamba는 특히 룩백 호라이즌(lookback horizon)이 길어질수록 Transformer 기반 모델에 비해 낮은 추론 시간과 메모리 사용량을 보여주었으며, 이를 통해 선형 복잡도의 이점을 검증했습니다.
  • 사례 연구: 2023년 UAW 파업 분석을 통해, FinMamba가 전통적 자동차 제조사(GM, Ford)와 테슬라(Tesla) 사이의 진화하는 상관관계 역학을 성공적으로 포착했음을 보여주었습니다. 이는 독자적인 시장 지위에서 격화되는 경쟁 관계로의 변화를 반영합니다.

의의 및 주장

본 논문은 동적인 시장 적응성과 계산 효율성이라는 두 가지 과제를 해결함으로써 FinMamba를 퀀트 트레이딩의 중요한 진보로 포지셔닝합니다. 저자들은 거시경제적 시장 피드백을 그래프 구축 과정에 직접 통합함으로써, 모델이 특히 변동성이 큰 시기에 시장 역학을 더 잘 이해할 수 있다고 주장합니다. 또한, 다층 마마 아키텍처를 사용하면 어텐션 메커니즘의 계산 부담 없이 여러 척도의 시간적 패턴을 효율적으로 추출할 수 있어, 실시간 알고리즘 트레이딩에 적합합니다. 이 연구는 그래프 기반의 구조적 사전 지식과 마마의 선택적 상태 공간 모델링을 결합하는 것이 금융 시계열 예측을 위한 강력한 패러다임을 제공함을 시사합니다.