Financial Numerical Prediction and Allocation as Token Generation

기술 요약: FinATOM

문제 정의

금융 예측 및 의사결정 시스템은 일반적으로 언어 모델에 부착된 작업별 회귀(regression), 순위 지정(ranking) 또는 정책 헤드(policy heads)에 의존합니다. 이러한 접근 방식은 출력 계약을 파편화하여, 각 작업마다 별도의 파라미터화, 손실 함수 및 디코더를 요구하며, 결과적으로 언어 모델과 평가 대상이 되는 최종 수치 객체를 분리시킵니다. 또한, 표준적인 수치 토큰 생성은 불규칙한 토큰화, 수치적 순서의 상실, 그리고 제약 조건(예: 롱온리(long-only) 가중치, 예산 제한)을 위반하는 잘못된 출력을 생성할 위험 등의 문제에 직면합니다. 본 논문은 인과적 언어 모델(causal language model)이 제약된 토큰 생성을 통해 예측과 결정을 직접 표현할 수 있는지 조사하며, 이를 통해 작업별 수치 헤드 없이도 감사 가능성, 기계적 파싱 가능성, 그리고 지도 미세 조정(SFT) 및 토큰 수준의 정책 최적화와의 호환성을 유지하는 방법을 탐구합니다.

방법론

FinATOM은 LoRA가 적용된 Llama 3.2 1B 백본을 사용하는 통합된 헤드-프리(head-free) 인터페이스를 도입합니다. 이 시스템은 공유된 어휘 투영(vocabulary projection)을 사용하되 서로 다른 출력 문법과 학습 목표를 가진 두 가지 상보적 작업—주식 수익률 예측 및 동적 ETF 배분—을 지원합니다.

1. 공유된 토큰 네이티브 인터페이스

회귀 또는 정책 헤드를 추가하는 대신, 모델은 제약된 토큰을 직접 생성합니다. 유효한 수치 값은 결합된 언어 모델 판독(readout)에 의해 점수가 매겨지는 학습된 어휘 항목입니다.

• 예측(Forecasting): 모델은 연속적인 D1, D 2, D3 수익률에 대한 토큰을 자기회귀적으로 방출합니다.
• 배분(Allocation): 모델은 5개 ETF에 대해 정규화된 롱온리 가중치를 생성합니다.

2. 포트폴리오 배분 파이프라인

배분 작업은 인과적 모방과 결과 기반 개선으로 구분됩니다.

• 인과적 SFT (지도 미세 조정): 모델은 "인과적 평균-분산 앵커(causal mean–variance anchor)"를 모방하도록 학습됩니다. 이 교사 타겟(teacher target)은 결정 날짜에 가시적인 정보(20일 수익률, 리스크, 상관관계 및 이전 포트폴리오 상태)로부터만 계산됩니다. 연속적인 해(solution)는 축소(85% 앵커, 15% 동일 가중치)된 후 50개 단위 그리드 상에 결정론적으로 양자화됩니다. SFT 목적 함수는 5개 값 슬롯에 대한 토큰 교차 엔트로피와 서수 가우시안(ordinal Gaussian) 타겟을 결합합니다.
• 정책 최적화 (DAPO-증강 GRPO): 후속 단계에서는 실현된 21일 샤프 지수(Sharpe ratio)를 최적화합니다. 모델은 법적 배분 시퀀스를 샘플링하며, 보상은 실현된 샤프 지수에서 인과적 앵커로부터의 편차에 대한 페널티를 뺀 값으로 정의됩니다. 미래 수익은 프롬프트나 SFT 타겟이 아닌 오직 이 보상 신호에만 포함됩니다. 업데이트에는 참조 모델의 KL 페널티 없이, DAPO 스타일의 비대칭 클리핑(asymmetric clipping)과 토큰 수준의 그래디언트를 사용하는 그룹 상대 정책 최optimization (GRPO)이 사용됩니다.

3. 예측 파이프라인

• 타겟 구축: 타겟은 변동성 표준화된 수익률로, [-8, 8] 범위로 클리핑된 후 41개의 분위수 빈(quantile bin)에 매핑됩니다.
• 학습: SFT는 버킷 슬롯에 대한 서수 교차 엔트로피와 동일 날짜 랭킹 손실을 사용합니다.
• 디코딩: 모델은 D1, D2, D3 토큰을 자기회귀적으로 생성합니다. 연속적인 점수는 정렬된 버킷 분포의 조건부 기댓값으로부터 도출되며, 이는 추적 변동성에 의해 재조정되고 랭킹을 위해 복리로 계산됩니다.
• 정책 단계: 1 에포크(epoch)의 정책 단계는 궤적을 샘플링하고 다중 구성 금융 보상(단계, 경로, 방향, 순위 및 상위 20개 구성 요소)을 사용하여 세 개의 버킷 위치를 업데이트합니다.

주요 기여

1. 통합된 헤드-프리 인터페이스: 추가적인 작업별 수치 헤드 없이 자기회귀적 3단계 수익률 예측 및 정규화된 5개 ETF 배분을 위한 공유된 제약 토큰 인터페이스를 도입했습니다.
2. 인과적 배분 파이프라인: 완전히 명시된 평균-분산 교사(인과적 SFT)와 DAPO-증강 GRPO를 결합한 파이프라인을 개발하여, 정책을 실현된 포트폴리오 샤프 지수에 직접 정렬시키면서 인과적 앵커로부터의 편차를 방지합니다.
3. 실증적 증거: 세 가지 테스트 기간(2023–2025)에 걸친 연대기적 배분 증거, 통제된 입력 모달리티 절제 실험(ablation), 그리고 FinTexTS 데이터셋에 대한 탐색적 비교를 통해 프로토콜 내 개선 사항과 발표된 베이스라인과의 맥락적 비교를 구분하여 제시했습니다.

결과

포트폴리오 배분 (2023–2025)

• 샤프 지수 개선: 정책 단계는 풀드 총(pooled gross) 샤프 지수를 1.428(SFT)에서 1.529로 개선했습니다. 5bp(basis point) 거래 비용 모델 적용 시, 순(net) 샤프 지수는 1.394에서 1.494로 증가했습니다.
• 체제 의존성(Regime Dependence): 정책은 2023년에는 SFT 성능과 일치했으나, 2024년과 2025년에는 상당한 이득을 보였습니다. 2024년에 정책 샤프 지수(1.564)는 인과적 교사(causal teacher)의 샤프 지수(1.407)를 초과했으며, 이는 정책이 단순한 모방을 넘어 학습하고 있음을 나타냅니다.
• 회전율(Turnover): 평균 편도 회전율(one-way turnover)은 1.481%에서 1.537%로 아주 약간 증가했으며, 이는 이득이 거래 강도의 증가보다는 개선된 수익-리스크 트레이드오프에서 비롯되었음을 시사합니다.
• 입력 모달리티: 뉴스 데이터와 시계열 데이터를 결합했을 때 가장 높은 평균 샤프 지수(1.540)를 기록했습니다. 시계열 데이터는 안정적인 단독 신호를 제공했지만, 뉴스 데이터는 2025년 체제에서 가장 크게 기여했습니다.

주식 예측 (FinTexTS)

• 성능: FinTexTS 데이터셋에서 SFT 전략은 **73.52%**의 누적 수익률과 2.68의 샤프 지수를 달성했습니다. 1 에포크 정책 단계는 이를 각각 **73.72%**와 2.69로 소폭 개선했습니다.
• 비교: FinATOM 정책은 발표된 FinTexTS 시스템의 누적 수익률(53.98%)보다 높은 수익률(73.72%)을 기록했지만, 샤프 지수 차이는 미미했습니다(2.69 vs 2.67). 저자들은 프로토콜의 차이와 일치된 변동성/낙폭 지표의 부재로 인해 이 비교가 맥락적임을 명시했습니다.

의의 및 주장

본 논문은 FinATOM이 금융 수치 예측 및 의사결정을 위해 직접적인 언어 모델 토큰 생성을 사용하는 것이 **가능함(feasibility)**을 입증한다고 주장합니다.

• 우월성보다는 가능성: 저자들은 결과가 보편적 우월성이 아닌 가능성을 확립한다는 점을 명시적으로 밝힙니다. 특히 예측 작업에서는 대부분의 예측력이 SFT 단계에서 포착되므로, 정책 최적화는 전면적인 변화보다는 점진적인 정교화를 제공합니다.
• 인과적 무결성: 설계는 미래 수익이 프롬프트와 SFT 타겟에 존재하지 않고 오직 정책 보상에만 들어오도록 하여 인과적 무결성을 유지합니다.
• 한계점: 연구는 제한된 자산 유니버스(5개 ETF), 설정당 단일 훈련 시드, 그리고 Llama 3.2 사전 학습 컷오프(2023년 12월)가 2023년 결과에 미칠 수 있는 잠재적 영향을 인정합니다. 저자들은 이 결과가 가능성을 보여주는 증거로 해석되어야 하며, 견고함을 확인하기 위해 더 넓은 자산, 체제 및 무작위 시드에 대한 광범위한 테스트가 필요하다고 조언합니다.