Quantformer: 定量的トラン스포マー取引戦略によるアテンションから利益へ

技術的サマリー（日本語）

本論文は、従来の定量的取引における課題を解決するため、トランスポーマー（Transformer）アーキテクチャを金融時系列データに特化して改良したニューラルネットワークモデル「Quantformer」を提案しています。自然言語処理（NLP）の分野で成功を収めたトランスポーマーを、数値データ（株価、出来高など）の直接入力と将来の収益予測タスクに適応させ、投資ファクターの構築に利用することを目的としています。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 問題定義と背景

従来の定量的取引では、複雑で動的な金融市場のあらゆる変数（長期的な情報や利益につながる重要なシグナル）を完全に捉えることが困難でした。

• 既存手法の限界:
  • SVM や LSTM/GRU: 高次元データや長期的な依存関係のモデル化に一定の成果を上げてきましたが、過学習のリスクや、非定常な時系列データへの適応性の限界がありました。
  • 標準的なトランスポーマー: NLP 分野では成功していますが、金融データへの適用には以下の課題がありました。
    1. 入力形式: 金融データはカテゴリカルデータと数値データ（価格変動、出来高率など）が混在しており、NLP の「単語埋め込み（Word Embedding）」では数値データを直接処理できません。
    2. タスクの不一致: 多くの NLP タスクは「シーケンス・ツー・シーケンス（seq2seq）」（例：翻訳）ですが、株価予測は「特定の期間の将来収益を正確に予測する」タスクであり、デコーダの自己回帰的な生成メカニズムやマスキング操作が必ずしも最適ではありません。
    3. 位置エンコーディング: 時系列データは本質的に順序を持つため、標準的なトランスポーマーの位置エンコーディングが不要、あるいは最適でない可能性があります。

2. 手法：Quantformer

Quantformer は、上記の課題を解決するために設計された改良されたトランスポーマー・エンコーダーです。

2.1. データ前処理と特徴量

• 入力データ: 中国の上海・深圳証券取引所に上場する 4,601 銘柄の過去 14 年（2010-2023 年）のデータを使用。
• 特徴量: 各銘柄について、過去 20 期間（月次、週次、日次）の「累積収益率」と「累積出来高率」の 2 次元ベクトルを入力とします。
• 正規化: Z-score 正規化（平均 0、分散 1）を適用し、外れ値の影響を低減し、特徴間の比較を可能にします。

2.2. アーキテクチャの改良点

1. 線形埋め込み（Linear Embedding）:
   • NLP における「単語埋め込み層」を廃止し、数値データを直接処理するための標準的な線形層に置き換えました。これにより、カテゴリカルデータと数値データの両方を効率的に埋め込みます。
2. 位置エンコーディングの削除:
   • 時系列データは時間順序が本質的に埋め込まれているため、位置エンコーディングモジュールを削除しました。これにより、モデルの複雑さを減らし、時系列の順序性を自然に扱えるようにしています。
3. デコーダの簡素化:
   • 将来の価格変動の確率分布を予測するタスクに特化するため、デコーダの自己回帰生成メカニズムとマスキング操作を削除しました。
   • 出力は、将来の収益が特定の分位（Quantile）に属する確率分布（One-hot ベクトル）となります。
4. 学習目標:
   • 将来の収益率を分位（例：上位 20%、中位 20%、下位 20% など）に分類するタスクとして定式化し、平均二乗誤差（MSE）を損失関数として使用します。

3. 主要な貢献

1. 数値データ向けトランスポーマーの提案: 位置エンコーディングや単語埋め込みを排除し、線形埋め込みを採用することで、時系列数値データに特化したトランスポーマー構造を確立しました。
2. 市場センチメントの統合: 出来高率などの市場センチメント情報を特徴量として直接入力に取り込むことで、市場のダイナミクスをより深く捉える能力を向上させました。
3. 実証的な検証: 100 以上の従来の価格・出来高ファクター（JoinQuant 提供）およびベンチマーク（CSI 300）との大規模なバックテストを行い、Quantformer ファクターの優位性を示しました。

4. 実験結果

中国市場の 4,601 銘柄、2010 年から 2023 年のデータを用いたバックテスト結果は以下の通りです。

• パフォーマンス:
  • 月次データ（Month 1）: 年間収益率（AR）17.35%、超過収益率（AER）19.43%、シャープレシオ（SR）0.915 を記録しました。
  • 100 ファクターとの比較: 100 個の伝統的な価格・出来高ファクターの平均年間収益率は -3.78%、平均シャープレシオは -0.36 でした。Quantformer はこれらすべての指標でトップクラスのパフォーマンスを示し、特にシャープレシオ（0.915）は他ファクター（最高 0.243）を大きく上回りました。
  • リスク管理: 99% VaR（Value at Risk）は 2.81% と低く、他のファクター（最大 2.86%）よりも下方リスクが小さいことが確認されました。
• トレーニングスケールの影響:
  • 上位 1%、5%、10%、20% の銘柄のみを対象としたトレーニング実験では、上位 1% 対象（QF 1%）で年間収益率 24.71%、超過収益率 35.74% という高いリターンを達成しましたが、ボラティリティも高まりました。
  • 全体的に、モデルは異なるトレーニングセットや銘柄選択の厳格さに対してロバストであることが示されました。
• 勝率: 月次戦略では約 57.8%、週次・日次戦略でも 40% 台後半から 50% 台の勝率を維持しました。

5. 意義と結論

• 定量的取引への新たなアプローチ: 自然言語処理で成熟したトランスポーマー技術を、数値データ中心の金融分野へ適応させるための有効なフレームワークを提供しました。
• 実用性: 従来のファクターベース戦略や、単純な機械学習モデル（LSTM など）と比較して、リスク調整後のリターン（シャープレシオ）や超過リターンにおいて顕著な優位性を示しました。
• 将来展望: 市場センチメントや長期的な依存関係を効果的に捉えることで、より高精度な取引シグナル生成が可能となり、定量的取引戦略の未来に有望な示唆を与えています。

本論文は、Transformer 構造を金融時系列データに特化して改良する「Quantformer」が、実世界の市場データにおいて収益性と堅牢性を兼ね備えた投資ファクターとなり得ることを実証しました。コードは GitHub で公開されています。