技術概要：V4FinBench

問題定義

企業の破綻予測は、深刻なクラス不均衡と多期間予測の必要性を特徴とする、極めて重要な金融タスクである。投資家、債権者、規制当局にとっての実践的な重要性にもかかわらず、この問題を研究するための公的リソースは依然として不足している。広く利用されている無料ベンチマーク（例：UCI のポーランド、台湾、米国株式市場データセット）は、通常 6,000 から 80,000 件の企業 - 年観測値を含んでおり、現代の基盤モデルの有意義なファインチューニングには不十分である。より大規模で豊富なリソースが存在するものの、それらはサブスクリプションの支払い壁の向こうにあり、再現性の制限や、適応に大量のデータを必要とする手法の評価を阻害している。さらに、既存の公開データセットは、多期間ラベルや一貫した苦境定義を欠くことが多く、期間依存の挙動の評価や、現実的な金融条件下での手法間の比較を困難にしている。

手法とベンチマーク構築

これらのギャップに対処するため、著者は 2006 年から 2021 年にかけてのヴィシェグラード・グループ（V4）諸国（チェコ共和国、ハンガリー、ポーランド、スロバキア）の経済から抽出された1,106,879 件の企業 - 年観測値を含む公開ベンチマークV4FinBenchを導入する。

データと特徴量

• ソース: データは EMIS サービスから抽出され、203,900 件の固有企業を網羅している。
• 特徴量: 各観測値は、企業メタデータ、財務比率、成長指標、規模指標、およびセクター相対指標を含む131 の特徴量で記述される。
• 苦境定義: 従来の研究が正式な法的破綻申請に依存するのに対し、V4FinBench は複合財務苦境基準を使用する。企業は最終報告年において、以下の 3 つの条件を同時に満たす場合にのみ苦境企業としてラベル付けされる：
  1. 償還能力: 自己資本対総資産比率が負（$< 0$）。
  2. 収益性: 税引前・利子前・償却前利益（EBITDA）対総資産比率が負（$< 0$）。
  3. 流動性: 流動比率が 0.6 未満（$< 0.6$）。
• 多期間タスク: ベンチマークは、$h \in \{0, 1, \dots, 5\}$ 年後に対応する 6 つの二値予測タスクを定義する。各期間について、苦境企業のデータから最終 $h$ 年を除去し、得られた観測値を正例としてラベル付ける。
• 不均衡: 結果として生じるタスクは深刻なクラス不均衡を示し、正例率は**0.19% から 0.36%**の範囲にある。

評価プロトコル

著者は、固定された再現性のある評価プロトコルを定義する：

• 分割: データ漏洩を防ぐため、国内で企業レベルのグループ化を行った 5 層の層化交差検証。
• 前処理: 欠損値はトレーニングセットの中央値で補完され、特徴量はトレーニングセットの統計量を用いて標準化される。
• 指標: 不均衡を考慮し、F1 スコアとROC-AUCを主要指標とする。決定閾値は、適合率 - 再現率曲線上で F1 を最大化するように検証フォールドで較正される。

評価された手法

本論文は 3 つの手法ファミリーを評価する：

1. 古典的表形式ベースライン: ロジスティック回帰（LR）、多層パーセプトロン（MLP）、ランダムフォレスト、XGBoost、CatBoost、LightGBM。
2. 表形式基盤モデル（TabPFN）: 不均衡を考慮したコンテキスト構築でファインチューニングされた事前学習済みコンテキスト学習器。著者は、10,000 サンプルのコンテキストを構築するための 3 つの戦略を比較する：
   • リサンプリングなし: 一様サンプリング（少数クラスが弱く表現される）。
   • ランダムアンダースampling: 多数クラスを 0.3 の比率にランダムにサブサンプリング。
   • プロトタイプアンダースampling: K-means クラスタリングを通じて多数クラスの代表を選択し、非苦境集団の構造を保持する。
3. 大規模言語モデル（LLM）: インストラクション形式の会話としてフォーマットされたシリアライズされた財務記録に対してQLoRA経由でファインチューニングされたLlama-3-8B。

主要な結果

1. TabPFN と古典的ベースラインの比較

• コンテキスト構築の重要性: プロトタイプアンダースampling は、ランダムアンダースampling やリサンプリングなしよりも TabPFN の結果を向上させた。これは、少数クラスの露出を単に増やすだけでなく、多数クラスの構造的な多様性を保持することが重要であることを示している。
• 性能: プロトタイプアンダースampling を用いると、TabPFN はすべての期間において ROC-AUC において勾配ブースティング木（最も強力な古典的ベースライン）と同等かそれ以上の性能を示した。F1 スコアにおいては、即時期間（$h=0$）で勾配ブースティングと同等であり、$h=2$ 以降ではそれを上回った。

2. LLM の性能（Llama-3-8B）

• 比較: QLoRA 経由でファインチューニングされた Llama-3-8B は、すべての期間において勾配ブースティング木（特に XGBoost）に ROC-AUC で劣り、F1 スコアでも一般的に弱かった。
• 期間依存性: LLM は即時期間で最も良く機能したが、その順位付け能力は $h=0$ を超えると急激に低下し、より長い期間では偶然に近い状態にとどまった。予測期間が長くなるにつれて、LLM と XGBoost の間のギャップは著しく広がった。

3. 異データセット間転移

• 外部検証: 著者は、V4FinBench でファインチューニングされた TabPFN チェックポイントを米国破綻データセット（異なる経済、期間、特徴量セット）で評価した。
• 結果: ファインチューニングされたモデルは、バニラ（事前学習済み）TabPFN を ROC-AUC（0.818 $\to$ 0.842）および F1 スコア（0.372 $\to$ 0.409）の両方で改善した。これは、適応が V4 固有のパターンへの過学習ではなく、転移可能な財務苦境構造を捉えたことを示唆している。

意義と貢献

本論文は 3 つの主要な貢献を行う：

1. V4FinBench データセット: 基盤モデルのファインチューニングを特に支援するように設計された、大規模な公開企業苦境ベンチマーク。4 か国、6 つの予測期間、複合苦境基準にわたる 110 万件の観測値を網羅し、大規模で自由にアクセス可能な金融データセットの不足に対処する。
2. 再現性のある評価プロトコル: 現実的なクラス不均衡と多期間予測条件下で、古典的表形式手法、表形式基盤モデル、LLM ベースのアプローチを比較するための標準化されたフレームワーク。
3. 実証的知見:
   • 不均衡を考慮したコンテキスト構築（特にプロトタイプアンダースampling）が、表形式基盤モデルを深刻に不均衡な金融データに適応させ、強力な勾配ブースティングベースラインと競争またはそれを超えるために不可欠であることを実証する。
   • この構造化予測設定において、シリアライズ記録 LLM のファインチューニングは、特に長い予測期間において、強力な表形式ベースラインとまだ競争できていないことを示す。
   • V4FinBench のようなベンチマークが、再利用可能な財務構造を捉えながら外部分布へ転移する適応を支援できるという予備的証拠を提供する。

著者は、V4FinBench が直接的な自動意思決定用ではなく、ベンチマークと研究用に意図されていることを強調している。また、地理的範囲（中央ヨーロッパ）の限界や、正式な法的破綻申請ではなく複合財務苦境ラベルを使用している点について言及し、追加の検証と公平性分析なしの展開には注意を促している。