技術要約：メタ学習による選択的時系列予測

問題提起

ディープラーニング手法は時系列予測において最先端の性能を達成しているが、その精度はすべてのサンプルに対して一様ではない。時系列内の特定のインスタンスは本質的に予測が困難であり、それが予測誤差の大幅な変動をもたらす。分類や回帰においては、高リスクな予測を控える「リジェクト・オプション（拒絶選択）」メカニズムが確立されているが、予測（フォアキャスティング）の分野では未だ十分に探索されていない。

予測における既存の棄却戦略は、通常、予測値自体から導出される予測区間の幅、非適合度スコア、あるいは学習された信頼度推定といった、プロキシ（代理）となるヒューリスティックに依存している。本論文は、これらのアプローチは特定の訓練ドメインやモデルアーキテクチャに密接に結びついていると主張している。その結果、新しいドメインや異なる特性を持つ時系列への転移学習において、汎用性に乏しく、その有用性が制限されることになる。

手法

著者らは、棄却の決定を予測出力から切り離した、メタ学習に基づく選択的予測フレームワークを提案している。核心となる革新は、予測値に依存するのではなく、直近のラグから抽出された構造的特性に基づき、予測誤差の経験的パーセンタイル（スケール不変な統計量）をモデリングすることである。

本手法は、主に2つの段階で構成される：

1. パフォーマンス推定（ソースドメイン）

ローリング・オリジン評価手順（時系列クロスバリデーション）を用いて、ソースドメインに対してグローバル予測モデル（例：KANまたはNHITS）を訓練する。各予測オリジン $t$ において、モデルはホライゾン $h$ を予測し、真値に対して誤差 $e_{i,t}$ が算出される。

2. メタ学習

誤差をそのままターゲットとして使用する代わりに、本フレームワークは、各個別の時系列内で計算された経験的パーセンタイル順位へと誤差を変換する：
$$u_{i,t} = \frac{\#\{j \in T_i : j \neq t, e_{i,j} < e_{i,t}\}}{|T_i| + 1}$$
この正規化により、誤差は有界な $(0, 1)$ の範囲にマッピングされ、異種混合のデータセット間でも転移可能な、スケール不変なターゲットが生成される。

メタ予測器（Meta-Predictors）: メタモデルの入力特徴量は、TSFELライブラリを用いて、予測オリジンの直前のラグ窓から抽出される。これらの特徴量は、絶対値ではなく、トレンド、季節性、複雑性といった構造的特性を要約するものである。

メタモデル（Meta-Model）: これらの構造的特徴を予測誤差パーセンタイルへとマッピングするために、CatBoostRegressorが訓練される。

推論と棄却

推論時には、メタモデルは予測が発行される前に、各予測オリジンのスコアを算出する。

• ゼロショット（Zero-shot）: ソースドメインで訓練されたメタモデルを、新しいドメインに直接適用する。
• ドメイン適応（Domain-adapted）: ターゲットドメインのラベル付きデータの小規模なサブセットを用いて、メタモデルを微調整する。
• 決定ルール: 予測されたパーセンタイルスコア $\hat{u}_{i,t} \geq q$ （ここで $q$ は所望のカバー率に対応する閾値）となる予測は、棄却される。

主な貢献

1. 誤差推定のためのメタ学習: 本論文は、直近のラグの構造的特性とスケール不変なターゲット（誤差パーセンタイル）を用いて、大きな予測誤差を推定するメタ学習アプローチを導入した。
2. ドメインに依存しない転移: 棄却の決定を予測から切り離し、ドメインに依存しない特徴量に基づかせることで、本フレームワークは異種混合の時系列における効果的な棄却転移を可能にする。
3. 実証的検証: 本アプローチが、インドメインおよび転移学習の設定の両方において、予測値由来のヒューリスティック（予測区間の幅や残差分散など）よりも優れていることを示す証拠を提示している。

実験結果

フレームлоクは、KANおよびNHITSをベースの予測器として、M3、M1、およびTourismの単変量時系列コレクション（月次および四半期頻度）を用いて評価された。

メタレベルの評価（ランキングの質）

• インドメイン: メタモデルは、予測スコアと実際の誤差ランクとの間で高いスピアマン相関係数（$\rho$ は0.71から0.90の間）を達成し、PI幅や残差スケールといったベースラインを一貫して上回った。
• 転移学習: ゼロショット転移ではドメインシフトにより性能の低下が見られたものの、メタモデルは依然としてほとんどのベースラインを上回った。極めて重要な点として、ドメイン適応（ターゲットデータの30%で微調整）を行うことで性能が大幅に回復し、しばしばソースドメインの性能に匹敵、あるいはそれを上回る結果となった。
• ベースライン: 予測値由来のベースライン（PI幅、残差スケール）は、転移設定において一般に失敗し、ゼロショットシナリオではランダムな棄却よりも劣る性能を示すことが多かった。

ベースレベルの評価（予測精度）

• 選択的予測を用いることで、全てのカバーレベルにおいて、「すべて保持」や他のベースラインと比較して、受理された予測の平均sMAPEが一貫して改善された。
• 本手法は、全ての棄却割合において、「オラクル」（真の誤差が既知である場合の理論上の最良性能）への平均ギャップが最も小さくなった。
• このアプローチは**モデルに依存しない（model-agnostic）**ことが証明されており、ベースとなる予測器がKANであってもNHITSであっても、同様の改善をもたらした。

意義と主張

本論文は、予測可能性は直近の観測値の構造的特性として扱うことができると主張しており、これにより予測ホライゾンが実現される前にリスクを考慮した意思決定が可能になる。

• 予測前トリアージ（Pre-forecast Triage）: 予測が生成された後に必要となる不確実性定量化手法とは異なり、本手法はラグの記述子のみを使用して、困難なインスタンスを事前にスクリーニングする、事前的（ex ante）な操作を行う。
• 汎用性: スケール不変な設計により、ベースの予測器を再訓練することなく、ドメインを越えて効果的に転移できるメカニズムを実現しており、既存の選択的予測手法における主要な課題に対処している。
• 実用的有用性: 結果は、実務者が信頼性の低い予測を選択的に回避できることを示唆しており、高リスクな予測が有害となるクリティカルなアプリケーションにおいて、平均誤差を大幅に減少させることができる。

著者らは、本手法がメタ訓練データの代表性に依存していること、および相対的なリスクを推定するものであり、較正された確率的保証を提供するものではないことを認め、限界事項として挙げている。今後の研究として、形式的な不確実性定量化のために、このメカニズムをコンフォーマル予測（conformal prediction）と統合することを提案している。