技術要約：ConTex – 時系列予測における反事実生成の再定式化

1. 問題定義

時系列予測モデルは、エネルギーシステム、ヘルスケア、金融などの高リスクな領域において、ますます重要性を増しています。しかし、これらのモデルは正確な予測を提供する一方で、「望ましい将来の結果を得るために現在の状況をどのように変更すべきか」という実行可能な洞察（actionable insights）については欠けていることがよくあります。既存の説明手法は、主に遡及的（retrospective）であり、観測された結果をもたらした要因を特定すること（例：特徴量アトリビューションやアテンション機構による）に重点を置いています。対照的に、意思決定には前向きな視点（forward-looking perspective）、すなわち、予測された軌道を特定のターゲットシナリオへとシフトさせるために、現在の入力に対して最小限の修正を行う方法を決定することが求められます。

このタスクは、**反事実生成（counterfactual generation）**としてフレームワーク化されます。これは、元の入力 $x$ を可能な限り維持しながら、モデルの予測 $f_\theta(x')$ がターゲット制約 $Y_{target}$ を満たすような、最小限に修正された入力 $x'$ を見つける問題です。

既存手法の限界:
時系列における反事実生成のための既存手法は、**インスタンス単位の最適化（instance-wise optimization）**に依存しています。新しい入力サンプルごとに、最小の摂動を見つけるための個別の最適化問題を解きます。このアプローチには以下の問題があります：

• 不整合性（Inconsistency）: 類似したインスタンス間でも、修正内容が予測不能に変動する。
• 高い計算コスト: サンプルごとに最適化問題を解くことは、リアルタイムまたはインタラクティブなアプリケーションには遅すぎる。
• ターゲット依存性（Target Dependency）: 多くの手法は、入力に依存するターゲット軌道（例：入力依存の境界）を使用しており、これにより、定義された将来シナリオを達成することの真の難易度が不明瞭になる。

2. 手法：ConTex アーキテクチャ

著者らは、インスタンス単位の最適化から償却型介入学習（amortized intervention learning）へとパラダイムを転換する、モデルに依存しないアーキテクチャである ConTex (Counterfactual Time Series Explanations) を提案しています。各サンプルに対して最適化問題を解く代わりに、ConTex は、入力状態とターゲット条件を単一のフォワードパスで効果的な介入へとマッピングするグローバルな介入関数を学習します。

コア・アーキテクチャ

ConTex は、以下の要素からなる分解されたニューラルアーキテクチャで構成されています：

1. 時間的コンテキストエンコーダ (Temporal Context Encoder): 入力シーケンスから時間的特徴 ($h_x$) を抽出します。著者らは BiLSTM と Temporal Convolutional Networks (TCN) の両方を評価し、固定された受容野を持つ TCN が、より疎で解釈可能な修正を生み出す上で優れていることを見出しました。
2. 条件付きエンコーダ (Conditional Encoder): ターゲット条件 ($c$)（望ましい軌道の境界、現在の予測、および傾きを含む）を潜在的な埋め込みへとエンコードします。
3. 特徴量ごとの線形変調 (Feature-wise Linear Modulation: FiLM): 時間的特徴は、条件埋め込みによって変調されます ($\tilde{h}_x = h_x \odot (1 + \gamma) + \beta$)。これにより、モデルは異なるターゲット軌道に対して挙動を適応させることができます。
4. 分解された予測ヘッド (Decomposed Prediction Heads): 変調された表現は、介入 $z$ を予測するために2つのヘッドに渡されます：
   • 時間的関連性マスク ($m$): どのタイムステップ（where）で修正が必要かを示す確率マスク ($m \in [0, 1]^{T_{in}}$)。
   • 修正強度 ($s$): 入力をどの程度強く（how）修正すべきかを示す符号付きベクトル ($s \in \mathbb{R}^{T_{in}}$)。
   • 介入 (Intervention): 最終的な介入は $z = m \odot s$ として計算され、反事実は $x_{cf} = x + z$ となります。

学習目的関数

モデルは、**予測のアライメント（forecast alignment）と介入の最小化（intervention minimization）**のバランスをとる複合損失関数を最小化するように学習されます：

• 予測のアライメント ($L_{center}, L_{valid}$): ターゲット軌道の中心からの偏差、および制約違反の頻度に対してペナルティを課します。
• 介入の正則化 ($L_{prox}, L_{sparse}$):
  • 近接性 (Proximity): $L_1$ 損失を用いて変化の大きさにペナルティを課し、疎な介入を促します。
  • 希薄性 (Sparsity): 集中したマスク活性化を促進し、マスクをバイナリの決定へと押し出すことで、コンパクトな介入を促します。

3. 主な貢献

1. パラダイムシフト: 本論文は、反事実生成を、インスタンス単位の最適化から、単一パスでの生成を可能にするグローバルな介入ポリシーによる**償却推論（amortized inference）**へと移行させます。
2. 分解されたアーキテクチャ: ConTex は、介入を時間的関連性（どこを修正するか）と修正強度（どのように修正するか）に構造的に分解することで、疎で局所的、かつ解釈可能な反事実を提供します。
3. ターゲット条件付きアトリビューション: 本手法は、どのタイムステップを修正すれば望ましい結果が得られるかを特定する、前向きなアトリビューション・メカニズムを導入しており、これは介入の可能性のヒートマップとして可視化されます。
4. 効率性とパフォーマンス: 本アプローチは、優れた妥当性とコンパクトさを達成すると同時に、インスタンスベースの手法と比較して計算コストを 12～36倍 低減し、リアルタイム推論（サンプルあたり約0.007秒）をサポートします。

4. 実験結果

著者らは、4つのベンチマークデータセット (NN5, Electricity, Tourism, M4) と、4つの多様な予測バックボーン (PatchTST, N-HiTS, DLinear, TiDE) を用いて ConTex を評価しました。

• 妥当性 (Validity): ConTex は、16個のデータセットとバックボーンの組み合わせすべてにおいて最高の妥当性比率を達成し、インスタンスベースのベースライン (ForecastCF) を上回り、多くの場合でリトリーバルベースのベースライン (BaseNN) も上回りました。
• コンパクト性 (Compactness): ConTex は、16ケース中14ケースにおいて最高のコンパクト性（修正されたタイムステップの少なさ）を達成しました。
• 堅牢性 (Robustness): 本手法は、データの特性（滑らかなデータ vs ノイズの多いデータ）が異なるデータセット間で一貫した性能を示し、データの特性に基づいて介入パターン（局所的 vs 分散的）を適応させました。
• 計算効率:
  • 推論時間: 約0.007秒/サンプル（難易度に関わらず一定）。
  • 高速化: インスタンスベースの生成（サンプルあたり数秒から数分を要する）と比較して、3.7～4.2桁高速です。
  • 総コスト: 学習と推論を考慮すると、インスタンス単位の生成と比較して、全体で 12～36倍 の計算削減を実現しています。

5. 意義と主張

本論文は、ConTex が、計算負荷の高い一貫性のないインスタンス単位の最適化を、スケーラブルでグローバルな介入ポリシーによって効果的に置き換えられることを主張しています。介入を「どこ」と「どのように」に構造的に分解することで、本手法は、標準的な事後的なアトリビューション手法には欠けている、ターゲット条件付きの特徴量の関連性に関する解釈可能な洞察を提供します。

著者らは、ConTex が強力な性能を発揮する一方で、時間的な一貫性を確保するために、明示的な妥当性制約ではなく暗黙的な正則化（時間的エンコーディングと最小介入目的関数による）に依存していることも指摘しています。また、アーキテクチャはデータセット間で汎用性がありますが、一部のハイパーパラメータ（特に希薄性と近接性の重み）については、依然として限定的なデータセット固有のチューニングを必要とします。本研究は、ディープラーニングを用いた時系列予測を、リアルタイムの意思決定に向けて実行可能なものにするための重要な一歩として位置付けられています。