技術要約: NVExplain

問題提起

時系列予測モデルは、エネルギー、金融、輸送、産業モニタリングにおける重要な意思決定において極めて重要である。しかし、現代のディープラーニングや基盤モデルによる予測器の強力な性能にもかかわらず、その内部的な推論プロセスは不透明であり、信頼性と確実なデプロイメントを制限している。既存の後付け（post-hoc）説明手法（例：LIME、SHAP、Integrated Gradients）は、予測に適用する際に特有の課題に直面する：

1. 時間的整合性の違反: 単純な摂動（perturbation）は、時間の連続性や季節性を損なう可能性がある。
2. ホライゾン固有性: 多段階予測にはホライゾン固有の推論が必要である。なぜなら、近接する予測に影響を与えるラグと、より長期の予測に影響を与えるラグは異なるからである。
3. 潜在的な進化: ほとんどの手法は入力空間で動作しており、情報が時間の経過とともに潜在表現の中でどのように進化するかを捉えることができない。

TimeSHAPやShapTimeのような現在のアプローチは、摂動やシーケンスの除去を通じて入力空間の重要性を推定するが、潜在的な時間進化の幾何学を明示的にモデル化することはない。

手法

著者らは、予測の説明を潜在空間における意味的進化（semantic evolution）の分析として再定義する、モデルに依存しないフレームワークであるNVExplainを提案している。このフレームメントは4つのステージで構成される：

1. 潜在軌道の構築 (Latent Trajectory Construction)

モデルは、ローリング・コンテキスト・ウィンドウを埋め込むことによって、潜在空間内に軌道を誘導するものとして扱われる。長さ $L$ のコンテキスト・ウィンドウ $X_t$ に対して、モデルは予測 $\hat{Y}_t$ を生成する。フレームワークは、各ローリング・ウィンドウに対して潜在状態 $Z_\tau = \text{embed}(x_{\tau-L+1:\tau})$ を抽出する。

• 拡張: 歴史的セグメントと予測セグメントの両方について分析を可能にするため、軌道はモデル自身の予測を用いて拡張される。
• アクセス: エンコーダーベースのモデルの場合、エンコーダーの出力または隠れ状態を使用する。エンコーダーの状態が公開されていないデコーダーのみのモデルやAPIシステムの場合、本手法は、潜在フロー解析のために安定したプロキシを必要としつつ、サロゲート（代理）段階のために予測クエリに依存するグレーボックス・コンポーネントとして機能する。

2. セマンティック・フローの計算 (Semantic Flow Computation)

情報の進化を定量化するために、フレームワークは連続する潜在状態間の変化を測定する。ステップ $\tau$ におけるセマンティック・フローの大きさは次のように定義される：
$$m_\tau = \|Z_{\tau+1} - Z_\tau\|_2$$
これは意味の変化率を捉え、新しい情報が表現にどの程度強く影響を与えるかを示す。ノイズへの感度を低減するために、軌道は指数移動平均によって平滑化することができる。

3. ラグ–ホライゾン帰属行列 (Lag–Horizon Attribution Matrix)

多段階予測を説明するために、フレームワークはセマンティック・フローの信号を集計して、ラグ–ホライゾン帰属行列を構築する。この行列は、各予測ステップ（ホライゾン）に対して各歴史的ラグがどのように寄与するかを定量化する。

• 集計: スコア $S(j, h)$ は、ホライゾン依存の指数カーネル $w_h(a)$ で重み付けされた、時間的履歴にわたるセマンティック・フローの大きさを合計することによって算出される。このカーネルにより、長期的な予測がより広範な履歴を取り入れることが可能になる。
• 正規化: ホライゾンごとのソフトマックス関数により、ラグに対するスコアを分布へと変換し、ホライゾン解決型の時間的説明を可能にする。

4. 構造保存型ローカル・サロゲート (Structure-Preserving Local Surrogates)

人間が理解可能なローカルな要約を生成するために、フレームワークは時間的に一貫した摂動を用いて、疎な（sparse）ローカル・サロゲート・モデルを適合させる。

• 摂動: 時間的連続性と季節構造を維持するために、ブロック・ブートストラップ・リサンプリングとフーリエ領域の振幅摂動を組み合わせて生成される。
• サロゲート・モデル: 各チャネルおよび各ホライゾンに対して、局所重み付き $\ell_1$ 正則化を用いた疎な線形モデル $g_{c,h}(u) = \beta_0 + \beta^T u$ が適合される。重みは、潜在空間における元のサンプルからの距離に基づいて計算される。

主な貢献

本論文は、主に4つの貢献を主張している：

1. セマンティック・フロー: 潜在的な説明のためのプリミティブとして、連続する潜在状態間の変化を定量化するセマンティック・フローを導入したこと。
2. ラグ–ホライゾン・フレームワーク: 予測行動をホライゾン解決型のラグ帰属へと分解する、モデルに依存しないフレームワークを提案したこと。
3. 構造保存型摂動: 時系列の説明において、時間的連続性と季節構造を維持する摂動戦略を設計したこと。
4. 専門的な診断: 予測特有の忠実度（faithfulness）と安定性の診断を用いて、説明の品質を評価したこと。

実験結果

手法は、多様なドメインをカバーする4つのデータセット（ETTh1, Exchange, ILI, Weather）において、MOMENT予測モデルを用いて評価された。これらは、Random, Attention, Integrated Gradients (IntGrad), および TimeSHAPと比較された。

忠実度 (Faithfulness)

• 通過率 (FPR): セマンティック・フロー・バリアント（"Ours (flow)"）は、競争力のある、あるいは優れた忠実度を達成した。ETTh1においてTimeSHAPと並ぶ性能（99.1%）を示し、Exchange（88.9%）およびWeather（96.3%）においてすべてのベースラインを上回った。ILIではIntGradが最高スコア（76.1%）を記録したが、セマンティック・フローも（67.1%で）極めて高い計算効率を維持しつつ、競争力のある結果を示した。
• AOPC & Gap: セマンティック・フローは、ETTh1、Exchange、Weatherにおいて最大の予測劣化（AOPC）と、コントロール摂動からの強い分離を示し、特定されたラグが実質的な予測信号を保持していることを示した。
• 効率性: セマンティック・フロー・バリアントは、IntGradやTimeSHAPよりも大幅に計算効率が高かった（例：ETTh1において1.95秒対52.4秒）。

安定性 (Stability)

• 埋め込みの安定性: Exchange、ILI、Weatherのデータセットは、低い埋め込み感度（<0.02）を示し、セマンティック・フローに適した安定した軌道であることを示した。ETTh1は高い感度を示したが、依然として高い忠実度を達成した。
• 軌道の滑らかさ: Weatherは最も滑らかな潜在的進化を示し、ETTh1は最も高い揮発性を示した。著者らは、より滑らかなダイナミクスの方が、より信頼性の高いセマンティック・フローの推定値をもたらすと述べている。

サロゲートの性能

完全なパイプライン（"Ours (full)"、疎なサロゲート段階を含む）は、ETTh1では強力な性能を維持したが、Exchange、ILI、Weatherでは低下した。これは、高度に非線形な時間的レジームにおいては、潜在的なセマンティック・フローの帰属が忠実であっても、疎なローカル・サロゲートが近似誤差を導入する可能性があることを示唆している。

意義と主張

論文は、NVExplainが、ローリングする潜在状態の変化をホライゾン解決型のラグ帰属へと変換する、予測特有の分解を提供すると主張している。その意義は以下の点にある：

• ホライゾン解決型の説明: グローバルな帰属手法とは異なり、各予測ステップに特化した説明を提供し、多段階予測の特有の性質に対処する。
• 潜在ダイナミクス: 潜在空間で動作することにより、入力空間の手法が見落としている、時間の経過に伴う情報の進化を捉える。
• 信頼性: 安定性診断を含めることで、解釈が堅牢なレジームと、注意が必要なレジーム（例：不安定な潜在ダイナミクス）をユーザーが識別できるようにしている。
• 効率性: 標準的な後付けのベースラインよりも大幅に低い計算コストで、競争力のある忠実度を実現している。

著者らは、セマンティック・フローが強力な忠実度を駆動する一方で、サロゲート段階には非線形設定における説明性と忠実度のトレードオフが存在すると結論付けている。彼らは、局所的な線形性診断が許容できる場合には完全なサロゲート説明を使用し、サロゲートの適合が信頼できない場合には、安定性診断を伴うセマンティック・フロー行列に頼ることを推奨している。