技術要約：KARMA – K次マルコフ近似による多変量時系列予測のグローバルな説明

1. 問題提起

高リスクな領域（金融、臨床モニタリング、産業センシング）における多変量時系列予測へのディープラーニングモデル（例：RNN、TCN、Transformer）の導入は、重大な不透明性に直面している。LIME、SHAP、勾配ベースの属性（attribution）法といった既存のXAI手法は、主に静的な独立同一分布（i.i.d.）データ向けに設計されている。これらを時系列データに適用すると、以下の基本的な時間的特性を損なう可能性がある：

• 独立性の仮定： これらの手法は、タイムスタンプの特徴量が独立していることを暗黙のうちに仮定しており、時間的自己相関や変数間のグレンジャー因果関係を無視している。
• オフ・マニホールドな摂動（Off-Manifold Perturbations）： SHAPやLIMEにおけるランダムな摂動は、系列構造を破壊し、データ分布上に存在しない反事実（counterfactuals）を作り出してしまう。
• ローカル対グローバル： 勾配ベースの手法は、単一の点における局所的な幾何学を記述するものであり、モデルがグローバルに学習した体系的な条件付き構造を記述するものではない。
• ベースラインの選択： TimeSHAPのような手法は、逐次的な文脈における「ベースライン選択問題」に苦慮する。すなわち、ベースラインの選択が非自明な問題となる。

本論文は、時系列のための説明手法は、データの逐次的かつ因果的な構造を尊重しなければならず、摂動ベースまたは勾配ベースの局所的な近似から、確率論的かつグローバルなサロゲート（代理）アプローチへと移行すべきであると主張している。

2. 手法：KARMAフレームワーク

著者らは、ブラックボックス型の時系列予測器 $f$ を、K次マルコフ近似（K-Order Markov Approximation）によって説明するフレームワークであるKARMAを提案している。その核心となる前提は、複雑な予測器の挙動は、特定の次数 $K$ を持つマルコフ連鎖によって忠実に近似できるという点にある。

本手法は、以下の3つの柱で構成されている。

第1の柱：マルコフ・サロゲートと次数の選択

• 離散化： 連続的な時系列変数は、訓練データから導出された分位点境界を用いて $N$ 個のビンに離散化され、離散状態空間 $S = [N]^D$ が作成される。
• 次数選択 ($K^*$)： 本手法は、予測に十分な最小の履歴長 $K^*$ を特定する。これは、**サロゲシー予測妥当性停止ルール（surrogacy predictive validity stopping rule）**を通じて達成される。アルゴリズムは、入力ウィンドウのプレフィックス（接頭辞）をベースライン $b$ で置き換え、予測の不一致 $\hat{\Delta}_{pred}(K, b)$ を測定することで、ラグ長 $K$ を段階的にテストする。
• 停止基準： $K^*$ は、最小の不一致が許容誤差 $\epsilon$ を下回る最小の $K$ である。これにより、モデルがラグ $K^*$ を超える入力に対して無感度であることが証明される。

第2の柱：圧縮と証明された属性

• モデル圧縮： もし $K^* < W$（$W$ はモデルの入力ウィンドウ幅）であれば、モデルはラグ $K^*$ を超える入力に対して、証明可能なレベルで無感度である。これにより、圧縮比 $W/K^*$ が得られる。
• 証明されたベースライン ($b^*$)： ベースライン $b^*$ はアナリストが選択するものではなく、モデルによって証明されたものである。すなわち、置換した際に予測不一致を最小化する特定のプレフィックスである。
• 証明されたゼロ属性（Certified-Zero Attributions）： すべてのラグ $k > K^*$ において、属性値は数学的にゼロとなる（近似誤差の範囲内で）。これにより、他の手法に見られる「小さい重要度」と「ゼロの重要度」の曖昧さが解消される。

第3の柱：5段階のグローバル説明階層

一度 $K^*$ 次のマルコフ遷移カーネル $\hat{T}^f_{K^*}$ が推定されると、KARMAは追加のオラクル・クエリなしで、5つのレイヤーのグローバルな説明を導出する：

1. レベル1（変数重要度）： すべてのラグにわたる、ソース変数からターゲット予測への総体的な分布的影響を計算し、周辺的な全変動影響度によって変数をランク付けする。
2. レベル2（ラグ・プロファイル）： 影響を特定のラグ $k$ ごとに分解し、各変数の時間的ダイナミクス（例：モメンタム、平均回帰）を明らかにする。
3. レベル3（レジームの特異性）： モデルの条件付き予測が典型的な挙動から大きく逸脱する、特徴的な歴史的レジーム（パス）を、周辺的な相互依存指数を用いて特定する。
4. レベル4（介入効果）： 平均介入効果（AIE）とエッジの寄与を計算して、モデル誘発型の因果グラフを構築し、レベル1の重要度と直接結びつける。
5. レベル5（不確実性定量化）： 信頼性証明を提供する：
   • 偶然的不確実性（Aleatoric Uncertainty）： 予測分布のエントロピー（真のモデルの不確実性）。
   • 認識的不確実性（Epistemic Uncertainty）： カーネル推定の分散（データ被覆が不十分な履歴をフラグ立てする）。

カーネル推定： 指数関数的な全結合カーネル（$N^{DK^*}$）の推定を避けるため、KARMAは $D$ 個の因子化された周辺カーネルを推定する。デフォルトでは、観測された履歴サポート $H^+_{K^*}$ に限定して推定を行う*戦略B（b-prefix Monte Carlo）**を採用しており、次元数に対して指数関数的ではなく、時系列長 $T$ に対して線形にスケールする。

3. 主な結果

合成データ (VAR Oracle)

• 因果構造の復元： 正解のグラウンドトゥルース（既知の因果エッジを持つベクトル自己回帰（VAR）データ）において、KARMAは最も複雑な構成（xlarge、リコールは0.71）を除き、**完全なリコール（1.00）**を達成した。また、高い精度を維持し、偽のエッジを効果的に排除した。
• 特徴量ランキング： 中規模、大規模、および超大規模（xlarge）の構成において、KARMLは唯一のトップランクの手法であった（最も高いケンドールの $\tau$ を記録）。競合手法（TimeSHAP、WinIT、Feature Occlusion）は、グラフ密度が増加するにつれて性能が低下した。
• 比較： 積分勾配法（Integrated Gradients; IG）は、線形VARにおいては正確な係数に帰着するため、合成データでのテストからは除外された。

実世界のベンチマーク

ETTh1、Beijing PM2.5、Exchange Rateの3つのデータセットと、3つのアーキテクチャ（GRU、LSTM、TCN）を用いて実験を行った。評価には、時間性を考慮したラグベースのAUCスコア（$AUClag@25\%$）を用いた。

• ETTh1： KARMAはすべてのアーキテクチャにおいて最高のスコアを獲得し、特にTCNにおいて、次点のメソッドを大きく上回った（0.71 対 0.49）。
• Beijing PM2.5： KARMAは強力なベースラインと同等の性能を示した。
• Exchange Rate： すべての手法がゼロに近いスコアに崩壊した。著者らはこれを正しく解釈しており、このデータセットは学習可能な時間的構造がほとんどないランダムウォークに近似しているため、どの手法も予測を変化させるタイムステップを特定できないことを意味している。これは、手法の失敗ではなく、指標自体の挙動を検証している。

4. 意義と主張

本論文は、KARMAを以下の理由により、時系列のための既存のXAI手法に代わる原理的な選択肢として位置づけている：

1. 時間的幾何学の尊重： 逐次的構造を破壊する摂動ベースの手法とは異なり、KARMAのマルコフ近似は、ドメイン固有の言語（条件付き依存関係）の範囲内で動作する。
2. 統計的保証の提供： 無関係なラグに対する証明されたゼロ属性と、説明に対する明示的な信頼性証明（レベル5）を提供しており、これは先行研究には欠けている機能である。
3. グローバル対ローカル： 単一の推定されたカーネルから導出されるグローバルな説明階層を提供する。これは、インスタンスレベルの局所的な近似ではない。
4. モデルに依存しない妥当性： $K^*$ およびベースライン $b^*$ の選択は、アナリストの仮定ではなく、モデルの挙動から直接導出される。

認められた限界：
著者らは、$N^{DK^*}$ とともに状態空間が指数関数的に増大するため、高次元設定でのフルカーネル推定が困難であることを指摘している。KARMAは周辺カーネルとサンプリング戦略によってこれを緩和しているが、非常に高次元なシステムへのスケーリングは依然として未解決の課題である。

結論として、マルコフ近似パラダイムは、金融、神経科学、ゲノミクスなどの分野に応用可能な、逐次的ドメインにおけるXAIの堅牢で未開拓な方向性を提示している。