Multi-SpaCE: Multi-Objective Subsequence-based Sparse Counterfactual Explanations for Multivariate Time Series Classification

技術要約: Multi-SpaCE

問題提起
ディープラーニングシステムは、多変量時系列分類のような複雑なタスクにおいて効果的である一方、透明性に欠けることが多く、それが高リスクな領域への導入を妨げる要因となっています。反事実的説明（Counterfactual Explanations: CFE）は、モデルの予測を変更するために必要な最小限の入力変更を特定することで、この解決策を提供します。しかし、既存の時系列向けCFE手法には、以下の3つの決定的な限界があります：

1. 単変量バイアス: 多くの手法は単変量データに限定されており、実世界のアプリケーション（ヘルスケア、金融など）で一般的な多変量時系列の複雑さに対処できていません。
2. 硬直した制約: アプローチが固定長のサブシーケンスを強制したり、単一のサブシーケンスへの変更を制限したりすることが多く、柔軟性を低下させ、不必要な変更を導入する可能性があります。
3. 妥当性の問題: 妥当性（反事実が実際に予測クラスを変更することを保証すること）が、厳格な制約としてではなく、最適化の目的関数として扱われることが頻繁にあります。その結果、多くのヒューリスティックな手法は有効な説明を保証できず、それらの他の性能指標（スパース性、妥当性/自然さ）を無意味なものにしています。

手法: Multi-SpaCE
本論文では、多変量時系列向けに特別に設計された多目的反事実的説明手法である Multi-SpaCE を紹介します。これは、NSGA-II (Non-Dominated Sorting Genetic Algorithm II) に基づく多目的最適化フレームワークを統合することにより、著者らの先行研究である Sub-SpaCE を拡張したものです。

• コアメカニズム: この手法は、「Nearest Unlike Neighbor (NUN)」（異なるクラスに属する最も近いインスタンス）を特定し、元の入力 ($x$) の特定のサブシーケンスを NUN の値で置換することで、反事実的インスタンス ($x'$) を生成します。
• 多変量への適応: 多変量データを扱うために、Multi-SpaCE はデュアルマスク戦略を採用しています：
  • 共通マスク (Common Mask): 全チャネルで共有される単一のバイナリマスクであり、初期段階でグローバルな変更を最適化するために使用されます。
  • 独立マスク (Independent Mask): 各チャネルごとの個別のバイナリマスクであり、後半の段階でソリューションを洗練させ、チャネル固有の変更を可能にするために使用されます。
• 突然変異オペレータ: 遺伝的アルゴリズムは、時系列に適応した特殊な突然変異オペレータを利用します：
  • サブシーケンスの拡張/圧縮: 既存の連続した変更セグメントの長さを変更します。
  • サブシーケンスの削除: 複雑な多変量設定における収束を加速させるために、サブシーケンス全体を排除します。
• 目的関数: 本手法は、手動のハイパーパラメータチューニングなしに、以下の4つの相反する目的のバランスを取ります：
  1. 妥当性 (Validity): 予測クラスを変更しないあらゆるソリューションに対して、大きなペナルティ項 ($\nu$) を用いることで厳格に強制されます。
  2. 近接性 (Proximity): 元のインスタンスと反事実的インスタンスの間の距離を最小化します。
  3. スパース性 (Sparsity): 変更された総タイムステップ数を最小化します。
  4. 連続性 (Contiguity): 解釈性を高めるために、変更された離散的なサブシーケンスの数を最小化します。
  5. 妥当性/自然さ (Plausibility): オートエンコーダーベースの外れ値スコアを用いて、データ多様体からの逸脱を罰します。
• 出力: 単一のソリューションではなく、Multi-SpaCE はパレートフロント (Pareto front) を返します。これにより、エンドユーザーはスパース性、自然さ、連続性の間のトレードオフに関する自身の特定の好みに合わせて、最適な説明を選択できます。

主な貢献

1. 初の多目的多変量手法: Multi-SpaCE は、多変量時系列における有効な反事実的説明を生成するために特別に設計された、初の多目的最適化フレームワークとして提示されています。
2. 厳格な妥当性の保証: 妥当性をソフトな制約として扱う多くの既存のアプローチとは異なり、Multi-SpaCE はそれをハードな要件として強制し、実験結果において100%の妥当性を保証します。
3. 柔軟なサブシーケンス処理: 本手法は、固定長や単一サブシーケンスの制約を回避し、遺伝的アルゴリズムを利用して、複数のチャネルにわたる最適な可変長サブシーケンスを発見します。
4. パレートフロントの生成: NSGA-II を活用することで、多様な最適解を提供し、ユーザーが相反する目的のバランスを取るためにユーティリティ関数の重みを手動で調整する必要性を排除します。

実験結果
著者らは、UCR および UEA アーカイブからの15の単変量および10の多変量データセットを用いて、Multi-SpaCE を最先端のベースライン（例：Native Guide, Glacier, COMTE, AB-CF, DiscoX）と比較評価しました。

• 妥当性: Multi-SpaCE は、すべてのデータセットにおいて完全な妥当性 (1.0) を達成しました。対照的に、多くのベースライン手法（特に多変量設定において）は、妥当性が著しく低く、多くのインスタンスに対して有効な反事実を生成できないものもありました。
• 近接性: 近接性は主要な目的として明示的に最適化されていませんが、Multi-SpaCE は競争力のある近接スコアを達成し、有効なソリューションの中で、単変量データセットでは平均で第2位、多変量データセットでは第1位となりました。
• 妥当性/自然さ (Plausibility): Multi-SpaCE は、異なる外れ値検出モデル（オートエンコーダー、アイソレーションフォレスト、ローカルアウトライヤーファクター）にわたって高い自然さを示しました。特筆すべきは、より優れたスコアを持つ他の手法が低い妥当性に苦しむ中で、Multi-SpaCE は高い自然さを維持したことです。
• スパース性と連続性: 本手法はスパース性とサブシーケスの数のバランスを効果的に取り、単変量および多変量データセットの両方において、結合メトリクスで最低の中央値を達成しました。

意義と主張
本論文は、Multi-SpaCE が、反事実的説明が解釈可能でスパースであるだけでなく、極めて重要な点として有効であることを保証することで、時系列の説明可能性における根本的なギャップを埋めるものであると主張しています。著者らは、妥当性が保証されなければ、他の性能指標は無意味であると論じています。パレートフロントのソリューションを提供することで、Multi-SpaCE は、ハイパーパラメータを調整するための広範な実験を必要とすることなく、多様なユーザーニーズに対する柔軟性を提供します。本手法は、信頼性と適応性の面で既存のアプローチを凌駕する、モデルに依存しない計算効率の高いツールとして提示されています。著者らが示唆する今後の課題には、より現実的な変更を行うための生成モデル（VAE、GAN）の統合や、計算オーバーヘッドを削減するためのアモルタイズ（償却）生成技術が含まれます。