I-SAFE: Wasserstein Coherence Metrics for Structural Auditing of Scientific AI Models

技術的サマリー：I-SAFE – 介入的・安全・正確・公平・説明可能

1. 問題定義

科学機械学習において、深層学習モデルはしばしばホールドアウトされた予測性能（例えば、精度や AUROC）に基づいて評価される。しかし、高いベンチマーク性能は、科学的に意味のある行動の脆弱な指標に過ぎない。モデルは、ドメインの基礎となる構造的性質を学習するのではなく、「ショートカット」特徴、データセット固有の規則性、または分布バイアス（ターゲットバイアスやスケフォールド効果など）を利用することで、強力な予測スコアを達成する可能性がある。

標準的な評価手法は、関連する科学的構造を学習したモデルと、単に統計的相関を暗記しただけのモデルを区別することができない。さらに、既存の事後監査手法は、しばしばスカラー要約（例えば、平均感度や単一ポイント帰属）に依存しており、科学的に関連する入力構造が攪乱された際に、完全な出力分布がどのように再編成されるかを捉え損なう可能性がある。観察的評価から介入的評価へと移行し、モデルが単に正しく予測するかどうかだけでなく、制御された構造的に誘導された攪乱下で予測がどのように変化するかを評価する枠組みが必要である。

2. 手法：I-SAFE 枠組み

著者らは、ブラックボックス科学予測器のための事後・モデル非依存の監査枠組みであるI-SAFE（介入的・安全・正確・公平・説明可能）を導入する。この枠組みは、外部の構造的事前分布（structural prior）によって誘導された介入下でのモデルの出力分布の一貫性を評価する。

中核コンポーネント：

• ブラックボックス予測器（$f_{BB}$）：入力 - 出力マップを通じてのみアクセス可能な学習済みモデル。
• 構造的事前分布（$P$）：モデルに依存せず、ドメイン知識から導出された外部マップであり、与えられたタスクにおいてどの入力成分が科学的に関連するかを特定する。例えば、ドラッグ - ターゲット相互作用（DTI）において、この事前分布はタンパク質結合ポケット内の特定のアミノ酸残基を特定する。
• 介入設計：この枠組みは、マッチングされた攪乱ペアを構築する。
  • メカニズム的攪乱（$\phi_{mech}$）：構造的事前分布（$P(x)$）によって選択された成分に適用される変更。
  • 偽的攪乱（$\phi_{spur}$）：事前分布の外側の成分（$S_{spur} \subset P(x)^c$）に適用される変更。同じ攪乱演算子と基数を用いる。
• 介入応答プロファイル：この枠組みは、固定された監査セット上で、これらの攪乱の前後におけるモデルの生出力分布を比較する。

3 つの一貫性メトリクス：
I-SAFE は、出力分布の「ランク一貫性」を、3 つの相補的メトリクスを用いて定量化する。スカラー要約とは異なり、これらのメトリクスは分布シフトの幾何学的特性を捉える。

1. 分位点ベースメトリクス（QBM）：位置レベルの一貫性を測定する。これは、元の出力と攪乱された出力間の経験的分位点（例えば、四分位点）の移動を、平均二乗誤差全体と比較する。値が低いほど、分布位置の大きなシフトを示す。
2. ワッサーシュタイン一貫性メトリクス（WCM）：順序一貫性を測定する。最適輸送理論に基づき、攪乱後に入力と出力の自然なペアリングがどの程度保持されるかを評価する。これは、自然な対応下での移動と、出力の最適再順序付け（順列）下での移動を比較する。これはスケール不変であり、正規化されている。
3. 翻訳不変 WCM（TI-WCM）：形状一貫性を測定する。この変種は、グローバルな平均シフト（翻訳）の影響を除去し、分布の形状（分散および高次モーメント）の変化を分離する。

監査ロジック：
監査は、各メトリクスに対して事前分布相対コントラスト（$\Delta M = M_{spurious} - M_{mech}$）を計算する。正のコントラストは、事前分布で選択された成分の攪乱が、非事前分布成分の攪乱よりも、出力分布のより一貫した（すなわち、より構造化され予測可能な）再編成を誘発することを示す。

3. 主要な貢献

• 枠組みの導入：スカラー要約から介入下での完全な出力分布変化へと評価対象をシフトさせる事後監査ツールとしての I-SAFE の提案。
• メトリクスの定義：分布応答を位置、順序構造、形状に分解する 3 つの特定メトリクス（QBM、WCM、TI-WCM）の形式化。これらのメトリクスは最適輸送理論に基づいており、モデル非依存に設計されている。
• 事前分布相対コントラスト：攪乱ルールと基数を制御しつつ、メカニズム的攪乱とマッチングされた偽的コントロールを比較することで、構造的事前分布の効果を分離する対照的評価戦略の導入。
• 理論的性質：メトリクスが$[0, 1]$の範囲に有界であり、（WCM については）スケール不変であり、異なる種類の分布再編成を区別できることを証明する。

4. 実験結果

この枠組みは、ドラッグ - ターゲット相互作用（DTI）予測のためのDavis キナーゼベンチマーク上で具体化された。

• 設定：3 つのシーケンスベース DTI モデル（DeepDTA、DeepConvDTI、TAPB）が監査された。構造的事前分布は、KLIFS（Kinase–Ligand Interaction Fingerprints and Structures）結合ポケット注釈から導出された。
• 予測レジーム：3 つのモデルすべてが、Davis テストセット上で比較可能な予測性能（AUROC）を示し、同様の予測レジーム内で動作した。
• 知見：
  • TAPB：QBM および WCM の両方に対して、有意に正の事前分布相対コントラストを示した（$\Delta QBM \approx +0.093$、$\Delta WCM \approx +0.063$）。これは、KLIFS 結合ポケット残基が攪乱された際、TAPB の出力分布は、ポケット外の残基が攪乱された場合に比べて、非常に一貫した方法（位置とランクを保持する）で再編成されたことを示している。
  • DeepDTA および DeepConvDTI：無視できるか、あるいは負のコントラストを示した。DeepDTA は事前分布整合的な利点を示さず、DeepConvDTI は負の順序コントラストを示した。これは、その一貫した応答が結合ポケット構造に特異的に結びついていないことを示唆している。
  • 形状分析：TI-WCM のコントラストは、すべてのモデルで負またはゼロに近い値であった。これは、TAPB で検出された一貫したシグナルが、位置およびランクのシフトによって駆動されており、残差形状の保持によるものではないことを示している。

実験の結論：精度が類似していたにもかかわらず、モデルは根本的に異なる介入行動を示した。TAPB のみが、その予測が科学的に関連する結合ポケット構造の周りに組織化されていることを示しており、これは標準的な精度ベースの評価では見えない区別である。

5. 意義と主張

本論文は、I-SAFE が構造的に意味のある攪乱下で学習済み科学予測器がどのように動作するかを評価するための統計的に根拠のある事前分布相対テストを提供すると主張している。

• 因果的主張との区別：著者らは明確に、I-SAFE はモデルの因果的妥当性を確立するものでも、モデルが真の因果メカニズムを回復したことを証明するものでもないと述べている。代わりに、モデルの出力分布が、外部のドメイン固有の事前分布に対して一貫して組織化されているかどうかを評価するための再利用可能なメトリクスを提供する。
• スカラー監査を超えて：この枠組みは、集約性能メトリクスでは見えない分布シフトの幾何学（位置、順序、形状）を捉えることで、スカラー監査の限界に対処する。
• モデル非依存の有用性：この手法は、入力が構造的分解を許容し、外部の構造的事前分布が利用可能なあらゆるドメインに適用可能であり、ブラックボックス科学 AI の構造的監査のための汎用ツールとなる。
• 控えめな範囲：著者らは、この監査が既存モデルのための診断ツールであり、学習手順ではないことを強調している。これは、モデルの成功が関連する構造的特徴によって駆動されているのか、それとも偽の相関によって駆動されているのかを特定するのを助け、科学 AI におけるより正確な評価的主張を支援する。