Towards Dys-XAI: Influence-Based Explanations for Dysarthria Severity Assessment

技術要約：Dys-XAIに向けて：構音障害重症度評価のための影響力に基づく説明

問題提起
構音障害（Dysarthria）の重症度評価は、臨床的な治療計画や長期的なモニタリングにおいて極めて重要であるが、現在は手動による知覚的評価に依存しており、これには多大な時間と評価者間のばらつきという課題がある。深層学習モデルは公開データセットにおいて専門家の評価に匹敵する性能を達成しているが、その「ブラックボックス」的な性質が臨床への導入を妨げている。SHAPやLIMEといった特徴量寄与度、あるいはアテンションの可視化といった既存の音声用説明可能AI（XAI）手法は、通常、音響特徴量の重要度スコアやスペクトログラムのヒートマップを生成する。著者らは、これらが以下の理由から臨床的な有用性に欠けると主張している：

1. これらは局所的かつ発話単位の情報を提示するものであり、重症度ラベルの順序性（隣接するカテゴリが名目的なクラスではなく、漸進的な差異を表す性質）を捉えることができない。
2. これらは、臨床家が臨床的推論で使用する知覚的構成概念（例：子音の明瞭さ、息漏れ声など）へと翻訳することが困難な、設計された音響記述子や時間・周波数領域に依存している。

手法
本論文では、説明の観点を音響特徴量から学習インスタンス（訓練サンプル）へと転換する、影響力ベースのインスタンスレベルの説明フレームワークであるDys-XAIを提案する。これは、「どの特徴量が重要であったか」を問うのではなく、「どの訓練サンプルが特定の予測に対して支持的、あるいは反対の影響を及ぼしたか」を問うものである。

• タスク定式化: タスクは、TORGOデータセットを用いた4クラスの順序分類（典型、軽度、中等度、重度）として定義される。
• インスタンスレベルの影響力計算: 著者らは、勾配ベースの影響力推定法を採用している。学習中に保存されたチェックポイント $\{\theta_1, \dots, \theta_M\}$ を追跡することで、テストサンプル $x_t$ に対する訓練サンプル $x_i$ の影響力を、それらの勾配の累積内積として計算する：
  $$I_{i \to t} = \sum_{m=1}^{M} \nabla_\theta \ell(f_{\theta_m}(x_t), y_t)^\top \nabla_\theta \ell(f_{\theta_m}(x_i), y_i)$$
  内積が正であれば支持的な影響（$x_i$ の学習が $x_t$ の損失を減少させる）を示し、負であれば対抗的な影響を示す。
• 集計戦略:
  1. クラスレベルの集計: 影響力スコアをテストサンプルの真の重症度ラベルによって集計し、順序スケール全体にわたる支持的または競合的な寄与を定量化する。これにより、重症度 $c'$ の訓練サンプルが重症度 $c$ の予測にどのように影響するかを示す $4 \times 4$ の影響力行列 ($S_{c \leftarrow c'}$) が生成される。
  2. モデルレベルの順序感度: 影響力を順序距離（$d = |c - c'|$）によって集計し、モデルが順序構造を尊重しているか（すなわち、重症度レベル間の距離が大きくなるにつれて影響力が減衰するか）を評価する。
• 検証: 本フレームフレームワークは、制御された削除実験を通じて検証される。著者らは、高影響力または低影響力の訓練サンプルを選択的に除去（5～20%）し、モデルを再学習させて予測の系統的な変化を観察する。

主な結果

• 影響力スコアの妥当性検証: 制御された削除実験により、影響力スコアの忠実性が確認された。
  • 高影響力サンプルの除去: 影響力の高い上位20%のサンプルを除去すると、深刻な性能低下が引き起こされた（例：中等度の精度は36.8%から0.3%へ、重度は72.3%から43.1%へ低下）。
  • 低影響力サンプルの除去: 下位20%のサンプル（低影響力）を除去すると、特に曖昧なクラスにおいて性能が向上し（軽度の精度が5.5%から17.6%へと3倍に増加）、これらのサンプルにノイズや誤ラベルが含まれていたことが示唆された。
• 重症度間の影響パターン: クラスレベルの影響力行列は、二層構造を明らかにした。
  • 二値的区別: 典型的な発話は孤立しており、典型的なサンプルからのみ正の影響を受け、すべての構音障害レベルから負の影響を受ける。
  • 順序的漸進性: 構音障害の各レベル（軽度、中等度、重度）は相互に正の影響を及ぼし合っており、これはモデルが構音障害の連続体における共通の音響特徴を認識していることを示している。
• 順序感度: 平均影響力 $\bar{S}(d)$ は、順序距離 $d$ とともに単調に減少した。同レベルの間の影響力は、隣接レベルの間の影響力の13倍であり、距離 $d \ge 2$ では影響力が負となった。これは、モデルが重症度を名目的なカテゴリとしてではなく、順序付けられた連続体としてエンコードしていることを裏付けている。
• ケーススタディおよびデータセット監査: 定性的比較において、提案手法はランク付けされた音声リファレンスを提供したが、SHAPは解釈不可能な音響記述子スコアを提供した。特筆すべき点として、影響力のランキングにより、重度の話者による「ほぼ無音に近い」録音が、重度の予測において最も影響力のあるサンプルの一つであることが特定された。これは、モデルが学習した偽の相関（無音 $\to$ 重度）を明らかにするものであり、フレームワークのデータセット監査における有用性を示している。

意義と主張
本論文は、Dys-XAIが、抽象的な特徴量スコアではなく、知覚可能なリファレンスケース（音声録音）にモデルの決定を結びつけることで、監査可能な説明を提供すると主張している。これは、判断がしばしば典型的な例との比較によって正当化される臨床的推論のプロセスと一致している。

著者らは、このアプローチが以下の点において優れていると強調している：

1. 順序性を明示的に扱う: 影響力を重症度ラベルによって集計することで、隣接するレベルと遠いレベルの間の関係的なエビデンスを露出させる。
2. 知覚的検証を可能にする: 臨床家は、支持的および競合する訓練サンプルを直接聴取することで、モデルの決定が臨床的マーカーと一致しているかを確認できる。
3. データの問題を特定する: このフレームワークは、特徴量ベースの手法では見逃される可能性のある、偽の相関（例：重度に関連付けられた無音）を浮き彫りにすることができるデータセット監査のツールとして機能する。

本研究は、高精度な深層学習モデルと、構音障害評価における臨床展開に必要な透明性との間の溝を埋めるためのステップとして提示されている。