A New Technique for AI Explainability using Feature Association Map

技術的概要：FAMeX – 特徴量関連マップを用いた AI 説明可能性のための新手法

問題提起
疾患検出から気象予報、株価予測に至るまで、重要な実生活応用における人工知能（AI）の採用が増加する中で、「ブラックボックス」システムの不透明性という重大な課題が浮き彫りになっています。複雑な学習アルゴリズムはしばしば高い予測精度をもたらしますが、その意思決定プロセスは透明性に欠けることが頻繁にあります。この解釈可能性の欠如は、意思決定が科学的事実に基づいているのか、それとも偶発的な相関に基づいているのかを判断することを困難にし、高リスク環境における信頼性、説明責任、および信頼性を阻害します。既存の説明可能な AI（XAI）手法である、順列特徴量重要度（PFI）や SHapley Additive exPlanations（SHAP）は、特徴量の重要度をランク付けすることでこの課題に対処しようと試みています。しかし、著者らは、これらの手法がしばしば、特に関連性（ターゲットへの情報貢献）と冗長性（他の特徴量との類似性/重複）という、重要な特徴量の側面に関する包括的な分析を行わないと主張しています。

手法：FAMeX アルゴリズム
本論文は、グラフ理論的な定式化を通じて関連性と冗長性を同時に考慮して特徴量の重要度を評価するように設計された、新しいアルゴリズムFAMeX（Feature Association Map based eXplainability）を提案します。

1. 特徴量関連マップ（FAM）: 手法の核心は FAM であり、これは特徴量を頂点としてモデル化し、それらの間の関連性を辺として表現するグラフです。
2. 特徴量類似性（冗長性）: 冗長性はピアソンの相関係数を用いて測定されます。特徴量は他の特徴量との相関に基づいて等級付けされます。
   • 等級 1: 低冗長性（すべての他の特徴量との相関が 0.67 未満）。
   • 等級 2: 中程度の冗長性（少なくとも 1 つの特徴量との相関が 0.67 超かつ 0.9 未満、ただし 3 つ未満）。
   • 等級 3: 高冗長性（少なくとも 1 つの特徴量との相関が 0.9 超、または 3 つ以上の特徴量との相関が 0.67 超）。
     これらの等級に基づいて類似性スコアが計算され、より高い等級（より高い冗長性を示す）はより高いスコアをもたらします。
3. 特徴量関連性: 関連性は、特徴量とターゲットクラス変数間の相互情報量（MI）を用いて測定され、正規化されて関連性スコアが計算されます。
4. 特徴量重要度スコア: 最終的な重要度スコアは、2 つの指標を統合することで導き出されます。このアルゴリズムは、特徴量が関連性が高く冗長性が低い場合、より重要であると仮定します。したがって、スコアは以下のように計算されます。
   $$\text{特徴量重要度スコア} = \frac{\text{関連性スコア}}{\text{類似性スコア}}$$
   この逆比例関係により、高冗長性の特徴量（高類似性スコア）はペナルティを受け、高関連性の特徴量は報奨されます。

このアルゴリズムは、$n$ を特徴量の数とした場合、時間計算量 $O(n^2)$ で動作します。

主要な貢献

• 包括的な特徴量分析: 周辺貢献に主に焦点を当てる競合手法とは異なり、FAMeX は特徴量関連性と特徴量冗長性の間のトレードオフを明示的にモデル化します。
• グラフ理論的定式化: 特徴量関連マップの導入は、特徴量の相互依存性を理解するための視覚的かつ数学的な枠組みを提供します。
• アルゴリズム的実装: 著者らは、FAMeX を各種データセットに適用しやすくするための完全なアルゴリズム（アルゴリズム 1）と、プラットフォームに依存しないグラフィカルユーザーインターフェース（GUI）ツールを提供しています。

実験結果
著者らは、UCI マシンラーニングリポジトリの 8 つのベンチマークデータセット（Wisconsin、ILPD、WineQuality、WBDC など）を用いて、FAMeX を PFI および SHAP と比較評価しました。評価には以下の要素が含まれました。

• 設定: 100 反復で繰り返された 10 分割交差検証。
• 指標: 分類精度は、サポートベクターマシン（SVM）、ランダムフォレスト（RF）、ナイーブベイズ（NB）、決定木（DT）という 4 つの標準分類器を用いて測定されました。
• 検証戦略: 各アルゴリズムによって特定された上位 30% と下位 30% の特徴量を用いて分類器を訓練しました。優れた XAI アルゴリズムは、その上位ランク付けされた特徴量を使用した場合、下位ランク付けされた特徴量を使用した場合と比較して、有意に高い精度をもたらすべきです。

発見:

• 優れた性能: 4 つの分類器および 8 つのデータセット全体において、FAMeX は PFI および SHAP と比較して、上位 30% の特徴量を使用して常に高い分類精度を生成しました。例えば、ランダムフォレスト分類器を用いた場合、FAMeX は平均精度80.16%を達成したのに対し、PFI は71.47%、SHAP は**71.82%**でした。
• 一貫性: FAMeX は重要かつ重要でない特徴量の間に明確な区別を示しました。ほとんどの場合、下位 30% の特徴量を使用する際の精度低下は顕著でした（多くの場合 10% 以上の差）。
• 競合の限界: 対照的に、PFI および SHAP は一貫しない結果を示しました。いくつかの事例（例えば、SVM を用いた WBDC データセット）では、PFI または SHAP によって選択された「下位 30%」の特徴量が、「上位 30%」の特徴量よりも高い精度をもたらしました。これは、これらの文脈において重要な特徴量を正しく特定できなかったことを示しています。

意義と主張
本論文は、FAMeX が関連性と冗長性の両方を考慮して分類の文脈における特徴量の重要度を効果的に測定するため、AI 予測を説明するための有望なアルゴリズムであると主張しています。著者らは、実験結果が PFI および SHAP に先駆けて FAMeX の有効性を確立していると述べています。この研究は、意思決定プロセスの透明で包括的な説明を提供することにより、AI システムへの信頼を醸成するための一歩として提示されています。著者らは控えめに結論付け、将来の研究では、FAMeX をより複雑で大規模なデータセットに適用し、追加の最先端 XAI アルゴリズムと比較することを提案しています。