TACENR: 節点表現のためのタスク非依存対照的説明の技術的概要

本論文は、グラフ表現学習（Graph Representation Learning）によって得られたノード表現（ベクトル埋め込み）の解釈可能性を向上させるための新しい手法TACENR（Task-Agnostic Contrastive Explanations for Node Representations）を提案するものです。既存の説明手法が特定のタスク（ノード分類など）や表現の個別の次元に焦点を当てているのに対し、TACENR はノード表現全体を、その形成に寄与する「近接性」「構造」「属性」という 3 つの側面から包括的に説明することを可能にします。

以下に、問題定義、手法、主要な貢献、実験結果、および意義について詳細にまとめます。

1. 背景と問題定義

背景

グラフ表現学習（Node2vec, GNN など）は、グラフ構造データを低次元ベクトル空間に変換することで、ノード分類やリンク予測などの下流タスクで高い性能を発揮しています。しかし、生成されたベクトル表現は「ブラックボックス」であり、なぜ特定のノードがそのように表現されたのか、どの特徴量がその位置決定に寄与しているのかを人間が理解することは困難です。

既存手法の限界

現在のグラフ学習における説明可能性（XAI）研究には以下の課題があります。

1. タスク依存性: 既存の手法（GNNExplainer, GraphLIME など）の多くは、特定の予測タスク（例：ノード分類）の根拠を説明することに特化しており、表現そのものの構造を説明するものではありません。
2. 次元ごとの説明: 表現空間の「全体」ではなく、個々のベクトル次元（dimension）ごとの説明に留まる手法が多く、表現が統合的にどのように形成されているかの洞察が不足しています。
3. 特徴量の偏り: 多くの手法はエッジやノード属性のみに焦点を当て、近接性（proximity）や構造的角色（structural role）といった多様な情報の寄与を包括的に評価できていません。

2. 提案手法：TACENR

TACENR は、ノード表現の「全体」を説明するための局所的な説明手法です。対照学習（Contrastive Learning）の枠組みを用いて、説明対象ノードと他のノード間の類似性を学習し、どの特徴量がその類似性を決定しているかを特定します。

2.1 特徴量の拡張

説明対象のノード $v$ について、以下の 3 種類の特徴量を統合したベクトル $h_{v,u}$ を構築します。

1. ノード属性（Node Attributes）: 元のグラフに存在する特徴ベクトル $x_v$。
2. 近接性特徴（Proximity Features）: ノード間の距離や拡散に基づく指標（例：最短経路距離、パーソナライズド・ページランク PPR）。
3. 構造的特徴（Structural Features）: ノードのトポロジー上の役割（例：次数、平均近傍次数、クラスタリング係数、三角形の数）。

2.2 対照的学習プロセス

TACENR は、説明対象ノード $v$ に対して以下の 2 つの集合を構築します。

• 親和集合（Affinity Set, $S^+_v$）: 表現空間で $v$ に最も類似する $k_{aff}$ 個のノード。
• 発散集合（Divergence Set, $S^-_v$）: 表現空間で $v$ と最も非類似な $k_{div}$ 個のノード。

これらの集合を用いて、入力特徴ベクトル $h_{v,u}$ から表現空間での類似度 $sim(z_v, z_u)$ を予測する解釈可能なモデル $g$（デフォルトは線形回帰）を学習します。

• 目的関数: 真の類似度と予測類似度の誤差（損失）を最小化します。
• 対照的アプローチ: 類似するノードと非類似なノードの両方を学習データに含めることで、特徴量の差分が表現空間での位置にどう影響するかを明確に捉えます。

2.3 重み付き類似度指標

表現の解釈性を高めるため、コサイン類似度に重み付けを導入します。

• 教師あり設定: 下流タスクの予測確率に対する勾配（Gradient）に基づき、予測に寄与する次元に高い重みを付けます。
• 教師なし設定: 表現次元の分散（Variance）に基づき、ノードを区別する情報量が多い次元に高い重みを付けます（または局所分散と大域分散の差を利用）。

3. 主要な貢献

1. タスク非依存の包括的説明: 特定のタスクに依存せず、ノード表現全体を「近接性・構造・属性」の 3 側面から説明する初の手法の一つです。
2. 対照的学習による特徴量特定: 類似ノードと非類似ノードの対比を通じて、表現空間の位置決定に最も寄与する特徴量を定量的に特定します。
3. 適応的な重み付け戦略: 教師あり・教師なしの両方の設定に対応し、それぞれに適した次元重み付け（勾配ベース、分散ベース）を提案しています。
4. 広範なモデルとデータセットでの検証: Node2vec, Role2vec, GCN, GAT, GraphSAGE などの多様なモデルと、Cora, CiteSeer, PubMed, PPI, BA-Shapes などのデータセットで有効性を証明しました。

4. 実験結果

4.1 教師なし表現モデルへの適用

• BA-Shapes データセット（合成データ）: 構造的角色（ハウスモtif のノード vs スケールフリーバックボーンのノード）を正しく識別しました。
  • House モtif ノード: 次数や三角形の数など「局所的構造」が重要。
  • BA-BASE ノード: PPR 標準偏差など「大域的役割」が重要。
  • モデルごとのアーキテクチャの違い（ランダムウォーク型 vs GNN 型）が、どの特徴量に重きを置くかに反映されていることが確認されました。
• 実データセット:
  • Cora: 高いホモフィリー（同質性）により、属性と次数が重要。
  • CiteSeer: 疎なグラフ構造により、構造的特徴（平均近傍次数など）が属性よりも重要視される傾向。
  • PPI: 高密度で三角形が多いグラフのため、局所構造よりもノード属性（生物学的情報）が表現形成に大きく寄与。

4.2 既存タスク特化手法との比較（教師あり設定）

• AOPC（Area Over the Perturbation Curve）: 重要と特定された特徴を順次削除した際のモデル性能低下を測定。TACENR は GNNExplainer や GraphSVX と同等かそれ以上の性能を示し、ランダムベースラインを明確に上回りました。
• ノイズ特徴量のフィルタリング: 無関係なノイズ特徴を追加した際、TACENR は他の手法よりもノイズを重要度として選定する頻度が低く、不要な情報を効果的に排除できることを示しました。

4.3 アブレーション研究

• 特徴量セット: 距離（Distance）や高次モtif（4-clique など）を追加することで、データセットやモデルによって説明の質（MSE）が向上することが確認されました。
• 重み付け: 重み付き類似度を用いることで、説明モデルの精度（MSE, MAE）が統計的に有意に向上しました。
• 対照集合の比率: 教師ありでは「類似ノード」を多く、教師なしでは「非類似ノード」を多く含む設定が最適であることが判明しました。
• 解釈可能モデル: 線形回帰が、Lasso, Ridge, HSIC Lasso と同等かそれ以上の性能を発揮し、最も解釈性が高いデフォルトとして推奨されました。

5. 意義と結論

TACENR は、グラフ表現学習の「ブラックボックス」化を解消するための重要なステップです。

• 理論的意義: ノード表現が単なる属性の集積ではなく、近接性や構造的角色と密接に結びついていることを実証しました。
• 実用的意義: 研究者や実務家が、なぜ特定のノードが特定の表現を持つのかを、タスクに依存せずに理解することを可能にします。これにより、モデルのバイアス検出や、ドメイン知識との整合性確認が容易になります。
• 汎用性: 教師あり・教師なしを問わず、多様なグラフ学習アルゴリズムに適用可能です。

本論文は、グラフ表現そのものの解釈可能性（Interpretability of Representations）という未開拓の領域に対して、対照学習を基盤とした堅牢な枠組みを提供し、今後の研究の基盤となるものです。