기술 요약: 그래프에서의 노드 유사성 설명을 위한 그래프 신경망 설명

문제 정의

본 논문은 그래프 신경망 (GNN) 의 설명 가능성에 있어 중요한 공백을 다루고 있다. 지도 학습 작업 (예: 노드 분류, 링크 예측) 에 대한 GNN 설명에 관한 광범위한 연구가 존재하지만, 비지도 학습 환경에서의 노드 유사성을 설명하는 문제는 여전히 largely 해결되지 않은 채 남아있다. 인용 네트워크나 지식 그래프와 같은 많은 응용 분야에서 GNN 은 코사인 유사도 같은 지표를 통해 유사성이 계산되도록 노드 임베딩을 학습하도록 훈련된다. 이산적인 분류 레이블과 달리 유사성은 연속적인 양이며, 기존 설명 가능성 평가 프로토콜은 이를 직접 적용할 수 없다. 저자들은 두 개의 특정 노드가 높은 또는 낮은 유사성 점수를 갖는 이유를 설명하기 위해 그래프의 간선에 값을 할당하는 방법을 조사하며, 이를 이산적인 예측을 정당화하는 목표가 있는 작업과 구별한다.

방법론

프레임워크 및 기준

저자들은 일반적 설명 가능 인공지능 (XAI) 원칙에서 도출된 세 가지 기준에 기반하여 노드 유사성 설명을 평가하는 프레임워크를 제안한다:

1. 실행 가능성 (Actionability): 설명은 예측 가능한 유사성 점수 변화를 초래하는 개입 (예: 간선 추가 또는 제거) 을 가능하게 해야 한다.
2. 일관성 (Consistency): 설명 임계값 이상의 간선을 유지하는 효과는 이를 폐기하는 효과 (즉, 임계값 이하의 간선을 유지하는 효과) 와 명확히 구별되어야 한다. 두 간선 집합은 점수에 대해 중복되거나 구별 불가능한 효과를 생성해서는 안 된다.
3. 희소성 (Sparsity): 설명은 압축 가능해야 한다. 가장 관련성 높은 간선의 작은 부분집합이 전체 집합에서 관찰된 설명 효과의 대부분을 유지해야 한다.

개입 기반 지표

이러한 기준을 실현하기 위해 저자들은 모델 무관한 개입 기반 지표를 도입한다:

• **정확도 (Fidelity, $Fid$):** 설명에 기반하여 그래프에 개입한 후 유사성 점수의 변화를 측정한다. 구체적으로, 임계값 이상의 간선을 유지할 때의 변화 ($Fid_a$) 와 임계값 이하의 간선을 유지할 때의 변화 ($Fid_b$) 를 계산한다.
• 효과 중첩 (Effect Overlap, EO): 두 개입에 대한 정확도 값의 부호 사이의 중첩을 정량화하는 일반화된 자카드 유사도 지표이다. 낮은 EO 는 두 개입이 명확하고 보완적인 효과 (예: 하나는 유사성을 증가시키고 다른 하나는 감소시킴) 를 가짐을 나타내며, 일관성 기준을 충족한다.
• 희소성 평가: 저자들은 설명 마스크에서 가장 관련성 낮은 간선을 제거하여 희소성 수준을 점진적으로 높이고 정확도 및 EO 를 재평가함으로써 희소성을 시뮬레이션한다. 견고한 설명은 간선 수가 감소하더라도 실행 가능하고 일관된 속성을 유지한다.

실험 설정

본 연구는 두 가지 계열의 설명 방법을 평가한다:

1. 상호 정보 (Mutual Information, MI) 방법: 특히 예측과 상호 정보를 최대화하는 부분 그래프를 찾는 GNNExplainer.
2. 기반 (Gradient-Based, GB) 방법: 인접 행렬에 대한 직접적인 기울기 계산 및 통합 기울기 (Integrated Gradients).

이러한 방법들은 네 가지 비지도 학습 알고리즘 (그래프 오토인코더 (GAE), 변분 그래프 오토인코더 (VGAE), 딥 그래프 인포맥스 (DGI), 그래프 대비 표현 학습 (GRACE)) 에 의해 생성된 노드 임베딩에 적용된다. 실험은 인용 네트워크 (Cora, Citeseer, Pubmed), 이질적 그래프 (Chameleon, Squirrel, Actor), 그리고 지식 그래프 (DBpedia50k) 등 여섯 가지 데이터셋에서 수행된다.

주요 결과

실험은 노드 유사성 맥락에서 GB 방법과 MI 방법의 성능에 관한 세 가지 주요 발견을 도출한다:

1. 실행 가능성: 기반 설명은 일관되게 실행 가능하다. GB 설명에 기반한 개입 (임계값 이상의 간선 유지) 은 예측 가능하게 유사성 점수를 증가시키는 반면, 임계값 이하의 간선에 기반한 개입은 예측 가능하게 이를 감소시킨다. 반면, GNNExplainer(MI) 는 일관되지 않은 행동을 보인다. 고가치 간선을 유지하는 효과는 종종 특정 임베딩 모델과 데이터셋에 의존하며, 모든 시나리오에서 예측 가능한 변화 방향을 생성하지 못한다.
2. 일관성: 기반 방법은 MI 방법 (종종 > 0.4 또는 > 0.5) 에 비해 현저히 낮은 효과 중첩 (EO) 점수 (종종 0 에 가깝거나 < 0.1) 를 달성한다. 이는 GB 설명이 유사성을 증가시키는 간선과 감소시키는 간선을 명확히 구분함을 나타낸다. MI 설명은 종종 고가치 간선과 저가치 간선 모두 점수에서 유사한 변화를 생성하는 중첩된 효과를 초래하여 일관성 기준을 실패한다.
3. 희소성: GB 설명의 실행 가능하고 일관된 속성은 설명이 상위 10% 의 간선만 유지하도록 가지치기될 때 (90% 희소성) 도 유지된다. 이는 GB 설명이 설명력을 잃지 않고 크게 단순화될 수 있음을 시사하며, MI 설명은 이러한 견고성을 보이지 않는다.

저자들은 또한 MI 방법이 특정 경우 (예: GraphSAGE 와 함께 사용된 DGI) 에 낮은 EO 를 보일 때가 있지만, 이는 종종 진정한 일관성 때문이 아니라 거의 제로인 효과 (낮은 실행 가능성) 때문이라고 지적한다. 이러한 영역에서는 점수에 대한 유의미한 영향이 부족하여 어떤 설명자도 부호 기반 분리를 수행하기 어렵다.

중요성 및 주장

본 논문은 GNN 에서 노드 유사성 설명 문제를 공식적으로 정의하고 평가한 최초의 연구라고 주장한다. 그 중요성은 다음과 같다:

• 공백 해소: 지도 학습 작업에 대한 지배적인 초점을 넘어 연속적인 비지도 유사성 점수의 설명 가능성을 다루는 것.
• 평가 프레임워크: 표준 분류 기반 지표로는 포착할 수 없는 유사성 설명의 품질을 평가하는 데 필요한 정량적 개입 기반 지표 (정확도, EO, 희소성) 제공.
• 방법론적 통찰: 결과가 이 특정 작업에서 기반 방법이 상호 정보 기반 방법보다 우월함을 보여준다. GB 방법은 실행 가능하고 일관적일 뿐만 아니라 희소한 설명을 제공하여 노드가 유사한 이유를 이해하는 더 실용적이고 해석 가능한 도구를 제공한다.
• 일반화 가능성: 제안된 지표는 모델 무관하며 노드 임베딩 위에 정의된 모든 유사성 함수 (예: 유클리드 거리) 에 적용 가능하여, 향후 설명 가능한 유사성 검색 시스템 개발의 기초를 제공한다.

저자들은 계산 비용이 하나의 요소임을 지적한다 (GB 방법은 일반적으로 MI 방법이 요구하는 반복적 최적화보다 일반적으로 더 효율적임). 그러나 이 설정에서 GB 방법의 주요 장점은 노드 유사성에 대해 신뢰할 수 있고 방향성이 있으며 희소한 설명을 제공할 수 있는 능력에 있다.