Counterfactual Explanations for Hypergraph Neural Networks

문제
초그래프 신경망 (HGNNs) 은 공동 저자 팀이나 생화학 복합체와 같이 결과가 쌍대 관계뿐만 아니라 개체들의 집단에 의존하는 복잡한 시스템에서 고차 상호작용 (HOIs) 을 포착할 수 있는 강력한 모델입니다. 그러나 효과성에도 불구하고, HGNN 은 해석 가능성의 한계로 인해 고위험 환경에서의 배포가 어렵습니다. 반사실 (CF) 설명—모델의 예측을 변경하는 데 필요한 최소 입력 변화를 식별하는 것—은 표준 그래프 신경망 (GNNs) 에 대해 크게 발전했지만, 초그래프에는 직접 적용할 수 없습니다. 기존 그래프 기반 방법은 쌍대 링크를 나타내는 인접 행렬에 의존하는 반면, 초그래프는 임의 크기의 노드 집단을 인코딩하기 위해 부속 구조 (incidence structures) 를 활용합니다. 초에지를 쌍대 링크로 직접 축소하면 상호작용의 의미적 의미가 변경됩니다. 따라서 HGNN 의 이산적이고 고차적인 본성을 존중하는 유효하고 최소한의 구조적 반사실 생성을 위한 전용 도구가 부족합니다.

방법론
저자들은 HGNN 을 위해 특별히 설계된 최초의 반사실 설명 방법인 CF-HyperGNNExplainer를 제안합니다. 이 접근법은 훈련된 모델의 예측을 뒤집는 부속 행렬에 대한 최소 구조적 편집을 탐색함으로써 CF-GNNExplainer 의 최적화 프레임워크를 초그래프 도메인에 적응시킵니다.

이 방법은 초그래프의 부속 구조에 대한 미분 가능한 마스크로 작용하는 학습 가능한 교란 행렬 $\Pi$를 도입하여 작동합니다. 핵심 최적화는 원래 예측을 뒤집도록 모델을 장려하는 예측 손실과 교란된 초그래프가 원본과 가깝게 유지되도록 보장하는 거리 정규화 항으로 구성된 손실 함수를 최소화합니다. 초그래프의 이산적 성질을 처리하기 위해, 이 방법은 마스크의 연속적 완화 (시그모이드 함수 사용) 를 최적화하고 평가 시 임계값 (0.5) 을 적용하여 실행 가능한 이진 편집을 생성합니다.

이 논문은 구조적 편집의 세밀함에 따라 두 가지 구별되는 변형을 소개합니다:

1. 노드 - 초에지 교란 (NHP): 이 변형은 특정 노드 - 초에지 부속을 대상으로 합니다. 이는 대상 노드에 대한 계수 벡터를 학습하여 다른 노드의 부속을 변경하지 않고도 해당 노드의 특정 초에지 참여를 선택적으로 제거할 수 있게 합니다.
2. 초에지 교란 (HP): 이 변형은 대상 노드의 $n$-hop 이웃 내의 전체 초에지를 대상으로 합니다. 이는 각 초에지에 대한 계수를 학습하여 전체 초에지를 효과적으로 제거하고 참여하는 모든 노드에 대해 이를 매개하는 모든 상호작용을 억제합니다.

최적화 과정은 일관된 정규화를 유지하기 위해 부속 구조가 수정될 때마다 노드 및 초에지 차수를 동적으로 재계산합니다. 저자들은 또한 모델이 지나치게 확신하는 경우를 처리하기 위해 적응형 학습률 전략을 사용하여 손실 지형과 남은 최적화 에포크에 따라 학습률을 조정합니다.

주요 기여

1. HGNN 을 위한 최초의 CF 방법: 이 논문은 초그래프 신경망의 구조적 제약에 맞춰 특별히 설계된 최초의 반사실 설명 기법인 CF-HyperGNNExplainer 를 소개합니다.
2. 세밀한 변형: 저자들은 미세한 노드 - 초에지 편집부터 거친 초에지 제거에 이르기까지 다양한 수준의 제어를 제공하는 두 가지 변형 (NHP 및 HP) 을 제안하고 평가합니다.
3. 실증적 평가: 이 방법은 AllSet 컬렉션의 다양한 초그래프 벤치마크 데이터셋 (Cora, Citeseer, Pubmed, DBLP 등 포함) 에서 평가되었습니다.
4. 비교 분석: 이 연구는 다음과 같은 광범위한 비교를 제공합니다:
   • 그래프 기반 베이스라인: 특히 별확장 초그래프에 적용된 CF-GNNExplainer.
   • 초그래프 네이티브 베이스라인: HyperEX 및 SHypX 와 같은 기존 설명 가능성 방법 (이들은 반사실이 아닌 사실적 설명자임).
5. 오픈 소스: 저자들은 재현성을 장려하기 위해 전체 소스 코드베이스를 공개합니다.

결과
광범위한 실험은 CF-HyperGNNExplainer 가 유효하고 간결한 반사실을 생성함을 보여줍니다:

• 그래프 기반 방법 대비: 별확장 그래프에 적용된 CF-GNNExplainer 와 비교할 때, 초그래프 네이티브 접근법은 예측을 뒤집는 성공률이 훨씬 높고 더 작은 설명 크기 (더 적은 구조적 편집) 를 생성합니다. 네이티브 접근법은 또한 일반적으로 더 빠르며, 초그래프를 대규모 그래프로 확장하는 것과 관련된 확장성 문제 및 메모리 오버헤드를 피합니다.
• 초그래프 네이티브 방법 대비: HyperEX 및 SHypX 와 같은 사실적 설명자와 비교할 때, CF-HyperGNNExplainer 는 반사실 특정 지표, 특히 라벨 뒤집기 성공률 ($Fid_{acc}^+$) 에서 우수한 성과를 거둡니다. 사실적 설명자는 원래 예측을 유지하는 부분 초그래프를 찾는 데 뛰어납니다 (낮은 $Fid_{acc}^-$). 반면, CF-HyperGNNExplainer 는 최소한의 개입으로 예측을 변경하도록 최적화되어 있습니다. 특히 HP 변형은 작은 설명 크기를 유지하면서 예측 분포를 변경하는 데 강력한 성능을 보입니다.
• 하이퍼파라미터 민감도: 이 연구는 더 높은 학습률과 더 많은 최적화 에포크가 일반적으로 유효한 반사실 발견의 성공률을 높이지만, 그 대가로 더 큰 설명 크기를 초래한다는 것을 발견했습니다. 적응형 학습률 전략 (특히 NHP 에 대한 "1E"전략과 HP 에 대한 "Po2") 은 성공률과 설명 크기를 효과적으로 균형 잡는 것으로 나타났습니다.

의의
이 논문은 CF-HyperGNNExplainer 가 고차 관계 데이터에 대한 설명 가능한 AI(XAI) 의 중요한 격차를 해소한다고 주장합니다. 초에지의 결합적 구조와 의미를 존중하는 방법을 제공함으로써, 사용자는 HGNN 의 결정에 가장 중요한 특정 고차 관계가 무엇인지 이해할 수 있게 됩니다. 최소한의 구조적으로 의미 있는 반사실 (예: "모델이 결정을 변경하려면 어떤 고차 상호작용을 제거해야 하는가?") 을 생성할 수 있는 능력은 신뢰와 해석 가능성을 향상시켜, 모델 행동을 이해하는 것이 필수적인 고위험 분야에서 HGNN 의 배포를 촉진할 수 있습니다. 이 작업은 그래프 기반 설명 기법을 초그래프로 이전하는 것이 단순하지 않으며, 고차 상호작용의 고유한 특성을 고려한 전문화된 공식화가 필요함을 강조합니다.