Overcoming Shortcut Learning in Graph Neural Networks through Active Explanation Guidance

기술 요약: 능동적 설명 가이드를 통한 그래프 신경망의 지름길 학습 극복

문제 정의
그래프 신경망(GNN)은 종종 "지름길 학습(shortcut learning)" 문제를 겪습니다. 이는 모델이 인과적 패턴 대신 허위 상관관계(교란 요인)를 악용하여 학습 데이터 내의 정확도는 높지만, 데이터 분포가 변하는 상황(OOD, Out-of-Distribution)에서는 성능이 저하되는 현상을 의미합니다. 이러한 지름길은 특정 노드 특징, 메타데이터 또는 단순한 입력 통계와 같은 것들입니다. 기존의 해결책들은 멀티 도메인 데이터나 방대한 관측 데이터에 대한 접근을 필요로 하는 경우가 많으며, 이는 항상 가능한 것이 아닙니다. 또한, GNN 설명(explanation)을 통해 지름길에 대한 의존성을 드러낼 수는 있지만, 전체 데이터셋에 대해 정답(ground-truth) 설명을 확보하는 것은 전문가의 주석 작업이 필요하기 때문에 비용과 시간이 매우 많이 소요됩니다.

방법론: XIGL
저자들은 지름길 의존성을 반복적으로 제거함으로써 GNN의 교란을 해소하도록 설계된, 아키텍처에 구애받지 않는 인간 참여형(human-in-the-loop) 전략인 XIGL(Xplanatory Interactive Graph shortcut unLearning)을 제안합니다. 이 프레임워크는 두 가지 핵심 통찰에 기반합니다: (1) GNN 설명은 지름길에 대한 의존성을 폭로할 수 있다, (2) 전문가 사용자는 이러한 설명에 대해 교정 피드백을 제공함으로써 모델이 인과적 추론을 하도록 유도할 수 있다.

핵심 방법론은 세 가지 구성 요소로 이루어집니다:

1. 설명 가이드 손실 함수 (Explanation-Guided Loss Function):
   XIGL은 입력 그래디언트(gradient)를 노드 중요도의 대리 지표로 활용합니다. 무관한(허위) 노드($V_{ir}$)에 대한 의존성을 억제하기 위해, 저자들은 손실 함수 $L = L_{ce} + \lambda L_e$를 도입합니다.

• $L_{ce}$는 표준 교차 엔트로피(cross-entropy) 손실입니다.
• $L_e$는 전체 입력 그래디언트에 대한 무관한 노드의 입력 그래디언트 비율을 최소화합니다.
• 모든 그래디언트가 0으로 붕괴되는 자명한 해(trivial solution)를 방지하기 위해 분모에 정규화 항이 포함됩니다.
• 정답 설명 벡터 $e$ (관련 노드에 대해 $e_j=1$, 그 외 $0$)가 이 페널티의 가중치로 사용됩니다.

2. 능동 학습 파이프라인 (Active Learning Pipeline):
   모든 데이터에 대한 설명을 주석 처리하는 것은 비현실적이므로, XIGL은 고정된 주석 예산 $B$를 가진 능동 학습(AL) 전략을 채택합니다.

• 초기화: 모델은 전문가가 교정한 설명을 포함한 작은 초기 그래프 세트로 학습됩니다.
• 반복적 선택: 각 반복 단계에서 능동 학습 쿼리 전략은 레이블이 없는 풀(pool)에서 가장 정보량이 많은 그래프 배치를 선택합니다.
• 교정 및 미세 조정: 전문가는 선택된 그래프를 주석 처리하며(모델이 의존하지 말아야 할 노드를 지정), 모델은 설명 가이드 손실을 사용하여 미세 조정됩니다.

3. 쿼리 전략 (Query Strategies):
   본 논문은 표준적인 예측 기반(prediction-based) 베이스라인과 함께 두 가지 새로운 설명 기반(explanation-based) 쿼리 전략을 제안하고 평가합니다.

• 최대 설명 엔트로피 (Maximum Explanation Entropy, MaEE): 모델의 설명(입력 그래디언트)이 가장 불확실한(노드 전반에 걸쳐 균등한) 그래프를 선택합니다.
• 최소 설명 엔트로피 (Minimum Explanation Entropy, MiEE): 모델이 자신의 설명에 대해 가장 확신하는 그래프를 선택합니다. 이 전략은 신경망의 "단순성 편향(simplicity bias)"을 활용하며, 높은 확신을 가진 설명은 종종 허위 지름길에 과적합되어 있어 교정이 가장 필요하다는 가설에 기반합니다.
• 베이스라인: 최대 분류 엔트로피 (Maximum Classification Entropy, MaCE) 및 랜덤 샘플링.

주요 기여

• XIGL 프레임워크: 인간의 피드백을 통합하여 지름길 의존성을 능동적으로 제거하는 인터랙티브 파이프라인을 구축했습니다.
• 새로운 쿼리 전략: 단순히 예측 불확실성이 아니라 모델의 추론 품질에 따라 인스턴스의 우선순위를 정하는 설명 기반 능동 학습 전략(MaEE 및 MiEE)을 도입했습니다.
• 효율성: 수동적 감독(전체 데이터셋 주석)에 필요한 예산보다 훨씬 적은 양으로도 고성능의 교란 해소(deconfounding)를 달able 함을 입증했습니다.

결과
실험은 네 가지 GNN 아키텍처(GCN, GIN, GraphSAGE, GAT)에 대해 두 가지 데이터셋(ER-color (합성 데이터) 및 CPatchMNIST (실제 데이터 확장판))에서 수행되었습니다.

• 수동 감독 (Passive Supervision): 전체 데이터셋에 대한 설명을 제공했을 때, XIGL은 설명 감독 없이 학습된 모델에 비해 비교란(unconfounded) 테스트 세트에서 유의미한 일반화 성능 향상을 보였습니다. 예를 들어, ER-color에서 감독이 없는 모델은 우연 수준(chance level)의 성능을 보였으나, 수동 감독을 받은 모델은 상당한 정확도 상승을 보여주었습니다.
• 능동 감독 (Active Supervision): 능동 학습 전략은 일반적으로 랜덤 샘플링보다 우수한 성능을 보였습니다.
  • CPatchMNIST에서 설명 기반 전략(MaEE 및 MiEE)은 모든 아키텍처에 걸쳐 예측 기반 전략(MaCE)보다 일관되게 높은 성능을 나타냈습니다.
  • MiEE가 가장 일관되게 높은 성능을 보이는 전략으로 나타났으며, 이는 모델이 자신의 (잠재적으로 허위인) 추론에 대해 과도하게 확신하는 인스턴스를 타겟팅하는 것이 매우 효과적임을 시사합니다.
  • 능동 학습은 (작은 주석 예산으로 인해) 수동 학습보다는 약간 낮은 정확도를 기록했으나, 그 격차는 상대적으로 작았으며 능동 학습은 전체 훈련 데이터의 20% 미만을 사용했습니다.

의의 및 주장
본 논문은 XIGL이 멀티 도메인 데이터를 요구하지 않고도 OOD 시나리오에서 GNN의 신뢰성을 높일 수 있는 실용적인 경로를 제공한다고 주장합니다. 설명이 자연스럽게 지름길 의존성을 드러낸다는 점을 활용하여, 전문가 사용자가 허위 패턴을 효율적으로 "학습 제거(unlearn)"할 수 있게 합니다. 저자들은 이 방식이 피드백이 가장 유익한 인스턴스에만 전문가의 노력을 집중함으로써 주석 비용과 인지적 비용을 모두 줄여준다고 강조합니다.

결론적으로, 본 연구는 설명 기반 능동 학습, 특히 모델의 자체 추론에 대한 확신을 타겟팅하는 전략이 교란 해소를 위한 유망한 방향임을 보여줍니다. 저자들은 향후 연구에서 자기 설명적(self-explainable) GNN, 설명의 충실도(faithfulness)가 교란 해소 성공에 미치는 영향, 그리고 더 넓은 범위의 실제 데이터셋 및 지름길 유형에 대한 적용을 탐구할 것이라고 밝혔습니다.