Why Self-Inconsistency Arises in GNN Explanations and How to Exploit It

기술적 요약: GNN 설명에서 자기 불일치가 발생하는 이유와 이를 활용하는 방법

1. 문제 제기

자기 해석 가능 그래프 신경망 (SI-GNN) 은 예측 파이프라인에 설명 생성을 직접 통합하여, 사후 (post-hoc) 방법론보다 더 신뢰할 수 있는 설명을 이론적으로 제공할 수 있습니다. 그러나 최근 관찰에 따르면 SI-GNN 은 자기 불일치로 고통받고 있습니다. 즉, 모델이 자신이 생성한 설명용 그래프 부분집합에 다시 적용될 때, 이전에 선택된 간선을 제거하거나 새로운 간선을 추가하는 등 서로 다른 설명을 생성하는 경우가 많습니다. 이러한 행동은 SI-GNN 의 충실도 (faithfulness) 와 실용적 유용성을 훼손합니다. 이러한 현상의 존재는 문서화되어 있지만, 이를 유발하는 근본적인 메커니즘은 여전히 잘 이해되지 않았으며, 재학습 없이 이를 완화할 효과적인 전략도 부족합니다.

2. 방법론 및 이론적 분석

근본 원인: 맥락 교란
저자들은 재설명 유도 맥락 교란을 점수 변이의 직접적인 원인으로 규명했습니다. GNN 에서 노드 표현은 메시지 전달을 통해 업데이트됩니다. SI-GNN 이 설명 (마스킹된 서브그래프) 을 생성하고 이를 다시 자신에게 입력할 때, 간선별 마스킹은 국소 메시지 전달 맥락을 변경합니다. 간선 중요도 점수는 이러한 노드 표현에서 도출되므로, 교란된 맥락은 자연스럽게 두 번째 통과에서 다른 점수를 초래합니다.

잠재 신호 할당 가설
왜 특정 간선들 (일반적으로 중요하지 않은 간선) 만 불안정성을 보이며 실제 중요한 간선들은 안정적으로 유지되는지 설명하기 위해, 논문은 잠재 신호 할당 가설을 제시합니다. 저자들은 간선을 세 개의 서로소 집합으로 분할합니다:

• $E_p$ (양성 신호 간선): 본질적이고 맥락 불변인 특징에 기반하여 높은 점수를 할당받은 간선들입니다. 이러한 간선은 통과 횟수에 관계없이 안정적으로 유지됩니다.
• $E_n$ (음성 신호 간선): 본질적 특징에 기반하여 낮은 점수를 할당받은 간선들입니다. 이들도 안정적으로 유지됩니다.
• $E_c$ (맥락 주도 간선): 점수가 주로 국소 메시지 전달 맥락에 의해 결정되는 간선들입니다. 이러한 간선은 재설명으로 인한 교란에 매우 민감합니다.

저자들은 간결성 정규화(설명가 가질 수 있는 중요도 질량의 총 '예산'을 제한하는 것) 가 이러한 할당을 형성한다고 주장합니다. 엄격한 예산 제약 하에서 모델은 중요도를 재할당하도록 강요받으며, 이는 중요하지 않은 간선을 신호 주도 상태에서 맥락 주도 상태로 밀어넣어 교란에 대한 민감도를 높일 수 있습니다.

제안된 해결책: 자기 탈노이즈 (Self-Denoising, SD)
자기 불일치가 노이즈에 대한 신호로 작용한다는 관찰을 활용하여, 저자들은 모델 무관하고 학습이 불필요한 사후 처리 전략인 **자기 탈노이즈 (SD)**를 제안합니다.

• 메커니즘: SD 는 설명용 그래프에 두 번째 순전파 (forward pass) 를 수행하여 각 간선의 중요도 점수 불안정성 ($\Delta s_{ij}$) 을 측정합니다.
• 보정: SD 는 불안정성이 높은 간선에 대해 원래 점수를 축소하여 패널티를 부과합니다: $\tilde{m}_{ij} = \max(0, (1 - \eta \Delta s_{ij})m^{(1)}_{ij})$. 여기서 $\eta$는 탈노이즈 강도 매개변수입니다.
• 초매개변수 선택: SD 로 인한 분포 변화를 처리하기 위해, 저자들은 경량 적응 전략을 제안합니다: 설명 생성기와 인코더를 고정하고, 보정된 설명에 대해 분류기만 미세 조정합니다. 그런 다음 탈노이즈 강도 $\eta$는 이 적응된 분류기의 검증 정확도에 기반하여 선택됩니다.

3. 주요 기여

• 메커니즘적 통찰: 이 논문은 자기 불일치에 대한 최초의 이론적 설명을 제공하며, 이를 국소 맥락 교란에 귀인하고 간결성 제약 하에서 잠재 신호 할당의 역할을 형식화합니다.
• 효율적인 보정: 최소한의 계산 오버헤드 (추가 순전파 한 번만 수행, 약 4~6% 비용 증가) 로 설명의 질을 향상시키는 사후 전략인 자기 탈노이즈 (SD) 를 도입합니다.
• 상호 보완성: 이 연구는 SD 가 기존 교차 모델 불일치 방법인 설명 앙상블 (EE) 과 상호 보완적인 단일 모델 자기 불일치라는 고유한 노이즈 원천을 포착함을 보여줍니다.

4. 실험 결과

실험은 네 가지 대표적인 SI-GNN 프레임워크 (GAT, CAL, SMGNN, GSAT), 여러 백본 아키텍처 (GIN, GraphSAGE, GatedGCN), 그리고 네 가지 벤치마크 데이터셋 (BA-2MOTIFS, 3MR, BENZENE, MUTAGENICITY) 에서 수행되었습니다.

• 설명 품질: SD 는 16 가지 테스트 구성 전반에 걸쳐 AUC(실제 값에 대한 타당성) 를 일관되게 향상시켰으며, 최대 3.9% 의 개선을 보였습니다. 또한 SPA(소프트 희소성) 를 크게 감소시켜 더 간결하고 중복성이 적은 설명을 나타냈습니다.
• 충실도: FID(충실도) 에 대한 결과는 혼합되어 있으며, 저자들은 이를 SD 로 인한 분포 변화와 특정 모델 (예: CAL) 의 구체적인 메커니즘에 기인합니다. 그러나 경량 분류기 적응 후 FID 안정성이 향상되었습니다.
• 예측 성능: SD 만 적용하면 정확도 변화가 미미합니다. 경량 분류기 적응 (SD*) 과 결합할 경우, 하류 분류 정확도가 일관되게 향상되며 일부 경우 최대 8% 의 개선을 보였습니다.
• 효율성 vs EE: 여러 모델을 학습해야 하고 약 400% 의 오버헤드가 발생하는 설명 앙상블 (EE) 과 달리, SD 는 단일 모델만 필요로 하며 약 4~6% 의 오버헤드만 추가합니다. SD 와 EE 를 결합하면 추가적인 개선이 이루어지므로, 두 방법이 서로 다른 노이즈 원천을 처리함을 시사합니다.

5. 중요성 및 주장

이 논문은 자기 불일치가 단순한 실패 모드가 아니라 설명을 보정하는 데 활용될 수 있는 고유한 신호라고 주장합니다. 맥락 교란과 잠재 신호 할당의 메커니즘을 이해함으로써, 저자들은 간단한 학습 불필요 사후 처리 단계가 SI-GNN 설명의 신뢰성과 간결성을 크게 향상시킬 수 있음을 입증했습니다.

저자들은 다음과 같이 겸손한 입장을 견지합니다:

• 그들의 잠재 신호 가설은 행동에서 추론된 메커니즘적 관점이지, 엄격하게 식별 가능한 잠재 변수 모델이 아닙니다.
• SD 는 모든 노이즈 원천 (예: 자기 불일치와 관련 없는 것들) 을 포착할 수 없으므로 완전히 신뢰할 수 있는 설명을 보장하지는 않습니다.
• 이 방법은 자기 일관성 목표와 함께 재학습이 필요한 접근법과 구별되어, 기존 사전 학습된 모델의 사후 보정을 위해 설계되었습니다.

궁극적으로 이 연구는 그래프 설명에서 맥락 주도 노이즈를 억제하여 아키텍처 변경이나 재학습 없이 고위험 분야 (예: 신약 개발, 과학적 발견) 에서 AI 시스템의 신뢰성을 향상시키는 것을 목표로 합니다.