기술 요약: 그래프 신경망의 영향력 있는 반사실적 설명력을 위한 완성도 인식 프레임워크 (DR-CFGNN)

문제 정의

그래프 신경법(GNN)은 다양한 도메인에 걸쳐 점점 더 많이 배치되고 있으나, 그 "블랙박스"적 특성은 상당한 해석 가능성 문제를 야기합니다. 사실적 설명기(factual explainers, 예측에 중요한 부분 그래프를 식별하는 도구)는 잘 확립되어 있는 반면, 반사실적 설명(Counterfactual Explanations, CfXs)—입력 그래프의 예측을 바꾸기 위해 필요한 최소한의 변화를 제안하는 것—은 여전히 미발달 상태입니다.

기존의 CfX 방법들은 다음과 같은 몇 가지 한계점에 직면해 있습니다:

1. 엣지 제거에 국한됨: 많은 초기 접근 방식(예: CF-GNNExplainer, CFExplainer)은 설명을 엣지 제거로 제한하여 표현력을 제한하며, 종종 분포 외(OOD) 제안을 초래합니다.
2. 효율성 및 일반화 능력: 엣지 추가와 제거를 모두 수행할 수 있는 방법들(예: LEGIT, MEG, D4Explainer)은 높은 계산 복잡성을 겪거나, 광범위한 도메인 지식을 요구하거나, 항상 가용하지 않은 특정 인과 모델에 의존하는 경우가 많습니다.
3. 비교 분석의 부족: 엣지 추가와 제거를 모두 지원하는 최신 프레임워크들을 비교하는 포괄적인 평가가 부족합니다.

핵심 과제는 효율적이고 견고하며 직관적으로 의미 있는(즉, 임의적인 편집이 아닌 그럴듯한 구조적 변화를 제안하는) 범용적이고 모델 불가지론적인(model-agnostic) 로컬 수준의 CfX를 생성하는 것입니다.

방법론: DR-CFGNN 프레임워크

저자들은 품질 높은 CfX 생성을 강화하기 위해 **링크 예측(link prediction)**의 통찰력을 통합한 DR-CFGNN(De/Re-construction-driven Counterfactual GNN) 파이프라인을 제안합니다. 이 프레임워크는 네 가지 단계로 작동합니다.

1. 노이즈 제거 (Phase I: Denoising)

실제 그래프에는 노이즈(무관한 링크)가 포함될 수 있습니다. 프레임워크는 클래스 조건 없이 훈련된 링크 예측 모델을 사용하여 엣지 확률을 추정합니다. 오라클(oracle)의 원래 예측을 변경하지 않는 범위 내에서 가장 낮은 확률을 가진 엣지를 제거합니다. 이 단계는 설명 생성 전 입력 그래프($G_{DeN}$)를 정제합니다.

2. 해체 (Phase II: Deconstruction)

전체 그래프에서 삭제할 엣지를 찾는 대신, 프레임워크는 기존의 사실적 설명기(예: SubgraphX)를 사용하여 사실적 부분 그래프($G_F$)를 먼저 추출합니다. 그 후 이 사실적 부분 그래프로부터만 선택적으로 엣지를 제거합니다. 이 전략은 예측을 즉시 뒤집지는 않으면서도 원래 예측에 대한 지지력을 약화시키는 데 집중하며, 오라클의 결정력을 구동하는 특정 패턴에 탐색을 집중시킵니다.

3. 재구성 (Phase III: Reconstruction)

이것은 핵심적인 "완성도 인식(completion-aware)" 구성 요소입니다. 프레임워크는 타겟 반사실적 클래스($y_{CF}$)로 이어질 수 있는 누락된 엣지를 예측하도록 그래프 확장 모델(인코더-디코더 아키텍처)을 훈련합니다.

• 아키텍처: GCN 인코더가 노드 임베딩을 생성합니다. 타겟 클래스의 원-핫 벡터에서 유도된 클래스별 임베딩이 노드 임베딩과 결합됩니다. 이후 MLP 디코더가 노드 쌍 사이의 엣지 확률을 예측합니다.
• 귀납적 학습(Inductive Learning): 전통적인 트랜스덕티브(transductive) 링크 예측과 달리, 이 모델은 보지 못한 테스트 그래프와 패턴에 일반화될 수 있도록 일련의 그래프 집합에서 귀납적으로 훈련됩니다.
• 도메인 제약 사항: 훈련 과정에서 특정 엣지(예: 화학 결합)를 항상 존재하거나 불가능한 것으로 고정함으로써 도메인 지식을 통합할 수 있으며, 이를 통해 그럴듯한 설명을 보장합니다.
• 추론: 모델은 해체된 그래프에서 존재하지 않는 엣지의 가능성을 추정합니다. 임계값을 초과하는 엣지들이 추가되어 후보 반사실적 사례를 생성합니다.

4. 사후 최적화 (Phase IV: Post-hoc Optimization)

생성된 잠재적 CfX 세트를 관리하기 위해, 스코어링 함수는 충실도(fidelity)(원래 클래스에 대한 신뢰도 하락)와 설명 크기(편집 횟수) 사이의 균형을 맞춥니다. 부드러운 감쇠 함수(smooth decay function)를 사용하여 더 큰 편집 세트에 페널티를 부여함으로써, 최적화 루프 자체에 복잡한 제약을 추가하지 않고도 압축적이고 높은 신뢰도를 가진 설명을 우선시합니다.

샘플링 전략

효율성을 보장하기 위해 프레임워크는 가우시안 유사 감쇠 함수에 기반한 확률적 샘플링 기법을 사용하여 제거할 엣지 수($r$)와 추가할 엣지 수($k$)를 결정합니다. 이를 통해 도메인별 튜닝이 가능하며, 일반적으로 적은 수의 제거(단일 임계 엣지 제거가 큰 영향을 줄 수 있음)와 더 유연한 추가 횟수를 선호하도록 설정합니다.

주요 기여

1. 해체/재구성 방법론: 원래의 예측을 약화시키는 작업과 타겟 예측을 강화하는 작업을 분리하는 새로운 파이프라인을 제시합니다. 이 접근 방식은 인-디스트리뷰션(in-distribution) CfX 생성 성능을 개선하고 압축성과 모티프 관련성을 크게 향상시킵니다.
2. 링크 예측 통합: 링크 예측 연구를 GNN 반사실적 설명 가능성과 명시적으로 결합한 최초의 연구로, 복잡한 그래프 상에서 잘 타겟팅된 엣지 배치를 제안하는 링크 예측의 능력을 활용합니다.
3. 효율성 및 제어 가능성: 샘플링 파라미터와 도메인 지식 주입을 통해 튜닝이 가능하며, 성능 저하 없이 높은 효율성을 달elle 성합니다.
4. 포괄적 평가: 합성 데이터셋과 실제 데이터셋 모두에서 이진 및 다중 레이블 분류 작업을 대상으로, 엣지 추가를 지원하는 주요 로컬 수준 CF 설명기들을 포함한 다각적인 비교 연구를 최초로 제시합니다.

실험 결과

프레임워크는 합성 데이터셋(BA-Motifs), 감성 데이터셋(Graph-Twitter, Graph-SST5), 그리고 분자 데이터셋(BBBP)에서 평가되었습니다.

• 유효성 및 압축성: DR-CFGNN 변형 모델들은 높은 유효성 점수(종종 글로벌 베이스라인과 대등함)를 달성하는 동시에 현저히 작은 규모의 설명을 생성했습니다. 예를 들어, BBBP 데이터셋에서 DR-CFGNN은 평균 3개의 편집만으로 0.81의 유효성을 달성한 반면, 베이스라인들은 3.5배에서 5.6배 더 많은 엣지를 필요로 했습니다.
• 모티프 근접성: 프레임워크는 베이스라인보다 모티프 근접성 측면에서 월등한 성능을 보였습니다. 즉, 제안된 편집이 임의의 먼 곳이 아니라 원래의 예측을 담당하는 그라운드 트루스 모티프 주변에 집중되었습니다.
• 최소성: DR-CFGNN은 매우 높은 최소성 점수(1.0에 근접)를 기록하였으며, 이는 생성된 설명이 필수적인 편집만을 포함하고 불필요한 편집이 거의 없음을 나타냅니다.
• 견고성: 입력 노이즈(엣지/노드 섭동) 상황에서도 DR-CFGNN은 로컬 수준 설명기 중 가장 일관된 성능을 보이며 높은 유효성과 구조적 안정성(노이즈 후 엣지 일관성 측정)을 유지했습니다.
• 효율성: 확산 기반(D4Explainer) 또는 전수 조사 방식에 비해 낮은 훈련 및 추론 시간을 보여주었습니다. 노이즈 제거 단계만으로도 일부 사례에서 실행 시간을 최대 50%까지 단축했습니다.

의의 및 주장

본 논문은 완성도 인식 관점(링크 예측의 통합)이 영향력 있는 반사실적 사례를 생성하는 데 필수적이라고 주장합니다. 해체와 재구성을 분리함으로써, 이 프레임워크는 종종 OOD 편집이나 과도한 복잡성을 초래하는 엔드 투 엔드(end-to-end) 최적화의 함정을 피합니다.

저자들은 자사의 접근 방식이 커버리지(유효성), 품질(충실도, 모티프 근접성, 최소성), 그리고 효율성 사이에서 우수한 트레이드오프를 달성한다고 강조합니다. 저자들은 단순한 유효성 이상의 다양한 품질 지표를 평가하는 것의 중요성을 강조하며, 향후 연구가 템포럴 그래프(temporal graphs) 및 형식 검증을 위한 뉴로-심볼릭 AI로 확장될 수 있음을 시사합니다.