🤖 machine learning

Causally Fair Node Classification on Non-IID Graph Data

이 논문은 인과적 메커니즘의 이질성을 해결하고 편향을 완화하기 위해 개입 분포를 계산함으로써, 네트워크 구조적 인과 모델 프레임워크에 기반한 메시지 패싱 변분 오토인코더(MPVA)를 통해 비IID 그래프 데이터에서 인과적으로 공정한 노드 분류를 달성하는 것을 제안한다.

원저자: Yucong Dai, Lu Zhang, Yaowei Hu, Susan Gauch, Yongkai Wu

게시일 2026-06-23

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yucong Dai, Lu Zhang, Yaowei Hu, Susan Gauch, Yongkai Wu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 문제: "우정의 편향" 함정

당신이 대출 승인 여부를 결정하는 은행이라고 상상해 보세요. 당신에게는 신청자 명단이 있지만, 동시에 그들의 친구가 누구인지도 알고 있습니다. 현실 세계에서 사람들은 고립된 섬이 아닙니다. 그들은 서로 연결되어 있습니다. 만약 당신의 친구가 대출을 갚지 못한다면, 단순히 비슷한 습관을 공유하거나 같은 동네에 산다는 이유만으로 당신 또한 대출을 갚지 못할 가능성이 높아질 수 있습니다.

대부분의 전통적인 AI 공정성 도구들은 모든 사람이 독립적인 섬(하나의 구슬이 다른 구슬을 알지 못하는 구슬 주머니처럼)이라고 가정합니다. 이 도구들은 AI가 인종이나 성별과 같은 민감한 특성을 "보지" 못하게 하려고 노력합니다. 하지만 연결된 세상(그래프)에서는 이러한 접근 방식이 실패합니다. 만약 AI가 당신의 친구가 당신에게 미치는 영향을 무시한다면, 설령 AI가 인종에 대해 "눈을 감았다"고 주장하더라도 결과적으로 불공정할 수 있습니다.

게다가, 대부분의 공정성 도구는 세상의 규칙이 모두에게 동일하다고 가정합니다. 즉, "대출을 갚지 못한 사람의 친구가 되는 것"이 모든 사람에게 똑같은 방식으로 영향을 미친다고 가정합니다. 하지만 현실에서는 사람마다 각자의 사회적 네트워크에 따라 규칙이 달라집니다. 친구가 50명인 사람의 "인과 기제(causal mechanism)"는 친구가 2명뿐인 사람의 것과는 다릅니다.

해결책: 연결을 바라보는 새로운 시각

저자인 Yucong Dai와 그의 팀은 MPVA(Message Passing Variational Autoencoder)라고 불리는 새로운 방법을 제안합니다. 그들은 이 문제를 단순히 '무슨 일이 일어났는가'를 보는 것이 아니라, '우리가 세상을 마법처럼 바꿀 수 있다면 어떤 일이 일어날 것인가'를 알아내려는 탐정의 문제로 다룹니다.

그들이 이를 풀어내는 방식은 다음과 같습니다.

1. "색상 코드" 시스템 (WL 그래프 동형성)

모두가 셔츠를 입고 있는 거대한 파티를 상상해 보세요. 사람들이 서로에게 어떻게 영향을 미치는지 이해하기 위해, 연구진은 위스펠러-라이만(Weisfeiler-Lehman, WL) 테스트라는 영리한 기술을 사용합니다.

이것은 사람들이 이웃에게 메시지를 전달하는 "전화기 놀이(말 전달하기 게임)"와 같습니다.

1라운드: 모든 사람은 자신의 셔츠 색상과 즉각적인 이웃의 셔츠 색상을 살펴봅니다. 그리고 이 색상들을 혼합하여 자신만의 독특한 "새로운 슈퍼 컬러"를 만들어냅니다.
2라운드: 그들은 자신의 새로운 슈퍼 컬러와 이웃의 새로운 슈퍼 컬러를 보고 다시 한번 혼합합니다.

몇 라운드를 거친 후, 두 사람이 정확히 같은 "슈퍼 컬러"를 갖게 된다면, 그것은 오직 그들의 지역적 사회적 환경(구조)이 정확히 일치할 때뿐입니다. 이를 통해 AI는 단순히 사람이 누구인지뿐만 아니라, 그들의 사회적 네트워크가 어떻게 구축되어 있는지를 기준으로 사람들을 그룹화할 수 있습니다.

2. 두 가지 황금률

이 논문은 두 가지 조건이 충족될 때 이 방법이 작동한다고 주장합니다. 이것을 게임의 규칙이라고 생각하면 됩니다.

규칙 1: 분해 가능성 (조립 라인): 한 사람의 결과가 결정되는 과정은 두 단계로 나눌 수 있습니다.
1. 이웃 혼합기: 모든 친구로부터 정보를 가져와 하나의 요약된 숫자(이를 "사회적 압박"이라고 부릅시다)로 혼합하는 기계입니다.
2. 내부 엔진: "사회적 압박"과 개인의 특성을 가져와 결과를 결정하는 별도의 기계입니다.
- 왜 중요한가: 비록 내 친구와 당신의 친구가 다르더라도, 만약 우리가 같은 "사회적 압박" 점수를 가지고 있다면, 내부 엔진은 우리 둘 모두에게 동일하게 작동합니다. 이는 전통적인 수학이 필요로 하는 "불변성(동일함)"을 회복시켜 줍니다.
규칙 2: 그래프 독립성 (무작위 노이즈): 한 사람에게 영향을 미치는 "무작위적인 운"이나 숨겨진 요인들(예: 갑작스러운 실직)은 그 사람의 사회적 네트워크 형태와 관련이 없어야 합니다.
- 왜 중요한가: 만약 당신의 네트워크 형태가 당신의 불운을 은밀하게 결정한다면, 수학적 모델은 깨집니다. 하지만 네트워크의 형태와 당신의 불운이 독립적이라면, 수학적 모델은 유효하게 유지됩니다.

3. "시간 여행" 기계 (MPVA)

이 규칙들을 갖춘 후, 그들은 MPVA라는 딥러닝 모델을 만듭니다. 이 모델을 시간 여행 시뮬레이터라고 생각할 수 있습니다.

단계 A (귀납적 추론 - Abduction): 모델은 실제 인물과 그들의 실제 친구들을 관찰합니다. 그리고 현재 존재하는 "사회적 압박" 점수를 찾아냅니다.
단계 B (실행 - Action): 모델은 "마법 같은 개입"을 수행합니다. "자, 이제 세상의 모든 사람이 다른 인구 통계적 집단(예를 들어, 모든 사람이 '그룹 A'라고 가정)이라고 치자"라고 말합니다. 그리고 이 가상의 세계를 바탕으로 "사회적 압박" 점수를 다시 계산합니다.
단계 C (예측 - Prediction): 이 새로운 점수들을 사용하여 "내부 엔진"을 다시 실행하고, 그 결과가 어떠했을지를 확인합니다.

"실제 세계"의 시뮬레이션 결과와 "가상 세계"의 시뮬레이션 결과를 비교함으로써, 모델은 민감한 속성(예: 인종)이 친구 관계가 얽혀 있는 상황에서도 얼마나 불공정하게 결과에 영향을 미쳤는지 정확히 측정할 수 있습니다.

결과: 더 공정한 판사

저자들은 가상의 데이터(정답을 알고 있는 데이터)와 실제 데이터(신용카드 연체 데이터 등) 모두에서 실험을 진행했습니다.

그 결과, 그들의 "시간 여행 시뮬레이터"(MPVA)가 기존 방식보다 편향을 찾아내고 제거하는 데 훨씬 뛰어났음을 발견했습니다. 기존 방식은 친구 관계를 무시하려고 했지만, 그것은 효과가 없었습니다. MPVA는 친구 관계를 인정하고, 그들이 만들어내는 구체적인 "사회적 압박"을 파악한 뒤, 그 압박이 배경과 상관없이 모두에게 공정하게 적용되는 세상을 시뮬레이션하여 더 공정한 AI를 훈련시켰습니다.

요약하자면, 이 논문은 연결된 세상에서 진정으로 공정해지기 위해서는 연결을 무시해서는 안 된다고 주장합니다. 대신, 그 연결의 구조를 이해하고, 규칙이 모두에게 동일하게 적용된다면 어떤 일이 일어날지 시뮬레이션하며, 그 시뮬레이션을 사용하여 더 공정한 AI를 훈련해야 한다고 말합니다.

기술 요약: 비독립 항등 분포(Non-IID) 그래프 데이터에서의 인과적 공정 노드 분류

문제 정의

기존의 공정 머신러닝 연구는 주로 데이터 인스턴스가 독립 및 동일 분포(IID)를 따른다는 가정을 전제로 한다. 그러나 실제 그래프 데이터(예: 소셜 네트워크, 신용 시스템)는 노드의 결과가 이웃 노드의 속성과 행동에 의해 영향을 받기 때문에 이러한 가정을 본질적으로 위반한다(non-IID 설정). 그래프 환경으로 공정성 개념이 확장되어 왔으나, **인과 기반 공정성(causality-based fairness)**을 이러한 환경에 적용하는 데에는 여전히 상당한 간극이 존재한다.

본 연구가 다루는 핵심 과제는 그래프 내 노드 간의 **인과 기제의 이질성(heterogeneity of causal mechanisms)**이다. 네트워크 데이터에서 노드의 결과는 자신의 속성과 이웃의 집계된 속성에 모두 의존한다. 결과적으로, 서로 다른 이웃 구조를 가진 노드들은 서로 다른 유효 인과 기제를 따른다. 이러한 변동성은 고전적 구조적 인과 모델(SCM)과 do-calculus의 적용에 필요한 불변성(invariance) 가정을 위반하며, 이로 인해 표준적인 인과 추론 기법(예: 중재 분포 $P(x|do(s))$ 계산)을 적용할 수 없게 하거나 편향되게 만든다.

방법론

저자들은 그래프 데이터에서의 인과 추론과 공정성을 해결하기 위해 **네트워크 구조적 인과 모델(NSCM)**에 기반한 프레임워크를 제안한다. 방법론은 세 가지 주요 단계로 진행된다.

1. 이론적 토대: 불변성 회복
본 논문은 국소적 구조 정보를 인코딩함으로써 인과 기제를 노드 전반에 걸쳐 불변하게 만들 수 있음을 입증한다.

네트워크 구조적 인과 모델 (NSCM): 저자들은 네트워크 $G$ (개인 간의 간섭을 나타냄)와 인과 다이어그램 $C$ (특성 관계를 나타냄)를 결합한 튜플 $\langle G, U, V, F \rangle$ 로서 NSCM을 정의한다.
위스펠러-레만 (WL) 인코딩: 구조적 이질성을 처리하기 위해, 저자들은 WL 그래프 동형 검사에서 도출된 노드 색상(color)을 활용한다. 동일한 계산 트리(computation tree)를 가진 노드들은 동일한 색상 $c(i)$ 를 부여받으며, 이는 구조적 표현 역할을 한다.
핵심 조건: 저자들은 이질적인 네트워크 프로세스를 공유된 인과 모델으로 축소할 수 있는 두 가지 조건을 도입한다.
- 분해 가능성 (Decomposability): 구조 방정식이 메시지 전달 메커니즘 $f^{MP}$ (이웃 정보 집계)와 내부 메커니즘 $f^{INT}$ (노드 수준의 효과 제어)로 분해될 수 있다. 이를 통해 이웃의 효과를 중간 변수 $A = g(S, C)$ 로 집계할 수 있다.
- 그래프 독립성 (Graph Independence): 노드에 영향을 미치는 외생 변수는 노드의 색상(구조적 맥락)과 독립적이다.
식별 가능성 (Identifiability): 이러한 조건 하에서, 저자들은 구조 변수 $C$ 에 대한 조정을 통해 중재 분포 $P(x|do(s)=s) $가 식별 가능하다는 것을 증명한다. 저자들은 관측 분포와 중재 분포가 구조 변수$ C$에 대해 평균을 내는 방식만 다를 뿐, 공통된 잠재 함수 성분을 공유한다는 표현식(정리 4)을 도출한다.

2. 추정 프레임워크: 메시지 패싱 변분 오토인코더 (MPVA)
잠재 변수를 명시적으로 복구하지 않고도 중재 분포를 추정하기 위해, 저자들은 다음을 결로합한 딥러닝 프레임워크인 MPVA를 제 제안한다.

메시지 패싱 신경망 (MPNN): 이웃으로부터의 인과적 영향을 집계하여 중간 표현 $\hat{A}$ 를 학습함으로써, 메시지 전달 메커니즘 $g(S, C)$ 를 효과적으로 근사한다.
조건부 변분 오토인코더 (cVAE): 중간 표현과 결과 사이의 공유된 함수 성분을 포착하기 위해 조건부 분포 $P(X|\hat{A}, Z)$ 를 모델링한다.
추론 과정: 프레임워크는 추론(Abduction)-실행(Action)-예측(Prediction) 구조를 따른다.
1. 추론 (Abduction): 관측된 결과를 인코딩하여 잠재 변수를 추론한다.
2. 실행 (Action): MPNN을 통해 중간 표현 $\hat{A}$ 에 중재 $do(s)$를 적용한다.
3. 예측 (Prediction): 중재된 표현을 디코딩하여 중재된 결과를 추정한다.

3. 공정 노드 분류
추정된 중재 분포는 다음과 같은 인과적 공정성 정규화 항을 통해 노드 분류 작업에 통합된다. 이 목적 함수는 중재 하에서의 유리한( $s^+$ ) 인구 통계 그룹과 불리한( $s^-$ ) 인구 통계 그룹 간의 예측 차이를 최소화한다.
$\ell_f = E[h(\tilde{x})|do(s^+)] - E[h(\tilde{x})|do(s^-)]$
이 항은 표준 분류 손실에 추가되어, 모델이 예측 정확도를 유지하면서도 인과적으로 공정한 표현을 학습할 수 있도록 한다.

주요 기여

이론적 확장: 본 논문은 NSCM을 정형화하고 불변성을 회복하는 조건(분해 가능성 및 그래프 독립성)을 식별함으로써, 비독립 항등 분포(non-IID) 그래프 데이터로 인과 추론(특히 do-calculus)을 확장하기 위한 엄격한 이론적 토대를 제공한다.
새로운 프레임워크: 이질적인 네트워크에서 직접적인 do-calculus 적용의 한계를 극려하기 위해, MPNN과 cVAE를 결합하여 중재 분포를 근사하는 새로운 아키텍처인 MPVA를 도입한다.
공정성 정규화: 추정된 중재 분포를 활용하여 인과적 공정성 제약 조건을 노드 분류기의 학습 과정에 직접 포함시키는 방법을 제안한다.

실험 결과

저자들은 준합성 데이터셋(제어된 인과 메커니즘을 가진 Credit 데이터셋에서 파생됨)과 실제 데이터셋(Credit Defaulter 및 German Credit) 모두에서 MPVA를 평가한다.

성능: 실증적 결과는 MPVA가 중재 분포를 근사하는 데 있어 기존 방법들(IID를 가정하거나 기존의 그래프 공정성 베이스라인을 포함)보다 우수함을 보여준다.
공정성: 이 방법은 예측 정확도를 경쟁력 있게 유지하면서도 개선된 공정성 지표(특히 위험 차이 및 인과적 불일치 감소)를 달야낸다.
일반화 가능성: 프레임워크는 인과 기제가 국소적 네트워크 구조에 따라 변하는 시나리오에서도 효과적임을 입증하였으며, 이는 표준적인 방법들이 실패하는 설정이다.

의의 및 주장

본 논문은 공정 머신러닝의 근본적인 과제인 연결되어 있고 비독립 항등 분포(non-IID)를 따르는 데이터에 대한 인과적 공정성 적용 문제를 해결한다고 주장한다. 구조적 표현(WL 색상을 통한)이 인과 추론에 필요한 불변성을 회복할 수 있음을 입증함으로써, 본 연구는 순수 통계적 공정성에서 복잡한 ML 애플리케이션에서의 인과 기반 공정성으로의 전환을 촉구한다. 저자들은 자신들의 연구 결과가 알고리즘 공정성에서 고전적인 IID 가정을 완화하는 단계이며, 네트워크 구조와 간섭에 의해 유발되는 편향을 완화하기 위한 원칙적인 접근 방식을 제공한다고 위치시킨다. 본 연구는 모든 그래프 공정성 문제를 해결한다고 주장하는 것이 아니라, 비독립 항등 분포(non-IID) 설정에 대한 원칙적인 인과적 탐색의 공백을 구체적으로 겨냥한다.