Synthesising Counterfactual Explanations via Label-Conditional Gaussian Mixture Variational Autoencoders

이 논문은 라벨 조건부 가우시안 혼합 변이 오토인코더 (L-GMVAE) 와 이를 기반으로 한 LAPACE 알고리즘을 제안하여, 입력 및 모델 변화에 강인하고 데이터 분포를 따르며 다양한 대안을 제공하는 반사실적 설명을 생성하는 새로운 생성 프레임워크를 제시합니다.

핵심

🌟 핵심 아이디어: "가상의 지도와 목적지"

상상해 보세요. AI 가 대출을 거절했다면, 우리는 "돈을 더 벌거나, 빚을 갚으면 대출이 승인될까?"라고 궁금해합니다. 기존 방법들은 이 답을 찾을 때 마치 미로 속을 헤매는 것과 같았습니다. AI 가 조금만 바뀌어도 답이 완전히 달라지거나, 현실적으로 불가능한 조언 (예: "당신은 내일 갑자기 1 억 원을 벌어야 합니다") 을 주는 경우가 많았습니다.

이 논문은 **"LAPACE"**라는 새로운 나침반을 개발했습니다. 이 나침반은 AI 가 만든 **가상의 지도 (잠재 공간)**를 이용합니다.

1. 지도 그리기: "클러스터 (Cluster)"라는 목적지

저자들은 먼저 AI 가 데이터를 어떻게 분류하는지 분석하여, **가상의 목적지 (목적지들)**를 여러 개 만들어 냅니다.

• 비유: 대출 승인 (성공) 이라는 목적지에 도달하기 위해, 단순히 "한 곳"이 아니라 **다양한 스타일의 성공 사례 (목적지)**를 여러 개 만들어 놓은 것입니다.
  • 목적지 A: "빚은 적고, 소득은 높은 경우"
  • 목적지 B: "빚은 조금 있지만, 직업이 안정적인 경우"
  • 목적지 C: "나이가 많고, 자산이 풍부한 경우"
    이것들을 **가우시안 혼합 모델 (L-GMVAE)**이라는 기술을 통해 학습시킵니다. 즉, AI 가 "어떤 모습이면 성공할까?"에 대한 이상적인 패턴들을 미리 찾아둔 것입니다.

2. 길을 찾기: "직선으로 연결하기"

이제 대출을 거절당한 당신 (입력 데이터) 이 이 목적지들 중 하나로 가기 위해 어떤 변화를 겪어야 할지 보여줍니다.

• 비유: 당신이 현재 있는 위치 (거절) 에서 각 목적지 (승인) 로 가는 직선 도로를 그립니다.
• 이 도로를 따라 걸어가면, 당신의 상태가 어떻게 변해야 하는지 **연속적인 과정 (Path)**을 보여줍니다.
  • "먼저 빚을 10% 줄이고, 그다음 소득을 5% 늘리면..."
  • 이렇게 단계별 변화를 보여주므로, 사용자가 "어느 정도까지 노력하면 될지" 선택할 수 있습니다.

3. 왜 이 방법이 특별한가요? (강점)

이 방법은 기존 방식보다 훨씬 똑똑하고 안전합니다.

• 🛡️ 흔들리지 않는 답 (강건성):

  • 기존: AI 가 조금만 업데이트되어도 (예: 새로운 데이터로 재학습), 추천해 준 답이 무효가 되거나 완전히 달라질 수 있습니다.
  • 이 방법: 모든 길은 미리 정해진 **불변의 목적지 (이상적인 패턴)**로 이어집니다. AI 가 바뀌어도 그 목적지는 변하지 않으므로, 추천받은 조언은 여전히 유효합니다. 마치 "어떤 지도를 보더라도, 서울역은 서울역이다"와 같습니다.

• 🎨 현실적인 조언 (타당성):

  • 기존: "당신은 1000 살이 되어야 대출이 나옵니다"처럼 현실 불가능한 조언을 줄 수 있습니다.
  • 이 방법: 미리 학습된 '성공 패턴'으로 가기 때문에, 제안된 변화는 현실 데이터 안에 존재하는 자연스러운 변화입니다.

• 🌈 다양한 선택지 (다양성):

  • 한 가지 답만 주는 게 아니라, 여러 목적지로 가는 여러 개의 길을 보여줍니다. "빚을 갚는 길"을 선택할지, "소득을 늘리는 길"을 선택할지 사용자가 고를 수 있습니다.

• 🚫 비밀 유지 (프라이버시):

  • 이 방법은 실제 다른 사람의 데이터를 가져와서 "이 사람처럼 하면 돼"라고 말하지 않습니다. 대신 가상의 이상적인 패턴을 만들어내므로, 다른 사람의 개인 정보가 유출될 위험이 없습니다.

4. 사용자의 규칙 반영하기 (실행 가능성)

사용자가 "내 나이는 절대 바꿀 수 없어" 또는 "특정 지역은 제외해 줘" 같은 조건을 넣으면, 이 시스템은 그 조건을 만족하도록 길을 살짝 수정해 줍니다. 마치 GPS 가 "도로 공사 구간 피해서 가"라고 설정하면 우회 경로를 찾아주는 것과 같습니다.

---

💡 요약

이 논문은 **"AI 의 결정을 뒤집기 위한 조언"**을 줄 때, 단순히 "무엇을 바꿔라"라고 말해주는 것을 넘어, **현실적이고, 흔들리지 않으며, 다양한 선택지를 제공하는 '가상의 지도'**를 만들어 준다고 볼 수 있습니다.

• 기존 방식: 미로에서 막연히 헤매며 "여기서 오른쪽으로 가"라고 말함. (AI 가 바뀌면 길도 바뀜)
• 이 논문 (LAPACE): 미리 그려진 명확한 목적지와 그로 가는 안전한 길을 보여줌. (AI 가 바뀌어도 목적지는 그대로, 길도 안전함)

이 기술은 금융, 의료 등 AI 의 결정이 사람의 삶에 큰 영향을 미치는 분야에서, 더 공정하고 신뢰할 수 있는 피드백을 제공하는 데 큰 역할을 할 것으로 기대됩니다.

기술 요약

1. 문제 정의 (Problem Statement)

**반사실적 설명 (Counterfactual Explanations, CEs)**은 알고리즘적 결정 (예: 대출 거절) 을 받은 개인에게 "어떤 최소한의 변경이 이루어지면 더 바람직한 결과 (예: 대출 승인) 를 얻을 수 있는지"를 제시하는 설명 기법입니다. 이상적인 CEs 는 다음과 같은 속성을 동시에 만족해야 합니다:

• 유효성 (Validity): 원하는 결과를 달성해야 함.
• 근접성 (Proximity): 원본 입력과 가까워야 함 (실현 가능성).
• 타당성 (Plausibility): 실제 데이터 분포 (Manifold) 내에 존재해야 함.
• 다양성 (Diversity): 단일 입력에 대해 여러 가지 다른 해결책을 제시해야 함.
• 강건성 (Robustness):
  • 모델 변경에 대한 강건성: 모델이 재학습되거나 파라미터가 변경되어도 설명이 유효해야 함.
  • 입력 변경에 대한 강건성: 입력에 작은 노이즈가 추가되어도 생성된 설명이 크게 달라지지 않아야 함 (안정성).

기존 방법의 한계:
기존 연구들은 위 속성들을 통합적으로 다루지 못하거나, 특정 속성 (예: 타당성만) 에 초점을 맞추는 경향이 있었습니다. 특히, 모델 변경이나 입력 노이즈에 대한 강건성을 보장하면서도 타당하고 다양한 설명을 생성하는 통일된 모델 무관 (Model-agnostic) 프레임워크가 부족했습니다. 또한, 기존 생성 모델 (VAE 등) 은 대부분 무조건적 (unconditional) 이라 분류기의 예측 레이블 정보를 활용하지 못해, 잠재 공간에서의 탐색이 복잡하거나 유효성이 보장되지 않는 문제가 있었습니다.

---

2. 제안 방법론 (Methodology)

저자들은 두 가지 핵심 구성 요소를 제안합니다: L-GMVAE (새로운 생성 모델) 와 LAPACE (새로운 설명 생성 알고리즘).

2.1 Label-Conditional Gaussian Mixture VAE (L-GMVAE)

기존 GMVAE 를 확장하여 **레이블 조건부 (Label-conditional)**로 설계된 생성 모델입니다.

• 구조: 잠재 공간 (Latent Space) 에서 각 클래스 레이블 $y$에 대해 고유한 가우시안 혼합 (Gaussian Mixture) 클러스터 집합을 할당합니다. 즉, $C = C_1 \cup C_2 \cup \dots \cup C_L$로 분할되며, 각 클래스는 여러 개의 가우시안 컴포넌트 (클러스터) 로 표현됩니다.
• 학습 목표: 분류기가 예측한 레이블을 조건으로 하여 데이터를 재구성합니다.
  • 의미 있는 중심점 (Centroids): 학습 후 각 가우시안 컴포넌트의 평균 ($\mu_z$) 은 해당 클래스의 **잠재 중심점 (Latent Centroid)**이 됩니다. 이 중심점을 디코더로 복원하면, 해당 클래스의 대표적이고 타당한 (plausible) 데이터 포인트가 됩니다.
  • 다양성: KL 발산 정규화를 통해 각 클래스 내에서 다양한 클러스터가 사용되도록 유도하여, 다양한 형태의 대표 포인트를 학습합니다.
  • 부드러운 매니폴드: 잠재 공간의 근접성이 입력 공간의 근접성으로 이어지도록 VAE 의 구조적 특성을 활용합니다.

2.2 LAPACE (LAtent PAth Counterfactual Explanations)

L-GMVAE 를 기반으로 한 모델 무관 알고리즘으로, 입력에서 목표 클래스까지 **연속적인 경로 (Path)**를 생성합니다.

• 작동 원리:
  1. 입력 $x$를 인코더를 통해 잠재 표현 $z_x$로 변환합니다.
  2. 목표 클래스 $y'$에 해당하는 학습된 모든 잠재 클러스터 중심점 ($z_{c_j}$) 을 찾습니다.
  3. $z_x$와 각 $z_{c_j}$ 사이를 **선형 보간 (Linear Interpolation)**하여 잠재 공간 경로를 생성합니다.
  4. 이 경로상의 모든 점을 디코더를 통해 입력 공간으로 복원하여, 원본 입력에서 목표 클래스의 대표 포인트까지 이어지는 CE 경로를 얻습니다.
• 강건성 보장:
  • 입력 변경 강건성: 모든 경로가 동일한 고정된 중심점 (Centroid) 으로 수렴하므로, 입력에 작은 노이즈가 있어도 생성된 CE 는 동일하거나 매우 유사하게 유지됩니다.
  • 모델 변경 강건성: 생성된 CE 가 실제 데이터 매니폴드 내에 위치하고 (타당성), 클래스의 중심에 가까우므로, 모델이 재학습되더라도 예측 레이블이 유지될 확률이 높습니다.
• 실행 가능성 (Actionability) 제약: 사용자 정의 제약 조건 (예: "나이"는 변경 불가, "소득"은 특정 값 이상이어야 함 등) 을 디코더를 통한 경사 하강법 (Gradient Descent) 으로 경로 상의 점들을 수정하여 쉽게 반영할 수 있습니다.

---

3. 주요 기여 (Key Contributions)

1. L-GMVAE 제안: 분류기 예측 레이블 정보를 명시적으로 활용하여, 각 클래스에 대해 다양하고 타당한 잠재 클러스터 중심점을 학습하는 새로운 생성 모델 개발.
2. LAPACE 알고리즘: L-GMVAE 의 잠재 중심점으로의 선형 보간을 통해 유효성, 근접성, 타당성, 다양성, 그리고 모델/입력 변경에 대한 강건성을 모두 만족하는 CE 경로 생성 방법 제시.
3. 제약 조건 통합: 경량화된 경사 최적화를 통해 사용자 정의 실행 가능성 제약을 CE 생성 과정에 자연스럽게 통합하는 메커니즘 제공.
4. 종합적 실험 검증: 8 가지 정량적 지표 (유효성, 근접성, 타당성, 다양성, 모델/입력 강건성 등) 를 통해 기존 최첨단 (SOTA) 방법론들과 비교 평가.

---

4. 실험 결과 (Results)

데이터셋 및 설정:

• 헬로크 (Heloc), 와인 품질 (Wine), 성인 소득 (Adult), 컴패스 (Compas) 등 4 개 데이터셋 사용.
• 랜덤 포레스트 및 신경망 (NN) 분류기 사용.
• 기존 방법론 (NNCE, FACE, RobXCE, DiCE, DRCE 등) 과 비교.

주요 성과:

• 타당성 (Plausibility): LAPACE 는 모든 데이터셋과 모델에서 가장 우수한 타당성 점수를 기록했습니다. 생성된 CE 가 실제 데이터 분포 내에 잘 위치함을 의미합니다.
• 강건성 (Robustness):
  • 모델 변경: LAPACE-Last (경로의 끝점, 즉 중심점) 는 100% 모델 변경 강건성을 보였습니다. 재학습된 모델에서도 항상 유효한 예측을 받았습니다.
  • 입력 변경: 고정된 중심점으로 수렴하는 특성으로 인해 입력 노이즈에 대해 완벽한 안정성을 보장합니다.
• 근접성 (Proximity) vs 타당성 트레이드오프: LAPACE-First(경로 시작점) 는 근접성이 좋고, LAPACE-Last 는 타당성과 강건성이 뛰어납니다. 사용자는 이 경로 상에서 원하는 균형을 선택할 수 있습니다.
• 다양성 (Diversity): 혼합 데이터 타입에서 기존 방법들보다 우수한 다양성을 보였습니다.
• 계산 효율성: 한 번의 모델 학습 후, 새로운 입력에 대한 CE 생성은 매우 빠릅니다 (순전파만 수행).
• 실행 가능성 제약: 제약 조건이 적용된 경우에도 LAPACE 는 100% 유효한 CE 를 생성하여 기존 방법 (FACE 등) 을 능가했습니다.

---

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 반사실적 설명 분야에서 **강건성 (Robustness)**과 **타당성 (Plausibility)**을 동시에 해결하는 획기적인 프레임워크를 제시했습니다.

• 이론적/실용적 의의: 단순히 하나의 최적점을 찾는 것을 넘어, 입력에서 목표 클래스의 '이상적인 대표점 (Prototype)'까지 이어지는 연속적인 경로를 제공함으로써, 사용자에게 다양한 선택지를 주고 모델의 불확실성에 대한 리스크를 줄였습니다.
• 모델 무관성: 생성 모델 (L-GMVAE) 만 학습하면 되며, 대상 분류기의 내부 구조를 알 필요 없으므로 실제 산업 환경에 적용하기 용이합니다.
• 미래 방향: 생성된 잠재 공간의 구조를 활용하여 데이터 서브그룹에 대한 영역 기반 설명 (Region-based explanations) 이나, 더 정교한 보간 기법 (Bures-Wasserstein 등) 으로 확장할 수 있는 가능성을 열었습니다.

결론적으로, LAPACE 는 알고리즘적 의사결정에 대한 신뢰할 수 있고 실행 가능한 피드백을 제공하는 데 있어 현재까지의 방법론들보다 우월한 성능과 강건성을 입증했습니다.