Causal Neural Probabilistic Circuits

이 논문은 개념 간 인과 관계를 고려하여 개입 시 정확도를 향상시키기 위해 신경 속성 예측기와 인과 확률 회로를 결합한 '인과 신경 확률 회로 (CNPC)'를 제안하고, 이를 통해 다양한 개입 조건에서 기존 모델보다 높은 성능을 입증합니다.

핵심

1. 문제: "잘못된 추측을 고치면, 나머지는 그대로일까?"

비유: 의사와 환자의 관계
생각해 보세요. 환자가 병원에 왔는데, AI 가 "이 환자는 흡연자이고 폐암일 확률이 높다"고 진단했다고 가정해 봅시다.
그런데 의사가 "잠깐, 이 환자는 흡연자가 아니야"라고 AI 의 추측을 바로잡아 줍니다 (이걸 '개입'이라고 합니다).

• 기존 AI (CBM) 의 방식:
  기존 모델은 AI 가 "흡연자"라고 잘못 말한 부분만 "아니야, 비흡연자야"라고 고치고, 나머지 부분은 "그대로" 둡니다.
  • 문제점: 현실에서 "흡연자가 아니다"라고 고치면, 자연스럽게 "폐암일 확률"도 줄어들어야 합니다. 하지만 기존 모델은 "흡연자"라는 사실만 바꿨을 뿐, 그로 인해 "폐암" 확률이 어떻게 변해야 하는지 **인과관계 (원인과 결과)**를 고려하지 않아서 여전히 높은 확률을 유지할 수 있습니다. 마치 "날씨가 맑다"고 잘못 예보했다가 "비"로 고쳐주었는데, "우산 필요함" 여부는 여전히 '필요함'으로 고정해 둔 것과 같습니다.

2. 해결책: CNPC (인과 관계 지도를 가진 AI)

저자들은 이 문제를 해결하기 위해 CNPC라는 모델을 만들었습니다. 이 모델은 두 가지 친구가 협력하는 구조입니다.

• 친구 A (신경망): "눈이 빠른 감지기"
  • 사람의 눈으로 사진을 보고 "저건 빨간색이야", "저건 웃고 있어" 같은 특징을 빠르게 찾아냅니다. 하지만 가끔 실수할 수 있습니다.
• 친구 B (인과 회로): "논리적인 지도책"
  • 이 친구는 **인과 관계 지도 (Causal Graph)**를 가지고 있습니다. "흡연자 → 폐암", "웃음 → 매력"처럼 어떤 특징이 어떤 결과를 만드는지 논리적으로 연결된 지도를 외우고 있습니다.

CNPC 의 작동 방식 (PoE: 전문가들의 합의)
전문가 (의사) 가 "흡연자가 아니야"라고 수정해 주면:

1. 친구 A는 "아, 내가 잘못 봤네. 수정된 정보를 받아들일게."라고 합니다.
2. 친구 B는 "그렇다면 지도에 따르면, 흡연자가 아니면 폐암 확률도 자연스럽게 낮아져야 해"라고 계산합니다.
3. CNPC는 이 두 친구의 의견을 적절히 섞어서 (PoE, 전문가들의 합의) 최종 진단을 내립니다.

이때 중요한 점은, **친구 B(지도책)**가 "흡연자가 바뀌면 폐암 확률도 자동으로 변한다"는 인과 관계를 정확히 계산해 준다는 것입니다.

3. 왜 이 모델이 특별한가요? (실험 결과)

논문은 이 모델이 여러 상황에서 얼마나 잘 작동하는지 실험했습니다.

• 평범한 상황 (Benign Setting):
  • AI 가 원래 잘하는 상황에서는 기존 모델들과 비슷하게 잘합니다.
• 예상치 못한 상황 (Out-of-Distribution):
  • 상황: 사진을 180 도 뒤집거나, 해커가 이미지를 살짝 변조해서 AI 가 혼란스러워하는 경우.
  • 결과: 이때는 AI(친구 A) 가 완전히 망가져서 "이게 무슨 그림인지 모르겠다"며 엉뚱한 특징을 찾아냅니다.
  • CNPC 의 활약: 이때는 **친구 B(인과 지도책)**의 역할이 빛을 발합니다. AI 가 엉뚱한 말을 해도, "논리적으로 그럴 리가 없지"라고 지도책을 통해 교정해 주기 때문에, 전문가가 몇 가지 사실만 고쳐주면 전체 진단이 훨씬 정확하게 바뀝니다.

4. 핵심 요약

• 기존 모델: "실수한 부분만 고쳐줘. 나머지는 알아서 해." (인과관계를 무시함)
• CNPC: "실수한 부분을 고쳐주면, 그 영향이 다른 부분까지 어떻게 퍼져나갈지 논리 지도를 통해 계산해서 함께 고쳐줘." (인과관계를 존중함)

결론적으로, CNPC 는 인공지능이 실수했을 때 전문가의 도움을 받아 더 빠르고 정확하게 다시 일어설 수 있게 해주는, 논리적이고 유연한 새로운 AI입니다. 특히 AI 가 처음 본 낯선 상황 (예: 변형된 이미지) 에서 실수를 할 때, 이 모델이 가장 빛을 발합니다.

기술 요약

1. 문제 제기 (Problem Statement)

• 개념 병목 모델 (CBM) 의 한계: 개념 병목 모델 (Concept Bottleneck Models, CBM) 은 신경망의 예측 과정을 인간이 이해할 수 있는 '개념 (Concept)' 단계를 거쳐 최종 클래스를 예측함으로써 해석 가능성을 높입니다. 또한, 도메인 전문가가 테스트 시 잘못된 개념 값을 수정 (개입, Intervention) 하여 최종 정확도를 높일 수 있다는 장점이 있습니다.
• 기존 개입 방식의 결함: 기존 CBM 은 특정 개념을 수정할 때, 해당 개념 값만 덮어쓰고 나머지 개념 예측값은 그대로 유지합니다. 이는 개념 간의 **인과적 의존성 (Causal Dependencies)**을 무시합니다.
  • 예시: 환자가 흡연자라는 개념을 수정하면, 이는 폐암 확률뿐만 아니라 다른 관련 개념들 (예: 기침, 호흡 곤란 등) 의 확률 분포에도 영향을 미쳐야 합니다.
• 핵심 과제: 인과적 구조를 고려하여 하나의 개념을 개입했을 때, 다른 개념들과 최종 클래스 분포가 어떻게 변화하는지 (개입된 클래스 분포, $P_{do}(Y|X)$) 를 정확하게 모델링하는 것은 기존 CBM 모듈만으로는 어렵습니다. 특히 고차원 입력 $X$와 속성 간의 인과 관계를 모르는 상황에서 개입된 속성 분포를 추정하는 것이 계산적으로 난제입니다.

2. 제안 방법론 (Methodology: CNPC)

저자들은 **인과적 신경 확률 회로 (Causal Neural Probabilistic Circuit, CNPC)**를 제안합니다. 이는 신경망 속성 예측기와 인과 그래프에서 컴파일된 인과적 확률 회로 (Causal PC) 를 결합한 하이브리드 모델입니다.

2.1. 모델 구조

CNPC 는 두 가지 주요 모듈로 구성됩니다:

1. 신경 속성 예측기 (Neural Attribute Predictor): 입력 $X$로부터 $K$개의 속성 (개념) 분포를 예측하는 다중 헤드 신경망입니다.
2. 인과적 확률 회로 (Causal PC): 속성 ($A_{1:K}$) 과 클래스 레이블 ($Y$) 간의 인과 그래프를 기반으로 컴파일된 확률 회로입니다. 이는 속성과 클래스의 결합 확률 분포를 표현하며, 정확하고 계산 가능한 (Tractable) 인과 추론을 지원합니다.

2.2. 개입 시 예측 전략 (Product of Experts, PoE)

개입 (Intervention) 이 발생했을 때, CNPC 는 다음과 같은 방식으로 클래스 분포를 근사합니다:

• 문제: 개입된 속성 분포 $P_{do}(A_{1:K}|X)$를 직접 구하는 것은 어렵습니다.
• 해결 (PoE): 두 전문가 (Expert) 의 정보를 결합하여 근사합니다.
  1. 신경 예측기 기반: 개입된 속성을 정답 분포로 고정하고, 나머지 속성은 신경망이 예측한 분포를 유지한 상태 ($P_{do}^\theta$).
  2. 인과 PC 기반: 인과 그래프를 통해 개입된 속성의 영향을 정확히 전파하여 계산된 개입 주변 분포 ($P_{do}^w$).
• PoE 공식: 이 두 분포를 가중치 $\alpha$를 사용하여 결합합니다.
  $$\tilde{P}_{do}^{\theta, w, \alpha}(A_{1:K}|X) \propto \left( P_{do}^\theta(A_{1:K}|X) \right)^{1-\alpha} \cdot \left( P_{do}^w(A_{1:K}) \right)^\alpha$$
  • 여기서 $\alpha$는 신경망의 신뢰도 (OOD 여부 등) 에 따라 조정됩니다. 신경망이 신뢰할 수 없는 경우 (OOD), $\alpha$를 높여 인과 PC 의 증거를 더 중요하게 반영합니다.
• 최종 예측: 이 PoE 기반 속성 분포와 PC 가 계산한 조건부 분포 $P_w(Y|A_{1:K})$를 결합하여 최종 클래스 분포를 도출합니다.

3. 주요 기여 (Key Contributions)

1. CNPC 모델 제안: 신경 속성 예측기와 인과 그래프 기반의 PC 를 결합하고, 개입 시 Product of Experts (PoE) 를 통해 개입된 클래스 분포를 근사하는 새로운 아키텍처를 제안했습니다.
2. 이론적 분석: NPC(비인과적 버전) 와 CNPC 의 개입 오차를 구성적 (Compositional) 으로 분석했습니다. 특정 조건 하에서 CNPC 가 NPC 보다 실제 개입 클래스 분포 (Ground-truth) 를 더 정확하게 모델링할 수 있음을 이론적으로 증명했습니다.
3. 실험적 검증: 다양한 데이터셋과 시나리오 (정상 분포 및 OOD) 에서 기존 베이스라인 모델 (Vanilla CBM, C2BM, SCBM 등) 보다 우수한 개입 효율성을 입증했습니다.

4. 실험 결과 (Results)

저자들은 5 개의 벤치마크 데이터셋 (Asia, Sachs, MNISTAdd, cMNISTAdd, CelebA) 을 사용하여 실험을 수행했습니다.

• 실험 설정:
  • Benign Setting: 훈련/테스트 분포가 동일한 경우.
  • OOD Setting: 훈련 시 보지 못한 데이터 변환 (180 도 회전), 적대적 공격 (PGD), 허위 상관관계 (Spurious Correlation) 시나리오.
• 주요 발견:
  1. 개입의 효과: 모든 모델에서 개입된 속성 수가 증가할수록 작업 정확도가 향상되었습니다. 이는 CBM 의 개입 기능의 유효성을 보여줍니다.
  2. 정상 분포 (Benign): 모든 모델의 성능이 비슷했으나, CNPC 가 대부분의 데이터셋에서 미세한 우위를 보였습니다.
  3. OOD 환경에서의 압도적 성능:
     • 신경망 예측기가 신뢰할 수 없는 OOD 환경 (회전, 적대적 공격, 허위 상관관계) 에서 기존 모델들의 속성 예측 정확도가 급격히 떨어졌습니다.
     • 반면, CNPC 는 인과 PC 의 증거를 활용하여 개입 효율을 극대화했습니다.
     • 특히, 개입된 속성 수가 적을 때 CNPC 는 다른 베이스라인 모델들보다 상당히 높은 작업 정확도를 기록했습니다 (예: MNISTAdd 에서 1 개 속성 개입 시 22% 이상 우위).
  4. 하이퍼파라미터 $\alpha$의 영향: OOD 환경에서는 $\alpha$를 높여 인과 PC 의 비중을 늘리는 것이 성능 향상에 결정적이었으며, 신경망이 완벽하더라도 $\alpha=0$ (신경망만 의존) 으로 설정하는 것보다 인과 정보를 일부 반영하는 것이 더 좋은 결과를 낳았습니다.

5. 의의 및 결론 (Significance)

• 인과적 개입의 효율성 증대: 이 연구는 도메인 전문가의 개입 (수정) 이 단순히 하나의 값을 고치는 것을 넘어, 인과 구조를 통해 시스템 전체의 예측을 올바르게 조정할 수 있음을 보여줍니다.
• OOD 강건성: 신경망이 실패하는 상황에서도 인과적 추론을 통해 신뢰할 수 있는 예측을 가능하게 하여, 의료 진단 등 안전이 중요한 분야에서 CBM 의 실용성을 크게 높였습니다.
• 실용적 접근: 복잡한 인과 추론을 신경망과 결합하여 계산적으로 효율적으로 수행할 수 있는 실용적인 프레임워크를 제시했습니다.

요약하자면, CNPC는 개념 간의 인과 관계를 명시적으로 모델링하고, 개입 시 신경망과 인과 회로의 장점을 융합함으로써 기존 CBM 의 한계를 극복하고, 특히 불확실한 환경에서 높은 정확도와 신뢰성을 확보한 혁신적인 모델입니다.