기술 요약: 희귀 사건의 인과적 경로 정형화 및 반증

1. 문제 정의

본 논문은 자연재해, 시장 붕괴, 시스템 장애와 같은 희귀 사건(이상치)에 대한 인과적 설명을 제공하는 문제를 다룹다. 기존의 근본 원인 분석 방법들은 소수의 인과적 기원을 식별하는 데는 효과적이지만, 이러한 원인들이 어떻게 전파되어 관찰된 결과를 만들어내는지에 대한 구체적인 메커니즘과 하위 그래프(sub-graphs)를 포착하는 데는 종종 실패한다. 또한, 완전한 인과 모델은 알려지지 않은 경우가 많으며, 점근적 극값 이론(asymptotic extreme-value theory)이나 연속 변수 가정에 의존하는 표준 접근 방식은 희귀하지만 극단적이지 않은 사건이나 이산적 영역에는 적합하지 않다.

핵심 문제는 단순한 언어적 설명과 상세한 인과 모델 사이를 연결하는 정형화되고 테스트 가능한 "인과적 경로(causal pathway)"의 개념이 부족하다는 것이다. 현재의 방법들은 전체 인과 그래프가 가용하지 않거나, 설명이 부분적인 모델 지식 하에서도 견고하게 유지되어야 할 때, 제안된 사건의 연쇄가 특정 희귀 관측에 대해 유효한 설명인지 여부를 정량화하는 데 어려움을 겪는다.

2. 방법론

2.1 인과적 경로 및 설명 점수의 정형화

저자들은 이진 사건(binary events)을 위한 인과적 경로를 정형화하기 위해 구조 방정식 모델(SEM)과 방향성 비순환 그래프(DAG)에 기반한 프레임워크를 도입한다.

• 사건의 클러스터: 인과적 DAG $C$에 의해 연결된 이진 변수들의 집합 $B$. 부분 집합 $R$은 메커니즘이 "손상"되거나 개입(intervention)된 근본 원인을 나타낸다.
• 설명 점수: Oesterle 등(2025)의 연구를 바탕으로, 본 논문은 사건 $X=x$가 $Y=y$를 설명하는 것에 대한 설명 점수 $E(x \to y)$를 다음과 같이 정의한다:
  $$E(x \to y) := 1 - \frac{\log P(Y=y | do(X=x))}{\log P(Y=y)}$$
  이 점수는 개입 $do(X=x)$가 사전 희귀도에 비해$Y=y$의 발생 가능성을 얼마나 증가시키는지를 측정한다. 점수가 1에 가까울수록 강력한 설명을 의미한다.
• 경로 설명 점수: 근본 원인만으로는 전체 전파 과정을 설명할 수 있다는 한계를 해결하기 위해, 저자들은 경로 설명 점수 $E^K_{R \to t}$를 정의한다. 이 점수는 근본 원인 $R$을 1로 설정하는 것이 타겟 사건의 희귀도와 비교하여 전체 클러스터(매개 변수 포함)를 발생 가능하게 만드는지 평가한다.
  $$E^K_{R \to t} := 1 - \frac{\log P(B=1 | do(B_R=1))}{\log P(B_t=1)}$$
  이 메트릭은 근본 원인이 설정된 후에도 중간 사건들이 여전히 발생 가능성이 낮은 경우를 페널티로 부여함으로써, 경로의 일관성을 보장한다.

2.2 인과적 추상화 및 이진화

연속적이거나 복잡한 변수를 처리하기 위해, 본 논문은 상세한 인과 모델을 단순화된 이진 경로로 매핑하는 방법인 **경로 추상화(Pathway Abstraction)**를 제안한다.

• 특징 단조성(Feature Monotonicity): 변수들은 특징 함수 $\tau$(예: $X \ge x$)를 사용하여 이진 사건으로 변환된다. 이 프레임워크는 해당 특징의 값이 부모의 특징 값을 증가시킬 때 자식의 특징 값의 확률도 증가하도록 하는 "특징 단조성"을 충족할 것을 요구한다.
• 자연적 미세 실현(Natural Micro-Realization): 거친 입도(coarse-grained, 이진) 변수에 대한 개입의 모호함을 처리하기 위해, 저자들은 $do(B_S=b_S)$의 "자연적 미세 실현"을 정의한다. 이는 이진 제약 조건이 주어진 상태에서 기저의 연속 변수들을 조건부 분포로부터 추출함으로써, 미세한 모델(fine-grained model)에서의 개입을 효과적으로 시뮬레이션하는 과정을 포함한다.
• 정확도 메트릭: 추상화의 품질은 추상 모델의 개입 분포와 실제 투영된 분포 사이의 KL-발산(KL-divergence)을 타겟 사건의 희귀도로 정규화하여 측정한다.

2.3 일관성 검사를 통한 평가

이 프레임워크는 일관성 검사를 통해 인과적 설명을 반증할 수 있게 한다:

• 양적 일관성: 경로가 제안되면, 노드 간의 전이 확률(예: $P(B_j=1 | B_i=1)$)은 설명 점수와 일치해야 한다. 만약 이 확률들의 곱이 타겟의 발생 가능성을 충분히 높이지 못한다면, 그 설명은 약한 것으로 간-주된다.
• 질적 일관성: 프레임워크는 제안된 경로의 하위 구조에 대해 에이전트(예: LLM)에게 질의하여, 주장된 인과 관계가 특정 맥락 하에서 성립하는지 검증하는 데 사용될 수 있다.

3. 주요 기여

1. 인과적 경로의 공식적 정의: 본 논문은 인과적 경로를 단순히 근본 원인의 집합이 아니라, 타겟을 설명하는 하위 그래프 $P$를 포함하는 튜플 $(C, P, B, B_t, B_R, P_B)$로 정의한다. 이는 맥락으로 사용되는 전체 인과 그래프 $C$와 설명적 경로 $P$를 구분한다.
2. 경로 설명 점수: 저자들은 근본 원인이 타겟뿐만 아니라 경로 내의 전체 시퀀스를 발생 가능하게 만드는지를 평가함으로써 설명의 품질을 정량화하는 새로운 메트릭을 제시한다. 이 점수는 서로 소인 메커니즘 집합들에 대해 가산적(additive)이며, 샤플리 값(Shapley values)의 맥락 의존성 문제를 피한다.
3. 이벤트 수준의 추상화: 경로 추상화의 도입은 복잡하거나 부분적으로만 알려진 모델로부터 단순하고 언어화 가능한 인과적 설명을 도출할 수 있게 한다. 이는 변수의 "거친 입도화(coarse-graining)"를 다루면서도 테스트 가능한 함의를 유지하는 엄격한 방법을 제공한다.
4. 반증 가능성: 어떤 메커니즘이 예상대로 작동했는지와 어떤 것이 변경되었는지에 대한 명시적 확약을 요구함으로써, 이 프레임워크는 인과적 설명을 반증 가능하게 만든다. 이는 설명이 거부될 수 있는 조건들(예: 로그 가능도 격리에 관한 Lemma 3.7)을 제공한다.

4. 결과 및 시연

• 이론적 경계: 저자들은 강한 국소적 인과 설명(높은 쌍별 점수)이 반드시 강한 전역적 경로 설명을 보장하지는 않는다는 점을 증명한다. 또한, 부모보다 현저히 발생 가능성이 낮은 매개 변수를 피하는 것과 같은 높은 경로 점수를 위한 필요 조건을 도출한다.
• 필요성과의 관계: 본 논문은 희귀 사건의 경우, 양(+)의 설명 점수가 필요성(Necessity)의 높은 확률(PN)을 함의한다는 점을 보여준다. 즉, 점수가 완벽하지 않더라도 근본 원인이 사건 발생에 필수적일 가능성이 높음을 의미한다.
• LLM 평가 사례 연구: 저자들은 장기 노숙의 원인에 관한 대규모 언어 모델(LLM)이 생성한 인과적 경로를 평가하기 위해 이 프레임워크를 적용했다.
  • LLM은 $A \to B \to C \to D \to E$ 형태의 경로를 생성했다.
  • 전이 확률에 대해 LLM에 질의함으로써, 저자들은 약 $\approx 0.29$의 경로 설명 점수를 계산했다.
  • 낮은 점수는 "주거 상실"에서 "가족과의 절연"으로 이어지는 전이가 충분히 확률적이지 않았던 약한 연결($C \to D$) 때문이었다.
  • 이 과정은 프레임워크가 언어적 설명의 약한 고리를 정량적으로 식별하고, 타당성을 개선하기 위한 수정 제안(예: 직접적인 연결 추가 또는 노드 재구성)을 할 수 있음을 보여주었다.

5. 의의 및 주장

본 논문은 희귀 사건에 대한 인과적 설명을 논의하기 위한 공식적이고 정량적인 언어를 제공함으로써 인과 추론 및 설명 가능한 AI(XAI) 분야를 발전시킨다고 주장한다.

• 간극 해소: 직관적이지만 테스트 불가능한 단순한 언어적 설명과, 너무 복적으로 혹은 알 수 없는 상세한 인과 모델 사이의 간극을 메운다.
• 반증 가능성: 주요 의의는 인과적 설명을 반증 가능하게 만든다는 데 있다. 설명이 특정한 개입 확률을 함의하도록 요구함으로써, 데이터나 전문가의 믿음에 대해 경험적 또는 논리적 검증을 가능하게 한다.
• AI 안전성 및 투명성: 저자들은 이 연구를 AI 시스템이 생성한 인과적 진술의 진실성을 평가하기 위한 단계로 위치시킨다. 설명을 명시적인 경로로 정형화함으로써, 사회적으로 중요한 사건에 대한 결함이 있는 인과적 설명을 탐지할 수 있게 되어 생성형 AI의 신뢰성에 기여한다.

저자들은 이 프레임워크가 인과적 DAG의 타당성이나 개입 확률의 진위 여부를 자동으로 증명하는 것이 아니라, 데이터 기반 방식으로 타당성을 논의하고 평가하는 데 필요한 개념과 메트릭을 제공한다는 점을 명시하며 겸허한 태도를 유지한다.