How Rules Represent Causal Knowledge: Causal Modeling with Probabilistic Logic Programming

기술 요약: 규칙이 인과적 지식을 표현하는 방법: 확률적 논리 프로그래밍을 이용한 인과 모델링

문제 정의
관찰적 지식과 개입적 지식을 구분하는 주디아 펄(Judea Pearl)의 인과 이론은 인공지능 분야에서 근간이 되어 왔다. 그러나 펄의 프레임워크는 베이지안 네트워크와 인과 모델 내에서만 독점적으로 개발되었으며, 이는 인과 관계가 비순환적(acyclic)인 경우로 범위를 제한한다. 이러한 개념을 ProbLog나 LPMLN(LogLinear Models)과 같은 다른 형식 체계로 전이하는 것은 오해나 불일치를 초의할 위험이 있다. 구체적으로, ProbLog 및 LPMLN 프레임워크의 기존 의미론은 종종 인과적 무관성(causal irrelevance) 원칙(관찰되지 않은 효과가 다른 변수에 대한 믿음을 변화시켜서는 안 된다는 원칙)과 비간섭성(non-interference) 원칙(개입이 인과적 하류에 있지 않은 변수에는 영향을 미쳐서는 안 된다는 원칙)을 충족하지 못한다. 이는 순환적이거나 비계층적(non-stratified) 프로그램에서 개입에 대해 추론할 때 직관에 어긋나는 결과를 초래한다.

방법론
저자들은 시간적 순서보다는 논리적 설명을 중시하는 Eelink 등[10]의 철학적 기초와 펄의 개입주의 접근 방식을 결합한다. 방법론은 다음과 같다:

1. 이론적 정렬: 본 논문은 인과적 설명이 규칙(예: "흡연은 성냥을 소지하게 한다")으로 구성되며, 과학적 지식은 인과적 순서를 존중하는 정당화를 필요로 한다는 관점을 채택한다. 이 순서는 외부 전제(abducibles)에 근거한 자연적 필연성(Natural Necessity)(원인은 효과를 필연적으로 수반함)과 인과적 충분성(Causal Sufficiency)(모든 효과에는 원인이 있음)을 통해 정형화된다.
2. 형식적 의미론 정의: 저자들은 인과 시스템(Causal System) $CS := (P, A, \Phi)$를 정의한다. 여기서 $P$는 LPMLN 프로그램, $A$는 가설적 변수(abducibles)의 집합, $\Phi$는 $A$에 대한 LogLinear 모델이다.
   • 저자들은 프로그램의 제약 내용(constraint content)을 통해 자연적 필연성을, 설명적 내용(explanatory content)을 통해 인과적 충분성을 정형화한다.
   • **개입(intervention)**을 시스템의 수정으로 정의하는데, 이는 개입 집합에 포함된 헤드를 가진 절(clauses)들을 제거하고, 특정 값을 강제하는 사실(facts)들을 추가하는 과정이다.
3. 기존 의미론 비판: 저자들은 기존의 P-log 의미론(ProbLog용)과 표준 LPMLN 의미론이 인과적 무관성(Formalization 6)을 만족하지 못함을 입증한다. 비계층적 또는 순환적 사례에서, 이러한 의미론은 추가적인 관찰되지 않은 효과를 고려할 때 믿음이 변하게 함으로써, 개입이 "상류(upstream)"나 관련 없는 분기로 전파되어서는 안 된다는 원칙을 위반한다.
4. 제안된 인과적 의미론: 이를 해결하기 위해 저자들은 인과적 순서에 따른 "탐욕적(greedy)" 엔트로피 극대화를 기반으로 하는 새로운 인과적 의미론($\pi^{causal}_{CS}$)을 제안한다.
   • 의존성 그래프는 강결합 컴포넌트(Strongly Connected Components, SCCs)로 분해된다.
   • 각 SCC는 방향성 비순환 그래프(DAG)를 형성한다.
   • 확률은 부모 컴포넌트에 조건화하고 각 컴포넌트 내에서 국소적으로 엔트로피를 극대화함으로써 계산되며, 이를 통해 결과 분포가 인과적 의존성으로부터 도출된 베이지안 네트워크 구조와 일치하도록 보장한다.

주요 기여

• PLP를 위한 형식적 인과 의미론: 본 논문은 펄의 인과 추론을 계층적 및 비계층적(순환적) 프로그램을 모두 수용할 수 있는 ProbLog 및 LPMLN의 확률적 논리 프로그래밍 프레임워크로 전이시킨다.
• 표준 의미론의 결함 식별: 예제 20~22를 통해, 저자들은 표준 P-log 및 LPMLN 의미론이 인과적 무관성과 비간섭성을 위반하여, 순환 시나리오에서 개입 효과에 대한 잘못된 예측을 생성함을 보여준다.
• 이론적 보장:
  • 정리 2: 계층적(stratified) ProbLog 프로그램에 대해 표준 P-log 의미론이 제안된 인과적 의미론과 일치하며, 따라서 인과적 무관성을 만족함을 증명한다.
  • 정리 3: 제안된 인과적 의미론이 계층적 프로그램을 위한 P-log 의미론의 일관된 일반화임을 확립한다.
  • 정리 4: 제안된 인과적 의미론이 일반적인(순환을 포함한) 인과 시스템에 대해 인과적 무관성을 만족함을 증명한다.
• 구현: 저자들은 PL-P-BN 도구 모음을 사용하여 제안된 의미론을 구현하였다. 이 시스템은 PLP 프로그램을 베이지안 네트워크와 연결하며, SCC의 안정적 모델(stable models)을 계산하기 위해 Clingo 답변 집합(answer set) 솔버를 사용하고, 추론을 위해 변수/요인 제거(factor/variable elimination)를 활용한다.

결과

• 계층적 프로그램과의 일관성: 계층적 ProbLog 프로그램의 경우, 새로운 의미론은 기존의 P-log 의미론과 동일한 결과를 산출하여, 비순환 사례에서는 기존 방식이 타당함을 확인한다.
• 순환 사례의 교정: "안나와 킬리안(Anna and Kilian)"의 초인종 예시와 같은 비계층적 사례에서, 표준 의미론은 인과적 무관성을 위반하는 확률을 생성한다(예: 하류 변수에 대한 개입이 상류 변수의 확률을 부적절하게 변화시킴). 제안된 인과적 의미론은 이러한 확률을 교정하여, 개입이 인과 구조에 따라 하류 변수에만 영향을 미치도록 보장한다.
• 개입 처리: 구현 결과, 새로운 의미론은 프로그램 구조를 수정하고 인과적 DAG(SCC 기반)에 따라 확률을 재계산함으로써 개입을 올바르게 모델링하며, 표준 LPMLN/ProbLog 해석에서 발생하는 인과적 영향의 "역추적(backtracking)" 현상을 방지한다.

의의
본 논문은 확률적 논리 프로그래밍을 인과적 설명의 철학적 기초(특히 Eelink 등[10]의 연구와 필연성 및 충분성 원칙)와 정렬함으로써, 순환 구조를 다루는 논리 프로그래밍 형식으로 펄의 인과 추론을 확장할 수 있다고 주장한다. 제안된 의미론은 개입을 수행할 때 PLP 내의 인과적 지식 표현이 오해로 인해 왜곡되지 않도록 보장한다. 이 연구는 이전에 비순환 베이지안 네트워크로 제한되었던 "만약 ~라면(what if)" 시나리오에 대한 논리 프로그램의 추론을 가능하게 하는 이론적 근거를 제공하며, 이를 통해 순환적 의존성이 필요한 영역에서 더욱 신뢰할 수 있는 인과 모델링을 가능케 한다.