Beyond But-for Test: Counterfactual Explanation in Abstract Argumentation via Actual Causality (Extended Version)

기술 요약: But-for 테스트를 넘어: 실제 인과관계를 통한 추상적 논증에서의 반사실적 설명

문제 정의
설명 가능한 AI(XAI) 분야에서, 추상적 논증(Abstract Argumentation, AA)은 특정 의미론(semantics) 하에서 왜 특정 논거들이 수용되는지에 대한 구조화된 설명을 제공한다. 기존의 방법들은 관련성(Relevance), 단조성(Monotonicity), 또는 필연성(Necessity)과 같은 속성을 만족하는 논거 집합을 식별함으로써 사후 질문에 답하지만, 이는 정적인 이유 목록에 의존한다. 그러나 인간의 추론은 인과적 의존성을 조사하기 위해 "만약 ~라면 어떨까(what-if)" 시나리오를 사용하는 반의사적(counterfactual) 사고를 빈번하게 활용한다.

AA에서의 반사실적 설명에 대한 현재의 접근 방식은 **but-for test(BFT)**에 국한되어 있다. 이 원시적인 테스트는 의심되는 단일 원인이 변경될 때(예: 공격을 삭제하거나 새로운 공격자를 추가할 때) 주제 논거의 수용 상태가 변하는지 여부를 묻는다. 본 논문은 이러한 접근 방식의 결정적인 결함을 지적한다: 즉, 다른 논거들을 '증인(witnesses)'으로서 고정된 상태로 유지하지 못한다는 점이다. 결과적으로, BFT는 복잡한 논증 구조, 특히 선점(Preemption, 한 원인이 다른 원인을 차단하는 경우) 및 과결정(Overdetermination, 여러 원인이 공동으로 충분한 경우) 상황에서 직관에 어긋나는 결과를 낳는다. 이러한 경우, 하나의 원인을 변경하더라도 대안적인 경로가 활성화되기 때문에 결과가 변하지 않을 수 있으며, 이로 인해 BFT는 실제 원인을 잘못 식별하거나 놓치게 된다.

방법론
BFT의 한계를 극복하기 위해, 저자들은 구조적 방정식 모델(SEM)과 할퍼른-펄(Halpern–Pearl)의 실제 인과관계(actual causality) 정의에 기반한 중재 기반 반사실적 추론 프레임워크를 도입한다.

1. 수용 모델(Acceptability Model): 프레임워크는 논거의 수용 조건을 일련의 방정식으로 인코딩한다. 논거 $\alpha$에 대해, 그 레이블($in$, $out$, 또는$und$)은 공격자들의 레이블에 의해 결정된다. 이는 논증 프레임워크(AF)를 함수들의 모델 $M_F$로 변환한다.
2. 중재 연산자(Intervention Operator): 저자들은 가설 $\psi$(원자적 명제의 결합)에 따라 모델 $M_F$를 수정하는 중재 연산자 $[\psi]$를 정의한다. 단순한 그래프 수정과 달리, 이 연산자는 다음과 같은 기능을 갖는다:
   • 중재된 논거의 수용 방정식을 규정된 레이블을 반환하는 상수 함수로 대체한다.
   • **복합 가설(compound hypotheses)**을 지원하여 여러 논거를 동시에 수정할 수 있게 한다.
   • 결정적으로, 증인 논거(witness arguments)를 실제 레이블로 고정하는 것을 지원하여, 대안적인 경로가 반사실적 평가를 왜곡하는 것을 방지한다.
3. 정교화된 반사실적 조건(AC2m): BFT를 넘어, 논문은 수정된 반사실적 조건인 AC2m을 채택한다. 가설 $\psi$가 실제 원인이 되기 위한 조건은 다음과 같다:
   • 실제성(AC1): 원래의 레이블링에서 $\psi$와 효과(effect)가 모두 성립한다.
   • 수정된 반사실적 조건(AC2m): $\psi$의 수정본 $\psi'$와 고정된 증인 집합 $\chi$(실제 레이블로 고정된 논거들)가 존재하여, $\psi' \land \chi$로 중재했을 때 주제 논거의 상태가 변한다.
   • 최소성(AC3): 원인은 중복된 부분을 포함하지 않는다.

주요 기여

• AA를 위한 실제 인과관계의 공식적 프레임워크 구축: 본 논문은 단순한 but-for 테스트를 넘어, HP 실제 인과관계를 추상적 논증과 연결하는 최초의 공식적 체계를 확립한다.
• 선점 및 과결정 처리: 증인을 고정함으로써, 이 방법은 but-for test가 실패하는 시나리오에서 원인을 정확히 식별한다.
  • 선점: $\alpha$가 $\beta$가 $\eta$를 방어하는 것을 차단하는 시나리오에서, BFT는 $\alpha$를 제거하면 $\beta$가 재활성화되기 때문에 $\alpha$를 원인으로 식별하는 데 실패한다. 제안된 방법은 $\beta$(또는 그 경로)를 실제 상태로 고정함으로써 $\alpha$를 진정한 원인으로 밝혀낸다.
  • 과결정: $\alpha$와 $\beta$가 모두 $\eta$를 방어하기에 충분한 시나리오에서, BFT는 하나를 제거해도 다른 하나가 남기 때문에 둘 중 어느 것도 원인으로 식별하지 못한다. 제안된 방법은 $in(\alpha) \land in(\beta)$라는 결합을 실제 원인으로 식별한다.
• 그래프 훼손 시각화(Graph Mutilation Visualization): 저자들은 논리적 중재를 AF에 대한 그래픽 작업(공격자 추가, 공격 제거, 또는 자기 루프 추가)으로 매핑하여, 대수적 중재에 대한 시각적 대응물을 제공한다.
• 비교 분석: 논문은 새로운 방법을 기존의 논거 기반 설명(Root Reasons, Sufficient/Necessary sets) 및 최단 세계(closest-world) 반사실적 모델과 비교한다. 이를 통해 제안된 방법이 특히 고유한 레이블링이 존재하는 경우 최단 세계 접근법에서 나타나는 "빈 설명(empty explanation)" 문제를 피하며, 더 선택적이고 신뢰할 수 있음을 입증한다.

결과 및 속성

• 표현력(Expressiveness): 이 방법은 복합 가설을 지원하여, 원자적 변화에 국한된 but-for test가 할 수 없는 공동 원인의 설명을 가능하게 한다.
• 관련성(Relevance): 이 방법은 관련성 속성을 만족한다. 즉, 설명에 포함된 모든 논거는 주제와 관련이 있다.
• 비단조성(Non-Monotonicity): 일부 전통적인 설명 방법과 달리, 이 반사실적 설명은 단조적이지 않다. 유효한 설명에 논거를 추가하면 최소성 조건을 위반할 수 있다.
• 특정 구조에서의 우월성:
  • 선점 상황에서, 이 방법은 선점하는 논거를 원인으로 식별하는 반면, Root Reasons는 무관한 방어자를 포함하거나, 최단 세계 접근법은 아무런 설명을 내놓지 못할 수 있다.
  • 과결정 상황에서, 이 방법은 여러 논거의 공동 필요성을 식별하는 반면, Root Reasons나 충분성(Sufficient) 설명은 대칭적인 방어자들을 구분하지 못하거나 사소한 집합만을 반환하는 경우가 많다.
  • 이 방법은 수용된 싱크 노드(sink nodes)에 대한 **존재성(Existence)**을 보장하며, 이는 AF가 고유한 레이블링만을 허용할 때 최단 세계 접근법이 실패하는 지점이다.

의의 및 주장
본 논문은 할퍼른-펄의 실제 인과관계를 추상적 논증에 통합함으로써, 제안된 프레임워크가 더 정교하고 인간의 사고에 부합하는 반사실적 설명을 제공한다고 주장한다. 증인을 고정하는 능력은 복잡한 의존 구조에서 실제 원인을 정확히 식별하는 데 필수적이며, 이를 통해 현재의 AA 설명 방법들이 겪고 있는 "but-for"의 한계를 극복할 수 있다는 것이 핵심이다. 저자들은 이 연구를 순환적 의존성과 선점 및 과결정과 같은 복잡한 인과 패턴을 다룰 수 있을 만큼 표현력이 풍부하면서도, 논증의 구조적 특성에 기반을 둔 더욱 견고한 XAI를 향한 단계로 규정한다. 향후 과제로 계산 복잡도 해결, 다른 의미론(grounded, preferred, stable)으로의 확장, 그리고 확장된 논증 형식(PAF, ADF, ASPIC+)에 대한 적용이 필요함을 언급하였다.