기술 요약: 설명 가능한 ASP에 대한 XAI 관점

문제 정의

답변 집합 프로그래밍(ASP)은 기호적 AI(symbolic AI)에서 두드는 선언적 추론 패러다임으로, 신경망과 같은 하위 기호적(subsymbolic) 접근 방식보다 본질적으로 더 해석 가능하다는 점에서 규칙 기반 형식화의 가치를 인정받고 있다. 그럼에도 불구하고, 솔버 출력의 "블랙박스" 특성은 특히 설명 가능한 AI(XAI)가 부상함에 따라 산업 및 사회적 도입의 장벽이 되고 있다. 사용자들은 특정 솔버 결과(answer sets)에 대한 추론 메커니즘이나 프로그램의 일반적인 동작(예: 왜 해가 존재하지 않는가?)을 이해하는 데 어려움을 겪는다.

기존의 조사 연구들(예: Fandinno and Schulz, 2019)은 특정 설정(예: "왜 원자 $a$가 답변 집합 $I$에 포함되는가?")에 집중된 설명 기법들을 목록화해 왔으나, 보다 포괄적이고 사용자 중심적인 개요가 부족하다. 즉, 다양한 사용자의 질문을 기존의 이론적 접근 방식 및 도구와 매핑하고, 현재의 커버리지 공백을 식려내며, ASP의 설명 능력을 로컬(local) 및 글로벌(global) 설명이라는 더 넓은 XAI의 구분과 정렬하는 작업이 필요하다.

방법론

저자들은 XAI 관점에 따라 ASP 설명 접근 방식을 조사한다. 방법론은 다음과 같다:

1. 범주화: 설명의 지형을 로컬 설명(특정 계산된 답변 집합에 관한 것)과 글로벌 설명(프로그램 전체 또는 모든 답변 집합의 집합에 관한 것)으로 구조화한다.
2. 질문 중심 분석: "리터럴 $\ell$이 $I$에 있는 이유는 무엇인가?"부터 "왜 프로그램에 답변 집합이 없는가?" 및 "왜 $I$가 최적인가?"에 이르기까지 전형적인 사용자 질문 리스트(Q1–Q8)를 식별한다.
3. 매핑 및 축소: 기존의 방법들(M1–M15로 명명됨)과 시스템(예: xASP2, xclingo, s(CASP), UCOREXPLAIN)이 이러한 질문들을 어떻게 다루는지 분석한다. 또한, 질문들이 다른 해결 가능한 문제(예: "왜 $a \in I$인가"를 "수정된 프로그램이 왜 불만족스러운가"로 축소)로 어떻게 축소될 수 있는지 확인한다.
4. 공백 식별: 언어 기능(이산성(disjunction), 집계(aggregates), 선택 규칙(choice rules), 약한 제약(weak constraints)) 및 사용자 요구 사항(확장성, 인지 부하, 상호작용)에 대한 현재 도구들의 커버리지를 평가한다.

주요 기여

본 논문은 ASP 설명 방법론의 구조화된 분류 체계를 제공하며 다음과 같은 구체적인 기여를 강조한다:

1. 설명 유형의 분류 체계

• 로컬 설명 (Local Explanations): 특정 답변 집합 $I$ 내에서 원자의 존재 여부를 도출하는 데 집중한다.
  • 정당화 (Justifications, M1–M4): 오프라인 정당화(도출 그래프), ABA 기반 정당화(논증 트리), 인과적 정당화(대수적 항), 솔버 트레이스로부터의 규칙 기반 정당화를 포함한다.
  • 확장된 정당화 (Extended Justifications, M5): UCOREXPLAIN에서 리터럴을 설명하기 위해 사용되는 단위 증명 가능 불만족 부분 집합(1-PUS).
  • 지원 그래프 (Support Graphs, M6): xclingo에서 사용되며, 원자를 이를 지원하는 규칙에 연결하여 자연어 주석을 허용한다.
  • 증거 (Witnesses, M7): 솔버 독립적인 단계별 논리적 도출.
  • 대조적 설명 (Contrastive Explanations, M8): counterfactuals(반사실)를 사용하여 왜 원자 집합 $E$가 $I$에 있고 $F$에는 없는지를 설명한다 (Eiter et al., 2023).
• 글로벌 설명 (Global Explanations): 특정 답변 집합 없이 프로그램의 동작에 집중한다.
  • Why-not Provenance (M9): 진릿값을 변경하기 위해 필요한 프로그램 수정을 식별한다.
  • Top-down Computation (M10): 목표 지향적 정당화 트리 (예: s(CASP)).
  • 증명 시스템 (Proof Systems, M11):: 회의적 함축(skeptical entailment)을 위한 계산법 (왜 어떤 원자가 모든 또는 어떤 답변 집합에 포함되는가).
  • 디버깅 (Debugging, M12–M14): 메타 인코딩(spock), 최소 불만족 집합(MUS), 대화형 스텝(interactive stepping)과 같은 기술을 통해 불일치를 설명한다.
  • 추상화 (Abstraction, M15): 무관한 세부 사항을 생략함으로써 불만족스러운 부분을 "확대(zoom in)"하는 과잉 근사 기술.

2. 사용자 질문 분석 (Q1–Q8)

논문은 특정 사용자 쿼리를 가용한 방법들과 매핑한다:

• Q1 (왜 $\ell \in I$인가?): 대부분의 로컬 방법(M1–M7)에 의해 커버된다.
• Q2 (왜 $\ell \in I$이지만 $\ell' \notin I$인가?): 대조적 설명(M8) 또는 불만족성으로의 축소를 통해 다뤄진다.
• Q3 (왜 $I$가 최적인가?): 현재 네이티브 지원이 부족하며, 더 나은 답변 집합이 존재하지 않음을 설명하는 것으로 축소 가능하다.
• Q4–Q6 (전역적 존재/비존재): 프로비넌스(provenance), 증명 시스템, 디버깅/추상화 방법을 통해 다뤄진다.
• Q7–Q8 (정량적/집단적 동작): **공백(gaps)**으로 식별되었다. 현재 도구들은 왜 어떤 속성이 집합체로서의 답변 집합들에 대해 성립하는지, 또는 왜 프로그램이 특정 개수의 답변 집합을 갖는지 네이티브하게 설명할 수 없다.

3. 도구 및 언어 지원 분석

저자들은 기존 도구들을 ASP 언어 확장 기능에 대해 평가한다 (표 2):

• 이산성 (Disjunction): 지원이 미흡함; 대부분의 도구(LABAS, s(CASP), xASP2)는 설명 생성의 복잡성으로 인해 이산적 규칙을 잘 처리하지 못한다.
• 선택 규칙 및 집계 (Choice Rules & Aggregates): 부분적으로 지원되나 (예: xASP2, xclingo, UCOREXPLAIN), 종종 제한 사항이 따른다.
• 약한 제약 (Weak Constraints): 일반적으로 설명 목적으로는 지원되지 않으나, 디버깅을 위한 DWASP가 주목할 만한 예외이다.
• 솔버 의존성: 솔버 의존적 방식(예: xclingo, s(CASP))과 솔버 독립적 방식(예: LABAS, Causal Justifications)이 혼재되어 있다.

결과 및 발견 사항

• 커버리지: 대부분의 사용자 질문은 네이티브하게 답변되거나 불만족성(프로그램이 왜 답변 집합을 갖지 않는가)으로의 축소를 통해 답변될 수 있다.
• 한계점:
  • 언어적 공백: 이산성과 약한 제약은 설명 도구에 있어 여전히 중요한 장애물이다.
  • 확장성: 대부분의 방법은 사후적(post-hoc)이며 그라운드 프로그램(ground programs) 상에서 작동하므로, 대규모 문제에 대해 높은 계산 복잡도를 가진다.
  • 인지 부하: 불일치에 대한 설명(디버깅)은 종종 기술적(규칙 집합 등)이며 비전문가가 해석하기 어렵다.
  • 누락된 시나리오: 현재 어떤 방법도 답변 집합의 수량이나 여러 답변 집합에 걸쳐 속성이 성립하는지에 관한 질문을 다루지 않는다.
• 상호운용성: 사용자가 로컬 또는 글로벌 설명 도구 중 하나를 선택해야 하는 "시스템 분리" 현상이 존재하며, 통합된 프레임워크가 부족하다.

의의 및 향후 방향

본 논문은 연구자와 비전문가 ASP 사용자 모두를 위한 가이드 역할을 수행하며, 이론적 설명 능력과 실제 사용자 요구 사이의 간극을 메우는 것을 목표로 한다.

의의:

• 로컬 및 글로벌 추론을 구분함으로써 ASP를 위한 통합된 XAI 프레임워크를 구축한다.
• **불일치(inconsistency)**를 설명하는 것이 보편적 설명 접근법을 위한 핵심적인 디딤돌임을 강조한다. 많은 질문이 이 형태로 축소되기 때문이다.
• 간결하고 해석 가능한 설명의 필요성을 식별하며, 추상화와 단계별 추론이 인지적 노력을 줄이는 데 필수적임을 시사한다.

향후 연구 방향:

• 인지적 측면: 불일치(예: 그래프 채색의 숨겨진 "레마" 또는 클리크)를 비전문가도 이해할 수 있는 방식으로 제시하는 방법을 개발한다.
• 상호작용: 기술적 설명(예: MUS)을 자연어로 번역하고 사용자 쿼리를 파싱하기 위해 대규모 언어 모델(LLM)을 통합한다.
• 확장성: 비-그라운드 프로그램(non-ground programs) 및 대규모 문제를 처리하기 위해 설명 기술을 솔버에 직접 통합한다.
• 새로운 질문 유형: 답변 집합의 수량 및 집단적 동작에 관한 전용 솔루션을 개발한다.

저자들은 풍부한 방법론의 지형이 존재하지만, 모든 요구를 충족하는 단일 도구는 없으며, 향후 연구는 언어 지원, 확장성, 그리고 복잡한 논리적 추론의 인지적 해석 문제를 해결해야 한다고 결론짓는다.