🤖 AI

Rethinking Explanations: Formalizing Contrast in Description Logics

본 논문은 기존 정당화 및 귀납 추론 방법의 한계를 극복하기 위해 대조적 설명을 위한 사용자 중심 프레임워크를 제안하며, 이는 한 사실이 대체foil 대신 참으로 성립하는 이유를 어떻게 설명할지 형식적으로 정의하고 평가하는 것을 다룹니다.

원저자: Yasir Mahmood, Arnab Sharma, Axel-Cyrille Ngonga Ngomo, Balram Tiwari

게시일 2026-05-06

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yasir Mahmood, Arnab Sharma, Axel-Cyrille Ngonga Ngomo, Balram Tiwari

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대하고 마법 같은 도서관을 걷고 있다고 상상해 보세요. 그곳의 모든 책은 세상의 작동 원리에 관한 규칙을 나타냅니다. 이 도서관은 **기술 논리 (Description Logic, DL)**라는 매우 엄격하고 논리적인 언어 위에 세워져 있습니다. 이 도서관에서 컴퓨터는 한 사람 (그를 앨리스라고 부르겠습니다) 과 규칙 집합을 살펴보고, "네, 앨리스는 채용되었습니다!"라고 알려줄 수 있습니다.

구식 방식: "왜?"

보통 컴퓨터에게 "왜 앨리스가 채용되었나요?"라고 묻으면, 컴퓨터는 **정당화 (Justification)**를 제시합니다. 컴퓨터는 앨리스가 채용되었음을 증명하는 도서관의 특정 페이지들을 꺼내 보여줍니다.

비유: 이는 수학 문제의 정답이 5 임을 증명하기 위해 교사가 정확한 단계들을 보여주는 것과 같습니다. 이는 정확하지만, 오직 "승자"에 대해서만 알려줄 뿐입니다.

새로운 문제: "왜 앨리스이고 밥이 아닌가?"

이 논문의 저자들은 인간이 자연스럽게 행하는 어떤 것을 발견했습니다. 인간은 단순히 어떤 일이 왜 발생했는지 알고 싶어 하는 것이 아니라, 왜 그 일이 다른 무언가 대신 발생했는지 알고 싶어 합니다.

앨리스가 직장을 얻었지만, 그녀의 친구 밥은 얻지 못했다고 상상해 보세요.

"왜 앨리스인가?"라고 묻는다면, 컴퓨터는 앨리스의 뛰어난 기술들을 나열합니다.
"왜 밥은 아닌가?"라고 묻는다면, 컴퓨터는 밥에게 부족한 기술들을 나열합니다.
하지만 밥은 혼란스럽습니다. 그는 두 개의 분리된 목록을 원하지 않습니다. 그는 **"왜 앨리스이고 왜 나 (밥) 가 아닌가?"**를 알고 싶어 합니다. 그는 그들 사이의 차이점을 보고 싶어 합니다.

이 논문은 두 개의 분리된 답변을 제시하는 것은 만족스럽지 못하다고 주장합니다. 두 사람 사이의 특정 격차를 부각시키는 **대조적 설명 (Contrastive Explanation, CE)**이 필요합니다.

해결책: "차이점 찾기"

연구자들은 이 "왜 P 가 아니라 Q 인가?"라는 질문을 공식화하는 새로운 방식을 고안했습니다. 그들은 발생한 일을 사실 (Fact)(앨리스) 이라고, 발생하지 않은 일을 반대 사례 (Foil)(밥) 라고 부릅니다.

차이를 설명하기 위해 그들은 세 가지 요소를 살펴봅니다:

앨리스가 가지고 있고 밥이 가지고 있지 않은 것: (예: 앨리스는 AI 분야에서 논문을 발표함).
밥이 가지고 있고 앨리스가 가지고 있지 않은 것: (예: 밥은 순수 수학 분야에서 논문을 발표함).
밥이 채용되게 만들었을 것이지만, 밥이 부족한 것: (예: 밥은 AI 분야에서 논문을 발표해야 함).

창의적인 비유: 경주
앨리스와 밥 사이의 경주를 상상해 보세요.

사실: 앨리스가 이겼습니다.
반대 사례: 밥이 졌습니다.
구식 설명: "앨리스는 빠르게 달렸습니다." (사실이지만, 왜 밥이 졌는지 설명하지는 못합니다).
새로운 대조적 설명: "앨리스는 언덕에서 훈련했기 때문에 빠르게 달렸지만, 밥은 평지에서 훈련했습니다. 만약 밥이 언덕에서 훈련했다면 (부족한 부분), 밥이 이겼을 것입니다. 하지만 그는 그렇지 않았습니다."

이 논문은 앨리스에 대한 "증명"과 밥에 대한 "증명"(비록 밥의 증명은 가설적이지만) 을 취하여 **대칭 차 (symmetric difference)**를 찾는 방식으로 이를 공식화합니다. 그들은 두 사람 모두에게 공통된 것들 (예: "둘 다 자격이 있음") 을 제거하고 결과의 승패를 결정지은 고유한 요인들에만 집중합니다.

"만약에" 시나리오 (귀납)

때로는 컴퓨터가 반례 (Foil) 를 참으로 만들었을 것을 추측해야 합니다. 이를 **귀납 (Abduction)**이라고 합니다.

비유: 밥이 채용되지 않았다면, 컴퓨터는 "밥이 채용되려면 무엇이 참이어야 했을까?"라고 묻습니다. 컴퓨터는 "만약 밥이 AI 분야에서 논문을 발표했더라면"이라고 말할 수 있습니다.
이 논문의 방법은 앨리스에 대한 실제 증명과 밥에 대한 이 "만약에" 시나리오를 결합하여 경로가 정확히 어디에서 갈라졌는지 보여줍니다.

오류 처리 (불일치)

때로는 도서관의 규칙이 까다로울 수 있습니다. 규칙이 "동시에 AI 전문가이자 이론가가 될 수 없다"고 말한다면 어떻게 될까요?

밥이 이론가이고, 컴퓨터가 "만약 밥이 AI 전문가였다면, 그는 채용되었을 것이다"라고 말한다면, 이는 모순입니다.
이 논문은 안전 장치를 추가합니다: 이 모순들을 식별합니다. 컴퓨터는 "밥이 AI 전문가였다면 채용되었을 것입니다, 하지만 그것은 그의 이론가로서의 본성과 모순됩니다"라고 알려줍니다. 이는 설명이 도서관의 논리를 깨뜨리지 않도록 방지합니다.

그들이 실제로 한 일

저자들은 이론만 쓴 것이 아니라, 이를 테스트하기 위한 프로토타입 (작동하는 컴퓨터 프로그램) 을 구축했습니다.

그들은 약 40 개의 다양한 실제 세계 지식 베이스 (의료 또는 기술 데이터베이스 등) 에서 이를 테스트했습니다.
그들은 그들의 방법이 빠르다는 것 (대부분의 경우 1 초 미만) 과 매우 짧고 읽기 쉬운 설명 (보통 1~2 문장의 논리) 을 생성한다는 것을 발견했습니다.
그들은 수학적으로 특정 유형의 논리 ( EL이라고 함) 에 대해 이 과정이 효율적이며 endless loop(무한 루프) 에 빠지지 않는다는 것을 증명했습니다.

요약

이 논문은 컴퓨터가 결정을 설명하는 방식을 업그레이드하는 것에 관한 것입니다. 단순히 "X 가 발생한 이유는 여기 있습니다"라고 말하는 대신, 이제 "X 가 발생한 이유는 Y 대신이기 때문입니다"라고 말합니다. 그들은 "승리" 증거와 "패배"(또는 가설적) 증거를 수학적으로 비교하여 공통 부분을 제거하고, 정확히 무엇이 차이를 만들었는지 보여줍니다. 그들은 이를 수행하는 도구를 구축했으며, 이는 복잡한 데이터에서 빠르고 정확하게 작동합니다.

기술적 요약: 설명의 재고: 설명 논리에서의 대비 형식화

문제 제기
기존 설명 논리 (DL) 지식 베이스 (KB) 에 대한 설명 형식들은 주로 정당화 (justifications) (왜 공리 $P$ 가 참인지 설명) 와 귀납적 추론 (abductive reasoning) (왜 누락된 공리 $P$ 가 참일 수 있는지 설명) 에 초점을 맞추고 있습니다. 그러나 이러한 접근법들은 사용자 중심의 관점이 부족합니다. 이들은 종종 사실 $P$ 에 놀라 기대했던 대안적 사건 $Q$ 를 예상했던 질문자의 특정 인지적 요구를 해결하지 못합니다. "왜 $P$ 인가"와 "왜 $Q$ 가 아닌가"에 대한 별도의 설명을 제공하는 것은 종종 만족스럽지 못합니다. 왜냐하면 사용자는 실제 결과와 기대된 대안 사이의 특정 차이를 이해하려 하기 때문입니다. 대비적 설명 (CEs) 은 기계 학습과 논증 프레임워크에서 잘 연구되어 왔지만, DL 이 의료 (예: SNOMED CT) 와 같은 중요한 도메인에서 사용되는 온톨로지 (예: OWL) 의 기반임에도 불구하고, DL 의 맥락에서는 여전히 largely 탐구되지 않았습니다.

방법론
저자들은 설명 논리 (DL) KB 내에서 대비적 설명을 생성하기 위한 형식적 프레임워크를 제안하며, 피터 리프톤 (Peter Lipton) 의 철학적 대비 설명 모델을 DL 의 논리적 설정에 맞게 적용합니다.

대비 질문 (CQs) 의 형식화:
CQ 는 사실 (유도된 ABox 단언, 예: $C(x)$ ) 인 $P$ 와 대조군 (비유도된 단언) 인 $Q$ 로 이루어진 쌍 $(P, Q)$ 로 정의됩니다. 이 논문은 두 가지 특정 유형의 대조군에 초점을 맞춥니다:
- 개체 대비 (Entity Contrasts): $Q$ 가 $C(y)$ 인 경우로, 동일한 개념을 다른 개체에 대해 대비합니다.
- 개념 대비 (Concept Contrasts): $Q$ 가 $D(x)$ 인 경우로, 동일한 개체에 대해 다른 개념을 대비합니다.
대비 설명 (CE) 의 정의:
저자들은 $P$ 의 정당화와 $Q$ 에 대한 귀납적 가설 간의 단순한 대칭적 차이를 넘어섭니다. 그들은 세 가지 원칙에 기반한 튜플 기반 정의 $E = \langle E_{fact}, E_{foil+}, E_{foil-} \rangle$ (선택적으로 충돌 집합 $C$ 포함) 를 도입합니다:
- 차이 조건: 설명은 $P$ 에 대한 이유와 $Q$ 에 대한 누락된 사실 사이의 차이를 인용해야 합니다.
- 알려진 지식 대 가정된 지식: 설명은 대조군에 대해 KB 에서 참인 공리 ( $E_{foil+}$ ) 와 대조군을 유도하는 데 필요한 누락된 공리 ( $E_{foil-}$ ) 를 구분해야 합니다.
- 유사 공리 고려: 프레임워크는 "이름 변경된 집합 차이" 연산자 ( $\ddagger$ ) 를 도입합니다. 이 연산자는 사실과 대조군 간에 구조적으로 유사한 공리 (예: $C(x)$ 와 $C(y)$ , 또는 $E \sqsubseteq C$ 와 $E \sqsubseteq D$ ) 를 제거하여 설명이 오직 구별 요인만을 강조하도록 합니다.
불일치 처리:
대조군에 대한 누락된 공리 ( $E_{foil-}$ ) 를 추가하는 것이 기존 KB 와 충돌을 일으키는 경우, 프레임워크는 충돌 집합 $C$ 를 포함합니다. 이 집합은 대조군이 유도되도록 하기 위해 제거해야 하는 기존 ABox 단언의 최소 부분 집합을 나타내며, 효과적으로 반사실적 시나리오를 모델링합니다.
선호 기준:
여러 가능한 CE 중 하나를 선택하기 위해, 저자들은 구문적 이질성 척도 ( $\sigma_{div}$ ) 를 제안합니다. 이 척도는 사실과 관련된 공리와 대조군과 관련된 공리 간의 대칭적 차이를 측정합니다. 선호되는 CE 는 이 이질성을 최소화하는 것으로, 사실과 대조군의 추론 구조를 가능한 한 가깝게 맞추어 비교를 용이하게 합니다.

주요 기여

형식적 정의: 이 논문은 특히 개체 대비와 개념 대비 모두를 다루는 DL KB 에 대한 대비적 설명의 첫 번째 형식적 정의를 제공합니다.
일반적 체계: 그것은 정당화와 귀납적 가설을 통합하면서 참인 단언과 누락된 단언을 구분하는 CE 에 대한 일반적 체계를 제시합니다.
복잡도 분석: 저자들은 두 가지 DL 에서 CE 의 계산 복잡도를 분석합니다:
- $\mathcal{EL}$ : 개념 대비의 경우 주어진 크기의 CE 존재 여부를 결정하는 문제가 NP-complete임을 증명합니다. 그러나 개체 대비의 경우, 이질성이 0 인 $\sigma_{div}$ -선호 CE 는 다항 시간 내에 계산될 수 있습니다.
- $\mathcal{ALC}$ : 주어진 크기의 CE 존재 여부를 결정하는 문제는 ExpTime-complete임이 입증됩니다.
구현 및 평가: Java 로 프로토타입이 구현되었습니다 (OWL API 와 ELK 추론기 사용). 약 41 개의 실제 OWL KB 를 대상으로 실험이 수행되었습니다.

결과
실험적 평가는 다음과 같은 결과를 도출했습니다:

효율성: 프로토타입은 CE 를 효율적으로 계산하며, 평균 실행 시간은 약 392ms 입니다.
설명 크기: 생성된 설명은 간결하며, 일반적으로 최대 4 개의 ABox 공리에 걸쳐 있습니다.
공통성: "공통 공리 비율"(사실과 대조군 정당화 간의 중첩) 은 낮게 나타났습니다 (평균 13.5%). 이는 많은 경우 사실과 대조군이 서로 다른 단언 집합에 의존함을 시사합니다.
일관성: 충돌률은 낮았습니다 (4.00%). 이는 대부분의 경우 대조군에 대한 누락된 공리가 기존 KB 와 모순되지 않음을 나타냅니다.

의의 및 주장
이 논문은 대비적 설명을 설명 논리 도메인에 도입함으로써 문헌의 중요한 격차를 해소했다고 주장합니다. 저자들은 이 접근법이 질문자의 기대 (대조군) 를 명시적으로 모델링함으로써 추론 결과를 더 직관적이고 사용자 중심적인 방식으로 설명한다고 주장합니다.

이 작업은 이 분야의 예비 단계로 제시됩니다. 저자들은 그들의 정의가 귀납적 가설을 지원하는 모든 DL 로 확장되지만, 더 표현력 있는 DL(예: 카디널리티 제한이 있는 경우) 을 처리하고 대규모 데이터셋에 효율적으로 확장되는 알고리즘을 개발하기 위해서는 추가 연구가 필요하다고 겸손하게 지적합니다. 또한, 이러한 대비적 설명이 최종 사용자에 의해 표준 정당화보다 실제로 선호되는지 검증하기 위한 향후 사용자 연구의 필요성을 확인합니다. 이 논문은 그 프레임워크가 사실과 대조군 간의 차이를 설명하기 위해 정당화를 결합하는 엄격하고 형식적인 메커니즘을 제공하며, 시맨틱 웹 애플리케이션에서 더 정보에 입각한 의사 결정을 위한 토대를 마련한다고 결론짓습니다.