Interval Orders, Biorders and Credibility-limited Belief Revision

Richard Booth 와 Ivan Varzinczak 의 논문 "Interval Orders, Biorders and Credibility-limited Belief Revision"에 대한 상세한 기술적 요약입니다.

1. 문제 제기

이 논문은 표준 AGM(Alchourrón, Gärdenfors, Makinson) 신념 수정 프레임워크의 한계를 다룹니다. AGM 접근법은 에이전트의 신념을 모델링하기 위해 가능한 세계들에 대한 **전순서(preorder)**에 의존합니다. 이 프레임워크는 두 가지 핵심 공리를 강제합니다:

• 성공 (Success): 새로운 정보는 항상 수용됩니다.
• 일관성 (Consistency): 결과적인 신념 집합은 항상 일관됩니다 (입력이 일관된다는 전제 하에).

저자들은 이러한 공리들이 현실적인 에이전트에게는 지나치게 이상적이라고 주장합니다. 실제 에이전트는 **불안정화 (destabilizing)**되는 정보 (현재 신념의 붕괴를 초래하는) 나 믿기 힘든 (incredible) 정보 (초기에는 거부되지만 추가적인 맥락과 함께 수용될 수 있는) 를 마주칠 수 있습니다. 이 논문은 다음을 허용하는 더 일반적인 정렬 구조에 기반한 신념 수정 연산자를 탐구하고자 합니다:

1. 불안정성/부조화 (Instability/Dissonance): 새로운 정보를 수용하는 것이 최적 모델의 공집합 (불일치) 으로 이어지는 시나리오.
2. 비우선 수정 (Non-Prioritised Revision): 에이전트가 일관성을 유지하기 위해 새로운 정보를 거부하거나, '성공' 공리가 폐기되는 시나리오.

2. 방법론

저자들은 신념 수정의 근본적인 의미론적 구조를 전순서에서 합리적 선택 이론에서 연구된 두 가지 더 넓은 정렬 클래스인 **구간 순서 (Interval Orders)**와 **이항 순서 (Biorders)**로 일반화합니다.

A. 구간 순서 (IOB)

• 정의: 반사성과 Ferrers 조건을 만족하는 이항 관계.
• 의미론: 각 세계 $v$에 음이 아닌 정수의 구간 $[L(v), U(v)]$가 할당되는 구간 기반 해석 (Interval-Based Interpretation) $\mathcal{I} = \langle L, U \rangle$로 표현됩니다.
• 수정 규칙: 세계 $v$가 $u$보다 선호되려면 $L(v) \leq U(u)$여야 합니다.
• 동작: 이러한 연산자는 성공 공리를 만족하지만 일반적으로 **공허성 (Vacuity)**과 부확장 (Subexpansion) (표준 AGM 공리) 을 만족하지 않습니다. 일관성은 유지합니다.

B. 이항 순서 (BOB)

• 정의: Ferrers 조건을 만족하지만 반사성을 요구하지 않는 구간 순서의 일반화.
• 의미론: 이항 순서 기반 해석 (Biorder-Based Interpretation) $\mathcal{B} = \langle L, U \rangle$로 표현됩니다. 핵심적으로, 구간 길이 $U(v) - L(v)$는 음수가 될 수 있습니다.
  • 음수 구간 ($U(v) < L(v)$) 은 **부조화적 가치 (dissonant valuation)**를 의미하며, 일종의 '불가능성'이나 불안정성을 나타냅니다.
• 수정 규칙: $v \preceq_{bi} u$는 $L(v) \leq U(u)$일 때 성립합니다.
• 동작: 이러한 연산자는 성공을 만족하지만 일관성을 위반합니다. 새로운 정보 $\alpha$가 '불안정화'되는 경우 (즉, $\alpha$의 모든 모델이 부조화적이어서 $\alpha$에 대한 최적 모델 집합이 공집합인 경우), 수정은 일관성이 없는 (공집합인) 신념 집합을 산출합니다.

C. 부분 클래스와 추이성

저자들은 더 강력한 구조적 속성을 부과하기 위해 이항 순서의 두 가지 부분 클래스를 정의합니다:

1. ZTBOB (z-추이적): 부조화적 요소를 포함하는 약화된 형태의 추이성을 만족합니다. 이는 **일관된 신중한 단조성 (Consistent Cautious Monotony)**을 보장합니다.
2. TBOB (추이적): 완전한 추이성을 만족합니다. 이는 부확장 공리 (주요 AGM 보조 공리) 를 회복하지만 여전히 불일치를 허용합니다.

D. 비우선 수정 (NPR)

이항 순서 기반 수정의 불일치 문제를 해결하기 위해, 저자들은 비우선 수정 (Non-Prioritised Revision) 연산자 ($\circ$) 를 정의합니다.

• 메커니즘: $\alpha$의 이항 순서 기반 수정 ($\bullet$) 이 일관성이 없는 집합으로 귀결되면, NPR 연산자는 입력을 거부하고 원래 신념 집합 $KB$를 반환합니다.
• 신빙성: 입력 $\alpha$가 $KB \bullet \alpha$가 일관될 때 **신빙성 (credible)**이 있다고 간주되며, 그렇지 않으면 **비신빙성 (incredible)**으로 간주됩니다.
• 신빙성 제한 수정 (CLR) 과의 연관성: 저자들은 이러한 NPR 연산자를 신빙성 제한 수정 (Hansson 등) 프레임워크에 매핑하지만, 중요한 수정 사항이 있습니다: 단일 문장 폐쇄 (Single-Sentence Closure) 속성을 거부합니다.
  • 표준 CLR: $\alpha$가 신빙성이 있다면, 모든 논리적 귀결도 신빙성이 있습니다.
  • 제안된 CLR: 에이전트는 초기에 $\alpha$를 거부할 수 있지만, $\beta$가 필요한 맥락을 제공한다면 $\alpha \land \beta$를 수용할 수 있습니다 (예: "찰스 왕이 학교를 방문했다"는 "조카가 찰스 왕과 점심을 먹었다"는 문장을 신빙성 있게 만듭니다).

3. 주요 기여

1. 수정 의미론의 확장:

   • Rott(2014) 가 축소 (contraction) 에 대해 시작한 그림을 완성하는 구간 순서 기반 (IOB) 수정을 도입했습니다.
   • "부조화"와 불안정성을 모델링하기 위해 음수 구간 길이를 활용하는 이항 순서 기반 (BOB) 수정을 도입했습니다. 이는 신념 수정에서 이전에 탐구되지 않았던 개념입니다.

2. 공리적 특성화:

   • IOB, ZTBOB, TBOB 연산자에 대한 표현 정리를 제공했습니다.
   • TBOB 연산자가 일관성을 제외한 모든 AGM 공리와 **분리적 합리성 (Disjunctive Rationality)**을 만족함을 확인했습니다.
   • 상대적 성공 (Relative Success) (성공 또는 변화 없음) 과 수정된 분리적 합리성을 포함한 일련의 공리를 사용하여 결과적인 NPR 연산자 (BOB-NPR, ZTBOB-NPR, TBOB-NPR) 를 특성화했습니다.

3. 맥락적 폐쇄를 갖춘 신빙성 제한 수정:

   • NPR 연산자를 신빙성 제한 수정 연산자로 공식화했습니다.
   • 단일 문장 폐쇄 조건의 완화 (분리에 대한 더 약한 폐쇄로 대체) 를 제안했습니다. 이는 문장이 고립되어 거부되지만 설명적 맥락과 결합될 때 수용되는 맥락 의존적 신빙성을 가능하게 합니다.

4. 불안정화 입력 처리:

   • 불안정화 (Destabilizing), 조화 불가능 (Irreconcilable), 위태로운 (Precarious) 문장을 정의했습니다.
   • 이항 순서가 에이전트가 추가적인 설명이 신념 상태를 안정화할 때까지 입력을 거부하는 '유지 모드'에 들어가는 시나리오를 모델링할 수 있음을 입증했습니다.

4. 결과

• 정리 1-3: 전순서, 구간 순서, 이항 순서와 각각의 수정 연산자 간의 대응 관계를 확립했습니다.
• 정리 4 & 5: ZTBOB와 TBOB 연산자가 특정 강화된 공리 집합을 만족함을 보였습니다 (예: TBOB 는 부확장을 만족함).
• 정리 6-8: 이러한 연산자의 비우선 버전들에 대한 공리적 특성을 제공하며, **P12+**와 같은 공리를 도입했습니다 (분리가 신빙성이 있고 한 변이 신빙성이 없다면, 결과는 신빙성이 있는 변만으로 수정한 것과 동등함).
• 정리 9 & 10: ZTBOB-NPR 과 TBOB-NPR 연산자가 각각 구간 순서와 AGM(전순서) 기반 수정을 근간으로 하는 신빙성 제한 수정 연산자와 동등함을 증명했습니다.
• 반례: 공허성과 부확장과 같은 표준 AGM 공리가 일반적인 이항 순서에서는 실패하며, 입력이 필터링되지 않는 한 일관성은 BOB 수정에서 실패함을 입증했습니다.

5. 의의

• AI 의 현실성: 이 논문은 불안정성과 정보의 조건부 수용을 허용함으로써 신념 수정을 현실적인 에이전트 행동에 더 가깝게 이동시킵니다. 이는 맥락화될 때까지 "너무 좋아서 믿기 힘든" 또는 "너무 이상한" 정보를 거부하는 인지 과정을 모델링합니다.
• 이론적 독창성: 합리적 선택 이론(특히 이항 순서와 구간 순서) 과 신념 수정 간의 간극을 메우며, "음수 구간"과 "부조화"와 같은 개념을 신념 변화 논리에 도입했습니다.
• 유연성: 단일 문장 폐쇄 조건을 완화함으로써, 문장의 신빙성이 논리적 형식이 아니라 다른 문장과의 결합 (맥락) 에 의존하는 더 세밀한 추론을 지원합니다.
• 미래 방향: 이 작업은 이항 순서를 사용한 반복 수정, 비결정적 추론, 그리고 규범적 추론을 연구할 수 있는 길을 열며, 단일 수정 단계에 필요한 것 이상의 이항 순서의 추가 구조가 업데이트 시퀀스를 처리하는 데 중요할 수 있음을 시사합니다.

요약하자면, 이 논문은 신념 수정이 진리의 맹목적인 수용이 아니라, 에이전트의 신념 정렬의 구조적 속성에 의해 지배되어 불안정성과 맥락 의존적 신빙성을 처리할 수 있는 선택적 과정인 견고한 이론적 프레임워크를 제안합니다.