기술 요약: 정직한 쿼럼 문제와 인식론적 비잔틴 결함 허용 (Epistemic Byzantine Fault Tolerance)

1. 문제 정의: 정직한 쿼럼 문제 (The Honest Quorum Problem)

본 논문은 결정론적 합의 프로토콜 내에서 작동하는 "에이전트형(agentic)" 검증인(확률적, 학습된, 또는 생성적 추론을 사용하여 의미론적 판단을 내리는 참여자)들이 존재하는 분산 시스템에서 발생하는 치명적인 실패 모드를 식별한다.

고전적인 비잔틴 결함 허용(BFT)에서 시스템은 "비잔틴"(임의로 결함이 있는) 노드의 유계 집합 외부의 모든 참여자가 "정직"하다고 가정하며, 이는 그들이 프로토콜의 전이(transition) 또는 검증 의미론을 올바르게 구현함을 의미한다. 정직한 쿼럼 문제는 이 구분을 약화시킨다. 이 문제는 다음과 같은 시나리오를 상정한다:

• 프로토콜 준수: 검증인들은 올바르게 인증하고, 타임아웃 내에 응답하며, 투표 프로토콜을 따르고, 이중 서명(equivocation)을 하지 않는다.
• 의미론적 오류: 프로토콜을 준수함에도 불구하고, 이들은 집단적으로 애플리케이션 수준의 불변성(invariant)을 위반하는 상태 전이(예: 권한 없는 쓰기 권한 부여)를 승인한다.

이러한 실패는 **인식론적 결함(epistemic fault)**이라 불린다. 전통적인 비잔틴 결함과 달리, 인식론적 결함은 검증인들의 추론 과정이 가진 확률적 특성에서 기인한다. 프로토콜을 준수하는 여러 검증인이 공통된 의존성(모델 계보, 학습 분포, 프롬프트 패턴, 검색 소스, 도구 체인 또는 제공자 인프라 등)을 공유하기 때문에 집단적으로 잘못된 판단을 내릴 수 있다. 결과적으로, 명목상의 정체성 다양성이 인식론적 독립성을 보장하지는 않는다.

본 논문은 프로토콜 합의가 의미론적 타당성을 의미하지 않으며, 의미론적 타당성이 실행 안전성을 보장하지도 않는다는 점을 확립한다. 특정 부적절한 클래스의 검증인 수가 쿼럼 임계치를 초과할 경우, 시스템은 유효하지 않은 전이에 대해 잘 형성된 인증서(certificate)를 생성할 수 있다.

2. 방법론: 인식론적 비잔틴 결함 허용 (EBFT)

이를 해결하기 위해, 본 논문은 "포스트-결정론적 분산 시스템(PDDS)"—즉, 결정론적 조정이 확률적 의미론적 판단을 둘러싸고 있는 시스템—를 위한 결함 허용 모델인 **인식론적 비잔틴 결함 허용(EBFT)**을 정의한다.

핵심 정의

EBFT는 기존의 비잔틴 결함 범위($f$)에 프로토콜 준수 검증인($H$)의 행동을 제한하는 두 가지 신뢰 지수 기반 양을 추가한다:

1. $e_\delta$ (의미론적 안전 예산): 비잔틴 집합 외부의 프로토콜 준수 검증인들에 의한 **집단적 부적절 승인(coherent invalid endorsement)**의 가중치 상한이다. 이는 얼마나 많은 정직한 검증인이 잘못된 전이에 허위로 동의할 위험이 있는지를 정량화한다.
2. $u_\epsilon$ (활성 예산): 프로토콜 준수 검증인들로부터 발생하는 **사용 불가능한 지원(unusable support)**의 상한이다. 여기에는 허위 거부, 기권, 타임아웃, 출력의 불일치 또는 정규화 실패 등이 포함되며, 이는 유효한 후보가 인증서를 형성하는 것을 방해한다.

이러한 예산은 특정 작업 도메인 $D$에 대해 정의되며, 각각 확률 $1-\delta$ 및 $1-\epsilon$으로 성립하는 사건 $E_\delta$와 $U_\epsilon$에 조건부로 설정된다.

임계값 도출

논문은 안전성, 합의, 그리고 활성을 구분하는 인증서 임계값 조건($q$)을 도출한다:

• 의미론적 인증서 타당성: 부적절한 후보가 인증서를 형성하는 것을 방지하려면, 임계값은 $q > f + e_\delta$를 만족해야 한다. 이는 모든 비잔틴 노드($f$)와 허용된 최대 집단적 허위 승인($e_\delta$)이 유효하지 않은 전이에 투표하더라도 쿼럼에 도달할 수 없음을 보장한다.
• 합의: 상충하는 인증서 생성을 방지하려면, 임계값은 $2q - N > f$ (또는 $q > (N+f)/2$)를 만족해야 한다. 결정적으로, 이 조건은 오직 비잔틴 범위 $f$에만 의존한다. EBFT에서 프로토콜 준수 검증인들은 이중 서명을 하지 않으므로, 설령 인식론적으로 결함이 있더라도 합의를 위협하지 않는다.
• 활성(Liveness): 유효한 후보가 인증서를 얻을 수 있도록 하려면, 임계값은 $q \le N - f - u_\epsilon$를 만족해야 한다. 이는 정직한 검증인들로부터 얻을 수 있는 사용 가능한 지원이 임계값을 충족하기에 충분함을 보장한다.

본 논문은 시스템 크기 $N$이 특정 인구 통계적 부등식(예: $N > 2f + e_\delta + u_\epsilon$)을 만족할 때만 실행 가능한 정수 임계값 $q$가 존재함을 증명한다.

캘리브레이션 및 다양성

논문은 "다양성"(서로 다른 모델, 제공자 또는 프롬프트)이 안전성을 입증하는 증거가 아님을 강조한다. 대신, 다양성은 오류의 상위 꼬리 집중(upper-tail concentration)을 줄이기 위한 메커니즘이다. 이 방법론은 특정 위원회 구성에 대해 $e_\delta$와 $u_\epsilon$를 경험적으로 추정하기 위한 오프라인 캘리브레이션을 요구한다.

• 리스크 프로필: 캘리브레이션 중에 도메인, 위원회, 임계값 및 출처(모델 버전, 프롬프트, 도구)를 명시하는 서명된 리스크 프로필이 생성된다.
• 런타임 허용: 실행 시점에 시스템은 요청이 캘리브레이션된 도메인 내에 있는지, 그리고 리스크 프로필이 유효한지 확인한다. 요청이 유효하면 시스템은 격리된 검증 패키지를 전달한다. 인증서는 승인 수가 사전 캘리브레이션된 임계값 $q$를 충족할 때만 형성된다.
• 재캘리브레이션: 프로필은 모델 업데이트, 작업 부하 변화 또는 새로운 공통 모드 결함(common-mode failure) 감지 시 만료되거나 폐기되어야 한다.

3. 주요 기여

1. 정직한 쿼럼 문제의 공식화: 상관관계가 있는 인식론적 오류로 인해 프로토콜을 준수하고 이중 서명을 하지 않는 검증인들이 집단적으로 의미론적으로 유효하지 않은 전이를 승인하는 실패 모드를 정의하였다.
2. EBFT의 정의: 비잔틴의 임의적 행동과 프로토와 준수 검증인의 신뢰 지수 기반 의미론적 예산($e_\delta$ 및 $u_\epsilon$)을 분리하는 결함 모델을 도입하였다.
3. 임계값 정리: PDDS에서 의미론적 인증서 타당성, 합의 및 활성을 위한 필요 충분 조건을 도출하였다. 특히, 합의는 오직 비잔틴 범위에만 의존하는 반면, 안전성과 활성은 인식론적 예산에 의존함을 증명하였다.
4. 다양성 인지적 보증: 다양성을 독립성의 보장이 아니라, 부적절한 승인의 상위 꼬리 집중을 줄이기 위해 측정되어야 하는 변수로 재정의하였다. 또한 캘리브레이션과 적대적 테스트를 통해 이러한 예산을 추정하는 방법론을 제시하였다.

4. 결과 및 이론적 경계

• 불가능성 결과: 본 논문은 추가적인 의미론적 근거(예: 유효성 오라클, 신뢰할 수 있는 검증자 또는 캘리브레이션된 집중도 경계) 없이는 합의 신호에만 의존하는 프로토콜이 의미론적 인증서 타당성을 보장할 수 없음을 증명한다. 만약 의미론적 오류의 분포가 제한되지 않는다면, 유효하지 않은 후보는 확률 1로 임의의 개수 기반 인증서 규칙을 충족할 수 있다.
• 공통 모드 결함 하한선: 검증인 집합의 일부가 잠재적인 공통 모드 결함(예: 동일한 모델 가중치)을 공유한다면, 유효하지 않은 인증서가 생성될 확률은 검증인의 수와 관계없이 해당 공통 모드 이벤트의 발생 확률 이상이 된다.
• 임계값 타당성: 논문은 의미론적 타당성, 합의, 활성이 동시에 만족되는 $q$를 선택하기 위한 정확한 정수 공식을 제공한다. 단순히 고전적인 $3f+1$ 공식을 재가중치 적용하는 것만으로는 불충분하며, 시스템이 반드시 $e_\delta$와 $u_\epsilon$를 명시적으로 고려해야 함을 보여준다.

5. 의의 및 주장

본 논문은 에이전트(LLM, 추론 시스템)가 분산 제어 평면에 참여하는 에이전트 인프라를 위한 이론적 프레임워크로서 EBFT를 위치시킨다. 이 연구의 주요 의의는 다음과 같다:

• 합의와 의미론의 분리: "프로토콜 합의"(동일한 로그 항목을 결정함)와 "의미론적 타당성"(해당 항목이 안전하고 정확함) 사이의 간극을 명시적으로 모델링한다.
• 인식론적 리스크의 정량화: 다양성에 대한 질적 주장을 넘어, 상관관계가 있는 의미론적 결함에 대한 정량적 경계를 제시한다.
• 안전성의 운영화: 두 단계의 허용 프로세스(오프라인 캘리브레이션 + 런타임 허용)를 제안하여, 시스템이 확률적 검증인을 사용하면서도 엄격하고 확률적인 안전 보증을 유지할 수 있도록 한다.

저자들은 이 작업이 제품 설명이 아니라 OpenKedge 연구 프로그램 내의 "포지셔닝"임을 겸허히 밝힌다. 저자들은 의미론적 정확성을 결정론적으로 해결한다고 주장하는 것이 아니라, 의미론적 판단이 본질적으로 확률적인 시스템을 위한 결함 모델과 임계값 이론을 제공하고자 한다. 이러한 보증은 캘리브레이션의 유효성, 작업 도메인의 안정성, 그리고 추정된 예산의 정확성에 조건부로 성립한다.