기술 요약: 에이전트 시스템을 위한 인식적 상태 복제 (Epistemic State Replication)

1. 문제 정의

고전적인 분산 시스템은 올바른 복제본들이 동일한 비트 단위 상태($S_A(t) = S_B(t)$)를 달성하기 위해 결정론적 전이를 실행한다는 **상태 머신 복제(State Machine Replication, SMR)**에 의존한다. 이 모델은 Paxos나 Raft와 같은 합의 프로토콜의 근간을 이룬다. 그러나 대규모 언어 모델(LLM)로 구동되는 자율 에이전트가 인프라를 조율하는 **에이전트형 분산 시스템(agentic distributed systems)**의 등장은 엄격한 비트 단위 복제를 불충분하게 만든다.

생성형 모델은 본질적으로 확률적이다. 즉, 동일한 입력에 대해서도 복제본들은 서로 다른 추론 경로, 토큰 시퀀스, 요약 구조를 생성할 수 있지만, 결과적으로는 의미론적으로 동일하고 올able한 운영 결정을 내릴 수 있다. 이러한 맥락에서 비트 단위의 일치를 강제하는 것은 다음과 같은 문제를 야기한다:

• 유연성 저하: 표현 방식이나 토큰 경계가 다르다는 이유만으로 유효한 운영 결정을 거부하게 된다.
• 문맥 망각(Context Amnesia) 유발: 컨텍스트 윈도우 제한에 맞추기 위한 나이브한 프루닝(pruning)은 인과적으로 유의미한 증거들을 제거한다.
• 성능 제한: 전체 토큰 트레이스를 복제하려는 동기화 오버헤드는 컨텍스트 윈도우를 포화시키고 지연 시간을 증가시킨다.

나아가, 기존의 에이전트 프레임워크에는 분산 일관성 메커니즘이 부족하다. 에이전트가 실패했을 때, 물리적 데이터베이스 행을 되돌리는 것(물리적 롤백)만으로는 에러를 유발한 결함 있는 믿음(flawed beliefs)으로 인해 에이전트의 내부 메모리가 오염된 상태를 해결하기에 불충분하다.

2. 방법론: 인식적 상태 복제 (Epistemic State Replication, ESR)

본 논문은 복제의 경계를 데이터 가시성(비트 단위 상태)에서 지식 가시성(의미론적 운영 의미)으로 전환하는 믿음 복제 레이어인 **인식적 상태 복제(ESR)**를 제안한다.

2.1 인식적 노드 모델 (The Epistemic Node Model)

ESR은 추론 복제본 $K_i(t)$의 상태를 튜플 $(L_i(t), B_i(t))$로 재정의한다:

• 불변 증거 로그 ($L$): 물리적 텔레메트리와 외부 이벤트를 기록한 결정론적 부가 전용(append-only) 로그로, 고전적 합의(예: Raft)를 통해 복제된다. 이는 물리적 관찰에 대한 단일 진실 공급원(single source of truth) 역할을 한다.
• 믿음 계보 (Belief Lineage, $B$): 증거에 대한 노드의 해석을 나타내는 확률적이고 진화하는 유향 비순환 그래프(DAG)이다. 각 믿음 노드 $b$는 $(\phi, \mathcal{J}, \tau)$의 삼중항으로 구성되며, 여기서 $\phi$는 의미적 내용, $\mathcal{J}$는 정당화 집합(증거 또는 이전 믿음에 대한 참조), $\tau$는 타임스탬프를 의미한다.

2.2 인지 트랜잭션 (Cognitive Transactions)

상태 변이는 확률적 추론 단계를 캡슐화하는 **인지 트랜잭션(CT)**을 통해 발생한다. 생명 주기는 다음과 같다:

1. 제안됨 (Proposed): 에이전트가 액션과 믿음 델타(delta)를 생성한다.
2. 사전 검증됨 (Pre-validated): 의미론적 쿼럼(quorum)이 안전 정책($P$)에 따라 액션을 검사한다.
3. 실행 및 증거 커밋 (Executed & Evidence-committed): 액션이 실행되고, 물리적 결과가 $L$에 추가된다.
4. 믿음 커밋 (Belief-committed): 믿음 델타가 계보에 삽입된다.
5. 사후 검증됨 (Post-validated): 쿼럼이 새로운 믿음 투영이 동료들과 의미론적으로 호환되는지 검증한다.

2.3 일관성 사양 (Consistency Specifications)

ESR은 확률적 환경에 맞춤화된 두 가지 일관성 모델을 도입한다:

• 의미론적 선형화 가능성 (Semantic Linearizability): 연산이 상태의 의미론적 투영이 $\epsilon$-호환적인 지점에서 원자적으로 실행되는 것처럼 보인다. 이는 읽기 작업이 $d_M(E(S_{read}), E(S_{write})) \le \epsilon$을 만족하는 값 $v$를 반환할 것을 요구하며, 여기서 $d_M$은 의미적 거리 메트릭이다.
• 유계 점진적 일관성 (Bounded Eventual Coherence): 검증기 오류나 샘플링 노이즈가 존재하는 상황에서도, 복제본들은 단일 지점이 아닌 의미론적 근방(semantic neighborhood)으로 수렴함이 보장된다. 정리 1은 공정한 델타 전달, 단조적 증거, 그리고 수축적 그래프 연산자(contractive graft operator, $\gamma < 1$) 하에서 복제본 간의 기대 의미적 거리가 $\frac{\delta_{err}}{1-\gamma}$로 유계임을 증명한다.

2.4 일관성 및 복구를 위한 프로토콜

• 인식적 델타 (Epistemic Deltas): 가공되지 않은 원시 토큰 트레이스를 브로드캐스팅하는 대신, 필수적인 통찰과 그 인과적 앵커(causal anchors)만을 포함하는 경량 델타를 전파한다.
• 그래프 연산자 ($\oplus$): 원격 델타를 로컬 DAG에 통합하기 위한 프로토로로, 문맥 망각을 방지하기 위해 재귀적 조상(ancestor) 검색을 포함한다.
• 검증 가능한 의미론적 롤백 (Verifiable Semantic Rollbacks): 결함 있는 액션이 발생할 때, ESR은 믿음 계보의 **외과적 프루닝(surgical prune)**을 수행한다. 이는 결함 있는 전제 $p$와 그 이행적 인과적 후손($Desc(p)$)을 제거한다. 결정적으로, 부분 의존성 수리(Partial-Dependency Repair) 규칙을 사용하여, 만약 어떤 믿음이 결함 있는 증거와 유효한 증거 모두로부터 유도되었다면, 시스템은 유효한 조상만을 사용하여 해당 믿음을 재도출함으로써 유효한 지식의 손실(문맥 망실)을 방지한다.

3. 주요 기여

본 논문은 다음 구성 요소들을 정형화한다:

1. 인식적 노드 및 시스템 모델: 불변 증거 로그와 확률적 믿음 계보를 분리한 정형적 해부, 그리고 인지적 결함(환각, 오염된 믿음, 모델 발산)에 대한 실패 모델을 포함한다.
2. 일관성 사양: 포스트-결정론적 환경을 위한 의미론적 선별 가능성과 유계 점진적 일관성의 정형적 정의를 제공한다.
3. 인식적 일관성 프로토콜: 인식적 델타를 통해 통찰을 전파하고, 이종 에이전트 클러스터 간의 믿음을 통합하기 위한 정형적 그래프 연산자를 포함한다.
4. 검증 가능한 의미론적 롤백: 문맥 망각 없이 결함 있는 전제를 제거하고 의존적인 믿음을 수리하여 인과적 안전 인바리언트(safety invariants)를 보장하는 프로토콜을 제공한다.
5. 시스템 평가: 프로토타입 구현과 예비 시뮬레이션 결과를 통해 타당성을 입증한다.

4. 실험 결과

저자들은 **인식적 지속 엔진 (Epistemic Persistence Engine, EPE)**이라는 프로토타입을 개발하였으며, 100개의 마이크로서비스를 관리하는 5개의 이종 에이전트 복제본(Gemini, Claude, Llama)이 있는 클라우드 컨트롤 플레인을 시뮬레이션하였다.

• 처리량 (Throughput): ESR은 원시 토큰 트레이스를 전체 복제하는 나이브한 베이스라인과 비교하여 인지 트랜잭션 초당 처리량(CTPS)에서 4.8배의 향상을 달了. ESR은 12.4 CTPS에서 안정화된 반면, 베이스라인은 컨텍스트 윈도우 포화로 인해 2.6 CTPS로 저하되었다.
• 지연 시간 (Latency): 의미론적 캐시(Semantic Cache)를 활용하여 92%의 모순 체크를 로컬에서 해결함으로써, 의미론적 선형화 가능성 체크에 따른 평균 오버헤드를 35ms 미만(< 2%의 추론 시간)으로 유지했다.
• 결함 감소 (Fault Reduction): 잘못된 크래시 믿음을 유발하는 일시적인 네트워크 결함 시나리오에서, 검증 가능한 의미론적 롤백은 비트 단위 롤백 대비 이차적 인지 결함(반복되는 잘못된 액션)을 97.7% 감소시켰다 (이벤트당 6.4회에서 0.15회로 감소).

참고: 저자들은 이 결과들이 단일 트레이스에 기반한 예비 시뮬레이션 결과이며, 통계적으로 견고한 성능 검증이나 프로덕션 수준의 평가를 구성하지 않는다는 점을 명시적으로 밝히고 있다.

5. 의의 및 주장

본 논문은 에이전트 시스템을 위해 복제본은 비트가 아니라 믿음에 동의해야 한다고 주장한다. 물리적 상태 표현과 의미론적 지식 보유를 분리함으로써, ESR은 분산 시스템이 안전성과 일관성을 희생하지 않으면서도 생성형 모델의 추론 유연성을 활용할 수 있게 한다.

이 연구의 의의는 다음과 같다:

• 간극 해소: 결정론적 공리(SMR)를 넘어, 확률적이고 모델 중심적인 분산 시스템에서의 일관성을 위한 최초의 정형적 프레임워크를 제공한다.
• 문맥 망실 해결: 결함으로부터 복구하면서도 인과적으로 유의미한 지식을 잃지 않는 메커니즘(의미론적 롤백과 부분 의존성 수리)을 도입하여 현재 에이전트 프레임워크의 핵심적 한계를 해결한다.
• 안전성 및 활성(Safety and Liveness): LLM의 내재적 노이즈를 수용하면서도 운영 안전성을 보장하는 엄격한 안전 인바리언트(의미론적 선형 가능성)와 활성 보장(유계 점진적 일관성)을 정의한다.

결론적으로, ESR은 결정론적 합의(증거 로그를 위한)의 필요성을 제거하지는 않지만, 결정론적 증거 복제와 의미론적 믿음 복제를 성공적으로 결합하여 신뢰할 수 있는 자율 인프라 오케스트레이션을 위한 실행 가능한 경로를 제시한다.