기술 요약: 재구성 권한의 운영화

문제 정의

자율 에이전트 시스템은 잘못된 의사결정 로직이 아니라, 런타임 시점에 더 이상 유효하지 않은 권한을 가진 결정을 실행함으로써 자주 실패합니다. 동적 환경에서 결정이 내려지는 조건 (입장 시점) 은 실행 시점의 조건과 종종 달라집니다. 권한을 초기 상태에서 상속받은 정적 속성으로 취급하는 기존 검증 접근법은 "오래된 권한 (stale authority)" 하에서의 실행을 방지하지 못합니다.

기존 정책 집행 모델 (예: XACML, OPA) 은 일반적으로 허용 (Admit) 또는 거부 (Deny) 의 이진 결정 공간에서 작동합니다. 이러한 모델은 누락되거나 불확실한 데이터를 기본 거부 또는 허용 가능한 위험으로 간주하는 경향이 있어, 조건이 거짓임이 알려진 무효한 권한과 불완전한 관찰 가능성으로 인해 조건을 결정할 수 없는 정의되지 않은 권한을 구분하지 못합니다. 이러한 구조적 격차는 시스템이 인식적 불완전성 하에서 행동을 실행하게 하여 안전 보장을 위반합니다.

방법론

본 논문은 이론적으로 정의된 재구성 권한 모델 (RAM, Paper 5) 을 구체적인 런타임 실행 프로토콜로 운영화합니다. 핵심 방법론은 "상속된 권한의 검증"에서 "현재 상태로부터의 권한 구성"으로의 패러다임 전환을 꾀합니다.

1. 이론적 기반

시스템은 권한 $A(t)$ 를 정적 플래그가 아닌, 현재 관찰 가능한 상태 $O(t)$ 의 함수 $F$ 로 정의합니다:
$$A(t) = F(O(t))$$
실제 시스템 상태 $S_r(t)$ 가 완전히 관찰 가능하지 않으므로, 시스템은 권한이 구성 가능한지를 결정해야 합니다. 권한은 다음 조건이 충족될 때만 구성 가능합니다:

1. 관찰 가능성: 모든 필수 의존 변수가 임계값 $\theta_{auth}$ 미만의 불확실성으로 관찰 가능합니다.
2. 폐쇄성: 의존성 그래프가 완전히 해결됩니다 (상위 의존성이 누락되지 않음).
3. 일관성: 평가된 의존성 전반에 걸쳐 불변성 위반이 감지되지 않습니다.

2. 3 진 실행 상태

본 논문은 이진 허용/거부를 넘어 3 상태 모델로 확장하는 실행 상태 공간에 대한 근본적인 확장을 도입합니다:

• 실행 (Execute): 권한이 구성 가능하며 True 로 평가됩니다.
• 거부 (Deny): 권한은 구성 가능하지만 False 로 평가됩니다 (조건 위반이 확인됨).
• 중지 (Halt): 권한이 평가 불가능합니다 ($A(t) = \bot$). 이는 구성 가능성 조건이 실패할 때 (예: 신호 누락, 높은 불확실성, 또는 열린 의존성 그래프) 발생합니다. 핵심적으로, Halt 는 Deny 와 구별됩니다. 이는 알려진 정책 위반에 따른 거부가 아닌, 인식적 불완전성으로 인한 실행의 정지를 나타냅니다.

3. 런타임 집행 프로토콜

운영화는 다음 3 계층을 통합하는 런타임 집행 루프를 통해 구현됩니다:

• 상태 획득: 완전성을 가정하지 않고 $O(t)$ 를 수집합니다.
• 권한 구성 엔진: 현재 상태를 기반으로 행동 $a$ 에 필요한 의존성 $D(a)$ 를 동적으로 해결합니다. 각 변수에 대한 관찰 가능성과 불확실성을 평가합니다.
• 실행 게이트: 3 진 결정을 집행합니다. $A(t) = \bot$ 인 경우, 시스템은 Halt 상태로 진입합니다.

4. 복구 루프

Halt 상태를 해결하기 위해 본 논문은 복구 루프를 정의합니다. Halt 를 종단적 실패로 취급하는 대신, 시스템은 다음을 수행합니다:

1. 중지를 유발하는 구체적인 해결되지 않은 변수를 식별합니다.
2. 불변성 모니터링 계층 (IML) 을 트리거하여 드리프트를 감지하거나 누락된 신호를 획득합니다.
3. 상태를 보강합니다 (예: 새로운 데이터 획득 또는 행동 범위 축소).
4. 권한 재구성을 시도합니다.
   권한이 다시 구성 가능해질 때만 실행이 재개되어 조건부 활성 (conditional liveness) 을 보장합니다.

주요 기여

1. RAM 의 운영화: 입장 시점 검증에 의존하는 것이 아닌, 행동 시점에서 권한 재구성을 집행하는 최초의 런타임 실행 모델을 제공합니다.
2. Halt 상태: 정의되지 않은 권한을 명시적으로 처리하기 위해 세 번째 실행 상태를 공식화하여, 시스템이 불확실성 하에서 실행하거나 누락된 데이터를 기본 거부로 간주하는 것을 방지합니다.
3. 의존성 해결 알고리즘: 필요한 변수가 정적으로 정의되지 않고 런타임 상태 및 구성 함수 $F$ 에서 도출되는 동적 알고리즘을 도입합니다.
4. 거버넌스 스택과의 통합: RAM 이 에이전트 제어 프로토콜 (ACP) 과 불변성 모니터링 계층 (IML) 에 어떻게 통합되는지 보여줍니다. 이는 ACP 의 3 단계인 실행 게이트에서 승인 기준 역할을 하되, 할당 및 구성 거버넌스 계층과는 직교적으로 유지됩니다.
5. 형식적 보장:
   • 안전성: 권한이 구성 가능하고 유효할 때만 행위가 실행됨이 증명되었습니다 (정리 3 및 4).
   • 조건부 활성: 누락된 권한 정의 변수가 결국 관찰 가능해지면 실행이 재개됨이 증명되었습니다 (정리 2).

결과 및 주장

본 논문은 경험적 실험 데이터를 제시하지 않지만, 형식적 운영 모델과 논리적 증명을 제공합니다. 주요 결과는 다음과 같습니다:

• 안전 보장: 런타임 시점에 권한을 재계산하지 않는 시스템에 내재된 실패 모드인 오래되거나 정의되지 않은 권한 하에서의 실행을 모델이 구조적으로 방지합니다.
• 드리프트 처리: RAM 을 IML 과 결합함으로써 시스템은 행동 드리프트를 감지하고 권한을 즉시 무효화하여 실행 발생 전에 중지를 강제합니다.
• 추적 가능성: 모든 실행 시도는 의존성 해결 경로, 불확실성 수준, 그리고 Halt, Deny, 또는 Execute 의 구체적인 원인을 상세히 기술하는 감사 산출물을 생성합니다.

의의

본 논문은 이론적 거버넌스 조건과 런타임 집행 간의 격차를 해소함으로써 "에이전트 거버넌스 시리즈"를 완성한다고 주장합니다. Paper 0–4 는 거버넌스의 구조적 건전성을 정의하고 Paper 5 는 재구성 권한의 이론적 본질을 정의하는 반면, Paper 6 은 권한이 런타임 시점에 어떻게 집행되는지 정의합니다.

의의는 실행 제어를 추정 및 검증의 문제에서 구성 가능성 및 집행의 문제로 재정의하는 데 있습니다. 권한을 구성할 수 없을 때 실행을 거부함으로써, 시스템은 가용성보다 안전을 우선시하여 자율 에이전트가 현재 세계 상태로부터 능동적이고 검증 가능하게 도출된 권한을 가질 때만 행동하도록 보장합니다. 이 접근법은 재구성 권한을 실제 세계의 동적 시스템에 적용하는 데 필요한 실행 의미론을 제공합니다.