기술 요약: AgentBound – 자율형 AI 에이전트를 위한 검증 가능한 행동 거버넌스

1. 문제 정의

자율형 AI 에이전트는 지속적인 인간의 감독 없이도 중대한 결과(예: 금융 거래, 엔터프라이즈 워크플로우)를 초래할 수 있는 행동을 위임받는 경우가 점점 늘어나고 있습니다. 현재의 인프라는 신원 연합(에이전트가 누구인지)과 위임된 권한 부여(에이전트가 어떤 리소스에 접근할 수 있는지)를 효과적으로 처리하지만, 결정적인 "행동 거버넌스 격차(behavioral governance gap)"를 겪고 있습니다.

기존 시스템은 근본적으로 **맥락적 적합성(contextual suitability)**에 대해 무지합니다. 즉, 특정 상황이나 변화하는 런타임 환경 하에서 특정 권한이 부여된 동작이 실제로 실행되어야 하는지를 판단할 수 없습니다. 에이전트는 완전히 인증되었고 OAuth 범위 내에 있더라도, 인간 주체의 의도를 위반하는 결정을 내릴 수 있습니다(예: 블랙아웃 기간 중 환불 실행, 검토되지 않은 콘텐츠 게시, 또는 신뢰도가 낮은 예측에 기반한 행동 등). 이러한 실패는 신원이나 권한 부여의 결함 때문이 아니라, 행동 거버넌스의 실패를 의미합니다. 기존 솔루션은 미묘한 소유자의 의도를 표현하거나, 실행 시점에 행동 경계를 강제하거나, 정책 준수에 대한 부인 방지 증거를 생성하는 공식적인 메커니ме리즘이 부족합니다.

2. 방법론: AgentBound 프레임워크

AgentBound는 권한 부여와 실행 사이의 간극을 메우기 위해 설계된 런타임 거버넌스 프레임워크입니다. 이는 모델 정렬(model-alignment) 메커니즘을 대체하는 것이 아니라 이를 보완하는 결정론적 책임 계층으로서 작동합니다.

2.1 핵심 아키텍처

이 프레임워크는 제안된 에이전트의 행동을 가로채는 명시적인 거버넌스 계층을 도입합니다. 이 계층은 세 가지 독립적인 권위(authority)를 통해 행동을 평가하며, 이들의 판단은 **공식 결정 대수(formal decision algebra)**를 통해 합성됩니다.

1. 위임된 권한 부여 (Delegated Authorization): 구조적 권한(리소스 경계, 지출 한도, API 범위)을 검증합니다.
2. 소유자 서명 행동 헌장 (Owner-Signed Behavioral Constitutions): 소유자가 작성한 규칙, 신뢰도 지표 및 에스컬레이션 기준을 현재의 주변 환경에 매핑하는 주체 중심의 권위를 제공합니다.
3. 사이트 액션 계약 (Site Action Contracts): 원격 리스크 분류, 가시성 벡터, 대상 시스템의 구조적 가역성을 검증하는 인터페이스 중심의 권위입니다.

2.2 결정 합성

프레임워크는 세 가지 권위로부터의 판단을 합성하기 위해 **보수적 결정 대수(conservative decision algebra)**를 채택합니다. 결정 공간은 엄격한 논리적 제한성에 따라 순서가 지정됩니다:
$$\text{거부(Deny)} < \text{검토(Review)} < \text{허용(Permit)}$$

• 단조 불변성 (Monotonic Invariants): 가장 제한적인 판결이 우선하며, 제약 조건은 결합적으로 집계되고, 의무 사항은 누적적으로 축적됩니다.
• 실행 승인 (Execution Clearance): 최종 합성된 결정이 **허용(Permit)**이고 모든 누적된 런타임 의무(예: 인간의 승인)가 충족된 경우에만 물리적 실행이 허용됩니다. 단일 권위에 의한 거부는 다른 권위에 의해 뒤집힐 수 없습니다.

2.3 암호학적 거버넌스 영수증

엄격한 책임을 보장하기 위해, AgentBound는 실행된 모든 행동에 대해 **거버넌스 영수증(governance receipts)**을 생성합니다. 이는 다음의 정확한 스냅샷에 행동을 결합하는 암호학적으로 검증 가능한 산물입니다:

• 거버넌스 정책 아티팩트 (헌장 버전, 사이트 계약).
• 구조적 위임 사항.
• 중간 판단 및 최종 판결.
• 에이전트와 집행 서비스 양측의 서명.

이 영수증은 **독립적인 외부 재생 검증(out-of-band replay verification)**을 가능하게 하여, 제3자 감사인이 에이전트의 내부 상태나 런타임 환경에 의존하지 않고도 정책 준수를 재구성하고 검증할 수 있도록 합니다.

2.4 지속적 에이전트를 위한 상설 위임 (Standing Delegation)

세션 기반 토큰의 한계를 해결하기 위해, AgentBound는 이단계 위임 모델을 도입합니다.

1. 상설 위임 (Standing Delegation): 최대 범위와 만료 기간을 정의하는 인간 소유자의 장기적이고 암호학적으로 서명된 권한 부여입니다. 이는 직접 실행을 허용하지 않습니다.
2. 태스크 위임 (Task Delegation): 각 실행 주기 시작 시 생성되는 일시적이고 수명이 짧은 토큰입니다. 이 토큰은 상설 위임으로부터 엄격히 파생되며, 최신 활성 헌장에 대한 참조를 포함합니다. 이를 통해 정책의 신선도를 보장하고, 소유자가 에이전트를 재인증하지 않고도 정책을 철회하거나 업데이트할 수 있도록 합니다.

3. 주요 기여

본 논문은 네 가지 주요 기여를 제시합니다:

1. 삼중 권위 거버넌스 모델: 맥락적 유효성을 평가하기 위해 위임된 권한 부여, 행동 헌장, 사이트 액션 계약을 통합하는 공식 모델을 제시합니다.
2. 상설 위임 아키텍처: 정책의 신선도와 세밀한 철회 가능성을 유지하는 지속적 에이전트를 위한 보안 메커니즘을 제공합니다.
3. 공식 런타임 강제화: 독립적인 판단이 실행 전 보수적 결정 대수를 통해 합성되는 결정론적 파이프라인을 제시합니다.
4. 암호학적 거버넌스 영수증: 독립적인 사후 감사를 위해 재생 검증 가능한 프로비넌스(provenance)를 생성하는 검증 가능한 책임 메커니즘을 제공합니다.

4. 평가 프레임워크 (AgentBound-Bench)

본 논문은 거버넌스 집행 정확도, 권위 합성 동작 및 정책 프로비넌스를 정량화하기 위해 설계된 표준화된 평가 프레임워크인 AgentBound-Bench를 소개합니다.

• 방법론: 거버넌스 인프라 평가를 기본 언어 모델의 인지 능력으로부터 분리합니다.
• 구조: 시나리오는 정형화된 행동, 위임 컨텍스트, 서명된 헌장, 사이트 계약의 튜플로 정의됩니다.
• 지표: 프레임워크는 거버넌스 정확도(그라운드 트루스와의 판결 일치도), 위반 탈출률(집행을 우회하는 정책 위반 비율), 영수증 검증 성공률, 그리고 거버넌스 지연 시간을 측정합니다.
• 참고: 본 논문은 대규모 데이터셋에 걸친 종합적인 실증 결과는 향후 릴리스에서 보고될 것임을 명시하며, 본 연구는 공식적 토대와 벤치마크 설계에 집중합니다.

5. 의의 및 주장

본 논문은 AgentBound가 에이전트 거버넌스를 '신뢰가 필요한 과정'에서 **'독립적으로 검증 가능한 과정'**으로 변화시킨다고 주장합니다. 그 기초적인 불변 법칙은 다음과 같습니다: "범위는 허용했지만, 헌장이 저지했고, 영수증이 그것을 증명한다."

주요 의의는 다음과 같습니다:

• 구조적 격차 해결: 권한을 가진 에이전트가 행동적 감독의 부재로 인해 소유자의 의도에 반하는 행동을 하는 특정 실패 모드를 해결합니다.
• 부인 방지 책임: 암호학적 영수증을 통해 암묵적 신뢰에서 탈피하여, 감사인이 결정 파이프라인을 결정론적으로 재구성할 수 있게 합니다.
• 상호 보완성: ID 시스템, 권한 부여 프레임워크, 모델 정렬 기술과 함께 작동하도록 설계되었습니다. 이는 모델의 인지 능력(예: 탈옥/jailbreak)을 수정하려는 것이 아니라, 시스템 변이를 일으키기 전의 출력에 대한 제약을 강제합니다.
• 확장성: 상설 위임 모델은 엔터프라이즈 환경에서 지속적으로 실행되는 자율형 에이전트의 운영 현실을 구체적으로 다룹니다.

저자들은 AgentBound를 자율형 AI의 미래에 필수적인 기초적 아키텍처 요구사항으로 위치시키며, 에이전트가 운영적 자율성을 얻더라도 구조적으로 통제 가능하고 책임질 수 있음을 보장합니다.