Safe Separability for Autonomous Authorization: Branch-Relative Authority Closure Under Decision-Critical Uncertainty

기술 요약: 자율적 권한 부여를 위한 안전한 분리 가능성 (Safe Separability for Autonomous Authorization)

문제 정의
자율 에이전트들은 모든 권한 관련 사실이 알려지기 전에 행동을 실행하는 경우가 점점 늘어나고 있다. 여기서 결정적인 순환 논리가 발생하는데, 어떤 행동이 허용되는지 결정하기 위해 추가적인 증거가 필요하지만, 그 증거를 얻는 행위 자체가 권한에 민감한(authorization-sensitive) 작업일 때 그러하다. 전통적인 접근 제어 모델은 알려진 신원, 속성 및 정책을 기준으로 요청을 평가하며, 조건부 계획법(contingent planning)은 믿음 상태(belief states)와 감지 행동(sensing actions)을 통해 불확실성을 처리한다. 그러나 기존 프레임워크는 행동의 정당성과 권한의 진전(authority progress)이 미해결된 권한 결정에 결합되어 있는 교차 지점을 적절히 다루지 못한다. 핵심 문제는 **안전한 분리 가능성(Safe Separability)**이다. 즉, 결정에 결정적인 불확실성을 해결할 때, 그 증거가 정당화하고자 하는 바로 그 권한 결정 자체를 전제하지 않고 해결할 수 있는지 여부를 결정하는 것이다. 구체적으로, 에이전트는 현재 자신의 지식 상태와 호환되는 모든 세계(world)에서 정당한 프로브(probe)만을 사용하여 불확실성을 해결해야 한다.

방법론
본 논문은 유한한 가능한 세계들의 집합($W$)과 호환되는 집합 $C \subseteq W$로 정의된 현재 지식 상태를 사용하여 이 문제를 정형화한다. 권한 결정은 함수 $D: W \to A$ (예: 승인/거부)이다. 시스템은 결정 결정적 분기(decision-critical branches, $D$가 $C$ 위에서 상수가 아닌 경우)와 해결된 분기를 구분한다.

방법론은 세 가지 주요 단계로 진행된다:

1. 정밀한 결합 상태 의미론(Exact Joint-State Semantics): 정밀한 재귀적 솔버(Algorithm 1)는 지식($C$)과 권한($A$)의 결합 상태에 대한 해결 가능성을 계산한다. 이는 정당한 프로브와 권한 업데이트의 모든 유효한 시퀀스를 탐색하는 참조 오라클(reference oracle) 역할을 한다.
2. 정규화 가설(Normalization Hypotheses): 저자는 감지와 권한 업데이트의 복잡한 인터리빙(interleaving)을 단순화할 수 있는지 테스트한다.
   • 단조 폐쇄 후 권한 감지(Monotone Closure-then-Authorized Sensing, MCAS): 엄격한 가정(단조적 토큰 추가, 세계 독립적 요구/승인, 권한을 변경하지 않는 감지 행동) 하에서, 본 논문은 모든 감지 단계 전에 권한을 포화시키는 것이 해결 가능성을 보존함을 증명한다(정리 1).
   • 나이브한 일반화의 실패: 정보가 있는 프로브가 권한을 변화시키는 경우 글로벌 폐쇄 규칙이 깨짐을 본 논문은 입증한다. 반례들은 전역적으로 정보가 있는 프로브가 특정 분기 내에서는 관측 상수(observation-constant)가 될 수 있지만, 권한 진전을 위해 여전히 필요할 수 있음을 보여준다. 전역적 정보성을 근거로 이러한 프로브를 폐기하면 거짓 음성(false negatives)이 발생한다.
3. 분기 상대적 권한 폐쇄(Branch-Relative Authority Closure, BRAC): 글로벌 폐쇄의 실패를 해결하기 위해, 저자는 BRAC를 제안한다. 이 메커니즘은 각 관측 후에 남은 호환 가능한 세계들을 기준으로 권한 폐쇄를 재계산한다. 이는 "분기 상수"(현재 분기의 모든 세계에서 동일한 관측을 생성하는 것)인 프로브를 식별하고, 다음 정보성 프로브를 선택하기 전에 권한 진전을 포화시키기 위해 이를 실행한다.

주요 기여

1. 정형화된 안전한 분리 가능성 의미론: 결정 해결과 정밀한 세계 식별을 분리하며, 적응형 실험 트리 내의 모든 프로브가 분기별로 정당해야 함을 정의한다.
2. 정밀 재귀 및 진단: 결합 지식-권한 상태를 위한 정밀 알고리즘과, 아직 호환되지 않는 권한 세계들을 남겨두면서도 가장 저렴한 정보성 실험을 식별하는 진단 도구를 제공한다.
3. 폐쇄의 정밀성 및 한계: 제한된 MCAS 클래스 내에서 권한 포화가 정밀함을 입증하는 정리와 함께, 정보가 있는 프로브가 권한을 부여할 때, 세계 의존적 승인, 그리고 철회(revocation)가 나이브한 글로벌 폐쇄를 무효화하는 이유를 보여주는 최소한의 반례를 제시한다.
4. 분기 상대적 권한 폐쇄(BRAC): 관측 후 매번 권한을 재계산하는 수정된 폐쇄 규칙이다. 이는 단조적 권한 진중에 필요하다면, 전역적으로는 정보가 있더라도 현재 분기상에서는 상수인 행동을 허용한다.
5. 재현성 패키지: 266개의 영구 회귀 테스트, 256개의 4-세계 결과 시스템에 대한 철저한 평가, 1,250개의 무작위 인증 비교, 그리고 10,000개의 세계까지 확장되는 스트레스 테스트를 포함하는 종합적인 소프트웨어 아티팩트(SAFESEP)를 제공한다.

결과

• MCAS 검증: MCAS 정규화는 선언된 클래스(단조적, 세계 독립적 모델) 내에서 정확하게 유지된다.
• 반례 해결: 4-세계 반례는 정보가 있는 프로브가 권한을 부여할 때 글로벌 폐쇄가 실패함을 확인했다.
• BRAC 일치성: 테스트된 단조적, 세계 독립적 모델 내에서, BRAC는 256개의 모든 완전한 이진 결과 시스템 및 무작위 비교에 대해 정밀한 결합 상태 탐색과 일치한다.
• 확장성: 프레임워크는 최대 10,000개의 세계를 가진 스트레스 테스트를 성공적으로 처리했다.
• 경계 조건: 프레임워크는 한계를 정확히 식별한다: 세계 의존적 승인 및 철회는 현재 BRAC 모델보다 더 풍부한 의미론을 요구한다.

의의 및 주장
본 논문은 결정 결정적 불확실성 하에서 안전한 증거 획득을 위한 재현 가능한 권한 특화 분기 상대적 폐쇄 프레임워크를 구축한다고 주장한다.

• 이론적 전환: 주요 의의는 행동을 전역적인 "센서" 또는 "권한 업데이트"로 분류하는 것에서 동적인, 분기 상대적 분류로 전환하는 것이다. 어떤 행동은 센서로 시작할 수 있지만, 이전의 증거가 그 출력이 달라지는 세계들을 제거함에 따라 순수한 권한 전이(authority transition)가 될 수 있다.
• 운영적 유용성: 이 프레임워크는 단조성과 세계 독립성 가정이 유지되는 한, 최종 권한 결정을 전제하지 않고도 에이전트가 현재 분기 상에서 안전하게 권한 진전을 포화시킬 수 있게 한다.
• 범위의 겸허함: 저자는 BRAC가 엔드 투 엔드 권한 아키텍처(신원, 위임 또는 암호화 인프라를 대체하는 것이 아님)나 일반적인 조건부 플래너가 아님을 명시적으로 밝힌다. 이는 특정 분해 프레임워크이며 명시된 가정 하에서 건전하다. 본 연구는 세계 의존적 승인이나 철회를 위한 권한 문제를 해결한다고 주장하는 것이 아니라, 현재의 정규화 기법이 실패하는 경계를 획정하는 것이다.

결과는 일반적인 복잡도 클래스 등가성에 대한 증명이 아니라, 테스트된 모델 내에서 BRAC 규칙의 건전성을 뒷받침하는 계산적 증거로서 제시된다. 이 프레임워크는 권한 제약을 위반하지 않으면서 증거를 획득해야 하는 자율 에이전트의 설계를 가이드하기 위한 것이다.