Maris: A Formally Verifiable Privacy Policy Enforcement Paradigm for Multi-Agent Collaboration Systems

1. 문제 정의 (Problem)

대규모 언어 모델 (LLM) 기반의 다중 에이전트 협업 시스템 (MACS) 은 복잡한 문제를 해결하는 데 탁월한 능력을 보이지만, 에이전트 간의 정보 교환 및 외부 제 3 자 (LLM 제공자, 도구, 사용자 등) 와의 상호작용 과정에서 민감한 데이터 유출 및 개인정보 보호 정책 위반의 심각한 위험이 존재합니다.

기존 MACS 및 보안 솔루션의 주요 한계점은 다음과 같습니다:

• 세분화된 통제 부재: 에이전트 간 통신 및 에이전트 - 환경 상호작용에 대한 세밀한 데이터 보호 통제 기능이 부족합니다.
• 형식적 보장 (Formal Guarantees) 의 부재: 기존 접근법 (휴리스틱 또는 LLM 기반 감지) 은 정책 위반을 탐지할 수 있을 뿐, 수학적으로 검증 가능한 (formally verifiable) 정책 강제성을 제공하지 못합니다.
• 복잡한 정책 표현의 어려움: GDPR 과 같은 규정 준수 요구사항 (데이터 최소화, 목적 제한, 시간적 제약 등) 을 표현하기 위해 시계열적 제약 (temporal constraints) 과 필드 수준의 세밀한 제어 (field-level control) 가 필요하지만, 이를 구현하기 어렵습니다.
• 배포의 비파괴성 부족: 기존 솔루션은 애플리케이션 로직을 대폭 수정하거나 재작성해야 하므로, 개발 프레임워크에 통합하기 어렵고 오버헤드가 큽니다.

2. 방법론 (Methodology)

이 논문은 MACS 개발 프레임워크 수준에서 **형식적 검증이 가능한 개인정보 보호 정책 강제 프레임워크인 'Maris'**를 제안합니다. Maris 는 기존 오픈소스 프레임워크 (AG2, LangGraph) 에 비파괴적으로 통합됩니다.

핵심 구성 요소 및 설계 원리

1. 타입화된 에이전트 행동 명세 (Typed Agent Action Specifications):

   • 에이전트가 수행할 수 있는 모든 행동 (에이전트 간 메시지 전송, 도구 호출) 을 사전에 정의된 YAML 기반의 구조화된 스키마로 제한합니다.
   • Action Generator: 시스템 프롬프트와 작업 설명을 기반으로 LLM 을 사용하여 각 에이전트의 행동 스키마와 타입 정의 (Signature) 를 자동으로 생성합니다. 이는 자연어 파싱의 모호성을 제거하고 형식적 검증이 가능한 구조로 변환합니다.

2. 정책 표현 (MFOTL 기반):

   • Metric First-Order Temporal Logic (MFOTL) 을 사용하여 정책을 정의합니다.
   • 시간적 제약: "작업 A 는 작업 B 가 발생한 후 T 초 이내에만 수행되어야 함"과 같은 시계열적 조건을 표현 가능합니다.
   • 세밀한 정보 흐름 제어: "특정 에이전트에게 특정 필드 (예: 전화번호) 를 전송하지 않음"과 같은 필드 수준의 차단 또는 마스킹을 지원합니다.
   • 정책은 YAML 형식으로 정의되며, MFOTL 구문 (MonPoly 등) 을 통해 검증됩니다.

3. 런타임 정책 강제 (Runtime Policy Enforcement):

   • Reference Monitor (참조 모니터): 에이전트 행동 실행 전에 메시지를 가로채고, 행동의 구조와 타입을 검증합니다.
   • Event Parser: 가로챈 행동을 MFOTL 형식의 사건 (Event) 으로 변환합니다.
   • Policy Enforcer (MonPoly 활용): 변환된 사건과 정의된 정책을 비교하여 위반 여부를 검증합니다.
     • Block: 위반 시 행동 차단.
     • Mask: 민감 필드만 마스킹 (예: [REDACTED]) 후 전달.
     • Warn: 경고 로그만 남기고 허용.

4. 비파괴적 통합 (Non-intrusive Deployment):

   • AG2 의 GroupChatManager 및 ConversableAgent, LangGraph 의 Node 등을 확장하여 기존 애플리케이션 로직을 수정하지 않고도 정책 강제 레이어를 삽입합니다.

3. 주요 기여 (Key Contributions)

1. Maris 프레임워크 개발 및 평가: MACS 개발 프레임워크 수준에서 형식적 보장을 제공하는 개인정보 보호 정책 준수 솔루션을 설계, 구현, 평가했습니다.
2. 자율적 정책 준수 평가 프레임워크: 의료, 공급망 최적화, 여행 에이전트 등 다양한 실제 시나리오에서 Maris 의 효과를 평가하기 위한 자동화된 평가 프레임워크를 구축했습니다. 이 프레임워크는 내부 에이전트 침해, 외부 공격 (프롬프트 인젝션), 시간적 제약 위반 등 다양한 위협 시나리오를 시뮬레이션합니다.
3. 실제 프레임워크 통합 및 오픈소스: Maris 를 AG2 프레임워크에 통합하여 배포 가능하게 만들었으며, 관련 코드, 데이터셋, 평가 스크립트를 공개했습니다.

4. 평가 결과 (Results)

세 가지 실제 MACS 태스크 스위트 (HospitalGPT, OptiGuide, TravelAgent) 를 대상으로 한 평가 결과는 다음과 같습니다.

• 보안성 (Privacy Policy Violation Rate, PVR):
  • 수동 (Passive) 및 능동 (Proactive, 프롬프트 인젝션 포함) 공격 시나리오 모두에서 위반률을 0% 로 감소시켰습니다.
  • 기존 시스템 (Maris 없음) 은 민감한 데이터 (환자 이름, 전화번호, 공급자 정보 등) 가 권한 없는 에이전트에게 유출되거나, 동의 없이 데이터가 사용되는 등 75~100% 의 위반률을 보였습니다.
• 유용성 (Task Success Rate, TSR):
  • 정책이 강제되더라도 작업 성공률은 100% 를 유지했습니다. (단, 시간적 제약 위반으로 인해 작업 자체가 차단되는 경우를 제외하고는 정상 수행됨).
  • 예를 들어, 환자 정보 마스킹이 적용되더라도 'Outreach' 에이전트는 필요한 정보를 받아 SMS 발송을 성공적으로 수행했습니다.
• 성능 오버헤드 (Performance Overhead):
  • Maris 도입으로 인한 평균 응답 지연은 **약 4.87% (약 1.13 초)**였습니다.
  • 오버헤드의 대부분은 정책 검증 (Policy Checking) 에서 발생했으며, 스키마 검증 및 파싱은 미미한 수준 (<1ms) 이었습니다.
  • 작업 스위트별 오버헤드: OptiGuide (1.1%), HospitalGPT (5.0%), TravelAgent (9.1%).

5. 의의 및 결론 (Significance)

• 형식적 보장의 실현: LLM 기반 에이전트 시스템에서 최초로 수학적으로 검증 가능한 (formally verifiable) 개인정보 보호 정책 강제를 실현하여, GDPR 등 규제 준수를 보장합니다.
• 실용적인 통합: 기존 개발 프레임워크를 수정하지 않고도 쉽게 통합할 수 있어, 실제 산업 환경에서의 빠른 채택이 가능합니다.
• 정교한 제어: 단순한 키워드 차단을 넘어, **시간적 제약 (Temporal Constraints)**과 **필드 단위 (Field-level)**의 세밀한 정보 흐름 제어를 가능하게 하여 복잡한 규정 준수 요구사항을 충족합니다.
• 미래 지향성: 다중 에이전트 시스템의 보안과 프라이버시 보호에 대한 새로운 패러다임을 제시하며, 안전한 대규모 에이전트 협업의 기반을 마련했습니다.

이 연구는 AI 에이전트 시스템이 복잡한 업무에 활용될 때 발생할 수 있는 프라이버시 리스크를 체계적으로 해결하고, 규제 준수와 시스템 효율성을 동시에 달성할 수 있는 길을 열었습니다.