SplitAgent: A Privacy-Preserving Distributed Architecture for Enterprise-Cloud Agent Collaboration

이 논문은 민감한 데이터의 공유 없이 기업과 클라우드 간에 협업할 수 있도록, 작업 의미에 따라 동적으로 개인 정보를 보호하는 'SplitAgent'라는 분산 아키텍처를 제안하고, 이를 통해 높은 작업 정확도와 개인 정보 보호 수준을 동시에 달성함을 보여줍니다.

핵심

🏢 상황: "비밀스러운 회사"와 "천재적인 외부 컨설턴트"

상상해 보세요. 여러분은 **비밀스러운 회사 (기업)**를 운영 중입니다. 여기에는 고객 명단, 계약서, 비밀 코드 같은 아주 중요한 자료들이 있습니다.

한편, **천재적인 외부 컨설턴트 (클라우드 AI)**가 있습니다. 이 컨설턴트는 방대한 지식을 가지고 있어 복잡한 문제를 해결하고 전략을 세우는 데 탁월합니다. 하지만 이 컨설턴트는 직접 회사의 금고 (데이터) 를 열 수 없습니다.

기존의 문제점:
지금까지 기업들은 두 가지 선택지밖에 없었습니다.

1. 모든 자료를 컨설턴트에게 보여주기: 최고의 조언을 받지만, 비밀이 새어 나갈 위험이 큽니다. (완전한 신뢰 필요)
2. 모든 일을 내부에서 해결하기: 비밀은 안전하지만, 컨설턴트의 뛰어난 능력을 못 써서 결과가 평범합니다.

💡 해결책: "스플릿 에이전트"라는 똑똑한 비서

이 논문이 제안한 스플릿 에이전트는 바로 이 두 가지 사이를 이어주는 지능형 비서입니다. 이 비서는 회사의 자료실 (사내) 에 상주하면서, 컨설턴트에게 보내기 전에 자료를 상황에 맞춰 변형해 줍니다.

1. 상황별 변신 (맥락 인식형 위생 처리)

이 비서의 가장 큰 특징은 **"무조건 가리는 게 아니라, 상황에 맞춰 다르게 가린다"**는 점입니다.

• 계약서 검토를 요청했을 때:

  • 기존 방식: 모든 이름과 금액을 'XXXX'로 지워버림. (컨설턴트가 "누가 얼마를 줬는지"도 모르게 되어 조언이 불가능해짐)
  • 스플릿 에이전트: "A 회사"와 "B 회사"라는 이름은 지우고 **"회사 A"와 "회사 B"**로 바꾸며, 금액은 **"큰 금액"**으로 바꿉니다. 하지만 계약 조항의 구조와 법적 논리는 그대로 둡니다.
  • 결과: 컨설턴트는 "누가 누구인지"는 몰라도, "계약이 공정한지"는 완벽하게 분석할 수 있습니다.

• 코드 (프로그램) 검토를 요청했을 때:

  • 비밀번호나 서버 주소는 지우지만, 코드의 구조와 논리는 그대로 둡니다.

• 고객 상담 기록 분석:

  • 고객의 이름과 전화번호는 지우지만, **고객의 감정 (화남, 기쁨)**과 불만 사항의 종류는 그대로 둡니다.

2. 예산 관리 (프라이버시 예산)

이 비서는 **"비밀을 얼마나 많이 흘려도 되는지"**를 계산하는 예산 관리자 역할도 합니다.

• "오늘은 중요한 계약서 3 건만 처리했으니, 비밀 유출 허용 한도 (예산) 를 10% 씩 썼네."
• 만약 예산이 바닥나면, 더 이상 민감한 정보를 보내지 않고 "이건 제가 직접 처리할게요"라고 말합니다. 이렇게 하면 한 번에 모든 비밀이 털리는 것을 방지합니다.

3. 검증 가능한 약속 (제로 지식 증명)

컨설턴트는 "내가 이 자료를 분석해서 결론을 냈어"라고 말할 때, 실제 원본 자료를 보지 않고도 그 분석이 맞는지 확인할 수 있는 방법을 제공합니다. 마치 "내가 이 열쇠로 문을 열었어"라고 말하면서, 열쇠 자체는 보여주지 않고 문이 열린 사실만 증명하는 것과 같습니다.

---

📊 실제 효과: "안전함"과 "성능"을 모두 잡다

이 시스템을 실험해 본 결과, 놀라운 성과를 거두었습니다.

• 기존 방식 (정적 위생 처리): 비밀을 지키려고 무조건 다 지워버려서, AI 가 제대로 분석하지 못해 정답률이 73% 정도였습니다.
• 스플릿 에이전트: 상황에 맞춰 지우니까, AI 가 훨씬 똑똑하게 분석할 수 있어 **정답률이 83.8%**로 올라갔습니다.
• 비밀 보호: 동시에 **비밀 보호율은 90.1%**를 달성했습니다.

즉, **"비밀은 꽉 막으면서, AI 의 머리는 100% 활용"**하는 효과를 낸 것입니다.

🚀 결론: 왜 이것이 중요한가요?

이 기술은 기업들이 **"클라우드 AI 의 강력한 능력"**과 **"자사 데이터의 안전"**이라는 두 마리 토끼를 모두 잡을 수 있게 해줍니다.

한 줄 요약:
"스플릿 에이전트는 기업의 비밀 문서를 상황에 맞춰 '가상 인형'으로 변신시켜 클라우드 AI 에게 주고, AI 는 그 인형을 통해 진짜 문제를 해결해 주는 똑똑한 중개 시스템입니다."

이제 기업들은 더 이상 "비밀을 지키느라 AI 를 못 쓰거나, AI 를 쓰느라 비밀을 털리는" 선택의 기로에 서지 않아도 됩니다.

기술 요약

1. 문제 정의 (Problem Definition)

기업이 클라우드 기반 AI 에이전트를 도입할 때 직면하는 근본적인 딜레마는 성능과 프라이버시 간의 상충 관계입니다.

• 현황: 최신 대규모 언어 모델 (LLM) 은 강력한 추론 능력을 제공하지만, 이를 활용하려면 민감한 기업 데이터 (고객 정보, 재무 기록, 지적 재산권 등) 를 클라우드에 공유해야 합니다.
• 기존 프레임워크의 한계: 현재 에이전트 통신 프로토콜 (Anthropic 의 MCP, Google 의 A2A 등) 은 에이전트 간 완전한 신뢰와 데이터 공유를 전제로 합니다. 이는 기밀 정보가 포함된 기업 환경에는 적합하지 않습니다.
• 기존 해결책의 부족: 데이터를 로컬에 두면 AI 성능이 제한되고, 클라우드에 모두 공유하면 프라이버시가 침해되는 '이분법적 선택'만 존재했습니다. 또한, 기존 프라이버시 보호 기술 (동형 암호화, MPC 등) 은 성능 저하가 크거나, 정적 (Static) 인 데이터 마스킹은 작업의 유용성 (Utility) 을 크게 떨어뜨립니다.

2. 방법론 (Methodology)

저자는 SplitAgent라는 새로운 분산 아키텍처를 제안하여 기업 (프라이버시 에이전트) 과 클라우드 (추론 에이전트) 간의 안전한 협업을 가능하게 합니다.

A. 시스템 아키텍처

시스템은 두 가지 주요 구성 요소로 나뉩니다.

1. 프라이버시 에이전트 (기업 측):
   • 민감한 원본 데이터를 관리하고 로컬에서 실행됩니다.
   • 컨텍스트 인식 동적 정제 (Context-Aware Dynamic Sanitization) 엔진을 통해 작업 의미에 따라 데이터를 정제하고 추상화합니다.
   • 로컬 RAG(검색 증강 생성), 도구 실행, 프라이버시 예산 관리를 담당합니다.
2. 추론 에이전트 (클라우드 측):
   • 정제된 추상 데이터 (Sanitized Abstractions) 만을 입력으로 받아 고급 추론, 계획 수립, 전략 생성을 수행합니다.
   • 원본 데이터에 직접 접근할 수 없습니다.

B. 핵심 기술: 컨텍스트 인식 동적 정제

정적 규칙 기반 마스킹과 달리, **작업의 의미 (Task Semantics)**에 따라 정제 전략을 동적으로 변경합니다.

• 계약 검토: 당사자 이름과 금액은 숨기지만, 법적 구조와 조항 관계는 유지합니다.
• 코드 검토: 자격 증명 (Credentials) 과 내부 URL 은 제거하지만, 문법 구조와 API 패턴은 유지하여 코드 품질 분석이 가능하게 합니다.
• 재무 분석: 구체적인 계좌 번호와 금액은 숨기지만, 수치적 관계와 추세를 유지합니다.
• 알고리즘: 작업 유형 ($T$), 프라이버시 예산 ($\epsilon$), 그리고 데이터 ($D$) 를 입력받아 차분 프라이버시 (Differential Privacy) 를 만족하면서도 작업 유용성을 최대화하는 정제 데이터 ($\tilde{D}$) 를 생성합니다.

C. SplitAgent 프로토콜

기존 에이전트 프로토콜을 확장하여 다음 기능을 포함합니다.

• 차분 프라이버시 (DP) 컨텍스트 공유: 정제된 데이터에 조정된 노이즈를 추가하여 재구성 공격을 방지합니다.
• 영지식 증명 (Zero-Knowledge Verification): 클라우드 에이전트가 민감한 데이터 없이도 도구 실행의 유효성을 검증할 수 있게 합니다.
• 프라이버시 예산 관리: 세션 전체에 걸친 누적 프라이버시 비용 ($\epsilon$) 을 추적하고 동적으로 할당합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 분산 아키텍처: 데이터 처리와 추론을 분리하여 민감한 데이터가 클라우드에 노출되지 않으면서도 고급 AI 기능을 활용할 수 있는 구조를 제시했습니다.
2. 컨텍스트 인식 동적 정제: 작업 유형에 따라 정제 수준과 방식을 적응적으로 변경하여, 정적 방법 대비 24.1% 의 작업 유용성 향상과 67% 의 프라이버시 유출 감소를 달성했습니다.
3. 확장된 프로토콜: 차분 프라이버시, 영지식 검증, 예산 관리를 에이전트 통신 프로토콜에 통합하여 형식적인 프라이버시 보장을 제공하면서도 호환성을 유지했습니다.

4. 실험 결과 (Results)

다양한 기업 시나리오 (계약 검토, 코드 감사, 재무 분석 등) 에 대한 종합적인 실험을 통해 다음과 같은 결과를 도출했습니다.

• 성능 vs 프라이버시 균형:

  • SplitAgent: 작업 정확도 83.8%, 프라이버시 보호 90.1% 달성.
  • 정적 분할 (Static-Split): 정확도 73.2%, 프라이버시 보호 79.7%.
  • 전체 클라우드 (Full-Cloud): 정확도 92.5% 이지만 프라이버시 보호 0%.
  • 전체 로컬 (Full-Local): 프라이버시 보호 100% 이지만 정확도 69.2% 로 성능이 낮음.
  • 결론: SplitAgent 는 두 가지 목표를 가장 잘 균형 잡았습니다.

• 작업별 유용성 향상:

  • 컨텍스트 인식 정제는 정적 정규식 (Regex) 대비 24.1%, 정적 NER 대비 15.2% 더 높은 작업 유용성을 보였습니다.
  • 특히 고객 지원 (Sentiment 분석) 에서 94.2% 의 높은 성능을 기록했습니다.

• 프라이버시 - 유용성 트레이드오프:

  • 최적의 균형점 ($\epsilon = 0.5$) 에서 83.4% 정확도와 94.5% 프라이버시 보호를 동시에 달성했습니다.

• 공격 저항성:

  • 재구성 (Reconstruction), 추론 (Inference), 링크 가능성 (Linkability) 공격에 대해 정적 마스킹 대비 공격 성공률을 89% 감소시켰습니다 (평균 공격 성공률 0.110).

• 예산 관리:

  • 50 회 상호작용 동안 지능적인 예산 할당으로 총 유용성 (34.2) 을 기존 방식 (Naive: 24.3) 보다 크게 향상시켰으며, 작업 완료율 96% 를 기록했습니다.

5. 의의 및 결론 (Significance)

• 실용적인 기업 AI 도입 경로: SplitAgent 는 기업이 민감한 데이터를 클라우드에 공유하지 않고도 최첨단 LLM 의 추론 능력을 활용할 수 있는 실질적인 솔루션을 제공합니다.
• 유연한 프라이버시 보호: "모든 것을 숨기거나" "모든 것을 공유하거나"라는 이분법적 접근을 넘어, 작업의 목적에 따라 필요한 정보만 보호하는 적응형 프라이버시를 실현했습니다.
• 미래 지향성: 이 아키텍처는 향후 동형 암호화나 다자간 보안 계산 (MPC) 과 같은 고급 기술과의 통합, 그리고 다중 기업 간 협업 시나리오로 확장될 수 있는 기반을 마련했습니다.

요약하자면, SplitAgent 는 데이터와 추론의 분리, 맥락 기반의 동적 정제, 그리고 형식적 프라이버시 보장을 통해 기업 환경의 AI 도입 장벽을 해소하는 획기적인 아키텍처입니다.