기술 요약: MAGIQ - 증명 가능한 보안을 갖춘 양자 내성 다중 에이전트 AI 거버넌스 시스템

1. 문제 제기

자율적 계획 수립 및 다단계 작업 실행이 가능한 에이전트 AI 시스템의 급속한 배포는 중대한 거버넌스 과제를 야기합니다. 기존 프레임워크는 에이전트가 소유자 정의 통신 정책을 준수하고, 상호작용에 대한 책임을 유지하며, 미래의 양자 컴퓨팅 위협에 저항할 수 있도록 보장하는 안전한 아키텍처를 종종 결여하고 있습니다.

현재 솔루션은 두 가지 주요 한계에 직면해 있습니다:

1. 정책 집행 부재: Agent2Agent(A2A) 및 Model Context Protocol(MCP)과 같은 프로토콜은 상호 운용성을 장려하지만, 런타임 중재 및 정책 집행 메커니즘이 부족하여 에이전트가 문서화된 공격에 취약하게 만듭니다. 유일한 실용적 시스템인 SAGA는 토큰 기반 접근 제어를 집행하지만, 정책 정의에 대한 형식적 보안 모델을 결여하고 있으며 RSA, ECC 와 같은 Shor 알고리즘 및 Grover 알고리즘에 취약한 고전 암호화 원시 함수에 의존합니다.
2. 양자 취약성: NIST 는 양자 컴퓨터의 위협으로 인해 2030 년까지 표준 공개 키 알고리즘 (RSA, DH, ECC) 을 폐기할 것을 권장합니다. 단순히 SAGA 의 원시 함수를 양자 내성 대응물로 교체하는 것은 상당한 오버헤드를 초래하며, 정책 정의 및 형식적 보안 보장의 근본적인 한계를 해결하지 못합니다.

핵심 문제는 다중 에이전트 상호작용을 위한 풍부한 의미 인식 정책 집행과 증명 가능한 양자 내성 보안을 동시에 제공하는 거버넌스 프레임워크의 부재입니다.

2. 방법론

저자들은 효율적인 양자 내성 암호화 (PQC) 프로토콜을 사용하여 다중 에이전트 AI 시스템에 대한 정책을 정의하고 집행하도록 설계된 MAGIQ 프레임워크를 제안합니다.

2.1 핵심 추상화

MAGIQ 는 저수준 전송 메시지와 구별되는 에이전트 의미를 포착하기 위해 두 가지 애플리케이션 레벨 통신 추상화를 도입합니다:

• A-세션: 두 에이전트 (개시자 $A_I$ 및 응답자 $A_R$) 간의 1 대 1 통신을 모델링합니다.
• C-세션: 오케스트레이터 에이전트와 다른 에이전트 집합 간의 1 대 다 통신을 모델링합니다.
• Task-msg: 이러한 세션 내의 통신 단위로, 의도, 데이터 (페이로드), 컨텍스트, 에이전트 신원을 결합합니다.

2.2 정책 정의

사용자는 에이전트 상호작용을 규제하는 "예산"을 정의합니다. MAGIQ 는 네 가지 특정 정책 유형을 집행합니다:

1. 승인된 연락처 목록 ($ACL_A$): 어떤 에이전트가 연락을 개시하고 어떤 에이전트가 응답할 수 있는지를 정의합니다.
2. A-세션 참여 예산: 에이전트가 개시하거나 응답할 수 있는 세션 수를 제한합니다.
3. Task-msg 예산 ($Q_A$): 세션 내에서 에이전트가 보낼 수 있는 메시지 수를 제한합니다.
4. 시간 예산 ($\Delta_A$): 에이전트가 작업에 대해 활성 상태로 유지되는 기간을 제한합니다.

2.3 암호화 집행 메커니즘

MAGIQ 는 모든 상호작용에 대해 신뢰할 수 있는 제 3 자에 의존하지 않고 이러한 정책을 집행하기 위해 양자 내성 원시 함수를 활용합니다:

• 해시 체인: Task-msg 의 효율적이고 안전한 계수를 위해 사용됩니다. 에이전트는 메시지 예산에 해당하는 해시 체인을 구성합니다. 각 메시지는 현재 약속된 값의 사전 이미지를 노출하여 상대방이 예산이 초과되지 않았음을 확인할 수 있게 합니다. 이러한 체인은 재사용을 방지하기 위해 특정 세션과 에이전트에 바인딩됩니다.
• 머클 트리: C-세션에서 여러 해시 체인 (각 응답자 하나씩) 의 종단 값을 단일 루트로 집계하는 데 사용됩니다. 이를 통해 오케스트레이터는 $m$개의 세션에 대해 $m$개의 별도 서명이 필요한 대신 단일 서명으로 사용자 승인 세션의 멤버십을 증명할 수 있습니다.
• 양자 내성 서명: 시스템은 장기 신원 및 정책 승인을 위해 해시 기반 서명 (특히 XMSS) 을 사용하여 양자 적대자에 대한 보안을 보장합니다.
• PQ-TLS: 모든 통신은 상호 인증된 양자 내성 TLS 채널을 통해 발생합니다.

2.4 시스템 아키텍처

시스템은 세 가지 개체를 포함합니다:

• 사용자 ($U$): 정책을 정의하고 에이전트를 소유합니다.
• 에이전트 ($A$): 작업을 실행하는 자율 개체입니다.
• 제공자 ($TA$): 사용자와 에이전트 레지스트리를 관리하고 발견 및 초기 승인을 용이하게 하는 정직하지만 호기심 많은 개체입니다.

작업 흐름은 다음과 같습니다:

1. 등록: 사용자와 에이전트가 제공자에 등록하여 인증서 및 서명 키를 획득합니다.
2. 에이전트 발견: 개시자는 제공자에 쿼리를 수행하여 응답자가 각각의 연락처 정책 하에서 승인되었는지 확인합니다.
3. 세션 수립: 에이전트는 서명된 승인 토큰 및 해시 체인 약속의 교환을 포함하는 핸드셰이크를 수행합니다.
4. 메시지 전송: 에이전트는 Task-msg 를 교환하고 해시 체인 토큰을 업데이트하며 무결성을 위해 HMAC 태그를 검증합니다.

3. 주요 기여

본 논문은 다음과 같은 기여를 주장합니다:

1. MAGIQ 프레임워크: 사용자가 풍부한 통신 및 접근 제어 정책 예산을 정의할 수 있도록 허용하는 시스템으로, 양자 내성 암호화 원시 함수를 통해 집행되며 Task-msg 귀속을 통해 책임성을 제공합니다.
2. 형식적 보안 모델: 정책 정의 및 정책 집행이 적용된 안전한 에이전트 통신을 위한 범용 구성 가능성 (UC) 프레임워크 모델입니다. 저자들은 MAGIQ 프로토콜이 정의된 이상적 기능 ($F_{Reg}$, $F_{A-auth}$, $F_{Ases}$, $F_{Cses}$) 을 안전하게 실현함을 증명합니다.
3. 효율성 평가: MAGIQ 가 최첨단 고전 시스템인 SAGA 와 비교하여 실용적임을 보여주는 실증적 평가로, 실제 네트워크 조건에서 양자 내성 오버헤드가 무시할 수 있음을 보여줍니다.

4. 실험 결과

저자들은 다양한 LLM 백엔드 (GPT-4.1, GPT-5.4, Qwen) 및 작업 유형 (캘린더, 이메일, 작성) 을 사용하여 MAGIQ 를 SAGA 와 비교 평가했습니다.

• 계산 오버헤드:
  • 등록: MAGIQ 는 XMSS 키 트리 사전 계산으로 인해 사용자/에이전트 등록에 약 36 초의 일회성 비용을 발생시킵니다. 제공자 측 등록은 낮게 유지됩니다 (~5.4 ms).
  • 세션당: 반복 비용은 균일하게 5 ms 미만입니다.
  • 데이터 전송: MAGIQ 는 효율적인 토큰 처리로 인해 데이터 전송 오버헤드를 크게 줄입니다 (개시 에이전트의 경우 SAGA 대비 0.03 ms 대 1.44 ms).
• 프로토콜 오버헤드:
  • 세션당 요청 수 ($Q_{max}$) 가 증가함에 따라 평균화 오버헤드가 급격히 감소합니다.
  • 실제 세션 크기 ($Q_{max} \ge 15$) 에서 MAGIQ 의 오버헤드는 지리적 지연과 관계없이 SAGA 와 10 ms 이내로 수렴합니다. 추가적인 PQC 비용은 네트워크 지연 변동에 의해 흡수됩니다.
• 작업 완료:
  • MAGIQ 는 작업 실행에 2 에이전트 기준 약 0.176 초에서 다중 에이전트 기준 약 0.336 초의 일정한 오버헤드를 추가합니다.
  • 이는 모든 테스트된 모델 및 작업에서 총 실행 시간의 2% 미만을 차지하여 LLM 추론 지연에 비해 비용이 사실상 무시할 수 있음을 확인시켜 줍니다.
• 대역폭:
  • MAGIQ 는 PQC 인증서 및 서명으로 인해 세션 수립 중 더 높은 대역폭을 필요로 합니다 (SAGA 대비 88.65 KB 대 2.12 KB).
  • 그러나 요청당 데이터 전송은 비교 가능합니다 (0.56 KB 대 0.59 KB).
• 확장성:
  • 제공자 오버헤드는 에이전트 수에 따라 선형적으로 증가하지만, 짧은 세션 수명을 가진 100 개의 에이전트라도 여전히 무시할 수 있습니다.
  • 오케스트레이터 오버헤드는 수신 에이전트 수에 따라 선형적으로 증가하지만 세션 수명이 증가함에 따라 크게 감소합니다.

5. 중요성 및 주장

본 논문은 MAGIQ 를 에이전트 AI 시스템을 위한 양자 내성 안전한 솔루션을 향한 첫걸음으로 위치시킵니다. 그 중요성은 다음과 같습니다:

• 증명 가능한 보안: 이전의 이론적 제안과 달리 MAGIQ 는 정책 집행 및 양자 다항 시간 적대자에 대한 보안 보장을 위한 형식적 UC 기반 증명을 제공합니다.
• 실용성: 평가는 양자 내성 암호화로의 전환이 에이전트 워크플로우에 금지적인 성능 패널티를 부과하지 않음을 보여주어, 즉각적인 배포를 위한 실현 가능한 솔루션임을 입증합니다.
• 의미 인식: 정책 집행을 전송 계층에서 애플리케이션 계층 (Task-msg) 으로 이동시킴으로써 MAGIQ 는 거버넌스가 에이전트 작업의 실제 의미와 정렬되도록 보장하여 전송 계층 보안을 우회하는 공격을 방지합니다.

저자들은 MAGIQ 가 엄격하고 미래 지향적인 보안의 필요성과 복잡한 다중 에이전트 AI 시스템에 필요한 운영 효율성 사이의 균형을 성공적으로 유지한다고 결론지었습니다.