AEGIS: Preventing Cross-Domain Resource Abuse in MCP
본 논문은 생태계의 유연성을 유지하면서도 도메인 간 자원 남용에 대한 세밀한 방어 체계를 관리자가 정의할 수 있도록, 거대 언어 모델을 활용하여 다양한 MCP 도구 호출을 분석하고 정규화하는 정책 집행 구성 요소인 AEGIS를 소개한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능 에이전트가 다른 컴퓨터 프로그램에 연락하여 데이터를 가져오거나, 이미지를 분석하거나, 복잡한 작업을 관리할 수 있는 개인 비서 역할을 수행하는 세상을 상상해 보십시오. 이를 가능하게 하기 위해 엔지니어들은 모델 컨텍스트 프로토콜(Model Context Protocol)이라는 표준 언어를 만들었으며, 이는 AI 에이전트가 외부 도구와 구조적인 방식으로 대화할 수 있게 해줍니다. 이것은 마치 소프트웨어를 위한 유니버설 리모컨과 같아서, AI가 데이터베이스에 파일 목록을 요청하거나 지도 서비스에 특정 위치를 요청할 수 있게 합니다. 하지만 리모컨이 채널을 바꾸거나 실수로 TV 전체 전원을 꺼버릴 수도 있는 것처럼, 이러한 AI 에이전트는 때때로 너무 크거나 과도한 요구를 할 수 있습니다. 만약 에이전트가 너무 긴 영상을 요청하거나, 너무 방대한 결과 목록을 요청하거나, 너무 높은 해상도의 이미지를 요청한다면, 이는 배후의 컴퓨터 시스템을 압도하여 시스템을 느려지게 하거나 아예 멈추게 할 수 있습니다. 이는 AI가 악의적이기 때문이 아니라, 무엇이든 요청할 수 있는 AI의 능력과 더불어, 많은 도구가 받아들일 수 있는 한계치가 엄격하지 않다는 사실이 결합되어 발생하는 결과입니다.
IBM 리서치의 연구진은 이러한 자원 고갈 문제를 해결하기 위해 AEGIS라는 새로운 시스템을 개발했습니다. 그들이 직면한 핵심 과제는 AI가 사용할 수 있는 모든 도구가 서로 다르다는 점이었습니다. 어떤 도구는 검색 영역을 정의하기 위해 "반경(radius)"을 요구하고, 다른 도구는 "거리(distance)"를 요구하며, 또 다른 도구는 "마일(miles)"이나 "킬로미터(kilometers)"를 사용합니다. 또한, 이 도구들은 텍스트, 영상, 위치와 같이 서로 다른 유형의 데이터를 처리하며, 각 데이터 유형은 컴퓨터 전력을 독특한 방식으로 소비합니다. 천 개의 텍스트 메시지를 요청하는 것은 컴퓨터가 처리하기 쉽지만, 천 개의 고화질 영상을 요청하는 것은 시스템을 다운시킬 수 있습니다. 이처럼 요청의 언어와 구조가 매우 다양하기 때문에, 보안 팀이 모든 도구에 적용되는 단일한 규칙 세트를 작성하는 것은 거의 불가능했습니다. 수백 개의 서로 다른 도구에 대해 이러한 규칙을 수동으로 작성하는 것은 느리고 오류가 발생하기 쉬우며 확장하기 어렵습니다.
이를 극려하기 위해 연구진은 대규모 언어 모델의 추론 능력을 사용하여 번역가이자 문지기 역할을 하는 시스템인 AEGIS를 구축했습니다. 모든 도구를 암기하려고 노력하는 대신, 이 시스템은 AI가 사용할 수 있는 각 도구의 설명을 분석하여 해당 도구가 어떤 종류의 데이터를 다루고 어떤 종류의 동작을 수행하는지 자동으로 파악합니다. 그런 다음 "제한(limit)", "개수(count)", "최대 결과(max_results)"와 같이 혼란스럽고 다양한 매개변수 명칭들을 하나의 표준화된 어휘로 번환합니다. 예를 들어, 위치 도구에서 "50마일"을 요청하는 것과 텍스트 도구에서 "100개의 결과"를 요청하는 것이 모두 제대로 제어되지 않으면 위험할 수 있는 특정 데이터의 양을 요청하는 것임을 인식합니다. 이처럼 다양한 요청을 공통된 언어로 변환함으로써, 시스템은 전체 생태계에 걸쳐 일관된 안전 규칙을 적용할 수 있습니다.
시스템이 도구를 이해하고 나면, 단순히 어디에 제한을 둘지 추측하는 것이 아니라 실제로 측정합니다. 연구진은 서버로 보내는 요청의 크기를 점진적으로 늘려가며 서버가 언제 어려움을 겪거나 오류를 일으키는지 면밀히 관찰하는 일련의 테스트를 수행했습니다. 그들은 컴퓨터가 실패 없이 부하를 처리할 수 있는 정확한 지점을 찾아냈고, 그 지점을 안전 경계선으로 설정했습니다. 벤치마킹(benchmarking)이라고 알려진 이 과정은 시스템이 마주치는 모든 개별 도구에 대해 맞춤형 안전 제한치를 생성할 수 있게 하여, AI가 컴퓨터를 망가뜨리지 않고도 본연의 업무를 수행할 수 있도록 보장합니다.
연구팀은 클라우드 컴퓨팅, 데이터베이스, 검색 엔진 등 광범위한 실제 서비스에서 추출한 약 1,000개의 서로 다른 도구 모음을 대상으로 이 접근 방식을 테스트했습니다. 이 시스템은 각 도구가 무엇을 하는지 식별하고 다루는 데이터 유형을 분류하는 데 매우 정확했으며, 데이터 유형과 작업의 성격을 분류하는 데 있어 98% 이상의 정확도를 보였습니다. 또한 어떤 도구가 자원 문제를 일으킬 가능성이 높은지 성공적으로 식별하고 그 매개변수들을 높은 정밀도로 정규화했습니다. 연구진이 AI 에이전트가 과도한 수의 이미지를 요청하여 서버를 압도하려는 시나리오를 시뮬레이션했을 때, AEGIS가 설치된 시스템은 해로운 요청을 차단하여 서버를 원활하게 유지한 반면, 보호되지 않은 서버는 부하로 인해 다운되었습니다.
이 연구는 유연성을 희생하지 않으면서도 이러한 복잡하고 상호 연결된 AI 시스템을 보안할 수 있다는 것을 보여줍니다. 요청의 의도를 이해하기 위한 지능적인 분석과 시스템의 실제 용량을 측정하는 방법을 사용함으로써, AEGIS는 사용되는 도구의 다양성에 적응하여 자원 남용으로부터 보호하는 방법을 제공합니다. 연구진은 이 시스템이 매우 효과적이지만, 가능한 모든 매개변수 이름을 완벽하게 번역하는 작업은 여전히 도전적인 과제로 남아 있으며, 향후 연구는 여러 도구가 순차적으로 사용되는 더욱 복잡한 시나리오로 보호 범위를 확장하는 데 집중할 것이라고 밝혔습니다. 현재로서는, 이 시스템은 AI 에이전트가 점점 더 유능해지고 널리 보급됨에 따라, 그들이 의존하는 시스템 자체를 의도치 않게 멈추게 하지 않도록 보장하는 실질적인 방법을 제공합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.