ContextNest: Verifiable Context Governance for Autonomous AI Agent
ContextNest(초록에서는 ContextNext로 지칭됨)는 검색 시스템 하단에 위치하여 AI 에이전트가 승인되고 추적 가능하며 무결성이 검증된 지식만을 소비하도록 보장함으로써, 검색 품질만으로는 해결할 수 없는 출처 및 결정론적 실패 문제를 해결하는 검증 가능한 컨텍스트 거버넌스를 위한 개방형 사양과 참조 구현을 도입한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
다음은 ContextNest 논문을 일상적인 언어와 비유를 사용하여 번역한 내용입니다.
핵심 문제: "자신감 있게 틀리는" 에이전트
당신이 회사의 의사결정을 내리기 위해 매우 똑똑하고 빠른 비서(AI 에이전트)를 고용했다고 상상해 보세요. 당신은 그들에게 읽어야 할 문서 도서관을 제공합니다.
문제는 비서가 멍청해서가 아니라, 도서관이 엉망진창이기 때문입니다.
- 혼동: 도서관에는 현재 정책이 들어있지만, 동시에 3년 전의 과거 정책, 승인되지 않은 초안 정책, 그리고 누군가 몰래 끼워 넣은 가짜 정책도 함께 들어있습니다.
- 실수: 당신이 "출장비 한도가 얼마인가요?"라고 물으면, 비서는 새로운 정책이 "50"이라고 적힌 옛날 문서를 찾아낼 수 있습니다. 비서는 관련 있는 텍스트를 찾았기 때문에 자신 있게 대답하지만, 실제로는 구식 정보나 잘못된 정보를 전달하고 있는 것입니다.
- 미스터리: 만약 당신이 "어떻게 결정했나요?"라고 묻는다면, 비서는 명확한 답변을 내놓지 못합니다. "6월 12일에 작성되고 Sarah가 승인한 문서를 읽었습니다"라고 말하는 대신, 그저 "일치하는 텍스트를 찾았습니다"라고만 답할 뿐입니다.
이것이 바로 **컨텍스트 거버넌스 격차(Context Governance Gap)**입니다. AI는 텍스트를 찾는 방법은 알지만, 어떤 텍스트가 안전하고, 최신이며, 승인된 것인지 판단하지는 못합니다.
해결책: ContextNest ("품질 관리" 레이어)
저자들은 ContextNest를 제안합니다. 이것을 새로운 검색 방식이 아니라, AI가 문서를 보기 전에 위치하는 엄격한 품질 관리 게이트라고 생각하십시오.
작동 방식은 다음과 같습니다 (쉬운 비유 사용):
1. "타이핑된" 도서 카드
일반적인 도서관에서 책은 그냥 책일 뿐입니다. 하지만 ContextNest에서는 모든 문서가 특정 ID 카드(이름을 "Type"이라 함)를 가집니다.
- 어떤 카드는 "용어 사전"(정의만 포함)이라고 적혀 있습니다.
- 어떤 카드는 "정책"(따라야 할 규칙)이라고 적혀 있습니다.
- 어떤 카드는 "초안"(아직 사용 금지!)이라고 적혀 있습니다.
AI는 올바른 ID 카드가 없는 것은 무시하도록 프로그래밍되어 있습니다. 따라서 초안 정책을 법률처럼 잘못 읽는 실수를 범하지 않습니다.
2. "승인된 것만 통과"하는 게이트
도서관 문 앞에 보안 요원이 있다고 상상해 보세요.
- 초안들은 대기실에 갇혀 있습니다. 보안 요원은 AI가 그곳에 들어가지 못하게 막습니다.
- 발행된 문서들은 초록색 도장을 받습니다.
AI는 오직 초록색 도장이 찍힌 문서만 읽을 수 있습니다. 이를 통해 AI가 작업 중인 아이디어나 미승인된 내용을 사용하는 것을 방지합니다.
3. "변조 방지" 체인
문서가 변경될 때마다 새로운 디지털 지문(해시값)이 생성됩니다.
- 만약 누군가 문서를 승인한 후에 몰래 내용을 수정하려고 하면, 디지털 지문이 깨집니다.
- 이는 편지에 찍힌 밀랍 인장과 같습니다. 인장이 깨져 있다면 누군가 열어보았다는 것을 알 수 있습니다.
- ContextNest는 이러한 지문들을 하나의 체인으로 연결합니다. 만약 체인의 한 고리가 끊어지면, 전체 체인은 무효가 됩니다. 이는 문서가 승인된 이후로 변조되지 않았음을 증명합니다.
4. "타임머신" (체크포인트)
과거 특정 시점에 규칙이 어떠했는지 증명해야 한다고 가정해 봅시다 (예: 감사를 위해).
- 일반적인 도서관은 이를 쉽게 할 수 없습니다. 그저 현재의 책을 보여줄 뿐입니다.
- ContextNest는 문서가 변경될 때마다 스냅샷(체크포인트)을 찍습니다.
- 만약 당신이 "3월 1일에 AI가 알고 있던 정보는 무엇인가요?"라고 묻는다면, 시스템은 시간을 되돌려 마지막 글자 하나까지도 3월 1일에 존재했던 정확한 버전의 문서를 보여줄 수 있습니다. 이는 역사를 조작하는 것을 불가능하게 만듭니다.
5. "영수증" (감사 추적)
AI가 문서를 읽을 때마다 자동으로 영수증을 출력합니다.
- 영수증에는 "오후 2시에 Sarah가 승인한 문서 X, 버전 3을 읽었습니다"라고 기록됩니다.
- 나중에 AI가 실수를 저지르면, 당신은 영수증을 보고 어떤 정보가 오류를 일으켰는지 정확히 파악할 수 있습니다. AI가 "환각(Hallucination)"을 일으켰다고 비난하는 대신, 잘못된(또는 오래된) 문서가 입력되었음을 확인할 수 있습니다.
기존 AI(RAG)와의 연동 방식
논문은 매우 명확하게 설명합니다: ContextNest는 AI의 검색 엔진을 대체하는 것이 아닙니다.
- **RAG (검색 증강 생성)**는 자석과 같습니다. 당신의 질문과 유사해 보이는 문서를 찾아냅니다. 관련 있는 텍스트를 찾는 데는 뛰어나지만, 다소 무질서합니다.
- ContextNest는 필터와 같습니다. 자석 앞에 위치합니다.
- 필터는 "승인되고, 최신이며, 검증된" 문서만 통과시킵니다.
- 그 후 자석(RAG)은 오직 그 안전하고 필터링된 더미 안에서만 검색을 수행합니다.
결과: AI는 두 가지 장점을 모두 갖게 됩니다. 자석 덕분에 관련 텍로를 찾으면서도, 필터 덕분에 그 텍스트가 올바른 버전임을 보장받습니다.
실험 결과
저자들은 두 가지 주요 실험을 통해 이를 테스트했습니다.
"오래된 버전" 공격: "새로운" 규칙과 "오래된" 규칙이 섞여 있는 시나리오를 만들었습니다.
- ContextNest가 없을 때: AI는 종종 오래된, 잘못된 규칙을 선택하여 자신감 있지만 틀린 답을 내놓았습니다.
- ContextNest가 있을 때: AI는 결코 오래된 규칙을 선택하지 않았습니다. 거의 매번 정답을 맞혔으며, 쓰레기 데이터를 걸러내야 할 필요가 없었기에 컴퓨터 자원(토큰)도 덜 사용했습니다.
"일관성" 테스트: 동일한 질문을 20번 반복했습니다.
- 표준 검색: 질문이 동일함에도 불구하고 때로는 문서 A를, 때로는 문서 B를 가져오는 등 예측 불가능했습니다.
- ContextNest: 매번 정확히 똑같은 문서를 가져왔습니다. 완벽하게 예측 가능합니다.
결론
이 논문은 AI 에이전트가 현실 세계의 결정(예: 비용 승인 또는 코드 작성)을 내리기 시작함에 따라, 단순히 그들이 "똑똑하기"만을 기대해서는 안 된다고 주장합니다. 우리는 그들이 사용하는 정보가 다음을 충족하도록 보장하는 거버넌스 레이어가 필요합니다:
- 승인됨 (사람에 의해)
- 최신임 (과거의 초안이 아님)
- 변조되지 않음 (보안 유지)
- 추적 가능함 (무엇을 읽었는지 정확히 알 수 있음)
ContextNest는 AI 지식의 "도로 규칙"을 제공하여, AI가 행동할 때 단순히 무작위 텍스트 더미가 아닌 진실의 토대 위에서 움직이도록 보장합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.