💻 computer science

Decoupling Search from Reasoning: A Vendor-Agnostic Grounding Architecture for LLM Agents

이 논문은 검색 추출(search retrieval)과 추론 모델(reasoning models)을 분리하여 라우팅과 캐싱에 대한 세밀한 제어를 제공함으로써, 다양한 LLM 워크로드 전반에서 네이티브 수준의 정확도를 달면서도 비용과 지연 시간을 획기적으로 줄이는 벤더 중립적 아키텍처인 디커플드 서치 그라운딩(Decoupled Search Grounding, DSG)을 소개한다.

원저자: Emmanuel Aboah Boateng, Kyle MacDonald, Amardeep Kumar, Siddharth Kodwani, Sudeep Das

게시일 2026-06-19

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Emmanuel Aboah Boateng, Kyle MacDonald, Amardeep Kumar, Siddharth Kodwani, Sudeep Das

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신은 질문에 답하기 위해 유능하고 박식한 비서(LLM)를 고용한다고 상상해 보십시오. 때때로 이 비서는 좋은 답변을 내놓기 위해 인터넷에서 최신 정보를 찾아봐야 합니다.

현재 대부분의 기업들은 "네이티브 서치(Native Search)" 방식을 사용합니다. 이것은 마치 비서가 자신만의 개인 도서관과 검색 엔진을 소유하고 있는 것과 같습니다. 비서는 도서관에 가서 책을 가져와 당신에게 가져다줍니다. 이는 편리하지만, 당신은 그들이 어떤 도서관을 이용했는지, 책을 가져오는 데 비용이 얼마나 들었는지, 혹은 시간을 얼마나 썼는지 알 수 없습니다. 더 심각한 것은, 비서가 찾은 책들에 너무 흥وث한 나머지 당신이 요청한 간단한 답변 대신 길고 장황한 이야기를 늘어놓기 시작한다는 점입니다.

이 논문의 저자들은 **디커플드 서치 그라운딩(Decoupled Search Grounding, DSG)**이라는 새로운 방식을 제안합니다. 이 방식의 작동 원리를 쉬운 비유를 통해 설명하면 다음과 같습니다.

1. "중간 관리자" 매니저 (게이트웨이)

비서가 직접 도서관을 소유하는 대신, 당신은 전문화된 매니저(DSG 게이트웨이)를 고용합니다.

작동 방식: 비서가 정보가 필요할 때, 매니저에게 요청합니다. 그러면 매니저는 가장 적합한 도서관을 골라 방문합니다 (예를 들어, 어떤 곳은 더 저렴하거나, 어떤 곳은 더 최신 뉴스를 제공할 수 있습니다).
이점: 도서관을 교체할 때 비서를 해고할 필요 없이 즉시 바꿀 수 있습니다. 만약 A 도서관이 너무 비싸지면, 매니저는 그냥 B 도서관으로 전환하면 됩니다. 비서는 이러한 변화를 전혀 알지 못합니다.

2. "엄격한 집사" (소스 인지형 포맷팅)

"네이티브 서치" 비서가 가진 가장 큰 문제 중 하나는 말이 너무 많아진다는 것입니다. 만약 당신이 "프랑스의 수도는 어디인가요?"라고 물으면, 그들은 "음, 제가 찾아본 결과, 검색 결과에 따르면 파리가 수도인 것으로 밝혀졌습니다..."라고 답할 수 있습니다.

DSG의 해결책: 매니저는 엄격한 집사 역할을 합니다. 그들은 도서관으로부터 받은 가공되지 않은 정보를 가져와서 깔고 다듬은 뒤, 정형화된 패키지 형태로 비서에게 전달합니다.
결과: 비서는 불필요한 잡담 없이 당신이 요청한 정확한 내용(예: 단순히 "파리")만을 제공하도록 강제됩니다. 이는 현실 세계에서 컴퓨터가 이러한 답변을 자동으로 읽어야 할 때 매우 중요한데, 추가적인 단어들이 컴퓨터 코드를 망가뜨릴 수 있기 때문입니다.

3. "스마트 파일링 캐비닛" (캐싱)

만약 당신이 같은 질문을 연달아 두 번 한다고 가정해 봅시다.

네이티브 서치: 비서는 다시 도서관에 가서 비용을 지불하고 책을 다시 가져옵니다. 당신은 비용을 두 번 지불하게 됩니다.
DSG: 매니저에게는 스마트 파일링 캐비닛이 있습니다. 만약 이전에 본 적 있는 질문을 던진다면, 매니저는 캐비닛에서 즉시 답변을 꺼내 옵니다.
결과: 테스트 결과, 이 파일링 캐비닛은 매우 효과적이어서 반복되는 질문의 99.4%를 즉시 답변해 냈으며, 검색 비용을 거의 제로 수준으로 낮추고 응답 속도를 68% 더 빠르게 만들었습니다.

4. "예산 조절 노브" (조절 가능한 제어)

기존 방식에서는 도서관 서비스에 대해 고정된 가격을 지불해야 했습니다. 하지만 DSG를 사용하면 예산 조절 노브를 가질 수 있습니다.

당신은 매니저에게 이렇게 말할 수 있습니다: "이 질문에는 0.01달러를 써서 결과 3개를 가져오세요." 또는 "이 중요한 질문에는 0.50달러를 써서 결과 10개를 가져오세요."
이를 통해 기업은 실제로 깊이 있는 조사가 필요한 경우에만 비용을 지불함으로써 막대한 돈을 절약할 수 있습니다.

무엇을 발견했는가?

저자들은 다섯 가지 종류의 스마트 비서와 다양한 유형의 질문을 사용하여 이 새로운 시스템을 기존의 "네이티브 서치" 방식과 비교 테스트했습니다.

비용: 표준적인 질문에 대해서는 비싼 네이티브 서치와 거의 동일한 품질의 답변을 얻으면서도 비용을 91% 절감할 수 있었으며, 실제 이커머스 테스트에서는 98% 이상의 비용을 절감할 수 있음을 발견했습니다.
속ness (속도): "스마트 파일링 캐비닛" 덕분에 동일한 질문이 반복될 때 답변이 훨씬 빠르게 돌아왔습니다.
신뢰성: "엄격한 집사" 방식은 짧고 단순한 답변이 필요한 상황에서 비서가 길고 지저한 문단을 작성하는 것을 막아주었습니다. 이는 깨끗한 데이터에 의존하는 시스템에서 오류가 발생하는 것을 방지했습니다.

핵심 요약

이 논문은 인터넷 검색이 특정 AI 기업의 숨겨진, 고정된 기능이 되어서는 안 된다고 주장합니다. 대신, 검색은 관리하고, 최적화하며, 교체할 수 있는 별도의 제어 가능한 도구가 되어야 합니다. "검색"하는 부분과 "생각"하는 부분을 분리함으로써, 기업은 비용을 절감하고, 더 빨라지며, 답변을 깨끗하고 신뢰할 수 있게 유지할 수 있습니다.

기술 요약: 검색과 추론의 디커플링 (DSG)

1. 문제 정의

프로덕션 환경의 대규모 언어 모델(LLM) 에이전트는 최신 증거에 기반하여 추론을 수행하기 위해 실시간 검색에 점점 더 의존하고 있습니다. 그러나 현재의 배포 방식은 주로 네이티브 검색 그라운딩(native search grounding), 즉 모델 제공자의 API 경계 내에서 검색 스택이 완전히 관리되는 모델 제공자 기능을 활용합니다. 이러한 아키텍처는 다음과 같은 몇 가지 결정적인 한계를 지닌 "결합된(coupled)" 시스템을 생성합니다:

제어권 부재: 팀은 제공자 선택, 검색 깊이, 컨텍스트 렌더링 또는 캐싱 전략을 명시적으로 제어할 수 없습니다.
벤더 종속성(Vendor Lock-in): 검색 정책이 모델 제공자의 특정 구현 방식에 내장되어 있기 때문에, 다른 추론 모델이나 검색 제공자로 마이그레이션하는 것이 어렵습니다.
검색 유발 장황함(Search-Induced Verbosity): 네이티브 검색이 모델로 하여금 엄격한 출력 계약을 위반하게 만드는 특정 실패 모드입니다. "최종 답변만 제공하라"는 명시적인 지침이 있음에도 불구하고, 네이티브 검색은 종종 설명적인 문구(예: "검색 결과에 따르면...")를 유발하여 JSON, 불리언(boolean) 또는 정확한 엔티티를 기대하는 다운스트림 파서를 깨뜨립니다.
불투명한 운영: 지연 시간, 비용 구조 및 실패 표면이 숨겨져 있어, 비용이나 지연 시간과 같은 특정 프로덕션 제약 조건에 맞춰 최적화하기 어렵습니다.

2. 방법론: 디커플링된 검색 그라운딩 (DSG)

저자들은 추론 모델으로부터 검색 인터페이스를 외부화하는 벤더 중립적 아키텍처인 **디커플링된 검색 그라운딩 (Decoupled Search Grounding, DSG)**을 제안합니다. DSG는 에이전트 애플리케이션과 외부 검색 백엔드 사이에 위치하는 MCP 호환 게이트웨이로 구현됩니다.

핵심 아키텍처 구성 요소

구조화된 도구 계층 (Structured Tool Layer): 불투명한 모델 기능 대신, 검색은 구조화된 도구로 노출됩니다. 게이트웨이는 이질적인 제공자들의 출력(예: Serper, BrightData, Firecrawl)을 스니펫과 소스 URL을 포함하는 일관된 내부 결과 객체로 정규화합니다.
제공자 추상화 및 폴백 (Provider Abstraction & Fallback): "제공자 레지스트리(Provider Registry)"를 통해 엔지니어는 폴백 체인(예: $p_1 \to p_2 \to p_k$ )을 구성할 수 있습니다. 기본 제공자가 타임아웃되거나 실패하면, 요청은 에이전트의 워크플로우를 방해하지 않고 자동으로 다음 제공자로 라우팅됩니다.
검색 인텔리전스 계층 (Search Intelligence Layer): 이 계층은 모든 쿼리 $q$ $q$ 에 대해 계층적 결정 정책을 구현합니다:
- 정확한 캐시 조회: 캐시에서 정확히 일치하는 항목을 확인합니다.
- 시맨틱 캐시 재사용: 임베딩을 사용하여 의미적으로 유사한 쿼리( $s_{j^*} \geq \tau$ )를 찾아 캐시된 결과를 재사용합니다.
- 구성된 폴백: 캐시 히트가 발생하지 않으면, 구성된 제공자 체인을 통해 검색을 실행합니다.
- 참고: 캐시 항목은 제공자별로 스코프가 지정되며, 최신성에 민감한 쿼리가 오래된 데이터를 사용하지 않도록 TTL(Time-to-Live) 제한을 포함합니다.
소스 인식 컨텍스트 렌더링 (Source-Aware Context Rendering): 게이트웨이는 증거와 명시적인 소스 URL을 쌍으로 묶어 도구 컨텍스트를 렌더링함으로써, 추론 모델에 출처 단서를 제공하는 동시에 안정적인 출력 경계를 유지합니다.

3. 주요 기여

본 논문은 검색 그라운딩을 디커플링된, 제공자 중립적인 계층으로 공식화하며 세 가지 주요 기여를 합니다:

그라운딩을 위한 시스템 경계 설정: DSG는 추론 모델을 교체 가능하게 유지하면서, 검색 정책, 캐싱 및 제공자 선택을 명시적이고 일차적인 시스템 제어 항목으로 노출합니다.
검색 인텔리전스 및 표준화 프레임워크: MCP 호환 게이트웨이는 안정적인 인터페이스를 제공하고, 이질적인 출력을 정규화하며, 구성 가능한 폴백을 지원하는 캐시 게이트형 검색을 지원합니다.
행동, 품질 및 운영에 대한 증거: 저자들은 검색 유발 장방함을 네이티브 검색의 핵심적인 프롬프트 준수 리스크로 식별하고, DSG의 구조화된 도구 경계가 이를 어떻게 완화하는지 입증합니다. 또한 공공 벤치마크와 프로덕션 워크로드 전반에서 정확도, 비용, 지연 시간 및 캐시 재사용 측의 트레이드오프를 정량화합니다.

4. 실증적 결과

평가는 다섯 가지 프런티어 모델(GPT-4o, GPT-4o-mini, Gemini 2.5 Flash/Pro, Claude Sonnet 4)을 대상으로 SimpleQA, FreshQA, HotpotQA 및 자체 제작한 이커머스 쿼리 의도 이해(QIU) 데이터셋에서 수행되었습니다.

정확도 대비 비용

SimpleQA: DSG와 BrightData 조합은 86.1%의 정확도(네이티브 검색의 87.7% 대비)를 달성하면서도 검색 비용을 91% 절감했습니다( $1,000 쿼리당$ 1.80 vs. $20.00). Serper를 사용한 DSG는 $1,000 쿼리당$ 0.67의 비용으로 83.3%의 정확도를 기록했습니다.
FreshQA: 네이티브 검색은 최신성이 중요한 질문에서 우위(72.6% vs. DSG+BrightData의 68.0%)를 유지했으며, 이는 디커플링을 통해 팀이 최신성이 최우선인 경우 네이티브 제공자로 라우팅할 수 있음을 뒷받침합니다.
프로덕션 QIU (이커머스): 리테일 의도 이해 워크로드에서 DSG+Serper는 네이티브 검색의 정확도와 비슷하거나 약간 상회하는 성능(93.90% vs. 93.40%)을 보이면서도, 검색 비용을 98% 이상 절감했습니다( $1,000 쿼리당$ 0.110 vs. $7.90).

운영 지표

지연 시간: 웜 캐시(warm-cache) 시나리오에서 DSG는 평균 지연 시간을 4,570ms에서 1,465ms로 단축했습니다 (68% 감소).
캐시 효율성: 시스템은 99.4%의 웜 캐시 히트율을 달성하여, 한계 검색 비용을 거의 제로에 가깝게 낮추었습니다.
프롬프트 준수: HotpotQA에서 네이티브 검색은 78.1%의 사례에서 "포맷 드리프트(format drift)"를 유발(정확한 답변 대신 설명적인 단락을 생성)한 반면, DSG는 다운스트림 파서가 요구하는 엄격한 "답변 전용" 인터페이스를 보존했습니다.

5. 의의 및 주장

본 논문은 실시간 그라운딩이 고정된 모델 기능이 아니라 최적화 가능한 인터페이스 경계로 취급되어야 한다고 주장합니다.

디커플링의 가치: 그라운딩을 추론 모델 외부로 이동함으로써, DSG는 비용, 지연 시간, 최신성 및 정확도 사이의 트레이드오프를 제어 가능한 변수로 노출합니다.
실패 모드 완화: 이 아키텍처는 특히 "검색 유발 장방함" 문제를 해결하여, 올바른 의미적 답변이 프로덕션 파이프라인에서 요구되는 엄격한 출력 계약(JSON, 엔티티, 불리언 등)을 위반하지 않도록 보장합니다.
확장성: 공유 게이트웨이를 통해 한 애플리케이션에서 검색된 증거를 다른 애플리케이션에서도 재사용할 수 있어, 캐시 히트율을 높이고 전체 시스템 비용을 절감할 수 있습니다.

저자들은 네이티브 검색이 편의성과 특정 최신성 측면의 이점을 제공하지만, 비용, 지연 시간, 출력 계약의 신뢰성 및 제공자 유연성이 매우 중요한 프로덕션 시스템에서는 DSG가 더 우수한 운영적 경계를 제공한다고 결론짓습니다. 향후 연구로는 이 디커플링된 인터페이스 상에서의 적응형 라우팅 및 멀티 홉(multi-hop) 전략에 집중할 것을 제안합니다.