🤖 machine learning

TreeHop: Efficient Embedding-Level Query Rewriter

TreeHop은 이전 쿼리와 검색된 문서로부터의 의미론적 정보를 동적으로 융합하여 검색 과정을 간소화함으로써, 최첨단 방법론들과 대등한 성능을 달면서도 계산 비용과 지연 시간을 획기적으로 줄이는, LLM이 필요 없는 새로운 임베딩 수준의 멀티홉 질의응답 프레임워크이다.

원저자: Zhonghao Li, Kunpeng Zhang, Jinghuai Ou, Shuliang Liu, Xuming Hu

게시일 2026-08-11

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zhonghao Li, Kunpeng Zhang, Jinghuai Ou, Shuliang Liu, Xuming Hu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

유명한 연예인의 할아버지가 누구인지 알아내는 것처럼, 거대하고 다층적인 미스터리를 풀려고 노력하고 있다고 상상해 보세요. 단 한 번의 질문으로 답을 얻을 수는 없습니다. 단서의 흔적을 따라가야 합니다. 먼저 그 연예인의 아버지가 누구인지 알아냅니다. 그런 다음, 그 새로운 이름을 가지고 "그의 아버지는 누구인가?"라고 물어야 합니다. 이것을 "멀티홉(multi-hop)" 추론이라고 부릅니다. 인공지능의 세계에서 컴퓨터는 이러한 작업을 수행하기 위해 검색 증강 생성(RAG)이라는 시스템을 사용합니다. RAG를 단순히 사실을 암기하는 것이 아니라, 질문에 답하기 위해 적절한 책을 찾으러 서가로 달려갈 수 있는 매우 똑똑한 사서라고 생각해보세요.

하지만 함정이 있습니다. 컴퓨터가 긴 단서의 흔적을 따라가야 할 때, 기존 방식은 믿을 수 없을 정도로 느리고 비용이 많이 듭니다. 이는 마치 인간 탐정에게 책 한 권을 통째로 읽게 한 뒤, 종이에 새로운 질문을 적고, 그 종이를 다른 탐정에게 건네주면, 그 탐정이 다시 도서관으로 달려가게 하는 것과 같습니다. 강력한 두뇌(거대 언어 모델)를 사용하여 질문을 매번 "다시 쓰는" 데에는 많은 시간과 에너지가 소모됩니다. 만약 미스터리를 풀기 위해 이 과정을 열 번 반복해야 한다면, 당신은 아주 오래 기다려야 하고 엄청난 전기를 낭비하게 될 것입니다. 과학자들은 가장 어려운 퍼즐도 해결할 수 있는 능력을 잃지 않으면서, 이 탐정 업무를 더 빠르게 수행할 수 있는 방법을 찾아왔습니다.

여기에서 TreeHop이라는 새로운 방법이 등장합니다. TreeHop을 개발한 연구진은 모든 질문을 다시 쓰기 위해 본격적인 탐정을 투입할 필요가 없다는 점을 깨달았습니다. 대신, 컴퓨터가 책을 찾는 데 사용하는 "지도"를 살짝 수정하기만 하면 됩니다. 컴퓨터의 검색 쿼리를 빛나는 마법의 나침반 바늘이라고 상상해 보세요. 기존 시스템에서는 단서를 찾을 때마다 멈춰서서, 나침반을 녹이고 무겁고 느린 용광로를 사용하여 완전히 새로운 나침반을 새로 만들어야 했습니다. TreeHop은 마치 마법처럼 즉각적으로 조절 가능한 노브(knob)와 같습니다. 이 방식은 기존의 나침반 바늘과 방금 찾은 새로운 단서를 가져와서, 그것들을 즉시 하나로 융합하여 다음 단계를 향해 올바른 방향을 가리키도록 만듭니다. TreeHop은 느린 용광로 과정을 통째로 건너뛰고, 기존 질문과 새로운 단서의 "기운(vibes)"(수학적 임베딩)을 혼합함으로써 이 일을 수행합니다.

논문에 따르면 이 새로운 "노브"는 놀라울 정도로 잘 작동합니다. 임베딩 수준의 업데이트를 사용하는 TreeHop은 거대 AI 모델을 사용하여 질문을 다시 쓰는 느리고 무거운 방식만큼 정확하게 이러한 다단계 미스터리를 해결할 수 있으면서도, 훨씬 더 빠릅니다. 실제로 연구진은 TreeHop이 기존의 상위 방법들보다 약 92.8%에서 97.8% 더 빠르다는 것을 발견했습니다. 또한 컴퓨터 전력의 아주 작은 부분, 즉 다른 솔루션 크기의 **2.2%에서 29.4%**만을 사용합니다. 컴퓨터가 동일한 단서를 확인하는 끝없는 루프에 빠지지 않도록 하기 위해, TreeHop은 막다른 길이나 이미 방문한 곳으로 이어지는 경로를 제거하는 스마트한 "중단 규칙(stop rule)"도 갖추고 있어 검색 트리를 깔끔하고 효율적으로 유지합니다.

요약하자면, TreeHop은 검색의 매 단계마다 중화기(거대 AI 모델)를 호출할 필요가 없다는 것을 시사합니다. 대신, 실시간으로 검색 방향을 미세하게 조정할 수 있는 가볍고 영리한 메커니즘을 사용할 수 있습니다. 이 결과는 TreeHop이 복잡한 퍼즐을 풀 수 있을 만큼 똑똑할 뿐만 아니라, 휴대폰이나 바쁜 고객 서비스 챗봇과 같은 실제 응용 분야에서 사용할 수 있을 만큼 빠르고 저렴한 AI 시스템을 만드는 데 있어 게임 체인저가 될 수 있음을 보여줍니다.

기술 요약: TreeHop: 효율적인 임베딩 레벨 쿼리 재작성기

문제 정의

검색 증강 생성(RAG) 시스템은 여러 문서 청크에 걸쳐 정보를 합성해야 하는 답변이 필요한 다중 홉 질의응답(Multi-Hop Question Answering, MHQA)에서 어려움을 겪습니다. 기존의 방식들은 검색된 컨텍스트를 기반으로 쿼리를 재작성하기 위해 대규모 언어 모델(LLM)을 포함하는 반복적인 루프(예: "검색-재작성-벡터화-검색")에 의존합니다. 이 과정은 반복적인 LLM 호출과 다단계 프로세싱으로 인해 상당한 계산 비용과 지연 시간(latency)을 발생시킵니다. 또한, 기존의 효율적인 방법들은 특히 저자원 또는 지연 시간에 민감한 배포 시나리오에서 계산 오버헤드와 검색 효과성 사이의 트레이드오프를 조절하는 데 실패하는 경우가 많습니다.

방법론: TreeHop

TreeHop은 LLM 기반의 쿼리 재작성 없이 전적으로 임베딩 레벨에서 쿼리 정제를 수행하는 새로운 프레임워크를 제안합니다. 핵심 메커니즘은 다음 구성 요소들을 통해 작동합니다:

1. 임베딩 레벨 쿼리 업데이트

새로운 텍스트 쿼리를 생성하는 대신, TreeHop은 이전 쿼리와 검색된 문서로부터의 의미 정보를 융합하여 쿼리 임베딩을 동적으로 업데이트합니다. 업데이트 규칙은 다음과 같이 정의됩니다:
$q_{r+1}^i = q_r - \text{ForgetGate}(q_r, c_r^i) + \text{UpdateGate}(q_r, c_r^i)$

ForgetGate: 교차 주의(cross-attention) 메커니즘을 사용하여 검색된 청크 $c_r^i$ 에 의해 이미 해결된 쿼리 의미를 식별하고 억제합니다. 이는 이미 캡처된 정보의 중복 검색을 방지합니다.
UpdateGate: 다음 단계의 쿼리 임베딩을 형성하기 위해 검색된 청크로부터 새롭고 관련 있는 정보를 선택적으로 통합합니다.
아키텍처: 두 게이트 모두 토큰 위치가 아닌 임베딩 차원을 따라 작동하는 수정된 교차 주의 메커니즘을 사용합니다. 이는 입력이 고정된 차원의 벡터(BGE-m3)로 구성되어 있기 때문입니다. 이를 통해 모델은 특정 의미적 특징을 버리거나 주입하기 위해 임베딩 벡터의 좌표를 스케일링할 수 있습니다.

2. 프루닝(Pruning) 전략

다중 홉 시스템에서 발생하는 검색 브랜치(branch)의 기하급도적인 증가를 방지하기 위해, TreeHop은 두 가지 규칙 기반의 중단 기준을 채택합니다:

중복 프루닝(Redundancy Pruning): 검색된 문서 청크가 이전 반복에서 이미 확인된 경우 경로를 종료합니다.
계층별 Top-K 프루닝(Layer-wise Top-K Pruning): 각 검색 레이어에서, 생성된 모든 쿼리 임베딩 전반에 걸쳐 유사도 점수가 가장 높은 상위 $K$ 개의 청크만을 유지합니다. 이는 브랜칭 팩터(branching factor)를 $O(n^r)$ 에서 관리 가능한 선형 성장으로 줄여줍니다.

3. 학습 및 데이터 구축

TreeHop은 대조 학습(InfoNCE 손실 함수)을 사용하여 학습됩니다. 학습 데이터는 다중 홉 추론 궤적을 나타내는 유향 비순환 그래프(DAG)로 구축됩니다.

데이터 파이프라인: 단일 홉 질문들을 브릿지 엔티티(bridge entities)를 통해 연결하여 다중 홉 쿼리를 형성합니다. LLM은 추론 토폴로지와 증거의 무결성을 검증하여 그래프 구조가 올바른지 확인합니다.
목표: 모델은 쿼리-청크 쌍이 주어졌을 때 다음 단계의 쿼리 임베딩을 예측하도록 학습되며, 이때 올바른 다음 홉 증거를 양성 타겟(positive target)으로, 다른 코퍼스 구절들을 음성 타겟(negative target)으로 취급합니다.
효율성: 모델은 매우 경량(0.18B 파라미터)하며 단일 GPU에서 학습이 가능합니다.

주요 기여

본 논문은 세 가지 주요 기여를 식별합니다:

새로운 임베딩 업데이트 메커니즘: LLM 기반의 반복적 재작성을 가벼운 신경망 연산(임베딩에 대한 게이티드 교차 주의)으로 대체하여, 프루닝과 결합되었을 때 MHQA 작업에 대해 효율적인 계산 복잡도를 가능하게 합니다.
효율적인 규칙 기반 중단 기준: 브랜칭 팩터의 성장을 제어하면서 검색 성능을 유지하기 위해 중복 및 계층별 Top- $K$ 프루닝을 도입합니다.
실증적 검증: 네 가지 MHQA 벤치마크(HotpotQA, 2WikiMultiHop, MuSiQue, MultiHop RAG)에서 우수한 효율성-정확도 트레이드오프를 입증합니다.

실험 결과

TreeHop은 네 가지 데이터셋에 대해 베이스라인(Direct Retrieval) 및 고급 RAG 솔루션(Iter-RetGen, EfficientRAG, RAPTOR)과 비교 평가되었습니다.

효율성: TreeHop은 LLM 기반 방식(예: Iter-RetGen)에 비해 쿼리 지연 시간을 92.8%~97.8% 단축하며, 다른 효율적인 모델들을 크게 앞섭니다. 이는 동시대 솔루션들의 파라미터 크기의 **2.2%~29.4%**만 사용하여 달성되었습니다.
검색 성능:
- 2WikiMultiHop 및 MultiHop RAG에서, TreeHop은 두 번째 반복에서의 재현율(recall) 측면에서 Llama3.1-8B를 백엔드로 사용하는 Iter-RetGen보다 3.5%~5.2%, 세 번째 반복에서는 4.9%~9.1% 더 높은 성능을 보였으며, 평균적으로 더 적은 수의 청크를 검색했습니다.
- HotpotQA에서, 두 번째 반복 시 모든 반복적 솔루션 중 선두를 달렸으며, 세 번째 반복에서는 RAPTOR에 뒤처졌습니다.
- MuSique에서는 여러 청크의 정보를 동시에 합성해야 하는 데이터셋의 특성(쿼리-청크 쌍 전략의 한계)으로 인해 Iter-RetGen보다 약간 낮은 성능을 보였습니다(0.4% 차이).
엔드 투 엔드 QA: 다운스트림 LLM과 결합했을 때, TreeHop은 특히 2WikiMultiHop과 MultiHop RAG에서 효과적인 증거 체인을 완성하는 능력을 바탕으로 경쟁력 있거나 더 우수한 정확도를 달s합니다.

의의 및 주장

본 논문은 TreeHop이 더 빠르고 비용 효율적인 솔루션을 제공한다고 주장합니다. 전통적인 "검색-재작성-벡터화-검색" 사이클을 간소화된 "검색-임베딩-검색" 루프로 압축함으로써, TreeHop은 계산 효율성과 검색 효과성 사이의 간극을 메웁니다.

저자들은 TreeHop을 모든 RAG 방식의 대체제가 아니라, 매 홉마다 무거운 LLM 생성을 피할 수 있는 확장 가능한 대안으로 포지셔닝합니다. 이 연구는 임베딩 중심의 재작성이 특히 지연 시간과 파라미터 효율성이 중요한 실제 환경의 다중 홉 추론을 위한 실용적인 균형점임을 시사합니다. 또한, 현재 아키텍처가 쿼리-청크 쌍에 의례하며, 더 넓은 컨텍스트 윈도우를 처리할 수 있는 방법들에 비해 여러 청크의 정보를 동시에 합성하는 데 어려움이 있을 수 있다는 한계를 인정하고 있습니다.