💬 NLP

CHOP: Chunkwise Context-Preserving Framework for RAG on Multi Documents

이 논문은 유사 문서 간의 검색 혼란을 줄이고 RAG 시스템의 정확도를 향상시키기 위해, LLM 기반의 청크 관련성 평가와 문서 재구성을 통해 문맥 일관성을 유지하는 CHOP 프레임워크를 제안합니다.

원저자: Hyunseok Park, Jihyeon Kim, Jongeun Kim, Dongsik Yoon

게시일 2026-04-20

📖 3 분 읽기☕ 가벼운 읽기

원저자: Hyunseok Park, Jihyeon Kim, Jongeun Kim, Dongsik Yoon

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

📚 CHOP: 문서 검색의 '정리정돈' 마법

이 논문은 RAG(검색 증강 생성)라는 기술이 가진 큰 문제점을 해결하는 새로운 방법, CHOP을 소개합니다.

쉽게 말해, **"많은 문서가 섞여 있을 때 AI 가 헷갈리지 않고 정확한 답을 찾게 해주는 지능적인 정리 시스템"**이라고 생각하시면 됩니다.

🤔 왜 이런 게 필요할까요? (문제 상황)

지금까지의 AI 검색 시스템은 마치 거대한 도서관에 책을 무작위로 잘게 찢어서 쌓아두는 것과 비슷했습니다.

**문제 1 **(헷갈림) 비슷한 내용이 담긴 책 (예: '에어컨 A 모델'과 '에어컨 B 모델' 설명서) 이 섞여 있으면, AI 는 "어느 책의 내용일까?"라고 혼란을 겪습니다.
**문제 2 **(맥락 끊김) 한 문장을 중간에서 잘라내면, "이것"이나 "그 방법" 같은 대명사가 무엇을 가리키는지 알 수 없게 됩니다.
결과: AI 가 엉뚱한 정보를 가져오거나, 아예 없는 사실을 지어내는 (할루시네이션) 문제가 발생합니다.

✨ CHOP 의 해결책: "스마트한 파일 정리법"

CHOP 은 이 문제를 해결하기 위해 두 가지 핵심 기술을 사용합니다. 마치 명품 옷장 정리사가 옷을 정리하는 것과 비슷합니다.

1. CNM-Extractor (명찰 달기) 🏷️

각 문단 (조각) 에 **명찰 **(CNM)을 달아줍니다. 이 명찰에는 세 가지 정보가 적혀 있습니다.

**Category **(카테고리) 어떤 제품인가? (예: 에어컨)
**Nouns **(핵심 단어) 어떤 부분인가? (예: 필터, 냉각기)
**Model **(모델명) 어떤 모델인가? (예: 225B)

🌰 비유:
옷장에 옷을 넣을 때, 그냥 던져두는 게 아니라 **"에어컨용 - 필터 - 225B 모델"**이라고 적힌 명찰을 옷에 붙여두는 것입니다. 이렇게 하면 나중에 "225B 모델 필터가 뭐지?"라고 검색했을 때, 다른 모델의 필터와 섞이지 않고 정확히 찾아낼 수 있습니다.

2. Continuity Decision (연결 고리 확인) 🔗

문서를 잘게 자를 때, 이 문단이 바로 앞 문단과 같은 이야기인지, 새로운 이야기인지를 AI 가 판단합니다.

같은 이야기라면: 앞 문단의 명찰을 그대로 가져다 씁니다. (연속성 유지)
새로운 이야기라면: 새로운 명찰을 만들어 붙입니다. (주제 변경 인정)

🌰 비유:
책을 읽다가 "에어컨 청소 방법"을 설명하다가 갑자기 "에어컨 설치 방법"으로 넘어가면, CHOP 은 "아, 이제 주제가 바뀌었구나!"라고 알아채고 명찰을 바꿔줍니다. 하지만 같은 주제 안에서 문장이 이어지면, 명찰을 계속 공유해서 맥락이 끊기지 않게 합니다.

🚀 CHOP 이 가져온 변화 (결과)

이 시스템을 적용한 실험 결과는 놀라웠습니다.

**찾아내는 능력 **(검색 정확도)
- 기존 방식은 비슷한 문서가 섞여 있으면 80% 정도만 정확히 찾았지만, CHOP 은 90% 이상을 정확히 찾아냈습니다.
- 특히, 여러 문서 중 가장 중요한 문서가 1 순위로 올라올 확률이 크게 향상되었습니다.
**답변의 질 **(생성 품질)
- AI 가 찾은 정보를 바탕으로 답변을 만들 때, 엉뚱한 소리를 하거나 헷갈리는 경우가 줄었습니다.
- 마치 잘 정리된 도서관에서 책을 찾아 읽는 것처럼, AI 가 더 정확하고 신뢰할 수 있는 답변을 내놓습니다.

💡 한 줄 요약

CHOP은 방대한 문서 더미 속에서 AI 가 헷갈리지 않도록, 각 조각에 '명찰'을 붙이고 '연결 고리'를 확인하는 지능적인 정리 시스템입니다. 덕분에 AI 는 더 빠르고 정확하게 필요한 정보를 찾아내어, 우리가 믿고 쓸 수 있는 답변을 만들어냅니다.

핵심 메시지: "단순히 문서를 잘게 자르는 게 아니라, 맥락을 이해하고 정리해야 AI 가 제대로 일한다!"

1. 문제 정의 (Problem Statement)

기존의 검색 증강 생성 (RAG) 시스템은 여러 문서가 공존하는 벡터 데이터베이스 환경에서 다음과 같은 한계를 겪습니다:

검색 정확도 저하: 유사한 문서들이 공존할 때 발생하는 불필요한 정보 혼란, 환각 (Hallucination), 사실적 오류가 발생합니다.
단편화된 문맥: 현재 RAG 파이프라인은 주로 길이 기반 (Length-based) 분할 방식을 사용하는데, 이는 문장 간 대명사 (예: "이 방법", "식 (3)") 나 국소적 참조를 끊어 문맥의 연속성을 해칩니다.
다중 문서 환경의 복잡성: 유사 문서, 중복, 상충되는 참조가 많을 경우 검색의 모호성이 증가하고, 관련 없는 패시지가 LLM 을 오도하여 부정확한 출력을 초래합니다.
문맥 의존성 무시: 대부분의 기존 접근법은 청크 (Chunk) 를 독립적으로 처리하여 문서 내/간 담화 수준의 의존성 (정의, 대명사 연결, 담화 전환 등) 을 간과합니다.

2. 제안 방법론: CHOP (Methodology)

저자들은 CHOP (Chunkwise Context-Preserving Framework) 을 제안하여, 유사한 문서가 공존하는 환경에서도 문맥을 보존하고 검색 혼란을 줄이는 새로운 파이프라인을 구축했습니다. CHOP 은 두 가지 핵심 모듈로 구성됩니다.

A. CNM-Extractor (Category-Noun-Model Extractor)

각 청크 (Chunk) 에 대해 컴팩트한 시그니처를 생성하여 청크의 의미적 위치를 고정합니다.

CNM (Category, Nouns, Model) triplet:
- Category: 해당 청크가 설명하는 광범위한 제품군 (예: 카메라, 에어컨).
- Nouns: 핵심 대상이나 동작을 포착하는 1~2 개의 명사 (예: 에어컨 필터).
- Model: 구체적인 모델명 또는 시리즈명 (예: 225B, X-SERIES).
작동 방식: LLM 을 사용하여 각 청크에서 구조화된 CNM 정보를 추출하고, 이를 JSON 형식으로 출력합니다. 추출된 CNM 은 해당 청크 텍스트의 접두사 (Prefix) 로 추가되어 문맥적 프레임을 안정화하고 엔티티/기호/단위에 대한 참조를 명확히 합니다.

B. Continuity Decision Module (연속성 결정 모듈)

인접한 청크들이 동일한 문서 흐름에 속하는지, 아니면 새로운 주제가 시작되는지를 판단합니다.

동작 원리: 인접한 두 청크 $(C_i, C_{i+1})$ $(C_{i}, C_{i + 1})$ 를 입력받아 LLM 기반 분류기가 연속성 여부를 결정합니다.
- TRUE (연속): $C_{i+1}$ 가 $C_i$ 와 동일한 주제 흐름일 경우, 이전 청크의 CNM 을 상속 (Inherit) 합니다.
- FALSE (단절): 주제 전환이나 새로운 문서 시작일 경우, $C_{i+1}$ 에 대해 새로운 CNM 을 추출합니다.
효과: 동일한 주제 흐름 내에서는 CNM 을 일정하게 유지하여 의미적 일관성을 보존하고, 주제 전환 시에는 새로운 CNM 으로 재설정하여 오류 전파를 방지합니다.

C. 임베딩 및 검색

최종 입력 $x_i$ 는 [CNM 접두사] + [원본 청크 텍스트] 형태로 구성됩니다.
이를 임베딩하여 벡터 데이터베이스에 저장합니다. 이 방식은 유사한 문서 간의 시맨틱 충돌 (Semantic Collision) 을 줄이고, 검색기 (Retriever) 의 판별력을 향상시킵니다.

3. 주요 기여 (Key Contributions)

문맥 보존 청크링 전략: 길이 기반 분할의 한계를 극복하고, CNM 과 연속성 판단을 통해 문서 내 담화 구조를 보존하는 새로운 청크링 프레임워크를 제시했습니다.
접두사 기반 정규화: 각 청크에 메타데이터 (CNM) 를 접두사로 추가하여 임베딩 공간을 정규화하고, 유사 문서 간의 검색 혼란을 완화했습니다.
재학습 없는 성능 향상: 검색기 (Retriever) 를 재학습시키지 않고도, 전처리 단계의 구조적 개선만으로 검색 및 생성 성능을 획기적으로 개선했습니다.

4. 실험 결과 (Results)

MRAMG-Bench (제품 매뉴얼 기반 벤치마크) 에서 Native-500T(단순 분할) 및 Cosine-Chunking(의미적 분할) 과 비교 평가되었습니다.

검색 성능 (Retrieval):
- Top-1 Hit Rate: CHOP 은 90.77% 를 기록하여, Native-500T(81.28%) 와 Cosine-Chunking(70.77%) 보다 압도적으로 높았습니다.
- 순위 품질 (Ranking Quality): MRR@K 및 NDCG@K 지표에서도 CHOP 이 가장 우수한 성능을 보였으며, 특히 Top-10 까지 정답이 상위에 랭크되는 비율이 높았습니다.
생성 성능 (Generation):
- 검색된 증거를 기반으로 LLM 이 생성한 답변의 품질을 평가 (F1, ROUGE-L, BERTScore) 한 결과, CHOP 을 사용한 경우 모든 $K$ 값에서 가장 높은 점수를 기록했습니다.
- 특히 Top-3/5/10 구간에서 F1 및 ROUGE-L 점수가 유의미하게 향상되어, CHOP 이 환각을 줄이고 정확한 정보를 생성하도록 돕는 것을 입증했습니다.

5. 의의 및 결론 (Significance)

실용적 RAG 구축: CHOP 은 재학습 없이도 다중 문서 환경에서 고품질 지식 베이스를 구축할 수 있는 확장 가능한 접근법을 제공합니다.
신뢰성 향상: 문맥적 일관성을 유지함으로써 LLM 이 잘못된 정보를 참조하거나 환각을 일으키는 위험을 줄이고, 생성 단계로 전달되는 오류를 최소화합니다.
향후 방향: 적응형 접두사 (Adaptive Prefixing) 와 동적 연속성 모델링을 통해 진화하는 도메인 지식과 스트리밍 입력을 처리하고, LLM 사용에 따른 계산 비용을 줄이는 경량화 전략을 연구할 계획입니다.

요약하자면, CHOP 은 단순한 텍스트 분할을 넘어, 문서의 구조적 의미 (카테고리, 모델, 명사) 와 문맥적 연속성을 체계적으로 반영하여 RAG 시스템의 검색 정확도와 생성 신뢰도를 동시에 향상시킨 혁신적인 프레임워크입니다.