💬 NLP

QuCo-RAG: Quantifying Uncertainty from the Pre-training Corpus for Dynamic Retrieval-Augmented Generation

QuCo-RAG는 Infini-gram을 통해 객관적인 사전 학습 코퍼스 통계(개체 빈도 및 공발생)로 불확실성을 정량화함으로써 환각을 완화하는 모델 독립적 동적 검색 증강 생성 프레임워크를 도입하여, 신뢰할 수 없는 내부 모델 신호에 의존하지 않고도 다양한 모델과 벤치마크에서 상당한 성능 향상을 달성합니다.

원저자: Dehai Min, Kailin Zhang, Tongtong Wu, Lu Cheng

게시일 2026-05-19

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Dehai Min, Kailin Zhang, Tongtong Wu, Lu Cheng

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

상상해 보세요. 매우 똑똑하고 독서광인 친구 (AI) 가 있는데, 이 친구는 이야기를 하거나 질문에 답하는 것을 좋아합니다. 하지만 때로는 이 친구가 너무 자신만만해져서 사실을 만들어내기도 합니다. 예를 들어, 실제로 영화를 한 번도 만들지 않은 사람이 어떤 영화를 감독했다고 말하는 식이죠. 이를 '할루시네이션 (환각)'이라고 부릅니다.

오랫동안 연구자들은 이 문제를 해결하기 위해 AI 에게 "정말 확실합니까?"라고 물었습니다. AI 는 자신의 뇌 (내부 신호) 를 들여다보고 "네, 99% 확실합니다!"라고 답했습니다. 하지만 문제는 AI 가 자신의 확신을 판단하는 데 서툴다는 점입니다. AI 는 완전히 거짓된 사실에 대해서도 99% 확신할 수 있습니다.

QuCo-RAG 등장: 도서관의 '사실 확인자'

이 논문의 저자인 QuCo-RAG 는 AI 가 자신감 있는지 물어보는 것을 멈추기로 결정했습니다. 대신 AI 가 문장을 끝내기도 전에 AI 의 사실을 방대한 객관적인 데이터 도서관 (사전 학습 코퍼스) 과 대조하여 확인하는 시스템을 구축했습니다.

이렇게 생각해 보세요:

옛 방식 (내부 신호): AI 에게 "이것을 아십니까?"라고 묻습니다. AI 는 "저는 정말 자신 있습니다!"라고 답합니다. (비록 틀렸더라도요.)
QuCo-RAG 방식 (코퍼스 통계): AI 에게 "이 사실이 도서관에 존재합니까?"라고 묻습니다. 도서관에 기록이 없다면 시스템은 "중지! 이에 대한 증거가 없습니다. 말하기 전에 실제 세계 (데이터 검색) 에서 찾아봅시다"라고 말합니다.

작동 원리: 두 단계 안전망

이 시스템은 Infini-gram(수조 개의 단어를 밀리초 단위로 검색할 수 있는 초고속 도서관 색인) 이라는 것을 이용해 거짓말을 잡아내는 두 단계 프로세스를 사용합니다.

1 단계: '희귀 단어' 확인 (말하기 전)
AI 가 답변을 시작하기 전에 시스템이 질문을 스캔합니다.

유추: "작은 섬나라 조글롭 (Zogblorp) 의 대통령은 누구입니까?"라고 질문한다고 상상해 보세요.
확인: 시스템이 도서관을 검색합니다. 만약 '조글롭'이라는 단어가 인류의 모든 기록에서 단 5 번만 등장한다면 (낮은 빈도), 시스템은 이렇게 판단합니다. "이건 생소하군. AI 는 이를 잘 모를 가능성이 높고, 만들어낼지도 모른다."
조치: 시스템은 AI 가 말을 시작하기도 전에 즉시 책 (데이터) 을 가져와 AI 가 올바르게 답변할 수 있도록 돕습니다.

2 단계: '만난 적이 있는가?' 확인 (말하는 동안)
AI 가 문장 단위로 답변을 생성하는 동안 시스템은 AI 가 말하는 내용을 지켜봅니다.

유추: AI 가 "유명한 셰프 고든 램지 와 유명한 화가 빈센트 반 고흐 는 절친한 친구였다"라고 말합니다.
확인: 시스템이 도서관을 검색하여 '고든 램지'와 '반 고흐'가 같은 문장이나 단락에 함께 등장한 적이 있는지 확인합니다.
논리: 만약 두 사람이 도서관 전체에서 단 한 번도 함께 등장한 적이 없다면 (공동 발생률 제로), 이는 큰 경고 신호입니다. "달과 토스터가 절친한 친구다"라고 말하는 것과 같죠. 불가능한 건 아니지만, 아무도 이에 대해 쓴 적이 없다면 AI 가 할루시네이션을 하고 있을 가능성이 큽니다.
조치: 시스템은 AI 를 멈추게 하고, "잠깐, 이 두 사람은 우리 책에서 결코 어울리지 않는다"라고 말한 뒤 올바른 정보를 가져와 문장을 수정합니다.

이것이 중요한 이유

이 논문은 이 방법이 AI 에게 자신의 감정을 확인하도록 요구하는 것보다 훨씬 효과적임을 보여줍니다.

'블랙박스' 모델에서도 작동합니다: AI 가 어떤 책을 읽었는지 알지 못하더라도 (GPT-4 나 Llama-3 같은 경우), 이 시스템은 작동합니다. 대부분의 AI 모델이 인터넷, 위키피디아 등 유사한 책들을 읽기 때문입니다. 따라서 공공 도서관을 확인하는 방식은 거의 모든 똑똑한 AI 에게 적용 가능합니다.
'자신감 있는 거짓말쟁이'를 잡아냅니다: 다른 방법들은 AI 가 자신감 있게 틀린 말을 할 때 종종 놓칩니다. QuCo-RAG 는 AI 가 어떻게 느끼는지에 상관없이 해당 사실이 도서관에 존재하는지 여부만 확인하기 때문에 이를 잡아냅니다.
빠르고 효율적입니다: 모든 단어를 확인하지 않습니다. '희귀'한 단어나 '의심스러운' 사실 조합이 보일 때만 확인합니다. 이는 모든 것을 지속적으로 확인하는 방식에 비해 시간과 비용을 절약합니다.

결과

이 방법을 어려운 상식 문제 (예: "이 영화를 감독한 사람은 누구이며 그들의 어머니 이름은 무엇인가?") 에 테스트했을 때, QuCo-RAG 는 이전 최고 성능 방법들보다 훨씬 더 많은 정답을 얻었습니다. 정확도가 최대 14 포인트 향상되었는데, 이는 AI 세계에서 엄청난 도약입니다.

요약하자면: QuCo-RAG 는 AI 의 자존심 ("저는 확실합니다!") 을 신뢰하는 대신 도서관 ("증거를 보여주세요") 을 신뢰합니다. 증거가 없다면 AI 가 사실을 만들어내는 것을 막습니다.

기술 요약: QuCo-RAG

문제 제기

동적 검색 증강 생성 (Dynamic RAG) 은 생성 과정에서 외부 증거를 언제 검색할지 적응적으로 결정함으로써 대규모 언어 모델 (LLM) 의 환각을 완화하는 것을 목표로 합니다. 그러나 기존 동적 RAG 방법들 (예: FLARE, DRAGIN, SeaKR) 은 토큰 확률, 엔트로피, 또는 어텐션 가중치와 같은 모델 내부 신호에 의존하여 불확실성을 정량화합니다. 본 논문은 이러한 신호들이 근본적으로 신뢰할 수 없다고 주장합니다. 왜냐하면 LLM 은 일반적으로 잘 보정되지 않아 오류가 있는 출력에서도 높은 확신을 보이는 ("확신 있는 환각") 경향이 있기 때문입니다. 또한 이론적 연구에 따르면, 완벽하게 보정된 모델조차 통계적 일관성을 유지하기 위해 희귀 사실에 대해서는 환각을 일으켜야 할 수도 있다고 합니다. 결과적으로 내부 신호는 불확실한 생성과 확신 있는 오류를 구분하지 못해 일관성 없는 검색 트리거와 비최적의 성능을 초래합니다.

방법론: QuCo-RAG

저자들은 QuCo-RAG(동적 검색 증강 생성을 위한 사전 학습 코퍼스 기반 불확실성 정량화) 를 제안합니다. 이는 주관적인 내부 확신에서 사전 학습 코퍼스에서 도출된 객관적 통계로 불확실성 정량화의 초점을 이동시키는 프레임워크입니다. 이 시스템은 트릴리온 토큰 규모의 코퍼스에서 밀리초 지연으로 쿼리를 수행하는 Infini-gram 엔진을 활용하여 두 가지 명확한 단계로 운영됩니다.

1. 생성 전 지식 평가 (입력 불확실성)

생성이 시작되기 전에 시스템은 입력 질문의 지식 격차를 평가합니다:

개체 추출: 경량 추출기가 질문에서 주요 개체 ( $E_Q$ ) 를 식별합니다.
빈도 확인: 시스템은 사전 학습 코퍼스 ( $P$ ) 에서 각 개체의 빈도를 조회합니다.
트리거 조건: 평균 개체 빈도가 임계값 ( $\tau_{entity}$ ) 미만으로 떨어지면 "롱테일" 지식 위험을 나타내므로 즉시 검색이 트리거됩니다. 원래 질문을 쿼리로 사용하여 문서를 검색하고, 이를 컨텍스트 앞에 추가합니다.

2. 런타임 주장 검증 (출력 불확실성)

생성 중 시스템은 생성된 각 문장 ( $s_i$ ) 에 대한 증거적 지지를 모니터링합니다:

트리플 추출: 경량 모델이 생성된 문장에서 지식 트리플 $(h, r, t)$ 을 추출합니다.
공발현 검증: 전체 관계적 주장을 검증하는 대신 (이는 어휘적 변이로 인해 문제가 됨), 시스템은 사전 학습 코퍼스 내 정의된 창 ( $\omega$ ) 에서 헤드 ( $h$ ) 와 테일 ( $t$ ) 개체의 공발현 빈도를 확인합니다.
트리거 조건: 공발현 횟수가 0 이거나 임계값 ( $\tau_{cooc}$ ) 미만이면, 시스템은 증거적 지지의 부재를 추론하여 환각의 높은 위험을 신호로 간주합니다.
조치: 의미 지향적 쿼리 ( $h \oplus r$ ) 로 검색이 트리거되고, 검색된 컨텍스트를 사용하여 해당 문장이 재생성됩니다.

주요 기여

패러다임 전환: 본 논문은 신뢰할 수 없는 내부 모델 신호 대신 코퍼스 통계에 기반한 검색 결정을 내리는 모델 중립적 접근법을 제시합니다.
이중 단계 탐지: 희귀 개체 (입력 불확실성) 와 지지되지 않는 개체 쌍 (출력 불확실성) 을 모두 해결하는 이중 단계 메커니즘을 공식화합니다.
인프라 활용: 이 방법은 Infini-gram을 효과적으로 활용하여 4 조 토큰과 같은 대규모 사전 학습 코퍼스에서 실시간 통계 쿼리를 수행하며, 무시할 수 있는 지연 시간을 유지합니다.
광범위한 적용 가능성: 이 프레임워크는 투명성 있는 코퍼스 (OLMo-2) 의 통계가 공개되지 않거나 독점적인 학습 데이터를 가진 모델 (예: Llama-3, Qwen2.5, GPT-4/5) 에 대한 효과적인 대리 지표가 될 수 있음을 입증합니다.

실험 결과

저자들은 멀티홉 QA 벤치마크 (2WikiMultihopQA, HotpotQA) 에서 QuCo-RAG 를 평가했으며, 장문 생성 (ASQA) 과 생물의학 QA(PubMedQA) 로 평가 범위를 확장했습니다.

OLMo-2 성능: 사전 학습 코퍼스에 대한 완전한 접근 권한이 있는 OLMo-2 계열 (7B, 13B, 32B) 을 사용하여 QuCo-RAG 는 최첨단 베이스라인 (DRAGIN, ETC, SeaKR 포함) 대비 정확 일치 (EM) 에서 5~12 점 향상을 달성했습니다.
크로스 모델 전이성: 공개되지 않은 데이터를 가진 모델 (Llama-3, Qwen2.5, GPT-4.1/5) 에 적용되었을 때, QuCo-RAG 는 내부 신호에 의존하는 베이스라인을 능가하며 최대 14 점까지 EM 을 향상시켰습니다. 특히 내장 웹 검색 도구를 사용하는 GPT 모델보다 우수한 성능을 보였습니다.
효율성: QuCo-RAG 는 우수한 성능을 유지하면서 높은 효율성을 달성했습니다. FS-RAG 나 SeaKR 과 같은 방법들은 종종 낮은 정확도로 과도한 검색을 트리거하는 반면, QuCo-RAG 는 질문당 훨씬 적은 검색 (예: HotpotQA 에서 약 1.7 회) 을 트리거했습니다.
도메인 일반화: 이 방법은 작업별 튜닝 없이도 장문 생성과 생물의학 도메인으로 강력하게 일반화되었으며, 반면 내부 신호 기반 방법들은 이러한 전문화된 설정에서 효율성이나 효과성 측면에서 어려움을 겪었습니다.

중요성과 주장

본 논문은 코퍼스 기반 검증을 동적 RAG 를 위한 원칙적이고 실용적인 모델 중립적 패러다임으로 확립한다고 주장합니다. 저자들은 다음과 같이 논합니다:

신뢰성: 코퍼스 통계는 보정 오류에 취약한 모델 내부 확신 점수보다 불확실성에 대한 더 신뢰할 수 있는 신호를 제공합니다.
확장성: 웹 규모 사전 학습 코퍼스 간의 상당한 중첩을 활용함으로써 공개되지 않은 학습 데이터를 가진 모델에도 효과적으로 확장됩니다.
안전성과 견고성: "공발현 제로"를 환각 위험의 강력한 지표로 탐지함으로써, 특히 모델이 오류를 가장 많이 범하는 롱테일 지식에 대해 확신 있는 환각을 완화하는 원칙적인 방법을 제공합니다.

저자들은 정확한 어휘 매칭에 대한 의존성 (별칭 하의 공발현을 놓칠 수 있음) 과 정적 사전 학습 코퍼스의 시간적 제약과 같은 한계를 인정합니다. 그러나 그들은 미탐지된 환각의 위험보다는 의구심 발생 시 검색을 트리거하는 보수적 전략이 더 바람직하다고 주장합니다.