CITE PRETRAIN: 대규모 언어 모델 (LLM) 을 위한 검색 없는 지식 귀속 (Retrieval-Free Knowledge Attribution)

이 논문은 ICLR 2026 에 발표된 것으로, 외부 검색기 (Retriever) 에 의존하지 않고도 LLM 이 학습 데이터 (Pretraining Corpus) 를 기반으로 신뢰할 수 있는 인용 (Citation) 을 생성할 수 있도록 하는 새로운 방법론인 CitePretrain을 제안합니다.

1. 문제 정의 (Problem)

현재 LLM 은 답변에 근거를 제시하기 위해 외부 검색기 (RAG) 를 사용하는 경우가 많습니다. 그러나 이는 다음과 같은 한계를 가집니다:

• 지연 및 인프라 의존성: 실시간 검색은 지연을 유발하고 외부 인프라에 의존합니다.
• 검색 노이즈: 검색된 문서가 누락되거나 모델의 내부 지식과 충돌할 경우 추론의 정확도가 떨어집니다.
• 내부 인용의 부재: 독립적인 LLM 이 생성하는 인용은 환각 (Hallucination) 비율이 매우 높습니다 (86~91.4%).
• 설명 가능성 부족: 외부 검색은 모델이 무엇을 '기억'하고 있는지 내부적으로 추적하기 어렵습니다.

따라서, 테스트 시 검색 없이 (Retrieval-Free) 학습 데이터에 대한 신뢰할 수 있는 인용을 생성할 수 있는 LLM 을 만드는 것이 핵심 문제입니다.

2. 제안 방법론 (Methodology)

저자들은 CitePretrain 프레임워크를 제안하며, 이는 두 단계의 학습 과정을 거칩니다.

2.1. CitePretrain-Bench (벤치마크)

실제 현실 세계의 코퍼스 (Wikipedia, Common Crawl, arXiv) 와 학습 중 보지 못한 새로운 문서 (Novel Documents) 를 혼합하여 구축한 벤치마크입니다.

• 단순형 (Short-form): 단일 사실에 대한 인용.
• 장문형 (Long-form): 여러 문서를 종합하여 답변하고 인용하는 과제.
• 문서 식별자: 문서 ID 로 숫자 대신 가독성 있는 텍스트 제목 (Text Titles) 을 사용하여 모델이 더 잘 기억하도록 설계했습니다.

2.2. 학습 프레임워크

1. 지속적 사전 학습 (Continual Pretraining): 모델이 학습 데이터의 사실적 지식을 인덱싱하고 문서 ID 와 연결하도록 학습합니다.
2. 지시 미세 조정 (Instruction Tuning): 모델이 질문을 받으면 사실적 답변과 함께 해당 출처 (문서 제목) 를 인용하도록 유도합니다.

2.3. 핵심 기법: 능동적 인덱싱 (Active Indexing)

기존의 수동적 인덱싱 (Passive Indexing, 문서 끝에 ID 를 단순히 추가) 은 사실과 ID 를 정확히 연결하지 못한다는 한계가 있었습니다. 이를 해결하기 위해 제안된 Active Indexing은 두 가지 증강 (Augmentation) 전략을 사용합니다:

• 전방향 증강 (Forward Augmentation):

  • 목표: 문서 ID $\rightarrow$ 사실 (Fact) 매핑 강화.
  • 방법: 각 문서에서 핵심 엔티티를 추출하고, 해당 엔티티와 문서 제목을 포함하는 다양한 질문 - 답변 쌍 (QA Pairs) 을 생성합니다.
  • 효과: 특정 문서 제목이 주어졌을 때 해당 문서의 내용을 정확히 회상하도록 훈련합니다.

• 역방향 증강 (Backward Augmentation):

  • 목표: 사실 (Fact) $\rightarrow$ 문서 ID 매핑 강화.
  • 방법: 여러 문서의 조각 (Chunks) 을 조합하여 새로운 질문을 생성하고, 답변 시 해당 사실들을 지지하는 여러 문서의 제목을 인용하도록 훈련합니다.
  • 효과: 여러 출처를 종합하여 답변하고, 각 주장에 맞는 정확한 출처를 할당하는 능력을 키웁니다.

이 두 가지 방향의 증강 데이터를 합치면 원래 코퍼스 크기의 약 7 배 (16 배까지 확장 실험 가능) 에 달하는 고품질 학습 데이터가 생성됩니다.

3. 주요 결과 (Results)

Qwen-2.5 (3B, 7B) 모델을 기반으로 한 실험 결과는 다음과 같습니다:

• 성능 향상: Active Indexing 은 수동적 인덱싱 (Passive Indexing) 대비 인용 정밀도 (Citation Precision) 에서 최대 30.2%p 향상을 보였습니다.
  • 예: RepliQA 데이터셋에서 7B 모델의 인용 정밀도가 2.4% (Passive) 에서 32.6% (Active) 로 급증했습니다.
• 방향성의 시너지: 전방향 (Forward) 과 역방향 (Backward) 증강을 모두 사용할 때 가장 큰 성능 향상을 보였습니다.
• 모델 규모 효과: 모델 크기가 커질수록 (3B $\rightarrow$ 7B $\rightarrow$ 14B) 인용 성능이 꾸준히 향상되었습니다.
• 상용 모델 비교: GPT-4.1 은 답변 정확도는 높았으나, Active Indexing 으로 학습된 Qwen 모델보다 신뢰할 수 있는 인용 생성 능력은 현저히 낮았습니다. 이는 내부 지식 기반 인용이 단순한 프롬프트 엔지니어링으로 해결되기 어렵고, 체계적인 학습이 필요함을 시사합니다.
• 확장성: 증강 데이터 양을 16 배까지 늘려도 성능이 포화되지 않고 계속 향상되었습니다.

4. 내부 인용 vs 외부 인용 (Internal vs. External Citations)

• 내부 인용 (Internal): 검색이 불가능하거나 검색 결과가 부정확할 때 강력한 백업 (Fallback) 역할을 합니다.
• 외부 인용 (External): 최신 정보나 모델이 기억하지 못하는 정보를 제공할 때 유리합니다.
• 하이브리드 접근: 두 방법을 결합한 시스템이 모든 조건에서 가장 좋은 성능을 보였습니다. 특히 검색 품질이 낮을 때 내부 인용이, 검색 품질이 높을 때 외부 인용이 각각 우위를 점하며 상호 보완적입니다.

5. 의의 및 결론 (Significance & Conclusion)

• 검색 없는 신뢰성 확보: 외부 인프라에 의존하지 않고도 모델이 학습 데이터의 출처를 명확히 밝힐 수 있게 하여, 설명 가능성 (Explainability) 과 투명성을 크게 향상시켰습니다.
• 학습 패러다임의 전환: 단순한 "기억"을 넘어, 지식과 출처를 명시적으로 연결하는 능동적 학습 (Active Learning) 전략의 중요성을 입증했습니다.
• 규제 대응: EU AI Act 등 규제 강화 흐름에 맞춰, 모델의 출력에 대한 훈련 데이터 기반의 추적 (Traceability) 을 기술적으로 가능하게 합니다.
• 실용성: 검색 인프라가 없는 환경 (예: 오프라인, 지연 민감도 높은 환경) 에서도 신뢰할 수 있는 답변 생성이 가능해집니다.

요약하자면, 이 논문은 Active Indexing을 통해 LLM 이 학습 데이터에 대한 신뢰할 수 있는 인용을 내재화할 수 있음을 증명했으며, 이는 RAG 의 한계를 보완하고 더 투명하고 견고한 AI 시스템을 구축하는 중요한 디딤돌이 될 것입니다.