기술 요약: DIVERGE – 개방형 정보 탐색을 위한 다양성 강화 검색 증강 생성(Diversity-Enhanced Retrieval-Augmented Generation)

1. 문제 정의

현재의 검색 증강 생성(RAG) 시스템은 모든 질의에 대해 단 하나의 사실적으로 올바른 답변이 존재한다는 가정하에 설계되어 있습니다. 이러한 패러다임은 브레인스토밍, 의사 결정 지원, 또는 대안적 관점 탐색과 같은 개방형 정보 탐색 시나리오에서 지식 붕괴(knowledge collapse) 현상을 초래합니다. 즉, 여러 가지 타당한 답변이 존재할 수 있는 상황에서 문제가 발생합니다.

본 논문은 표준 RAG 시스템이 다양한 출력을 생성하는 것을 방해하는 세 가지 구체적인 과제를 식별합니다:

• C1: 단일 답변 편향(Single-Answer Bias): RAG 패러다임은 모델이 과도하게 확신을 가지고 생성하도록 유도하여, 모델이 대안적이지만 타당한 정보를 무시하고 좁고 신뢰도가 높은 하위 집합의 컨텍스트만을 우선시하게 만듭니다.
• C2: 다양성 보존 능력 결여(Missing Diversity Preservation): 기존 메커니즘은 여러 번의 생성 과정 동안 다양성을 유지하기 위한 장기적 전략이 부족합니다. 결과적으로, 다양한 검색 컨텍스트가 있더라도 LLM 고유의 성향으로 인해 모델은 매우 유사하고 균질화된 출력을 생성하게 됩니다.
• C3: 제한된 실용적 적용 가능성(Limited Practical Applicability): 최첨단 다양성 강화 기술 중 다수는 토큰 수준의 로짓(logits)이나 특정 디코딩 하이퍼파라미터(예: temperature, top-p)에 대한 접근을 필요로 하지만, 이는 폐쇄형 소스 프런티어 LLM(예: GPT-5, o3)에서는 사용이 불가능하거나 제한됩니다.

또한, 본 논문은 단순히 검색 다양성을 높이는 것(예: 재순위화)이 반드시 다양한 생성으로 이어지지는 않으며, 기존의 프롬프트 기반 방식들은 종종 품질의 심각한 저하를 대가로 다양성을 달성한다는 점을 지적합니다.

2. 방법론: DIVERGE 프레임워크

저자들은 답변 품질을 유지하면서도 다양한 관점을 명시적으로 모델링하도록 설계된 플러그 앤 플레이(plug-and-play) 에이전트형 RAG 프레임워크인 DIVERGE(Diversity-Enhanced Retrieval-Augmented-Generation)를 제안합니다. DIVERGE는 토큰 로짓에 대한 접근 없이도 작동하므로, 폐쇄형 모델을 포함한 임의의 LLM 백본과 호환됩니다.

이 프레임워크는 세 가지 핵심 구성 요소로 이루어져 있습니다:

A. 성찰 가이드 관점 생성 (Reflection-Guided Viewpoint Generation)

단일 답변 편향(C1)을 완화하기 위해, DIVERGE는 잠재적인 모델 특징을 "관점(viewpoints)"으로 취급합니다.

1. 초기화: 시스템은 초기 RAG 응답을 생성하고 이를 요약하여 기존의 관점들을 추출합니다.
2. 성찰: 후속 반복 과정에서, LLM은 이전에 탐색된 관점 세트를 성찰합니다.
3. 새로운 관점 식별: 모델은 원래의 질의에 대해 구별되는 관점을 제공하는, 충분히 다뤄지지 않은 새로운 관점을 식별함으로써 생성 과정이 하나의 지배적인 입장으로 붕괴되지 않도록 보장합니다.

B. 관점 인식 다양성 검색 (Viewpoint-Aware Diversity Retrieval)

가설적인 관점에 대한 사실적 근거 부족 문제(C2)를 해결하기 위해, DIVERGE는 식별된 관점에 특화된 증거를 찾기 위해 오픈 웹을 쿼리하는 검색 메커니즘을 통합합니다.

• 쿼리 생성: LLM은 새로운 관점에 조건화된 쿼리를 생성합니다.
• 다양성 인식 재순위화: 검색기는 확장된 최대 한계 관련성(Maximal Marginal Relevance, MMR) 공식을 사용하여 문서를 점수화합니다. 점수는 다음을 기준으로 합니다:
  1. 현재의 관점 조건부 쿼리에 대한 관련성.
  2. 이전 반복(메모리)에서 검색된 문서들과의 다양성.
  3. 현재 반복 내에서 선택된 문서들과의 다양성.
     이를 통해 특정 관점을 뒷받침하는 증거를 확보하는 동시에, 이미 탐색된 정보와의 중복을 피할 수 있습니다.

C. 관점 조건부 생성 및 정제 (Viewpoint-Conditioned Generation and Refinement)

특정 관점과 사용자의 원래 의도 사이의 간극을 메우기 위해, DIVERGE는 2단계 생성 프로세스를 채택합니다.

1. 조건부 생성: LLM은 원래의 질의와 목표 관점 모두에 명시적으로 조건화되어 응답을 생성합니다.
2. 정제: 생성된 응답은 논리적 일관성, 사실적 정확성, 그리고 원래의 사용자 질의에 직접적으로 대응하는지를 확인하기 위해 정제됩니다. 이는 다양성을 도입하면서도 과도한 이탈을 방지합니다.

3. 평가 지표

정답(ground-truth)이 존재하는 방식의 표준 지표가 개방형 작업에는 부적합하다는 점을 인식하여, 저자들은 **다양성-품질 트레이드오프(diversity–quality trade-off)**에 초점을 맞춘 새로운 평가 세트를 도입했습니다.

• 의미적 다양성 ($D_{sem}$): 생성된 응답 간의 의미적 변이를 측정하기 위해 답변 임베딩 간의 쌍별 코사인 거리(pairwise cosine distance)를 사용합니다.
• 관점 다양성 ($D_{view}$): 응답을 원자적 주장(관점)으로 분해하고, 응답 세트 전반에 걸쳐 서로 중복되지 않는 주장들의 비율을 측정합니다. 이는 의미적 지표가 놓칠 수 있는 응답 내부의 다양성을 포착합니다.
• 품질 점수: LLM-as-a-Judge 패러다임을 사용하여 사실적 정확성, 증거 지원, 내부 일관성, 질문 관련성을 평가합니다.
• 통합 다양성-품질 조화 점수 ($U_{Q}$): 정규화된 다양성 점수와 품질 점수의 조화 평균으로, 다양한 방법론의 성능을 비교할 수 있는 단일 지표를 제공합니다.

4. 실험 결과

프레임워크는 정답이 없는 개방형 질의를 담은 실제 벤치마크인 Infinity-Chat에서 평가되었습니다. 실험에는 GPT-5-mini 및 GPT-5.1 모델이 사용되었습니다.

• 성능: DIVERGE는 모든 방법 및 모델 구성에서 가장 높은 **통합 점수(Unified Score)**를 달축성했습니다.
• 다양성 이득: 독립 샘플링(직접 프롬프팅)과 비교했을 때, DIVERGE는 의미적 다양성을 약 2.5배, 관점 다양성을 약 1.6배 향상시켰습니다.
• 품질 보존: 상당한 품질 저하를 겪은 프롬프트 기반 베이스라인(예: Verbalized Sampling)과 달리, DIVERGE는 품질 점수의 미미한 감소(~0.04)만을 보이며 대등한 답변 품질을 유지했습니다.
• 베이스라인 비교: 표준 RAG 및 단순 다양성 강화 전략(예: 컨텍스트 셔플링, 멀티 쿼리)은 다양성을 크게 높이지 못했으며, 종종 더 낮은 통합 점수를 기록했습니다.

5. 의의 및 주장

본 논문은 DIVERGE가 현재의 LLM 기반 시스템이 가진 체계적인 한계, 즉 개방형 정보 탐색 시 다양한 검색 컨텍스트를 활용하지 못하는 문제를 해결한다고 주장합니다.

• 균질화 완화: 성찰과 반복적 정제를 통해 다양성을 명시적으로 모델링함으로써, DIVERGE는 모델의 내부 상태(로짓)에 접근하거나 재학습시키지 않고도 프런티어 LLM의 균질화 경향을 극복할 수 있음을 입증했습니다.
• 실용적 적용 가능성: 이 프레임워크는 폐쇄형 모델과도 호환되는 "플러그 앤 플레이" 솔루션으로 설계되어, 디코딩 제어가 제한적인 실제 배포 시나리오에 즉시 적용 가능합니다.
• 윤리적 및 사회적 영향: 저자들은 AI 응답의 다양성을 증진하는 것이 지배적인 사회적 또는 문화적 관점을 과도하게 나타내는 균질화된 출력의 위험을 완화하고, 이를 통해 더 공정하고 포용적인 정보 접근을 지원하며 인간의 창의성을 촉진하는 데 도움이 된다고 주장합니다.

결론적으로, 본 연구는 개방형 RAG 시스템에서 응답의 다양성과 사실적 신뢰성이라는 상충하는 목표 사이의 균형을 맞추기 위해 다양성을 명시적으로 모델링하는 것이 실행 가능한 경로임을 보여줍니다.