기술 요약: 온도가 RAG(검색 증강 생성) 내 이데올로기적 담론을 형성하는 방식

문제 제Statement

검색 증강 생성(RAG)은 대규모 언어 모델(LLM)의 환각 현상을 완화하고 사실적 근거를 개선하기 위해 널리 채택되고 있지만, 검색된 문서 내의 이데올로기적 편향이 LLM 출력에 미치는 영향에 대해서는 아직 충분히 연구되지 않았습니다. 기존 연구들은 검색의 사실적 오류를 다루어 왔으나, RAG 프레임워크가 외부 지식원에 존재하는 이데올로기적 담론을 어떻게 전달, 증폭 또는 억제하는지에 대해서는 간과해 왔습니다. 이는 치료법과 위험에 대한 해석을 재구성할 수 있는 미묘한 어구 변화가 발생할 수 있는 의료와 같은 고위험 분야에서 특히 중요합니다. 또한, RAG 시스템 내에서 이러한 이데올로기적 전이를 조절하는 매개변수인 샘플링 온도(sampling temperature)—토큰 생성의 무작위성을 제어하는 파라미터—의 역할에 대해서도 제한적인 연구만이 이루어졌습니다.

방법론

코퍼스 구축 및 이데올로기 식별

본 연구는 2020년부터 2022년 사이에 발표된 COVID-19 치료법에 관한 1,117개의 과학 논문으로 구성된 도메인 특화 코퍼스를 활용했습니다. 코퍼스는 두 개의 하위 코퍼스로 나뉘었습니다:

1. 논쟁적(Controversial): 공식 보건 기구에서 승인하지 않은 치료법(예: 하이드록시클로로퀸, 이버메크틴)을 옹호하는 116개의 텍스트.
2. 지지된(Endorsed): 국제 보건 및 과학 표준과 일치하는 991개의 텍스트.

잠재적인 이데올로기적 담론을 식별하기 위해 저자들은 **어휘 다차원 분석(LMDA)**을 적용했습니다. 이 방법은 단어 공기(collocations)에 대한 요인 분석을 사용하여 통계적으로 도출된 차원을 밝혀내는 Biber의 다차원 분석을 확장한 것입니다.

• 전처리: 4개 단어 범위 내에서 Log-Dice 점수($D \ge 7$)를 사용하여 핵심 공기들을 추출했습니다.
• 요인 분석: 테트라코릭 상관 행렬(tetrachoric correlation matrix)을 계산한 후 요인 분석을 수행했습니다. 차원의 양극단과 텍스트 하위 집합(논쟁적 vs. 지지된) 사이의 명확한 중첩을 기반으로 세 가지 주요 차원을 선택했습니다.
• 미세 분석: 이러한 차원의 극단에 위치한 텍스트에 대한 질적 분석을 통해 담론적 지향성(예: 홍보적 vs. 증거 기반)에 대한 레이블을 부여했습니다.

실험 설정

연구는 다음과 같은 다양한 조건 하에서 이러한 식별된 담론이 LLM 응답으로 전파되는 방식을 평가했습니다:

• 모델: GPT-4o-mini, GPT-3.5-turbo, Gemini-2.0, Qwen2.5의 네 가지 LLM을 테스트했습니다.
• 생성 조건:
  • LLM 전용(LLM-only): 외부 컨텍스트 없이 모델이 답변함.
  • RAG: 이데올로기 코퍼스에서 검색된 컨텍스트를 사용하여 모델이 답변함.
• 프롬프팅 전략:
  • 일반(Regular): 검색된 컨텍스트가 있거나 없는 표준 프롬프트.
  • 강화된(Enhanced): 특정 이데올로기적 프레이밍으로 모델을 유도하기 위해 LMDA 메타데이터(차원 레이블, 설명, 전형적인 어휘, 예시 텍스트)를 명시적으로 포함한 프롬프트.
  • 부정적 프롬프트(Negative Prompt): 제공된 이데올로기적 메타데이터를 반영하지 않도록 모델에 명시적으로 지시한 특정 조건.
• 샘플링 온도: 다섯 가지 온도에서 실험을 진행했습니다: 0.1, 0.3, 0.5, 0.7, 0.9.

평가 지표

이데올로기적 정렬(alignment)은 참조 이데올로기 텍스트에 대해 세 가지 유사도 접근 방식을 사용하여 측정되었습니다:

1. 의미적 유사도(Semantic Similarity): 평균화된 BERT형 임베딩의 코사인 유사도.
2. 어휘적 유사도(Lexical Similarity): TF-IDF 벡터의 코사인 유사도.
3. 하이브리드 유사도(Hybrid Similarity): 의미적 벡터와 어휘적 벡터의 결합.

추가적인 구조적 지표로는 어휘 다양성을 위한 유형-토큰 비율(TTR), 생성 불확실성을 위한 평균 토큰 엔트로피, 그리고 출력 길이가 포함되었습니다.

주요 결과

1. RAG 및 프롬프팅이 정렬에 미치는 영향

• RAG의 우월성: 모든 온도와 지표에 걸쳐, RAG 기반 설정이 LLM 전용 생성보다 더 높은 이데올로기적 정렬을 달est했습니다.
• 강화된 프롬프팅: RAG와 강화된 프롬프팅(명시적 이데올로기 메타데이터)의 결 조합은 가장 높은 정렬 점수를 기록했으며, 이는 명시적인 단서가 검색된 이데올로기적 컨텍스트에 의해 강화될 때 가장 효과적임을 시사합니다.
• LLM 전용의 한계: 검색 근거가 없으면 강화된 프롬프팅조차 정렬을 유의미하게 개선하지 못했으며, 이는 일관된 이데올로기 전사를 위해 외부 지식이 필수적임을 나타냅니다.

2. 샘플링 온도의 역할

온도가 담론 정렬에 미치는 영향은 시스템 구성에 따라 크게 달랐습니다:

• RAG와 강화된 프롬프팅: 정렬도는 가장 결정론적인 설정($T=0.1$)에서 가장 낮았고, **중간 온도($T=0.5$)**에서 최대치에 도달한 후 온도가 더 높아짐에 따라 안정화되었습니다. 이는 확률성과 검색 근거 사이의 균형이 최적임을 시사합니다.
• RAG와 일반 프롬프팅: 온도가 상승함에 따라 정렬도가 점진적이고 단조롭게 증가하여 $T=0.9$에서 정점을 찍었습니다. 검색된 증거가 생성 과정을 충분히 제약하여 높은 다양성을 유지하면서도 정렬도를 저하시키지 않는 것으로 보입니다.
• LLM 전용: "상승 후 하락" 패턴을 보였습니다. 정렬도는 $T=0.1$에서 $T=0.3$까지 증가했으나, 이후 감소하고 안정화되었습니다. 이는 검색 지원이 없는 경우 과도한 무작위성이 모델이 제어할 수 없는 변동성을 유발하여 이데올로기적 일관성을 떨어뜨린다는 것을 의미합니다.

3. 모델별 결과

• Qwen2.5는 모든 지표와 온도에서 일관되게 가장 높은 정렬 점수를 보여, 이데올로기적 영향에 대한 높은 감수성을 시사했습니다.
• GPT-4o-mini는 가장 낮은 정렬 점수와 온도에 따른 가장 적은 변동성을 보여, 더 많은 인코딩된 세계 지식을 가진 대규모 모델이 외부 이데올로기 프레이밍에 더 저항력이 있음을 암시했습니다.

4. 구조적 지표

• 어휘 다양성(TTR): LLM 전용 출력은 RAG 출력보다 일관되게 높은 어휘 다양성을 보였습니다. RAG 설정 내에서 온도는 TTR에 미미한 영향을 미쳤습니다.
• 엔트로피: 두 설정 모두 온도에 따라 평균 엔트로피가 완만하게 증가하여, 토큰 선택의 무작위성이 높아짐을 확인했습니다.
• 출력 길이: RAG 출력은 LLM 전용 출력보다 유의미하게 길었습니다. RAG 길이는 온도에 따라 점진적으로 증가한 반면, LLM 전용 길이는 비교적 안정적이었습니다.

5. 부정적 프롬프팅

모델이 이데올로기적 정렬을 피하도록 명시적으로 지시했을 때(부정적 프롬프트), 정렬 점수는 일반 설정에 비해 크게 떨어졌습니다. 어휘적 지표에서 가장 큰 감소가 나타났는데, 이는 단어 선택이 프롬프트의 극성에 매우 민다는 것을 나타내며, 반면 의미적 구조는 더 저항력이 있음을 보여줍니다.

의의 및 기여

본 논문은 두 가지 주요 기여를 합니다:

1. 이데올로기 차원의 공식적 정의: 외부 지식(LMDA를 통해)으로부터 도출된 이데올로기 차원 세트를 확립하여, 특정 이데올로기에 대한 LLM 응답의 정렬을 정량적으로 평가할 수 있게 했습니다.
2. 이데올로기 전파의 특성화: 서로 다른 샘플링 온도 하에서 RAG 외부 지식이 LLM 출력으로 어떻게 이데올로기적 담론을 전파하는지 조사했습니다.

핵-결론:
본 연구는 샘플링 온도가 담론 정렬에 상당한 영향을 미치지만, 그 효과는 구조적으로 조절됨을 결론짓습니다. RAG 시스템에서는 검색 근거가 온도에 의한 이데올로기 표류를 억제하여, LLM 전용 시스템에 비해 정렬을 더 안정적으로 만듭니다. 근거가 있는 시스템에서의 이데올로기 전이는 온도 단독이 아니라, 디코딩의 확률성, 메타데이터 기반 프롬프팅, 그리고 검색 제약 간의 상호작용에서 발생합니다.

한계점:
저자들은 본 연구의 결과가 급박함과 양극화가 특징이었던 COVID-19 담론(2020–2022) 맥중에 국한되어 있음을 언급했습니다. 비의료 분야(예: 기후 변화)에 대한 일반화 가능성은 아직 검증되지 않았습니다. 또한, 자동화된 유사도 지표에 대한 의존성은 향 found 결과를 확증하기 위한 향후 인간 평가의 필요성을 시사합니다.