기술 요약: 검색 증강 언어 보정 (RALC)

문제 제기

신뢰할 수 있는 신뢰도 추정은 Large Language Models(LLM) 을 인간의 의사결정에 신뢰성 있게 배포하는 데 필수적입니다. 기존 방법들은 신뢰도를 스칼라 확률 값 (예: 토큰 수준의 확률 또는 언어화된 점수) 으로 표현하지만, 인간은 수치적 확률로 정확하게 추론하는 데 어려움을 겪습니다. 따라서 'likely(가능하다)', 'may(할 수도 있다)'와 같은 언어적 표지자가 자연스러운 인터페이스로 선호됩니다. 그러나 이러한 표지자를 스칼라로 취급하면 언어적 해석의 고유한 주관성을 무시하게 됩니다: 서로 다른 독자들은 동일한 표현을 서로 다른 지각된 확률 값으로 매핑합니다. 또한, 공존하는 언어적 단서와 맥락적 변이는 스칼라 표현이 포착하지 못하는 고유한 도전을 제기합니다. 현재 사후 (post-hoc) 보정 방법들은 완전히 수치적 공간에서 작동하며, 보정된 신호를 자연어로 다시 전파하는 메커니즘이 부족합니다. 반면 기존 언어적 전략들은 원칙적인 통제 없이 블랙박스 절차로 기능하는 경우가 많습니다.

방법론

1. 언어적 신뢰도의 분포 모델링

저자들은 언어적 신뢰도를 단일 스칼라가 아닌, 진술이 정확할 가능성에 대한 타당한 지각된 확률 값들의 분포로 모델링합니다.

• 형식화: 신뢰도는 베타 분포, $S = \text{Beta}(\alpha, \beta)$로 표현됩니다.
  • 평균 $\mu = \alpha/(\alpha+\beta)$는 독자들 사이에서 지각된 신뢰도의 중심 경향을 포착합니다.
  • 농도 $\kappa = \alpha + \beta$는 독자들 간의 합의 강도 (분산) 를 인코딩합니다.
• 추정: 신뢰도 추정기 $g$는 응답 $R$을 베타 분포로 매핑합니다. 이는 인간 청중의 대리인 역할을 하는 LLM 앙상블이 생성한 점수에 베타 분포를 적합시켜 매개변수화하며, 여러 언어적 단서와 맥락의 상호작용을 포착합니다.

2. 충실도 발산 (Faithfulness Divergence, FD)

기대 보정 오차 (ECE) 와 같은 집단 수준 보정을 넘어 신뢰도를 평가하기 위해, 본 논문은 인스턴스 수준의 차원으로서 **충실도 (Faithfulness)**를 도입합니다.

• 정의: 충실도는 진상이 밝혀졌을 때 청중의 신념에 유발되는 '놀라움 (surprise)'을 측정합니다.
• 지표: **충실도 발산 (FD)**은 농도 가중 베이지안 업데이트 비용으로 정의됩니다:
  $$FD_i := (\alpha_i + \beta_i) \cdot \text{KL}(S^*_i \parallel S_i)$$
  여기서 $S_i$는 사전 분포이고, $S^*_i$는 진리 레이블 $y_i$로 업데이트된 사후 분포입니다.
• 근거: FD 는 농도 (유효 표본 크기) 로 KL 발산을 가중치하여 정보 이론적 놀라움을 정량화합니다. 높은 농도를 가진 불일치 신념은 낮은 농도의 불일치보다 더 큰 패널티 (놀라움) 를 부과받습니다. 이는 강하게 유지된 잘못된 신념이 더 놀라운 것이라는 직관을 반영합니다.

3. 검색 증강 언어 보정 (RALC)

RALC 는 원시 LLM 응답을 언어적 공간에서 직접 보정되고 충실한 출력으로 변환하는 경량의 사후 파이프라인입니다. 이 파이프라인은 세 단계로 구성됩니다:

1. 신호 공간 보정: 추정된 신뢰도 분포의 평균은 이진 정확성 레이블에 대해 **플랫 스케일링 (Platt scaling, 로지스틱 회귀)**을 사용하여 보정됩니다. 농도 매개변수는 보존되는데, 이는 보정의 대상이 아니라 합의의 강도를 나타내기 때문입니다.
2. 어휘 구축: 사전 구축된 어휘는 'tend to(경향성이 있다)', 'certainly(확실히)'와 같은 완화 표현을 지각된 신뢰도의 해당 베타 분포에 매핑합니다. 이러한 분포들은 특정 완화 단어를 포함한 재작성된 검증 불가능한 문장에 대해 LLM 앙상블이 평가를 수행함으로써 유도됩니다.
3. 검색 증강 재작성: 보정된 분포는 검색 신호로 작용합니다. 시스템은 2 단계 K-최근접 이웃 (KNN) 검색을 수행합니다:
   • 단축 (Shortlisting): 보정된 평균과 어휘 항목 평균 간의 절대 거리를 기반으로 합니다.
   • 순위 매기기 (Ranking): 분포의 중심 경향과 확산 (농도) 을 모두 일치시키기 위해 1-워asserstein 거리를 기반으로 합니다.
   • 재작성: 상위 $k$개의 검색된 완화 표현은 원본 응답과 함께 LLM 편집기에 전달되어 텍스트를 재작성하며, 새로운 응답의 지각된 신뢰도가 보정된 신호와 일치하도록 보장합니다.

이 파이프라인은 언어적 신뢰도, 토큰 확률, 그리고 자기 일관성 샘플링에서 유도된 의미적 불확실성을 포함한 다양한 상류 신호와 호환됩니다.

주요 기여

1. 분포 프레임워크: 단서와 독자 해석 변이 간의 상호작용을 포착하기 위해 언어적 신뢰도를 베타 분포로 형식화하여, 이산적 매핑과 스칼라 정량화를 넘어섰습니다.
2. 충실도 지표: 진상 공개 시 신뢰도 신념의 정보 이론적 놀라움을 정량화하는 새로운 인스턴스 수준 평가 차원인 **충실도 발산 (FD)**을 도입하여, 분포 설정에서 Brier 점수 및 NLL 과 같은 스칼라 지표의 한계를 해결했습니다.
3. RALC 파이프라인: 검색 증강 재작성을 통해 언어적 공간에서 신뢰도를 보정하는 일반화 가능한 사후 프레임워크를 제안하여, 다양한 신뢰도 추정 신호와 호환되도록 했습니다.

실험 결과

본 프레임워크는 다섯 가지 LLM 계열 (GPT-OSS-20B, Llama-3.1-8B, Qwen3-8B, Mistral-7B, Gemma-4-31B) 과 세 가지 벤치마크 (MMLU, SQuAD 2.0, TruthfulQA) 에서 평가되었습니다.

• 성능 향상: RALC 는 보정 전 기준 대비 도메인 내 **충실도를 최대 66%**까지, **보정 (일반화된 ECE) 을 최대 58%**까지 개선했습니다.
• 비교: RALC 는 보정된 신호 없이 완화 표현을 요청하는 블랙박스 기준 (Hedged QA) 과 구조화된 어휘 검색이 부재한 그레이박스 기준 (Direct Beta-Guided Rewrite) 모두를 능가했습니다.
• 신호 강건성: 의미적 불확실성이 가장 강력한 신뢰도 신호로 부각되어, 모든 도메인에서 보정과 충실도 모두에서 가장 강력한 개선을 가져왔습니다.
• 교차 도메인 전이: 파이프라인은 강력한 전이성을 보여주었습니다. 어떤 경우에는 목표 도메인의 보정 편향이 약할 때, 교차 도메인 보정기가 도메인 내 보정기보다 더 나은 성능을 발휘했는데, 이는 더 강한 편향을 가진 소스가 더 결정적인 보정을 학습할 수 있게 했기 때문입니다.
• 지표 검증: 실험은 FD 가 분포 프로필과 일관된 놀라움 수준을 올바르게 순위 매기는 것 (높은 농도의 불일치에 패널티 부여) 을 확인했으며, KL 발산, Brier 점수, NLL 은 이러한 순서를 복원하지 못했습니다.

의의

본 논문은 해석의 주관성으로 인해 언어적 신뢰도는 본질적으로 분포적이라고 주장합니다. 이 분포를 모델링하고 충실도를 보완적 평가 차원으로 도입함으로써, 이 연구는 인스턴스 수준에서 모델이 표현한 신뢰도가 현실과 얼마나 잘 일치하는지 평가하는 원칙적인 방법을 제공합니다. RALC 파이프라인은 보정된 신뢰도 신호가 검색 증강 재작성을 통해 자연어로 효과적으로 전파될 수 있음을 보여주며, 모델 내부에 접근하거나 재학습을 요구하지 않고 LLM 의 신뢰성을 향상시키는 확장 가능한 사후 솔루션을 제시합니다. 결과는 언어적 출력을 보정된 신뢰도와 정렬하는 데 있어 구조화된 어휘 검색이 제약 없는 생성보다 우월함을 시사합니다.