Shared Doubt: Zero-shot Cross-Lingual Confidence Estimation for Language Models

기술 요약: Shared Doubt: 언어 모델을 위한 제로샷 교차 언어 신뢰도 추정

문제 정의
대규모 언어 모델(LLM)에서의 신뢰도 추정(Confidence Estimation, CE)은 모델의 예측에 대한 신뢰성을 정량화하는 것을 목표로 하며, 이는 환각 현상을 완화하고 사용자 신뢰를 유지하는 데 중요한 역량이다. CE는 상당한 주목을 받아왔으나, 기존 연구의 대다수는 영어에만 국한되어 있다. 이러한 간과 현상은 문제가 될 수 있는데, LLM은 학습 자원이 적은 언어에서 신뢰도가 낮아지는 경향이 있어 해당 맥락에서 정확한 신뢰도 추정이 더욱 중요하기 때문이다. 또한, 기존의 많은 CE 방법론은 미학습 언어에 적용될 때 성능이 저하되거나 재학습을 요구하며, 이는 다국어적 LLM 배포의 현실을 반영하지 못한다. 본 연구의 핵심 질문은 다국어 LLM이 타겟 언어의 감독 없이도 활용 가능한 공유된, 언어 전이 가능한 신뢰도 특징을 인코딩하고 있는가 하는 점이다.

방법론
저자들은 LLM의 중간 은닉 표현(intermediate hidden representations)으로부터 정답의 정답 여부를 직접 예측하도록 설계된 경량 선형 프로브(linear probe)를 제안한다. 이 방법론은 다국어 LLM이 신뢰도 신호가 인코딩된 공유된, 언어 불가지론적(language-agnostic) 부분 공간을 보유하고 있다는 가설에 기반한다.

• 표현(Representations): 본 연구는 디코더 전용 트랜스포머 기반 LLM을 활용한다. 연구진은 두 가지 특정 타임 스텝의 은닉 상태를 추출한다: 입력 프롬프트의 마지막 토큰(전체 입력을 대변하는 대리자 역할)과 생성된 답변의 마지막 토큰(최종 상태를 대변함).
• 프로브 아키텍처: 프로브는 레이어 은닉 표현의 가중 평균을 학습한다. 이는 소프트맥스 함수를 통해 레이어 가중치 $\alpha_\ell$을 계산하기 위해 학습 가능한 파라미터 벡터 $w$를 도입하여 풀링된 표현 $\bar{h}_t$를 생성한다. 이후 이 풀링된 표현은 시그모이드 활성화 함수를 가진 선형 레이어를 통과하여 신뢰도 점수를 출력한다.
• 학습 및 평가 설정: 프로브는 소스 언어(주 실험에서는 프랑스어, 보조 소스로 영어 사용)에 대해 단일 언어로 학습된다. 데이터셋으로는 MKQA(개방형 QA)와 Global-MMLU(개방형으로 변환됨)를 사용한다. 이후 타겟 언어에 대한 감독 없이 제로샷 설정에서 유형론적으로 다양한 타겟 언어(영어, 스페인어, 폴란드어, 러시아어, 일본어)에 대해 평가된다.
• 베이스라인: 본 접근 방식은 다수 클래스(majority class) 및 사전 확률 베이스라인을 비롯하여, 길이 정규화된 시퀀스 가능도(length-normalized sequence likelihood), P(True), 언어화된 신뢰도(verbalized confidence), 그리고 mass-mean 프로브를 포함한 다른 CE 방법들과 비교된다.

주요 결과

• 제로샷 전이: 프랑스어만으로 학습된 프로브는 서로 다른 언어군과 문자를 가진 미학습 언어들로 성공적으로 일반화된다. 변별 지표(AUROC, AUPR)는 소스 언어와의 유형론적 거리가 멀어짐에 따라 저하되지만, 교정 지표(Brier score, ECE)는 종종 안정적이거나 특정 사례에서 타겟 언어로 학습된 오라클 프로브보다 우수한 성능을 보인다.
• 레이어 중요도: 학습된 레이어 가중치 분석 및 절제 연구(ablation studies) 결과, 신뢰도 특징은 네트워크의 상위-중간 레이어에 집중되어 있음이 드러났다. 이는 해당 레이어들이 입력을 공유된 표현 공간으로 매핑한다는 기존의 발견과 일치한다. 이 중간 레이어들을 제거하면 특히 제로샷 교정(zero-shot calibration)을 위한 성능에 큰 영향을 미친다.
• 토큰 타이밍: 연구진은 마지막 쿼리 토큰과 마지막 답변 토큰의 유용성 차이를 발견했다. 마지막 쿼리 토큰은 언어 전반에 걸쳐 더 나은 교정 성능을 보이는 반-면, 마지막 답변 토킨은 정답과 오답 사이의 변별력에서 우수한 성능을 제공한다.
• 비교: 교차 언어 프로브는 제로샷 설정에서 특히 변별력 측면에서 몇몇 인기 있는 CE 베이스라인(P(True) 및 언어화된 신뢰도 등)보다 우수한 성능을 보이지만, 매우 이질적인 언어에 대해서는 mass-mean 프로브보다 뒤처지기도 한다.

의의 및 기여
본 논문은 중간 LLM 표현의 프로빙을 통해 제로샷 교차 언어 신뢰도 추정을 입증한 첫 번째 연구라고 주장한다. 주요 기여는 다음과 같다:

1. 공유된 부분 공간의 입증: 고자원 언어에서 학습된 신뢰도 신호가 재학습 없이도 저자원 또는 유형론적으로 먼 언어로 전이될 수 있음을 실증적으로 보여줌으로써, 다국어 LLM 내에 공유된 신뢰도 부분 공간이 존재함을 시사한다.
2. 레이어 국소화: 제로샷 신뢰도 예측을 위한 가장 핵심적인 정보가 중간-상위 레이어에 국소화되어 있음을 식별하였으며, 이는 해당 레이어들이 언어 불가지론적 표현을 포함한다는 이론을 강화한다.
3. 실용적 베이스라인: 제안된 방법은 재학습이 필요 없는 강력한 다국어 신뢰도 추정 베이스라인을 제공하며, 이는 라벨링된 데이터가 부족한 소외된 언어들에게 특히 가치가 있다.

저자들은 성능이 유형론적 거리 증가에 따라 저하된다는 점과 현재 접근 방식이 단문 형태의 QA에 집중되어 있다는 점을 인정하며 겸허한 어조를 유지한다. 이들은 향후 연구로서 여러 소스 언어를 통한 학습, 핵심 잠재 표현의 더 정밀한 식별, 그리고 견고성을 더욱 향상시키기 위한 사후 교정(post-hoc calibration) 기법 적용 등을 제시한다.