Pretraining Exposure Explains Popularity Judgments in Large Language Models

기술 요약: 대규모 언어 모델의 인기 판단은 사전 학습 노출에 의해 설명된다

문제 제기
대규모 언어 모델 (LLM) 은 잘 알려진 개체에 대해 체계적인 선호도를 보이며, 이는 광범위하게 "인기 편향 (popularity bias)"으로 귀결된다. 그러나 이러한 선호도의 기원은 모호하다: 이것이 실제 세계의 진정한 인기를 반영하는 것인지, 아니면 단순히 사전 학습 코퍼스 내 개체의 통계적 빈도를 반영하는 것인지 불분명하다. 대부분의 공개된 LLM 에 대한 학습 데이터에 접근할 수 없기 때문에, 이전 연구들은 노출을 다른 교란 요인과 혼동시키는 간접적 증거나 하류 작업 (downstream behaviors) 에 의존해야 했으므로 이 문제를 해결하는 데 어려움을 겪어 왔다.

방법론
본 연구는 완전히 공개된 OLMo 모델과 그 완전한 사전 학습 코퍼스인 Dolma 를 활용하여 인기 편향에 대한 최초의 직접적이고 대규모 분석을 제공한다. 방법론은 다음과 같은 단계를 거친다:

1. 데이터 인덱싱 및 노출 계산: 저자들은 Infini-Gram 툴킷을 사용하여 전체 OLMo 사전 학습 코퍼스 (사전 학습, 중간 학습, 긴 문맥 데이터셋으로 구성되며 총 7.4 조 토큰) 를 인덱싱하였다.
2. 개체 샘플링 및 검증: 2026 년 1 월 24 일자 Wikidata 덤프에서 사람, 장소, 조직, 예술, 제품 등 5 가지 유형별로 각각 5,000 개의 개체를 샘플링하였다. 정확한 빈도 계산을 위해 GPT-4.1 을 사용하여 모든 후보 별칭을 검증하여 모호한 참조를 필터링하고, 오직 대상 개체만을 지칭하는 것만 남겼다.
3. 노출 점수 산정: 선택된 2,000 개의 개체 (유형당 400 개, 200 개의 저빈도 "희소" 개체와 200 개의 고빈도 "인기" 개체로 균등 분할) 각각에 대해, 인덱싱된 코퍼스 내 개체 및 검증된 별칭의 빈도에 기반하여 노출 점수를 계산하였다.
4. 인기 신호 비교: 본 연구는 사전 학습 노출 점수와 세 가지 다른 신호를 비교하였다:
   • 위키백과 페이지 조회수: 2015 년 7 월 1 일부터 2024 년 12 월 31 일까지 (코퍼스 컷오프와 일치) 집계된 실제 세계 인기의 외부 대리 지표.
   • 직접 스칼라 추정: OLMo 모델 (7B 및 32B 변형) 에 개별 개체에 대한 인기 점수 (0~1000) 를 할당하도록 프롬프트를 입력하였다.
   • 쌍별 비교: 모델에 두 개체 중 어느 것이 더 인기 있는지 판단하도록 프롬프트를 입력하였다. 이러한 쌍별 선호도는 Bradley–Terry 모델을 사용하여 리스트별 점수로 변환되었다.

주요 결과
스피어만 순위 상관관계 ($\rho$) 를 기반으로 한 분석은 다음과 같은 결과를 도출하였다:

• 실제 세계 인기의 대리 지표로서의 노출: 사전 학습 노출은 모든 개체 유형에서 위키백과 페이지 조회수 및 강한 상관관계를 보였으며 (평균 $\rho \approx 0.755$), 이는 훈련 기간 동안 실제 세계의 중요성에 대한 의미 있는 대리 지표로서 노출을 검증한다.
• LLM 판단이 위키백과보다 노출과 더 잘 일치함: LLM 이 생성한 인기 신호는 위키백과 조회수보다 사전 학습 노출과 더 밀접하게 일치한다. 이는 특히 쌍별 비교 방법에서 두드러지는데, 이 방법은 32B 모델의 경우 노출과 가장 높은 상관관계 (평균 $\rho \approx 0.795$) 를 달성하여 직접 스칼라 추정 및 위키백과 기준선 모두를 능가하였다.
• 롱테일 영역: "희소"(저빈도) 개체의 경우, 위키백과 페이지 조회수는 신뢰할 수 없게 되어 노출과 거의 0 이거나 음의 상관관계를 보인다 ($\rho \approx 0.10$). 반면, LLM 인기 판단 (특히 쌍별 비교를 통한) 은 노출과 양의 상관관계를 유지한다 (32B 모델의 경우 $\rho \approx 0.31$). 이는 희귀 개체의 경우 모델의 사전 확률이 거의 전적으로 사전 학습 빈도에 의해 지배됨을 시사한다.
• 모델 규모 효과: 모델 규모를 7B 에서 32B 로 늘리면 LLM 판단과 사전 학습 노출 간의 정렬이 체계적으로 개선된다. 32B 모델은 특히 직접 스칼라 추정 작업에서 더 날카롭고 일관된 노출 기반 사전 확률을 보여준다.

의의 및 주장
본 논문은 LLM 의 인기 사전 확률이 외부 인기 신호보다는 주로 사전 학습 통계에 의해 형성된다는 최초의 직접적이고 대규모의 증거를 제시한다고 주장한다. 저자들은 "데이터 노출"이 인기 편향을 주도하는 데 중심적인 역할을 한다고 논한다. 구체적으로, 발견된 사실들은 다음을 보여준다:

1. LLM 은 단순히 외부 인기 지표를 반영하는 것이 아니라, 그 내부 순위 선호도는 학습 데이터의 통계적 분포에 깊이 뿌리내리고 있다.
2. 쌍별 유도 (elicitation) 는 직접 스칼라 추정보다 이러한 노출 기반 사전 확률을 밝혀내는 더 신뢰할 수 있는 방법이다.
3. LLM 에서 관찰되는 "인기 편향"은 반드시 추론의 실패가 아니라, 사전 학습 코퍼스 내재적 빈도 패턴의 직접적인 반영이다.

저자들은 이러한 편향이 학습 데이터의 측정 가능한 속성이라고 결론지으며, 향후 연구는 모델 출력의 공정성과 다양성을 개선하기 위한 완화 전략을 조사해야 한다고 제안한다.