💬 NLP

Pretraining Exposure Explains Popularity Judgments in Large Language Models

Door gebruik te maken van het volledig waarneembare Dolma-corpus en OLMo-modellen, toont deze studie aan dat populariteitsoordelen van grote taalmodellen voornamelijk worden gedreven door statistieken van blootstelling tijdens het vooraf trainen in plaats van door externe real-world populariteitssignalen, waarbij blootstelling een nauwkeurigere voorspeller van modelbias is dan Wikipedia-pagina-views.

Oorspronkelijke auteurs: Jamshid Mozafari, Bhawna Piryani, Adam Jatowt

Gepubliceerd 2026-05-13

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jamshid Mozafari, Bhawna Piryani, Adam Jatowt

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een gigantisch, digitaal brein voor (een Large Language Model, of LLM) dat bijna alles op internet heeft gelezen. Je vraagt dit brein: "Wie is beroemder: een specifieke lokale bakkerij of een wereldberoemde popster?" Het brein zegt bijna altijd de popster. We hebben er lang van uitgegaan dat dit komt omdat het brein "weet" dat de popster populair is in de echte wereld.

Maar dit artikel stelt een andere vraag: Beoordeelt het brein werkelijk wereldberoemdheid, of onthoudt het gewoon welke namen het het vaakst heeft gezien tijdens zijn studie?

Om het antwoord te vinden, gebruikten de onderzoekers een speciaal, volledig open-source brein genaamd OLMo. In tegenstelling tot de meeste AI-breinen, kunnen we precies zien welke boeken en websites OLMo heeft gelezen tijdens zijn "schooltijd" (pretraining). Dit is alsof je de volledige bibliotheek hebt van het huiswerk van een student, in plaats van alleen maar te raden wat ze hebben gelezen op basis van hun toetsresultaten.

Hier is de uiteenzetting van hun experiment en bevindingen, met enkele eenvoudige analogieën:

1. De Opzet: Het Tellen van de "Blikken"

De onderzoekers behandelden de trainingsdata van de AI als een enorme bibliotheek. Ze gebruikten een speciaal hulpmiddel (Infini-Gram) om precies te tellen hoe vaak 2.000 verschillende dingen (mensen, plaatsen, merken, liedjes) voorkwamen in de boeken die de AI las.

De "Blootstelling"-score: Dit is gewoon een telling van hoe vaak de AI een naam heeft "gezien". Als de AI "Taylor Swift" 1 miljoen keer zag en "Lokale Bakker Bob" 5 keer, heeft Taylor Swift een hoge blootstellingsscore.

2. De Drie Wedstrijdgenoten

De onderzoekers wilden zien welke "score" het beste voorspelde hoe de AI zou antwoorden op vragen over populariteit. Ze vergeleken drie dingen:

De Wereldwijde Score (Wikipedia): Ze keken hoeveel mensen daadwerkelijk de Wikipedia-pagina's van deze entiteiten bezochten. Dit is de "grondwaarheid" van wereldwijde bekendheid.
De "Directe" Gissing: Ze vroegen de AI: "Op een schaal van 0 tot 1000, hoe beroemd is Taylor Swift?"
De "Kop-tot-Kop"-Match: Ze vroegen de AI: "Wie is beroemder: Taylor Swift of Lokale Bakker Bob?" (Dit is als een toernooibracket).

3. De Grote Ontdekking: Het Gaat Om Wat Er Gelezen Is, Niet Om Wat Er Geweten Is

De resultaten waren verrassend en duidelijk:

Het "Geheugen" van de AI komt overeen met de Bibliotheek: Het idee van de AI over wat beroemd is, kwam veel beter overeen met zijn "Blootstellingsscore" (hoe vaak hij de naam zag) dan met de echte wereldcijfers van Wikipedia.
De "Kop-tot-Kop" is de Beste Spiegel: Toen de AI werd gevraagd om twee dingen direct te vergelijken (zoals in een toernooi), kwamen zijn antwoorden bijna perfect overeen met hoe vaak hij die namen in zijn trainingsboeken had gezien. Het was zelfs een betere match dan de werkelijke wereldwijde Wikipedia-gegevens.
Het "Lange Staart"-Probleem: Voor zeer obscuur dingen (zoals "Lokale Bakker Bob") zijn Wikipedia-gegevens vaak rommelig of niet-existent (niemand bezoekt die pagina's). Toch had de AI een duidelijk oordeel over wie beroemder was. Waarom? Omdat zelfs als de AI "Lokale Bakker Bob" maar 5 keer zag en "Een Andere Bakker" 2 keer, hij wist dat de eerste "beroemder" was, simpelweg omdat hij de naam iets vaker zag. De AI gebruikte geen kennis uit de echte wereld; hij telde gewoon zijn huiswerk.

4. Grotere Breinen = Sterkere Herinneringen

De onderzoekers testten een kleiner brein (7 miljard parameters) en een groter brein (32 miljard parameters).

Het grotere brein was nog meer bezeten van zijn trainingsdata. Zijn antwoorden kwamen nog nauwer overeen met de "Blootstellingsscore" dan die van het kleinere brein.
Dit suggereert dat naarmate AI slimmer en groter wordt, het niet noodzakelijkerwijs meer "bewust" wordt van de echte wereld; het wordt gewoon beter in het onthouden van precies wat het tijdens de training heeft gekregen.

De Conclusie

Het artikel concludeert dat wanneer een AI je vertelt wie beroemd is, het niet noodzakelijkerwijs een rapport geeft over de maatschappij in de echte wereld. Het geeft je een rapport over zijn eigen leeslijst.

Denk eraan als een student die slechts één specifiek tijdschrift heeft gelezen. Als je die student vraagt: "Wie is de beroemdste persoon ter wereld?", dan zal hij je niet de daadwerkelijk beroemdste persoon vertellen; hij zal de persoon vertellen die het vaakst op de cover van dat tijdschrift verscheen. De "populariteitsbias" van de AI is simpelweg een weerspiegeling van de frequentie van woorden in zijn trainingsdata, niet een ware begrip van de wereld.

Technische Samenvatting: Pretraining-expositie verklaart populariteitsbeoordelingen in grote taalmodellen

Probleemstelling
Grote taalmodellen (LLM's) vertonen systematische voorkeuren voor bekende entiteiten, een fenomeen dat breed wordt toegeschreven aan "populariteitsbias". De oorsprong van deze voorkeuren blijft echter onduidelijk: het is niet bekend of ze echte wereldwijde populariteit weerspiegelen of slechts de statistische frequentie van entiteiten binnen het pretraining-corpus. Eerdere onderzoek heeft moeite gehad dit op te lossen omdat de trainingsdata voor de meeste vrijgegeven LLM's ontoegankelijk is, wat dwingt tot het vertrouwen op indirecte bewijzen of downstream-gedrag dat blootstelling verward met andere verstorende factoren.

Methodologie
Deze studie biedt de eerste directe, grootschalige analyse van populariteitsbias door gebruik te maken van de volledig open OLMo-modellen en hun volledige pretraining-corpus, Dolma. De methodologie verloopt via de volgende stappen:

Data-indexering en berekening van expositie: De auteurs hebben het volledige OLMo-pretraining-corpus (bestaande uit Pretraining-, Midtraining- en Long Context-datasets, in totaal 7,4 biljoen tokens) geïndexeerd met behulp van de Infini-Gram-toolkit.
Steekproefneming en validatie van entiteiten: Uit een Wikidata-dump (gedateerd 24 januari 2026) werden 5.000 entiteiten gestratificeerd voor elk van vijf typen: Persoon, Locatie, Organisatie, Kunst en Product. Om een accurate frequentietelling te waarborgen, werden alle kandidaat-aliassen gevalideerd met GPT-4.1 om ambiguwe verwijzingen te filteren, waarbij alleen die werden behouden die uitsluitend naar de doelentiteit verwijzen.
Berekening van expositiescores: Voor elk van de 2.000 geselecteerde entiteiten (400 per type, gelijkmatig verdeeld tussen 200 lage-frequentie "spaarzame" en 200 hoge-frequentie "populaire" entiteiten) werd een expositiescore berekend op basis van de frequentie van de entiteit en haar gevalideerde aliassen in het geïndexeerde corpus.
Vergelijking van populariteitssignalen: De studie vergeleek drie verschillende signalen met de pretraining-expositiescores:
- Wikipedia-pagina-views: Een externe proxy voor wereldwijde populariteit, geaggregeerd van 1 juli 2015 tot 31 december 2024 (overeenkomend met de corpus-cutoff).
- Directe scalair schatting: Het OLMo-model (7B- en 32B-varianten) werd gevraagd een populariteitsscore (0–1000) toe te kennen aan individuele entiteiten.
- Paarwise vergelijking: Het model werd gevraagd te bepalen welke van twee entiteiten populairder was. Deze paarwise voorkeuren werden omgezet in lijstgewijze scores met behulp van het Bradley–Terry-model.

Belangrijkste resultaten
De analyse, gebaseerd op Spearman-rangcorrelaties ( $\rho$ ), leverde de volgende bevindingen op:

Expositie als proxy voor wereldwijde populariteit: Pretraining-expositie correleert sterk met Wikipedia-pagina-views voor alle entiteitstypen (gemiddeld $\rho \approx 0,755$ ), wat expositie valideert als een zinvolle proxy voor wereldwijde relevantie tijdens de trainingsperiode.
LLM-beoordelingen komen meer overeen met expositie dan met Wikipedia: Door LLM's gegenereerde populariteitssignalen komen nauwer overeen met pretraining-expositie dan met Wikipedia-pagina-views. Dit is vooral evident in de methode Pairwise Comparison, die de hoogste correlatie met expositie behaalde (gemiddeld $\rho \approx 0,795$ voor het 32B-model), en zowel de directe scalair schatting als de Wikipedia-baseline overtrof.
Het long-tail-regime: Voor "spaarzame" (lage-frequentie) entiteiten worden Wikipedia-pagina-views onbetrouwbaar, met correlaties met expositie die dicht bij nul liggen of negatief zijn ( $\rho \approx 0,10$ ). Daarentegen behouden LLM-populariteitsbeoordelingen (vooral via paarwise vergelijking) een positieve correlatie met expositie ( $\rho \approx 0,31$ voor het 32B-model), wat suggereert dat voor zeldzame entiteiten modelpriors bijna uitsluitend worden bepaald door pretraining-frequentie.
Effecten van modelschaal: Het vergroten van de modelschaal van 7B naar 32B verbetert systematisch de overeenkomst tussen LLM-beoordelingen en pretraining-expositie. Het 32B-model vertount scherpere, consistentere op expositie gebaseerde priors, vooral bij taken voor directe scalair schatting.

Betekenis en claims
Het artikel claimt de eerste directe, grootschalige bewijzen te bieden dat populariteitspriors in LLM's voornamelijk worden gevormd door pretraining-statistieken in plaats van externe populariteitssignalen. De auteurs betogen dat "data-expositie" een centrale rol speelt in het aandrijven van populariteitsbias. Specifiek tonen de bevindingen aan dat:

LLM's niet louter externe populariteitsmetrieken weerspiegelen; hun interne rangschikkingsvoorkeuren zijn diep geworteld in de statistische verdeling van hun trainingsdata.
Paarwise elicitering een betrouwbaardere methode is om deze op expositie gebaseerde priors aan het licht te brengen dan directe scalair schatting.
De "populariteitsbias" die in LLM's wordt waargenomen, niet noodzakelijk een falen van redenering is, maar een directe weerspiegeling van de frequentiepatronen die inherent zijn aan het pretraining-corpus.

De auteurs concluderen dat deze biases meetbare eigenschappen van trainingsdata zijn en suggereren dat toekomstig werk mitigatiestrategieën moet onderzoeken om rechtvaardigheid en diversiteit in modeloutput te verbeteren.