Technische Samenvatting: Hiërarchische Memorizatie in Grootte Taalmodellen

Probleemstelling

Grootte Taalmodellen (LLMs) vertonen een kritieke faalmodus bij het genereren van academische citaties: het fabriceren van niet-bestaande referenties. Hoewel LLMs vlotheid tonen over verschillende domeinen, hallucineren ze vaak bibliografische records die structureel correct lijken maar feitelijk onjuist zijn. Deze studie stelt dat hallucinatie en letterlijke memorizatie geen afzonderlijke fenomenen zijn, maar tegenovergestelde uitkomsten van hetzelfde probabilistische leerproces. Specifiek onderzoekt het papier hoe de redundantie van een bibliografisch record in het pretrainingscorpus – benaderd via het citatieaantal – de vermogen van het model bepaalt om dit accuraat te herinneren. Het kernprobleem is het karakteriseren van de interne structuur van dit memorisatieproces: is het een binaire staat (gememoriseerd versus gehallucineerd), of een gegradueerd, hiërarchisch fenomeen waarbij verschillende componenten van een record op verschillende niveaus van redundantie worden herinnerd?

Methodologie

De studie hanteerde een gesloten-systeem experimenteel ontwerp met GPT-4.1 (kennisafsnijdatum: juni 2024) om bibliografische records te genereren zonder toegang tot externe ophaaltools.

• Experimenteel Ontwerp: Het model werd gevraagd vijf recente academische papers te genereren over 20 verschillende domeinen binnen de informatica (bijvoorbeeld Vision Transformers, Diffusion Models, LoRA), wat resulteerde in 100 totale steekproeven.
• Dataverificatie: De gegenereerde records werden handmatig geverifieerd tegen Google Scholar (peildatum oktober 2025) om de bestaansrechten te bepalen en citatieaantallen te verzamelen. Google Scholar werd gekozen vanwege de brede dekking van preprints, conferentieproceedings en webdiscussies, wat de diversiteit van LLM-pretrainingscorpora beter benadert dan traditionele academische databases.
• Evaluatiemetrics:
  • Handmatige Score: Records werden geclassificeerd als volledig correct (Score 2), gedeeltelijk gehallucineerd (Score 1) of volledig gehallucineerd (Score 0).
  • Computatievaluatie: Voor bestaande records werd cosine-afstand (met behulp van Sentence-BERT-embeddings) berekend tussen gegenereerde en authentieke metadata om de feitelijke trouw op een continue schaal te meten.
  • Veldspecifieke Analyse: Voor gedeeltelijk gehallucineerde records ($n=68$) werd de juistheid van zeven specifieke metadatavelden (titel, eerste auteur, co-auteurs, jaar, tijdschrift, volume, pagina's) individueel geëvalueerd om memorisatietrajecten in kaart te brengen.

Belangrijkste Bijdragen

Deze studie breidt voorlopig werk uit door de dichotomie hallucinatie-memorizatie te herformuleren als een gegradueerd, hiërarchisch gelaagd fenomeen. De primaire bijdragen zijn:

1. Log-lineaire Schaling: Het vaststellen dat feitelijke nauwkeurigheid log-lineair schaalt met het citatieaantal, dienend als proxy voor redundantie in trainingsdata.
2. Memorisatiedrempels: Het identificeren van twee empirisch onderscheiden drempels in de overgang van probabilistische synthese naar letterlijke herinnering.
3. Hiërarchische Memorizatie: Het aantonen dat binnen een enkel bibliografisch record verschillende metadatavelden de memorisatiedrempel op sterk verschillende citatieniveaus kruisen.
4. Geheugeninterferentie: Het karakteriseren van een faalmodus waarbij semantisch vergelijkbare hoog-citerende records worden verward, geïnterpreteerd door de lens van spurious attractors in moderne Hopfield-netwerken.

Resultaten

1. Citatiefrequentie en Feitelijke Nauwkeurigheid

Er bestaat een sterke positieve correlatie ($r = 0,75, p < .001$) tussen log-getransformeerde citatieaantallen en cosine-afstand. Hoog-citerende papers behalen aanzienlijk hogere feitelijke scores dan laag-citerende papers (Cohen's $d = 1,02$). De relatie is niet lineair maar vertoont drempelgedrag:

• Inflectiepunt (~90 citaties): Het punt waar het model overgaat van puur generatief gedrag (tokenen synthetiseren op basis van associaties) naar geheugenbasisd gedrag (steeds meer specifieke records herinneren).
• Saturatiepunt (~1.248 citaties): Boven deze drempel worden bibliografische records bijna letterlijk gereproduceerd (cosine-afstand $\approx 1,0$) met minimale residuale variantie, wat wijst op deterministische herinnering.

2. Patronen van Hiërarchische Memorizatie

Analyse van gedeeltelijk gehallucineerde records toont aan dat memorizatie niet uniform is over metadatavelden. De velden worden in een specifieke volgorde herinnerd, gebaseerd op hun redundantie in het trainingscorpus:

• Eerst Gememoriseerd: Titels en Eerste Auteurs tonen een gestage toename in nauwkeurigheid, beginnend bij lagere citatieaantallen.
• Intermediaire Memorizatie: Co-auteurs en Tijdschriftnamen beginnen pas rond het saturatiepunt (~1.000 citaties) accuraat gereproduceerd te worden.
• Laat/Onbetrouwbare Memorizatie: Volume en Paginanummers blijven luidruchtig, zelfs bij hoge citatieaantallen.
• Niet-Gemoriseerd: Publicatiejaar vertoont in wezen geen correlatie met het citatieaantal ($r = 0,038$). Het model lijkt jaren te genereren op basis van domeinspecifieke priors (het schatten van een plausibele periode op basis van wanneer een veld actief was) in plaats van het specifieke jaar van het record op te halen.

3. Geheugeninterferentie

Zelfs voor sterk geciteerde papers kunnen fouten optreden door de vermenging van vergelijkbare records. Een opvallend geval betrof een gegenereerde citatie voor een GAN-overzichtspaper die de auteurslijst van een seminale paper uit 2014 combineerde met de titelvormulering van een survey uit 2020. Dit suggereert dat wanneer meerdere hoog-frequentie patronen overlappen (soortgelijke titels/auteurs), hun "attractors" in het energielandschap van het model samensmelten, waardoor een spurious attractor ontstaat – een plausibel maar niet-bestaand samengesteld record.

Betekenis en Aanspraken

Het papier betoogt dat memorizatie in LLMs geen binaire aan/uit-toestand is, maar een continuüm dat wordt gevormd door de ongelijke verdeling van kennis in het pretrainingscorpus.

• Herformulering van Hallucinatie: Hallucinatie is niet louter een gebrek aan kennis, maar een probabilistische reconstructie van data met lage redundantie, terwijl letterlijke herinnering een vorm van overfitting is op data met hoge redundantie.
• Interne Structuur: De studie levert bewijs dat het "geheugen" van een LLM intern hiërarchisch gestructureerd is. Een record kan "gedeeltelijk gememoriseerd" zijn, waarbij de titel en auteur letterlijk worden herinnerd, maar de venue en het jaar worden gehallucineerd.
• Implicaties voor Betrouwbaarheid: De bevindingen suggereren dat in gesloten-systeem scenario's (zonder externe ophaal) de betrouwbaarheid van door LLM's gegenereerde gestructureerde data fundamenteel wordt beperkt door de redundantie van het bronmateriaal. Zelfs sterk geciteerde records zijn vatbaar voor interferentie als ze semantische kenmerken delen met andere hoog-frequentie records.
• Theoretisch Kader: Het papier interpreteert deze interferentiepatronen via het kader van moderne Hopfield-netwerken, waarbij het attentiemechanisme fungeert als een energie-minimalisatieproces dat kan convergeren naar spurious attractors die worden gevormd door overlappende hoog-frequentie patronen.

De studie concludeert dat het begrijpen van deze hiërarchische drempels en interferentiepatronen essentieel is voor het karakteriseren van de grenzen van LLM-memorizatie en het beoordelen van de betrouwbaarheid van gegenereerde feitelijke records in domeinen zoals academische citaties, juridische precedenten en octrooiverwijzingen.