Elias in the Lighthouse, Again? Diagnosing Low Diversity in LLM Stories

Technische Samenvatting: Elias in de Vuurtoren, Opnieuw? Diagnose van Lage Diversiteit in Verhalen van GPT's

Probleemstelling
Grote Taalmodellen (GPT's) vertonen een fenomeen dat bekendstaat als "mode collapse", waarbij generatieve output steeds homogener wordt, met name bij creatieve schrijftaken. Hoewel eerdere onderzoeken deze trend hebben geïdentificeerd, blijven de specifieke mechanismen die de convergentie naar identieke verhaalsstructuren aandrijven, slecht begrepen. Dit paper onderzoekt de opvallende gebrek aan variabiliteit in verhalen die door huidige frontier-modellen worden gegenereerd bij eenvoudige instructies zoals "schrijf een verhaal". De auteurs observeren dat modellen van OpenAI, Anthropic, Google en het Allen Institute for AI (AI2) consistent verhalen produceren met dezelfde specifieke personagesnamen, settings en beroepen, ondanks dat deze elementen zowel in gepubliceerde literatuur als in pre-training data zeldzaam zijn.

Methodologie
Om deze herhaling te karakteriseren, voerden de auteurs een grootschalig bemonsteringsexperiment uit:

• Datageneratie: Ze genereerden 20.000 verhalen met vier huidige modellen (Claude Haiku 4.5, Gemini 3.1 Flash-Lite, GPT-5.4-Mini en OLMo 7b Thinking). Elk model werd vijf keer geprompt met variaties op "schrijf een verhaal" (bijvoorbeeld "Schrijf alstublieft een verhaal", "Vertel me een verhaal"), wat resulteerde in 1.000 verhalen per model.
• Vocabulaire-extractie: Met behulp van GPT-5.4-nano extraheren de auteurs token-spannen die overeenkomen met verhaalssettings, voornamen van personages en beroepen. Ze filterden deze kandidaten via een drie-stappenproces: tokenisatie, behoud van het token met de hoogste frequentie per verhaal/categorie, en behoud van alleen tokens die door ten minste de helft van de modellen werden gegenereerd.
• Identificatie van Kern-tokens: Een changepoint-analyse werd toegepast om een minimale "Kern"-vocabulaire van 11 tokens te identificeren die het meest frequent voorkwamen in het corpus.
• Vergelijkende Analyse: De frequentie van deze Kern-tokens werd gemeten in Delen per Miljoen (PPM) en vergeleken met:
  • Hedendaagse Engelse literatuur (CONLIT-corpus).
  • Amateurliteratuur (Reddit's r/writingprompts).
  • Pre-training data (webdata en fictiesubsets van OLMo 3).
  • Post-training data (SFT-, DPO- en RL-datasets van OLMo 3).
• Topic Modeling: Een LDA-topicmodel werd getraind op het post-training verhaalcorpus van OLMo 3 om te bepalen of "vuurtoren"-verhalen een apart genre vormden of verspreid waren over diverse onderwerpen.

Belangrijkste Resultaten

• Extreme Homogeniteit: 88,3% van de 20.000 gegenereerde verhalen bevatte ten minste één van de 11 Kern-tokens. Meer dan de helft (51,2%) van alle verhalen had een "vuurtoren", en 66,6% bevatte een specifieke combinatie van de locatie "vuurtoren", de naam "Elias" en het beroep "wachter".
• De "Kern"-vocabulaire: De 11 tokens omvatten namen (Elias, Mara, Elara), beroepen (wachter, uurwerkmaker, bakker, visser, bibliothecaris, burgemeester, dirigent) en de locatie "vuurtoren".
• Afwijking van Trainingsdata:
  • Literatuur/Web: Kern-tokens komen in gegenereerde verhalen aanzienlijk vaker voor dan in gepubliceerde fictie (bijvoorbeeld "Elias" is 900 keer vaker voorkomend in het gegenereerde corpus dan in CONLIT) of algemene webdata.
  • Pre-training: In de pre-training data van OLMo 3 waren de rates van Kern-tokens verwaarloosbaar.
  • Post-training: Hoewel de post-training data van OLMo 3 deze tokens in hogere rates bevatte dan de pre-training data, was de absolute prevalentie nog steeds laag. Slechts 3.053 van de 78.958 verhalen in de post-training set (3,8%) bevatte een Kern-token.
• Impact van de Alignatiefase: De dichtheid van Kern-tokens bleek 5–8 keer hoger in alignatiedatasets (SFT, DPO, RL) in vergelijking met verhalen afkomstig van WildChat, ondanks dat alignatiedata slechts een fractie uitmaakte van het totale post-training volume. Specifiek droegen de DPO- en RL-fases een groter aandeel bij aan Kern-verhalen dan de initiële SFT-fase.
• Topic-distributie: "Vuurtoren"-verhalen groepeerden zich niet tot één enkel topic binnen de post-training data. In plaats daarvan waren ze verspreid over diverse onderwerpen, waaronder fanfiction, technisch schrijven en zelfs ongepaste humor, wat suggereert dat het model leert deze specifieke tokens te associëren met "veilige" of "voorkeurs"-output, ongeacht de omringende context.

Betekenis en Claims
Het paper claimt het eerste onderzoek te zijn dat een specifiek geval van mode collapse in creatief schrijven terugtraceert naar zijn trainingsinput. De auteurs betogen dat de dominantie van "Elias in de Vuurtoren"-verhalen niet kan worden verklaard door de prevalentie van deze woorden in het ruwe trainingscorpus. In plaats daarvan stellen zij dat het fenomeen wordt aangedreven door de interactie tussen kleine, specifieke datasets en krachtige alignatie-algoritmen (SFT, DPO, RL).

De auteurs suggereren dat tijdens de alignatie modellen mogelijk worden getraind om verwijzingen naar auteursrechtelijk beschermde personages en volwassen inhoud te vermijden, waardoor het model onbedoeld wordt geleid naar een smalle set "veilige", generieke, pre-moderne tropen (bijvoorbeeld vuurtorens, uurwerkmakers) die voorkomen in voorkeursdata. Dit resulteert in een onevenredige invloed van een tiny fractie van de trainingsdata (minder dan 4% van de post-training verhalen) op het uiteindelijke outputgedrag van het model. De studie benadrukt dat huidige modellen niet simpelweg dominante patronen in hun corpora nabootsen, maar juist convergeren naar specifieke, veilige generatiemodi die mogelijk niet de diversiteit van menselijk verhalenvermogen weerspiegelen.