Experimental evidence of progressive ChatGPT models self-convergence

Dit onderzoek toont aan dat recente ChatGPT-versies door de opname van synthetische trainingsdata een meetbaar verlies aan tekstuele diversiteit vertonen, wat leidt tot een fenomeen dat 'model self-convergence' wordt genoemd.

De kern

🤖 Het Spiegeltje, Spiegeltje: Waarom ChatGPT steeds meer op zichzelf lijkt

Stel je voor dat je een groepje zeer slimme schrijvers hebt die elke dag een nieuw verhaal schrijven. In het begin zijn ze allemaal heel creatief. Als je ze vraagt: "Vertel me een verhaal over een blauwe olifant," dan krijg je van schrijver A een sprookje, van schrijver B een thriller en van schrijver C een grappig gedicht. Ze zijn allemaal anders, maar wel goed.

Dit onderzoek kijkt naar wat er gebeurt als deze schrijvers alleen maar gaan lezen wat de anderen hebben geschreven, en dat weer gebruiken om hun volgende verhaal te maken.

1. Het probleem: De "Zelf-voedende" cyclus

Vroeger leerden deze AI's (zoals ChatGPT) van alles wat mensen op het internet hadden geschreven: boeken, nieuws, blogs, alles. Dat was een enorme, gevarieerde bibliotheek.

Maar nu is er een probleem ontstaan:

• Mensen gebruiken AI om hun e-mails te schrijven, hun schoolopdrachten te maken en hun blogs te schrijven.
• Die AI-gegenereerde teksten worden weer op het internet gezet.
• De nieuwe versies van ChatGPT leren nu niet alleen van mensen, maar ook van andere AI's.

Het is alsof je een kok bent die alleen maar recepten leest die door andere koks zijn bedacht, die op hun beurt weer recepten hebben gelezen van andere koks. Uiteindelijk krijg je een situatie waarin iedereen precies hetzelfde kookt, omdat ze allemaal van dezelfde beperkte bron hebben geput.

2. Wat hebben de onderzoekers gedaan?

De onderzoekers wilden weten: "Worden de nieuwste versies van ChatGPT steeds meer op elkaar gelijkend, zelfs als we ze vragen om creatief te zijn?"

Ze deden een proef:

1. Ze namen een stukje tekst van een mens (een samenvatting van een boek).
2. Ze gaven dit aan verschillende versies van ChatGPT (van de oude versie tot de allernieuwste).
3. Ze gaven de opdracht: "Herschrijf dit verhaal op een andere manier."
4. Ze lieten de AI dit meerdere keren doen, soms met een instelling voor "veel creativiteit" (temperatuur 1) en soms voor "strikte volgorde" (temperatuur 0).

3. De verrassende ontdekking: "Zelf-convergentie"

Het resultaat was schokkend.

• Oude versies: Als je vroeg om creativiteit, gaven ze heel verschillende antwoorden. Ze waren als een groep vrienden die elk een ander verhaal vertellen.
• Nieuwe versies: Zelfs als je vroeg om creativiteit, begonnen de nieuwste versies (zoals GPT-5) steeds meer op elkaar te lijken. Ze gebruikten steeds dezelfde zinnen, dezelfde structuur en dezelfde woorden.

De onderzoekers noemen dit "Model Self-Convergence" (Zelf-convergentie).
Het is alsof de AI's in een spiegelkabinet lopen. Ze kijken naar hun eigen reflectie, denken dat dat de waarheid is, en kopiëren dat. Hoe meer ze dat doen, hoe minder ruimte er is voor echte originaliteit. Ze worden als een kloon van zichzelf.

4. Waarom is dit gevaarlijk?

Stel je voor dat je een bibliotheek hebt. Als je alleen maar boeken leest die door robots zijn geschreven, en die robots hebben weer boeken gelezen van andere robots, dan verdwijnt de menselijke ziel uit de bibliotheek.

• Verlies van creativiteit: De AI's worden saai. Ze kunnen niet meer "improvise" zoals een mens dat doet.
• Het "Model Collapse": Er is een bekend probleem waarbij AI's volledig gek worden en onzin beginnen te praten als ze alleen maar van zichzelf leren. Dit onderzoek laat zien dat we daar misschien nog niet helemaal zijn, maar we zitten wel in een gevaarlijke richting: ze worden niet gek, maar ze worden saai en identiek.
• De cyclus: Hoe meer AI-teksten er op het internet staan, hoe meer de volgende AI's die teksten gaan gebruiken. Dit maakt de cyclus alleen maar erger.

5. De conclusie in één zin

De nieuwste ChatGPT-versies worden steeds minder creatief en steeds meer op elkaar gelijkend, niet omdat ze "dommer" worden, maar omdat ze te veel hebben geleerd van de eigen creaties van hun voorgangers. Het internet is vervuild met AI-teksten, en de AI's eten nu hun eigen staart op.

De oplossing?
Om dit te voorkomen, zouden we AI's misschien alleen nog maar moeten laten leren van teksten die échte mensen hebben geschreven, zonder enige hulp van AI. Maar dat is lastig, want tegenwoordig is het bijna onmogelijk om te weten welke tekst van een mens komt en welke van een robot.

Kortom: Als we niet oppassen, worden onze slimme machines in de toekomst alleen maar betere kopieën van elkaar, en verliezen we de menselijke variatie die ze zo waardevol maakte.

Technische samenvatting

Titel: Experimenteel bewijs van zelf-convergentie bij progressieve ChatGPT-modellen

Auteurs: Konstantinos F. Xylogiannopoulos et al.

---

1. Het Probleem: Model Collapse en Zelf-Contaminatie

Het paper adresseert een kritiek probleem in de ontwikkeling van Large Language Models (LLMs): Model Collapse. Dit is een fenomeen waarbij modellen die getraind worden op synthetische data (gegenereerd door andere AI-modellen), hun outputkwaliteit verliezen en uiteindelijk "onzin" (gibberish) genereren.

Hoewel eerdere studies (zoals Shumailov et al., 2024) dit hebben onderzocht in theorie of bij recursieve training met opzettelijk gegenereerde data, wijzen de auteurs op een nieuw, subtieler risico: internetverontreiniging. Omdat LLMs steeds meer gebruikt worden voor het genereren van content (e-mails, verslagen, schoolopdrachten), wordt een steeds groter deel van het internet gevuld met AI-gegenereerde tekst. Wanneer nieuwe LLM-versies worden getraind op deze "verontreinigde" datasets (die menselijke én AI-gegenereerde data bevatten), ontstaat er een risico op Model Self-Convergence.

Definitie van Model Self-Convergence:
Dit is het fenomeen waarbij verschillende versies van een LLM (bijv. ChatGPT 3.5 t/m 5.2), ondanks hun verschillen in architectuur en kennis, steeds meer op elkaar gaan lijken in hun output. Ze verliezen hun diversiteit en convergeren naar identieke tekstpatronen, zelfs wanneer ze expliciet worden gevraagd om variatie te tonen.

---

2. Methodologie

De auteurs hebben een experimenteel ontwerp opgezet om de diversiteit van tekstoutput van verschillende ChatGPT-versies te meten en te vergelijken.

• Dataset:
  • Gebruik van twee menselijke bronnen: CliffNotes en SparkNotes (samenvattingen van klassieke Engelse literatuur).
  • Selectie van 443 hoofdstuksamenvattingen (100-2000 woorden) die in beide bronnen voorkomen.
  • Deze bronnen zijn gegarandeerd menselijk en dateren van voor de opkomst van LLMs, waardoor ze een zuivere "ground truth" vormen.
• Modellen:
  • Zeven verschillende ChatGPT-versies werden getest: GPT-3.5 Turbo, GPT-4 Turbo, GPT-4o, GPT-4.1, GPT-5, GPT-5.1 en GPT-5.2.
  • Deze versies hebben verschillende "knowledge cutoff dates" (van 2021 tot augustus 2025), wat betekent dat de nieuwere versies meer data hebben gezien, inclusief potentiële AI-gegenereerde content.
• Experimentele Opzet:
  • Prompt: Dezelfde prompt werd gebruikt voor alle modellen: "Antwoord ALLEEN op de vraag, geen extra context. Paraphraseer de volgende tekst: ".
  • Temperature Parameters: Er werd getest met twee temperaturen:
    • T=0: Deterministisch (minimale variatie).
    • T=1: Stochastisch (maximale variatie, bedoeld om creativiteit en diversiteit te stimuleren).
  • Aantal runs: Drie paraphrases per tekst bij T=0 en vijf bij T=1.
• Meting (SPR - Similarity Percentage Ratio):
  • De auteurs gebruikten hun eigen algoritme (ARPaD) om herhalende patronen te detecteren.
  • SPR wordt gedefinieerd als het percentage van niet-overlappende woorden uit gemeenschappelijke patronen van een bepaalde lengte (3 tot 20 woorden) ten opzichte van de totale tekstlengte.
  • Een hoge SPR betekent dat de modellen zeer vergelijkbare zinsconstructies en patronen gebruiken (lage diversiteit). Een lage SPR betekent hoge diversiteit.

---

3. Belangrijkste Resultaten

De resultaten tonen een alarmerende trend in de nieuwste modellen, vooral bij de stochastische modus (Temperature 1).

• Verlies van Stochastische Diversiteit:
  • Bij oudere modellen (bijv. GPT-3.5) leidde het verhogen van de temperatuur naar 1 tot een aanzienlijke daling in de SPR. Dit betekent dat de output zeer divers was en zelden lange, identieke patronen deelde.
  • Bij de nieuwste modellen (GPT-5, 5.1, 5.2) bleef de SPR bij Temperature 1 extreem hoog, zelfs voor lange patronen (15-20 woorden). De output van de nieuwste modellen bij T=1 lijkt bijna identiek aan die bij T=0.
• Convergentie over Versies:
  • Er is een duidelijke stijging in de gemiddelde SPR tussen de verschillende modellen naarmate de versie nieuwer is.
  • Voor lange patronen (15+ woorden) zijn de SPR-waarden van de nieuwste modellen 20 tot 30 keer hoger dan die van de oudere modellen. Dit suggereert dat de nieuwste modellen niet meer in staat zijn om unieke variaties te creëren; ze "herhalen" zichzelf.
• De "Spread" (Verschil tussen T=0 en T=1):
  • Bij oudere modellen was er een groot verschil (spread) tussen de output bij T=0 en T=1.
  • Bij de nieuwste modellen (vooral 5.1 en 5.2) is deze spread verdwenen. De modellen gedragen zich bij T=1 alsof ze op T=0 staan. Dit wijst op een verlies van het vermogen om stochastische variatie toe te passen.
• Uitzondering GPT-5.2:
  • GPT-5.2 toont een iets betere prestatie dan 5.1 bij T=0 (lagere SPR), wat suggereert dat interne fine-tuning mogelijk de deterministische output heeft verbeterd. Echter, bij T=1 blijft het probleem van gebrek aan diversiteit bestaan, wat aantoont dat dit niet alleen een fine-tuning-kwestie is, maar fundamenteel gerelateerd aan de trainingsdata.

---

4. Kernbijdragen en Conclusies

• Definitie van Model Self-Convergence: Het paper introduceert en valideert het concept van "Model Self-Convergence" als een onderscheiden fenomeen van "Model Collapse". Waar model collapse leidt tot complete nonsens, leidt zelf-convergentie tot output die te consistent is en de unieke variatie van menselijk taalgebruik verliest.
• Oorzaak: Internetverontreiniging: De auteurs concluderen dat de enige plausibele verklaring voor deze degradatie de infiltratie van synthetische data in de trainingsdatasets is. Omdat LLMs nu een groot deel van de internetcontent genereren, trainen nieuwe modellen zichzelf op data die al door AI is "gecontamineerd". Dit creëert een feedbacklus waarin specifieke token-sequenties steeds vaker voorkomen, waardoor de kans op het selecteren van zeldzame, creatieve tokens (zelfs bij hoge temperatuur) afneemt.
• Gevolg voor Innovatie: LLMs verliezen hun innovatiekracht. Ze worden steeds minder in staat om nieuwe menselijke kennis te absorberen of creatief te variëren, omdat hun trainingsdata gedomineerd wordt door eerdere AI-uitvoer.

---

5. Betekenis en Implicaties

De bevindingen hebben ernstige implicaties voor de toekomst van AI:

1. Kwaliteitsdegradatie: Zelfs de "slimste" en nieuwste modellen worden minder bruikbaar voor creatieve taken of taken die nuance en variatie vereisen.
2. De Vervuiling van Kennis: Als AI-content de menselijke content op het internet overneemt, zullen toekomstige modellen trainen op een "echo-kamer" van hun eigen output, wat leidt tot een vicieuze cirkel van afnemende kwaliteit.
3. Noodzaak tot Actie: Het paper suggereert dat de enige oplossing is om trainingsdatasets te zuiveren van AI-gegenereerde content of uitsluitend te trainen op menselijke data (voor de introductie van LLMs). Dit is echter een enorme uitdaging omdat het digitale landschap nu al grotendeels vervuild is.

Kortom, het paper waarschuwt dat zonder ingrijpende maatregelen om de trainingsdata schoon te houden, LLMs hun diversiteit zullen verliezen en zullen convergeren naar een statische, repetitieve output, ongeacht hun rekenkracht of parameteraantal.