🤖 AI

Do Language Models Converge to Themselves? Recursive Self-Refinement as Textual Relaxation

Dit artikel toont aan dat recursieve zelfverfijning in grote taalmodellen fungeert als een dynamisch proces waarbij tekst snel convergeert naar een stabiel, door het model geprefereerd evenwicht dat wordt gekenmerkt door een exponentiële afname in de omvang van de bewerking, in plaats van een onbeperkte optimalisatie te ondergaan.

Oorspronkelijke auteurs: Xuening Wu, Qianya Xu, Yanlan Kang, Zeping Chen, Yubin Liu, Shenqin Yin

Gepubliceerd 2026-07-28

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Xuening Wu, Qianya Xu, Yanlan Kang, Zeping Chen, Yubin Liu, Shenqin Yin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een magische, superintelligente redacteur hebt die alles wat je schrijft kan herschrijven om het duidelijker en beter te maken. Je geeft het een concept, het spuugt een gepolijste versie uit, en jij denkt: "Geweldig! Laten we het nog een keer doen!" Dus voer je de nieuwe versie terug naar dezelfde redacteur, die het weer bijschaven. Je blijft dit doen, keer op keer, in de hoop dat de tekst oneindig perfect wordt. Dit is de wereld van Large Language Models (LLMs), de AI-hersenen achter veel moderne chatbots en schrijftools. Wetenschappers noemen dit proces "recursieve zelfverfijning". Maar hier is de grote vraag: blijft deze eindeloze lus dingen voor altijd beter maken, zoals een personage in een videogame dat oneindig levelt? Of raakt de tekst uiteindelijk een muur waarbij de AI alleen maar minuscule, zinloze veranderingen aanbrengt, zoals een automotor die stationair draait in de neutraal? Om dit te begrijpen, moeten we kijken naar dynamische systemen, een tak van de wetenschap die bestudeert hoe dingen in de loop van de tijd veranderen, en het idee van een vast punt (fixed point), een toestand waarin een systeem stopt met veranderen omdat het zijn "comfortzone" heeft gevonden.

Een team onderzoekers besloot dit AI-redactieproces te behandelen als een wetenschappelijk experiment om te zien wat er gebeurt als je een AI herhaaldelijk aan zijn eigen werk laat redigeren. Ze vroegen niet alleen: "Is het eindresultaat goed?" Ze vroegen: "Hoe beweegt de tekst terwijl deze wordt bewerkt?" Ze behandelden de tekst als een bal die een heuvel afrolt. Blijft de bal eeuwig rollen, of komt hij uiteindelijk tot rust in een dal?

De onderzoekers gebruikten een krachtig AI-model om 50 wetenschappelijke abstracts (korte samenvattingen van onderzoeksartikelen) tien keer achter elkaar te herschrijven. Ze hielden nauwlettend in de gaten hoe de tekst met elke bewerking veranderde. Ze ontdekten dat de AI de tekst niet eeuwig bleef verbeteren. In plaats daarvan vonden de veranderingen snel plaats aan het begin, en daarna kwam de tekst snel tot rust. Het is alsoals wanneer je voor het eerst een gitaar stemt; je maakt grote, duidelijke aanpassingen om de snaren op de juiste plek te krijgen. Maar na een paar slagen aan de stemknop is de snaar zo dicht bij de juiste toon dat je alleen nog maar minuscule, bijna onzichtbare aanpassingen maakt. De onderzoekers noemen dit tot rust komen "textuele relaxatie".

Dit is wat ze in detail ontdekten:

De Snelle Stop: De AI maakte de meeste veranderingen in de eerste paar rondes. Tegen de tijd dat het de 3e of 4e bewerking bereikte, was de tekst al zeer stabiel. Daarna was de AI vooral bezig met het bijstellen van kleine details zoals komma's of koppeltekengebruik.
De "Zachte" Landing: De tekst stopte niet volledig met veranderen (wat een "exacte" stop zou zijn). In plaats daarvan kwam het in een "zachte fixed-point regio". Dit betekent dat de tekst zo goed was dat de AI eigenlijk geen betere versie kon vinden, waardoor hij alleen nog maar kleine, oppervlakkige bewegingen maakte.
De Wiskunde van het Tot Rust Komen: De omvang van de veranderingen volgde een zeer voorspelbaar patroon genaamd "exponentiële relaxatie". Stel je een kop hete koffie voor die afkoelt; het koelt eerst snel af, en vertraagt dan naarmate het de kamertemperatuur nadert. De tekstveranderingen deden precies hetzelfde. De hoeveelheid bewerking daalde scherp en vlaktte daarna af nabij een kleine "vloer" van kleine veranderingen.
Temperatuur Doet Er Toe: De onderzoekers testten twee instellingen. Wanneer ze de AI heel strikt en deterministisch instelden (temperatuur 0), stopte de tekst volledig met veranderen en vond het zeer snel een "exact" vast punt (gemiddeld in slechts 2,6 rondes). Wanneer ze de AI iets creatiever en willekeuriger lieten zijn (standaard temperatuur), kwam het ook tot rust, maar bleef het nog wat meer heen en weer bewegen, waardoor het langer duurde voordat het tot stilstand kwam.
Het Wordt Daadwerkelijk Beter: Een veelvoorkomende zorg is dat als de tekst stopt met veranderen, de AI ergens op vastzit en niet meer verbetert. Maar de onderzoekers controleerden dit met een externe beoordelaar (een andere AI). Ze ontdekten dat de definitieve versies inderdaad duidelijker, compacter en beter geschreven waren dan de originelen, zelfs toen de AI stopte met het maken van grote veranderingen. Het "stoppen" kwam niet doordat de AI opgaf, maar omdat het de beste versie had gevonden die het kon maken.

De onderzoekers probeerden dit ook met oudere papers uit 2020, en hetzelfde gebeurde er. De AI kwam snel tot rust, ongeacht uit welk jaar het paper kwam.

Dus, wat betekent dit voor ons? Het suggereert dat wanneer we AI gebruiken om ons werk te herschrijven, we het niet honderd keer hoeven te laten bewerken. De magie vindt plaats in de eerste paar rondes. Daarna is de AI alleen maar aan het ronddraaien zonder vooruitgang te boeken. Het artikel suggereert dat we de omvang van de veranderingen kunnen gebruiken als een signaal: zodra de veranderingen minuscuul worden en niet meer kleiner worden, moeten we gewoon stoppen. We hebben het "textuele evenwicht" bereikt, en verdere bewerking is slechts ruis. Dit verandert een mysterieuze, eindeloze lus van AI-redactie in een voorspelbaar proces met een duidelijke finishlijn.

Technische Samenvatting: Convergeren Taalmodellen naar Zichzelf?

Probleemstelling

Grote taalmodellen (LLM's) worden steeds vaker ingezet in recursieve zelfverfijningsworkflows, waarbij een eerste concept herhaaldelijk wordt herzien door hetzelfde model. Hoewel deze workflows gebruikelijk zijn in wetenschappelijk schrijven, programmeren en agentische systemen, blijft hun langetermijndynamica slecht begrepen. De centrale vraag die wordt behandeld is of herhaalde verfijning leidt tot onbeperkte verbetering of of het proces ontspant naar een stabiele tekstuele vorm. Bestaande evaluaties richten zich doorgaans op verbeteringen in kwaliteit in één stap, in plaats van op de dynamica die wordt geïnduceerd door herhaalde zelf-toepassing, waardoor vragen open blijven staan over convergentie, stabiliteit, attractoren en passende stopcriteria.

Methodologie

De auteurs kaderen recursieve zelfverfijning als een discreet dynamisch proces over tekst, gedefinieerd door de iteratieve toepassing van een verfijningsoperator $R_\theta$ :
$V_{t+1} = R_\theta(V_t)$
waarbij $V_t$ de tekst op iteratie $t$ vertegenwoordigt.

Experimentele Opzet:

Datasets: De studie maakt gebruik van 50 abstracts van ICML 2025 en een cross-year vergelijkingsset van 15 abstracts van ICML 2020.
Model: GPT-5.5 wordt gebruikt als de verfijningsoperator.
Prompting: Het model krijgt de instructie om te fungeren als een deskundige wetenschappelijke redacteur, waarbij de duidelijkheid, coherentie en beknoptheid worden verbeterd, terwijl alle technische claims, methoden, resultaten en numerieke waarden strikt behouden blijven.
Decoding Condities: Experimenten worden uitgevoerd onder twee instellingen: default-temperatuur en deterministische decoding (temperatuur 0).
Trajectlengte: Elk abstract ondergaat $T=10$ verfijningsiteraties.

Metrieken en Analyse:

Transitiemagnitude ( $\Delta_t$ ): Gemeten met de genormaliseerde Levenshtein edit distance tussen opeenvolgende versies, $d(V_t, V_{t+1})$ , genormaliseerd door de maximale lengte van de twee teksten.
Vastpuntdefinities:
- Exact Vastpunt: $V_{t+1} = V_t$ .
- Benaderd Vastpunt: Gedefinieerd door $\Delta_t < \epsilon_{edit}$ (0.02) en een relatieve verandering in woordtelling $< \epsilon_{wc}$ (0.03) voor twee opeenvolgende transities.
Relaxatiemodellering: De auteurs passen een exponentieel vervalmodel toe op de gemiddelde transitiemagnitude: $\Delta_t \approx Ae^{-kt} + c$ , waarbij $c$ een residuele fluctuatievloer vertegenwoordigt.
Externe Evaluatie: Een subset van trajecten wordt geëvalueerd door een externe LLM-als-rechter (Gemini 3.5 Flash) om duidelijkheid, beknoptheid, wetenschappelijke stijl en technische getrouwheid te beoordelen, om te waarborgen dat convergentie niet gelijkstaat aan tekstuele stagnatie.

Belangrijkste Bijdragen

Theoretische Inkadering: Het artikel introduceert het concept van "tekstuele relaxatie", waarbij recursieve zelfverfijning wordt gekaderd als een discreet dynamisch proces dat tekst stuurt naar een door het model geprefereerde "zachte vastpuntregio" in plaats van een open eind optimalisatieprocedure.
Empirisch Bewijs van Verzadiging: De studie levert empirisch bewijs dat verfijningstrajecten snel verzadigen. De meeste wijzigingen vinden plaats binnen de eerste paar iteraties, waarna het systeem een regio betreedt die wordt gekenmerkt door kleine residuele oppervlakkige veranderingen.
Effecten van Decoding Temperatuur: De auteurs demonstreren dat de decoding temperatuur de aard van de vastpuntregio controleert. Deterministische decoding (temperatuur 0) bereikt sneller exacte vaste punten met lagere residuele fluctuaties, terwijl default-temperatuur decoding grotere residuele fluctuaties vertoont rond een vergelijkbare zachte vastpuntregio.
Praktische Stopcriteria: Het werk motiveert het gebruik van edit-magnitude verzadiging als een praktisch stopcriterium voor recursieve workflows, waarbij wordt gesuggereerd dat iteratieve verfijning kan worden beëindigd zodien de wijzigingen onder een specifieke drempelwaarde vallen.

Resultaten

Snelle Convergentie: Op 50 ICML 2025 abstracts bereikte GPT-5.5 benaderde convergentie voor alle trajecten onder beide decoding instellingen. Exacte vaste punten werden bereikt door 100% van de trajecten onder temperatuur 0 (gemiddelde convergentietijd: 2.6 iteraties) en 94% onder default temperatuur (gemiddelde: 4.66 iteraties).
Exponentiële Relaxatie: De gemiddelde edit magnitude $\Delta_t$ volgt een consistent exponentieel relaxatiepatroon ( $R^2 = 0.990$ voor de default-temperatuur conditie). Dit duidt op een snelle afname in edit-druk gevolgd door een kleine residuele vloer, wat de relaxatiehypothese ondersteunt boven onbeperkte optimalisatie.
Kwaliteitsverbetering: Externe evaluatie door de Gemini-rechter bevestigde dat geconvergeerde abstracts ( $V_{10}$ ) significante verbeteringen vertoonden in duidelijkheid, beknoptheid en wetenschappelijke stijl vergeleken met de originele ( $V_0$ ) en de eerste verfijnde ( $V_1$ ) versies, terwijl de technische getrouwheid en betekenisbehoud perfect bleven.
Cross-Year Consistentie: Het geobserveerde convergentiegedrag bij ICML 2020 abstracts was kwalitatief vergelijkbaar met ICML 2025, wat suggereert dat dit fenomeen niet uniek is voor de hedendaagse LLM-tijdperal schrijfstijl, hoewel 2020 abstracts iets grotere initiële edit distances en latere exacte convergentie vertoonden.

Betekenis en Claims

Het artikel betoogt dat recursieve zelfverfijning beter begrepen kan worden als tekstuele relaxatie dan als open-ended optimalisatie. De auteurs claimen dat:

Herhaalde revisie tekst stuurt naar een door het model geprefereerde evenwichtstoestand van wetenschappelijke schrijfstijl.
Zodra de tekst deze regio nadert, leveren verdere verfijningen afnemende meeropbrengsten op, waarbij primair kleine oppervlakkige fluctuaties worden geïntroduceerd in plaats van substantiële verbeteringen.
Het onderscheid tussen exacte en benaderde vaste punten cruciaal is; benaderde convergentie vangt beter het praktische stoppunt waarbij extra iteraties redundant worden.
Het bekijken van LLM zelfverfijning door de lens van dynamische systemen (convergentie, stabiliteit, attractoren) biedt een compact kader voor het analyseren van iteratieve AI-gedragingen en het vaststellen van robuuste stopcriteria.

De auteurs blijven bescheiden over hun claims en merken op dat hun convergentiemetrieken op basis van oppervlakte zijn en dat het exponentiële relaxatiemodel een empirische beschrijving is en geen bewijs van natuurkundige wetten of gradiëntafdaling-mechanismen. Ze erkennen beperkingen in de reikwijdte (focus op wetenschappelijke abstracts en een enkel model) en roepen op tot toekomstig werk om de stabiliteit in continue representatieruimtes te analyseren.