💬 NLP

Dynamic Context Evolution for Scalable Synthetic Data Generation

Dit paper introduceert Dynamic Context Evolution (DCE), een framework dat repetitieve output van grote taalmodellen voorkomt door middel van verbaal staart-sampling, semantisch geheugen en adaptieve prompt-evolutie, waardoor schaalbare synthetische data-generatie met behoud van conceptuele diversiteit mogelijk wordt zonder fijnafstemming.

Oorspronkelijke auteurs: Ryan Lingo, Rajeev Chhajer

Gepubliceerd 2026-04-09

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ryan Lingo, Rajeev Chhajer

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een kunstenaar hebt die elke dag een nieuw schilderij moet maken. Als je deze kunstenaar elke dag vraagt om "een schilderij van een boom" te maken, begint hij de eerste paar dagen met eikels, dennen en wilgen. Maar na een tijdje, als je hem blijft vragen zonder te vertellen wat hij gisteren heeft gemaakt, begint hij steeds dezelfde boom te schilderen. Misschien verandert hij de kleur van het blad een beetje, of de vorm van de stam, maar het is in feite steeds dezelfde saaie boom.

Dit is precies wat er gebeurt met moderne kunstmatige intelligentie (zoals chatbots) als je ze duizenden keren dezelfde vraag stelt: ze worden repetitief. Ze vallen in een "mode-collaps" (een manier van instorten), waarbij ze steeds dezelfde ideeën blijven produceren, zelfs als ze denken dat ze iets nieuws doen.

De auteurs van dit paper, Ryan Lingo en Rajeev Chhajer, hebben een oplossing bedacht die ze Dynamic Context Evolution (DCE) noemen. Laten we dit uitleggen met een simpele analogie: De Slimme Boekhouder.

Het Probleem: De Vergeten Kunstenaar

Stel je voor dat je een kunstenaar (de AI) hebt die 200 keer per dag een nieuw idee moet bedenken voor verpakkingsmateriaal.

Zonder hulp: De kunstenaar begint met 50 geweldige, unieke ideeën. Maar na 50 keer begint hij te herhalen. Uiteindelijk is 34% van zijn werk gewoon een kopie van wat hij eerder deed. Hij heeft geen geheugen; elke keer als je hem iets vraagt, begint hij bij nul.
De oplossing: Je hebt een Slimme Boekhouder nodig die meekijkt. Deze boekhouder onthoudt alles wat de kunstenaar al heeft gedaan en zorgt dat hij niet in de valkuil van herhaling terechtkomt.

De Drie Magische Gereedschappen van DCE

De "Slimme Boekhouder" gebruikt drie specifieke trucjes om de kunstenaar creatief en divers te houden:

1. De "Is dit saai?" Check (Verbalized Tail Sampling)

Soms bedenkt de kunstenaar iets dat technisch gezien nieuw is, maar eigenlijk heel voor de hand ligt. Bijvoorbeeld: "Een slimme waterfles." Dat is een idee, maar het is zo voor de hand liggend dat elke andere kunstenaar er ook op zou komen.

Hoe het werkt: De kunstenaar moet bij elk idee een cijfer geven: "Hoe waarschijnlijk is het dat iemand anders dit ook bedenkt?" Als het cijfer te hoog is (bijvoorbeeld: "Dit is 45% waarschijnlijk"), gooit de boekhouder het idee direct weg.
De analogie: Het is alsof je een chef-kok vraagt om een nieuw gerecht te bedenken. Als hij "Pizza" zegt, zeg je: "Nee, dat is te saai en te vaak gedaan. Bedenk iets verrassends!"

2. Het Onuitwisbare Geheugen (Semantic Memory)

Soms bedenkt de kunstenaar iets dat klinkt als een nieuw idee, maar is eigenlijk hetzelfde als iets dat hij gisteren deed. Bijvoorbeeld: "Een slimme waterfles" versus "Een intelligent hydratatieschip". Woordelijk anders, maar hetzelfde idee.

Hoe het werkt: De boekhouder heeft een enorme database waar hij alle goede ideeën in opslaat. Voordat hij een nieuw idee accepteert, kijkt hij na of dit idee niet te veel lijkt op iets dat er al in staat.
De analogie: Het is alsof je een verzamelaar bent van postzegels. Als je een nieuwe postzegel ziet die er precies hetzelfde uitziet als eentje die je al in je album hebt, plak je hem niet op. Je wilt alleen unieke exemplaren.

3. De Slimme Wegwijzer (Adaptive Prompt Evolution)

Dit is de meest slimme truc. De boekhouder zegt niet alleen wat niet mag, hij vertelt de kunstenaar ook waar hij moet zoeken.

Hoe het werkt: De boekhouder kijkt naar de lijst met ideeën en zegt: "Oké, we hebben al 50 ideeën over 'biologisch afbreekbaar plastic', maar we hebben nog maar 2 ideeën over 'verpakkingen die oplossen in zeewater'. Ga jij die laatste 2 invullen!"
De analogie: Stel je voor dat je een toerist bent in een stad. Als je altijd maar langs de bekende toeristische plekken loopt, zie je niets nieuws. De boekhouder is als een gids die zegt: "We hebben de Eiffeltoren al gezien, laten we nu naar die kleine, onbekende straat in de buitenwijken gaan waar nog niemand is geweest."

Wat levert dit op?

De auteurs hebben dit getest in drie verschillende werelden:

Duurzame verpakkingen (zoals verpakkingsmateriaal voor producten).
Onderwijsvragen (vragen voor een biologie-examen).
Creatief schrijven (ideeën voor verhalen).

De resultaten waren verbazingwekkend:

Bij de "normale" AI: Na 200 pogingen was 34% van de ideeën gewoon herhaling. Het was saai en voorspelbaar.
Met DCE (De Slimme Boekhouder): 0% herhaling. De AI bleef tot het einde toe unieke, verrassende ideeën bedenken.
De kwaliteit: De ideeën waren niet alleen anders, ze waren ook dieper. In plaats van 2 of 3 soorten ideeën te hebben, hadden ze 17 of 18 verschillende categorieën.

Waarom is dit belangrijk?

Stel je voor dat je een school wilt bouwen voor een robot. Als je de robot alleen leert met 1000 kopieën van hetzelfde idee, wordt de robot dom en star. Maar als je hem leert met 1000 echt verschillende ideeën, wordt de robot slim en flexibel.

DCE zorgt ervoor dat we duizenden unieke ideeën kunnen genereren zonder dat de computer in een herhalingstraject terechtkomt. En het beste van alles? Het kost bijna niets extra. Het is alsof je een slimme assistent toevoegt aan je bestaande AI, zonder dat je de AI zelf hoeft te herschrijven of te trainen. Het kost ongeveer 50 cent per 1000 ideeën.

Kort samengevat:
DCE is een systeem dat een AI helpt om niet in een creatieve crisis te raken. Het doet dit door te vragen: "Is dit saai?" (weggooien), "Hebben we dit al?" (weggooien), en "Waar zijn we nog niet geweest?" (nieuwe richting geven). Het resultaat is een stroom van ideeën die echt divers, verrassend en waardevol blijft.

Titel: Dynamic Context Evolution voor Schaalbare Synthetische Data Generatie

Auteurs: Ryan Lingo en Rajeev Chhajer (Honda Research Institute, USA, Inc.)

1. Het Probleem: Cross-Batch Mode Collapse

Het paper introduceert en definieert een specifiek fenomeen dat optreedt bij het genereren van synthetische data met Large Language Models (LLM's) op grote schaal: Cross-Batch Mode Collapse.

Definitie: Dit is het progressieve verlies van output-diversiteit wanneer een taalmodel herhaaldelijk wordt geprompted zonder toegang tot zijn eerdere generaties. Elke API-aanroep begint met een leeg contextvenster, waardoor het model geen mechanisme heeft om hoge-kansregio's van zijn outputverdeling te vermijden.
Gevolgen: Zonder interventie convergeert de output na verloop van tijd naar een smal subset van de mogelijke outputruimte. In experimenten bleek dat bij het genereren van educatieve examenvragen na 200 batches 34% van de output bijna-identiek was aan de eerste 50 batches.
Beperkingen van bestaande oplossingen: Praktijkgerichte oplossingen zoals post-hoc deduplicatie, zaadrotatie (seed rotation) of prompt-parafrafering zijn ad-hoc en missen een gestructureerd kader. Token-level interventies (zoals temperatuur-schaalvergroting of nucleus sampling) zijn vaak niet beschikbaar (bijv. bij de gebruikte gpt-5-mini API) of beïnvloeden alleen de lexische variatie, niet de onderliggende conceptuele diversiteit.

2. Methodologie: Dynamic Context Evolution (DCE)

De auteurs introduceren Dynamic Context Evolution (DCE), een framework dat drie complementaire mechanismen combineert om mode collapse te voorkomen en conceptuele diversiteit te behouden.

A. Verbalized Tail Sampling (VTS)

Functie: Filtert op "diepte" (niet voor de hand liggende ideeën).
Werking: Het model genereert elk concept samen met een zelfgeschatte waarschijnlijkheidsscore ( $P_i$ ): de inschatting hoe waarschijnlijk het is dat een ander model hetzelfde concept zou genereren.
Filter: Kandidaten met een score boven een drempelwaarde ( $\tau = 0.10$ ) worden verworpen als te voorspelbaar ("obvious").
Doel: Zorgen dat geaccepteerde ideeën niet slechts de meest waarschijnlijke voltooiingen zijn.

B. Semantisch Geheugen (Semantic Memory)

Functie: Filtert op "breedte" (voorkomen van near-duplicates).
Werking: Elke geaccepteerde idee wordt ingebed in een vectorruimte (1536-dimensionaal) en opgeslagen in een persistente vectordatabase (ChromaDB).
Filter: Voordat een nieuw concept wordt geaccepteerd, wordt de cosine-相似heid berekend met alle opgeslagen vectoren. Kandidaten met een gelijkenis boven de drempel ( $\delta = 0.85$ ) worden verworpen als near-duplicates.
Doel: Voorkomt dat de set geaccepteerde ideeën redundant wordt, zelfs als de oppervlakkige formulering verschilt.

C. Adaptieve Prompt Evolutie

Functie: Stuurt het model actief naar onverkende conceptuele gebieden.
Werking: De prompt wordt voor elke batch opnieuw samengesteld op basis van de huidige staat van het geheugen:
- Uitsluitingen: De 10 meest recente ideeën.
- Oververtegenwoordigde gebieden: 5 ideeën uit dichte clusters in de vectorruimte.
- Gaten: Categorische verdeling om ondervertegenwoordigde gebieden te identificeren.
Strategieën: Er worden vier strategieën in een ronde-toedeling (round-robin) toegepast:
1. Gap targeting: Richt zich op categorieën met de minste ideeën.
2. Assumption inversion: Keert impliciete aannames van recente ideeën om.
3. Cross-industry stimulus: Introduceert analogieën uit ongerelateerde domeinen.
4. Constraint variation: Past extreme beperkingen toe (bijv. "moet gratis zijn").
Fases: De campagne is verdeeld in een exploratie-fase (eerste 40%) en een exploitatie-fase (laatste 60%) om eerst breed te zoeken en vervolgens gaten op te vullen.

3. Evaluatiemetrics

Om diversiteit te meten, gebruiken de auteurs geen standaard metrics zoals BLEU of ROUGE, maar introduceert het paper:

Effective Diversity Volume (EDV): Een product van diepte (surprise, gebaseerd op $1-P_i$ ) en breedte (novelty, gebaseerd op de cosine-afstand tot het geheugen). Een hoge EDV vereist dat ideeën zowel verrassend als semantisch nieuw zijn.
Collapse Rate: Het percentage ideeën in de laatste 50 batches dat near-duplicates zijn van de eerste 50 batches.

4. Belangrijkste Resultaten

De experimenten zijn uitgevoerd in drie domeinen (duurzame verpakkingen, educatieve examenvragen, creatieve schrijftaken) met twee model families (gpt-5-mini en claude-haiku-4-5).

Eliminatie van Collapse: DCE bereikte 0.0 ± 0.0% collapse, terwijl naïeve prompting (zonder geheugen) een collapse rate van 5.6 ± 2.0% vertoonde.
Conceptuele Rijkdom: DCE produceerde consistent 17–18 HDBSCAN-clusters per seed, wat aangeeft dat het model een rijke conceptuele structuur behoudt. Naïeve prompting was zeer variabel (2–17 clusters) en neigde naar collapse.
Synergie van Componenten: Ablatiestudies tonen aan dat de mechanismen individueel onvoldoende zijn:
- Alleen deduplicatie voorkomt collapse, maar stuurt het model niet naar nieuwe gebieden (beperkte conceptuele breedte).
- Alleen prompt-evolutie stuurt het model, maar laat semantische duplicates accumuleren.
- Alleen VTS filtert voorspelbare ideeën, maar voorkomt geen herhaling.
- Alleen de combinatie (DCE) levert zowel 0% collapse als maximale conceptuele breedte op.
Kosten: De pipeline kost ongeveer $0.50 per 1.000 kandidaten en vereist geen fine-tuning of aangepaste architecturen, alleen standaard API-calls.

5. Significantie en Conclusie

DCE biedt een gestructureerd, reproduceerbaar kader voor het genereren van hoogwaardige synthetische data op grote schaal.

Praktische Toepasbaarheid: Het framework werkt met bestaande API's en is model-agnostisch (werkt ook op Claude Haiku, waar het zelfs meer winst oplevert door de hogere repetitieve neiging van dat model).
Onderzoekswaarde: Het paper demonstreert dat token-level diversiteit (woordkeuze) niet gelijkstaat aan conceptuele diversiteit. Zelfs als decoding-parameters (zoals temperatuur) niet beschikbaar zijn, kan diversiteit op conceptniveau worden gestuurd via contextevolutie.
Toekomstige Toepassingen: De methode is cruciaal voor het trainen van classifiers op synthetische data, waarbij een gebrek aan diversiteit leidt tot het leren van beperkte patronen in plaats van robuuste concepten.

Kortom, Dynamic Context Evolution lost het fundamentele probleem van mode collapse bij herhaalde LLM-generatie op door een gesloten feedbacklus te creëren die het model continu heroriënteert op onverkende conceptuele ruimte, terwijl het redundantie filtert op zowel voorspelbaarheid als semantische gelijkenis.