🤖 machine learning

Evolutionary Context Search for Automated Skill Acquisition

Dit paper introduceert Evolutionary Context Search (ECS), een methode die evolutionaire algoritmen gebruikt om tijdens de inferentie optimale contextcombinaties te vinden die de prestaties van grote taalmodellen aanzienlijk verbeteren zonder hertraining, waardoor een efficiënt alternatief ontstaat voor handmatige promptengineering en dure fine-tuning.

Oorspronkelijke auteurs: Qi Sun, Stefan Nielsen, Rio Yokota, Yujin Tang

Gepubliceerd 2026-02-19

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Qi Sun, Stefan Nielsen, Rio Yokota, Yujin Tang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat een Large Language Model (zoals een super-intelligente chatbot) een chef-kok is. Deze kok heeft al duizenden recepten geleerd tijdens zijn opleiding (het trainingsproces). Maar wat gebeurt er als je hem vraagt om een gerecht te koken met een nieuwe, vreemde specerij die hij nooit eerder heeft gezien? Of als je hem een recept geeft in een taal die hij niet spreekt?

Normaal gesproken zou deze chef-kok falen. Hij kan niet zomaar "leren" terwijl hij aan het werk is, tenzij je hem opnieuw volledig in de schoolbanken zet (wat duur en tijdrovend is).

De auteurs van dit paper hebben een slimme oplossing bedacht: Evolutionary Context Search (ECS). Laten we uitleggen hoe dit werkt met een paar creatieve vergelijkingen.

1. Het Probleem: De Verkeerde Hulpboeken

Stel je voor dat de chef-kok hulp nodig heeft. Hij pakt een enorme bibliotheek met boeken (de "context").

De oude methode (RAG): De chef zoekt in de bibliotheek naar een boek dat lijkt op wat hij nodig heeft. Hij kijkt naar de titel of de eerste zin. Het probleem? Soms pakt hij het verkeerde boek. Hij vindt een boek over "tomatensoep" omdat hij "tomaten" nodig had, maar het gaat over soep, niet over de specifieke techniek die hij nodig heeft voor zijn nieuwe gerecht. Hij raakt in de war en maakt een fout.
Het probleem: De chef zoekt op gelijkenis, maar wat hij echt nodig heeft is de juiste instructie, zelfs als die er heel anders uitziet.

2. De Oplossing: De "Evolutionaire Zoektocht"

In plaats van één boek te kiezen, doet ECS iets heel anders. Het is alsof we een evolutie-experiment starten in de bibliotheek.

Stel je voor dat we een groepje koks-assistenten hebben.

De Start: We geven elke assistent een willekeurige bundel met losse pagina's uit de bibliotheek (soms goede pagina's, soms slechte).
De Test: We laten ze een proefgerecht maken. Wie het lekkerste gerecht maakt, krijgt een sterretje (dit noemen ze "fitness").
De Selectie: De assistenten met de minste sterretjes gaan naar huis. De beste koks blijven.
De Mix (Crossover): De beste koks wisselen hun bundels met elkaar uit. Misschien heeft Kok A een geweldig hoofdstuk over "snijsneden" en Kok B een geweldig hoofdstuk over "kruiden". Ze maken een nieuwe bundel met beide beste stukken.
De Mutatie: Soms gooien we een willekeurige nieuwe pagina uit de bibliotheek in de bundel, of vervangen we een saaie pagina door een spannende nieuwe. Misschien vinden ze per ongeluk een gouden tip die niemand eerder zag.
Herhaling: Dit proces herhalen we een paar keer. Na elke ronde worden de bundels slimmer en slimmer.

Na een paar rondes hebben we niet zomaar een bundel, maar een perfect samengesteld "super-recept" dat precies bevat wat de chef nodig heeft om het nieuwe gerecht te maken.

3. Waarom is dit zo cool?

Het vindt verborgen schatten: Soms is de beste hulp niet het boek dat het meest op de vraag lijkt, maar een combinatie van twee saaie boeken die samen een briljant antwoord geven. De oude methode zag dit nooit, maar de evolutie-methode wel.
Het werkt voor iedereen: Het beste deel is dat de "super-recepten" die deze methode vindt, model-onafhankelijk zijn.
- Vergelijking: Stel dat we een perfecte handleiding maken voor een specifieke auto. Die handleiding werkt niet alleen voor de auto waarvoor hij gemaakt is, maar ook voor een ander merk auto! In het paper bleek dat de context die ze voor Google's model (Gemini) vonden, ook perfect werkte voor het model van Anthropic (Claude) en DeepSeek.
Geen dure herscholing: Je hoeft de chef-kok niet opnieuw naar school te sturen. Je geeft hem gewoon de perfecte handleiding bij zijn werkplek. Dit is veel goedkoper en sneller dan het opnieuw trainen van de hele AI.

4. Wat levert het op?

In de testresultaten zagen ze dat deze methode de prestaties van de AI enorm verbeterde:

Bij het schrijven van code in een nieuwe taal (BackendBench) steeg het succes met 27%.
Bij het helpen van klanten bij een luchtvaartmaatschappij (τ-bench) steeg het met 7%.

Samenvattend

Stel je voor dat je een AI wilt leren een nieuwe vaardigheid.

Oude manier: Je gooit een hele berg boeken op zijn bureau en hoopt dat hij de juiste pagina vindt.
Nieuwe manier (ECS): Je laat een slim proces duizenden combinaties van bladzijdes testen, de beste selecteren, ze met elkaar mixen en verbeteren, totdat je één perfecte, compacte "handleiding" overhoudt die de AI direct kan gebruiken.

Het is alsof je niet alleen de antwoorden zoekt, maar de kunst van het zoeken zelf automatiseert. Hierdoor kunnen AI-modellen nieuwe vaardigheden leren zonder dat we ze opnieuw hoeven te programmeren of te betalen voor dure training.

Probleemstelling

Grote Taalmodellen (LLMs) hebben moeite om nieuwe kennis te verwerven na hun training (post-deployment), zelfs wanneer relevante tekstbronnen beschikbaar zijn. Bestaande methoden om deze kennis te injecteren hebben aanzienlijke nadelen:

Training-gebaseerde methoden (zoals Supervised Fine-Tuning of Reinforcement Learning) zijn computatief duur, vereisen toegang tot modelgewichten (wat onmogelijk is bij gesloten bronmodellen) en lopen het risico op "catastrophic forgetting".
Retrieval-Augmented Generation (RAG) probeert relevante documenten tijdens inferentie te vinden, maar faalt vaak omdat het gebaseerd is op semantische gelijkenis. Dit leidt tot het ophalen van context die verwarrend, irrelevante of niet-taakspecifiek is, wat de prestaties van het model juist kan verslechteren.

De kernuitdaging is dus het vinden van een efficiënte manier om de juiste context te selecteren en te combineren uit een corpus, zonder het model opnieuw te hoeven trainen.

Methodologie: Evolutionary Context Search (ECS)

Het paper introduceert Evolutionary Context Search (ECS), een raamwerk dat contextselectie behandelt als een evolutionaire zoekopdracht in plaats van een zoekopdracht op basis van gelijkenis.

Het proces werkt als volgt:

Context Units: Het ruwe tekstcorpus wordt omgezet in "context units" op verschillende abstractieniveaus:
- Bronteksten: Exacte syntax en codepatronen.
- Insights: Geabstraheerde principes en regels afgeleid van fouten of trajecten.
- Vaardigheden (Skills): Modulaire, aanroepbare acties voor agenten.
Populatie en Fitness: Een populatie van kandidaat-contexten (combinaties van units) wordt gegenereerd. De "fitness" van elke context wordt bepaald door de prestaties van het model op een klein ontwikkelingsset (dev set).
Evolutionaire Operatoren:
- Selectie: De beste presterende contexten (elites) worden geselecteerd.
- Crossover: Units van twee ouder-contexten worden gecombineerd om nakomelingen te maken.
- Mutatie: Nieuwe units worden willekeurig uit het broncorpus gehaald en toegevoegd of vervangen om de zoekruimte te verkennen.
- LLM-geleide verfijning: Een LLM controleert de nakomelingen op logische tegenstrijdigheden en lost deze op.
Iteratie: Dit proces wordt herhaald voor een paar generaties (vaak slechts 5 tot 10) totdat een geoptimaliseerde context is gevonden.

Het unieke aspect van ECS is dat het geen gewichtsupdates vereist en puur werkt via inferentie-oproepen. Het zoekt naar niet-blijkbare combinaties van context die de prestaties maximaliseren, in plaats van alleen de meest "gelijkende" tekst te zoeken.

Belangrijkste Bijdragen

Nieuw Raamwerk: ECS introduceert een evolutionaire zoekmethode voor het automatisch ontdekken van contextcombinaties die nodig zijn voor het verwerven van nieuwe vaardigheden.
Prestatieverbetering: Empirisch bewijs toont aan dat ECS aanzienlijke verbeteringen biedt ten opzichte van RAG-baselines en volledige context-injectie.
Model-onafhankelijkheid: De geëvolueerde contexten zijn model-agnostisch. Contexten die zijn geëvolueerd met een kleiner model (bijv. Gemini-3-Flash) transfereren effectief naar krachtigere of andere modellen (zoals Claude Sonnet en DeepSeek).

Resultaten

De methode is getest op twee uitdagende benchmarks:

BackendBench (CuTeDSL): Het genereren van GPU-kernels in een nieuwe domein-specifieke taal.
- ECS verbeterde de prestaties met 27% ten opzichte van de sterkste RAG-baseline (AST + Hybrid).
- De geëvolueerde contexten bevatten coherente architecturale patronen (van kernel-implementatie tot interfaces) die het model helpen de juiste API's te gebruiken, zelfs voor operaties die niet expliciet in de voorbeelden stonden.
$\tau$ -Bench (Airline Domain): Multi-turn agentische taken met strikte beleidsregels.
- ECS verbeterde de prestaties met 7%.
- Het slaagde erin om ruis te filteren en consistentie te behouden in beleidsafhankelijke taken, zelfs met minder tokens dan een "Full Context" aanpak.

Transferabiliteit:
Een opmerkelijke bevinding is dat contexten geëvolueerd met Gemini-3-Flash, succesvol werden toegepast op Claude-4.5-Sonnet en DeepSeek-V3.2. Op DeepSeek-V3.2, waar standaard RAG bijna geen verbetering boekte, leverde ECS een 7-voudige verbetering op. Dit suggereert dat ECS structurele patronen leert die overdraagbaar zijn tussen modellen.

Betekenis en Impact

Efficiëntie: ECS is een kosteneffectief alternatief voor handmatig prompt-engineering en dure fine-tuning. Het vereist geen toegang tot modelgewichten, waardoor het ook werkt voor gesloten bronmodellen.
Duurzaamheid: Door context te optimaliseren in plaats van het model te hertrainen, wordt de rekenefficiëntie tijdens de implementatie verhoogd (ondersteuning voor KV-caching).
Transparantie: In tegenstelling tot gewichtsupdates zijn de geëvolueerde contexten menselijk interpreteerbaar, wat meer inzicht geeft in hoe een model nieuwe kennis toepast.
Toekomstperspectief: ECS kan dienen als een geautomatiseerde data-curatie-methode om hoogwaardige demonstraties te vinden voor Supervised Fine-Tuning (SFT), waardoor een cyclus ontstaat waar ECS kennis ontdekt en SFT deze internaliseert.

Kortom, ECS biedt een nieuwe paradijgm voor het injecteren van corpuskennis in LLM's door te evolueren naar de meest effectieve contextcombinaties, in plaats van te vertrouwen op statische zoekopdrachten of zware training.