🤖 machine learning

EvolveNet: Collaborative Harness Evolution for Agent Self-Improvement

EvolveNet introduceert een collaboratief kader voor zelfverbetering van agenten dat een gedeelde harness uitzendt naar lokale agenten voor onafhankelijke evolutie en vervolgens hun programma-adaptaties aggregeert, waardoor kennisoverdracht tussen geïsoleerde workloads mogelijk wordt zonder de ruwe data te centraliseren.

Oorspronkelijke auteurs: Jun Nie, Yonggang Zhang, Qianshu Cai, Yiu-ming Cheung, Xinmei Tian, Bo Han

Gepubliceerd 2026-08-06

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jun Nie, Yonggang Zhang, Qianshu Cai, Yiu-ming Cheung, Xinmei Tian, Bo Han

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een superintelligent robotbrein hebt (een Large Language Model) dat code kan schrijven, wiskundige problemen kan oplossen of reizen kan plannen. Maar dit brein is bevroren; je kunt het niet opnieuw trainen of de interne bedrading ervan veranderen. Om het daadwerkelijk dingen te laten doen, heb je een "harnas" nodig—een set instructies, een script of een programma dat het brein vertelt wanneer het moet spreken, welke hulpmiddelen het moet gebruiken, hoe het zijn eigen werk moet controleren en wat het moet doen als het een fout maakt. Zie het harnas als het lichaam en het zenuwstelsel van de robot. Een beter lichaam kan hetzelfde bevroren brein wonderen laten verrichten die het voorheen niet kon.

Lange tijd probeerden wetenschappers deze lichamen te verbeteren door alle fouten en successen van de robot te verzamelen in één enorme berg data bij een centraal hoofdkwartier. Daar zou een enkele "optimizer" proberen om voor iedereen één perfect lichaam te evolueren. Maar in de echte wereld zijn robots (of agenten) overal verspreid: in verschillende bedrijven, met verschillende databases en in verschillende omgevingen. Ze kunnen hun privédata niet altijd delen vanwege privacyregels of technische beperkingen. Dit creëert een puzzel: Hoe maak je een gedeeld, superintelligent lichaam voor iedereen als je niet alle ervaring naar één plek kunt brengen?

Hier komt het paper EvolveNet met een slim nieuw idee. In plaats van alle rommelige data naar één plek te verzamelen, draait EvolveNet het scenario om. Het stuurt een "gedeeld lichaam" (het harnas) uit naar alle verschillende robots. Elke robot probeert dat lichaam te verbeteren met behulp van zijn eigen lokale data en zijn eigen specifieke problemen. Zodra ze klaar zijn, sturen ze niet hun data terug; ze sturen alleen de wijzigingen terug die ze aan het lichaam hebben aangebracht. Een centrale server fungeert vervolgens als een meesterkleermaker, die de beste onderdelen van al deze verschillende aanpassingen aan elkaar naait tot één nieuw, verbeterd gedeeld lichaam, dat vervolgens weer naar iedereen wordt teruggestuurd.

Het paper stelt vast dat deze "collaboratieve evolutie" ongelooflijk goed werkt. In tests over vijf verschillende gebieden—zoals het omzetten van tekst naar database-queries, het schrijven van data science-code en het oplossen van competitieve programmeeruitdagingen—werd het gedeelde lichaam aanzienlijk beter in elke taak. Zo sprong de nauwkeurigheid op een programmeeruitdaging genaamd DS-1000 bijvoorbeeld van 55,5% naar 68,5%. Cruciaal is dat het paper laat zien dat deze verbetering niet voortkomt uit simpelweg de beste robot kiezen en de rest negeren. In plaats daarvan komt het voort uit het combineren van de unieke oplossingen die door verschillende robots zijn ontdekt. De ene robot lost misschien een probleem op met een specifieke wiskundige bibliotheek, terwijl een andere een logische fout in een ander gebied herstelt. De taak van de server is om uit te zoeken hoe ze beide oplossingen kunnen behouden zonder dat ze met elkaar in conflict komen. De onderzoekers ontdekten dat door "scope-typed" regels te gebruiken—eigenlijk het lichaam vertellen: "Gebruik deze fix alleen wanneer je met wiskunde bezig bent, maar gebruik die andere fix alleen wanneer je met kaarten bezig bent"—ze deze verschillende vaardigheden konden samenvoegen in één enkele, superbekwame agent.

De studie sluit ook de mogelijkheid uit dat je alle data moet centraliseren om goede resultaten te behalen. Het bewijst dat je data lokaal en privé kunt houden en toch samen een slimmer systeem kunt bouwen. De auteurs merken echter voorzichtig op dat dit geen toverstaf is die alles direct oplost. Het proces vereist meerdere rondes van vallen en opstaan, en het systeem vertrouwt op het hebben van enig gelabelde data om te controleren of de wijzigingen daadwerkelijk werken. Hoewel de resultaten sterk zijn en over meerdere real-world scenario's zijn gemeten, suggereert het paper dat naarmate deze systemen groter worden en meer rondes draaien, er nieuwe uitdagingen kunnen ontstaan, zoals de code die te groot of te rommelig wordt, die beheerd moeten worden. Maar voor nu laat EvolveNet zien dat door veel agenten hun eigen gespecialiseerde vaardigheden te laten evolueren en deze vervolgens zorgvuldig aan elkaar te naaien, we een collectieve intelligentie kunnen creëren die veel slimmer is dan een enkele agent op zichzelf zou kunnen zijn.

Technische Samenvatting: EvolveNet – Collaboratieve Evolutie van de Harness voor Zelfverbetering van Agenten

1. Probleemstelling

Large Language Model (LLM) agenten vertrouwen niet alleen op hun onderliggende modelgewichten, maar cruciaal op de harness: het uitvoerbare programma dat de context construeert, tools aanroept, resultaten verifieert en fouten afhandelt. Hoewel recent werk aantoont dat het evolueren van de harness persistente verbeteringen oplevert zonder de modelgewichten bij te werken, volgen bestaande benaderingen een gecentraliseerd paradigma. Deze methoden gaan ervan uit dat alle executie-ervaring (workloads, traces, feedback) kan worden samengevoegd in één enkele optimizer om één harness langs een sequentieel traject te evolueren.

Deze aanname faalt in real-world agent-ecosystemen waar gebruikers, organisaties en omgevingen geïsoleerde stromen van ervaring genereren die niet gecentraliseerd kunnen worden vanwege privacy, latentie of datasoevereiniteit. Bijgevolg is de meest waardevolle ervaring voor leren vaak de ervaring die niet direct geaggregeerd kan worden. Bovendien koppelt gecentraliseerde evolutie de exploitatie van gedistribueerde ervaring aan workload-centralisatie, wat de zoekbreedte en seriële efficiëntie beperkt wanneer nieuwe workloads worden geïntroduceerd.

2. Methodologie: EvolveNet

EvolveNet introduceert een paradigma van collaboratieve harness-evolutie dat de volgorde van ervaringsextractie en aggregatie omdraait. In plaats van workloads te poolen en dan te leren, verplaatst EvolveNet de extractie van ervaring naar de data-lokale deployments.

2.1 De Collaboratieve Loop

Het systeem werkt in rondes met een server en $K$ data-lokale clients:

Broadcast: De server broadcast een gedeelde harness $h^{(t)}$ naar alle clients.
Lokale Evolutie: Elke client $k$ evolueert de harness onafhankelijk op zijn lokale workload $D_k$ om een specialistische harness $h^{(t)}_k$ te produceren. Dit proces extraheert lokale operationele ervaring in een programma-adaptatie.
Aggregatie: Clients retourneren de programmadelta ( $\Delta^{(t)}_k = \text{diff}(h^{(t)}, h^{(t)}_k)$ ) en gedragsbewijs (items opgelost of gebroken) naar de server.
Compositie: De server aggregeert deze delta's tot een bijgewerkte gedeelde harness $h^{(t+1)}$ .
Redistributie: De bijgewerkte harness wordt herverdeeld als het startpunt voor de volgende ronde.

Deze cyclus vervangt de "aggregeer-data-en-leer-dan"-pipeline door een "evolueer-lokaal-en-aggregeer-dan"-cyclus, waardoor meerdere evolutionaire zoektochten gelijktijdig kunnen plaatsvinden.

2.2 De Aggregatie-uitdaging

In tegen tegenstelling tot aggregatie in de parameterruimte (bijv. Federated Averaging), waarbij updates vectoren zijn die gemiddeld kunnen worden, zijn harness-adaptaties uitvoerbare programma's. Ze kunnen niet rekenkundig gemiddeld worden; voordelige edities kunnen in isolatie redundant, tegenstrijdig of ongeldig worden wanneer ze samengesteld worden.

EvolveNet adresseert dit via Bewijs-gestuurde, Scope-getypeerde Programma-aggregatie:

Common-Base Delta's: Alle clients evolueren vanuit dezelfde basis $h^{(t)}$ , waardoor de server over delta's relatief aan een gemeenschappelijke staat kan redeneren.
Gedragsbewijs: Elke delta wordt vergezeld door bewijs $e^{(t)}_k$ dat aangeeft welke items nieuw zijn opgelost ( $F$ ) of gebroken ( $B$ ) ten opzichte van de basis.
Scope-getypeerde Compositie: De server classificeert mechanismen (semantisch coherente adaptaties) in scopes:
- GLOBAL: Toegepast op alle inputs als het bewijs meerdere domeinen beslaat of domein-onafhankelijke fouten adresseert.
- HOME( $d_k$ ): Voorwaardelijk toegepast alleen wanneer de input tot domein $d_k$ behoort. Dit maakt het mogelijk dat tegenstrijdige adaptaties uit verschillende domeinen naast elkaar bestaan zonder interferentie (Proposities 1 & 2).
- REJECT: Single-item adaptaties die geen terugkerende klasse vertegenwoordigen, worden weggegooid.
Gedragsverbintenis (Behavioral Commitment): Een kandidaat-harness wordt alleen gecommitteerd als het aantal nieuw opgeloste items op een validatieslice groter dan of gelijk aan het aantal nieuw gebroken items is ( $|F_{val}| \ge |B_{val}|$ ). Deze poort voorkomt dat regressies de gedeelde startpunt worden.

3. Belangrijkste Bijdragen

Collaboratief Harness-evolutie Paradigma: Een framework dat de extractie van ervaring verschuift van een gecentraliseerde optimizer naar data-lokale deployments, waarbij uitvoerbare adaptaties worden geaggregeerd in plaats van ruwe workloads. Dit maakt het mogelijk dat gedistribueerde ervaring zich cumuleert in een gedeeld artefact terwijl lokale zoektochten parallel verlopen.
Scope-getypeerde Aggregatie-operator: Een nieuwe methode voor het combineren van interagerende uitvoerbare programma's. Het integreert delta's relatief aan een gemeenschappelijke basis, bevordert overdraagbare mechanismen naar globaal gedrag, en behoudt domeinspecifieke adaptaties onder voorwaardelijke scopes, waardoor interferentie wordt beheerst zonder rekenkundig gemiddelde.
Evaluatieprotocol: Een gepaard evaluatiemethode die de bijdrage van de aggregatie-operator isoleert van de stochasticiteit van de lokale evolutie. Door concurrerende aggregatieregels toe te passen op identieke snapshots van lokaal geëvolueerde client-programma's, demonstreert het artikel dat winst voortkomt uit het componeren van adaptaties in plaats van het selecteren van de beste enkele specialist.

4. Experimentele Resultaten

EvolveNet werd geëvalueerd in vijf settings: Text-to-SQL (BIRD), Data-Science Coding (DS-1000), Competitive Programming (LiveCodeBench), Software Engineering (SWE-bench Verified) en Agentic Workflows (ClawEval).

Prestatiewinst: EvolveNet verbeterde de gedeelde harness in alle vijf de settings. De winst was het meest significant onder heterogene workloads (bijv. +33,4% op LiveCodeBench, +20,0% op SWE-bench).
Compositie vs. Selectie: Ablatie-studies op DS-1000 toonden aan dat de samengevoegde harness (68,5%) de "select-best" single client (59,5%) en een "delegatie"-strategie die simpelweg taken naar specialisten routeert (64,0%) significant overtrof. Dit bevestigt dat het systeem complementaire adaptaties succesvol componeert in plaats van enkel te routeren.
Retentie van Adaptaties: Op DS-1000 werden 90% van de unieke items opgelost door individuele clients behouden in de samengevoegde harness. Bovendien lost de samengevoegde harness items op in domeinen (bijv. PyTorch) waar geen enkele client trainingsdata voor had, wat de transfer van gedrag over domeinen aantoont.
Efficiëntie: Parallelle lokale evolutie vermindert de seriële diepte van de zoektocht. Hoewel de totale computationele kosten vergelijkbaar blijven, wordt de wandkloktijd bepaald door de traagste client in plaats van de som van alle zoektochten, wat snelheidsverbeteringen biedt van 1,9x tot 5,4x, afhankelijk van het aantal clients.
Model-onafhankelijkheid: Kwalitatieve gedragingen (geaccepteerde winsten, afgewezen regressies) werden gereproduceerd bij het wisselen van de onderliggende LLM-stack van DeepSeek-v4-flash naar MiMo-V2.5.

5. Betekenis en Claims

Het artikel claimt dat het artefact dat gedeeld wordt tijdens collaboratieve agent-verbetering niet noodzakelijkerwijs een parametervector hoeft te zijn; een uitvoerbaar programma kan operationele ervaring dragen over organisatorische grenzen heen, mits de adaptaties gecomponeerd en gedragsmatig gevalideerd kunnen worden.

Schaalbaarheid: EvolveNet demonstreert dat gedistribueerde lokale zoektochten kunnen worden getransformeerd in cumulatieve progressie in één enkel uitvoerbaar systeem. De aanpak schaalt met het aantal clients ( $K$ ) zonder het aantal rondes te verhogen, aangezien de client-fase wordt begrensd door de traagste tak.
Omgaan met Heterogeniteit: De methode is bijzonder effectief wanneer deployments gedisjointe vormen van expertise bezitten. De scope-getypeerde aggregatie stelt het systeem in staat om gespecialiseerde capaciteiten (bijv. specifieke library repair procedures) te behouden terwijl algemene herstelmechanismen globaal worden gepromoot.
Beperkingen: De auteurs merken op dat datalocaliteit geen privacygarantie is (programma-edities kunnen clientinformatie coderen) en dat de huidige poort geen straf oplegt voor code-bloat, wat een probleem kan zijn voor langdurige accumulatie. De methode is gesuperviseerd en vereist gelabelde validatiedata aan de serverzijde.

Samenvattend stelt EvolveNet vast dat collaboratieve harness-evolutie, bemiddeld door scope-getypeerde, bewijs-gestuurde aggregatie, meerdere agenten in staat stelt om gezamenlijk een systeem te evolueren dat krachtiger is dan de som der delen, zonder dat centralisatie van gevoelige data vereist is.