DarwinX: Evolving Agent Harnesses Through Natural Selection
DarwinX introduceert een populatiegebaseerd natuurlijk selectiekader dat LLM-agenten-harnesses evolueert via een preserve-and-extend-contract en recombinatie, waarmee significante, generaliseerbare prestatiewinsten bereikt wordt over diverse benchmarks zonder terug te vallen op bestaande taken of het hertrainen van modellen te vereisen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een ongelooflijk slimme robot hebt, maar hij zit vast in een glazen doos. Je kunt zijn brein niet veranderen en je kunt hem geen nieuwe feiten leren. Hij is bevroren in de tijd. Toch moet je hem duizend verschillende puzzels laten oplossen, van het repareren van kapotte code tot het navigeren op een website. Hoe maak je hem beter? In de wereld van kunstmatige intelligentie is dit de uitdaging van de "agent". Een agent is niet alleen het brein (het model); het is ook het "tuig" (de harness)—de set instructies, hulpmiddelen en regels die het brein vertellen hoe het moet handelen. Denk aan het brein als een briljante chef die elk recept ter wereld kent, maar het tuig is de keuken zelf. Als de keuken een rommel is, laat de chef ingrediënten vallen of verbrandt hij de soep, ongeacht hoe talentvol hij is. Wetenschappers proberen al een tijdje zelfverbeterende keukens te bouwen, maar de meeste pogingen zijn als één enkele chef die probeert zijn eigen werkstation te repareren terwijl hij aan het koken is. Ze lossen vaak één probleem op (zoals sneller uien snijden) maar breken per ongelen een ander (zoals vergeten het fornuis uit te zetten).
Maak kennis met DarwinX, een nieuwe aanpak van Salesforce AI Research die het verbeteren van een AI-agent behandelt als het draaien van een massaal experiment met natuurlijke selectie in een petrischaal. In plaats van één chef die alles alleen probeert te repareren, creëert DarwinX een hele populatie van verschillende keukenopstellingen. Het laat ze nieuwe hulpmiddelen en instructies uitproberen, maar met een strikte regel: je mag een nieuwe opstelling alleen behouden als deze een nieuw probleem oplost zonder de oude problemen te verstoren. Het is als een spel van "survival of the fittest", waarbij de fitste niet degenen zijn die gewoon geluk hebben, maar degenen die meer kunnen doen zonder te vergeten wat ze al wisten. Het artikel suggereert dat door het brein van de AI te bevriezen en alleen deze "keukenopstellingen" te laten evolueren, het systeem veel beter complexe taken kan oplossen, zelfs bij puzzels die het nog nooit eerder heeft gezien.
De Evolutie van de Perfecte Gereedschapskist
De onderzoekers achter DarwinX stelden een eenvoudige vraag: Wat als we stopten met het proberen te hertrainen van het AI-brein en ons in plaats daarvan volledig zouden concentreren op het evolueren van de hulpmiddelen en instructies die het gebruikt? Ze noemen dit het "tuig" (de harness). Dit omvat de prompts (de instructies), de hulpmiddelen (zoals een rekenmachine of een webbrowser) en de procesgang (de stappen die de AI neemt).
Om dit te testen, richtten ze een digitale petrischaal in. Ze namen een krachtig AI-model en vroren het brein ervan volledig in. Vervolgens creëerden ze een populatie van verschillende "tuigen" (verschillende sets instructies en hulpmiddelen) en lieten ze deze evolueren. Zo gebeurde de magie:
1. Het "Behoud-en-Breid-uit"-contract
Stel je voor dat je een tuinier bent. Je hebt een plant die perfecte tomaten produceert. Je wilt dat de plant ook aardbeien gaat groeien. Een slechte tuinier probeert de plant misschien te dwingen om aardbeien te groeien en doodt daarmee per ongeluk de tomaten. DarwinX gebruikt een strikte regel genaamd het "behoud-en-breid-uit"-contract. Een nieuwe versie van het tuig mag alleen overleven als het een nieuwe taak oplost (zoals het laten groeien van aardbeien) zonder terug te vallen op de oude taken (de tomaten moeten nog steeds perfect zijn). Als een nieuw idee één probleem oplost maar een ander probleem veroorzaakt, wordt het uit de tuin gesneden. Dit zorgt ervoor dat de AI steeds beter wordt zonder te vergeten wat hij al kon.
2. Het Archief van "Wat-als"-scenario's
In veel evolutie-experimenten, als een pad tot een doodlopende weg leidt, gooi je het weg. DarwinX is anders. Het houdt een archief bij van elke variant, zelfs de varianten die als geheel faalden. Waarom? Omdat een "mislukt" tuig een enkele briljante truc kan bevatten die een specifere oplossing biedt. Door deze "verliezers" in het archief te bewaren, kan DarwinX ze later combineren en matchen. Het is alsof je beseft dat een mislukte poging om een brug te bouwen een geweldig idee had voor een ophangkabel. Door die kabel te combineren met een ander brugontwerp, krijg je een superbrug. Deze "recombinatie" stelt het systeem in staat om complexe vaardigheden op te bouwen door de beste delen van vele verschillende afstammelingen aan elkaar te naaien.
3. De Drie Soorten Aanwijzingen
Hoe weet het systeem wat het moet veranderen? Het gebruikt drie soorten aanwijzingen, allemaal zonder het AI-brein aan te raken:
- Fout-aanwijzingen: Wanneer de AI faalt, analyseert het systeem waarom en stelt een oplossing voor.
- Docent-aanwijzingen: Als een mens of een sterkere AI de juiste weg laat zien, kopieert het systeem die methode.
- Zelf-aanwijzingen: Het systeem vergelijkt zijn eigen succesvolle pogingen met zijn mislukkingen om te achterhalen wat het verschil is.
Deze aanwijzingen worden omgezet in kleine aanpassingen aan het tuig, zoals het wijzigen van een prompt of het toevoegen van een nieuw hulpmiddel.
De Resultaten: Een Bevroren Brein, Een Superbrein
De onderzoekers testten dit op vier verschillende uitdagingen, van makkelijk naar zeer moeilijk. De resultaten waren verrassend sterk en suggereren dat een bevroren model een veel bekwamere agent kan worden, enkel door het tuig te laten evolueren.
- De Terminal Bench (Coderingstaken): Op een set van 89 coderingstaken verhoogde het geëvolueerdeerde tuig het succespercentage van 75,5% naar 83,2% op een GPT-5.5 model. Op een sterker GPT-5.6 model bereikte het 84,7%, waarmee het de beste bestaande agents ter wereld evenaart of verslaat, ook al veranderde het brein zelf nooit. Het artikel merkt op dat de AI niet gewoon "geluk" had; het leerde om meer tijd en energie te besteden aan precies de taken waar het moeite mee had, waarbij het het aantal pogingen op de moeilijkste problemen verdubbelde en de makkelijke problemen ongemoeid liet.
- De "Held-out" Test (Generalisatie): Ze testten de geëvolueerde agent vervolgens op 41 nieuwe taken die hij nog nooit eerder had gezien. Het geëvolueerdeerde tuig loste 68,3% van deze taken op, waarmee het alle andere geteste standaard agents versloeg. Dit suggereert dat de AI algemene vaardigheden heeft geleerd, in plaats van alleen antwoorden te memoriseren.
- De "Synthetisch-naar-Echt" Sprong: In een browsergebaseerde test genaamd WebArena-Infinity evolueerde het systeem op 300 fictieve, synthetische taken en werd het vervolgens getest op 1.260 echte taken. Het succespercentage sprong van 43,5% naar 93,0%. Dit is enorm, omdat het betekent dat de AI heeft geleerd hoe hij een browser correct gebruikt, en niet alleen hoe hij specifieke testbeperkingen omzeilt. De onderzoekers hebben de resultaten gecontroleerd en ontdekten dat de geëvolueerde agent stopte met het "omzeilen van beperkingen" (zoals het proberen te hacken van de test) en begon zaken op een legitieme manier te doen.
- De Cross-Benchmark Transfer: Tot slot namen ze het voor de coderingstaken geëvolueerdeerde tuig en gebruikten ze het op een compleet andere benchmark genaamd SWE-bench Verified (software engineering). Zonder nieuwe training scoorde het 84,2%, wat bewijst dat de geleerde vaardigheden overdraagbaar waren naar nieuwe soorten problemen.
Wat Veranderde Er? De "Verificatie"-Vaardigheid
Het artikel duikt in wat er eigenlijk veranderde in het AI-brein (nou ja, in het tuig). Het blijkt dat de AI geen nieuwe feiten heeft geleerd over wiskunde of geschiedenis. In plaats daarvan heeft het een familie van vaardigheden geleerd die gerelateerd zijn aan verificatie en contracten.
Voorheen zou de AI vaak een antwoord raden en hopen dat het juist was. De geëvolueerde AI leerde:
- Een contract opstellen: Voordat het een taak voltooit, definieert het precies hoe een "correct" antwoord eruitziet.
- Zijn werk controleren: Het gebruikt hulpmiddelen om de output te verifiëren aan de hand van dat contract.
- Fouten herstellen: Als de controle faalt, gaat het proces terug naar het begin en probeert het opnieuw.
Deze "verificatiebundel" is wat de AI in staat stelde om moeilijke, meerstaps-taken aan te pakken, zoals het opzetten van complexe softwareomgevingen of het navigeren op een website zonder de weg kwijt te raken. Het is het verschil tussen een student die een antwoord gokt en een student die zijn werk dubbelcheckt.
De Kernboodschap
DarwinX suggereert dat we niet altijd grotere, slimmere breinen nodig hebben om AI beter te maken. Soms hebben we alleen betere instructies en hulpmiddelen nodig. Door het "tuig" van de AI te behandelen als een levend ding dat kan worden geselecteerd, gearchiveerd en gecombineerd, hebben de onderzoekers een agent gecreëerd die betrouwbaarder, capabeler en minder geneigd is om beperkingen te omzeilen. Het artikel benadrukt dat deze winsten echt en meetbaar zijn, en niet slechts simulaties, en dat ze standhouden zelfs wanneer de AI met taken wordt geconfronteerd die hij nog nooit eerder heeft gezien. Het is een herinnering dat soms de beste manier om een genie slimmer te maken, is door het een beter pakket aan gereedschappen te geven en het te leren hoe het die moet gebruiken.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.