SearchSwarm: Towards Delegation Intelligence in Agentic LLMs for Long-Horizon Deep Research
Het artikel introduceert SearchSwarm, een framework dat via een harness-gestuurd proces data voor supervised fine-tuning synthetiseert om modellen te trainen met "delegatie-intelligentie", waardoor ze effectief langdurige diepgaande onderzoeks-taken kunnen deconstrueren en beheren door middel van agent-subtaakdelegatie, wat resulteert in state-of-the-art prestaties op BrowseComp benchmarks.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Probleem: De "Kortetermijngeheugen"-bottleneck
Stel je voor dat je een briljante detective bent (de AI) die probeert een enorme, complexe mysteries op te lossen waarbij duizenden documenten gelezen, honderden websites bezocht en verbanden over jaren heen gelegd moeten worden.
Het probleem? Je hebt een zeer strikte regel: Je kunt tegelijkertijd slechts een paar pagina's met aantekeningen in je handen houden.
In AI-termen is dit het "context window". Zelfs de slimste AI-modellen hebben een limiet aan hoeveel informatie ze kunnen onthouden in een enkel gesprek. Als een onderzoeksopdracht te lang wordt, vergeet de AI het begin van het onderzoek tegen de tijd dat het einde is bereikt.
Traditioneel probeert een AI, wanneer deze deze limiet bereikt, zijn aantekeningen te "samenvatten". Maar dit is also̍f je een film van 10 uur probeert te onthouden door alleen de samenvatting van het plot te onthouden die op een servetje staat geschreven. Je verliest de details, het bewijs en de nuance.
De Oplossing: De "SearchSwarm"-strategie
De auteurs van dit paper realiseerden zich dat je, in plaats van te proberen alles zelf te onthouden, beter een team van assistenten kunt inhuren om het zware werk te doen.
Zij noemen dit "Delegation Intelligence" (Delegatie-intelligentie).
Zie de hoofd-AI als een Projectmanager en de sub-AI's als Gespecialiseerde Onderzoekers.
- De Projectmanager (Hoofdagent): Dit is het slimme brein. Het doet niet het zware werk van het lezen van 500 websites. In plaats daarvan kijkt het naar de grote vraag, breekt deze op in kleinere stukjes en zegt: "Jij, ga uitzoeken wat X is. Jij, ga uitzoeken wat Y is."
- De Onderzoekers (Sub-agenten): Dit zijn kopieën van dezelfde AI, maar ze werken in hun eigen aparte "kamers" (onafhankelijke contexten). Ze kunnen zoveel pagina's lezen als nodig is zonder zich zorgen te maken over de geheugenlimiet van de Projectmanager.
- De Overdracht: Wanneer een Onderzoeker klaar is, dumpt deze niet een rapport van 50 pagina's bij de Manager. In plaats daarvan schrijft hij een éénpagina-samenvatting met specifieke citaten (bewijs waar de informatie gevonden is). De Manager leest de samenvatting, controleert het bewijs en gaat verder.
De "Secret Sauce": Hoe ze de AI leerden te delegeren
Je zou kunnen vragen: "Kan de AI dit niet gewoon zelf uitzoeken?"
Het paper zegt nee. De meeste AI-modellen zijn getraind op boeken en artikelen, niet op scripts die laten zien hoe je een team aanstuurt. Ze weten van nature niet hoe ze hulp moeten vragen, wat ze moeten vragen, of hoe ze het werk moeten controleren.
Om dit op te lossen, bouwden de onderzoekers een "Training Harness" (een strikte set regels en instructies) om de AI te leren hoe een goede manager te zijn.
Dit zijn de vier gouden regels die ze de AI hebben geleerd:
- Regel 1: Doe het zware werk niet zelf. Als een taak vereist dat er veel tekst gelezen wordt, stuur het dan naar een sub-agent. Bewaar je eigen hersencapaciteit voor het leggen van de verbanden.
- Regel 2: Geef een uitstekende briefing. Je kunt een sub-agent niet alleen vertellen: "Ga informatie zoeken." Je moet zeggen: "We weten al X en Y, maar we lopen vast op Z. Zoek Z uit, en dit is waarom het belangrijk is." Dit voorkomt dat de sub-agent tijd verspilt aan het herontdekken van zaken die de Manager al weet.
- Regel 3: Behoud het uiteindelijke oordeel. De Manager mag de sub-agent nooit blind vertrouwen. De Manager moet het bewijs verifiëren. Als een sub-agent zegt: "Het antwoord is 42," moet de Manager de citatie controleren om er zeker van te zijn dat het geen hallucinatie (een leugen) is.
- Regel 4: Citeer altijd je bronnen. Elke conclusie moet gepaard gaan met een "bonnetje" (een link naar de bron). Dit zorgt ervoor dat het uiteindelijke antwoord betrouwbaar is.
De Resultaten: Een klein team dat reuzen verslaat
De onderzoekers trainden een model genaamd SearchSwarm-30B (een model met 30 miljard parameters, wat in de AI-wereld als "middelgroot" wordt beschouwd).
Ze testten het op moeilijke onderzoeksbenchmarks (zoals BrowseComp en GAIA), wat in feite "moeilijke trivia-testen" zijn die diep graven vereisen.
Het verbazingwekkende resultaat:
SearchSwarm, een middelgroot model, versloeg bijna alle andere modellen van zijn omvang. Nog indrukwekkender is dat het even goed presteerde als, of zelfs beter dan, sommige van de gigantische, gesloten modellen die 10 keer groter zijn en miljoens kosten om te draaien.
- Analogie: Het is alsof een kleine, goed georganiseerde lokale bibliotheek (SearchSwarm) een enorme, chaotische nationale archiefdienst (de gigantische modellen) verslaat bij het vinden van specifieke, obscure feiten, simpelweg omdat de lokale bibliothecaris precies weet hoe hij taken aan zijn assistenten moet delegeren.
Wat dit betekent voor de toekomst
Het paper laat niet alleen een coole truc zien; het biedt een recept. Ze hebben de code, de trainingsdata en de modelgewichten vrijgegeven zodat iedereen ze kan gebruiken.
Ze bewezen dat intelligentie niet alleen gaat over het hebben van een groter brein; het gaat over het hebben van betere managementvaardigheden. Door een AI te leren hoe ze moet delegeren, taken moet opdelen en bewijs moet verifiëren, kan een kleiner, goedkoper model complexe, langdurige problemen oplossen die voorheen enorme, dure supercomputers vereisten.
Kortom: SearchSwarm leert AI om te stoppen met proberen alles te onthouden en te beginnen met het leren hoe ze een team moeten aansturen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.