💬 NLP

Learning Agent Routing From Early Experience

Dit artikel introduceert BoundaryRouter, een trainingsvrij raamwerk dat de afweging tussen latentie en prestaties optimaliseert door queries dynamisch te routeren naar ofwel lichtgewicht LLM-inferentie ofwel volledige agent-uitvoering, gebaseerd op vroege gedragservaring en door rubrieken geleide redenering, waarmee aanzienlijke verbeteringen in zowel snelheid als nauwkeurigheid ten opzichte van bestaande methoden worden bereikt.

Oorspronkelijke auteurs: Yimin Wang, Jiahao Qiu, Xuan Qi, Xinzhe Juan, Jingzhe Shi, Zelin Zhao, Hongru Wang, Shilong Liu, Mengdi Wang

Gepubliceerd 2026-05-11

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Yimin Wang, Jiahao Qiu, Xuan Qi, Xinzhe Juan, Jingzhe Shi, Zelin Zhao, Hongru Wang, Shilong Liu, Mengdi Wang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer slimme, snelle, maar soms overmoedige assistent (de LLM) hebt en een hooggekwalificeerde, grondige, maar trage en dure expertconsultant (de Agent).

De Assistent kan eenvoudige vragen zoals "Wat is de hoofdstad van Frankrijk?" direct en gratis beantwoorden. Maar als je het vraagt om een complex natuurkundeprobleem op te lossen of een lange, meerstapscode te schrijven, kan het verkeerd raden of hallucineren.
De Expert kan die moeilijke problemen perfect oplossen door gebruik te maken van tools, onderzoek te doen en stap voor stap na te denken. Maar dit kost veel tijd en veel geld.

Het Probleem:
Op dit moment, als je een mix van makkelijke en moeilijke vragen hebt, moet je raden welke je naar wie stuurt. Als je alles naar de Expert stuurt, verspil je tijd en geld aan makkelijke vragen. Als je alles naar de Assistent stuurt, krijg je verkeerde antwoorden op moeilijke vragen.

De Oplossing: "BoundaryRouter"
Het artikel introduceert een nieuw systeem genaamd BoundaryRouter. Denk hierbij aan een slim verkeersagent die staat op het kruispunt tussen de Assistent en de Expert. Zijn taak is om elke binnenkomende vraag te bekijken en te beslissen: "Is dit makkelijk genoeg voor de Assistent, of heeft het de Expert nodig?"

Het lastige deel is dat deze verkeersagent onmiddellijk aan de slag moet, zonder voorafgaande trainingsdata of een "spiekbriefje" met juiste antwoorden. Het is een "koude start".

Hoe Het Werkt (De Creatieve Analogie):
In plaats van te studeren voor een toets, gebruikt de verkeersagent een truc genaamd "Leren uit Vroege Ervaring".

De "Zaad"-Test: Voordat het systeem live gaat, laten de onderzoekers een kleine batch vragen door zowel de Assistent als de Expert lopen. Ze geven nog geen aandacht aan de juiste antwoorden; ze kijken gewoon hoe de twee zich gedragen.
- Voorbeeld: Ze merken op dat wanneer de vraag gaat over een specifiek type wiskunde, de Assistent binnen 2 seconden een kort, zelfverzekerd antwoord geeft, terwijl de Expert 300 seconden nodig heeft om een rekenmachine tevoorschijn te halen en het te controleren.
- Ze bewaren deze observaties in een klein "herinneringsboek".
De "Vergelijkbare"-Zoektocht: Wanneer een nieuwe vraag binnenkomt, bladeren de verkeersagent door zijn herinneringsboek. Hij vraagt zich af: "Lijkt deze nieuwe vraag op de eerdere die we hebben gezien?"
- Als hij een match vindt waarbij de Assistent snel was en de Expert traag, stuurt hij de nieuwe vraag naar de Assistent.
- Als hij een match vindt waarbij de Assistent verward of traag was, stuurt hij de vraag naar de Expert.
De "Regelboek"-Redenering: Om ervoor te zorgen dat de verkeersagent niet zomaar raadt, volgt hij een strikt Regelboek (genaamd "Rubric-Guided Reasoning"). Hij voelt niet zomaar dat de Expert nodig is; hij controleert specifieke criteria: "Duurde de vergelijkbare vorige vraag 10 keer langer voor de Expert? Leek het antwoord van de Assistent vaag?" Dit houdt de beslissing logisch en consistent.

De Resultaten:
De onderzoekers testten dit systeem op een nieuwe benchmark genaamd RouteBench (een verzameling lastige vragen).

Snelheid: In vergelijking met het gebruik van de Expert voor alles, was dit systeem 60% sneller omdat het stopte met tijdverspilling aan makkelijke vragen.
Nauwkeurigheid: In vergelijking met het gebruik van de Assistent voor alles, was het 28% nauwkeuriger omdat het de Assistent niet liet raden op moeilijke problemen.
Vergelijking: Het werkte veel beter dan andere methoden die alleen simpele prompts of basiszoektools gebruikten.

In het Kort:
Dit artikel laat zien dat je geen enorme trainingsdataset nodig hebt om een slim systeem te bouwen dat weet wanneer het snel moet zijn en wanneer het grondig moet zijn. Door simpelweg te observeren hoe twee verschillende systemen zich gedragen op een paar steekproefvragen, kun je een "verkeersagent" leren om toekomstige vragen perfect te routeren, waardoor tijd en geld worden bespaard zonder kwaliteit in te leveren.

Technische Samenvatting: Routeren van Lerende Agenten op Basis van Vroege Ervaring

Probleemstelling

Grote Taalmodellen (LLM)-agenten tonen sterke capaciteiten in complex redeneren, plannen en het gebruik van hulpmiddelen, maar leiden tot hoge latentie en rekenkosten. Daarentegen is directe LLM-inferentie snel en kosteneffectief, maar vaak onbetrouwbaar voor taken die de capaciteitsgrens van het model overschrijden. De centrale uitdaging die in dit werk wordt aangepakt, is het routeren van queries tussen lichte LLM-inferentie en volledige agent-uitvoering onder realistische cold-start-omstandigheden. In deze scenario's ontbreken voorafgaande prestatiegegevens of ground-truth-labels voor inkomende queries, waardoor standaard toezichtgeleide training van een router onpraktisch is. Bestaand onderzoek richt zich grotendeels op routeren binnen homogene ruimten (bijvoorbeeld tussen verschillende LLM's of tussen verschillende agenten), waardoor het hybride routeringsprobleem tussen LLM's en agenten grotendeels onverkend blijft.

Methodologie: BoundaryRouter

De auteurs stellen BoundaryRouter voor, een trainingsvrij routeringskader dat is ontworpen om routeringsbeslissingen te nemen zonder ground-truth-toezicht. Het systeem werkt via drie kernmechanismen:

1. Leren van Vroege Ervaring

Om het cold-start-probleem te overwinnen, bouwt BoundaryRouter een compacte vroege-ervaringsgeheugen ( $M$ ) op.

Constructie: Een kleine seed-set van vragen ( $D_{seed}$ ) wordt uitgevoerd op zowel de lichte LLM als de volledige agent.
Geregistreerde Gegevens: Voor elke query registreert het systeem de invoervraag, de uitvoer van beide oplossers ( $y_{LLM}, y_{Agent}$ ) en hun respectieve latenties ( $t_{LLM}, t_{Agent}$ ).
Beperking: Cruciaal is dat er geen ground-truth-antwoorden, correctielabels of beloningen worden opgeslagen. Het geheugen vangt systematische gedragsverschillen (bijvoorbeeld responspatronen en runtime) tussen de twee systemen op.

2. Retrieval-Augmented Routing

Tijdens inferentie, voor een nieuwe query $x$ :

Het systeem haalt de top- $K$ meest vergelijkbare records op uit het vroege-ervaringsgeheugen met behulp van een hybride retriever (een combinatie van spaarse lexicaal matching en dichte semantische gelijkenis).
Deze opgehaalde gevallen dienen als bewijs, waardoor de router de huidige query kan vergelijken met historische gedragingen van beide oplossers om regelmatigheden af te leiden (bijvoorbeeld of vergelijkbare formuleringen eerder leidden tot agent-specifieke meerstapsredenering of latentiepieken).

3. Rubric-Gedreven Chain-of-Thought (CoT)

Om ervoor te zorgen dat beslissingen aansluiten bij specifieke gedragscriteria in plaats van open-ended redenering, hanteert de routerende LLM rubric-gedreven CoT.

In plaats van vrij vormgegeven redenering, volgt de router een vast beslissingsrubric dat is gecodeerd in de prompt.
Dit rubric leidt het model om opgehaalde gevallen expliciet te evalueren op basis van waarneembare dimensies (antwoordkarakteristieken en responstijden) om een afweging te maken tussen de verwachte antwoordkwaliteit en latentie.
De output is een binaire routeringsbeslissing: $Route(x) \in \{LLM, Agent\}$ .

Belangrijkste Bijdragen

1. Het BoundaryRouter-kader

Het paper introduceert een nieuwe, trainingsvrije routeringsmethode die gebruikmaakt van vroege gedragservaring en gestructureerd redeneren. Het maakt betrouwbare routering mogelijk in cold-start-omstandigheden waar ground-truth-labels ontbreken, en overbrugt de kloof tussen snelle, goedkope LLM-inferentie en robuuste, dure agent-uitvoering.

2. RouteBench Benchmark

Om dit probleem systematisch te evalueren, introduceren de auteurs RouteBench, een benchmark die specifiek is ontworpen voor LLM-agent-routering.

Samenstelling: Afgeleid van de GAIA- en MMLU-datasets, bevat het gekoppelde oplosser-uitvoer, latentiegegevens en menselijk geannoteerde routeringslabels gebaseerd op een deterministische regel (prioriteit voor correctheid, efficiëntie als beslissingsfactor bij gelijkspel, en fallback bij falen).
Evaluatiesets: Het beoordeelt generalisatie over drie dimensies:
- Basis-set: Taken binnen het domein.
- Hervormulering-set: Taalkundig verstoord queries om robuustheid te testen.
- Geavanceerde set: Taken buiten het domein om distributieverandering te testen.
Metrieken: Het maakt gebruik van instance-nauwkeurigheid, solver-niveau F1-scores en een samengestelde RouteBenchScore om de algehele routeringseffectiviteit te meten.

Experimentele Resultaten

Experimenten werden uitgevoerd op RouteBench met 14 hedendaagse modellen (waaronder GPT-5, Gemini-3-Pro en Claude Sonnet 4) als routeringsruggengraat.

Afweging Prestaties vs. Kosten: BoundaryRouter verlaagde de gemiddelde inferentietijd met 60,6% in vergelijking met uitsluitend gebruik van de agent, terwijl de prestaties met 28,6% verbeterden ten opzichte van directe LLM-inferentie.
Vergelijking met Baselines:
- In vergelijking met prompt-gebaseerde routering (zonder ervaring), verbeterde BoundaryRouter de routeringskwaliteit met 37,9%.
- In vergelijking met alleen retrieval-gebaseerde routering (zonder rubric-gedreven redenering), verbeterde het de prestaties met 8,2%.
Generalisatie: De methode behield sterke prestaties op de Geavanceerde (buiten-domein) set, wat aantoont dat vroege gedragsignalen gecombineerd met rubric-beperkt redeneren kunnen generaliseren buiten de trainingsdistributie.
Modelstratificatie: Onder de frontier-modellen behaalden GPT-5, Gemini-3-Pro-Preview en Gemini-2.5-Pro de sterkste routeringsprestaties, met name bij het hanteren van verschuivingen buiten het domein.

Betekenis en Claims

Het paper claimt dat vroege gedragsignalen, wanneer gekoppeld aan rubric-gedreven redenering, betrouwbare routering tussen LLM's en agenten mogelijk maken, zelfs bij afwezigheid van ground-truth-labels of routeringstoezicht.

Praktijktoepasbaarheid: Het kader biedt een praktische weg naar schaalbare coördinatie in heterogene redeneersystemen zonder de noodzaak van dure toezichtgeleide trainingsdata.
Inzicht in Routeringsmoeilijkheid: De resultaten benadrukken dat routering een uitdagend probleem blijft, zelfs in binnen-domein settings, waarbij de prestaties aanzienlijk verslechteren onder distributieveranderingen voor zwakkere modellen.
Toekomstige Richting: Hoewel het huidige werk zich richt op binaire routering tussen een enkele LLM en een enkele agent-pijplijn, suggereren de auteurs dat deze aanpak de grondslag legt voor complexere scenario's met meerdere agenten of heterogene hulpmiddelen.

De auteurs benadrukken dat hun bevindingen de levensvatbaarheid aantonen van het gebruik van zelfgegenereerde vroege ervaring als een lichtgewicht referentie om systeemniveau-beslissingen te sturen, waardoor het paradigma verschuift van statische modelselectie naar dynamische, ervaringsgedreven coördinatie.