TURA: Tool-Augmented Unified Retrieval Agent for AI Search

Dit paper introduceert TURA, een nieuw drie-stapskader dat Retrieval-Augmented Generation combineert met agente toolgebruik om door middel van intentbewuste zoekopdrachten, DAG-gebaseerde taakplanning en een gedistilleerde agent-uitvoerder zowel statische inhoud als dynamische, real-time informatiebronnen te integreren voor een robuuste AI-zoekmachine.

De kern

Stel je voor dat een traditionele zoekmachine (zoals Google of Baidu) een uitgebreide bibliotheek is. Als je iets vraagt, loopt de bibliothecaris naar de planken, pakt een boek dat bij je vraag past en leest het voor. Dit werkt fantastisch voor vragen als "Wie was de eerste president van de VS?" of "Wat is de geschiedenis van de Gouden Brug?". Maar wat als je vraagt: "Boek voor mij een treinreis van Peking naar Shanghai voor volgende week, en check of er nog zitjes zijn?"

De bibliothecaris in die bibliotheek kan dat niet. De boeken in de bibliotheek zijn statisch. Ze zijn geschreven, gedrukt en liggen daar stil. Ze weten niets van wat er nu gebeurt, of of er nog kaartjes beschikbaar zijn. Ze kunnen niet bellen naar het treinbedrijf om te checken of er plek is.

TURA is de oplossing voor dit probleem. Het is een nieuwe soort "AI-zoekmachine" die niet alleen in boeken kijkt, maar ook actief kan handelen.

Hier is hoe TURA werkt, vertaald in een simpel verhaal:

1. De Slimme Vertaler (Intent-Aware Retrieval)

Stel je voor dat je tegen een assistent zegt: "Ik wil een reis plannen, een hotel boeken en het weer checken."
Een oude AI zou misschien proberen één groot antwoord te vinden in één boek. TURA denkt echter: "Wacht, dit is te ingewikkeld voor één boek. Laten we dit opsplitsen."

TURA breekt je vraag op in kleine, duidelijke stukjes:

• Deel 1: Wat is het weer in Peking?
• Deel 2: Welke hotels zijn er beschikbaar?
• Deel 3: Welke bezienswaardigheden zijn er?

Vervolgens kijkt TURA niet alleen naar boeken, maar naar een grote toolbox met speciale apparaten (API's). Het zoekt de juiste "apparaatjes" uit om elk stukje van je vraag op te lossen.

2. De Meester-Regisseur (DAG-based Task Planner)

Nu heeft TURA een lijst met taken en de juiste apparaten. Maar hoe voert hij ze uit?
Als je alles één voor één doet, duurt het lang. TURA is echter slim genoeg om te zien wat parallel kan.

Stel je voor dat TURA een regisseur is op een filmset. Hij ziet dat de acteur die het weer moet checken en de acteur die het hotel moet zoeken, elkaar niet nodig hebben. Ze kunnen tegelijkertijd werken!
TURA tekent een stroomdiagram (een soort visueel plan) dat laat zien welke taken afhankelijk zijn van elkaar en welke niet.

• Voorbeeld: Je kunt het weer checken terwijl je het hotel zoekt. Maar je kunt pas een route plannen nadat je het hotel en de bezienswaardigheden weet.
  TURA zorgt ervoor dat de onafhankelijke taken tegelijk gebeuren, waardoor het antwoord veel sneller komt.

3. De Getrainde Vlieger (Distilled Agent Executor)

Normaal gesproken zou een super-slimme AI (zoals een gigantische robot) nodig zijn om al deze taken uit te voeren. Maar die robots zijn traag en duur om te laten werken.

TURA gebruikt een slimme truc: distillatie.
Stel je voor dat je een meesterkok hebt die heel goed kan koken, maar heel langzaam werkt. Je wilt dat hij zijn kennis overdraagt aan een jonge, snelle leerling.

• De meesterkok (de grote AI) doet het werk en denkt hard na: "Eerst doe ik dit, dan dat, en waarom doe ik dat zo?"
• De leerling (de kleine AI) kijkt mee en leert van de gedachten van de meester.
• De truc: Als de leerling later zelf aan het werk gaat, hoeft hij niet meer hard na te denken. Hij weet instinctief wat hij moet doen en voert de actie direct uit.

Hierdoor is TURA even slim als de grote robot, maar veel sneller en goedkoper.

Waarom is dit belangrijk?

Vroeger konden zoekmachines alleen antwoorden geven op basis van wat er al op internet stond (statische informatie). TURA verandert de zoekmachine in een actieve assistent die:

• Echt live data kan ophalen (zoals treinkaartjes, voorraad in een winkel, of de actuele beurskoers).
• Complexe taken kan uitvoeren die meerdere stappen vereisen.
• Het antwoord binnen een fractie van een seconde geeft, zodat je niet hoeft te wachten.

Kortom: TURA is de evolutie van de zoekmachine. Het is de overstap van een "bibliothecaris die alleen boeken leest" naar een "super-assistent die ook de telefoon pakt, boekt, checkt en direct actie onderneemt."

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "TURA: Tool-Augmented Unified Retrieval Agent for AI Search" in het Nederlands.

Probleemstelling

De opkomst van Large Language Models (LLMs) heeft zoekmachines getransformeerd naar conversational AI, voornamelijk gebaseerd op Retrieval-Augmented Generation (RAG). Hoewel traditionele RAG-systemen uitstekend presteren bij het zoeken in statische, vooraf geïndexeerde webdocumenten, hebben ze fundamentele beperkingen in industriële omgevingen:

1. Gebrek aan real-time interactie: Ze kunnen geen dynamische, real-time informatie ophalen die niet op statische pagina's staat, zoals ticketbeschikbaarheid, voorraadniveaus of vluchtschema's.
2. Passieve aard: Traditionele systemen vertrouwen op het "retrieven" van bestaande tekst en missen de capaciteit om actief interacties met API's of databases uit te voeren om antwoorden te genereren.
3. Latentie en complexiteit: Bestaande agent-architecturen voor tool-gebruik zijn vaak traag, niet goed schaalbaar en missen een gestructureerde aanpak voor het plannen van complexe, multi-stap taken met afhankelijke data.

Het paper introduceert TURA (Tool-Augmented Unified Retrieval Agent for AI Search) om de kloof te overbruggen tussen statische documentretrieval en dynamische, real-time data-access via tools.

Methodologie

TURA is een innovatief, drie-staps agentiek framework dat RAG combineert met agentic tool-use. Het systeem behandelt zowel statische zoekopdrachten als dynamische transacties als een unificatie van MCP-servers (Model Context Protocol Servers).

De architectuur bestaat uit drie kernmodules:

1. Intent-Aware MCP Server Retrieval (Intent-bewuste Server Retrieval)

Deze module fungeert als een filter om de juiste tools (servers) te selecteren voor een gebruikersvraag.

• Query Decompositie: Complexe vragen worden door een LLM opgesplitst in atomische sub-vragen (bijv. "zoek weer" en "boek trein").
• Semantische Index Augmentatie: Om de "lexicale kloof" tussen natuurlijke taal en API-documentatie te overbruggen, worden synthetische query's gegenereerd voor elke server. Dit creëert een rijkere semantische weergave.
• Dense Vector Retrieval: Er wordt gebruikgemaakt van multi-vector embeddings en een MaxSim-strategie om de meest relevante servers te vinden voor elke sub-vraag.
• Score Aggregatie: Scores van alle sub-vragen worden geaggregeerd om een hoog-recall set van kandidaat-servers te selecteren.

2. DAG-based Task Planner (Opdrachtplanner op basis van DAG)

Deze module plant de uitvoering van de geselecteerde tools.

• DAG-structuur: In plaats van lineaire uitvoering, worden taken gemodelleerd als een Directed Acyclic Graph (DAG).
• Parallelisatie: De planner identificeert afhankelijkheden tussen taken. Onafhankelijke taken (bijv. weerchecken en hotel zoeken) worden parallel uitgevoerd, terwijl afhankelijke taken (bijv. routeplanning die de hotellocatie nodig heeft) sequentieel worden uitgevoerd.
• Doel: Dit minimaliseert de totale latentie (vertraging) bij complexe, multi-hop vragen zonder de uitvoeringssuccesrate te verlagen.

3. Distilled Agent Executor (Gedistilleerde Agent Uitvoerder)

Om de inferentie-tijd te verlagen in productieomgevingen, wordt geen zware LLM gebruikt voor de feitelijke tool-aanroepen.

• Traject Synthese: Een krachtige "teacher" LLM (Deepseek-V3) genereert expert-uitvoeringstrajecten (ReAct-stijl: Observatie -> Redenering -> Actie).
• Data Curation: Deze trajecten worden gefilterd op correctheid en efficiëntie om een hoogwaardig dataset te creëren.
• Mixed-Rationale SFT: Een kleiner model (Qwen3-serie) wordt getraind op deze data met een "train-with-thought, infer-without-thought" strategie. Het model leert de redenering tijdens het trainen, maar genereert tijdens de inferentie direct de actie, wat de latentie drastisch verlaagt.

Belangrijkste Bijdragen

1. Unificatie van Static en Dynamic: TURA is de eerste architectuur die statische RAG en dynamische tool-use systematisch verenigt binnen één framework (via MCP-servers) voor AI-zoekopdrachten.
2. Nieuwe Architectuur: Een drie-staps systeem dat intent-aware retrieval, DAG-gebaseerde parallelle planning en een gedistilleerde, low-latency executor combineert.
3. MCP-Bench: De auteurs hebben een uitgebreid benchmark gelanceerd, gebaseerd op geanonimiseerde productie-logboeken van Baidu, met expert-annotaties voor diverse statische-dynamische scenario's.
4. Industriële Validatie: Het paper presenteert de eerste grootschalige industriële validatie van een dergelijk systeem, live ingezet bij miljoenen gebruikers.

Resultaten

De prestaties van TURA zijn geëvalueerd via offline benchmarks (MCP-Bench) en online A/B-tests in de productieomgeving van Baidu.

• Offline Performance (MCP-Bench):

  • TURA behaalde een 87,5% nauwkeurigheid (Human eval) en 96,2% faithfulness, wat aanzienlijk hoger is dan sterke baselines zoals LLM + RAG (65,3% nauwkeurigheid) en Dynamic RAG.
  • De faithfulness-verbetering is cruciaal: TURA hallucineert minder omdat het antwoorden baseert op geverifieerde tool-output in plaats van statische tekst.

• Online A/B Test Resultaten:

  • Sessie Succes Rate (SSR): Een stijging van 55,1% naar 64,0% (+8,9%).
  • Klanttevredenheid: In head-to-head vergelijkingen werd TURA in 86% van de gevallen als "Satisfactory" beoordeeld en in 13% als "Good" (strikt beter dan de baseline), met slechts 4% "Bad" ratings.
  • Probleemreductie: Het totaal aantal problemen (zoals onjuiste treindata of weervoorspellingen) nam af met 16,7%.

• Efficiëntie van Distillation:

  • Gedistilleerde modellen (bijv. Qwen3-4B Distilled) bereikten 88,3% tool-calling nauwkeurigheid, wat hoger is dan de teacher (Deepseek-V3, 82,4%) en GPT-4o (81,7%).
  • Tegelijkertijd daalde de latentie (P80) van 2.200ms (base model) naar 750ms, een reductie van 66%.

Betekenis en Impact

TURA markeert een paradigmaverschuiving in AI-zoekopdrachten: van passieve informatie-ophaal naar actieve, tool-gestuurde probleemoplossing.

• Industriële Toepasbaarheid: Het bewijst dat complexe, real-time taken (zoals het boeken van treinkaartjes of het controleren van voorraad) betrouwbaar en snel kunnen worden opgelost door LLM's, mits ze zijn uitgerust met een gestructureerd agentiek framework.
• Schaalbaarheid: Door het gebruik van gedistilleerde modellen en DAG-gebaseerde parallelisatie, voldoet het systeem aan de strikte latentie-eisen van een wereldwijde zoekmachine met tientallen miljoenen gebruikers.
• Toekomstvisie: Het werk biedt een blauwdruk voor de volgende generatie conversational AI, waarbij heterogene databronnen (web, databases, APIs) naadloos worden geïntegreerd voor robuuste en schaalbare industriële producten.