Towards AI Search Paradigm

Dit artikel introduceert het 'AI Search Paradigm', een modulaire blauwdruk voor next-generation zoeksystemen die vier LLM-agenten inzetten om menselijke informatieverwerking na te bootsen en complexe zoekopdrachten via dynamische samenwerking en geavanceerde methoden te verwerken.

De kern

Stel je voor dat je een zoekmachine gebruikt die niet alleen een lijst met links teruggeeft, maar als een slimme, persoonlijke assistent optreedt die het antwoord voor je uitzoekt, net zoals een mens dat zou doen.

Dit is wat het paper van Baidu Search introduceert: het AI Search Paradigma. In plaats van een statische machine te zijn, is dit systeem een team van vier digitale experts die samenwerken om complexe vragen te beantwoorden.

Hier is een uitleg in gewone taal, met een paar creatieve vergelijkingen:

1. Het Team: Vier Digitale Specialisten

Stel je voor dat je een groot, complex project moet oplossen. Je zou niet één persoon alles laten doen; je zou een team samenstellen. Dit AI-systeem doet precies dat met vier 'agenten' (AI-robots):

• De Master (De Manager):
  • Wat doet hij? Hij is de eerste die je spreekt. Hij kijkt naar je vraag en denkt: "Is dit simpel of moeilijk?"
  • De analogie: Hij is als een restaurantmanager. Als je vraagt om een glas water, roept hij direct de ober (de schrijver) om het te brengen. Maar als je een ingewikkeld diner wilt met vijf gangen, roept hij de chef-kok, de sous-chef en de serveerders om een plan te maken. Hij beslist welk team nodig is.
• De Planner (De Architect):
  • Wat doet hij? Hij breekt grote, moeilijke vragen op in kleine, haalbare stapjes.
  • De analogie: Stel je vraagt: "Wie was ouder: Keizer Wu van Han of Julius Caesar, en hoeveel jaar?" Een oude zoekmachine zou proberen één antwoord te vinden. De Planner ziet dat dit niet in één document staat. Hij tekent een bouwplan (een DAG). Stap 1: Zoek de geboortedatum van Keizer Wu. Stap 2: Zoek de geboortedatum van Caesar. Stap 3: Reken het verschil uit. Hij zorgt dat alles logisch op elkaar aansluit.
• De Executor (De Uitvoerder):
  • Wat doet hij? Hij voert de taken uit. Hij gebruikt tools zoals een webbrowser, een rekenmachine of een programmeertaal.
  • De analogie: Hij is de bouwvakker die het plan van de architect uitvoert. Hij gaat naar de bibliotheek (het internet), pakt de boeken, leest de pagina's en gebruikt de rekenmachine. Als hij merkt dat een boek onbetrouwbaar is, zoekt hij een ander boek. Hij is niet bang om meerdere keren te zoeken tot hij het juiste antwoord heeft.
• De Writer (De Schrijver):
  • Wat doet hij? Hij neemt alle informatie die de uitvoerder heeft verzameld en schrijft een mooi, duidelijk en samenhangend antwoord voor jou.
  • De analogie: Hij is de journalist die alle interviews en feiten samenvat tot één goed verhaal. Hij zorgt dat het antwoord niet alleen correct is, maar ook makkelijk te lezen en zonder tegenstrijdigheden.

2. Waarom is dit beter dan de oude manier?

Vroeger werkte een zoekmachine als een automatiek: je gooide een munt in (je vraag), en hij gaf je een lijst met producten (links) terug. Jij moest zelf de producten uitpakken, lezen en samenvatten.

Soms werkte dit goed (bij simpele vragen: "Hoe hoog is de Eiffeltoren?"). Maar bij moeilijke vragen (zoals de vergelijking tussen de twee keizers) faalde de automatiek. Hij kon niet "nadenken" of stappen zetten.

Het nieuwe systeem is als een detektive:

1. Hij hoort de vraag.
2. Hij bedenkt een plan.
3. Hij verzamelt bewijs (via het internet).
4. Hij controleert of het bewijs klopt.
5. Hij schrijft het rapport.

3. Hoe leren ze dit? (De "Training")

De auteurs beschrijven ook hoe ze deze AI's slim maken:

• Oefenen met fouten: Ze laten de AI's oefenen met moeilijke situaties, zelfs met nep-informatie, zodat ze leren om nepnieuws te herkennen en niet in de val te trappen.
• Samenwerken: De verschillende robots leren van elkaar. Als de Planner een slecht plan maakt, krijgt hij een "strafje". Als de Schrijver een goed antwoord geeft, krijgt hij een "beloning". Zo leren ze samen steeds beter te werken.
• Snelheid: Omdat AI's soms traag en duur zijn, hebben ze ook technieken ontwikkeld om ze sneller en lichter te maken (zoals het "opslaan" van antwoorden op vragen die al eerder zijn gesteld, zodat ze niet opnieuw hoeven te rekenen).

4. Wat is het resultaat?

In tests met echte gebruikers bleek dit nieuwe systeem veel beter te zijn dan de oude zoekmachine, vooral bij moeilijke vragen.

• Mensen waren tevredener.
• Mensen klikten vaker op de resultaten.
• Mensen bleven langer op de site (omdat het antwoord zo goed was).

Samenvattend

Dit paper beschrijft de toekomst van zoeken. Het gaat niet meer om het vinden van een link, maar om het oplossen van een probleem. Het is alsof je van een kaartenkast (oude zoekmachine) overstapt op een slimme, meedenkende assistent die voor jou het werk doet, van het plannen tot het schrijven van het eindresultaat.

Technische samenvatting

Probleemstelling

Traditionele zoeksystemen en zelfs geavanceerde Retrieval-Augmented Generation (RAG) systemen kampen met fundamentele beperkingen bij het hanteren van complexe, meerstaps zoekopdrachten.

• Beperkte Redenering: Bestaande systemen volgen vaak een lineaire "retrieven-then-genereren" pipeline. Ze falen bij queries die diepe redenering, het oplossen van tegenstrijdige informatie of het uitvoeren van berekeningen vereisen (bijv. "Wie was ouder, Keizer Wu van Han of Julius Caesar, en met hoeveel jaar?").
• Statische Architectuur: Traditionele systemen gebruiken statische query-interpretatie en vaste verwerkingspijplijnen, wat leidt tot onvolledige informatie of hallucinaties wanneer externe tools of multi-stap logica nodig zijn.
• Mogelijkheidsgrenzen: Zonder dynamische aanpassing van hulpmiddelen (zoals rekenmachines, zoekmachines of programmeertools) kunnen LLM's complexe taken niet effectief oplossen.

Methodologie: Het AI Search Paradigma

Het paper introduceert een nieuw paradigma gebaseerd op een modulaire, multi-agent architectuur die menselijke informatiezoekgedrag nabootst. Het systeem bestaat uit vier gespecialiseerde agents die dynamisch samenwerken:

1. Master Agent:

   • Functie: Het coördinatiepunt. Analyseert de complexiteit en intentie van de query.
   • Actie: Selecteert dynamisch de juiste teamconfiguratie (bijv. alleen Writer voor simpele vragen, of Planner + Executor + Writer voor complexe taken).
   • Monitoring: Evalueert voortdurend de prestaties van ondergeschikte agents en initieert herplanning bij fouten.

2. Planner Agent:

   • Functie: Ontleedt complexe queries in gestructureerde sub-taken.
   • Methode: Genereert een Directed Acyclic Graph (DAG) van sub-taken met expliciete afhankelijkheden.
   • Tooling: Selecteert dynamisch de juiste tools via het Model-Context Protocol (MCP) om de "capability boundary" van de LLM uit te breiden.
   • Optimisatie: Gebruikt Reinforcement Learning (RL) met een rule-based reward functie (gebaseerd op eindantwoord, gebruikersfeedback, opmaak en uitvoeringssucces) om de planning te verbeteren.

3. Executor Agent:

   • Functie: Voert de specifieke sub-taken uit door aangewezen tools aan te roepen.
   • Strategie: Implementeert een lightweight retrieval en ranking systeem dat is afgestemd op de voorkeuren van de LLM (in plaats van menselijke heuristieken).
   • Robuustheid: Bevat mechanismen voor fallback bij tool-fouten en continue evaluatie van de verkregen informatie.

4. Writer Agent:

   • Functie: Synthetiseert de resultaten van alle sub-taken tot een coherent, contextueel rijk antwoord.
   • Focus: Filtert redundantie, disambigueert informatie en zorgt voor correcte citaties.

Kerntechnieken en Optimalisaties:

• Dynamische Capability Boundary: Het systeem past de set beschikbare tools dynamisch aan op basis van de query, gebruikmakend van een verfijnde tool-documentatie (via het DRAFT-framework) en tool-clustering.
• Robuuste RAG: Gebruik van Adversarial Training (ATM) met een "Attacker" en "Generator" om het systeem te trainen tegen ruis en hallucinaties.
• PA-RAG (Preference Alignment for RAG): Een methode om de generator te aligneren met RAG-eisen (informativiteit, robuustheid, citatiekwaliteit) via multi-perspectief voorkeuroptimalisatie (DPO).
• Multi-Agent Joint Optimization (MMOA-RAG): Gebruik van Multi-Agent PPO om alle modules (Planner, Executor, Writer) gezamenlijk te optimaliseren op basis van een gedeelde beloning (kwaliteit van het eindantwoord), in plaats van ze los te trainen.
• Lightweighting: Implementatie van algoritmeniveau-optimaties (lokale attention, pruning) en infrastructuur-optimaties (quantization, speculative decoding, prefill-decode scheiding) om latency te verlagen.

Belangrijkste Bijdragen

1. Conceptualisering van een Nieuw Paradigma: Een dynamisch, modulair multi-agent systeem dat afwijkt van monolithische modellen en lineaire RAG-pijplijnen.
2. Methodologie voor Agentic Search: Gedetailleerde beschrijving van geavanceerde technieken voor taakplanning (DAG-based), tool-retrieval (COLT), en dynamische herplanning.
3. Geoptimaliseerde Generatie: Innovaties in robuuste RAG (ATM), voorkeursalignatie (PA-RAG) en multi-module gezamenlijke optimalisatie (MMOA-RAG).
4. Efficiënte Inferentie: Een complete strategie voor "Lightning LLM's Generation" door zowel algoritmische als infrastructuur-optimaties toe te passen.
5. Empirische Validatie: Uitgebreide evaluaties die de superioriteit van het systeem aantonen, vooral bij complexe queries.

Resultaten

Het paper presenteert resultaten uit menselijke evaluaties, online A/B-tests en casestudies:

• Menselijke Evaluatie: Het AI Search-systeem toont significante verbeteringen ten opzichte van het legacy webzoeksysteem, met name bij moderately complex (+5%) en complex queries (+13%). Bij simpele queries presteert het gelijkwaardig.
• Online A/B Test (Baidu Search): In een live omgeving met 1% van het verkeer werden de volgende verbeteringen gemeten:
  • Dagelijkse Actieve Gebruikers (DAU): +1,85%
  • Page Views (PV): +1,04%
  • Dwell Time: +0,52%
  • Change Query Rate (CQR): -1,45% (minder gebruikers die hun query aanpassen, wat wijst op hogere tevredenheid).
• Casestudies:
  • Eenvoudige query: Beide systemen geven correcte antwoorden.
  • Complexe query: Het legacy systeem faalt bij het vergelijken van leeftijden van historische figuren omdat het geen multi-stap redenering kan uitvoeren. Het AI Search-systeem slaagt hierin door de query te ontleden, tools aan te roepen, te berekenen en het antwoord te synthetiseren.

Betekenis

Dit paper biedt een omvattende blauwdruk voor de volgende generatie zoeksystemen. Het markeert een verschuiving van passieve documentretrieval naar actieve, redenerende agenten die complexe problemen kunnen oplossen.

• Vertrouwen en Schaalbaarheid: Door de modulaire architectuur en robuuste trainingsmethoden (zoals adversarial training en multi-agent RL) worden betrouwbare en schaalbare AI-zoeksystemen mogelijk.
• Toekomstgericht: Het werk legt de basis voor onderzoek naar collaboratieve agents en naadloze tool-integratie, wat essentieel is voor het overbruggen van de kloof tussen menselijke informatiebehoeften en de huidige capaciteiten van zoekmachines.
• Industriële Toepasbaarheid: De implementatie bij Baidu Search bewijst dat deze complexe architectuur niet alleen theoretisch is, maar ook operationeel inzetbaar is met meetbare verbeteringen in gebruikerservaring en engagement.