Is Agentic RAG worth it? An experimental comparison of RAG approaches
Deze studie biedt empirisch onderbouwde inzichten en praktische richtlijnen voor het kiezen tussen 'Enhanced' en 'Agentic' RAG-architecturen, door hun prestaties en kosten in verschillende scenario's te vergelijken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
De Grote Vraag: Een Strakke Stroomlijn of een Slimme Detective?
Stel je voor dat je een enorm, rommelig archief hebt (zoals een bibliotheek met miljoenen boeken) en je stelt een vraag. Je wilt dat een slimme AI (de "Generator") je het antwoord geeft, maar hij mag alleen kijken in die boeken.
Er zijn twee manieren om dit te regelen:
De "Verbeterde" RAG (Enhanced RAG): Dit is als een strakke productielijn in een fabriek.
- Hoe het werkt: Elke vraag gaat door een vaste reeks machines. Eerst een machine die kijkt of het een echte vraag is. Dan een machine die de vraag herschrijft zodat hij beter past bij de boeken. Dan een machine die de boeken zoekt, en nog een die de beste boeken uitzoekt. Pas daarna gaat het naar de AI voor het antwoord.
- Voordeel: Het is snel, voorspelbaar en goedkoop.
- Nadeel: Als een vraag niet past in het schema, kan de lijn vastlopen of een fout maken. Het is "stom" maar betrouwbaar.
De "Agentische" RAG (Agentic RAG): Dit is als een slimme detective die zelf de leiding neemt.
- Hoe het werkt: De AI (de detective) krijgt de vraag en denkt na: "Moet ik hier überhaupt in de boeken kijken? Of weet ik het al? Als ik kijk, vind ik het antwoord? Zo niet, moet ik de vraag anders formuleren en nog eens kijken?"
- Voordeel: Het is extreem flexibel. Hij kan zelf beslissen om te stoppen met zoeken als hij ziet dat het zinloos is, of om een vraag te herschrijven als hij merkt dat hij de verkeerde boeken heeft gevonden.
- Nadeel: Hij denkt veel na, wat tijd kost en veel geld kost (meer rekenkracht).
Wat hebben de onderzoekers ontdekt?
De onderzoekers hebben deze twee methoden tegen elkaar getest in verschillende situaties (zoals financiële vragen, grammatica en feitenchecken). Hier zijn de belangrijkste lessen, vertaald naar simpele taal:
1. De Detective is slim, maar soms te enthousiast
- Wanneer de Detective wint: Als de vragen heel specifiek zijn (bijvoorbeeld over financiën), is de detective super. Hij snapt direct: "Ah, dit is een vraag over geld, ik ga zoeken!" of "Oh, dit is een vraag over weer, ik zoek niet in de financiële boeken." Hij is beter in het herkennen van de intentie van de gebruiker.
- Wanneer de Productielijn wint: Als de vragen heel vaag of rommelig zijn, raakt de detective in de war. Hij denkt dan soms: "Ik ga maar zoeken!" terwijl hij dat niet had moeten doen. De vaste productielijn (met een speciale filtermachine) is dan betrouwbaarder en maakt minder fouten.
2. Het herschrijven van vragen (Query Rewriting)
- Soms is een vraag van de gebruiker kort en vaag ("Hoe werkt dat?"), terwijl de boeken lange, complexe zinnen hebben.
- De Detective is hierin de winnaar. Hij kan zelf beslissen: "Ik ga deze vraag herschrijven naar een lange zin die beter past bij de boeken." Dit levert vaak betere zoekresultaten op.
- De Productielijn doet dit ook, maar dan op een vaste manier. De detective is flexibeler en past zich beter aan per vraag.
3. Het uitzoeken van de beste boeken (Reranking)
- Hier wint de Productielijn. Als de detective een stapel boeken heeft gevonden, is hij soms niet zo goed in het selecteren van alleen de allerbeste. Hij blijft soms hangen in het zoeken naar meer boeken, terwijl de productielijn (die een speciale "rangschikkingsmachine" heeft) direct de top 3 pakt.
- Tip: Als je een detective gebruikt, zou je misschien toch die rangschikkingsmachine erbij moeten nemen.
4. De prijskaartjes (Kosten en Tijd)
- Dit is het belangrijkste punt voor bedrijven: De Detective is duur.
- Omdat de detective steeds moet nadenken ("Moet ik zoeken? Moet ik herschrijven? Moet ik nog eens zoeken?"), kost hij 3 tot 4 keer meer tijd en 3 tot 4 keer meer rekenkracht dan de productielijn.
- De onderzoekers concluderen: Als je budget klein is of je wilt snelheid, kies dan de productielijn. Als je budget groot is en je wilt de allerbeste kwaliteit voor complexe vragen, kies dan de detective.
De Conclusie: Een Mix is het Beste
De onderzoekers zeggen niet dat één methode altijd beter is. Het hangt af van wat je nodig hebt.
- Gebruik de Detective (Agentic) voor het begrijpen van de vraag en het slim herschrijven ervan. Hij is de beste "manager" voor het begin van het proces.
- Gebruik de Productielijn (Enhanced) voor het daadwerkelijke zoeken en het selecteren van de beste stukjes tekst. Hij is efficiënter en goedkoper.
De beste oplossing? Een hybride systeem. Laat de detective de leiding nemen om te beslissen wat er gedaan moet worden, maar gebruik de strakke, goedkope machines van de productielijn om het zware werk (zoals het rangschikken van boeken) te doen. Zo krijg je het beste van twee werelden: de slimheid van de detective, zonder de exorbitante kosten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.