🤖 AI

Next-Gen Sponsored Search: Crafting the Perfect Query with Inventory-Aware RAG (InvAwr-RAG) Based GenAI

Dit artikel introduceert InvAwr-RAG, een Inventory-Aware RAG-gebaseerd Generatieve AI-model dat gesponsorde zoekopdrachten optimaliseert door dynamisch relevante queries te genereren die zijn afgestemd op de realtime advertentievoorraad, wat resulteert in een toename van 68% in de fill rate en verbeterde omzet en gebruikerservaring op het platform van Walmart.

Oorspronkelijke auteurs: Md Omar Faruk Rokon, Weizhi Du, Zhaodong Wang, Musen Wen

Gepubliceerd 2026-07-07

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Md Omar Faruk Rokon, Weizhi Du, Zhaodong Wang, Musen Wen

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je door een enorme, levendige digitale supermarkt loopt (zoals de website van Walmart). Je pakt in je gedachten een artikel op en roept een vraag naar de winkel: "Ik heb iets nodig voor een picknick op een regenachtige dag!"

In een perfecte wereld zou de winkelmanager direct terugroepen: "Geweldig! We hebben paraplu's, regenjassen en waterdichte dekens hier direct liggen!" en je advertenties voor die artikelen laten zien.

Maar in de werkelijkheid gebeurt dit vaak niet. Omdat de voorraad van de winkel elke seconde verandert, en omdat mensen vragen op vreemde of vage manieren stellen, zegt de manager soms alleen maar: "Sorry, we hebben niets voor dat," ook al heeft de winkel duizenden artikelen die er wel bij zouden kunnen passen. Het artikel noemt dit het "13%-probleem": 13 van de 100 zoekopdrachten resulteren in nul advertenties, wat betekent dat de winkel geld misloopt en jij kansen mist om coole producten te vinden.

Het Probleem: Het "Verloren in Vertaling"-moment

De auteurs leggen uit dat huidige computersystemen lijken op rigide bibliothecarissen. Als je vraagt om "regenachtige picknickuitrusting" en de database heeft "paraplu's" alleen onder "regenuitrusting" staan vermeld, kan de bibliothecaris de connectie missen. Of zelfs als de bibliothecaris wel een match vindt, weet hij misschien niet of de winkel op dit moment daadwerkelijk voorraad heeft of dat adverteerders op dit moment bereid zijn te betalen om die advertentie te tonen.

Het resultaat? Je krijgt een lege pagina en de winkel verliest een verkoop.

De Oplossing: De "Slimme Koper" Assistent (InvAwr-RAG)

Om dit op te lossen, heeft het team van Walmart een nieuw AI-systeem gebouwd genaamd InvAwr-RAG. Zie dit systeem als een super-slimme, real-time persoonlijke winkelassistent met twee speciale superkrachten:

De "Live Voorraad" Radar: In tegen tegenstelling tot oude systemen die alleen maar gokken, heeft deze assistent een directe lijn met het magazijn. Ze weten precies wat er op dit eigenste moment in de schappen ligt en welke adverteerders momenteel betalen om hun producten te tonen.
De "Taalvertaler" (Generatieve AI): Als je een vage vraag stelt, zegt deze assistent niet gewoon "nee". Ze herschrijven je vraag snel in een paar verschillende, duidelijkere versies die gegarandeerd overeenkomen met wat er daadwerkelijk op voorraad is.

Hoe het werkt: Een stapsgewijze dans

Het paper beschrijt een proces van zes stappen dat in een oogwenk gebeurt:

De Check-in: Het systeem kijkt naar je vraag. Als het ziet dat je iets vraagt dat normaal gesproken geen resultaten oplevert (zoals ons voorbeeld van de "regenachtige picknick"), markeert het dit voor speciale hulp.
De Verkenningsmissie: Het systeem scant direct de "live voorraad" (de vectordatabase) om de top 20 artikelen te vinden die daadwerkelijk beschikbaar en relevant zijn.
De Prompt: Het neemt je oorspronkelijke vraag en mengt deze met beschrijvingen van die 20 artikelen. Het is alsof de assistent tegen een creatieve schrijver fluistert: "Hé, de gebruiker wil picknickspullen voor regen, en we hebben deze specifieke paraplu's en dekens. Schrijf 5 nieuwe manieren om naar deze artikelen te vragen."
Het Herschrijven: Een krachtige AI (een gefinetuned versie van Llama2) genereert 5 nieuwe, slimme variaties van je vraag. In plaats van alleen "regenachtige picknick", kan het genereren: "beste waterdichte dekens voor buiten dineren" of "compacte paraplu's voor familiepicknicks."
De "Groepsintelligentie" Check: Het systeem vertrouwt niet alleen op de AI. Het kijkt ook naar de geschiedenislogs van de winkel om te zien wat echte mensen in het verleden hebben gezocht dat goed werkte. Het mengt de nieuwe ideeën van de AI met deze bewezen, populaire zoektermen.
De Definitieve Match: Het neemt al deze nieuwe, herschreven vragen en haalt ze door een strikte filter om ervoor te zorgen dat er alleen advertenties worden getoond die zeer relevant zijn en daadwerkelijk beschikbaar zijn.

De Resultaten: Van "Niets" naar "Iets"

Het team testte dit systeem op 10.000 zoekopdrachten die voorheen een succespercentage van 0% hadden (wat betekent dat ze nooit een advertentie toonden).

Voorheen: 0% van deze zoekopdrachten toonde een advertentie.
Met de nieuwe AI: 68% van die zoekopdrachten toont nu succesvol relevante advertenties.

Om het perspectief te bieden: als je een toverstaf had die 68 van de 100 "doodlopende wegen" in succesvolle winkelbezoeken veranderde, dat is een enorme winst. Het paper merkt ook op dat dit systeem beter presteerde dan een zeer beroemde, algemene AI (GPT-4), die slechts een succespercentage van 53% behaalde. Dit bewijst dat het trainen van de AI specifiek op de voorraad en de winkelgewoonten van Walmart het veel slimmer maakt voor deze specifieke taak.

Waarom het ertoe doet

De auteurs beweren dat dit niet alleen gaat over het tonen van meer advertenties; het gaat over het verbeteren van de winkelervaring.

Voor jou (de shopper): Je loopt niet langer tegen doodlopende wegen aan. Je ziet producten die je misschien echt leuk vindt, zelfs als je niet de exacte naam ervan kende.
Voor de winkel (Walmart): Ze stoppen met het verliezen van geld aan lege zoekresultaten. Het paper suggereert dat dit in de komende vijf jaar kan leiden tot miljarden aan extra omzet.
Voor adverteerders: Hun producten worden gezien door mensen die er daadwerkelijk naar op zoek zijn, wat hen een beter rendement op hun investering geeft.

Kortom, het InvAwr-RAG model is alsoals het geven van een live kaart van het magazijn aan de winkelmanager en een vertaler die elke dialect van de "winkel-taal" spreekt, zodat er geen klant ooit meer met lege handen naar huis wordt gestuurd.

Technische Samenvatting: Inventarisbewuste RAG-gebaseerde Generatieve AI voor Sponsored Search

1. Probleemstelling

Sponsored search is een primaire inkomstenbron voor e-commerceplatforms zoals Walmart, maar er bestaat een significante inefficiëntie: ongeveer 13% van de zoekopdrachten van gebruikers resulteert niet in het ophalen van gesponsorde productadvertenties. Dit "zero-fill"-fenomeen komt voort uit een mismatch tussen gebruikerszoekopdrachten, het enorme en voortdurend veranderende trefwoordlandschap en realtime voorraadbeperkingen.

Huidige oplossingen vallen over het algemeen uiteen in twee categorieën:

Information Retrieval (IR): Methoden zoals Dense Retrieval (ANCE, RocketQA) gebruiken deep learning om zoekopdrachten en trefwoorden te matchen, maar missen vaak realtime synchronisatie met de voorraad.
Natural Language Generation (NLG): Modellen zoals CLOVER en ProphetNet-Ads genereren variaties op trefwoorden, maar negeren vaak dynamische voorraadgegevens en specifieke biedstrategieën van advertentiecampagnes.

De kernuitdaging is tweeledig: het verbeteren van de relevantie van advertentieplaatsingen om aan te sluiten bij de beschikbare voorraad en de budgetten van adverteerders, terwijl tegelijkertijd een hoge kwaliteit van de gebruikerservaring wordt behouden door advertenties te presenteren die als relevant worden ervaren. Het onvermogen om deze mismatches op te lossen, resulteert in aanzienlijk inkomstenverlies en gemiste kansen voor klantbetrokkenheid.

2. Methodologie: InvAwr-RAG

De auteurs stellen het Inventory-Aware RAG-based Generative AI model (InvAwr-RAG) voor, een systeem dat ontworpen is om gebruikerszoekopdrachten in realtime dynamisch te herschrijven om aan te sluiten bij de beschikbare voorraad en advertentiecampagnes. De methodologie bestaat uit vier primaire fasen:

2.1. Datapreparatie

Two-Tower BERT Dataset: Zoekopdrachten worden gekoppeld aan producttitels en relevantiescores, verrijkt door menselijke annotatie om semantische relaties vast te leggen.
Search Log Analysis: Populaire zoekopdrachten worden geïdentificeerd op basis van frequentie en advertentie-impressies om de RAG-component te sturen.
Rewritten Query Collection: Het systeem cureert een dataset van succesvolle query-herschrijvingen. Specifiek werden zoekopdrachten die gedurende een periode van zes maanden ten minste 500 clicks op dezelfde items genereerden, geselecteerd. Deze werden strikt gefilterd door menselijke evaluatoren om uniciteit en onderscheidende alternatieven te waarborgen voordat de Query Rewrite LLM werd getraind.

2.2. Modelarchitectuur

De architectuur integreert een retrieval-component met een generatieve component:

Two-Tower BERT: Deze component verwerkt gebruikerszoekopdrachten en producttitels afzonderlijk met behulp van verschillende encoders om embeddings ( $U$ en $V$ ) te genereren. Cosinus-gelijkenis wordt gebruikt om de matchkwaliteit te evalueren, waarbij het model wordt getraind om producten te identificeren die het meest relevant zijn voor een zoekopdracht.
Query Rewrite LLM (LoRA Fine-tuning): Gebaseerd op Llama2 7B, is het model gefinetuned met behulp van Low-Rank Adaptation (LoRA). Deze aanpak introduceert low-rank matrices ( $A$ en $B$ ) in de gewichtsmatrices, wat efficiënte, gerichte adaptatie aan het domein van sponsored search mogelijk maakt zonder het gehele model opnieuw te trainen. Het model leert om contextueel relevante, inventarisbewuste query-herschrijvingen te genereren.

2.3. Retrieval-Augmented Generation (RAG) Pipeline

Het end-to-end systeem werkt via een zesstaps-pipeline (Figuur 3):

Query Classifier: Een regelgebaseerde classifier identificeert onderpresterende zoekopdrachten (bijv. lage click-through rates) en stuurt ze door naar de herschrijfpipeline.
Dynamic Inventory Retrieval: Het systeem haalt de top $N=20$ voorraaditems op uit een vectordatabase op basis van cosinus-gelijkenis met de zoekopdracht, om ervoor te zorgen dat aan budgetbeperkingen wordt voldaan.
Prompt Preparation: Prompts worden geconstrueerd door de oorspronkelijke gebruikerszoekopdracht te combineren met beschrijvingen van de opgehaalde top-items (Figuur 4).
LLM Rewriting: De gefinetunede LLM genereert diverse, relevante herschreven zoekopdrachten die gekoppeld zijn aan de beschikbare voorraad.
Popular Query Integration: Het systeem haalt historisch succesvolle zoekopdrachten op uit zoeklogs die lijken op de output van de LLM, om suggesties te verrijken met bewezen zoekpatronen.
Merging and Final Retrieval: De $K=5$ herschreven zoekopdrachten worden samengevoegd met populaire historische zoekopdrachten. Een cross-encoder BERT-model evalueert de relevantie van de resulterende advertentie-items en filtert op items die voldoen aan vooraf gedefinieerde relevantiedrempels.

2.4. Parameterselectie

$N=20$ Items: Geselecteerd om een balans te vinden tussen diversiteit en specificiteit, waardoor gebruikersbetrokkenheid wordt gemaximaliseerd zonder beslissingsmoeheid te veroorzaken, terwijl de computationele efficiëntie behouden blijft.
$K=5$ Rewritten Queries: Gekozen om voldoende linguïstische variatie te bieden om de intentie van de gebruiker te vangen, terwijl precisie en focus behouden blijven.

3. Belangrijkste Bijdragen

Het paper benadrukt vijf primaire innovaties:

Robuuste Dynamische Query Rewriting: Een model dat zoekopdrachten aanpast om aan te sluiten bij realtime voorraad en biedingen, waardoor voorheen onvervulbare zoekopdrachten worden omgezet in advertentiekansen.
Real-time Data Integratie: Het systeem integreert live voorraad- en biedgegevens om te garanderen dat elke zoekopdracht kan resulteren in een relevante advertentie-weergave.
Hybride Query Generatie: Een unieke aanpak die AI-gegenereerde zoekopdrachten combineert met historisch succesvolle zoekopdrachten om een balans te vinden tussen versheid en betrouwbaarheid.
Duale Optimalisatie: Verbetert gelijktijdig de gebruikerservaring (via relevante suggesties) en de ROI van adverteerders (via gemaximaliseerde productzichtbaarheid).
Schaalbaarheid: Het gebruik van geavanceerde dataverwerking en de aanpasbaarheid van de LLM zorgt ervoor dat de oplossing kan evolueren met de marktwerking.

4. Resultaten

De auteurs voerden een offline evaluatie uit op een dataset van 10.000 zoekopdrachten met een historische 0% fill rate.

Fill Rate: Het InvAwr-RAG-model bereikte een fill rate van 68% op deze uitdagende set. Ter vergelijking: een baseline GPT-4 model (zonder specifieke retail fine-tuning) behaalde een fill rate van 53%.
Relevantie (NDCG@8): Met behulp van Normalized Discounted Cumulative Gain bij een cutoff van 8, scoorde InvAwr-RAG 0.6847, waarmee het GPT-4 (0.6458) en de baseline (0) overtrof.
Evaluatiemethode: Deze metrieken werden gevalideerd door externe menselijke evaluatoren die de top 8 items beoordeelden die door elk model werden teruggegeven.

Het paper merkt op dat dit voorlopige offline resultaten zijn en dat er A/B-testen gepland zijn om de live impact op Fill Rate, Click-Through Rate (CTR), Conversieratio en Omzet te meten.

5. Betekenis en Claims

Het paper positioneert InvAwr-RAG als een nieuwe standaard voor dynamische query-optimalisatie in sponsored search. De auteurs beweren dat het model een kritiek gat opvult waar bestaande IR- en NLG-methoden falen door niet te synchroniseren met dynamische voorraad, wat leidt tot verspilde advertentie-inventaris en een slechte gebruikerservaring.

Omzetpotentieel: De auteurs projecteren dat het vermogen van het model om zero-fill zoekopdrachten om te zetten, kan leiden tot een stijging van de advertentie-gerelateerde omzet van tot wel $1 miljard over de komende vijf jaar.
Strategische Impact: Door ervoor te zorgen dat ongeveer 13% van de voorheen niet-gemonetiseerde zoekopdrachten nu relevante advertenties kan tonen, verbetert het systeem de advertentierelavantie, de ROI van adverteerders en de algehele winkelervaring op het digitale platform van Walmart.
Toekomstig Werk: De auteurs stellen dat toekomstige inspanningen zich zullen richten op het verfijnen van het begrip van gebruikersintentie, het uitbreiden van de toepasbaarheid naar diverse productcategorieën en het verbeteren van de schaalbaarheid naarmate de voorraad en de gebruikersbasis groeien.