🤖 AI

Next-Gen Sponsored Search: Crafting the Perfect Query with Inventory-Aware RAG (InvAwr-RAG) Based GenAI

Dieses Paper stellt InvAwr-RAG vor, ein auf Inventory-Aware RAG basierendes generatives KI-Modell, das die gesponserte Suche optimiert, indem es dynamisch relevante Suchanfragen generiert, die auf den Echtzeit-Werbebestand abgestimmt sind, was zu einer Steigerung der Fill Rate um 68 % sowie einer verbesserten Umsatzgenerierung und Nutzererfahrung auf der Walmart-Plattform führt.

Ursprüngliche Autoren: Md Omar Faruk Rokon, Weizhi Du, Zhaodong Wang, Musen Wen

Veröffentlicht 2026-07-07

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Md Omar Faruk Rokon, Weizhi Du, Zhaodong Wang, Musen Wen

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie gehen durch einen riesigen, belebten digitalen Supermarkt (wie die Website von Walmart). In Ihrem Geist nehmen Sie ein Produkt in die Hand und rufen eine Frage in den Laden: "Ich brauche etwas für ein Picknick an einem Regentag!"

In einer perfekten Welt würde der Filialleiter sofort zurückrufen: "Großartig! Wir haben Regenschirme, Regenmäntel und wasserfeste Decken genau hier!" und Ihnen Werbung für diese Artikel anzeigen.

Doch in der Realität passiert das oft nicht. Da sich der Bestand des Ladens jede Sekunde ändert und Menschen Fragen auf seltsame oder vage Weise stellen, sagt der Manager manchmal nur: "Tut uns leid, wir haben nichts dafür", obwohl er eigentlich Tausende von Artikeln hat, die perfekt passen könnten. Das Papier bezeichnet dies als das „13 %-Problem“ – 13 von 100 Suchanfragen führen zu null Anzeigen, was bedeutet, dass der Laden Geld verliert und Sie die Chance entgeht, coole Produkte zu finden.

Das Problem: Der Moment des „Übersetzungsfehlers“

Die Autoren erklären, dass aktuelle Computersysteme wie starre Bibliothekare sind. Wenn Sie nach „Regen-Picknick-Ausrüstung“ fragen und die Datenbank unter „Regenausrüstung“ nur „Regenschirme“ gelistet hat, übersieht der Bibliothekar vielleicht die Verbindung. Oder selbst wenn er eine Übereinstimmung findet, weiß er vielleicht nicht, ob der Laden genau jetzt Vorräte hat oder ob die Werbetreibenden gerade bereit sind, für die Anzeige zu bezahlen.

Das Ergebnis? Sie erhalten eine leere Seite, und der Laden verliert einen Verkauf.

Die Lösung: Der „Smart Shopper“-Assistent (InvAwr-RAG)

Um dies zu beheben, hat das Team bei Walmart ein neues KI-System namens InvAwr-RAG entwickelt. Stellen Sie sich dieses System wie einen superintelligenten, Echtzeit-persönlichen Einkaufsassistenten vor, der zwei besondere Superkräfte besitzt:

Das „Live-Inventar“-Radar: Im Gegensatz zu alten Systemen, die nur raten, hat dieser Assistent eine direkte Leitung zum Lager. Er weiß genau, was sich in dieser Sekunde im Regal befindet und welche Werbetreibenden gerade bereit sind, für die Anzeige ihrer Produkte zu bezahlen.
Der „Sprachübersetzer“ (Generative KI): Wenn Sie eine vage Frage stellen, sagt dieser Assistent nicht einfach „nein“. Er schreibt Ihre Frage schnell in ein paar verschiedene, klarere Versionen um, die garantiert mit dem übereinstimmen, was tatsächlich vorrätig ist.

Wie es funktioniert: Ein Schritt-für-Schritt-Tanz

Das Paper beschreibt einen sechsstufigen Prozess, der in einem Wimpernschlag abläuft:

Der Check-in: Das System sieht sich Ihre Frage an. Wenn es erkennt, dass Sie nach etwas fragen, das normalerweise keine Ergebnisse liefert (wie in unserem Beispiel mit dem „Regen-Picknick“), markiert es dies für besondere Hilfe.
Die Aufklärungsmission: Das System scannt sofort das „Live-Inventar“ (die Vektordatenbank), um die 20 besten Artikel zu finden, die tatsächlich verfügbar und relevant sind.
Der Prompt: Es nimmt Ihre ursprüngliche Frage und mischt sie mit den Beschreibungen dieser 20 Artikel. Es ist, als würde der Assistent einem kreativen Autor zuflüstern: "Hey, der Nutzer möchte Picknick-Ausrüstung für Regen, und wir haben diese spezifischen Regenschirme und Decken. Schreibe 5 neue Wege, wie man nach diesen Artikeln fragen kann."
Das Umschreiben: Eine leistungsstarke KI (eine fein abgestimmte Version von Llama2) generiert 5 neue, clevere Variationen Ihrer Frage. Anstatt nur „Regen-Picknick“ zu sagen, könnte sie generieren: "beste wasserfeste Decken für Mahlzeiten im Freien" oder "kompakte Regenschirme für Familienpicknicks".
Der „Crowd Wisdom“-Check: Das System vertraut nicht einfach der KI. Es schaut auch in die historischen Protokolle des Ladens, um zu sehen, was echte Menschen in der Vergangenheit gesucht haben, was gut funktioniert hat. Es mischt die neuen Ideen der KI mit diesen bewährten, populären Suchbegriffen.
Der finale Abgleich: Es nimmt all diese neu umgeschriebenen Fragen und lässt sie durch einen strengen Filter laufen, um sicherzustellen, dass nur Anzeigen gezeigt werden, die hochgradig relevant und tatsächlich verfügbar sind.

Die Ergebnisse: Aus „Nichts“ ein „Etwas“ machen

Das Paper testete dieses System an 10.000 Suchanfragen, die zuvor eine Erfolgsquote von 0 % hatten (das heißt, sie zeigten niemals eine Anzeige).

Vorher: 0 % dieser Suchanfragen zeigten eine Anzeige.
Mit der neuen KI: 68 % dieser Suchanfragen zeigen nun erfolgreich relevante Anzeigen.

Um es in Perspektive zu setzen: Wenn Sie einen Zauberstab hätten, der 68 von 100 „Sackgassen“ in erfolgreiche Shopping-Touren verwandelt, wäre das ein riesiger Gewinn. Das Paper stellt auch fest, dass dieses System besser abschnitt als eine sehr berühmte, allgemeine KI (GPT-4), die nur eine Erfolgsquote von 53 % erreichte. Dies beweist, dass das Training der KI speziell auf Walmarts Inventar und Einkaufsgewohnheiten sie für diese spezifische Aufgabe viel intelligenter macht.

Warum es wichtig ist

Die Autoren behaupten, dass es nicht nur darum geht, mehr Anzeigen zu zeigen, sondern das Einkaufserlebnis zu verbessern.

Für Sie (den Kunden): Sie stoßen nicht mehr auf Sackgassen. Sie sehen Produkte, die Ihnen tatsächlich gefallen könnten, selbst wenn Sie nicht genau wussten, wie man sie benennt.
Für den Laden (Walmart): Sie hören auf, durch leere Suchergebnisse Geld zu verlieren. Das Paper deutet darauf hin, dass dies in den nächsten fünf Jahren zu Milliarden an zusätzlichem Umsatz führen könnte.
Für Werbetreibende: Ihre Produkte werden von Menschen gesehen, die tatsächlich danach suchen, was ihnen eine bessere Rendite für ihre Investitionen ermöglicht.

Kurz gesagt: Das InvAwr-RAG-Modell ist wie ein Filialleiter, der eine Live-Karte des Lagers besitzt und einen Übersetzer, der jeden Dialekt der „Shopping-Sprache“ spricht, damit kein Kunde jemals wieder mit leeren Händen nach Hause geht.

Technisches Resümee: Inventarbewusstes RAG-basiertes Generatives KI-System für Sponsored Search

1. Problemstellung

Sponsored Search ist ein primärer Umsatztreiber für E-Commerce-Plattformen wie Walmart, doch es besteht eine erhebliche Ineffizienz: Ungefähr 13 % der Nutzer-Suchanfragen führen zu keiner Anzeige von gesponserten Produktanzeigen. Dieses „Zero-Fill“-Phänomen resultiert aus einer Diskrepanz zwischen Nutzeranfragen, der riesigen und sich ständig entwickelnden Keyword-Landschaft und Echtzeit-Inventarbeschränkungen.

Aktuelle Lösungen lassen sich im Wesentlichen in zwei Kategorien unterteilen:

Information Retrieval (IR): Methoden wie Dense Retrieval (ANCE, RocketQA) nutzen Deep Learning, um Anfragen und Keywords abzugleichen, lassen jedoch oft eine Echtzeit-Synchronisation mit dem Inventar vermissen.
Natural Language Generation (NLG): Modelle wie CLOVER und ProphetNet-Ads generieren Keyword-Variationen, vernachlässigen dabei jedoch häufig dynamische Inventardaten und spezifische Gebotsstrategien von Werbekampagnen.

Die Kernherausforderung ist zweifach: die Verbesserung der Relevanz von Anzeigenplatzierungen zur Abstimmung auf verfügbares Inventar und Werbebudgets bei gleichzeitiger Aufrechterhaltung einer hochwertigen Nutzererfahrung durch die Präsentation von Anzeigen, die als relevant wahrgenommen werden. Die Unfähigkeit, diese Diskrepanzen aufzulösen, führt zu erheblichen Umsatzverlusten und verpassten Möglichkeiten für das Kundenengagement.

2. Methodik: InvAwr-RAG

Die Autoren schlagen das Inventory-Aware RAG-based Generative AI Modell (InvAwr-RAG) vor, ein System, das darauf ausgelegt ist, Nutzeranfragen in Echtzeit dynamisch umzuschreiben, um sie mit dem verfügbaren Inventar und den Werbekampagnen in Einklang zu bringen. Die Methodik besteht aus vier primären Phasen:

2.1. Datenvorbereitung

Two-Tower BERT Datensatz: Anfragen werden mit Produkttiteln und Relevanzwerten gepaart und durch menschliche Annotationen ergänzt, um semantische Beziehungen zu erfassen.
Suchlog-Analyse: Populäre Suchanfragen werden basierend auf Häufigkeit und Anzeigenimpressionen identifiziert, um die RAG-Komponente zu leiten.
Sammlung umgeschriebener Anfragen: Das System kuratiert einen Datensatz erfolgreicher Query-Rewrites. Konkret wurden Anfragen ausgewählt, die über einen Zeitraum von sechs Monaten mindestens 500 Klicks auf dieselben Artikel generierten. Diese wurden von menschlichen Evaluatoren streng gefiltert, um Einzigartigkeit und distinkte Alternativen vor dem Training des Query-Rewrite-LLMs sicherzustellen.

2.2. Modellarchitektur

Die Architektur integriert eine Retrieval-Komponente mit einer generativen Komponente:

Two-Tower BERT: Diese Komponente verarbeitet Nutzeranfragen und Produkttitel separat mittels distinkter Encoder, um Embeddings ( $U$ und $V$ ) zu generieren. Die Kosinus-Ähnlichkeit wird verwendet, um die Qualität des Abgleichs zu bewerten und das Modell darauf zu trainieren, Produkte zu identifizieren, die am relevantesten für eine Anfrage sind.
Query Rewrite LLM (LoRA Fine-tuning): Basierend auf Llama2 7B wird das Modell mittels Low-Rank Adaptation (LoRA) feinjustiert. Dieser Ansatz führt Low-Rank-Matrizen ( $A$ und $B$ ) in die Gewichtmatrizen ein, was eine effiziente, gezielte Anpassung an die Domäne des Sponsored Search ermöglicht, ohne das gesamte Modell neu trainieren zu müssen. Das Modell lernt, kontextuell relevante, inventarbewusste Query-Rewrites zu generieren.

2.3. Retrieval-Augmented Generation (RAG) Pipeline

Das End-to-End-System operiert durch eine sechsstufige Pipeline (Abbildung 3):

Query Classifier: Ein regelbasierter Klassifizierer identifiziert unterperformende Anfragen (z. B. niedrige Click-Through-Rates) und leitet sie an die Rewriting-Pipeline weiter.
Dynamische Inventar-Abfrage (Dynamic Inventory Retrieval): Das System ruft die obersten $N=20$ Inventarartikel aus einer Vektordatenbank basierend auf der Kosinus-Ähnlichkeit zur Anfrage ab, um sicherzustellen, dass Budgetbeschränkungen eingehalten werden.
Prompt-Vorbereitung: Prompts werden konstruiert, indem die ursprüngliche Nutzeranfrage mit Beschreibungen der abgerufenen Top-Artikel kombiniert wird (Abbildung 4).
LLM Rewriting: Das feinjustierte LLM generiert diverse, relevante umgeschriebene Anfragen, die mit dem verfügbaren Inventar verknüpft sind.
Integration populärer Anfragen: Das System ruft historisch erfolgreiche Anfragen aus den Suchprotokollen ab, die den LLM-Ausgaben ähneln, um die Vorschläge mit bewährten Suchmustern anzureichern.
Zusammenführung und finale Abfrage: Die $K=5$ umgeschriebenen Anfragen werden mit den populären historischen Anfragen zusammengeführt. Ein Cross-Encoder-BERT-Modell bewertet die Relevanz der resultierenden Werbeartikel und filtert diejenigen heraus, die vordefinierte Relevanzschwellenwerte erfüllen.

2.4. Parameterwahl

$N=20$ Artikel: Gewählt, um ein Gleichgewicht zwischen Diversität und Spezifität zu schaffen, wodurch das Nutzerengagement maximiert wird, ohne Entscheidungsermüdung zu verursachen, während gleichzeitig die Recheneffizienz gewahrt bleibt.
$K=5$ umgeschriebene Anfragen: Gewählt, um eine ausreichende linguistische Variation zu bieten, um die Nutzerintention zu erfassen, während Präzision und Fokus beibehalten werden.

3. Zentrale Beiträge

Das Paper hebt fünf primäre Innovationen hervor:

Robuste dynamische Query-Umschreibung: Ein Modell, das Anfragen anpasst, um sie mit dem Echtzeit-Inventar und Geboten in Einklang zu bringen, wodurch zuvor nicht erfüllbare Suchen in Werbemöglichkeiten umgewandelt werden.
Echtzeit-Datenintegration: Das System integriert Live-Inventar- und Gebotsdaten, um sicherzustellen, dass jede Suche zu einer relevanten Anzeigenanzeige führen kann.
Hybride Query-Generierung: Ein einzigartiger Ansatz, der KI-generierte Anfragen mit historisch erfolgreichen Anfragen kombert, um Frische mit Zuverlässigkeit zu balancieren.
Duale Optimierung: Verbessert gleichzeitig die Nutzererfahrung (durch relevante Vorschläge) und den ROI der Werbetreibenden (durch maximierte Produkt-Sichtbarkeit).
Skalierbarkeit: Die Verwendung fortschrittlicher Datenverarbeitung und LLM-Adaptivität stellt sicher, dass die Lösung mit der Marktdynamik evolvieren kann.

4. Ergebnisse

Die Autoren führten eine Offline-Evaluierung auf einem Datensatz von 10.000 Anfragen mit einer historischen Fill Rate von 0 % durch.

Fill Rate: Das InvAwr-RAG-Modell erreichte eine Fill Rate von 68 % bei diesem anspruchsvollen Datensatz. Im Vergleich dazu erreichte ein Basis-GPT-4-Modell (ohsten spezifischen Retail-Fine-Tuning) eine Fill Rate von 53 %.
Relevanz (NDCG@8): Unter Verwendung von Normalized Discounted Cumulative Gain bei einem Cutoff von 8 erzielte InvAwr-RAG einen Wert von 0,6847 und übertraf damit GPT-4 (0,6458) und die Baseline (0).
Evaluationsmethode: Diese Metriken wurden durch externe menschliche Evaluatoren validiert, die die Top-8-Artikel bewerteten, die von jedem Modell zurückgegeben wurden.

Das Paper merkt an, dass dies vorläufige Offline-Ergebnisse sind und A/B-Tests geplant sind, um die Live-Auswirkungen auf Fill Rate, Click-Through-Rate (CTR), Conversion Rate und Umsatz zu messen.

5. Bedeutung und Ansprüche

Das Paper positioniert InvAwr-RAG als neuen Standard für die dynamische Query-Optimierung im Bereich Sponsored Search. Die Autoren behaupten, dass das Modell eine kritische Lücke schließt, in der bestehende IR- und NLG-Methoden die Synchronisation mit dynamischem Inventar vernachlässigen, was zu verschwendetem Anzeigeninventar und einer schlechten Nutzererfahrung führt.

Umsatzpotenzial: Die Autoren prognostizieren, dass die Fähigkeit des Modells, Zero-Fill-Anfragen zu konvertieren, zu einer Steigerung der anzeigenbezogenen Umsätze von bis zu 1 Milliarde US-Dollar über die nächsten fünf Jahre führen kann.
Strategische Wirkung: Indem das System sicherstellt, dass etwa 13 % der zuvor nicht monetarisierten Suchen nun relevante Anzeigen anzeigen können, verbessert es signifikant die Anzeigenrelevanz, den ROI der Werbetreibenden und das gesamte Einkaufserlebnis auf der digitalen Plattform von Walmart.
Zukünftige Arbeit: Die Autoren geben an, dass sich zukünftige Bemühungen auf die Verfeinerung des Verständnisses der Nutzerintention, die Erweiterung der Anwendbarkeit auf diverse Produktkategorien und die Verbesserung der Skalierbarkeit bei wachsendem Inventar und Nutzerbasis konzentrieren werden.