Riepilogo Tecnico: IA Generativa basata su RAG con Consapevolezza dell'Inventario per la Ricerca Sponsorizzata

1. Definizione del Problema

La ricerca sponsorizzata è un driver primario di entrate per le piattaforme di e-commerce come Walmart, tuttavia esiste un'inefficienza significativa: circa il 13% delle query di ricerca degli utenti non riesce a recuperare alcun annuncio di prodotti sponsorizzati. Questo fenomeno di "zero-fill" deriva da un disallineamento tra le query degli utenti, il vasto ed evolutivo panorama delle parole chiave e i vincoli di inventario in tempo reale.

Le soluzioni attuali rientrano generalmente in due categorie:

• Information Retrieval (IR): Metodi come il Dense Retrieval (ANCE, RocketQA) utilizzano il deep learning per far corrispondere query e parole chiave, ma spesso mancano di una sincronizzazione dell'inventario in tempo reale.
• Natural Language Generation (NLG): Modelli come CLOVER e ProphetNet-Ads generano variazioni di parole chiave, ma spesso trascurano i dati dinamici di inventario e le specifiche strategie di offerta (bidding) delle campagne pubblicitarie.

La sfida principale è duplice: migliorare la rilevanza dei posizionamenti pubblicitari per allinearli all'inventario disponibile e ai budget degli inserzionisti, mantenendo al contempo un'esperienza utente di alta qualità presentando annunci che siano percepiti come pertinenti. L'incapacità di risolvere questi disallineamenti risulta in una sostanziale perdita di ricavi e in opportunità mancate di coinvolgimento dei clienti.

2. Metodologia: InvAwr-RAG

Gli autori propongono il modello Inventory-Aware RAG-based Generative AI (InvAwr-RAG), un sistema progettato per riscrivere dinamicamente le query degli utenti in tempo reale per allinearle all'inventario disponibile e alle campagne pubblicitarie. La metodologia si compone di quattro fasi principali:

2.1. Preparazione dei Dati

• Dataset Two-Tower BERT: Le query sono accoppiate con titoli di prodotti e punteggi di rilevanza, potenziati da annotazioni umane per catturare le relazioni semantiche.
• Analisi dei Log di Ricerca: Le query popolari vengono identificate in base alla frequenza e alle impression pubblicitarie per guidare la componente RAG.
• Raccolta di Query Riscritte: Il sistema cura un dataset di riscrizioni di query di successo. Nello specifico, sono state selezionate le query che hanno generato almeno 500 clic sugli stessi articoli in un periodo di sei mesi. Queste sono state rigorosamente filtrate da valutatori umani per garantire l'unicità e la presenza di alternative distinte prima dell'addestramento del Query Rewrite LLM.

2.2. Architettura del Modello

L'architettura integra una componente di recupero con una componente generativa:

• Two-Tower BERT: Questa componente elabora separatamente le query degli utenti e i titoli dei prodotti utilizzando encoder distinti per generare embedding ($U$ e $V$). La similarità del coseno viene utilizzata per valutare la qualità del match, addestrando il modello a identificare i prodotti più rilevanti per una query.
• Query Rewrite LLM (LoRA Fine-tuning): Basato su Llama2 7B, il modello viene perfezionato tramite Low-Rank Adaptation (LoRA). Questo approccio introduce matrici di basso rango ($A$ e $B$) nelle matrici dei pesi, consentendo un adattamento efficiente e mirato al dominio della ricerca sponsorizzata senza dover riaddestrare l'intero modello. Il modello impara a generare riscrizioni di query contestualmente rilevanti e consapevoli dell'inventario.

2.3. Pipeline di Retrieval-Augmented Generation (RAG)

Il sistema end-to-end opera attraverso una pipeline di sei fasi (Figura 3):

1. Classificatore di Query: Un classificatore basato su regole identifica le query sotto-performanti (ad es. bassi tassi di click-through) e le reindirizza alla pipeline di riscrittura.
2. Recupero Dinamico dell'Inventario: Il sistema recupera i primi $N=20$ articoli di inventario da un database vettoriale basandosi sulla similarità del coseno rispetto alla query, garantendo il rispetto dei vincoli di budget.
3. Preparazione del Prompt: I prompt vengono costruiti combinando la query originale dell'utente con le descrizioni dei primi articoli recuperati (Figura 4).
4. Riscrittura LLM: L'LLM fine-tuned genera query diversificate e rilevanti collegate all'inventario disponibile.
5. Integrazione delle Query Popolari: Il sistema recupera le query storicamente di successo dai log di ricerca che somigliano all'output dell'LLM, arricchendo i suggerimenti con pattern di ricerca collaudati.
6. Fusione e Recupero Finale: Le $K=5$ query riscritte vengono fuse con le query storiche popolari. Un modello cross-encoder BERT valuta la rilevanza degli articoli pubblicitari risultanti, filtrando quelli che soddisfano soglie di rilevanza predefinite.

2.4. Selezione dei Parametri

• $N=20$ Articoli: Selezionati per bilanciare diversità e specificità, massimizzando l'engagement dell'utente senza causare affaticamento decisionale, mantenendo al contempo l'efficienza computazionale.
• $K=5$ Query Riscritte: Scelte per fornire una sufficiente variazione linguistica per catturare l'intento dell'utente pur mantenendo precisione e focus.

3. Contributi Chiave

Il documento evidenzia cinque innovazioni primarie:

1. Robusta Riscrittura Dinamica delle Query: Un modello che adatta le query per allinearle all'inventario e alle offerte in tempo reale, convertendo ricerche precedentemente impossibili in opportunità pubblicitarie.
2. Integrazione Dati in Tempo Reale: Il sistema integra dati live di inventario e di bidding per garantire che ogni ricerca possa risultare nella visualizzazione di un annuncio rilevante.
3. Generazione Ibrida di Query: Un approccio unico che combina query generate dall'IA con query storicamente di successo per bilanciare freschezza e affidabilità.
4. Ottimizzazione Duplice: Migliora simultaneamente l'esperienza utente (tramite suggerimenti rilevanti) e il ROI degli inserzionisti (tramite la massimizzazione della visibilità del prodotto).
5. Scalabilità: L'uso di gestione avanzata dei dati e dell'adattabilità degli LLM assicura che la soluzione possa evolversi con le dinamiche del mercato.

4. Risultati

Gli autori hanno condotto una valutazione offline su un dataset di 10.000 query con un tasso di riempimento storico dello 0%.

• Tasso di Riempimento (Fill Rate): Il modello InvAwr-RAG ha raggiunto un tasso di riempimento del 68% su questo set critico. In confronto, un modello baseline GPT-4 (senza specifico fine-tuning retail) ha raggiunto un tasso di riempimento del 53%.
• Rilevanza (NDCG@8): Utilizzando il Normalized Discounted Cumulative Gain con un cutoff di 8, InvAwr-RAG ha ottenuto un punteggio di 0,6847, superando GPT-4 (0,6458) e il baseline (0).
• Metodo di Valutazione: Queste metriche sono state validate da valutatori umani terzi che hanno analizzato i primi 8 articoli restituiti da ciascun modello.

Il documento nota che questi sono risultati offline preliminari e che è pianificato un A/B testing per misurare l'impatto live su Fill Rate, Click-Through Rate (CTR), Tasso di Conversione e Ricavi.

5. Significato e Rivendicazioni

Il documento posiziona InvAwr-RAG come un nuovo standard per l'ottimizzazione dinamica delle query nella ricerca sponsorizzata. Gli autori affermano che il modello affronta una lacuna critica dove i metodi esistenti di IR e NLG falliscono nel sincronizzarsi con l'inventario dinamico, portando a uno spreco di inventario pubblicitario e a una scarsa esperienza utente.

• Potenziale di Ricavo: Gli autori proiettano che la capacità del modello di convertire le query a riempimento zero possa portare a un aumento dei ricavi pubblicitari di fino a 1 miliardo di dollari nei prossimi cinque anni.
• Impatto Strategico: Garantendo che circa il 13% delle ricerche precedentemente non monetizzate possa ora visualizzare annunci rilevanti, il sistema migliora significativamente la pertinenza pubblicitaria, il ROI degli inserzionisti e l'esperienza di acquisto complessiva sulla piattaforma digitale di Walmart.
• Lavoro Futuro: Gli autori dichiarano che gli sforzi futuri si concentreranno sul raffinamento della comprensione dell'intento dell'utente, sull'espansione dell'applicabilità a diverse categorie di prodotti e sul miglioramento della scalabilità man mano che l'inventario e la base utenti crescono.