LocalSUG: Geography-Aware LLM for Query Suggestion in Local-Life Services

Each language version is independently generated for its own context, not a direct translation.

Immagina di essere in una grande città e di voler ordinare una pizza. Se apri un'app di consegne e inizi a scrivere "Pizza...", cosa ti appare?

Se vivi a Pechino, l'app potrebbe suggerirti "Domino's Pizza". Se invece sei a Macao, la stessa app, sapendo che Domino's non esiste lì, ti suggerirà "Pizza Hut" o "Papa John's".

Questo è il cuore del problema che gli autori di questo articolo, LocalSUG, hanno risolto.

Ecco la spiegazione semplice, con qualche metafora per rendere tutto più chiaro.

1. Il Problema: Il "Cervello" che non conosce la mappa

Fino a poco tempo fa, i sistemi di suggerimento funzionavano come un bibliotecario molto vecchio.

Come funzionava: Il bibliotecario guardava i libri più presi in prestito negli ultimi 10 anni. Se qualcuno chiedeva "Pizza", lui ti dava sempre lo stesso libro, indipendentemente da dove ti trovassi.
Il difetto: Se volevi qualcosa di nuovo, di strano o che non era mai stato cercato prima (la "coda lunga" della domanda), il bibliotecario ti diceva: "Non ho nulla per te". Inoltre, se ti trovavi in una città diversa, ti suggeriva cose che lì non esistevano.

I nuovi modelli di Intelligenza Artificiale (LLM) sono come artisti creativi. Possono inventare suggerimenti nuovi e fantastici. Ma c'è un problema: questi artisti sono stati addestrati su tutto il mondo e non conoscono la geografia. Potrebbero suggerirti una pizzeria che esiste a New York ma non nella tua via. Inoltre, sono lenti e costosi da far girare in tempo reale.

2. La Soluzione: LocalSUG (Il "Mastro Suggestore")

Gli autori hanno creato LocalSUG, un sistema che combina la creatività dell'artista con la conoscenza locale di un residente. Immaginalo come un assistente personale che conosce ogni angolo della tua città.

Ecco come funziona, diviso in tre "trucchi magici":

A. La Mappa Intelligente (Geographic Grounding)

Invece di chiedere all'AI di inventare tutto dal nulla, LocalSUG le dà una lista di controllo locale.

Metafora: Prima di scrivere una storia, l'AI guarda una mappa aggiornata della tua città. Sa che a Roma non ci sono i tram di Milano, quindi non li suggerirà mai.
Come fa: Analizza milioni di ricerche passate per capire quali parole vanno insieme nella tua città specifica. Se scrivi "Pizza", sa che a Milano i suggerimenti devono essere diversi da quelli a Napoli.

B. L'Allenamento con la Realtà (Beam-Search-Driven GRPO)

Qui c'è il trucco più intelligente. Normalmente, si allena un'AI facendole leggere libri (addestramento offline) e poi la si mette a lavorare (uso online). Ma spesso l'AI si comporta diversamente nei due momenti, come un attore che recita bene in prova ma si blocca sul palco.

Il problema: L'AI viene addestrata a scegliere la singola parola migliore, ma quando lavora deve scegliere un'intera lista di suggerimenti. Questo crea confusione.
La soluzione: LocalSUG si allena facendo esattamente quello che farà sul palco. Immagina di allenare un calciatore facendogli giocare partite vere, non solo esercizi in palestra. L'AI impara a scegliere l'intera lista di suggerimenti (la "beam search") mentre viene addestrata, così non si confonde quando è in azione. Inoltre, viene premiata non solo per essere "corretta", ma anche per essere utile per il business (es. se l'utente clicca o ordina).

C. Il Turbo per la Velocità (Accelerazione e Potatura)

I modelli di IA sono spesso lenti, come un'auto di lusso che consuma troppo benzina. Per un'app di consegne, devi rispondere in millisecondi.

Il trucco: Gli autori hanno creato un sistema che taglia le strade inutili.
- Potatura del vocabolario: Invece di far scegliere all'AI tra 50.000 parole possibili, le danno solo le 30.000 più comuni. È come togliere i piatti che nessuno ordina mai dal menu del ristorante.
- Fermata anticipata: Se l'AI sta cercando di trovare un suggerimento e capisce che sta andando in una strada senza uscita (bassa probabilità), la ferma subito. Non perde tempo a calcolare cose inutili.
Risultato: L'AI è veloce come un fulmine, ma mantiene la qualità alta.

3. I Risultati: Funziona davvero?

Hanno provato questo sistema su un'app reale di servizi locali (tipo delivery o hotel) e i risultati sono stati ottimi:

Menù errori: Gli utenti hanno trovato quello che cercavano molto più spesso (meno ricerche che finivano a "nessun risultato").
Più clic: Gli utenti hanno cliccato sui suggerimenti più spesso (+0,35%).
Scoperte: Hanno scoperto più cose nuove e diverse (più varietà nei suggerimenti).
Velocità: L'utente scrive meno caratteri prima di trovare quello che vuole, perché l'AI indovina meglio.

In sintesi

LocalSUG è come avere un amante della tua città che ti suggerisce cosa mangiare o dove andare. Non ti dice cose generiche, conosce i negozi aperti vicino a te, sa cosa è di moda oggi, ed è così veloce che ti risponde prima ancora che tu abbia finito di scrivere.

Ha trasformato un sistema rigido e lento in qualcosa di creativo, locale e istantaneo, rendendo l'esperienza di ricerca molto più piacevole per tutti noi.

Each language version is independently generated for its own context, not a direct translation.

Ecco un riassunto tecnico dettagliato del paper "LocalSUG: Geography-Aware LLM for Query Suggestion in Local-Life Services" in lingua italiana.

1. Il Problema

Nei servizi di vita locale (es. food delivery, hotel, intrattenimento), il modulo di suggerimento delle query (query suggestion) è fondamentale per migliorare l'esperienza utente, riducendo lo sforzo di digitazione e accelerando la ricerca. Tuttavia, l'implementazione di questi sistemi presenta sfide critiche quando si passa dai metodi tradizionali ai Large Language Models (LLM):

Limiti dei sistemi tradizionali: Le architetture a cascata multi-stadio attuali si basano pesantemente su query storiche e pool di candidati fissi. Questo le rende inefficaci nel gestire la coda lunga (long-tail), le intenzioni composizionali o emergenti che non sono ben rappresentate nei dati passati.
Sfide nell'adozione degli LLM: Sebbene gli LLM offrano una forte generalizzazione semantica, il loro dispiegamento diretto nei servizi locali incontra tre ostacoli principali:
1. Mancanza di ancoraggio geografico: Le intenzioni degli utenti variano drasticamente in base alla città (es. "pizza" a Pechino suggerisce Domino's, mentre a Macao suggerisce Pizza Hut, dato che Domino's non opera lì). Un LLM globale senza condizionamento geografico genera suggerimenti plausibili ma localmente invalidi.
2. Bias di esposizione nell'ottimizzazione delle preferenze: I metodi generativi esistenti (come S-DPO) sono addestrati a livello di sequenza su log storici, ma i sistemi reali generano e classificano le liste tramite beam search. Questo disallineamento tra addestramento e inferenza compromette la coerenza e la consistenza del ranking.
3. Latenza di inferenza online: I sistemi di ricerca locale richiedono tempi di risposta in tempo reale. Gli LLM ad alta capacità introducono un sovraccarico computazionale che rende il dispiegamento su larga scala impraticabile senza ottimizzazioni.

2. Metodologia: LocalSUG

Gli autori propongono LocalSUG, un framework generativo end-to-end basato su un modello LLM (Qwen3-0.6B) ottimizzato per i servizi locali. L'architettura si articola in tre fasi principali:

A. Estrazione di Candidati Consapevoli della Città (City-Aware Candidate Mining)

Per risolvere il problema geografico senza l'overhead di modelli complessi come RQ-VAE, viene adottato un approccio statistico basato sulla co-occorrenza dei termini:

Vengono mantenute due liste di candidati per ogni prefisso: una specifica per città ( $L_{city}$ ) e una globale ( $L_{global}$ ).
Durante la costruzione del prompt, si dà priorità ai candidati specifici della città per garantire la rilevanza locale. Se questi sono insufficienti, si integrano con le query top della lista globale.
Il pool di candidati viene aggiornato quotidianamente su una finestra scorrevole di 7 giorni per catturare le tendenze temporali.

B. Addestramento con GRPO Guidato dal Beam Search (Beam-Search-Driven GRPO)

Per colmare il divario tra addestramento e inferenza (riducendo il bias di esposizione), viene introdotto un algoritmo Group Relative Policy Optimization (GRPO) guidato dal beam search:

Invece di campionare casualmente, il modello genera un gruppo di output ( $G$ ) utilizzando il beam search, allineando così la distribuzione di addestramento a quella di inferenza.
Viene definita una funzione di ricompensa multi-obiettivo che combina cinque componenti:
1. Gap Shaping: Penalizza i candidati nella coda (dopo i primi $K$ ) per forzare risultati di alta qualità nelle posizioni superiori.
2. Target Hit & Rank Bonus: Premia la presenza della ground truth e la sua posizione nel ranking.
3. Format & Miss Penalty: Penalizza errori di formato, duplicati o l'assenza della ground truth, spingendo il modello a generare liste pulite e complete.
Un peso specifico ( $\omega$ ) viene assegnato alle conversioni (ordini) per ottimizzare le metriche di business.

C. Accelerazione dell'Inferenza (Quality-Aware Accelerated Beam Search - QA-BS)

Per abilitare il dispiegamento online con bassa latenza:

QA-BS: Un algoritmo di beam search che verifica la qualità in tempo reale. I rami attivi vengono potati se la probabilità cumulativa scende sotto una soglia ( $\tau$ ) e l'uscita anticipata viene attivata quando i candidati validi saturano la capacità.
Potatura del Vocabolario: L'analisi di 38 milioni di log ha rivelato una frequenza di token sparsa. Il "head" del modello linguistico è stato potato ai 30.000 token più frequenti, riducendo drasticamente il calcolo per i token irrilevanti con un impatto minimo sull'accuratezza.

3. Contributi Chiave

Framework Geograficamente Consapevole: Un sistema di suggerimento di query pronto per la produzione che integra l'ancoraggio geografico direttamente nel processo generativo, garantendo affidabilità in diverse città.
Algoritmo Beam-Search-Driven GRPO: Un metodo innovativo che allinea l'addestramento all'inferenza lista-per-lista, migliorando la stabilità del ranking, la diversità e la coerenza in ambienti industriali.
Ottimizzazione della Latenza: L'introduzione di QA-BS e della potatura del vocabolario ha permesso il primo dispiegamento su larga scala di un LLM da 0.6B parametri in ambienti industriali ad alta concorrenza, risolvendo il collo di bottiglia della latenza.
Validazione Empirica: Dimostrazione pratica che i modelli generativi possono superare i sistemi tradizionali a cascata, sbloccando la domanda a coda lunga e migliorando l'efficienza della ricerca.

4. Risultati Sperimentali

I risultati sono stati validati attraverso valutazioni offline su log reali e test A/B online su larga scala (10% del traffico).

Performance Offline:

LocalSUG ha superato costantemente i baseline (inclusi MCA, SFT e OneSug) in tutte le metriche: HitRate@12, MRR, Diversità (DIV) e Qualità (QUA).
In particolare, ha mostrato un miglioramento significativo rispetto a OneSug, confermando che l'estrazione di candidati basata sulla co-occorrenza è superiore alle strategie basate su RQ-VAE in scenari sensibili alla latenza.

Risultati Online (Test A/B):

Riduzione dei fallimenti: Diminuzione del 2.56% nel tasso di "Few/No-Result" (query che non restituiscono risultati).
Miglioramento del CTR: Aumento del 0.35% nel Click-Through Rate delle pagine (PV CTR) e dello 0.25% nel CTR della sessione.
Esplorazione dei contenuti: Aumento del 7.50% nell'esposizione di elementi unici (Unique Item Exposure), indicando una migliore capacità di scoprire articoli a coda lunga.
Efficienza utente: Riduzione della lunghezza media dell'input di suggerimento del 0.75%, dimostrando che gli utenti raggiungono risultati precisi con meno interazioni.

5. Significato e Impatto

Il lavoro di LocalSUG rappresenta un passo avanti significativo nell'applicazione degli LLM ai sistemi di raccomandazione industriali. Dimostra che è possibile superare i compromessi classici tra qualità generativa, rilevanza geografica e latenza operativa.

Superamento dei cicli di feedback: Il modello rompe i cicli di feedback limitati dei sistemi tradizionali, permettendo di soddisfare la domanda a coda lunga che i log storici non catturano.
Fattibilità Industriale: Fornisce una roadmap pratica per il dispiegamento di modelli generativi in scenari real-time ad alta concorrenza, risolvendo problemi di latenza e bias di esposizione spesso trascurati nella ricerca accademica.
Scalabilità: La capacità di ottenere risultati superiori con un modello di soli 0.6B parametri suggerisce che non è necessario l'uso di modelli massicci per ottenere vantaggi significativi nei servizi locali, rendendo la soluzione economicamente sostenibile.

In sintesi, LocalSUG non è solo un miglioramento algoritmico, ma una soluzione ingegneristica completa che trasforma la ricerca nei servizi locali, rendendola più intelligente, locale e reattiva alle esigenze specifiche degli utenti.