When & How to Write for Personalized Demand-aware Query Rewriting in Video Search

Il paper presenta WeWrite, un nuovo framework di riscrittura delle query per la ricerca video che utilizza una strategia di mining automatizzata, un training ibrido SFT-GRPO e un'architettura parallela per migliorare il contesto personalizzato, riducendo la diluizione dei segnali e ottenendo significativi incrementi nel volume di visualizzazioni e nella riduzione delle riformulazioni delle query.

L'essenziale

Immagina di essere in una grande libreria (o meglio, in un enorme magazzino di video) e di chiedere al bibliotecario: "Voglio vedere qualcosa su Guang Liang".

Il problema è che Guang Liang potrebbe essere il nome di un cantante famoso, oppure di un tipo di liquore. Se il bibliotecario non ti conosce, potrebbe mostrarti video di entrambi, confondendoti. Se invece ti conosce, sa che l'ultima volta che hai cercato "cibo cinese" e hai guardato video su ristoranti, probabilmente vuoi il liquore, non il cantante.

Questo è il problema che risolve il sistema chiamato WeWrite, descritto nel paper. È come un assistente super-intelligente che riscrive la tua domanda per il motore di ricerca, rendendola perfetta per te.

Ecco come funziona, spiegato in modo semplice con delle metafore:

1. Il Problema: "Scrivere" o "Non Scrivere"?

Prima di tutto, il sistema deve capire quando è necessario riscrivere la tua domanda.

• L'errore comune: Se riscrivi ogni domanda, rischi di creare confusione. Se cerchi "forno a microonde" per cucinare la cena, non vuoi che il sistema pensi che, perché ieri hai guardato video di comici, oggi tu voglia vedere "barzellette sul forno a microonde". Questo è quello che gli autori chiamano "deriva dell'intento" (il sistema ti porta fuori strada).
• La soluzione di WeWrite (Quando scrivere): Il sistema ha un "detective" automatico che guarda la tua storia. Se vedi che cerchi qualcosa, non trovi nulla di interessante, e subito dopo cambi la domanda trovando ciò che volevi, il detective dice: "Ehi! Qui c'era bisogno di aiuto! Questa è una situazione in cui la personalizzazione serve". Se invece trovi subito ciò che cerchi, il detective dice: "Nessun bisogno di toccare nulla, lascia stare".

2. Come Riscrivere: L'allenamento del "Cervello"

Una volta deciso quando intervenire, il sistema deve sapere come riscrivere la domanda in modo che il motore di ricerca la capisca.

• L'allenamento (SFT + GRPO): Immagina di addestrare un cane da caccia.
  • Prima gli insegni le regole base (Supervised Fine-Tuning): "Se l'utente cerca X e ha guardato Y, dì Z".
  • Poi, invece di correggerlo solo con la voce, gli dai dei premi e delle punizioni basati sui risultati reali (Reinforcement Learning con GRPO). Se la nuova domanda porta a un video che guardi per più di 10 secondi, il cane riceve un premio. Se la nuova domanda è strana e non trova nulla, riceve una "punizione". In questo modo, il sistema impara a scrivere domande che non solo hanno senso per te, ma che funzionano davvero nel database di video.

3. Il Trucco per la Velocità: "La Memoria Finta"

Il problema più grande con l'intelligenza artificiale è che è lenta. Se devi aspettare che il computer "pensi" la nuova domanda prima di mostrarti i video, l'utente si annoia e se ne va.

• La soluzione (Fake Recall): Immagina che il motore di ricerca abbia due corsie parallele.
  • Corsia 1 (La normale): Cerca i video come fa sempre, velocemente.
  • Corsia 2 (La personalizzata): L'IA lavora in parallelo, mentre la Corsia 1 sta già correndo.
  • Il trucco: L'IA non cerca nel magazzino gigante da zero. Ha una "cassetta degli attrezzi" pre-costruita (chiamata Fake Index) con le risposte migliori già pronte per le domande più probabili. Se l'IA pensa di aver bisogno di riscrivere la domanda, controlla subito nella sua cassetta. Se la risposta è lì, la tira fuori istantaneamente.
  • Alla fine, le due corsie si fondono: ti mostrano i risultati della corsa normale, ma con l'aggiunta dei risultati "personalizzati" che sono arrivati esattamente nello stesso momento. Per te, è come se non ci fosse stato alcun ritardo.

I Risultati

Grazie a questo sistema, la piattaforma ha visto:

• Più video guardati: Le persone hanno guardato più video per più di 10 secondi (perché hanno trovato ciò che volevano davvero).
• Meno riscritture: Gli utenti hanno smesso di dover riscrivere la propria domanda perché il sistema l'ha già corretta per loro al primo tentativo.

In sintesi: WeWrite è come un assistente personale che osserva cosa ti piace, capisce quando hai bisogno di aiuto per trovare ciò che cerchi, riscrive la tua richiesta in modo perfetto per il motore di ricerca, e fa tutto questo così velocemente che non ti accorgi nemmeno che sta lavorando.

Sommario tecnico

Titolo: Quando e Come Scrivere per la Riscrittura di Query Consapevole della Domanda Personalizzata nella Ricerca Video

1. Il Problema

Nei sistemi di ricerca per video a breve termine (come WeChat Channels), le query degli utenti sono spesso brevi e ambigue. I motori di ricerca generici faticano a soddisfare interessi latenti specifici, portando a risultati non pertinenti.

• Ambiguità: Una query come "Guang Liang" potrebbe riferirsi a un cantante o a un marchio di liquore. Senza contesto, il sistema non può distinguere.
• Limitazioni degli approcci esistenti: I metodi tradizionali basati su caratteristiche implicite della cronologia soffrono di diluizione del segnale e feedback ritardato.
• Rischio di "Deriva dell'Intento" (Intent Drift): Le riscritture indiscriminate possono peggiorare l'esperienza utente. Ad esempio, riscrivere una query funzionale (es. "frittura ad aria") basandosi su una cronologia di intrattenimento può deviare l'utente da ciò che cerca realmente.
• Vincoli di Latenza: L'uso diretto di Large Language Models (LLM) in una pipeline di ricerca sincrona è spesso proibitivo a causa dei costi di inferenza e della latenza.

2. Metodologia: Il Framework WeWrite

Gli autori propongono WeWrite, un framework di riscrittura di query personalizzata e consapevole della domanda, strutturato in tre moduli principali:

A. Estrazione dei Campioni Basata sul Posterior (Quando Scrivere)

Per determinare quando è necessario riscrivere una query, il sistema utilizza una strategia di mining automatizzata basata sul feedback comportamentale dell'utente (posteriore).

• Definizione del Contesto ($C_u$): Include la cronologia delle query ($H_{query}$), i video guardati ($H_{video}$) e la geolocalizzazione ($G$).
• Campioni Positivi (Riscrittura Necessaria): Vengono estratte coppie di query $(Q_{orig}, Q_{next})$ dove l'utente ha fallito con la query originale (tempo di permanenza breve, < 2.4s) ma ha avuto successo con la riformulazione (tempo di permanenza > 10s).
  • Filtro 1 (Sovrapposizione del Contesto): I nuovi termini nella query riformulata devono apparire esplicitamente nella cronologia dell'utente.
  • Filtro 2 (Verifica dell'Intento con LLM): Un modello teacher (Qwen3-32B) verifica se la riformulazione è supportata dal contesto o è solo una correzione ortografica.
• Campioni Negativi (Rifiuto): Vengono selezionati casi in cui la query originale ha portato immediatamente a una lunga sessione di visione. Questi insegnano al modello a non riscrivere quando non necessario (output del token <reject>).

B. Addestramento Ibrido Allineato allo Stile (Come Scrivere)

Per garantire che le query generate siano semanticamente accurate ma anche compatibili con l'indice di ricerca esistente, viene utilizzato un paradigma di addestramento ibrido:

1. Supervised Fine-Tuning (SFT): Addestra il modello a generare la riscrittura corretta o a rifiutare la riscrittura basandosi sui dati estratti.
2. Reinforcement Learning (RL) con GRPO: Per risolvere il problema delle query "zero-recall" (query semanticamente corrette ma non indicizzate), viene applicato il Group Relative Policy Optimization (GRPO).
   • Funzione di Ricompensa: Basata sulla frequenza storica delle query e sul CTR (Click-Through Rate). Penalizza la generazione di termini sconosciuti (allucinazioni).
   • Ottimizzazione: Il modello massimizza la probabilità di generare query che hanno un alto indice di hit e soddisfazione utente, mantenendo la vicinanza al modello di riferimento tramite KL-divergence.

C. Deployment: Architettura "Fake Recall"

Per superare i vincoli di latenza, viene proposta un'architettura parallela:

• Indice Finto (Fake Index): Un indice pre-costruito (Key-Value) che mappa le query valide ai documenti top-performing, derivato da log storici (CTR e tempo di permanenza).
• Esecuzione Parallela: Quando arriva una richiesta utente, il percorso di ricerca tradizionale e il percorso di riscrittura personalizzata (LLM) vengono eseguiti in parallelo.
• Fusione Asincrona: Se l'LLM genera una riscrittura, questa viene cercata nell'indice finto in tempo $O(1)$. I risultati vengono filtrati per sicurezza e fusi con i candidati principali. Questo garantisce una latenza percepita pari a zero.

3. Risultati Sperimentali

Il framework è stato testato attraverso un test A/B su larga scala su una piattaforma video reale:

• VV>10s (Video Volume con durata >10s): Aumento del 1.07%, indicando una maggiore soddisfazione dell'utente e un consumo video più profondo.
• Query Reformulation Rate: Riduzione del 2.97%, dimostrando che il sistema risolve l'ambiguità alla fonte, riducendo la necessità per gli utenti di riformulare manualmente le loro ricerche.

4. Contributi Chiave

1. Strategia "Quando": Un meccanismo di mining automatizzato che identifica scenari in cui la personalizzazione è strettamente necessaria, mitigando la deriva dell'intento.
2. Addestramento "Come": Un approccio ibrido SFT + GRPO che allinea lo stile di output dell'LLM con l'indice di recupero del sistema, massimizzando l'efficacia della ricerca.
3. Architettura di Deployment: La soluzione "Fake Recall" che disaccoppia l'inferenza dell'LLM dal percorso principale, risolvendo il collo di bottiglia della latenza.

5. Significato e Impatto

Questo lavoro rappresenta un avanzamento significativo nell'uso degli LLM per la ricerca video. Dimostra che è possibile integrare la personalizzazione esplicita e generativa nei sistemi di produzione senza compromettere le prestazioni in tempo reale.

• Risoluzione dell'Ambiguità: Trasforma query ambigue in intenti specifici basati sulla storia dell'utente.
• Efficienza Operativa: Supera la barriera della latenza degli LLM attraverso un'architettura ingegneristica intelligente.
• Qualità dei Dati: L'uso di feedback comportamentali (posteriori) per la creazione del dataset di addestramento garantisce che il modello impari da esempi reali di successo e fallimento, rendendo il sistema più robusto rispetto ai metodi basati su regole o su dati impliciti generici.