When & How to Write for Personalized Demand-aware Query Rewriting in Video Search

O artigo apresenta o WeWrite, um novo framework de reescrita de consultas personalizado e consciente da demanda para busca em vídeos, que utiliza uma estratégia de mineração posterior para determinar quando reescrever, um paradigma de treinamento híbrido (SFT e GRPO) para definir como reescrever e uma arquitetura de "Fake Recall" para baixa latência, resultando em melhorias significativas no volume de cliques e na redução da taxa de reformulação de consultas em testes online.

O essencial

Imagine que você está em uma enorme biblioteca de vídeos (como o TikTok ou o WeChat Channels), mas o bibliotecário (o sistema de busca) às vezes não entende exatamente o que você quer.

Se você digitar apenas "Guang Liang", o bibliotecário pode ficar confuso: "Será que você quer ver um cantor famoso chamado Guang Liang ou uma garrafa de destilado com esse nome?". Se ele errar, você fica frustrado e muda sua busca.

Os autores deste artigo, da Tencent, criaram um novo sistema chamado WeWrite para resolver isso. Eles chamam o sistema de "escritor pessoal" que ajuda a reformular sua busca para que o computador entenda melhor o que você realmente deseja, baseando-se no que você já assistiu antes.

Aqui está a explicação simples de como eles fizeram isso, usando três ideias principais:

1. Quando Escrever? (Não estrague o que já funciona)

O maior problema de tentar "ajudar" o usuário é que, às vezes, a ajuda atrapalha.

• O Problema: Se você digita "Fritadeira de Ar" para cozinhar, o sistema não deve mudar sua busca para "Piadas de casais usando fritadeira" só porque você assistiu a um vídeo engraçado ontem. Isso seria um erro de foco.
• A Solução (Mineração de Amostras): O sistema aprendeu a ser um "detetive". Ele olha para o histórico e pergunta: "O usuário ficou insatisfeito com a primeira busca?".
  • Se você digitou algo, não clicou em nada e mudou a busca imediatamente, o sistema entende: "Ah, ele precisa de ajuda!".
  • Se você digitou algo e assistiu ao vídeo por 10 segundos, o sistema diz: "Tudo certo, não mexa nisso".
  • Analogia: É como um assistente pessoal que só intervém quando você está claramente perdido, mas fica em silêncio quando você já sabe o caminho.

2. Como Escrever? (Falar a língua do computador)

Depois de saber quando ajudar, o sistema precisa saber como escrever a nova busca.

• O Problema: Inteligências Artificiais (LLMs) são ótimas em escrever textos criativos, mas às vezes criam frases tão estranhas que o banco de dados de vídeos não consegue encontrar nada (o famoso "zero resultado").
• A Solução (Treinamento Híbrido): Eles ensinaram o sistema de duas formas:
  1. Aula Teórica (SFT): Mostraram exemplos de buscas boas e ruins para ele aprender o básico.
  2. Treino de Campo (Reforço/GRPO): Aqui está a mágica. Eles criaram um sistema de recompensas. Se o sistema escreve uma busca que o computador de vídeos consegue encontrar facilmente e que os usuários gostam, ele ganha um "ponto". Se ele inventa palavras que não existem no banco de dados, ele perde pontos.
  • Analogia: É como treinar um jogador de futebol. Primeiro, você ensina as regras (SFT). Depois, você coloca ele para jogar em um campo real e só deixa ele marcar gol se a bola entrar no gol (Reforço). Assim, o sistema aprende a escrever buscas que são criativas, mas que funcionam na prática.

3. Como Fazer Tudo Isso Rápido? (O Truque do "Recall Falso")

O maior inimigo da busca na internet é a lentidão. Se o sistema demorar 2 segundos para pensar na resposta, você já fechou o aplicativo.

• O Problema: Pedir para uma IA pensar e escrever uma nova frase demora muito para um sistema que precisa responder em milissegundos.
• A Solução (Arquitetura Paralela "Fake Recall"): Eles criaram um truque genial.
  • Enquanto o sistema de busca tradicional já está procurando os vídeos (o caminho principal), a IA trabalha em paralelo, em uma "faixa paralela", tentando escrever a nova busca.
  • Para não ter que esperar a IA terminar de buscar os vídeos do zero, eles criaram um "mapa de memórias" (um índice falso) pré-preparado. Assim que a IA escreve a nova busca, ela olha nesse mapa instantâneo e pega os resultados prontos.
  • Analogia: Imagine que você está pedindo um prato no restaurante. O cozinheiro (sistema tradicional) já está preparando o prato. Enquanto isso, um garçom especial (a IA) corre para a cozinha, pega uma lista de ingredientes que você provavelmente quer, e já traz os ingredientes prontos em uma bandeja separada. Quando o prato do cozinheiro está pronto, ele mistura com os ingredientes do garçom. Você não sente que esperou mais tempo, mas o prato ficou perfeito para o seu gosto.

O Resultado?

Quando eles testaram isso em um aplicativo real com milhões de usuários:

• As pessoas assistiram a mais vídeos (e por mais tempo), porque encontraram o que queriam mais rápido.
• As pessoas pararam de mudar a busca tanto, porque o sistema entendeu o que elas queriam na primeira tentativa.

Em resumo, o WeWrite é um assistente inteligente que sabe exatamente quando intervir, como falar a língua do computador para não errar a busca e como fazer tudo isso tão rápido que você nem percebe que ele está trabalhando.

Resumo técnico

Resumo Técnico: WeWrite – Reescrita de Consultas Consciente da Demanda Personalizada

1. Problema e Contexto

Em plataformas de vídeo de curta duração (como o WeChat Channels), a descoberta de conteúdo depende fortemente da busca. No entanto, as consultas dos usuários são frequentemente breves e ambíguas (ex.: "Guang Liang" pode referir-se a um cantor ou a uma marca de destilados).

• Limitações das Abordagens Atuais: Métodos tradicionais que utilizam histórico implícito sofrem com diluição de sinal e feedback atrasado. Métodos de reescrita existentes (baseados em estatística ou LLMs genéricos) tendem a ser "cegos ao contexto", tratando todos os usuários da mesma forma ou reescrevendo consultas indiscriminadamente.
• O Risco de "Intent Drift" (Desvio de Intenção): Reescrever consultas funcionais (ex.: "fritadeira de ar") com base em histórico de entretenimento pode desviar a intenção do usuário, gerando resultados irrelevantes.
• Desafio de Latência: A integração direta de Grandes Modelos de Linguagem (LLMs) em sistemas de busca em tempo real é proibitiva devido ao alto custo de inferência e restrições de latência.

O objetivo é criar um framework que responda a duas perguntas fundamentais: Quando reescrever (para evitar ruído) e Como reescrever (para garantir que a nova consulta seja recuperável pelo sistema de busca).

2. Metodologia: Framework WeWrite

Os autores propõem o WeWrite, um framework de reescrita de consultas personalizado que consiste em três módulos principais:

A. Mineração de Amostras Baseada em Posterior ("Quando Escrever")
Para evitar reescritas indiscriminadas, o sistema identifica automaticamente cenários onde a personalização é estritamente necessária, utilizando feedback posterior do usuário (logs de comportamento).

• Amostras Positivas (Rewrite): Identificam pares de consultas onde o usuário teve uma interação falha com a consulta original (tempo de permanência < 2.4s) e uma interação bem-sucedida com uma consulta reformulada (tempo > 10s).
  • Filtro de Sobreposição de Contexto: Garante que os novos termos adicionados na reformulação apareçam no histórico do usuário (vídeos assistidos, localização).
  • Verificação de Intenção (LLM): Um modelo professor (Qwen3-32B) atua como anotador para confirmar se a reformulação é realmente derivada do contexto do usuário e não apenas uma correção de digitação.
• Amostras Negativas (Reject): Identificam consultas originais que levaram imediatamente à satisfação (longa permanência) sem necessidade de reformulação. O modelo aprende a emitir um token <reject> nestes casos.

B. Ajuste Fino de LLM Alinhado ao Estilo ("Como Escrever")
O treinamento segue um paradigma híbrido para garantir que as consultas geradas sejam semanticamente corretas e compatíveis com o índice de busca do sistema.

1. Supervised Fine-Tuning (SFT): O modelo é treinado com as amostras mineradas para aprender a gerar a consulta reformulada ou decidir não reescrever.
2. Reinforcement Learning (RL) com GRPO: Para resolver o problema de "zero-recall" (onde o LLM gera consultas criativas que não existem no índice de busca), utiliza-se o Group Relative Policy Optimization (GRPO).
   • Função de Recompensa: Baseada em logs históricos de 180 dias, recompensa consultas que têm alta frequência de busca e alta taxa de cliques (CTR), e penaliza termos desconhecidos (alucinações).
   • Objetivo: Alinhar o estilo de saída do LLM com a distribuição de consultas do sistema de recuperação real.

C. Implantação: Arquitetura "Fake Recall" (Recuperação Falsa)
Para contornar a latência, o sistema utiliza uma arquitetura paralela:

• Índice Falso (Fake Index): Um índice pré-construído (chave-valor) mapeia consultas válidas para seus melhores documentos, funcionando como um cache massivo de resultados.
• Execução Paralela: Quando uma consulta chega, o caminho de busca tradicional e o caminho de reescrita personalizada são acionados simultaneamente.
• Inferência Assíncrona: O LLM gera a reescrita em segundo plano. Se a reescrita bater no "Fake Index", os candidatos são recuperados instantaneamente ($O(1)$).
• Fusão: Os candidatos da reescrita são filtrados por relevância e fundidos com os candidatos da busca tradicional, garantindo latência zero percebida pelo usuário.

3. Resultados Experimentais

O framework foi testado em um teste A/B de grande escala em uma plataforma de vídeo real.

• Métrica Principal (Engajamento): Aumento de 1,07% no Volume de Vídeos Clicados com tempo de permanência > 10s (VV>10s).
• Métrica Secundária (Eficiência): Redução de 2,97% na Taxa de Reformulação de Consultas (indicando que o sistema resolveu a ambiguidade na primeira tentativa, evitando que o usuário precisasse refinar a busca manualmente).

4. Contribuições Principais

1. Estratégia "Quando": Um mecanismo automatizado de mineração baseado em feedback posterior que identifica com precisão quando a personalização é necessária, mitigando o desvio de intenção.
2. Treinamento "Como": Um paradigma híbrido (SFT + GRPO) que alinha a geração do LLM não apenas com a semântica, mas com a capacidade de recuperação do sistema de busca (Index Hit Rate).
3. Arquitetura de Baixa Latência: A solução de "Fake Recall" permite a integração de LLMs pesados em pipelines de busca síncronos sem degradar a experiência do usuário.

5. Significado e Impacto

O trabalho demonstra que a reescrita explícita de consultas, quando acionada seletivamente e alinhada com a infraestrutura de recuperação, supera significativamente as abordagens baseadas apenas em histórico implícito. O WeWrite resolve o dilema entre a necessidade de personalização profunda e as restrições rigorosas de latência de sistemas de vídeo em tempo real, provando que a inteligência artificial generativa pode ser integrada de forma eficiente e escalável em produção.