LocalSUG: Geography-Aware LLM for Query Suggestion in Local-Life Services

Each language version is independently generated for its own context, not a direct translation.

Imagine que você está em uma cidade grande e tem fome. Você abre o aplicativo de comida, começa a digitar "pizza" e, instantaneamente, o aplicativo sugere: "Domino's", "Pizza Hut" ou "Papa John's".

Agora, imagine que você viaja para outra cidade. Se o aplicativo não soubesse onde você está, ele poderia sugerir a Domino's, mesmo que ela não exista naquela cidade. Isso seria frustrante!

O artigo LocalSUG é sobre como criar um "assistente de busca" super inteligente para aplicativos de serviços locais (como pedir comida, reservar hotéis ou encontrar um encanador) que entende perfeitamente onde você está e o que você realmente quer, sem travar o seu celular.

Aqui está a explicação simplificada, usando analogias do dia a dia:

1. O Problema: O "Mestre de Cerimônias" Cansado

Antes, os aplicativos usavam um sistema antigo e rígido. Era como um bibliotecário que só conhece os livros mais vendidos. Se você pedisse algo muito específico ou novo (uma "pizza de abacate" em um bairro novo), o bibliotecário não tinha o livro e dizia: "Não temos nada".

Os novos sistemas tentam usar Inteligência Artificial (LLMs) para inventar sugestões criativas. Mas eles tinham três grandes problemas:

Cegueira Geográfica: A IA era como um turista que não fala a língua local. Ela sugeriria lojas que não existem na sua cidade.
Treinamento vs. Realidade: A IA era treinada em uma sala de aula (escrevendo uma lista de sugestões) e depois jogada na rua (onde precisa escolher a melhor lista rapidamente). Ela ficava confusa e fazia erros.
Lentidão: A IA era tão "pensativa" que demorava para responder, fazendo o usuário ficar impaciente e fechar o app.

2. A Solução: O "Detetive Local" (LocalSUG)

Os autores criaram o LocalSUG, um sistema que funciona como um detetive local experiente. Ele tem três superpoderes:

A. O Mapa Mental da Cidade (Mineração de Candidatos)

Em vez de adivinhar, o sistema olha para o que as pessoas realmente clicaram naquela cidade específica nos últimos dias.

Analogia: É como se o sistema perguntasse ao vizinho: "O que as pessoas estão pedindo de pizza no meu bairro hoje?". Se no Rio de Janeiro todo mundo pede "Pizza de Calabresa", ele sugere isso. Se em São Paulo todo mundo pede "Pizza de Frango com Catupiry", ele muda a sugestão. Ele garante que a sugestão exista de verdade na sua cidade.

B. O Treinamento de "Simulação Real" (Algoritmo GRPO)

Para resolver o problema da confusão entre treino e realidade, eles criaram um método de treino onde a IA pratica exatamente como vai atuar no dia a dia.

Analogia: Imagine um ator que ensaiou uma peça lendo o roteiro, mas no dia do show teve que improvisar. O LocalSUG faz o ator ensaiar fazendo o show inteiro várias vezes antes. Ele aprende a escolher a melhor lista de sugestões (como um apresentador escolhendo os melhores convidados) e não apenas a escrever frases bonitas. Isso evita que ele "trave" quando está no ar.

C. O Atalho Inteligente (Aceleração de Velocidade)

A IA era lenta porque tentava ler todas as palavras possíveis do dicionário. O LocalSUG aprendeu a ignorar o que não importa.

Analogia: É como um cozinheiro que, em vez de checar todos os 50.000 ingredientes da despensa para fazer um bolo, olha apenas para os 30.000 ingredientes que ele usa todos os dias. Ele corta o caminho, fica muito mais rápido, mas o bolo continua delicioso. Isso permite que o sistema responda em milissegundos, mesmo em horários de pico.

3. O Resultado: Uma Experiência Mágica

Quando eles testaram isso no mundo real (em um grande aplicativo de serviços na China), os resultados foram impressionantes:

Menos "Não Encontrado": As pessoas encontraram o que procuravam muito mais vezes (redução de 2,56% nos casos de "sem resultado").
Mais Cliques: As pessoas clicaram mais nas sugestões (+0,35%), porque as sugestões eram mais úteis.
Menos Esforço: Os usuários precisaram digitar menos letras para encontrar o que queriam.

Resumo Final

O LocalSUG é como transformar um assistente de busca genérico e lento em um guia turístico local, rápido e esperto. Ele sabe o que você gosta, sabe o que existe no seu bairro e te dá a resposta na hora certa, sem fazer você esperar. Isso não só melhora a experiência do usuário, mas também ajuda os negócios locais a serem encontrados por quem realmente precisa deles.

Each language version is independently generated for its own context, not a direct translation.

Título: LocalSUG: LLM Consciente de Geografia para Sugestão de Consultas em Serviços de Vida Local

1. Problema e Contexto

Em plataformas de serviços de vida local (como entrega de comida, hotéis e entretenimento), o módulo de sugestão de consultas (query suggestion) é crucial para melhorar a experiência do usuário, reduzindo o esforço de digitação e acelerando a busca.

As abordagens tradicionais baseiam-se em arquiteturas em cascata de múltiplos estágios (recuperação e classificação) que dependem fortemente de logs históricos e pools de candidatos fixos. Isso limita a capacidade de atender a demandas de cauda longa (long-tail) ou intenções emergentes. Embora os Grandes Modelos de Linguagem (LLMs) ofereçam generalização semântica superior, sua aplicação direta nesses cenários enfrenta três desafios críticos:

Falta de Fundamentação Geográfica: A intenção do usuário varia drasticamente entre cidades devido à disponibilidade de comerciantes e preferências regionais. Um LLM treinado globalmente pode sugerir cadeias de restaurantes que não existem em uma cidade específica (ex: sugerir "Domino's" em Macau, onde a marca não opera).
Viés de Exposição na Otimização de Preferência: Métodos generativos existentes são treinados em nível de sequência, mas a inferência em produção ocorre via beam search (lista de candidatos). Essa discrepância entre treinamento e inferência gera inconsistências na coerência e na classificação.
Latência de Inferência Online: Sistemas de serviços locais exigem tempos de resposta em tempo real estritos. LLMs de alta capacidade geralmente têm sobrecarga computacional incompatível com ambientes de produção de alta concorrência.

2. Metodologia: LocalSUG

O LocalSUG é um framework generativo de ponta a ponta projetado para superar esses desafios, utilizando o modelo Qwen3-0.6B como base. A arquitetura consiste em três fases principais:

A. Mineração de Candidatos Consciente da Cidade (Geographic Grounding)
Para injetar fundamentação geográfica na geração sem depender de modelos complexos de VAE (que sofrem com mudanças de distribuição de vocabulário), o sistema utiliza uma estratégia estatística baseada em co-ocorrência de termos:

Mantém listas de candidatos ordenadas por cliques: uma lista específica para cada cidade ( $L_{city}$ ) e uma lista global ( $L_{global}$ ).
Durante a construção do prompt, prioriza-se a lista da cidade. Se houver lacunas, preenche-se com os principais termos globais.
O pool de candidatos é atualizado diariamente com base em uma janela deslizante de 7 dias para capturar tendências temporais.

B. Treinamento com GRPO Acionado por Busca em Feixe (Beam-Search-Driven GRPO)
Para alinhar o treinamento com a inferência em tempo real, o authors propõem uma variação do algoritmo GRPO (Group Relative Policy Optimization):

Alinhamento: Em vez de amostragem aleatória, o modelo gera um grupo de saídas ( $G$ ) usando beam search durante o treinamento, espelhando o processo de inferência.
Função de Recompensa Multi-objetivo: A recompensa $R$ $R$ combina cinco objetivos para otimizar a lista gerada:
1. Gap Shaping: Penaliza candidatos na cauda (fora do top-K) para forçar resultados de alta qualidade para o topo.
2. Rank & Hit: Recompensa a presença da verdade fundamental ( $y^*$ ) no top-K e penaliza candidatos não-alvo que aparecem antes dela.
3. Format & Miss: Penaliza erros de formato (tokens inválidos, repetição) e falta de candidatos válidos.
Peso de Conversão: Um peso $\omega_i$ ajusta a importância das amostras que resultam em conversão (pedidos).

C. Aceleração de Inferência (QA-BS e Poda de Vocabulário)
Para viabilizar a implantação em produção com baixa latência:

Busca em Feixe Acelerada Consciente de Qualidade (QA-BS): Implementa critérios de parada antecipada e poda de feixes ativos se a probabilidade logarítmica acumulada cair abaixo de um limiar ( $\tau$ ).
Poda de Vocabulário: Reduz a cabeça do modelo (LM head) para os 30.000 tokens mais frequentes, eliminando o custo computacional de tokens irrelevantes sem perda significativa de precisão.

3. Principais Contribuições

Framework de Sugestão Geograficamente Fundamentado: Um sistema pronto para produção que integra consciência de cidade e personalização, garantindo que as sugestões sejam válidas localmente.
Algoritmo Beam-Search-Driven GRPO: Uma inovação que fecha a lacuna entre treinamento offline e inferência online em lista, melhorando a estabilidade de classificação e a diversidade.
Otimização de Latência Industrial: Técnicas de QA-BS e poda de vocabulário que permitiram a primeira implantação em larga escala de um LLM de 0,6B parâmetros em ambientes industriais de alta concorrência, mantendo a qualidade.

4. Resultados e Avaliação

O modelo foi avaliado através de experimentos offline e testes A/B online em larga escala em uma plataforma real de serviços de vida local.

Desempenho Offline:

O LocalSUG superou consistentemente as linhas de base (incluindo arquiteturas em cascata tradicionais e modelos SFT padrão) em métricas de HitRate@12, MRR (Mean Reciprocal Rank) e Diversidade.
A qualidade (QUA) permaneceu alta (>98%), indicando poucas erros de formatação.

Testes A/B Online (Resultados Reais):

Redução de Falhas: A taxa de consultas com poucos ou nenhum resultado (Few/No-Result Rate) diminuiu em 2,56%.
Engajamento: O CTR (Click-Through Rate) das visualizações de página (PV CTR) aumentou em 0,35%.
Exploração de Conteúdo: A exposição de itens únicos (Unique Item Exposure) cresceu 7,50%, indicando melhor descoberta de itens de cauda longa.
Eficiência do Usuário: O comprimento médio da entrada do usuário diminuiu em 0,75%, sugerindo que os usuários encontraram o que procuravam com menos digitação.
Avaliação Humana: Anotadores humanos classificaram as sugestões do LocalSUG como "Boas" com maior frequência e "Ruins" com menor frequência em comparação ao sistema anterior.

5. Significado e Impacto

O trabalho demonstra que é possível integrar LLMs generativos em sistemas de busca de serviços locais de alta latência, superando as limitações dos métodos tradicionais baseados em recuperação.

Quebra de Feedback Loops: Ao gerar sugestões semanticamente coerentes e geograficamente precisas, o sistema consegue atender a demandas de cauda longa que os logs históricos não cobrem.
Viabilidade Industrial: O estudo de caso prova que modelos menores (0.6B), quando otimizados com técnicas específicas de inferência e alinhamento de treinamento, podem competir ou superar sistemas complexos em cenários de produção real.
Direção Futura: O trabalho aponta para a necessidade de integrar recuperação semântica densa para lidar com cenários de "zero-shot" (novos itens sem histórico) e automatizar o ajuste de pesos de recompensa para equilibrar diversidade e métricas de negócios.

Em resumo, o LocalSUG representa um avanço significativo na aplicação de IA generativa para otimização de busca em serviços locais, equilibrando inteligência contextual, precisão geográfica e restrições rigorosas de latência.