Resumo Técnico: Recuperação Generativa Eficiente para Pesquisa em E-commerce com IDs de Cluster Semântico e RL Guiado por Especialistas

1. Declaração do Problema

Os motores de busca modernos de e-commerce geralmente dependem de uma arquitetura de funil multiestágio (entendimento da consulta, recuperação, ranqueamento grosseiro/fino). Embora os métodos tradicionais de recuperação (recuperação esparsa e densa) sejam eficazes, eles enfrentam limitações inerentes: métodos esparsos lutam com correspondência semântica, enquanto métodos densos sofrem com lacunas de incorporação e manutenção de índices dispendiosa.

A recuperação generativa (GenIR) surgiu como um paradigma para unificar indexação e recuperação em um único modelo ponta a ponta. No entanto, implantar GenIR em configurações industriais de e-commerce enfrenta três desafios críticos:

1. Viabilidade Ponta a Ponta em Escala: Gerar diretamente a partir de centenas de milhões de itens cria latência severa, problemas de cobertura e "efeito Mateus" (superconcentração em itens populares), tornando uma substituição puramente ponta a ponta do funil multiestágio impraticável para busca de alta precisão.
2. Compensações no Design de ID Semântico: Métodos existentes frequentemente perseguem um mapeamento "um-item-um-ID" para minimizar colisões. Em configurações industriais, isso requer dados de treinamento excessivos e grandes tamanhos de feixe durante a inferência para alcançar amplitude de recuperação suficiente, criando gargalos de recursos.
3. Alinhamento com Ranqueamento a Jusante: Modelos de recuperação tradicionais otimizam sinais de taxa de cliques via Estimativa de Máxima Verossimilhança (MLE). No entanto, um modelo de recuperação robusto deve também expor candidatos de alta qualidade e diversos que as etapas de ranqueamento a jusante possam aproveitar, uma lacuna não totalmente abordada pela otimização padrão.

2. Metodologia

Os autores propõem um framework que posiciona a recuperação generativa como um suplemento da etapa de recuperação em vez de uma substituição ponta a ponta. O sistema consiste em três componentes principais:

2.1 CQ-SID: IDs Semânticos Confinados por Categoria e Consulta

Em vez de identificadores únicos, os itens são codificados em IDs de Cluster Semântico hierárquicos usando um Autoencoder Variacional Quantizado Residual (RQ-VAE).

• Quantização Residual Guiada por Categoria: O primeiro nível do livro de códigos é confinado pelas categorias de itens (1.711 categorias válidas), garantindo que itens semanticamente semelhantes compartilhem prefixos de SID. Níveis subsequentes usam quantização de vizinho mais próximo padrão. Esta estrutura hierárquica permite poda eficiente durante a busca em feixe.
• Aprendizado Contrastivo Item-Consulta: O modelo utiliza pares consulta-item de alta confiança (de registros de busca, cliques e compras) com uma perda InfoNCE bidirecional para alinhar incorporações de itens com incorporações de consulta.
• Pós-processamento: Para evitar que clusters populares dominem, se um SID exceder um limite de contagem de itens, os índices de terceiro nível são agrupados aleatoriamente e recebem sufixos, criando subclusters enquanto preservam o prefixo hierárquico.

2.2 Pipeline de Treinamento Progressivo

Um modelo de linguagem leve Qwen2.5-0.5B é treinado através de quatro estágios progressivos para mapear consultas em linguagem natural para SIDs:

1. Item-para-SID: Ajuste Fino Supervisionado (SFT) em pares (título do item, SID) para aprender o mapeamento texto-para-identificador.
2. Consulta-para-SID: SFT em pares (consulta, SID) derivados de associações consulta-item para mapear intenção de busca para clusters semânticos.
3. Personalizado (Usuário+Consulta)-para-SID: Augmentação com características de perfil de usuário e históricos de interação recentes para gerar listas de SID específicas do usuário.
4. Refinamento Alinhado ao Ranqueamento: Aplicação de aprendizado por reforço para alinhar saídas generativas com objetivos de ranqueamento a jusante.

2.3 EG-GRPO: Otimização Relativa de Grupo Guiada por Especialistas

Para abordar a esparsidade de sinais de recompensa (cliques/compras) e a instabilidade do GRPO padrão, os autores introduzem EG-GRPO.

• Mecanismo: Em cada grupo de gradiente de política, o modelo gera um conjunto de SIDs candidatos. Crucialmente, SIDs de verdade (de itens clicados ou expostos) são amostrados aleatoriamente e injetados neste grupo como saídas "pseudo" de "especialistas".
• Objetivo: Esta injeção estabiliza o aprendizado garantindo que cada atualização de gradiente incorpore exemplos positivos, prevenindo o "colapso da compensação clique-exposição" onde o modelo superexplora um conjunto estreito de itens de alta confiança. Otimiza-se um equilíbrio entre precisão (cliques) e diversidade (exposição).

3. Contribuições Principais

1. Arquitetura CQ-SID: Um design de ID Semântico inovador que trata IDs como identificadores de cluster semântico em vez de rótulos únicos. Ao combinar restrições de categoria com aprendizado contrastivo, equilibra discriminabilidade com agregação, reduzindo significativamente a complexidade da busca em feixe.
2. Estratégia de Treinamento Progressivo: Um pipeline de quatro estágios que refina sistematicamente a tradução consulta-para-SID, desde mapeamento básico de texto até geração personalizada e alinhada ao ranqueamento usando um LLM leve.
3. Algoritmo EG-GRPO: Um método de aprendizado por reforço que injeta amostras de verdade no grupo de gradiente de política. Isso estabiliza o treinamento em ambientes de recompensa esparsa e melhora o desempenho multiobjetivo (cliques e cobertura de exposição) sem exigir redes de valor complexas.
4. Validação Industrial: Experimentos extensivos offline e online em uma grande plataforma móvel de e-commerce (Tmall) demonstrando a viabilidade da recuperação generativa como um componente de recuperação escalável.

4. Resultados Experimentais

Experimentos Offline

• Qualidade de Recuperação Semântica: Comparado ao RQ-VAE padrão, o CQ-SID alcançou uma melhoria relativa de 26,76% na taxa de acerto de cliques semânticos em beam@1 e 11,11% em configurações personalizadas.
• Eficiência: Sob truncamento top-1K (simulando lógica online), o CQ-SID alcançou taxas de acerto superiores com 53,85% menos feixes que a linha de base, reduzindo significativamente a latência de inferência.
• Impacto do EG-GRPO: O EG-GRPO (com $K=2$ injeções de especialistas) melhorou a taxa de acerto de cliques, a taxa de acerto de exposição e a razão de cobertura de exposição (pvr) comparado ao GRPO padrão. Mitigou com sucesso o colapso de modo observado no GRPO padrão, onde o modelo sacrificava amplitude de recuperação para precisão top-1.

Testes A/B Online

Implantado no ambiente de produção do TmallAPP:

• Métricas de Negócio: Ganhos significativos foram observados, incluindo GMV +1,15% e UCTCVR +0,40%.
• Contribuição do Sistema: O canal de recuperação generativa tornou-se um componente crítico, respondendo por 50,25% de todas as exposições, 58,96% de todos os cliques e 72,63% de todas as compras entre todos os canais de recuperação.
• Desempenho: O sistema opera com uma latência média ponta a ponta de ~40ms e disponibilidade de 99,9%.

5. Significado e Alegações

O artigo alega oferecer um caminho prático para fechar a lacuna entre pesquisa em recuperação generativa e aplicações industriais em grande escala.

• Mudança de Paradigma: Argumenta contra uma substituição puramente ponta a ponta do funil de busca, propondo, em vez disso, um "suplemento da etapa de recuperação" que se integra perfeitamente a arquiteturas multiestágio existentes.
• Escalabilidade: Ao tratar SIDs como clusters semânticos em vez de IDs únicos, o framework supera os gargalos computacionais e de latência associados a corpora massivos de itens.
• Estabilidade em Recompensas Esparsas: O método EG-GRPO fornece uma solução para a instabilidade do RL na recuperação, demonstrando que a injeção guiada por especialistas pode estabilizar o aprendizado e melhorar a otimização multiobjetivo sem exigir redes de valor complexas.
• Impacto no Mundo Real: O trabalho distingue-se pelo seu sucesso na implantação em um ambiente de produção de alto tráfego, validando que a recuperação generativa pode entregar valor tangível de negócios (GMV, conversão) enquanto atende a restrições estritas de latência.