Generative Recommendation for Large-Scale Advertising

Each language version is independently generated for its own context, not a direct translation.

Imagine que você é o gerente de um shopping center gigante (o Kuaishou, um aplicativo chinês de vídeos curtos) com mais de 400 milhões de visitantes por dia. Sua tarefa é mostrar anúncios (propagandas) para cada pessoa no momento exato em que elas estão mais propensas a comprar algo.

Antigamente, usávamos um sistema de "lista de compras" (chamado DLRM). Era como um vendedor experiente que olhava para o que você comprou antes e dizia: "Se você gostou de sapatos, aqui estão 10 outros sapatos". Funcionava bem, mas era limitado.

Agora, a equipe do Kuaishou criou algo novo chamado GR4AD. Pense nele não como um vendedor que lê uma lista, mas como um chef de cozinha criativo que inventa pratos novos na hora, baseados no que você gosta.

Aqui está como esse "chef" funciona, explicado de forma simples:

1. A Receita Secreta (Tokenização e UA-SID)

Para o chef entender o que você quer, ele precisa de ingredientes. No mundo dos anúncios, os ingredientes são vídeos, produtos e informações do anunciante.

O Problema: Antigamente, os ingredientes eram rotulados de forma confusa (como códigos de barras sem sentido).
A Solução (UA-SID): Eles criaram um novo sistema de "etiquetas semânticas". Imagine que, em vez de chamar um vídeo de "ID-12345", o sistema o descreve como "Vídeo de um cachorro fofo brincando com um brinquedo de borracha".
Como funciona: Eles usaram uma inteligência artificial treinada para "ler" o vídeo, o produto e o perfil do anunciante, transformando tudo em uma sequência de palavras-chave (tokens) que o computador entende perfeitamente. Isso ajuda a encontrar anúncios mesmo para produtos novos (o famoso "problema do frio").

2. O Chef Rápido (LazyAR Decoder)

Gerar uma lista de anúncios é como pedir para o chef escrever um cardápio de 10 pratos. Se ele tiver que escrever um prato de cada vez, esperando o anterior terminar, o processo fica lento.

O Problema: Em sistemas antigos, o modelo precisava pensar passo a passo, o que era lento para 400 milhões de pessoas.
A Solução (LazyAR): Eles inventaram um método "preguiçoso" (mas inteligente). O chef usa a mesma parte do cérebro para pensar nos primeiros passos de todos os pratos ao mesmo tempo. Só quando ele precisa de detalhes específicos para o prato final é que ele se concentra.
Resultado: O sistema fica duas vezes mais rápido, conseguindo atender mais pessoas sem gastar mais energia, sem perder a qualidade do prato.

3. O Sabor do Dinheiro (Aprendizado com Valor)

O objetivo não é apenas mostrar algo que você pode gostar, mas algo que traga valor para o shopping (dinheiro) e para você (relevância).

O Problema: Treinar o chef apenas com o que aconteceu no passado (supervisão) faz ele ser conservador. Ele não arrisca novos pratos.
A Solução (VSL e RSPO): Eles ensinaram o sistema de duas formas:
1. VSL: "Olhe para quem comprou e o quanto gastou." (Ensina o básico).
2. RSPO (A mágica): É como um "treinador de ranking". Em vez de apenas dizer "este prato é bom", o treinador diz: "Coloque este prato no topo da lista porque ele vale mais dinheiro e o cliente vai adorar". O sistema aprende a organizar a lista inteira de anúncios para maximizar o lucro e a satisfação, não apenas um por um.

4. O Garçom Adaptável (Serving Dinâmico)

Imagine que o shopping fica lotado às 19h (hora do pico) e vazio às 3h da manhã.

O Problema: Se o garçom (o sistema de entrega) sempre tentar servir 100 pratos de uma vez, ele vai travar na hora do pico. Se servir apenas 10, perde vendas na hora vazia.
A Solução (Dynamic Beam Serving): O sistema é inteligente.
- No pico: Ele serve menos opções, mas muito rápido, para não atrasar ninguém.
- Fora do pico: Ele serve muitas opções, explorando mais possibilidades para encontrar o anúncio perfeito, já que há tempo e energia sobrando.
- Cache: Se você pediu a mesma coisa há 1 minuto, ele não pede ao chef de novo; ele entrega o prato que já estava pronto na geladeira.

O Resultado Final?

Depois de colocar esse novo sistema em prática no Kuaishou:

Mais dinheiro: A receita de anúncios aumentou em 4,2% (o que é uma quantidade gigantesca em escala global).
Mais rápido: O sistema responde em menos de 100 milissegundos (mais rápido que um piscar de olhos).
Melhor para todos: Anunciantes menores conseguem mostrar seus produtos, e os usuários veem anúncios mais relevantes.

Em resumo: O GR4AD transformou a publicidade de um sistema de "lista de compras estática" para um "chef criativo e super-rápido" que entende o que você quer, sabe o que vale a pena vender e se adapta ao ritmo da multidão, tudo isso em tempo real.

Each language version is independently generated for its own context, not a direct translation.

Título do Trabalho: GR4AD: Generative Recommendation for ADdvertising

Autores: Ben Xue, Dan Liu, Lixiang Wang, et al. (Kuaishou Technology)
Contexto: Publicidade em grande escala, sistemas de recomendação, modelos generativos (LLMs).

1. Problema e Motivação

A indústria de recomendação está migrando de modelos de aprendizado profundo tradicionais (DLRMs) para modelos generativos devido ao seu potencial de escalabilidade e capacidade de representação. No entanto, a implementação de recomendação generativa em tempo real para publicidade enfrenta desafios únicos que tornam a reutilização direta de técnicas de Grandes Modelos de Linguagem (LLMs) insuficiente:

Tokenização de Anúncios: Anúncios de vídeo curto possuem informações complexas (atributos de vídeo, detalhes do produto, metadados do anunciante B2B) que não são capturadas apenas pelo conteúdo semântico. Além disso, sinais de negócios críticos (tipo de conversão, ID da conta) são frequentemente ignorados por embeddings puramente semânticos.
Paradigma de Aprendizado: A publicidade otimiza listas ranqueadas com base em métricas de lista (como NDCG) e objetivos de negócio (eCPM), não apenas a previsão item a item. Métodos existentes focados em LLMs carecem de designs de aprendizado orientados a ranking e listas.
Serving em Tempo Real: Diferente de LLMs interativos que toleram latências maiores para uma única resposta, sistemas de publicidade devem gerar múltiplos candidatos de alta qualidade sob orçamentos de latência estritos e alto tráfego. A eficiência de inferência para geração de múltiplos candidatos em tempo real é um gargalo não resolvido sistematicamente.

2. Metodologia: GR4AD

O GR4AD é um recomendador generativo projetado para produção, co-desenhado em três pilares: Representação (Tokenização), Aprendizado e Serving.

2.1. Tokenização: UA-SID (Unified Advertisement Semantic ID)

Para representar anúncios de forma eficaz, o GR4AD introduz o UA-SID, que combina informações semânticas e de negócios:

Unified Advertisement Embedding (UAE): Utiliza um modelo MLLM (Large Multimodal Model) ajustado via Instruction Tuning (para entender formatos heterogêneos como vídeo, produto e anunciante) e Co-occurrence Learning (para capturar sinais colaborativos de comportamento do usuário).
Quantização MGMR (Multi-Granularity-Multi-Resolution) RQ-Kmeans:
- Utiliza uma abordagem de quantização residual com codebooks de múltiplas resoluções (codebooks maiores nos níveis iniciais para capturar fatores dominantes, menores nos finais para resíduos).
- Mapeamento Hash Não-Semântico: Substitui a quantização vetorial na camada final por um mapeamento hash baseado em sinais não semânticos (ex: ID da conta, tipo de conversão). Isso reduz drasticamente colisões de SID e melhora o equilíbrio do codebook, capturando informações de negócios que a semântica pura perde.

2.2. Arquitetura: Lazy Autoregressive Decoder (LazyAR)

Para resolver o custo de inferência da geração autoregressiva:

Problema: A maioria do custo computacional ocorre nos níveis finais da geração (onde o beam search é grande), enquanto os níveis iniciais são mais difíceis de aprender.
Solução: O LazyAR relaxa as dependências autoregressivas. As primeiras $K$ camadas do decodificador são computadas em paralelo para todos os níveis de tokens, sem depender do token anterior. Apenas a partir da camada $K$ , a dependência autoregressiva é injetada.
Benefício: Isso permite computação paralela massiva nas camadas iniciais, reduzindo o custo sequencial durante o beam search, sem sacrificar a precisão do primeiro token (o mais crítico).

2.3. Aprendizado: VSL e RSPO

O treinamento é dividido em duas fases integradas para alinhar o modelo com o valor de negócio:

VSL (Value-Aware Supervised Learning): Um objetivo de aprendizado supervisionado que inclui:
- Previsão de tokens de SID.
- Previsão de tokens de eCPM (valor de negócio) como um passo adicional.
- Ponderação de amostras baseada no valor do usuário e profundidade do comportamento (ex: compras valem mais que cliques).
RSPO (Ranking-Guided Softmax Preference Optimization): Um algoritmo de Aprendizado por Reforço (RL) orientado a lista.
- Diferente de métodos como DPO que usam pares escolhidos/rejeitados, o RSPO otimiza diretamente a métrica NDCG (Normalized Discounted Cumulative Gain) em nível de lista.
- Utiliza um mecanismo de "gate" para lidar com dados de fontes heterogêneas (alguns sem distribuição de referência confiável), ajustando dinamicamente o peso entre a imitação (VSL) e a exploração de valor (RSPO).

2.4. Serving: Otimizações de Eficiência

Dynamic Beam Serving (DBS): Ajusta dinamicamente a largura do beam search com base no nível de tráfego (aumentando em horários de baixa demanda para explorar mais candidatos e reduzindo em picos para manter a latência).
Cache de Resultados: Cacheia recomendações para o mesmo usuário em janelas de tempo curtas, reutilizando resultados e economizando recursos.
KV Cache Compartilhado: Otimiza o uso de memória de GPU compartilhando o cache de chave-valor entre os ramos do beam search.

3. Resultados Principais

O GR4AD foi totalmente implantado no sistema de publicidade do Kuaishou, servindo mais de 400 milhões de usuários.

Desempenho de Receita: Testes A/B online mostraram uma melhoria de receita de anúncios de até 4,2% em comparação com a pilha baseada em DLRM existente.
Eficiência de Inferência: O sistema atinge latências inferiores a 100ms e mais de 500 QPS (queries por segundo) por GPU L20, graças às otimizações do LazyAR e DBS.
Escalabilidade:
- Escalonamento de Modelo: Aumentar o tamanho do modelo (de 0.03B para 0.32B parâmetros) resultou em ganhos monotônicos de receita (de +2,13% para +4,43%).
- Escalonamento de Inferência: Aumentar a largura do beam search também trouxe ganhos consistentes de receita.
Impacto de Negócio:
- Aumento de 17,5% na entrega de anúncios para pequenos e médios anunciantes.
- Melhoria de 10,17% na taxa de conversão geral e 7,28% em usuários menos ativos.

4. Contribuições Chave

UA-SID: Uma nova forma de tokenização que integra embeddings multimodais ajustados com sinais de negócios não semânticos via mapeamento hash, resolvendo o problema de colisões e representação de valor.
LazyAR: Uma arquitetura de decodificador inovadora que desacopla a dependência autoregressiva nas camadas iniciais, permitindo paralelismo massivo e redução de custo de inferência sem perda de qualidade.
RSPO: Um algoritmo de RL orientado a lista que otimiza diretamente métricas de ranking (NDCG) e valor de negócio, superando métodos de RL tradicionais baseados em pares.
Sistema de Produção em Tempo Real: A primeira implementação em escala massiva de um recomendador generativo com aprendizado contínuo online, validando a viabilidade de substituir DLRMs em cenários de alta latência e alto tráfego.

5. Significado e Conclusão

O trabalho demonstra que a recomendação generativa nativa é viável e superior para publicidade em grande escala quando projetada especificamente para as restrições do domínio (tokenização híbrida, otimização de lista e eficiência de serving). O GR4AD não apenas supera os modelos tradicionais em receita, mas também melhora a experiência do usuário e a saúde do ecossistema de anunciantes. O estudo estabelece um novo padrão para a aplicação de LLMs em sistemas de recomendação industriais, focando na co-otimização de arquitetura, aprendizado e infraestrutura de serving.