Resumo Técnico: LERA - RAG Aprimorado por LLM para Leilão de Anúncios em Chatbots Generativos

Declaração do Problema

A integração de publicidade em chatbots baseados em Modelos de Linguagem de Grande Escala (LLM) apresenta um desafio único de comercialização. Diferentemente da pesquisa patrocinada tradicional, onde os anúncios ocupam slots predefinidos, a publicidade em chatbots exige decidir se e como tecer um anúncio em uma resposta gerada. Isso necessita de um mecanismo que equilibre três fatores concorrentes:

1. Relevância: O anúncio deve alinhar-se à intenção do usuário, ao contexto comercial e ao fluxo dinâmico do diálogo.
2. Eficiência: O processo de leilão e seleção deve incorrer em latência mínima para preservar a natureza em tempo real das interações de chat.
3. Veracidade: O mecanismo deve suportar lances compatíveis com incentivos, garantindo que os anunciantes sejam motivados a licitar seu verdadeiro valor por clique.

Abordagens existentes enfrentam trade-offs significativos. Métodos Recuperar-então-gerar (e.g., Hajiaghayi et al. [9]) são eficientes, mas dependem exclusivamente da similaridade de incorporação de texto, o que frequentemente falha em capturar intenções comerciais complexas, levando a inserções repetitivas ou interpretações comerciais equivocadas. Métodos Gerar-então-recuperar aproveitam a compreensão contextual do LLM, mas frequentemente exigem múltiplas passagens de inferência por consulta ou a pontuação de todos os anunciantes, resultando em latência e custos de inferência proibitivos. Além disso, o uso direto de logits do LLM para ranquear todos os candidatos em engines de alto rendimento (como SGLang) cria gargalos substanciais devido à necessidade de pré-preenchimento paralelo sobre grandes conjuntos de candidatos.

Metodologia: O Framework LERA

O artigo propõe o LERA (RAG Aprimorado por LLM para Leilão de Anúncios), um framework de leilão em duas etapas do tipo recuperar-então-gerar, projetado para desacoplar a eficiência da sofisticação semântica.

1. Processo de Alocação em Duas Etapas

A inovação central é um mecanismo de pontuação híbrido que restringe o cálculo caro do LLM a um pequeno conjunto de candidatos pré-filtrados.

• Etapa 1: Filtragem Grossa Baseada em Incorporação

  • Em vez de usar a consulta do usuário bruta diretamente, um LLM gera primeiro um conjunto conciso de palavras-chave de intenção ($w$) que resumem as necessidades subjacentes do usuário.
  • Essas palavras-chave são incorporadas e comparadas às descrições dos anunciantes ($d_i$) usando similaridade do cosseno normalizada.
  • A pontuação de relevância é ponderada pelo lance do anunciante ($b_i$): $Score^{(1)}_i = \text{Norm}(\text{Similaridade}(\text{Emb}(w), \text{Emb}(d_i))) \cdot b_i$.
  • Os $K$ melhores anunciantes ($K \ll N$) formam o conjunto de candidatos $S$. Esta etapa garante alto rendimento ao filtrar a vasta maioria dos anunciantes irrelevantes usando operações de incorporação leves.

• Etapa 2: Ranqueamento Fino com Logits do LLM

  • A consulta original $x$, o conjunto de candidatos $S$ e uma opção de "não-inserção" ($\phi$) são apresentados ao LLM.
  • O LLM é instruído a identificar o anúncio mais apropriado. Em vez de gerar texto, o sistema extrai os logits para os rótulos dos candidatos (incluindo a opção de não-inserção).
  • Esses logits são normalizados via softmax para produzir pontuações de relevância orgânica refinadas ($s^{(2)}_j$).
  • A pontuação final do leilão é $Score^{(2)}_j = s^{(2)}_j \cdot b_j$. O vencedor é o candidato com a maior pontuação. Se a opção de não-inserção vencer, nenhum anúncio é exibido.

2. Regra de Pagamento e Compatibilidade de Incentivos

Para garantir veracidade, o LERA emprega uma Regra de Pagamento de Valor Crítico. Diferentemente de um leilão de segundo preço padrão, o vencedor deve satisfazer duas restrições: entrar no conjunto dos $K$ melhores da Etapa 1 e vencer o ranqueamento da Etapa 2.

O pagamento $p_{i^*}$ para o anunciante vencedor $i^*$ é definido como:
$$p_{i^*} = \max \left( \frac{Score^{(1)}_{(K+1)}}{s^{(1)}_{i^*}}, \frac{Score^{(2)}_{(2)}}{s^{(2)}_{i^*}} \right)$$
Onde:

• $Score^{(1)}_{(K+1)}$ é a pontuação limite necessária para entrar no conjunto de candidatos.
• $Score^{(2)}_{(2)}$ é a segunda maior pontuação no ranqueamento final.
• O pagamento é o máximo dos valores críticos necessários para passar por ambas as etapas.

O artigo prova (Proposição 4.1) que, sob suposições de independência entre resultados de cliques e valores realizados, e estimativas prévias não tendenciosas, este mecanismo é compatível com incentivos para anunciantes que maximizam utilidade.

3. Extensão para Inserção de Múltiplos Anúncios

O framework estende-se a fluxos de diálogo dinâmicos dividindo a resposta em segmentos. Para cada segmento, o leilão é condicionado à consulta e ao prefixo da resposta. O sistema reavalia se deve inserir um anúncio e qual selecionar, garantindo diversidade e evitando inserções repetitivas de categorias.

Contribuições Principais

1. Framework LERA: Um mecanismo de leilão em duas etapas novel que combina a eficiência da recuperação baseada em incorporação com a profundidade semântica do ranqueamento fino baseado em LLM, especificamente adaptado às restrições de inserção de anúncios em chatbots.
2. Regra de Pagamento de Valor Crítico: Um mecanismo de pagamento explicitamente projetado para um processo de seleção em duas etapas, contabilizando tanto os limites de entrada no conjunto de candidatos quanto a competição na etapa final para garantir veracidade.
3. Validação Empírica: Experimentos abrangentes demonstrando que o LERA supera as linhas de base apenas de incorporação e apenas de LLM em precisão de seleção e diversidade de inserção, mantendo latência controlável.

Resultados Experimentais

Os experimentos foram conduzidos em um benchmark sintético de 100 anunciantes em 8 categorias, utilizando modelos Qwen (4B, 30B, 235B) e SGLang para inferência de alto rendimento.

• Precisão de Seleção: Em tarefas de inserção de anúncio único envolvendo análise de intenção complexa, mudanças de intenção natural e refinamento negativo de produtos, o LERA superou consistentemente a linha de base apenas de incorporação. Por exemplo, com um modelo de 30B, o LERA alcançou 98,73% de precisão geral, comparado a 56,3% para a linha de base apenas de incorporação.
• Diversidade de Múltiplos Anúncios: Em cenários dinâmicos de múltiplos anúncios, o LERA melhorou significativamente a "Satisfação da Consulta" (a proporção de categorias solicitadas atendidas). O LERA alcançou 80,67% de satisfação com o modelo de 235B, enquanto a linha de base apenas de incorporação lutou com 45,33%.
• Trade-off Eficiência vs. Precisão:
  • LERA (Apenas LLM), que pontua todos os anunciantes com logits do LLM, alcançou alta precisão, mas sofreu com gargalos severos de rendimento devido aos requisitos de pré-preenchimento paralelo.
  • O LERA manteve alta precisão enquanto incorria apenas em sobrecarga de latência controlável comparado à linha de base apenas de incorporação, especialmente em níveis mais baixos de concorrência.
  • Estudos de ablação mostraram que a etapa de filtragem grossa (Etapa 1) é crucial não apenas para a velocidade, mas para melhorar a tarefa de ranqueamento fino ao reduzir o ruído para o LLM.

Significado e Alegações

O artigo posiciona o LERA como um passo prático em direção à implantação de inserção de anúncios baseada em leilão em chatbots impulsionados por LLM. Seu significado reside em resolver a tensão entre relevância semântica e rendimento do sistema.

• Praticidade: Ao incorporar a pontuação do LLM dentro de um mecanismo em duas etapas consciente do rendimento, o LERA torna viável o uso de logits do LLM para ranqueamento em aplicações em tempo real, evitando os custos proibitivos de pontuar todos os candidatos.
• Viabilidade Comercial: O framework aborda os desafios específicos da publicidade generativa, como evitar inserções repetitivas e lidar com restrições negativas (e.g., "Não quero X"), que modelos de incorporação frequentemente perdem.
• Fundamentação Teórica: A regra de pagamento proposta estende o design de leilão consciente de externalidades para o cenário generativo, garantindo que o mecanismo permaneça verdadeiro mesmo quando o valor do anúncio depende do contexto dinâmico da resposta gerada.

Os autores reconhecem limitações, notando que os resultados dependem de um conjunto de dados sintético e suposições teóricas sobre a independência entre probabilidade de clique e valor realizado. No entanto, eles afirmam que o LERA representa uma arquitetura viável para equilibrar objetivos comerciais com a experiência do usuário na paisagem emergente da IA generativa.