Résumé Technique : LERA - RAG Amélioré par les LLM pour les Enchères Publicitaires dans les Chatbots Génératifs

Énoncé du Problème

L'intégration de la publicité dans les chatbots basés sur les grands modèles de langage (LLM) présente un défi de monétisation unique. Contrairement à la recherche sponsorisée traditionnelle où les annonces occupent des emplacements prédéfinis, la publicité dans les chatbots nécessite de décider si et comment intégrer une publicité dans une réponse générée. Cela exige un mécanisme qui équilibre trois facteurs concurrents :

1. Pertinence : La publicité doit s'aligner sur l'intention nuancée de l'utilisateur, le contexte commercial et le flux dynamique du dialogue.
2. Efficacité : Le processus d'enchère et de sélection doit engendrer une latence minimale pour préserver le caractère temps réel des interactions de chat.
3. Véracité : Le mécanisme doit soutenir des enchères incitativement compatibles, garantissant que les annonceurs sont motivés à enchérir sur leur vraie valeur par clic.

Les approches existantes font face à des compromis significatifs. Les méthodes Récupérer puis Générer (par exemple, Hajiaghayi et al. [9]) sont efficaces mais reposent uniquement sur la similarité des embeddings textuels, ce qui échoue souvent à capturer une intention commerciale complexe, conduisant à des insertions répétitives ou à des interprétations commerciales erronées. Les méthodes Générer puis Récupérer exploitent la compréhension contextuelle des LLM mais nécessitent souvent plusieurs passes d'inférence par requête ou le classement de tous les annonceurs, entraînant une latence et des coûts d'inférence prohibitifs. De plus, l'utilisation directe des logits des LLM pour classer tous les candidats dans des moteurs à haut débit (comme SGLang) crée des goulots d'étranglement substantiels en raison de la nécessité d'un pré-remplissage parallèle sur de grands ensembles de candidats.

Méthodologie : Le Cadre LERA

L'article propose LERA (RAG Amélioré par les LLM pour les Enchères Publicitaires), un cadre d'enchère en deux étapes « récupérer puis générer » conçu pour découpler l'efficacité de la sophistication sémantique.

1. Processus d'Allocation en Deux Étapes

L'innovation centrale est un mécanisme de scoring hybride qui restreint le calcul coûteux des LLM à un petit ensemble de candidats pré-filtrés.

• Étape 1 : Filtrage Grossier Basé sur les Embeddings

  • Au lieu d'utiliser directement la requête brute de l'utilisateur, un LLM génère d'abord un ensemble concis de mots-clés d'intention ($w$) résumant les besoins sous-jacents de l'utilisateur.
  • Ces mots-clés sont intégrés (embeddés) et comparés aux descriptions des annonceurs ($d_i$) en utilisant une similarité cosinus normalisée.
  • Le score de pertinence est pondéré par l'enchère de l'annonceur ($b_i$) : $Score^{(1)}_i = \text{Norm}(\text{Similarité}(\text{Emb}(w), \text{Emb}(d_i))) \cdot b_i$.
  • Les $K$ meilleurs annonceurs ($K \ll N$) forment l'ensemble de candidats $S$. Cette étape assure un débit élevé en filtrant la grande majorité des annonceurs non pertinents à l'aide d'opérations d'embedding légères.

• Étape 2 : Classement Fin par Logits des LLM

  • La requête originale $x$, l'ensemble de candidats $S$ et une option « non-insertion » ($\phi$) sont présentés au LLM.
  • Le LLM est invité à identifier la publicité la plus appropriée. Au lieu de générer du texte, le système extrait les logits pour les étiquettes des candidats (y compris l'option de non-insertion).
  • Ces logits sont normalisés via une fonction softmax pour produire des scores de pertinence organique affinés ($s^{(2)}_j$).
  • Le score d'enchère final est $Score^{(2)}_j = s^{(2)}_j \cdot b_j$. Le gagnant est le candidat ayant le score le plus élevé. Si l'option de non-insertion gagne, aucune publicité n'est affichée.

2. Règle de Paiement et Compatibilité Incitative

Pour garantir la véracité, LERA emploie une Règle de Paiement à Valeur Critique. Contrairement à une enchère au second prix standard, le gagnant doit satisfaire deux contraintes : entrer dans l'ensemble des $K$ meilleurs de l'Étape 1 et gagner le classement de l'Étape 2.

Le paiement $p_{i^*}$ pour l'annonceur gagnant $i^*$ est défini comme suit :
$$p_{i^*} = \max \left( \frac{Score^{(1)}_{(K+1)}}{s^{(1)}_{i^*}}, \frac{Score^{(2)}_{(2)}}{s^{(2)}_{i^*}} \right)$$
Où :

• $Score^{(1)}_{(K+1)}$ est le score seuil requis pour entrer dans l'ensemble de candidats.
• $Score^{(2)}_{(2)}$ est le deuxième score le plus élevé dans le classement final.
• Le paiement est le maximum des valeurs critiques requises pour passer les deux étapes.

L'article démontre (Proposition 4.1) que, sous les hypothèses d'indépendance entre les résultats de clic et les valeurs réalisées, et d'estimations a priori non biaisées, ce mécanisme est incitativement compatible pour les annonceurs maximisant leur utilité.

3. Extension à l'Insertion Multi-Publicitaire

Le cadre s'étend aux flux de dialogue dynamiques en divisant la réponse en segments. Pour chaque segment, l'enchère est conditionnée par la requête et le préfixe de la réponse. Le système réévalue s'il faut insérer une publicité et laquelle sélectionner, garantissant la diversité et évitant les insertions répétitives de catégories.

Contributions Clés

1. Cadre LERA : Un mécanisme d'enchère novateur en deux étapes qui combine l'efficacité de la récupération basée sur les embeddings avec la profondeur sémantique du classement fin par LLM, spécifiquement adapté aux contraintes de l'insertion publicitaire dans les chatbots.
2. Règle de Paiement à Valeur Critique : Un mécanisme de paiement explicitement conçu pour un processus de sélection en deux étapes, tenant compte à la fois des seuils d'entrée dans l'ensemble de candidats et de la compétition de l'étape finale pour garantir la véracité.
3. Validation Empirique : Des expériences complètes démontrant que LERA surpasse les bases de référence uniquement basées sur les embeddings et uniquement sur les LLM en termes de précision de sélection et de diversité d'insertion, tout en maintenant une latence contrôlable.

Résultats Expérimentaux

Les expériences ont été menées sur un benchmark synthétique de 100 annonceurs répartis sur 8 catégories, utilisant les modèles Qwen (4B, 30B, 235B) et SGLang pour une inférence à haut débit.

• Précision de Sélection : Dans les tâches d'insertion d'une seule publicité impliquant une analyse d'intention complexe, des changements d'intention naturels et un raffinement négatif de produit, LERA a constamment surpassé la base de référence uniquement basée sur les embeddings. Par exemple, avec un modèle 30B, LERA a atteint 98,73 % de précision globale contre 56,3 % pour la base de référence uniquement basée sur les embeddings.
• Diversité Multi-Publicitaire : Dans les scénarios dynamiques multi-publicités, LERA a considérablement amélioré la « Satisfaction de la Requête » (la proportion de catégories demandées satisfaites). LERA a atteint 80,67 % de satisfaction avec le modèle 235B, tandis que la base de référence uniquement basée sur les embeddings peinait à 45,33 %.
• Compromis Efficacité vs Précision :
  • LERA (LLM-only), qui classe tous les annonceurs avec les logits des LLM, a atteint une haute précision mais a souffert de goulots d'étranglement de débit sévères en raison des exigences de pré-remplissage parallèle.
  • LERA a maintenu une haute précision tout en n'engendrant qu'une surcharge de latence contrôlable par rapport à la base de référence uniquement basée sur les embeddings, en particulier à des niveaux de concurrence plus faibles.
  • Les études d'ablation ont montré que l'étape de filtrage grossier (Étape 1) est cruciale non seulement pour la vitesse, mais aussi pour améliorer la tâche de classement fin en réduisant le bruit pour le LLM.

Importance et Revendications

L'article positionne LERA comme une étape pratique vers le déploiement d'insertions publicitaires basées sur des enchères dans les chatbots alimentés par des LLM. Son importance réside dans la résolution de la tension entre pertinence sémantique et débit système.

• Praticité : En intégrant le scoring par LLM dans un mécanisme en deux étapes conscient du débit, LERA rend l'utilisation des logits des LLM pour le classement réalisable dans des applications temps réel, évitant les coûts prohibitifs du classement de tous les candidats.
• Viabilité Commerciale : Le cadre répond aux défis spécifiques de la publicité générative, tels que l'évitement des insertions répétitives et la gestion des contraintes négatives (par exemple, « Je ne veux pas X »), que les modèles d'embeddings manquent souvent.
• Fondement Théorique : La règle de paiement proposée étend la conception d'enchères conscientes des externalités au contexte génératif, garantissant que le mécanisme reste véridique même lorsque la valeur de la publicité dépend du contexte dynamique de la réponse générée.

Les auteurs reconnaissent des limites, notant que les résultats reposent sur un ensemble de données synthétique et des hypothèses théoriques concernant l'indépendance entre la probabilité de clic et la valeur réalisée. Cependant, ils affirment que LERA représente une architecture viable pour équilibrer les objectifs commerciaux avec l'expérience utilisateur dans le paysage émergent de l'IA générative.