Résumé technique : Une approche générative en cascade pour les recommandations de commerce électronique

1. Énoncé du problème

Les interfaces de commerce électronique traditionnelles reposent sur un pipeline modulaire où des merchandisers humains définissent des thèmes de contenu statiques (emplacements), des systèmes de récupération récupèrent des produits et des modèles de classement ordonnent les articles. Bien que cette approche soit efficace pour les préférences agrégées, ce paradigme souffre de trois limitations critiques :

1. Passage à l'échelle de la personnalisation : La création manuelle de contenu est coûteuse et lente, empêchant une personnalisation approfondie basée sur des états utilisateurs transitoires (par exemple, besoins saisonniers, engagement en temps réel).
2. Manque de cohérence : La génération de contenu indépendante par différents merchandisers entraîne souvent une expérience utilisateur disjointe, dépourvue de continuité sémantique entre les sections de la page.
3. Rigidité : Des structures sémantiques fixes rendent difficile l'adaptation à des objectifs commerciaux dynamiques ou à des objectifs au niveau de la page tels que la diversité et la cohérence.

Les auteurs proposent de remplacer ce pipeline rigide par un cadre génératif en cascade qui construit dynamiquement des interfaces personnalisées tout en maintenant la compatibilité avec les infrastructures existantes de récupération et de classement.

2. Méthodologie

L'architecture proposée décompose la construction de l'interface en un pipeline à quatre phases, privilégiant une approche générative « du haut vers le bas » par rapport à une génération d'articles « du bas vers le haut » pour gérer la latence et les contraintes de vocabulaire.

4.1 Vue d'ensemble de l'architecture

Le pipeline se compose de :

1. Conception de page et génération de thèmes : Génération de thèmes d'emplacements personnalisés de haut niveau.
2. Génération de mots-clés de récupération : Conversion des thèmes en requêtes de recherche spécifiques ou en nœuds de taxonomie.
3. Filtrage de qualité et de diversité : Assurer la pertinence et la conformité aux politiques.
4. Classement des articles et de la page : Intégration avec les services de classement existants.

4.2 Phase 1 : Génération de thèmes

Un « Agent de conception de page » (LLM1) utilise le contexte utilisateur brut ($c_u$, incluant l'historique d'achat et les préférences) pour générer un tableau ordonné de $m$ thèmes d'emplacements ($t_{iu}$).

• Mécanisme : Utilisation d'un modèle de langage à grande échelle (LLM) à poids fermés avec un décodage contraint et une sortie structurée pour garantir que les thèmes sont des intentions d'achat discrètes et cohérentes (par exemple, « Créateurs de saveurs pour les repas en semaine »).
• Sortie : Génère à la fois les titres des thèmes et les signaux dérivés (personas utilisateurs, concepts de produits) pour réduire la redondance dans les phases suivantes.
• Garanties : Des basculements déterministes sont employés si la génération échoue ou viole les contraintes commerciales ou politiques.

4.3 Phase 2 : Génération de mots-clés de récupération

Chaque thème généré est transmis à une deuxième étape pour produire des descripteurs compatibles avec la récupération (mots-clés) pour la récupération de produits.

• Distillation Enseignant-Élève : Pour répondre à la latence et aux coûts de production, un LLM « Enseignant » à poids fermés (GPT-5) génère des données supervisées de haute qualité. Un modèle « Élève » interne est ensuite affiné en utilisant des adaptateurs LoRA pour imiter l'enseignant.
  • Résultats d'ablation : Le modèle élève Llama-3.2-3B, affiné avec des étiquettes filtrées par assurance qualité par IA (AIQA), a atteint une performance équivalente à celle de l'enseignant tout en offrant des avantages significatifs en termes de coût d'inférence.
• Génération augmentée par récupération (RAG) : Pour contraindre l'espace de génération et améliorer la précision, le système récupère des mots-clés candidats dans un corpus de 300 000 termes en utilisant une similarité basée sur les plongements par rapport aux concepts de produits générés. Ce sous-ensemble raffiné est transmis au modèle Élève (LLM2) pour une génération contrainte.
  • Impact : La RAG réduit les coûts totaux d'inférence de 15 à 20 % par rapport au passage du corpus complet comme contexte.

4.4 Phase 3 : Filtrage de qualité et de diversité

Deux mécanismes garantissent que la sortie finale est sûre et pertinente :

1. Déduplication sémantique : Les plongements des thèmes générés sont comparés pour supprimer les thèmes redondants pour un seul utilisateur.
2. Filtrage de pertinence par Cross-Encoder : Un cross-encoder DeBERTa-v3-base affiné valide la pertinence entre le thème généré et la série de produits récupérés. Ce modèle, entraîné sur des paires de vérité terrain validées par le modèle enseignant, atteint une concordance de plus de 90 % avec les étiquettes de vérité terrain. Il réduit les coûts d'inférence de plus de 99 % par rapport à l'utilisation d'un LLM en tant que juge pour le filtrage, permettant une application en temps réel pour tous les utilisateurs.

4.5 Phase 4 : Intégration

La liste finale des emplacements ordonnés et des mots-clés est mise en cache pour une récupération à faible latence. Les services de classement existants récupèrent le contenu généré, effectuent tout reclassement nécessaire et servent la page finale. Cette conception découple la récupération générative du classement traditionnel tout en préservant l'infrastructure hybride.

3. Contributions clés

1. Cadre génératif en cascade : Une approche générative novatrice à deux étapes (Thème $\to$ Mot-clé) qui redéfinit la construction d'interface, équilibrant la personnalisation approfondie avec les contraintes du commerce électronique à grande échelle.
2. Pipeline Enseignant-Élève évolutif : Une méthodologie exploitant des LLM à poids fermés pour la génération de données et des modèles plus petits affinés (Llama/Qwen) pour l'inférence de production, atteignant des performances quasi équivalentes avec une latence et un coût nettement inférieurs.
3. Génération contrainte par RAG : L'intégration de la récupération basée sur les plongements pour contraindre la génération de mots-clés au sein d'une taxonomie sélectionnée, réduisant efficacement les hallucinations et les coûts d'inférence.
4. Assurance qualité pilotée par l'IA : Un cadre d'évaluation multi-niveaux combinant un LLM en tant que juge pour l'analyse hors ligne et un cross-encoder hautement efficace et affiné pour le filtrage en ligne, permettant un déploiement automatisé et sécurisé de contenu dynamique.

4. Résultats expérimentaux

Évaluation hors ligne

• Précision : Le modèle enseignant GPT-5 a établi un plafond de qualité avec une Précision Produit-Thème (P-T@5) de 0,931, surpassant significativement la ligne de base de production (0,824).
• Performance de l'élève : Le modèle Llama-3.2-3B affiné (avec des étiquettes AIQA) a atteint un P-T@5 de 0,915, égalant ou dépassant les variantes élève plus grandes (par exemple, 8B, 32B) tout en étant plus efficace.
• Impact de l'AIQA : L'entraînement de modèles élèves avec des étiquettes curatées par AIQA a systématiquement amélioré la précision (par exemple, Llama-3.1 8B est passé de 0,905 à 0,914).
• Densité de rappel : Les politiques génératives ont montré une densité de rappel inférieure à celle de la ligne de base, reflétant un compromis où le système produit des requêtes plus ciblées et compositionnelles avec des ensembles de résultats plus petits mais plus pertinents.

Évaluation en ligne (Tests A/B)

Déployé auprès de centaines de milliers d'utilisateurs sur un grand marché de produits alimentaires :

• Ajouts au panier : Le cadre a généré un gain statistiquement significatif de +2,7 % dans les ajouts au panier par vue de page ($p=0,0001$) et un gain de +1,0 % par visite ($p=0,01$).
• Couverture de la longue traîne : Le système a mis en évidence avec succès des carrousels pertinents pour des préférences de niche (par exemple, besoins alimentaires spécifiques) qui étaient auparavant sous-desservis par la curation manuelle.
• Latence : Malgré l'ajout de l'inférence LLM, la latence de bout en bout est restée inchangée grâce à une mise en cache agressive des thèmes et des mots-clés générés.

5. Importance et revendications

L'article affirme que ce cadre comble avec succès le fossé entre la flexibilité de l'IA générative et la stabilité requise pour le commerce électronique à l'échelle industrielle. En décomposant le problème en planification sémantique (thèmes) et récupération contrainte (mots-clés), les auteurs démontrent que :

• La personnalisation peut être dynamique : Les interfaces peuvent s'adapter au contexte utilisateur en temps réel sans intervention manuelle.
• Les coûts et la latence sont gérables : Grâce à la distillation enseignant-élève et à la RAG, le système approche les performances des modèles massifs à poids fermés tout en restant viable pour la production.
• L'infrastructure hybride est préservée : L'approche ne nécessite pas le remplacement des systèmes de classement existants mais les renforce plutôt par du contenu génératif, permettant une évolution modulaire de la pile de recommandation.

Les auteurs reconnaissent des limitations, notamment des biais de popularité potentiels dans les modèles affinés, des risques de « effondrement du carrousel » si la couverture du catalogue est insuffisante pour des requêtes hautement personnalisées, et la propagation d'erreurs entre les phases en cascade. Ils identifient l'affinement par renforcement (RFT) et l'expansion dynamique de la taxonomie comme des domaines clés pour les travaux futurs.