Résumé technique : Génération d'identifiants sémantiques pilotée par l'intention pour la recommandation de nouvelles conversationnelle ancrée

1. Définition du problème

L'article aborde les défis uniques de la recommandation de nouvelles conversationnelle sur une plateforme d'actualités chinoise grand public. Contrairement aux domaines à catalogue stable (par exemple, les films ou le commerce électronique), les articles de presse ont un cycle de vie court, la plupart expirant dans les 24 heures. Cela crée des problèmes de démarrage à froid omniprésents, tant pour les articles que pour les utilisateurs.

Les auteurs identifient un goulot d'étranglement critique dans les pipelines standard de Génération Augmentée par la Recherche (RAG) : les intentions implicites des utilisateurs. Grâce à une analyse des dialogues de production, ils catégorisent les requêtes des utilisateurs en six types d'intention. Un seul type (les requêtes explicites par mots-clés) se prête à une recherche standard. Les cinq autres types — besoins implicites, poursuite de conversation, recherche de diversité, ajustement par feedback et scénarios de démarrage à froid — manquent de mots-clés recherchables. Par conséquent, les méthodes RAG standard et la recherche par embedding échouent à construire des requêtes efficaces pour ces intentions, conduisant à un goulot d'étranglement « recherche d'abord » où le système ne peut pas mettre en avant de contenu pertinent sans termes de recherche explicites.

De plus, les méthodes de recommandation générative existantes (par exemple, TIGER, OneRec) reposent fortement sur des séquences comportementales riches pour la prédiction de l'article suivant, ce qui les rend inefficaces pour les utilisateurs en démarrage à froid qui n'ont pas d'historique d'interaction.

2. Méthodologie : Générer puis Appairer

Les auteurs proposent un changement de paradigme, passant de « Rechercher puis Générer » à « Générer puis Appairer ». Au lieu d'utiliser une requête utilisateur pour récupérer des candidats, le système utilise un Grand Modèle de Langage (LLM) pour générer directement des Identifiants Sémantiques (SID) qui encodent l'intention déduite de l'utilisateur. Ces préfixes de SID générés sont ensuite appariés de manière floue avec le pool d'actualités actuel pour garantir que la recommandation corresponde à un article réel et existant.

Composants principaux

A. Structure de l'Identifiant Sémantique (SID)
Le système utilise une structure de SID hiérarchique à 4 couches ($\langle s_1, s_2, s_3, s_4 \rangle$) générée par un RQ-VAE à partir des embeddings de contenu d'articles :

• $s_1, s_2$: Régions sémantiques larges et groupes de niveau intermédiaire.
• $s_3$: Grappes fines.
• $s_4$: Identifiants d'articles quasi uniques.
  Le modèle génère uniquement le préfixe à 3 couches ($s_1, s_2, s_3$). Cela offre une granularité suffisante pour refléter l'intention de l'utilisateur tout en restant stable lors des rafraîchissements quotidiens du pool, évitant ainsi l'instabilité liée à la prédiction de l'identifiant d'article spécifique ($s_4$).

B. Raisonnement à double signal conscient du profil (PADR)
Pour gérer l'ensemble du spectre des états utilisateurs, en particulier les utilisateurs en démarrage à froid, les auteurs introduisent le PADR. Ce cadre achemine de manière adaptative le contexte utilisateur à travers trois voies de raisonnement basées sur la disponibilité de l'historique comportemental ($h_u$) et des caractéristiques du profil ($p_u$) :

1. Voie chaude ($|h_u| \ge \tau$) : Corrèle l'historique comportemental riche avec les caractéristiques du profil.
2. Voie hybride ($0 < |h_u| < \tau$) : Met en relation les clics épars avec les données du profil.
3. Voie froide ($|h_u| = 0$) : Infère les intérêts uniquement à partir des données démographiques et des préférences déclarées dans le profil.
   Crucialement, le PADR n'utilise pas de repli basé sur des règles ; le modèle apprend des stratégies de raisonnement différenciées pour chaque état via une distillation de la Chaîne de Pensée (CoT).

C. Pipeline d'entraînement en deux étapes

1. Étape 1 : Alignement multi-tâches des SID : Le modèle est entraîné sur 483 000 échantillons selon six objectifs, incluant la compréhension des SID (mapping bidirectionnel entre contenu et SID), la modélisation utilisateur (résumé comportemental) et le dialogue de recommandation. Cela ancre le modèle dans le vocabulaire des SID.
2. Étape 2 : Distillation CoT du PADR : En utilisant GPT-4 pour générer des traces CoT de référence pour 48 000 échantillons, le modèle apprend à raisonner sur lesquels des SID générer en fonction de l'état de l'utilisateur. Cette étape met l'accent sur la différenciation des intentions (par exemple, inférence démographique-vers-intérêts pour le démarrage à froid) et sur une longueur de CoT contrôlée (150–300 caractères) pour prévenir la dégradation du raisonnement.

D. Appariement flou et ancrage
Les préfixes générés sont appariés au pool d'actualités actuel avec une tolérance $\delta$ sur la troisième couche ($s_3$) :
$$\text{Match}(P, \mathcal{P}) = \{ n \in \mathcal{P} : s'_1=s_1, s'_2=s_2, |s'_3-s_3| \le \delta \}$$
Un appariement strict est appliqué à $s_1$ et $s_2$ pour préserver la cohérence sémantique, tandis que la tolérance sur $s_3$ prend en compte l'incertitude de la prédiction. Cette contrainte structurelle garantit que chaque sortie existe dans le pool actuel, éliminant les hallucinations par construction.

E. Architecture à double voie
Pour répondre aux exigences industrielles de latence (<100 ms), le système emploie une approche à double voie :

• Voie rapide : Récupère des préfixes de SID mis en cache, indépendants du pool, et effectue un appariement flou.
• Voie d'amélioration : S'exécute de manière asynchrone pour effectuer l'inférence complète du PADR et mettre à jour le cache, garantissant que les recommandations restent opportunes même avant qu'un utilisateur n'initie une conversation.

3. Contributions clés

1. Générer puis Appairer piloté par l'intention : Un paradigme novateur qui contourne le goulot d'étranglement « recherche d'abord » pour les intentions implicites en générant directement des préfixes de SID ancrés à partir du contexte utilisateur.
2. Raisonnement à double signal conscient du profil (PADR) : Un cadre adaptatif qui permet aux utilisateurs en démarrage à froid (sans historique) de recevoir des recommandations valides en utilisant uniquement des données de profil, atteignant des performances comparables ou supérieures à celles des utilisateurs en démarrage chaud.
3. Validation à l'échelle industrielle : Un déploiement sur un pool d'actualités de 163 000 articles démontrant une absence totale d'hallucinations et une latence inférieure à 100 ms, surpassant les bases de référence de production et les approches RAG sur des métriques fines.

4. Résultats expérimentaux

Évalué sur un espace de génération ouverte de SID de 152 000 éléments avec 9 982 échantillons de test :

• Réduction des hallucinations : L'entraînement en deux étapes a réduit les taux d'hallucination d'environ 70–95 % (dans les LLM de base sans entraînement SID) à 0 %.
• Performance de génération ouverte : Le modèle 7B a atteint un appariement L1 de 12,4 % (catégorie de premier niveau), soit une amélioration de 4 fois par rapport à une devinette aléatoire et une amélioration statistiquement significative par rapport à la base de référence de production (Hist-Pop, 11,6 %).
• Comparaison avec RAG : Le modèle a égalé GPT-4 + RAG hybride sur l'appariement L1 (12,4 %) mais l'a surpassé sur des métriques plus fines (appariement L2 : 1,0 % contre 0,5 % ; appariement de catégorie : 20,0 % contre 18,8 %) à un coût d'inférence environ 100 fois inférieur.
• Performance en démarrage à froid : Les bases de référence existantes (SASRec, TIGER, OneRec) ont obtenu 0 % sur les utilisateurs purement en démarrage à froid. Le PADR a atteint un appariement L1 de 18,0 % pour les utilisateurs purement en démarrage à froid, le plus élevé parmi tous les groupes d'utilisateurs, surpassant les tâches de démarrage chaud (11,9 %).
• Latence : L'architecture à double voie a atteint une latence moyenne de démarrage chaud de 85 ms (P95 : 150 ms).

5. Signification et affirmations

L'article affirme que le paradigme Générer puis Appairer résout structurellement le problème des hallucinations dans la recommandation générative en garantissant que chaque sortie est ancrée dans le pool d'articles actuel. Il soutient que pour les domaines à cycle de vie court des articles et à forte proportion d'intentions implicites (comme les actualités), les approches traditionnelles de recherche d'abord sont fondamentalement limitées car elles ne peuvent pas construire de requêtes pour des intentions dépourvues de mots-clés.

Les auteurs soulignent que leur approche permet aux utilisateurs en démarrage à froid d'atteindre la plus grande précision, remettant en cause la sagesse conventionnelle selon laquelle les utilisateurs en démarrage à froid sont les plus difficiles à servir. Ils attribuent cela à l'efficacité du raisonnement basé sur le profil pour réduire l'espace de recherche plus efficacement que des histoires comportementales bruyantes et éparses.

Enfin, l'article met en avant la viabilité industrielle du système, notant qu'il gère avec succès 6 types d'intentions distincts, maintient une absence totale d'hallucinations lors des pilotes de production et fonctionne avec une latence inférieure à 100 ms, le rendant adapté aux assistants conversationnels en temps réel. Les auteurs suggèrent que ce cadre est largement applicable à d'autres domaines de recommandation à cycle de vie court tels que les courtes vidéos et le streaming en direct.