DeepInterestGR: Mining Deep Multi-Interest Using Multi-Modal LLMs for Generative Recommendation

DeepInterestGR est un cadre de recommandation générative innovant qui résout le problème des intérêts superficiels en exploitant des modèles de langage multimodaux pour extraire des préférences utilisateurs profondes, lesquelles sont ensuite intégrées via un apprentissage par renforcement pour améliorer la précision et l'interprétabilité des recommandations.

L'essentiel

Imaginez que vous êtes un libraire très intelligent, mais un peu naïf. Jusqu'à présent, pour vous recommander un livre, il regardait uniquement la couverture et le titre de ce que vous avez lu. Si vous avez acheté un livre sur "la cuisine italienne", il vous proposera d'autres livres avec "pâtes" ou "tomates" dans le titre.

C'est ce qu'on appelle le problème de l'"Intérêt Superficiel". Le libraire voit la surface, mais il ne comprend pas pourquoi vous aimez ça. Peut-être que vous ne cherchez pas la cuisine, mais le "confort familial" ou "l'évasion romantique".

Le papier que vous avez soumis, DeepInterestGR, propose une révolution : il donne à ce libraire une super-intelligence artificielle (des modèles de langage avancés) pour qu'il puisse lire entre les lignes et comprendre vos véritables passions cachées.

Voici comment cela fonctionne, expliqué simplement :

1. Le Problème : Le Libraire qui ne voit que l'étiquette

Les systèmes de recommandation actuels sont comme des robots qui ne lisent que les étiquettes. Ils savent que vous avez acheté des "écouteurs sans fil", mais ils ne savent pas que vous les avez achetés parce que vous êtes un cycliste passionné qui veut écouter de la musique en courant, ou un voyageur qui veut isoler le bruit du train. Ils manquent la profondeur de votre personnalité.

2. La Solution : Le Détective de Passions (DeepInterestGR)

L'équipe a créé un nouveau système en trois étapes magiques :

Étape A : Le "Grand Conseil" d'Experts (MLIM)

Au lieu de demander à un seul robot de deviner ce que vous aimez, le système fait appel à un conseil d'experts virtuels (comme GPT, Gemini, Kimi, etc.).

• L'analogie : Imaginez que vous montrez un objet à 4 détectives différents. L'un dit : "C'est pour le sport", l'autre : "C'est pour le style de vie", le troisième : "C'est pour la technologie".
• En combinant leurs avis, le système crée une carte de vos intérêts profonds. Il ne voit plus juste "écouteurs", il voit "lifestyle sportif et voyage".

Étape B : Le Tri des Vrais Intérêts (RLDI)

Parfois, les détectives peuvent se tromper ou être trop vagues.

• L'analogie : C'est comme un chef cuisinier qui goûte la soupe. Il a un petit robot (un classificateur) qui dit : "Cette idée d'intérêt est bonne et précise (positive)" ou "C'est trop vague, on jette (négative)".
• Cela permet de ne garder que les véritables passions de l'utilisateur pour les utiliser comme boussole.

Étape C : La Traduction en Code Secret (IEID)

Le système prend ces nouvelles idées profondes et les transforme en un code secret (des "Semantic IDs") que l'ordinateur comprend parfaitement.

• L'analogie : Au lieu de classer les livres par titre, on les classe par "ambiance" et "émotion". Si vous aimez le "confort", le système vous montrera tout ce qui dégage cette chaleur, même si les titres sont différents.

3. L'Entraînement : L'Apprentissage par l'Erreur (Récompense)

Le système s'entraîne en deux temps :

1. Lecture intensive (SFT) : Il apprend à lire les livres et à comprendre le code secret.
2. Le Jeu de la Récompense (RL) : C'est ici que la magie opère. Le système essaie de deviner votre prochain achat.
   • S'il devine juste ET que sa suggestion correspond à vos "vrais intérêts" (ceux détectés par le conseil d'experts), il reçoit une grosse récompense.
   • S'il devine juste mais pour la mauvaise raison (juste par hasard), la récompense est plus petite.
   • Cela force le système à devenir un psychologue de vos goûts, pas juste un statisticien.

Le Résultat : Pourquoi c'est génial ?

Les tests montrent que ce système est bien meilleur que les anciens :

• Il recommande des choses qui vous plaisent vraiment, pas juste des choses qui ressemblent à ce que vous avez déjà acheté.
• Le super-pouvoir : Si vous aimez la "cuisine italienne" dans le domaine de la nourriture, le système comprend que vous aimez aussi le "style de vie italien" dans la mode ou le voyage. Il peut vous recommander des vêtements ou des destinations, même si vous n'avez jamais acheté de vêtements avant. C'est ce qu'on appelle la généralisation.

En résumé :
Alors que les anciens systèmes vous disaient : "Vous avez acheté X, voici un autre X", DeepInterestGR vous dit : "Vous aimez la sensation de liberté et d'aventure que X vous procure, voici Y et Z qui vous donneront exactement la même émotion."

C'est passer d'un vendeur de magasin qui lit les étiquettes, à un ami qui vous connaît vraiment.

Résumé technique

Résumé Technique : DeepInterestGR

1. Problématique : Le problème de l'« Intérêt Superficiel »

Le papier identifie une limitation critique dans les systèmes de recommandation génératifs existants (comme TIGER, LC-Rec). Bien que ces modèles aient reformulé la prédiction d'articles comme un problème de génération de séquences (via des IDs Sémantiques ou SIDs), ils souffrent d'un problème de « Shallow Interest » (Intérêt Superficiel).

• Cause : Les méthodes actuelles encodent les articles uniquement à partir de caractéristiques textuelles de surface (titres, descriptions) et de signaux comportementaux directs.
• Conséquence : Elles échouent à capturer les intérêts latents, sémantiquement riches qui sous-tendent les interactions utilisateurs (par exemple, comprendre qu'un achat d'écouteurs sans fil révèle un intérêt pour le « mode de vie sportif » ou la « commodité des déplacements », et non juste le produit lui-même).
• Impact : Cela limite la profondeur de la personnalisation, la capacité d'interprétabilité du modèle et la qualité des signaux de supervision pour l'apprentissage par renforcement (RL).

2. Méthodologie : Le Framework DeepInterestGR

DeepInterestGR propose une nouvelle architecture qui intègre l'extraction d'intérêts profonds directement dans le pipeline de recommandation générative. L'approche repose sur trois innovations majeures et un pipeline d'entraînement en deux étapes.

A. Les Trois Innovations Clés

1. MLIM (Multi-LLM Interest Mining) :

   • Concept : Utilisation systématique de plusieurs modèles de langage avancés (LLM) frontaux (ex: GPT-5.1, Gemini-3-Pro, Kimi-K2, Grok-4) et de leurs variantes multimodales.
   • Mécanisme : Grâce à des prompts de type Chain-of-Thought (CoT), ces LLMs analysent les métadonnées des articles (texte + image) pour extraire des descriptions d'intérêts interprétables et profonds (ex: « style de vie axé sur la productivité »).
   • Ensemble : Une stratégie d'agrégation combine les sorties de plusieurs LLMs pour identifier un consensus d'intérêts, enrichissant ainsi la représentation au-delà des capacités d'un seul modèle.

2. RLDI (Reward-Labeled Deep Interest) :

   • Objectif : Assurer la qualité des intérêts minés avant leur utilisation dans l'apprentissage par renforcement.
   • Mécanisme : Un classificateur binaire léger (basé sur Qwen-Chat) attribue une étiquette de récompense (positif/négatif) à chaque intérêt extrait. Les intérêts positifs sont spécifiques et actionnables, tandis que les négatifs sont vagues.
   • Validation : Une validation humaine a montré un taux d'accord de 87,2 % entre les étiquettes LLM et le jugement humain.

3. IEID (Interest-Enhanced Item Discretization) :

   • Concept : Encodage des intérêts profonds minés dans des représentations sémantiques.
   • Mécanisme : Les descriptions d'intérêts sont vectorisées via un modèle d'embedding (Qwen3-Embedding-4B) puis quantifiées en tokens d'ID Sémantique (SID) via un RQ-VAE (Residual Quantization Variational Autoencoder).
   • Résultat : Les articles partageant des intérêts latents similaires sont mappés dans des régions proches de l'espace SID, permettant au modèle génératif d'apprendre des relations basées sur l'intention plutôt que sur la similarité textuelle superficielle.

B. Pipeline d'Entraînement

Le modèle suit une approche en deux étapes :

1. Ajustement Fin Supervisé (SFT) : Alignement du modèle génératif (basé sur un Transformer autoregressif) avec les séquences de SIDs enrichies par les intérêts profonds et les motifs de filtrage collaboratif.
2. Apprentissage par Renforcement (RL) : Utilisation de l'algorithme GRPO (Group Relative Policy Optimization).
   • Récompense Consciente de l'Intérêt (Interest-Aware Reward) : La fonction de récompense combine la précision de base (hit rate) avec un bonus si l'article recommandé correspond à un intérêt qualifié comme « positif » par le module RLDI. Cela guide la politique du modèle vers des séquences plus personnalisées et sémantiquement cohérentes.

3. Résultats Expérimentaux

Les expériences ont été menées sur trois benchmarks réels de l'ensemble de données Amazon Reviews (Beauté, Sports, Instruments).

• Performance Globale (RQ1) : DeepInterestGR surpasse systématiquement les modèles de l'état de l'art (y compris SASRec, BERT4Rec, TIGER, LC-Rec, et les modèles basés sur LLM comme BIGRec).
  • Améliorations relatives : +9,2 % à +15,1 % sur les métriques HR@K et NDCG@K par rapport aux meilleurs baselines.
• Étude d'Ablation (RQ2) :
  • Le module MLIM est le composant le plus critique (chute de 11,8 % de HR@5 sans lui).
  • Le module IEID enrichit significativement les représentations (-8,4 % sans lui).
  • La Récompense Consciente de l'Intérêt et l'étape RL sont essentielles pour l'optimisation finale de la politique.
• Analyse des Composants (RQ3-RQ5) :
  • Ensemble de LLMs : L'utilisation combinée de plusieurs LLMs donne de meilleurs résultats que l'utilisation d'un seul modèle, prouvant la complémentarité de leurs connaissances.
  • Multimodalité : L'ajout de signaux visuels (via des LLMs multimodaux) améliore les performances de 5 % à 5,8 %, particulièrement crucial pour le domaine de la beauté où l'esthétique visuelle est prédominante.
  • Stratégie de Récompense : La récompense basée sur la qualité sémantique (RLDI) surpasse les récompenses basées sur des règles ou purement collaboratives.
• Généralisation Transversale (RQ6) :
  • Le modèle démontre une excellente capacité de transfert entre domaines (ex: entraîné sur "Beauté", testé sur "Sports").
  • Gain moyen de +24,8 % en HR@10 et +27,3 % en N@10 par rapport aux baselines, car les intérêts profonds (ex: « soucieux de la qualité ») sont universels, contrairement aux caractéristiques textuelles spécifiques à un domaine.

4. Contributions et Signification

• Changement de Paradigme : Le papier déplace le focus de la recommandation générative de la simple compression d'IDs vers l'exploitation de la connaissance du monde et du raisonnement des LLMs pour modéliser l'intention utilisateur.
• Interprétabilité : En extrayant des descriptions d'intérêts explicites, le modèle offre une meilleure interprétabilité du processus de recommandation, résolvant le problème de la « boîte noire ».
• Scalabilité : La méthode valide que l'intégration de signaux sémantiques profonds dans les architectures génératives permet de dépasser les plafonds de performance des modèles basés sur des tables d'embedding traditionnelles.
• Impact Pratique : La démonstration de gains significatifs sur des données réelles et la capacité de généralisation transversale suggèrent que DeepInterestGR est une approche robuste pour les systèmes de recommandation industriels de nouvelle génération, capable de comprendre non seulement ce que l'utilisateur achète, mais pourquoi.

En conclusion, DeepInterestGR établit un nouveau standard en unifiant l'extraction d'intérêts profonds via des LLMs multimodaux avec la génération d'IDs sémantiques, résolvant ainsi le problème fondamental de la superficialité des signaux d'intérêt dans la recommandation actuelle.