MILCR: Mutual information and local consistency regularized flow matching for sequential recommendation

À l'ère numérique, nos vies en ligne laissent une trace de choix : les livres que nous achetons, les vidéos que nous regardons, les restaurants que nous fréquentons. Pour les ordinateurs, donner un sens à ces traces est le travail d'un domaine appelé la recommandation séquentielle. L'objectif est simple mais difficile : regarder ce qu'une personne a fait par le passé et deviner ce qu'elle voudra faire ensuite. Pendant des années, les meilleurs outils pour cette tâche ont été comme des bibliothécaires méticuleux, scannant l'historique d'un utilisateur pour trouver des modèles et suggérer l'étape logique suivante. Cependant, une nouvelle génération d'outils a émergé, tentant de faire quelque chose de plus créatif. Au lieu de simplement trouver des modèles, ces modèles génératifs tentent de construire une image des désirs futurs d'un utilisateur à partir de rien, en partant d'un pur hasard pour façonner progressivement une recommandation spécifique.

Imaginez essayer de dessiner le portrait parfait d'un ami, mais vous êtes contraint de commencer par un écran blanc rempli de neige statique. Vous devez lentement retirer la neige, étape par étape, jusqu'à ce que le visage apparaisse. C'est ainsi que fonctionnent les systèmes génératifs modernes. Ils commencent par un bruit aléatoire et, à travers une série d'étapes mathématiques, transforment ce chaos en une prédiction claire. Bien que cette approche ait montré de grandes promesses, elle est confrontée à un problème spécifique lorsqu'elle est appliquée à la réalité désordonnée du comportement humain. Parce que les historiques d'interaction des individus sont souvent courts et dispersés, ces modèles peuvent s'embrouiller. Ils pourraient commencer à dépendre trop lourdement du bruit aléatoire avec lequel ils ont commencé, plutôt que de l'histoire réelle de l'utilisateur, ou ils pourraient fusionner tous les utilisateurs différents en une moyenne unique et floue, perdant ainsi les détails uniques qui rendent une recommandation utile.

Une équipe de chercheurs de l'Université de Technologie de Pékin a développé une nouvelle méthode pour corriger ces défauts, baptisant leur système MILCR. Leur travail se concentre sur l'affinement de la manière dont ces modèles génératifs apprennent à partir de données éparses. Les chercheurs ont identifié que le problème était double : les modèles avaient du mal à maintenir les préférences des utilisateurs distinctes, et ils laissaient le bruit aléatoire initial influencer trop fortement la réponse finale. Pour résoudre cela, ils ont introduit un processus d'entraînement qui agit comme un système de double vérification. D'abord, ils préparent le système avec une fondation structurée, s'assurant que les blocs de construction de base du modèle sont déjà organisés avant que l'apprentissage complexe ne commence. Ensuite, lors de la phase d'entraînement principale, ils utilisent une stratégie astucieuse qui alterne entre deux tâches. Une tâche apprend au modèle à ignorer le bruit aléatoire, le forçant à se fier strictement à l'histoire réelle de l'utilisateur. L'autre tâche garantit que le chemin emprunté par le modèle pour parvenir à sa prédiction est fluide et régulier, empênant le système de vaciller ou de sauter de manière erratique lors de sa conjecture.

Les chercheurs ont testé cette nouvelle approche sur cinq ensembles de données réels différents, allant des critiques de livres en ligne aux évaluations de films. Ils ont comparé leur système à plusieurs autres modèles puissants, y compris ceux basés sur des technologies plus anciennes et éprouvées ainsi que des méthodes génératives plus récentes. Les résultats ont montré que leur nouvelle méthode surpassait systématiquement la concurrence. Sur un ensemble de données d'achats de jouets, par exemple, le nouveau système a amélioré sa capacité à prédire correctement l'article suivant de plus de 17 % par rapport au précédent meilleur modèle. Il s'est également révélé beaucoup plus fiable lorsqu'il traite des utilisateurs ayant très peu d'interactions, un scénario où les autres modèles échouent souvent. En analysant les rouages internes du système, l'équipe a confirmé que leur méthode réussissait à réduire la dépendance du modèle vis-à-vis du bruit aléatoire et à maintenir les représentations des différents utilisateurs distinctes et claires, plutôt que de les laisser se mélanger.

Le succès de ce travail réside dans sa capacité à équilibrer créativité et discipline. L'approche générative permet au système d'imaginer de nouvelles possibilités, mais les nouvelles régularisations agissent comme des garde-fous, garantissant que l'imagination reste ancrée dans l'histoire réelle de l'utilisateur. Les chercheurs ont constaté qu'en minimisant la connexion entre le bruit de départ et le résultat final, le modèle apprenait à faire plus confiance aux actions passées de l'utilisateur qu'au point de départ aléatoire. De même, en imposant une cohérence entre les étapes du processus de prédiction, ils ont veillé à ce que le système ne se perde pas au milieu de ses propres calculs. Cette combinaison de techniques a permis au modèle de mieux gérer la nature éparse et désordonnée des données du monde réel que par le passé.

En fin de compte, cette recherche offre une voie plus claire pour la compréhension des préférences humaines par les ordinateurs. Elle démontète que, si partir du hasard peut être un moyen puissant de générer des idées, cela nécessite des contraintes rigoureuses pour être utile dans le monde réel. Le nouveau système ne se contente pas de deviner ; il apprend à distinguer le signal des intérêts réels d'un utilisateur du bruit du processus mathématique utilisé pour les trouver. À mesure que les interactions en ligne deviennent plus complexes et variées, des outils comme celui-ci seront essentiels pour garantir que les recommandations restent personnelles, précises et véritablement utiles, même lorsque les données disponibles sont limitées. Ce travail suggère que l'avenir des systèmes de recommandation ne réside pas seulement dans la génération de plus de données, mais dans une génération plus intelligente, avec un profond respect pour les récits uniques et souvent incomplets des personnes qu'ils servent.