🤖 AI

FEDIN: Frequency-Enhanced Deep Interest Network for Click-Through Rate Prediction

L'article propose FEDIN, un modèle novateur de prédiction du taux de clics qui exploite l'analyse fréquentielle et un filtrage spectral conscient de la cible pour isoler des motifs d'intérêt utilisateur périodiques à faible entropie à partir de données comportementales bruyantes, surpassant ainsi les références séquentielles de l'état de l'art.

Auteurs originaux : Zenan Dai, Jinpeng Wang, Junwei Pan, Dapeng Liu, Lei Xiao, Shu-Tao Xia

Publié 2026-05-06

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Zenan Dai, Jinpeng Wang, Junwei Pan, Dapeng Liu, Lei Xiao, Shu-Tao Xia

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez de deviner ce qu'un ami souhaite acheter ensuite. Vous examinez son historique d'achats : il a acheté une tente, puis un sac de couchage, puis une lampe de poche, puis une paire de chaussettes quelconque, puis une cafetière, puis une autre tente.

Le Problème :
La plupart des programmes informatiques qui tentent de prédire votre prochaine action (appelés « Prédiction du Taux de Clic ») considèrent cette liste comme une simple chronologie. Ils sont perturbés par le bruit. Pourquoi a-t-il acheté les chaussettes ? Était-ce une erreur ? Un cadeau ? L'ordinateur se laisse distraire par ces clics aléatoires et « bruyants » et peine à voir l'ensemble : Cette personne adore le camping.

L'Ancienne Méthode :
Les modèles précédents tentaient de résoudre ce problème en examinant la liste en « ralenti » (le domaine temporel). Ils essayaient de pondérer chaque article, mais si la liste était longue ou désordonnée, les articles aléatoires (les chaussettes) noyaient les motifs importants (l'équipement de camping).

La Nouvelle Découverte (FEDIN) :
Les auteurs de cet article, FEDIN, ont eu un moment « Eureka ! ». Ils ont réalisé que si l'on cessait de considérer la liste comme une chronologie et qu'on l'examinait plutôt comme une onde sonore (le domaine fréquentiel), un motif magique apparaissait.

Imaginez l'historique d'achats de votre ami comme une chanson :

Les Vrais Intérêts (Camping) : Ils sont comme un battement de tambour fort et régulier. Ils se répètent selon un motif. Dans le « son » des données, cela ressemble à une note claire et puissante.
Le Bruit (Chaussettes aléatoires) : C'est comme un souffle ou du bruit blanc. Il est dispersé, chaotique et ne possède aucun rythme.

L'Ingrédient Secret : Le Diapason « Cible »
Voici la partie ingénieuse découverte par l'article : on ne peut pas simplement écouter la chanson seule. Il faut écouter la chanson tout en pensant à un article spécifique (la « Cible »).

Si vous demandez : « Cette personne aime-t-elle les Tentes ? » et que vous écoutez son historique comme une onde sonore, le battement de tambour « Camping » devient super fort et clair. Le bruit s'estompe.
Si vous demandez : « Cette personne aime-t-elle les Tentes ? » mais qu'elle déteste en réalité les tentes, l'onde sonore ressemble simplement à un souffle chaotique.

L'article appelle cela « Entropie Spectrale ». En termes simples :

Basse Entropie (Bon) : Le son est organisé et concentré (comme une note claire). Cela signifie que l'utilisateur aime vraiment l'article.
Haute Entropie (Mauvais) : Le son est désordonné et dispersé (comme du souffle). Cela signifie que l'article ne le concerne pas.

Comment FEDIN Fonctionne (La Voiture à Deux Moteurs) :
Au lieu d'utiliser une seule façon de penser, FEDIN construit une voiture avec deux moteurs travaillant ensemble :

Le Moteur Temporel (La Vue Locale) : Il examine l'historique étape par étape, comme lire une histoire. Il voit qu'ils ont acheté une tente avant le sac de couchage. Il capture l'histoire immédiate.
Le Moteur Fréquentiel (La Vue Globale) : Il examine toute la liste comme une onde sonore. Il utilise un filtre spécial (un « filtre spectral ») pour amplifier les motifs clairs et rythmiques (l'équipement de camping) et atténuer le souffle (les chaussettes aléatoires). Crucialement, ce filtre ne s'active que lorsqu'il examine un article spécifique (la Cible).

Le Résultat :
L'ordinateur combine ces deux points de vue. Il dit : « D'accord, l'histoire indique qu'ils ont acheté une tente récemment, et l'onde sonore montre un rythme fort et clair pour l'équipement de camping. »

Pourquoi C'est Mieux :
L'article a testé cela sur trois énormes ensembles de données d'achats (Tmall, Taobao, Alipay). Ils ont constaté que FEDIN est bien meilleur pour ignorer le « bruit » (les clics aléatoires) que les modèles précédents. Même lorsque les données sont désordonnées ou comportent des lacunes, FEDIN garde son calme car il peut toujours entendre le « battement de tambour » des vrais intérêts de l'utilisateur, même si le « souffle » est fort.

En Résumé :
FEDIN est un système de recommandation plus intelligent qui ne se contente pas de lire une liste d'achats ; il écoute le rythme de cette liste. En se calant sur l'article spécifique qui vous intéresse, il peut instantanément séparer les vraies passions de l'utilisateur du bruit de fond, conduisant à des prédictions beaucoup plus précises.

Résumé Technique : FEDIN – Réseau d'Intérêt Profond Amélioré par la Fréquence pour la Prédiction du Taux de Clic

Énoncé du Problème

Les modèles de recommandation séquentielle pour la prédiction du taux de clic (CTR) font face à des défis majeurs dans la capture des motifs périodiques latents au sein des intérêts des utilisateurs. Les séquences de comportement utilisateur réelles sont souvent un mélange d'habitudes périodiques à long terme et de bruit stochastique à court terme. Les approches purement temporelles, y compris celles utilisant des réseaux de neurones récurrents (RNN), des Transformers et des modèles d'espace d'état (SSM), ont tendance à être sensibles au bruit ponctuel. Ces modèles peinent souvent à découpler les motifs périodiques stables des clics aléatoires, en particulier dans les séquences longues.

Bien que l'analyse fréquentielle offre une perspective globale adaptée au débruitage et à la reconnaissance de motifs, les approches existantes basées sur la fréquence (par exemple, FMLP-Rec, FEARec, DIFF) traitent généralement les séquences utilisateur de manière isolée. Elles appliquent une analyse fréquentielle à la séquence de comportement brute sans tenir compte du contexte de l'élément cible. Les auteurs soutiennent que ce filtrage « ignorant la cible » est sous-optimal car la séquence de comportement d'un utilisateur est polymorphe ; sans l'élément cible spécifique comme contexte, le modèle ne peut pas distinguer efficacement les composantes fréquentielles représentant un vrai signal de celles représentant un bruit de fond.

Méthodologie : Architecture FEDIN

Le Réseau d'Intérêt Profond Amélioré par la Fréquence (FEDIN) proposé résout ces limitations grâce à une architecture à double branche qui fusionne les perspectives temporelle et fréquentielle. Le cadre prend en entrée une séquence de comportement utilisateur $X \in \mathbb{R}^{L \times D}$ et un élément cible $X_{tar} \in \mathbb{R}^D$ pour prédire une représentation d'intérêt utilisateur $U$ .

1. Prétraitement

Le modèle emploie une Normalisation d'Instance Réversible (RevIN) comme étape de prétraitement pour atténuer les décalages de distribution et le caractère non stationnaire des comportements utilisateur avant d'alimenter les branches.

2. Branche Temporelle (Évolution Locale)

Cette branche se concentre sur la capture de l'évolution séquentielle locale des intérêts :

Filtrage Grossier via l'Attention Cible : Un mécanisme d'attention sensible à la cible calcule des scores pondérés pour filtrer le bruit ponctuel tout en préservant la résolution temporelle, produisant une séquence pondérée $X_{attn}$ .
Évolution Fine via le Transformer par Patchs : Pour gérer efficacement les longues séquences et capturer les sémantiques temporelles locales, $X_{attn}$ est segmentée en patches non chevauchants. Un encodeur Transformer modélise les dépendances entre ces patches, produisant la représentation d'intérêt temporelle $X_{time}$ .

3. Branche Fréquentielle (Périodicité Globale)

Cette branche constitue l'innovation centrale, conçue pour isoler des motifs harmoniques structurés en utilisant un mécanisme de filtrage spectral sensible à la cible :

Spectre Conditionné par la Cible : Contrairement aux travaux antérieurs qui transforment les séquences brutes, FEDIN calcule d'abord les scores d'attention cible $X_{score}$ pour capturer la pertinence de chaque comportement historique par rapport à l'élément cible. Ces scores sont transformés dans le domaine fréquentiel via la Transformée de Fourier Rapide (FFT) pour créer un spectre conditionné par la cible $\hat{X}_{score}$ .
Filtrage Spectral Sensible à la Cible : Le spectre est modulé par les scores d'attention ( $\hat{X}_{attn}$ ) pour mettre en évidence les composantes fréquentielles où l'utilisateur montre une forte résonance avec la cible.
Filtre Spectral Apprenable : Un MLP à valeurs complexes agit comme un filtre apprenable sur le spectre complexe. Il amplifie de manière adaptative les fréquences harmoniques dominantes tout en supprimant le bruit à haute entropie, produisant une représentation fréquentielle nettoyée $\hat{X}_{freq}$ .
Mise à l'Échelle Adaptative de la Résonance : Un mécanisme de porte adaptatif met à l'échelle la sortie de la branche fréquentielle en fonction de la clarté spectrale (entropie) du spectre conditionné par la cible. Cela garantit que le modèle ne se fie à la vue fréquentielle que lorsque des motifs de résonance clairs sont détectés, sinon il revient au domaine temporel.

4. Agrégateur d'Intérêt Utilisateur

Les sorties des deux branches ( $X_{time}$ et $X_{freq}$ ) sont additionnées pour former une représentation mixte. Un mécanisme d'Attention Cible Top-k est ensuite appliqué pour dériver l'intérêt utilisateur final $U$ . Ce mécanisme ne conserve que les $k$ éléments ayant la plus grande similarité avec la cible, utilisant une stratégie de masquage pour assurer la différentiabilité et empêcher la dilution des signaux forts par des signaux faibles ou contradictoires.

Contributions Clés

Observation Empirique : Les auteurs identifient que les scores d'attention utilisateur présentent des distributions d'entropie spectrale distinctes lorsqu'ils sont conditionnés par des éléments cibles positifs versus négatifs. Les vrais intérêts utilisateur se manifestent par des motifs spectraux hautement concentrés avec une entropie plus faible, tandis que les comportements non pertinents apparaissent comme un bruit à haute entropie. Cela fournit un fondement théorique pour la recommandation spectrale sensible à la cible.
Cadre FEDIN : La proposition d'un cadre hybride intégrant une branche fréquentielle sensible à la cible avec une modélisation temporelle traditionnelle. Cette conception combine efficacement la robustesse globale au bruit de l'analyse fréquentielle avec la précision séquentielle locale de la modélisation temporelle.
Performance et Robustesse : Des expériences extensives démontrent que FEDIN surpasse constamment les modèles séquentiels de pointe et présente une robustesse supérieure face au bruit.

Résultats Expérimentaux

Le modèle a été évalué sur trois jeux de données publics : Tmall, Taobao et Alipay.

Lignes de Base : Des comparaisons ont été effectuées contre six modèles de pointe (DIN, DIEN, SASRec, BERT4Rec, GRU4Rec, BST, DIFF) et une ligne de base de Pooling par Somme.
Performance : FEDIN a obtenu les meilleures performances sur tous les jeux de données selon les métriques GAUC et AUC. Par exemple, sur le jeu de données Tmall, FEDIN a atteint un GAUC de 0,9658 et un AUC de 0,9666, surpassant significativement la meilleure ligne de base (DIN : 0,9547/0,9518).
Études d'Ablation : La suppression de la branche Temporelle ou de la branche Fréquentielle a entraîné une dégradation des performances, confirmant la nécessité des deux. La suppression de l'aspect « Sensible à la Cible » du filtre fréquentiel (en le remplaçant par un filtre statique) a également provoqué une baisse, validant l'hypothèse que le contexte cible est crucial pour un filtrage spectral efficace.
Résistance au Bruit : Des expériences de bruit synthétique (Bruit de Suppression et Bruit de Remplacement) ont montré que la Branche Fréquentielle maintient une stabilité significativement plus élevée à mesure que les taux de bruit augmentent, par rapport à la Branche Temporelle. Le filtrage spectral atténue efficacement les composantes de bruit à haute entropie.

Importance et Revendications

L'article revendique que FEDIN offre une perspective nouvelle sur la recommandation séquentielle en exploitant la nature conditionnée par la cible des motifs spectraux. Les auteurs affirment que l'analyse simple de la séquence de comportement brute dans le domaine fréquentiel est insuffisante ; l'élément cible agit comme une condition nécessaire pour activer des motifs de résonance spécifiques.

En intégrant l'analyse fréquentielle comme complément plutôt que comme remplacement de la modélisation temporelle, FEDIN atteint un équilibre entre la capture des périodicités globales et la préservation des détails séquentiels locaux. Le travail démontre que cette approche à double branche offre une robustesse supérieure face au bruit inhérent et à la parcimonie des journaux de comportement utilisateur réels, conduisant à des prédictions de CTR plus stables et précises sur divers jeux de données. Les auteurs notent que le coût computationnel de la branche fréquentielle est de $O(L \log L)$ en raison des opérations FFT, offrant un avantage d'efficacité par rapport aux mécanismes d'auto-attention standards ( $O(L^2)$ ) pour les longues séquences.