💻 computer science

Action-Aware Generative Sequence Modeling for Short Video Recommendation

Ce papier propose Action-Aware Generative Sequence Network (A2Gen), un modèle novateur qui exploite les schémas temporels des actions des utilisateurs pour surmonter les limites de la classification binaire traditionnelle dans la recommandation de vidéos courtes, réalisant des améliorations significatives du temps de visionnage, des taux d'interaction et de la rétention des utilisateurs grâce à des tests A/B extensifs hors ligne et à grande échelle en ligne sur Kuaishou.

Auteurs originaux : Wenhao Li, Zihan Lin, Zhengxiao Guo, Jie Zhou, Shukai Liu, Yongqi Liu, Chuan Luo, Chaoyi Ma, Ruiming Tang, Han Li

Publié 2026-04-29

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Wenhao Li, Zihan Lin, Zhengxiao Guo, Jie Zhou, Shukai Liu, Yongqi Liu, Chuan Luo, Chaoyi Ma, Ruiming Tang, Han Li

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous regardez une courte vidéo sur votre téléphone. C'est un mélange de choses différentes : peut-être une blague drôle, un reportage d'actualité sérieux, une chanson entraînante, puis une publicité soudaine.

L'Ancienne Méthode (L'Approche "Taille Unique")
Les systèmes de recommandation traditionnels traitent la vidéo entière comme un seul bloc de fromage solide. Si vous "Aimez" la vidéo, le système suppose que vous avez aimé tout ce qu'elle contient.

Le Problème : Imaginons que la vidéo soit une interview où l'invité choisit "Messi" plutôt que "Ronaldo". Vous "Aimez" la vidéo à ce moment précis car vous adorez Messi. Mais le reste de la vidéo n'est que des moments forts de Ronaldo. L'ancien système pense : "Oh, ils ont aimé la vidéo, donc ils doivent aussi adorer Ronaldo !" et commence à vous montrer des vidéos de Ronaldo. Vous vous énervez car vous n'avez aimé que la partie Messi.

La Nouvelle Prise de Conscience (Le Timing est Tout)
Les auteurs de cet article ont réalisé que quand vous cliquez sur un bouton compte tout autant que le fait que vous ayez cliqué.

L'Analogie : Pensez à une vidéo comme à une bande-annonce de film. Si vous applaudit (un "Like") juste au moment où le héros sauve la mise, vous réagissez à ce moment précis. Si vous applaudit à la toute fin, vous êtes peut-être simplement poli. Le timing indique au système exactement quelle partie de la vidéo vous a rendu heureux.
La Découverte : En examinant des millions de vidéos, ils ont constaté que les "Likes" et les "Abonnements" se produisent souvent à des "pics" spécifiques (moments forts). Si vous "Suivez" un créateur avant même d'avoir fini de regarder la vidéo, cela signifie que vous aimez la personne, pas nécessairement le contenu spécifique que vous venez de voir.

La Solution : A2Gen (Le Modèle "Raconteur d'Histoires")
L'article présente un nouveau modèle appelé A2Gen (Réseau Génératif de Séquence Conscient de l'Action). Au lieu de deviner si vous aimerez une vidéo, A2Gen tente de prédire l'histoire complète de la façon dont vous la regarderez.

Voici comment cela fonctionne, décomposé en parties simples :

Le Module d'Attention Conscient du Contexte (CAM) – "Le Lecteur Intelligents"
Imaginez un lecteur qui ne se contente pas de lire des mots, mais qui comprend l'ambiance de la pièce. CAM examine vos actions passées et le contenu spécifique de la vidéo ensemble. Il sait qu'un "Like" sur une vidéo de comédie signifie quelque chose de différent d'un "Like" sur une vidéo d'actualité. Il prête attention au contexte du moment.
L'Encodeur de Séquence Hiérarchique (HSE) – "La Banque de Mémoire"
Cette partie se souvient de vos habitudes à long terme. Elle examine votre historique comme un bibliothécaire organisant des livres. Elle ne voit pas simplement "L'Utilisateur X a regardé 100 vidéos". Elle voit des modèles : "L'Utilisateur X saute généralement les publicités mais adore les clips musicaux, et il a tendance à 'Suivre' des créateurs après 15 secondes." Elle construit un profil approfondi de votre style unique.
Le Générateur Autorégressif de Séquence d'Actions (AAG) – "La Boule de Cristal"
C'est la partie magique. Au lieu de simplement dire "Oui/Non", AAG agit comme une boule de cristal qui prédit la séquence complète de vos futures actions.
- Il se demande : "Si nous montrons cette vidéo, l'utilisateur commencera-t-il à la regarder ? Va-t-il la 'Liker' à la 5e seconde ? Va-t-il 'Suivre' le créateur à la 10e seconde ? Quand s'arrêtera-t-il ?"
- Il prédit l'ordre et le timing exact de chaque clic, comme prédire l'intrigue d'un film avant qu'il ne se produise.

Pourquoi Cela Compte (Les Résultats)
L'équipe a testé cela sur Kuaishou, une immense plateforme de courtes vidéos avec des centaines de millions d'utilisateurs. Ils ont remplacé leur ancien système par A2Gen et ont mené une vaste expérience (test A/B).

Le Résultat : Parce que le système comprend maintenant quelles parties d'une vidéo vous aimez réellement, il recommande un meilleur contenu.
Les Chiffres :
- Les gens ont regardé 0,34 % de temps vidéo en plus (ce qui semble faible, mais avec des millions d'utilisateurs, c'est beaucoup de temps).
- Les gens ont interagi (aimé, suivi, commenté) 8,1 % de plus.
- Plus important encore, plus de gens sont revenus le lendemain (la rétention a augmenté de 0,162 %), ce qui se traduit par environ un million d'utilisateurs quotidiens supplémentaires restant sur la plateforme.

En Résumé
L'article soutient que nous ne devrions pas traiter une vidéo comme un élément unique "Oui/Non". Au lieu de cela, nous devrions la traiter comme une chronologie de moments. En utilisant un modèle qui prédit quand et dans quel ordre vous réagirez, l'application peut enfin comprendre votre véritable goût et vous montrer des vidéos que vous voulez réellement regarder, plutôt que de simplement deviner sur la base d'un seul clic.

1. Énoncé du problème

Les systèmes de recommandation multi-tâches traditionnels pour les vidéos courtes traitent généralement une vidéo comme une entité globale unique, s'appuyant sur une classification binaire (par exemple, clic/pas de clic, like/dislike) pour prédire les préférences des utilisateurs. Cette approche fait face à deux limitations critiques :

Perte de granularité : Les vidéos courtes contiennent souvent des segments divers (par exemple, un medley de chansons ou une interview multi-sujets). Les utilisateurs peuvent apprécier des segments spécifiques tout en n'aimant pas d'autres. Traiter la vidéo dans son ensemble dilue ces intérêts de précision, conduisant à des embeddings imprécis et à de mauvaises recommandations (par exemple, recommander une vidéo sur Ronaldo à un utilisateur qui n'a aimé que le segment sur Messi).
Ignorance des dynamiques temporelles : La consommation par l'utilisateur est un processus temporel. Le moment d'une action (par exemple, aimer à 2 secondes contre 16 secondes) et la séquence des actions (par exemple, S'abonner puis Aimer contre Aimer puis S'abonner) portent des significations sémantiques distinctes concernant l'intention de l'utilisateur. Les modèles existants échouent à capturer ces dépendances temporelles et ces séquences d'actions au sein d'un seul élément.

Le défi central consiste à modéliser le comportement de l'utilisateur non pas comme un ensemble d'événements isolés, mais comme une séquence d'actions ordonnée dans le temps se produisant à des horodatages spécifiques au sein d'une vidéo, capturant ainsi des intérêts authentiques au niveau du segment.

2. Méthodologie : Réseau de séquence générative conscient des actions (A2Gen)

Les auteurs proposent A2Gen, un cadre novateur qui enchaîne les actions des utilisateurs en une séquence unifiée pour une prédiction générative. Au lieu de prédire des résultats binaires, le modèle génère une séquence complète d'actions $\{(A_1, T_1), \dots, (A_m, T_m)\}$ , où $A$ est le type d'action et $T$ l'horodatage.

L'architecture se compose de trois composants principaux :

A. Module d'attention conscient du contexte (CAM)

Contrairement à l'auto-attention standard en TALN, le CAM intègre des caractéristiques contextuelles spécifiques à l'élément dans le mécanisme d'attention.

Mécanisme : Il intègre les informations contextuelles (caractéristiques de l'élément) dans le vecteur de requête. Cela garantit que le calcul de similarité entre deux actions dépend du contenu spécifique des éléments associés, et non seulement des types d'actions.
Porte (Gating) : Un réseau de porte apprend l'importance relative des différentes têtes d'attention pour des tâches spécifiques, permettant une optimisation spécifique à la tâche.
Fonction : Il modélise efficacement la séquence d'entrée (actions historiques) en capturant l'interaction entre les types d'actions et les contextes des éléments.

B. Encodeur de séquence hiérarchique (HSE)

L'historique de l'utilisateur implique deux dimensions : la séquence des actions au sein d'un seul élément et la séquence des éléments consommés au fil du temps. Le HSE aborde cela via un encodage à deux niveaux :

Dimension Action : Traite la séquence d'actions pour chaque élément historique en utilisant le CAM pour extraire des représentations d'intérêt au niveau de l'élément ( $Seq_j$ ).
Dimension Élément : Traite la séquence des éléments historiques (chacun représenté par sa $Seq_j$ et ses caractéristiques d'élément) comme une nouvelle séquence. Le CAM est appliqué à nouveau, en utilisant les caractéristiques de l'élément cible comme contexte pour calculer des poids de similarité personnalisés entre les éléments historiques et le candidat actuel.

Sortie : Une représentation complète de l'utilisateur ( $Vec_{hist}$ ) qui capture à la fois les intérêts de segments de précision et les préférences d'éléments à long terme.

C. Générateur autorégressif de séquence d'actions (AAG)

Ce module emploie un paradigme génératif autorégressif pour prédire la séquence d'actions future pour un élément cible.

Entrée : Caractéristiques de l'utilisateur, caractéristiques de l'élément cible et la représentation historique ( $Vec_{hist}$ ).
Processus : Il prédit les actions étape par étape. À chaque étape $i$ , il prédit le type d'action ( $A_i$ ) et le moment ( $T_i$ ) en fonction des actions précédemment générées ( $A_{1:i-1}, T_{1:i-1}$ ).
Entraînement : Utilise le Forçage de l'enseignant (vérité terrain des étapes précédentes) pour permettre un entraînement parallèle.
Fonctions de perte :
- Perte de classification : Entropie croisée pour la prédiction du type d'action.
- Perte de régression : Erreur quadratique moyenne (MSE) pour la prédiction du moment (normalisée par la durée de la vidéo).
- Perte de contrainte d'ordre ( $L_{order}$ ) : Garantit que les horodatages générés sont ordonnés chronologiquement ( $T_p < T_q$ pour $p < q$ ), empêchant les incohérences logiques.

3. Contributions clés

Changement de paradigme : Le papier dépasse la classification binaire pour adopter une approche de modélisation de séquence générative, modélisant explicitement le moment et l'ordre des actions des utilisateurs au sein d'une vidéo.
Architecture novatrice (A2Gen) : Introduit un cadre unifié comprenant le CAM, le HSE et l'AAG pour gérer la nature complexe et multidimensionnelle des interactions utilisateur-élément (contexte au niveau de l'élément + séquences d'actions temporelles).
Insight sur le moment des actions : Démontre par une analyse statistique que le moment des actions (par exemple, les pics dans la distribution des Likes) est fortement corrélé à l'intérêt authentique de l'utilisateur, et que les séquences d'actions (par exemple, S'abonner-Aimer contre Aimer-S'abonner) révèlent différentes intentions d'utilisateur.
Déploiement à l'échelle industrielle : Déployé avec succès sur Kuaishou, servant plus de 400 millions d'utilisateurs quotidiens, validant ainsi l'évolutivité du modèle et son efficacité dans le monde réel.

4. Résultats expérimentaux

Performance hors ligne

Ensembles de données : Évalué sur l'ensemble de données public Tmall (Commerce électronique) et un immense ensemble de données industriel Kuaishou (Vidéo courte).
Métriques : AUC pour la classification des actions et MAE pour la régression du moment.
Résultats : A2Gen a considérablement surpassé les modèles de référence les plus avancés (MMoE, PLE, AdaTask, HoME, etc.).
- Prédiction d'actions : A obtenu une amélioration de 58 points de base (bp) en AUC pour la prédiction de Like par rapport au modèle SOTA HoME.
- Prédiction du moment : A réduit le MAE de 2,60 % pour le moment du Like par rapport à HoME.
- Études d'ablation : Ont confirmé que la suppression du HSE, du CAM ou de la perte de contrainte d'ordre ( $L_{order}$ ) entraînait une dégradation constante des performances, prouvant la nécessité de chaque composant.

Tests A/B en ligne (Kuaishou)

Le modèle a été déployé dans un environnement en ligne à grande échelle avec quatre stratégies d'optimisation :

Remplacement de modèle : Remplacement direct du modèle de base.
Conscience du moment de l'action : Augmentation des scores de classement pour les actions se produisant plus tard dans la vidéo (indiquant un engagement plus profond).
Conscience de la séquence d'actions : Priorisation des séquences comme S'abonner-Aimer (intention plus forte) par rapport à Aimer-S'abonner.
Conscience de la distribution temporelle des actions : Augmentation des scores pour les actions se produisant près des « pics » statistiques d'engagement.

Amélioration des indicateurs commerciaux clés :

Temps de visionnage des utilisateurs : +0,34 %
Taux d'interaction : +8,1 %
Rétention des utilisateurs (LifeTime-7) : +0,162 % (équivalent à environ 1 million d'utilisateurs actifs quotidiens supplémentaires).

5. Signification

Ce travail comble le fossé entre l'IA générative et les systèmes de recommandation en traitant le comportement de l'utilisateur comme une séquence générative plutôt que comme un problème de classification statique. En exploitant la dimension temporelle des actions des utilisateurs, A2Gen résout le problème des « intérêts au niveau du segment » inhérent à la consommation de vidéos courtes. Le déploiement réussi sur une plateforme comptant des centaines de millions d'utilisateurs démontre que la modélisation des dynamiques temporelles de précision n'est pas seulement théoriquement solide, mais aussi un moteur critique de la croissance commerciale dans les plateformes modernes de recommandation de contenu.