🤖 machine learning

Predicting Post Virality with Temporal Cross-Attention over Trend Signals

Ce papier présente ViralityNet, une architecture novatrice qui améliore la prédiction de la viralité des publications Reddit en fusionnant les caractéristiques internes des publications avec des signaux temporels exogènes issus des pics de vues de pages Wikipédia via un mécanisme d'attention croisée temporelle, démontrant que l'intégration des dynamiques d'attention du monde réel surpasse nettement les modèles de référence basés uniquement sur le texte.

Auteurs originaux : Sarvagya Somvanshi, Mohan Xu, Rakhi Chadalavada, Nathan Canera

Publié 2026-05-06

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Sarvagya Somvanshi, Mohan Xu, Rakhi Chadalavada, Nathan Canera

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayiez de deviner lesquels des publications de vos amis sur les réseaux sociaux deviendront « virales » — obtenant des milliers de likes et de commentaires — par rapport à celles qui seront ignorées.

La plupart des programmes informatiques tentent de résoudre ce problème en examinant uniquement la publication elle-même. Ils lisent le titre, comptent les mots, vérifient si elle a été publiée un vendredi et constatent le nombre d'abonnés de l'utilisateur. C'est comme essayer de prédire si une chanson sera un tube en se contentant de lire les paroles, sans jamais entendre la radio ni savoir de quoi les gens parlent actuellement.

Cet article soutient que cette approche manque une pièce majeure du puzzle : le timing et le contexte. Une publication sur un sujet spécifique peut être ennuyeuse un mardi quelconque, mais si ce même sujet devient soudainement la plus grande nouvelle mondiale, cette publication pourrait exploser en popularité.

Voici comment les auteurs, Sarvagya Somvanshi et Mohan Xu, ont construit un nouveau système appelé ViralityNet pour remédier à cela, expliqué simplement :

1. La « Météo » d'Internet

Les auteurs ont réalisé que pour prédire la viralité, il faut connaître l'« humeur publique » à cet instant précis. Pour ce faire, ils ont utilisé les vues de pages Wikipédia comme une « météo » de l'attention sur Internet.

L'analogie : Imaginez que vous êtes un pêcheur. Vous pouvez regarder votre bateau (la publication) et votre matériel de pêche (le texte), mais pour attraper un gros poisson, vous devez savoir où se trouvent les poissons maintenant.
La méthode : Ils ont suivi les articles Wikipédia qui connaissaient soudainement un pic massif de vues chaque jour. Si « l'Intelligence Artificielle » avait soudainement 100 000 vues de plus que d'habitude, cela signifiait que le monde entier était soudainement obsédé par l'IA. ViralityNet utilise ces données pour voir si une publication Reddit « surfe sur la vague » de l'intérêt public actuel.

2. Le « Super-Lecteur » (L'architecture)

Ils ont construit un réseau de neurones (un type d'IA) nommé ViralityNet. Imaginez-le comme un super-lecteur qui examine une publication Reddit à travers quatre lentilles différentes simultanément :

Le Titre : Que dit le titre ?
Le Corps : Quelle est l'histoire réelle ?
La Structure : Quand a-t-elle été publiée ? Quelle est sa longueur ?
La Communauté : Dans quel « club » (subreddit) se trouve-t-elle ? (par exemple, une publication dans un club de finance est jugée différemment de celle dans un club de jeux vidéo).

La Sauce Secrète :
Habituellement, ces quatre lentilles sont simplement mélangées. Mais ViralityNet possède une fonctionnalité spéciale de « Cross-Attention » (attention croisée).

L'analogie : Imaginez que vous lisez un article de presse. En lisant, vous jetez constamment un coup d'œil par la fenêtre pour voir ce qui se passe dans la rue. Si vous voyez un défilé, vous prêtez une attention particulière à la partie de l'article concernant le défilé.
Comment cela fonctionne : ViralityNet lit la publication Reddit, puis jette immédiatement un coup d'œil à une « fenêtre glissante » des 512 sujets Wikipédia les plus tendances de la semaine dernière. Il se demande : « Cette publication correspond-elle à ce dont le monde parle actuellement ? » Si la réponse est oui, cela renforce la prédiction que la publication deviendra virale.

3. Comment ils ont mesuré le succès

Ils ont testé cela sur près de 800 000 publications Reddit provenant de 10 communautés différentes (comme r/technology, r/politics et r/gaming) sur une période de trois ans.

L'objectif : Prédire si une publication ferait partie du top 10 % des engagements pour sa communauté spécifique.
Le résultat :
- L'ancienne méthode (regarder uniquement le texte) était correcte, mais pas excellente.
- La nouvelle méthode (ViralityNet), qui incluait la « météo Wikipédia », était constamment meilleure.
- Elle a amélioré la précision d'une marge faible mais significative. Le système a appris qu'une publication sur un krach boursier a beaucoup plus de chances de devenir virale si les gens recherchent actuellement cette action sur Wikipédia.

4. Nuances importantes

L'article met en évidence quelques détails intéressants :

Le contexte compte : Le système a fonctionné le mieux dans les communautés où le monde extérieur compte (comme r/technology ou r/stocks). Il a un peu plus de mal dans les communautés alimentées par des blagues internes ou une culture spécifique (comme r/gaming), où la « météo mondiale » compte moins que l'« ambiance locale ».
Le temps est essentiel : Le système a appris que les normes d'engagement changent d'année en année. Une publication qui obtient 1 000 upvotes en 2021 peut être considérée comme « virale », tandis qu'en 2023, il en faudrait peut-être 5 000. Le modèle a appris à s'ajuster à cela.
Ce n'est pas magique : Le système n'est pas parfait. Il se laisse parfois tromper. Par exemple, si une publication a un titre qui ressemble à un sujet tendance mais qui est en réalité une blague ou un contenu de mauvaise qualité, le système peut surestimer son succès. Inversement, il manque parfois des publications qui deviennent virales à cause de l'humour pur ou de la colère, ce qui n'a rien à voir avec les tendances actuelles de l'actualité.

La conclusion principale

L'essentiel est simple : Le contenu ne devient pas viral dans le vide.

Pour prédire ce qui va prendre feu, vous ne pouvez pas vous contenter de regarder le bois (la publication) ; vous devez regarder le vent (l'attention publique actuelle). En combinant le texte d'une publication avec des données en temps réel sur ce que le monde lit et pense réellement, les auteurs ont montré que nous pouvons faire des prédictions nettement meilleures sur ce qui deviendra populaire en ligne.

Résumé Technique : Prédiction de la Viralité Postérieure par Attention Croisée Temporelle sur les Signaux de Tendance

Énoncé du Problème

Les modèles actuels pour prédire la viralité sur les réseaux sociaux reposent principalement sur des caractéristiques textuelles et structurelles statiques (par exemple, le nombre d'abonnés, l'heure de publication, la centralité du réseau et la sémantique du texte). Une limitation critique de ces approches est leur « aveuglement temporel » : elles ne parviennent pas à prendre en compte la nature dynamique de l'attention publique. Un post sur un sujet spécifique peut avoir un potentiel viral très différent selon que ce sujet connaît actuellement un pic d'intérêt public ou qu'il est en sommeil. Les auteurs émettent l'hypothèse que l'ignorance de ces dynamiques temporelles conduit à une caractérisation erronée des moteurs d'engagement et à une réduction de la précision prédictive. Le problème central abordé est de savoir si des signaux d'attention exogènes et réels peuvent améliorer la prédiction de la viralité au-delà de ce que le texte du post seul révèle.

Méthodologie

Données et Étiquetage

L'étude utilise un ensemble de données de 788 873 publications Reddit provenant de 10 subreddits divers (couvrant l'actualité, la technologie, la finance, la science et le divertissement), collectées entre janvier 2021 et décembre 2023.

Définition de la Viralité : La viralité est définie via une stratégie d'étiquetage binaire stratifiée par subreddit pour tenir compte des différences d'échelle entre les communautés. Un post est étiqueté viral ( $y=1$ ) si son score d'engagement $v$ dépasse le 90e percentile de la distribution de son subreddit ET que son score brut $s$ atteint un seuil minimum de 100.
Score d'Engagement : $v = s + 0,3 \cdot c$ , où $s$ est le score du post (votes positifs moins votes négatifs) et $c$ est le nombre de commentaires. Le poids $\beta=0,3$ reflète l'effort supérieur du commentaire par rapport au vote.
Signaux Exogènes : Le modèle intègre des données de vues de pages Wikipédia comme proxy de l'intérêt public collectif. Les termes « pic » sont identifiés quotidiennement sur la base d'un ratio entre les vues actuelles et les vues de la veille ( $\rho \ge 2,0$ ) et des augmentations absolues de vues. Les 512 termes tendance supérieurs par jour sont conservés, filtrés pour le bruit (par exemple, les pages intemporelles), puis encodés.

Architecture : ViralityNet

ViralityNet est une architecture d'attention croisée conçue pour fusionner les représentations internes des posts avec des signaux de tendances temporels externes.

Encodeur de Post : Génère une représentation de post à 256 dimensions ( $p$ ) en fusionnant quatre flux parallèles :
- Titre et Corps : Encodés à l'aide de all-mpnet-base-v2 (768 dimensions). Le texte du corps est découpé en blocs (400 caractères), moyenné et renormalisé. Un embedding de remplissage appris gère les posts sans texte de corps.
- Caractéristiques Structurelles : 9 caractéristiques (heure de publication, jour de la semaine, âges/longueurs log-normalisés, taille du subreddit, etc.) projetées sur 64 dimensions.
- Embedding de Subreddit : Un embedding appris à 32 dimensions pour le subreddit spécifique.
- Fusion : Ces flux sont concaténés (1632 dimensions), projetés sur 256 dimensions, et fusionnés avec un embedding d'année appris ( $e_y$ ) via une connexion résiduelle pour tenir compte des changements annuels des normes d'engagement.
Bloc d'Attention Croisée :
- Matrice des Tendances ( $T_d$ ) : Une fenêtre glissante de 7 jours des 512 termes de pic Wikipédia supérieurs est construite pour chaque jour $d$ . Ces termes sont encodés dans une matrice de $512 \times 768$ .
- Mécanisme : L'encodage du post $p$ agit comme une requête à un seul token ( $Q$ ) contre les clés et les valeurs de la matrice des tendances ( $K, V$ ). Un mécanisme d'attention multi-têtes à 4 têtes (MHA) permet au modèle de se concentrer sélectivement sur le sous-ensemble des sujets d'intérêt public récents les plus sémantiquement alignés avec le contenu du post.
- Sortie : Le vecteur de contexte résultant $c$ (256 dimensions) capture l'alignement entre le post et les tendances actuelles.
Classifieur : La concaténation de l'encodage du post et du vecteur de contexte ( $[p; c]$ ) est passée à travers un Perceptron Multicouche (MLP) avec deux couches cachées pour produire un logit viral. Le modèle est entraîné en utilisant la Perte Focale ( $\alpha=0,25, \gamma=2,0$ ) pour traiter le déséquilibre de classe sévère (taux positif de 9,7 %).

Contributions Clés

Signal d'Alignement de Tendance : Introduction d'un signal d'alignement de tendance au niveau du post dérivé des pics de vues de pages Wikipédia, démontré comme statistiquement significatif au niveau du post individuel.
Architecture ViralityNet : Une architecture d'attention croisée novatrice qui conditionne les représentations de posts sur des matrices de tendances quotidiennes à fenêtre glissante, augmentées par des embeddings d'année et de subreddit appris.
Ablation Systématique : Une étude disséquant les contributions du contexte temporel (embeddings d'année), des tendances exogènes (attention croisée) et de leur combinaison.

Résultats

Le modèle a été évalué sur un ensemble de test retenu de 118 331 posts (11 459 viraux). La métrique principale est l'AUC-PR, avec l'AUC-ROC et le F1 rapportés à un seuil fixe de 0,31 (optimisé pour le F1).

Gains de Performance : Le modèle complet ViralityNet a atteint un AUC-PR de 0,3584 et un AUC-ROC de 0,8355.
Comparaison avec les Baselines :
- Texte Seulement : AUC-PR 0,3431.
- Texte + Année : AUC-PR 0,3554 (+0,012 d'amélioration).
- Texte + Tendances : AUC-PR 0,3476 (+0,005 d'amélioration).
- Modèle Complet : AUC-PR 0,3584 (+0,015 d'amélioration par rapport au Texte Seulement).
Analyse des Composantes : L'embedding d'année a contribué au gain le plus significatif (+0,012), attribué aux changements des normes d'engagement entre 2021 et 2023. L'attention croisée sur les tendances a fourni un gain complémentaire plus faible mais constant (+0,003 par rapport à la baseline Texte+Année).
Variance par Subreddit : La performance variait selon la communauté. Les subreddits avec un fort chevauchement thématique avec les tendances Wikipédia (par exemple, r/technology, r/stocks) ont enregistré les AUC-PR les plus élevés (>0,39). Les communautés pilotées par une culture interne (par exemple, r/gaming, r/wallstreetbets) étaient plus difficiles à prédire en utilisant des signaux externes.
Sensibilité du Seuil : En raison du déséquilibre de classe, le seuil par défaut de 0,5 a produit un rappel faible (2,7 %). L'abaissement du seuil à 0,31 a amélioré le rappel à 53,0 % avec une précision de 31,9 %, adapté à la mise en avant de posts viraux candidats pour examen.

Importance et Revendications

L'article revendique que l'intégration de signaux d'attention externes produit des améliorations mesurables par rapport aux baselines basées uniquement sur le texte, validant l'hypothèse que la viralité n'est pas déterminée par le contenu seul mais par son alignement avec les dynamiques réelles.

Preuve d'Alignement : Les résultats suggèrent que les posts sémantiquement alignés avec les pics contemporains d'attention publique sont statistiquement plus susceptibles de devenir viraux.
Complémentarité : Les signaux exogènes (tendances Wikipédia) agissent comme un complément utile aux caractéristiques internes à la plateforme, en particulier dans les communautés où la viralité est pilotée par des événements externes plutôt que par une culture interne.
Modeste mais Constant : Les auteurs caractérisent les gains comme « modestes mais constants », notant que bien que le signal de tendance seul ne soit pas un facteur dominant par rapport au contexte temporel (année), il conduit le modèle complet à ses performances les plus élevées.
Limites : Les auteurs notent explicitement que le modèle mesure l'alignement contemporain, et non la prévision future. Ils reconnaissent les limites concernant la nature statique des données d'engagement (manque de vélocité précoce), la conception heuristique du pipeline et les problèmes potentiels de généralisabilité dus à la sélection spécifique des subreddits. Ils soulignent également la préoccupation d'impact plus large selon laquelle de telles capacités prédictives pourraient théoriquement être détournées pour optimiser la diffusion de contenu polarisé ou de spam.