Content Fuzzing for Escaping Information Cocoons on Digital Social Media

1. Problématique : Les Cocons d'Information et les Limites des Approches Actuelles

Les plateformes de médias sociaux utilisent des algorithmes de recommandation et de classement qui s'appuient fortement sur la détection de stance (l'attitude ou l'opinion de l'auteur face à un sujet) pour filtrer et prioriser le contenu. Cela conduit à la formation de cocons d'information (ou "echo chambers"), où les utilisateurs sont exposés uniquement à des points de vue similaires aux leurs, renforçant les biais existants et limitant la diversité informationnelle.

• Le défi : Les mécanismes de recommandation sont des "boîtes noires". Les créateurs de contenu et les utilisateurs n'ont aucun contrôle sur ces algorithmes ni aucune visibilité sur la façon dont leurs publications sont filtrées.
• La lacune : Les recherches existantes tentent de résoudre ce problème par des interventions côté plateforme (ex: réordonnancement diversifié), ce qui est hors de portée des utilisateurs individuels. Il manque une approche côté contenu permettant aux créateurs de modifier leurs messages pour atteindre des audiences au-delà de leurs clusters d'affinité actuels, sans altérer l'intention humaine du message.

2. Méthodologie : CONTENTFUZZ

Les auteurs proposent CONTENTFUZZ, un cadre automatisé de "fuzzing" (test par fuzzing) guidé par la confiance, conçu pour réécrire le contenu afin de tromper les détecteurs de stance tout en préservant le sens humain.

Principes Fondamentaux

Le système s'inspire du fuzzing logiciel (génération itérative d'entrées pour trouver des comportements inattendus) et de techniques de "jailbreak" de LLM. L'objectif est de trouver une variante d'un post qui change l'étiquette de stance prédite par le modèle (ex: de "Favorable" à "Défavorable" ou "Neutre") tout en conservant le sens original.

Composants Clés du Framework

1. Guidage par la Confiance (Feedback Guidance) :

   • Contrairement aux fuzzers classiques qui utilisent la couverture de code, CONTENTFUZZ utilise le score de confiance du modèle de détection de stance comme signal de rétroaction.
   • Pour les classificateurs basés sur des encodeurs (ex: BERT), le score est la probabilité de la classe prédite.
   • Pour les LLM génératifs, le score est basé sur les logprobs (probabilités logarithmiques) des tokens générés.
   • L'objectif est de réduire cette confiance pour s'approcher de la frontière de décision du modèle.

2. Planification des Graines (Seed Scheduling) :

   • Le système maintient un pool de candidats (graines).
   • Il utilise une file de priorité (min-heap) pour sélectionner la graine ayant le score de confiance le plus bas (c'est-à-dire celle qui est la plus proche de la frontière de décision) pour la prochaine itération de mutation. Cela optimise l'efficacité de la recherche.

3. Mutation par Réécriture (Mutation via LLM) :

   • Un LLM (ici Gemini-2.5-Flash-Lite) agit comme un mutateur. Il reçoit le post original et un prompt strict lui demandant de réécrire le texte pour le rendre plus engageant, tout en préservant strictement le sens, le ton et la stance originale.
   • Le mutateur génère plusieurs candidats (5 par défaut) à chaque étape.

4. Planification de la Température (Temperature Scheduling) :

   • Pour éviter de rester bloqué dans des solutions locales et adapter le niveau de créativité aux différents posts, le système ajuste dynamiquement la température de génération du LLM.
   • Une stratégie d'énergie attribue des probabilités de sélection aux différentes températures en fonction de leur taux de succès historique à réduire la confiance du modèle.

3. Contributions Clés

• Première approche côté contenu : C'est la première méthode computationnelle qui permet aux créateurs de contourner les cocons d'information par la réécriture de contenu, sans dépendre de modifications algorithmiques côté plateforme.
• Adaptabilité : Le framework est agnostique au modèle (fonctionne avec des encodeurs fine-tunés, des LLM en "zero-shot" et des méthodes d'ingénierie de prompt), multilingue (anglais et chinois) et transversal aux sujets.
• Préservation Sémantique Rigoureuse : Contrairement aux attaques adverses classiques qui peuvent introduire du bruit ou changer le sens, CONTENTFUZZ est conçu spécifiquement pour maintenir l'intégrité sémantique et la fluidité du texte.

4. Résultats Expérimentaux

Les expériences ont été menées sur trois jeux de données (SemEval2016, VAST, C-STANCE) couvrant l'anglais et le chinois, et évaluées sur quatre types de modèles de détection de stance.

• Taux de Succès d'Évasion (ESR) : CONTENTFUZZ a démontré une grande efficacité, parvenant à changer l'étiquette de stance prédite pour une majorité de posts.
  • Exemple : Sur le jeu de données VAST avec un modèle BERT, le taux de succès atteint 88,3 %.
  • Sur C-STANCE (chinois), le taux atteint 91,0 % avec BERT.
  • Les modèles "zero-shot" (LLM) sont plus robustes, mais CONTENTFUZZ parvient tout de même à les contourner (ex: 77,3 % sur SemEval).
• Intégrité Sémantique : Les réécritures préservent le sens original.
  • Les scores BERTScore (similarité sémantique) restent élevés (souvent > 0,85).
  • L'analyse par Inférence Linguistique Naturelle (NLI) confirme que le taux de contradiction entre le texte original et le texte réécrit est inférieur à 1,12 %.
• Fluidité : Les textes réécrits sont fluides. Le rapport de perplexité (PPLr) est inférieur à 1,0, indiquant que le texte réécrit est souvent plus fluide ou aussi fluide que l'original, malgré les modifications nécessaires pour tromper le modèle.
• Transférabilité : Les réécritures générées pour un modèle fonctionnent souvent sur d'autres modèles (surtout entre architectures similaires comme BERT et RoBERTa), bien que les LLM zero-shot montrent une plus grande robustesse.
• Comparaison avec les Attaques Adverses : CONTENTFUZZ surpasse les méthodes d'attaque adverses de pointe (comme BERT-Attack) en termes de taux de succès et de fluidité (perplexité beaucoup plus faible), tout en maintenant une similarité sémantique acceptable.

5. Signification et Implications

• Diagnostic des Biais Algorithmiques : CONTENTFUZZ sert d'outil de diagnostic pour révéler la fragilité et les biais des systèmes de recommandation basés sur la stance. Il montre que ces systèmes peuvent être trompés par de simples variations de formulation, même si le fond du message reste inchangé.
• Responsabilité et Éthique : Les auteurs soulignent que l'objectif n'est pas de faciliter la désinformation ou la manipulation malveillante, mais d'augmenter la diversité informationnelle et de permettre aux créateurs de briser les bulles de filtres. Le processus est strictement contraint pour préserver l'intention originale et les faits.
• Nouvelle Direction pour la Recherche : Ce travail ouvre la voie à une nouvelle approche de la "IA responsable" dans les médias sociaux, où l'accent est mis sur la résilience du contenu face aux filtres algorithmiques opaques, plutôt que sur la simple régulation de la plateforme.

En résumé, CONTENTFUZZ démontre qu'il est possible d'utiliser l'IA générative pour "fuzzer" les systèmes de recommandation, offrant aux créateurs un moyen pratique de diversifier leur portée et de contester la formation des cocons d'information, tout en maintenant l'intégrité de leur message.