Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign
Cet article présente PROPAGIA, un corpus forensique de propagande française générée par IA issue de la campagne Storm-1516 de 2025, qui révèle des marqueurs linguistiques distincts de manipulation, expose des fuites d'instructions de prompts et attribue le contenu à un pipeline impliquant à la fois des modèles des familles Llama 3 et Mistral.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le paysage informationnel moderne, un nouveau type de bruit est apparu, né de l'avancement rapide de l'intelligence artificielle. Les grands modèles de langage, ces puissants systèmes informatiques capables de générer du texte de type humain, ont abaissé la barrière de la création d'articles de presse à une échelle industrielle. Bien que ces outils soient souvent célébrés pour leur utilité, ils possèdent une double nature : ils peuvent être utilisés pour réécrire des récits existants sous une forme conçue pour manipuler l'opinion publique. Ce phénomène, parfois appelé « slopaganda », consiste à prendre des informations réelles et à les remodeler pour qu'elles correspondent à un récit spécifique, souvent trompeur. Le défi pour les chercheurs n'est plus seulement de repérer les mensonges évidents, mais de distinguer le journalisme authentique du contenu qui a été algorithmiquement altéré pour paraître authentique. Pour comprendre comment fonctionne cette manipulation, les scientifiques doivent agir comme des analystes forensiques, examinant les empreintes numériques laissées par les machines qui créent le texte.
Une équipe de chercheurs issus d'institutions incluant l'Université de la Sorbonne et Airbus a récemment porté son attention sur une campagne d'influence spécifique et de grande envergure connue sous le nom de Storm-1516. Cette opération, qui visait le public français, exploitait un réseau de quatre-vingt-quatre sites web usurpant l'identité de médias légitimes tels que Le Monde et France Télévisions. Ces sites publiaient des milliers d'articles qui semblaient être des informations standards, mais qui faisaient en réalité partie d'un effort coordonné pour diffuser des récits pro-russes. Les chercheurs ont rassemblé 2 646 de ces articles dans une nouvelle collection qu'ils ont nommée PROPAGIA. Pour comprendre ce qui différencierait ces textes du journalisme réel, ils les ont comparés à un groupe de contrôle de 2 385 articles écrits par des humains pour un grand quotidien français, Ouest-France, couvrant la même période. L'objectif était de déterminer non seulement si les textes avaient été écrits par des machines, mais aussi de découvrir les instructions spécifiques qui avaient été données aux machines et d'identifier la famille de modèles d'intelligence artificielle responsable.
La première étape de l'enquête a consisté à analyser le style et le ton de l'écriture. Les chercheurs ont constaté que les articles de la collection PROPAGIA étaient nettement plus vagues et subjectifs que les articles écrits par des humains. Là où un véritable journaliste citerait typiquement des sources spécifiques, nommerait des experts ou fournirait des détails concrets, les textes générés par l'IA reposaient lourdement sur des affirmations générales et un langage émotionnel. Les articles de propagande étaient également beaucoup plus négatifs, construisant souvent un sentiment de peur ou d'exagération autour des événements. Ils citaient des voix extérieures beaucoup moins fréquemment, substituant les propres affirmations de l'auteur à des faits vérifiables. Ce schéma suggérait une stratégie délibérée visant à remplacer le reportage factuel par l'opinion, une technique qui rend le contenu plus difficile à vérifier et plus facile à utiliser pour la manipulation émotionnelle.
La preuve la plus directe de l'implication de machines est venue d'une source surprenante : le texte lui-même. Dans cinquante des quatre-vingt-quatre sites web, les chercheurs ont découvert que l'intelligence artificielle avait accidentellement laissé derrière elle des parties de ses propres instructions. Ces « fuites » apparaissaient sous forme de notes ou de listes de contrôle intégrées au sein des articles publiés, révélant les commandes exactes que les opérateurs avaient données à la machine. L'un de ces documents listait une spécification éditoriale en dix points, ordonnant au modèle de réécrire les récits tout en évitant les mentions d'autres médias, en condamnant certains dirigeants politiques et en présentant le président russe sous un jour positif. Ces instructions expliquaient les schémas observés dans le texte : l'absence de sources, le ton négatif et l'orientation politique spécifique n'étaient pas des erreurs aléatoires, mais le résultat d'une recette automatisée stricte. La présence de ces fuites a confirmé que le contenu n'était pas simplement écrit par un humain doté d'un parti pris, mais qu'il était généré par une machine suivant un ensemble de règles rigides.
Pour déterminer quel type spécifique d'intelligence artificielle avait été utilisé, les chercheurs ont employé une méthode qui testait la réaction de différents modèles au texte. Ils ont demandé à plusieurs systèmes d'IA différents de réécrire les articles, observant à quel point chaque système modifiait la formulation originale. La logique était que si un modèle d'IA avait initialement écrit un texte, il serait moins susceptible de modifier de manière significative son propre travail lorsqu'on lui demandait de le réécrire, comparativement à la façon dont il modifierait un texte écrit par un humain. Les résultats ont montré un schéma clair : les modèles suspectés par les agences de renseignement d'être derrière la campagne, spécifiquement ceux de la famille Llama 3, modifiaient le moins les articles de propagande. Curieusement, les modèles de la famille Mistral présentaient un schéma similaire, suggérant que la campagne pourrait avoir utilisé un mélange de technologies connexes ou que ces différentes familles partagent des caractéristiques sous-jacentes.
L'étude a conclu que la campagne Storm-1516 était une opération sophistiquée qui s'appuyait sur un pipeline d'IA générative pour produire de la propagande en masse. En analysant le texte pour y déceler des signes de vague précision, en trouvant des instructions divulguées et en testant comment différents modèles réécrivaient le contenu, les chercheurs ont pu reconstruire le processus de génération. Ils ont découvert que la campagne utilisait un ensemble spécifique d'instructions pour forcer l'IA à produire des récits négatifs et sans sources qui imitaient le style des informations réelles. Bien que les chercheurs n'aient pas pu identifier un modèle unique précis, leurs preuves suggèrent fortement que la famille de modèles Llama 3 était centrale dans l'opération, potentiellement aux côtés des modèles Mistral. Ce travail forensique fournit un modèle pour détecter et comprendre les futures campagnes d'influence pilotées par l'IA, passant de la simple détection à la compréhension des mécanismes de l'ingénierie de la manipulation.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.