From form to function: an ontology of communicative influence beyond truth and intent
Cet article propose une ontologie agnostique de la vérité et de l'intention pour analyser l'influence communicative à grande échelle, laquelle structure les messages en quatre dimensions orthogonales (Méthode, Récit, Polarisation et Objet concerné) fondées sur des indices observables afin de soutenir tant la lecture attentive que l'analyse computationnelle à grande échelle de la communication stratégique au-delà des cadres traditionnels de la désinformation.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le vaste paysage bruyant de la communication moderne, une seule image ou un court clip vidéo peut pousser des millions de personnes à l'action, souvent sans dire un seul mensonge. Considérez la photographie d'un passage de frontière bondé. L'image elle-même est réelle ; les gens sont là, la clôture est là, et le ciel est exactement tel qu'il apparaît. Pourtant, lorsque cette photo est partagée avec une légende spécifique ou placée à côté d'un titre particulier, elle cesse d'être simplement une image d'une scène pour devenir un outil. Elle peut signaler un danger, définir qui appartient à un groupe et qui n'en fait pas partie, et inciter à une réponse politique spécifique. C'est le domaine de l'influence communicative, un champ où le pouvoir d'un message ne réside pas dans le fait que ses faits soient vrais ou faux, mais dans la manière dont il est construit pour façonner ce que nous pensons, ce que nous ressentons et ce que nous faisons. Depuis des décennies, les chercheurs se sont concentrés intensément sur la détection des mensonges et l'identification des acteurs malveillants, mais une nouvelle vague de campagnes d'influence utilise des faits réels, un cadrage émotionnel et une narration habile pour atteindre leurs objectifs. Alors que l'intelligence artificielle commence à générer ces messages à une vitesse et un volume qu'aucune équipe humaine ne peut traiter, les anciennes méthodes d'analyse ne sont plus suffisantes. Nous avons besoin d'une nouvelle carte pour comprendre le terrain.
Une équipe de chercheurs a dessiné cette carte. Ils ont créé un système détaillé pour décomposer n'importe quel élément de communication afin de voir exactement comment il fonctionne, qu'il dise la vérité ou qu'il cherche à tromper. Au lieu de demander « Est-ce faux ? » ou « Qui a fait cela ? », leur nouveau système pose quatre questions spécifiques sur le message lui-même : Comment essaie-t-il de nous influencer ? Comment son histoire est-elle organisée ? Comment positionne-t-il différents groupes de personnes les uns contre les autres ou les uns aux côtés des autres ? Et quel résultat plus large cherche-t-il à atteindre ? En répondant à ces questions, les chercheurs peuvent décrire la machinerie interne d'un message, séparant la méthode de persuasion de l'histoire racontée, et la dynamique de groupe de l'objectif ultime. Cette approche traite le message comme un objet autonome, analysant les indices visibles à l'intérieur de celui-ci plutôt que de deviner les intentions secrètes de l'auteur ou la véracité des affirmations.
Les chercheurs ont construit ce système sur deux idées simples mais puissantes. Premièrement, ils supposent que lorsque quelqu'un tente d'influencer un public, il laisse des traces observables dans les mots, les images et la structure du message. Tout comme un charpentier laisse de la sciure et des marques d'outils, un communicateur laisse des motifs spécifiques qui révèlent sa stratégie. Deuxièmement, ils reconnaissent que l'influence ne nécessite pas de mentir. Un message peut être entièrement exact sur le plan factuel et pourtant être un puissant outil de manipulation s'il sélectionne certains faits à mettre en évidence, les cadre d'une certaine manière ou active des identités de groupe profondément ancrées. Cela signifie qu'un système conçu pour attraper les menteurs passera à côté d'une grande partie du travail d'influence qui opère entièrement dans les limites de la vérité. Le nouveau cadre est conçu pour attraper les deux, en se concentrant sur la forme du message plutôt que sur son exactitude factuelle ou les motivations cachées de son créateur.
Pour faire fonctionner cela à grande échelle, les chercheurs ont divisé l'analyse en quatre dimensions distinctes qui opèrent indépendamment les unes des autres. La première dimension, qu'ils appellent la méthode, examine les techniques spécifiques utilisées pour influencer un public. Cela inclut des choses comme l'utilisation d'un langage chargé, la simplification de causes complexes ou l'appel à la peur. La deuxième dimension, le récit, examine comment le message organise son histoire. Elle regarde qui est présenté comme le héros ou le méchant, comment le temps est séquencé et quels enjeux moraux sont soulevés. La troisième dimension, la polarisation, se concentre sur la manière dont le message positionne les groupes de personnes. Elle identifie si le message tente de diviser les gens en « nous contre eux », de rassembler un groupe ou de jeter un pont entre différentes parties. La dernière dimension, l'objet d'influence, identifie le résultat plus large que le message vise, comme changer une politique, augmenter le taux de participation électorale ou éroder la confiance dans une institution. Crucialement, ces quatre dimensions sont distinctes ; un message peut utiliser la même méthode pour raconter une histoire très différente, ou il peut raconter la même histoire tout en visant un résultat complètement différent.
L'équipe a appliqué ce système à des exemples du monde réel, y compris une célèbre image de campagne politique au Royaume-Uni montrant des réfugiés à une frontière. Même si l'image ne contenait aucune fausse déclaration, le système a révélé comment elle fonctionnait. La méthode utilisée était un cadre de menace, positionnant la scène comme un danger pour la nation. Le récit présentait l'Union européenne comme un ennemi extérieur et les populations locales comme un groupe assiégé. La dimension de la polarisation a montré comment le message divisait le monde en un « nous » vulnérable et un « eux » menaçant. Enfin, l'objet d'influence a été clairement identifié comme une poussée pour un vote politique spécifique. En séparant ces éléments, les chercheurs ont pu voir exactement comment une image vraie était utilisée pour conduire un résultat politique spécifique, une nuance qui aurait été perdue si l'analyse s'était contentée de chercher des mensonges ou de deviner l'intention de l'auteur.
Pour s'assurer que le système soit robuste, les chercheurs ont vérifié que chacune des quatre dimensions était réellement nécessaire et ne pouvait être remplacée par les autres. Ils ont montré que savoir quelle méthode est utilisée ne vous dit pas quelle histoire est racontée, et que connaître le sujet ne vous dit pas quel est le but. Par exemple, deux messages sur l'immigration pourraient utiliser les mêmes tactiques émotionnelles exactes, mais l'un pourrait viser à augmenter la participation électorale tandis que l'autre vise à détruire la confiance dans les institutions gouvernementales. Sans les dimensions séparées pour l'histoire, le positionnement des groupes et l'objectif, ces différences critiques seraient invisibles. Les chercheurs ont également construit un contrôle informatique formel pour s'assurer que la logique de leur système tenait la route, confirmant que les règles pour dériver des étiquettes de niveau supérieur à partir de preuves de base étaient cohérentes et incassables.
Ce nouveau cadre n'est pas un outil pour décider si un message est vrai ou faux, ni un moyen de prouver qui l'a créé ou s'il a réellement changé l'avis de quelqu'un. C'est un outil de mesure, une façon de décrire l'architecture de l'influence afin qu'elle puisse être étudiée, comparée et comprise. Les chercheurs reconnaissent que l'application de ce système aux millions de messages générés chaque jour nécessitera que les ordinateurs fassent le plus gros du travail, avec des humains guidant le processus et vérifiant les résultats. Ils notent également que le système a été développé principalement à partir d'exemples politiques en langue anglaise, et que l'adapter à d'autres cultures nécessitera un travail minutieux pour comprendre les indices et les normes locales. Cependant, l'idée centrale demeure : pour comprendre comment nous sommes influencés à l'ère de l'intelligence artificielle, nous devons regarder au-delà de la question de la vérité et examiner la structure du message lui-même. En cartographiant la forme de l'influence, nous acquérons la capacité de voir la machinerie derrière le rideau, distinguant un simple énoncé de fait d'un outil soigneusement construit pour nous faire agir.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.