LLM-based Detection of Manipulative Political Narratives
本文提出了一种计算框架，该框架将少样本提示与推理模型相结合，用于过滤和无监督聚类，从而在不依赖预定义类别的情况下，从超过 120 万条社交媒体帖子中有效识别并构建出不同的操纵性政治叙事。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个巨大而混乱的城镇广场（社交媒体），数百万人同时大声喊叫。有些人只是在抱怨天气或批评市长的新政策（正当批评）。但另一些人则低声传播一个特定的、协调一致的故事，旨在让所有人陷入恐慌、憎恨邻居或对体制失去信心（操纵性叙事）。
问题在于，“低语”往往听起来与“抱怨”完全一样。它们使用相似的词汇，但意图截然不同。一个人说：“市长工作不力”，而另一个人说：“市长暗中与外星人勾结，企图摧毁我们的城镇”。两者都在批评市长，但只有一种是操纵性的陷阱。
本文介绍了一种由慕尼黑联邦国防军大学研究人员开发的新颖智能系统，用于在 120 万条社交媒体帖子中找出这些特定的“陷阱”。以下是他们如何利用简单类比实现这一点的：
1. “智能门卫”（过滤器）
首先，研究人员需要将真正的批评者与操纵者区分开来。他们不能仅仅要求计算机“找出谎言”，因为操纵者经常利用真相来编造谎言（例如：“是的，经济确实糟糕，但这里有一个关于谁导致这一局面的虚假故事”）。
相反，他们利用强大的人工智能（大型语言模型）构建了一个智能门卫。
- 工作原理：他们向人工智能提供了一本特定的规则手册，以及几个“不良行为者”的示例（例如，克隆新闻网站或编造虚假丑闻的团体）。
- 技巧：他们告诉人工智能：“如果你听到一个听起来像是旨在煽动人们愤怒或恐惧的协调阴谋故事，就将其标记出来。但如果只是一个普通人因税收问题而愤怒，就让他们通过。”
- 结果：人工智能表现得像一位极其严格的大门守卫。它几乎让所有潜在的操纵性故事通过（即使偶尔让几个普通人混入），因为多抓几个漏网之鱼总比错过一个危险阴谋要好。
2. “情绪地图”（聚类）
在门卫过滤了帖子之后，研究人员手头有一堆“可疑”的故事。现在，他们需要将它们分组。
- 类比：想象将数千颗彩色弹珠扔进一个巨大的盒子里。有些是红色的，有些是蓝色的，但它们都混在一起。
- 方法：他们使用了一种特殊的制图工具（称为 UMAP 和 HDBSCAN）来排列这些弹珠。他们不是按主题（例如“所有关于经济的帖子”）进行分组，而是按氛围或意图进行分组（例如“所有感觉像背叛的帖子”）。
- 神奇之处：由于他们没有告诉计算机要寻找哪些群体，计算机自行发现了 41 个截然不同的故事“部落”。这就像走进一个拥挤的房间，然后意识到：“哦，这个角落里的人都在低声谈论政府秘密阴谋，而那个角落里的人都在低声谈论外星人。”
3. “故事总结器”（标签化）
一旦群体形成，研究人员就需要了解每个群体实际上在说什么。
- 过程：他们选取了每个群体中的顶级帖子，并要求一个超级智能的人工智能为整个群体写一个一句话的标题。
- 输出：人工智能没有给出像“经济、汽油、战争”这样枯燥的关键词列表，而是提供了完整的故事线。
- 示例群体 1：“政府通过允许危险移民进入来取代我们的孩子，从而背叛了我们。”
- 示例群体 2：“政府为了富有的说客而发动虚假战争，牺牲了我们的和平。”
他们发现了什么？
当他们将此系统应用于德国超过 120 万条帖子时，他们发现了 41 种截然不同的操纵性故事线。这些故事线归入四个主要“主题”或支柱：
- 大取代：政府有意用移民替换本土人口的想法。
- 代理人战争：德国只是美国的傀儡，为了对抗俄罗斯而牺牲自己人民的想法。
- 气候独裁：气候变化是精英阶层为了控制和使普通人贫困而编造的骗局的想法。
- 救世主叙事：所有传统政党都腐败，只有一家特定的政党（以及像埃隆·马斯克这样的外部人物）能拯救国家的想法。
为什么这很重要
研究人员发现，传统方法（例如仅仅统计单词出现的频率）在此处失效，因为它们忽略了故事。你可以有一篇关于“汽油价格”的帖子是正常抱怨，而另一篇关于“汽油价格”的帖子则是阴谋论的一部分。
这个新系统就像一位侦探，它不仅查看页面上的文字，还能理解情节。它成功地将正常政治争论的“噪音”与协调操纵的“信号”区分开来，即使操纵者正在利用真实事实来讲述虚假故事。
重要提示：研究人员强调，他们的系统旨在发现协调阴谋，而非评判个人意见的对错。有时，普通人可能会说出听起来像阴谋论的话，系统可能会将其标记出来。但由于该系统将事物分组，那些单一的、孤立的声音通常会被过滤为“噪音”，只有那些大型的、协调一致的故事才会显现出来。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。