Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign

在现代信息格局中，一种由人工智能快速进步而催生的新型噪音已经出现。大型语言模型——这些能够生成类人文本的强大计算机系统——降低了大规模创作新闻文章的门槛。虽然这些工具常因其效用而受到赞誉，但它们具有双重属性：它们可以被用来将现有的故事改写成旨在操纵公众舆论的形式。这种现象有时被称为“slopaganda”（垃圾宣传），涉及将真实新闻进行重塑，以符合特定的、通常是误导性的叙事。研究人员面临的挑战不再仅仅是识别明显的谎言，而是要区分真正的新闻报道与那些经过算法修改以看起来具有真实性的内容。为了理解这种操纵是如何运作的，科学家们必须扮演法医分析师的角色，检查机器在创作文本时留下的数字指纹。

来自包括索邦大学和空客在内的机构的研究小组，最近将注意力转向了一个名为 Storm-1516 的特定大规模影响行动。这一行动针对法国受众，运营着一个由84个网站组成的网络，这些网站冒充《世界报》（Le Monde）和法国电视台（France Télévisions）等合法新闻机构。这些网站发布了数千篇文章，看似是标准新闻，实则是为了传播亲俄叙事而进行的协调行动。研究人员将其中2,646篇文章收集到一个名为 PROPAGIA 的新集合中。为了了解这些文本与真实新闻有何不同，他们将这些文章与同一时期由人类为法国主要日报《西法兰西报》（Ouest-France）撰写的2,385篇文章（作为对照组）进行了对比。其目标不仅是确定这些文本是否由机器编写，还要揭示机器收到的具体指令，并识别出负责该内容的生成式人工智能模型家族。

调查的第一步是分析写作的风格和语调。研究人员发现，PROPAGIA 集合中的文章比人类撰写的文章明显更加模糊且具有主观性。真实的记者通常会引用具体来源、提名专家或提供具体细节，而 AI 生成的文本则过度依赖笼统的陈述和情感化的语言。这些宣传文章也更加负面，经常围绕事件构建恐惧感或进行夸张。它们引用外部声音的频率要低得多，用作者自身的断言取代了可验证的事实。这种模式表明存在一种刻意的策略，即用观点取代事实报道，这种技术使得内容更难进行事实核查，也更容易用于情感操纵。

最直接的机器参与证据来自一个令人惊讶的来源：文本本身。在84个网站中的50个网站里，研究人员发现人工智能不小心留下了它自身指令的一部分。这些“泄露”以嵌入在已发布文章中的笔记或清单形式出现，揭示了操作者给机器下的确切命令。其中一份文件列出了一个包含十项编辑规范的文档，指示模型在重写故事时要避免提及其他媒体，谴责特定的政治领导人，并将俄罗斯总统塑造为正面形象。这些指令解释了文本中观察到的模式：缺乏来源、负面语调以及特定的政治倾向并非随机错误，而是遵循严格的自动化配方的结果。这些泄露的存在证实了该内容不仅仅是由带有偏见的人类编写，而是由遵循一套固定规则的机器生成的。

为了确定使用了哪种特定的人工智能，研究人员采用了一种测试不同模型如何对文本做出反应的方法。他们要求几种不同的 AI 系统重写这些文章，并观察每个系统对原始措辞的修改程度。其逻辑在于，如果一个 AI 模型最初编写了某段文本，那么当被要求重写时，它不太可能显著改变自己的作品，相比之下，人类编写的文本则会有较大的变化。结果显示出一个清晰的模式：情报机构怀疑是该运动幕后黑手的模型，特别是 Llama 3 系列模型，对这些宣传文章的修改程度最小。有趣的是，Mistral 系列的模型也表现出类似的模式，这表明该行动可能使用了相关的混合技术，或者这些不同的模型家族共享底层特征。

研究结论认为，Storm-1516 行动是一个依赖生成式 AI 管道来大规模生产宣传内容的复杂行动。通过分析文本中的模糊迹象、寻找泄露的指令并测试不同模型如何重写内容，研究人员得以重建其生成过程。他们发现，该行动使用了一套特定的指令，强迫 AI 产生负面的、缺乏来源的叙事，从而模仿真实新闻的风格。虽然研究人员无法精准定位单一的具体模型，但他们的证据有力地表明，Llama 3 系列模型是该行动的核心，可能同时也使用了 Mistral 模型。这项法医分析工作为如何检测和理解未来的 AI 驱动型影响行动提供了蓝图，使其从简单的检测转向理解这种操纵是如何被工程化设计的。