Amplification to Synthesis: A Comparative Analysis of Cognitive Operations Before and After Generative AI
本文分析了2016年和2024年美国总统大选期间的X（前身为Twitter）数据，以证明认知运作已从机器人驱动的相同内容放大，根本性地转变为生成式人工智能驱动的综合，其特征是原创内容激增、词汇重叠度骤降以及叙事层面的协调集中。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象互联网是一个巨大而嘈杂的城镇广场，人们在这里大声宣扬观点、分享新闻，并试图说服他人接受自己的立场。多年来，安全专家一直在监视这个广场，以识别“认知行动”——本质上，这些是旨在诱骗人们相信某些事物或改变其想法的有组织活动。
本文比较了该城镇广场中的两个特定时刻：2016 年美国总统大选和 2024 年大选。研究人员希望了解，随着一种名为生成式人工智能（例如能够为你撰写故事的聊天机器人）的新技术普及，“不良行为者”是否改变了其策略。
以下是他们的发现，通过简单的类比进行解释：
1. 从“复制粘贴”到“新鲜出炉”的转变
旧方式（2016 年）：
想象一群人试图让谣言传播开来。在 2016 年，他们主要像复印机一样行动。他们会找到一条单一信息，将其打印成千上万份，然后分发给每个人。在社交媒体上，这表现为数百万人点击“转发”按钮。
- 数据： 约 40% 的信息仅仅是转发。这些文字几乎完全相同，就像一群人齐声唱出完全相同的音符。
新方式（2024 年）：
到了 2024 年，复印机消失了。取而代之的是，这群人像一支代笔写作团队一样行动。他们不再仅仅重复相同的信息，而是撰写了数千篇新故事，这些故事表达的是相同的意思，但使用了完全不同的措辞。
- 数据： 近 93% 的信息是“原创帖子”。“转发”按钮几乎未被使用（低于 1%）。这看起来就像每个人都在就同一主题撰写自己独特的文章。
2. 从“拥挤房间”到“秘密俱乐部”的转变
旧方式（2016 年）：
在 2016 年，不良行为者就像拥挤的冲撞人群。无论他们在喊什么，所有人都会在完全相同的秒数大声喊叫。如果一个人喊的是天气，另一个人喊的是政治，他们都会在下午 2 点整尖叫。这种噪音的“爆发”就是他们的标志。
- 数据： 他们在不同话题上完美地协调了时间。 everywhere 都充满了混乱和喧嚣。
新方式（2024 年）：
到了 2024 年，冲撞人群消失了。相反，他们组成了小型的秘密俱乐部。他们不再在同一时间就随机事物大喊大叫。相反，他们会等到所有人都在谈论同一个特定故事时，然后才在同一确切时刻发布内容。
- 数据： 他们很少就不同话题在同一时间大喊大叫。但是，当他们讨论一个特定故事（例如名人背书）时，他们会在该群体内部完美地协调时间。
3. 从“机器人”到“类人写手”的转变
旧方式（2016 年）：
信息如此雷同，以至于显而易见它们是伪造的。这就像机器人在朗读剧本。
- 数据： 文字有 99% 是相同的。如果你比较两条帖子，它们几乎是同一个句子。
新方式（2024 年）：
信息多种多样。一个人可能会说：“泰勒·斯威夫特支持这位候选人！”而另一个人则说：“这位流行歌星刚刚全力支持副总统！”他们的意思相同，但措辞完全不同。
- 数据： 文字差异很大（相似度低），但含义相同。这正是生成式人工智能擅长的：将一个想法用一百种不同的方式重写，使其听起来自然。
主要结论
研究人员并不是在说：“我们抓住了人工智能。”他们是在说：“指纹已经改变了。”
- 人工智能之前： 坏分子利用机器人来放大（重复）现有内容。
- 人工智能之后： 坏分子似乎正在利用人工智能来合成（创造）新内容，这些内容看起来独一无二，但推动的是相同的议程。
该论文指出，“坏分子”已经升级了他们的工具箱。他们不再只是点击“复制和粘贴”；他们正在利用人工智能撰写新鲜、独特的故事，这些故事围绕特定叙事完美协调，使其比旧式的重复垃圾信息更难被察觉。
重要说明： 作者谨慎地表示，他们并未证明人工智能肯定导致了这一变化。他们只是发现，2024 年的模式看起来完全就像有人正在使用人工智能所预期的那样，而 2016 年的模式则像老式的机器人网络。他们正在为安全专家提供一个新的“基准”，以便在未来寻找这些新模式。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。