Amplification to Synthesis: A Comparative Analysis of Cognitive Operations Before and After Generative AI
本論文は、2016 年および 2024 年の米国大統領選挙における X（旧 Twitter）のデータを分析し、認知操作が同一コンテンツのボットによる増幅から、生成 AI による合成へと根本的にシフトしたことを示すものであり、その特徴として、オリジナルコンテンツの急増、語彙的重複の崩壊、そして物語的に集中した調整の出現が挙げられる。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
インターネットを、人々が意見を叫び、ニュースを共有し、他者を自分の見解に納得させようとする巨大で騒がしい広場だと想像してみてください。長年、セキュリティの専門家は、人々をだまして何かを信じさせたり、考えを変えさせたりするために設計された組織的なキャンペーン、つまり「認知作戦」を見つけ出すために、この広場を監視してきました。
この論文は、この広場における 2 つの特定の瞬間、すなわち 2016 年の米国大統領選挙と 2024 年の選挙を比較しています。研究者たちは、生成 AI（あなたのために物語を書くことができるチャットボットなど）という新しい技術が普及した後、「悪意ある行為者」が戦術を変えたかどうかを確認したかったのです。
以下に、彼らが発見したことをシンプルな比喩を用いて説明します。
1. 「コピー＆ペースト」から「焼き立て」への転換
旧来の方法（2016 年）：
人々が噂を広めようとする様子を想像してください。2016 年、彼らは主にコピー機のように振る舞っていました。彼らは一つのメッセージを見つけ、それを何千回も印刷して、皆に配っていました。ソーシャルメディア上では、何百万人もの人々が「リツイート」ボタンを押すような光景に見えました。
- データ： メッセージの約 40% が単なるリツイートでした。言葉はほぼ同一で、合唱団が全く同じ音程で歌っているかのようでした。
新しい方法（2024 年）：
2024 年までに、コピー機は姿を消しました。代わりに、そのグループはゴーストライターチームのように振る舞いました。彼らは同じメッセージを繰り返すだけでなく、同じことを言いつつも全く異なる言葉を使った何千もの新しい物語を書きました。
- データ： メッセージの約 93% が「オリジナル投稿」でした。「リツイート」ボタンはほとんど使われず（1% 未満）、皆が同じトピックについて独自のエッセイを書いているように見えました。
2. 「混雑した部屋」から「秘密のクラブ」への転換
旧来の方法（2016 年）：
2016 年、悪意ある行為者は混雑したモッシュピットのようでした。彼らは何について叫んでいようと、皆が全く同じ瞬間に叫びました。一人が天気について叫び、もう一人が政治について叫んでも、両方とも午後 2 時ぴったりに絶叫しました。この「一斉に」の騒ぎが彼らの特徴でした。
- データ： 彼らは異なるトピックにおいて、タイミングを完璧に同期させていました。そこは至る所で混沌とし、騒がしくなっていました。
新しい方法（2024 年）：
2024 年、モッシュピットは消えました。代わりに、彼らは小さな秘密のクラブを結成しました。彼らは、ランダムな事柄について同時に叫ぶのをやめました。代わりに、皆が同じ特定の物語について話しているのを待ち、それから皆が全く同じ瞬間に投稿しました。
- データ： 彼らは異なるトピックについて同時に叫ぶことはめったにありませんでした。しかし、一つの特定の物語（例えば、有名人の支持など）について話しているときは、そのグループ内でタイミングを完璧に同期させていました。
3. 「ロボット」から「人間のような書き手」への転換
旧来の方法（2016 年）：
メッセージはあまりにも同一だったため、それが偽物であることは明白でした。まるでロボットが台本を読んでいるかのようでした。
- データ： 言葉は 99% 同一でした。二つの投稿を比較すれば、それらは実質的に同じ文でした。
新しい方法（2024 年）：
メッセージは多様でした。一人は「テイラー・スウィフトが候補者を支持している！」と言い、もう一人は「そのポップスターが副大統領に全面的な支持を表明した！」と言うかもしれません。意味は同じですが、言葉は全く異なりました。
- データ： 言葉は非常に異なっていました（類似度が低い）が、意味は同じでした。これはまさに生成 AI が得意とするところです。一つのアイデアを取り、自然に聞こえるように百通りの異なる方法で書き直すことです。
大きな結論
研究者たちは、「AI を捕まえた」と言っているのではありません。彼らが言っているのは、「指紋が変わった」ということです。
- AI 以前： 悪の組織は、既存のコンテンツを増幅（反復）するためにボットを使用していました。
- AI 以後： 悪の組織は、一見ユニークに見えるが同じアジェンダを推進する新しいコンテンツを生成（作成）するために AI を使用しているように見えます。
この論文は、「悪の組織」がツールキットをアップグレードしたことを示唆しています。彼らはもはや「コピー＆ペースト」を押しているだけではありません。彼らは AI を使って、特定の物語の周りで完璧に連携する、新鮮でユニークな物語を書いています。これにより、昔ながらの反復的なスパムよりも、はるかに発見しにくくなっています。
重要な注記： 著者は慎重にも、AI がこれらを確実に引き起こしたとは証明していないと述べています。彼らが見つけたのは、2024 年のパターンが、誰かがもしAI を使用していたとしたら期待されるものと全く同じように見え、一方で 2016 年のパターンは古典的なボットネットワークのようだったということです。彼らは、セキュリティの専門家が将来これらの新しいパターンを探すための新しい「基準」を提供しているのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。