Amplification to Synthesis: A Comparative Analysis of Cognitive Operations Before and After Generative AI
Dieser Artikel analysiert Daten von X (ehemals Twitter) aus den US-Präsidentschaftswahlen 2016 und 2024, um nachzuweisen, dass kognitive Operationen sich grundlegend von einer botgesteuerten Amplifikation identischer Inhalte zu einer generative-KI-gesteuerten Synthese verschoben haben, die durch einen Anstieg originärer Inhalte, einen Zusammenbruch lexikalischer Überschneidungen und eine narrativ konzentrierte Koordination gekennzeichnet ist.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als einen riesigen, lauten Marktplatz vor, auf dem Menschen Meinungen schreien, Nachrichten teilen und versuchen, andere von ihrem Standpunkt zu überzeugen. Seit Jahren beobachten Sicherheitsexperten diesen Platz, um „kognitive Operationen" zu erkennen – im Wesentlichen organisierte Kampagnen, die darauf ausgelegt sind, Menschen zu täuschen, damit sie Dinge glauben oder ihre Meinung ändern.
Diese Arbeit vergleicht zwei spezifische Momente auf diesem Marktplatz: die US-Präsidentschaftswahl 2016 und die Wahl 2024. Die Forscher wollten herausfinden, ob die „böswilligen Akteure" ihre Taktiken geändert haben, nachdem eine neue Technologie namens Generative KI (wie Chatbots, die für Sie Geschichten schreiben können) populär wurde.
Hier ist das, was sie fanden, erklärt durch einfache Analogien:
1. Der Wechsel von „Kopieren-Einfügen" zu „Frisch Gebackenem"
Die alte Methode (2016):
Stellen Sie sich eine Gruppe von Menschen vor, die versuchen, ein Gerücht zu verbreiten. 2016 verhielten sie sich hauptsächlich wie eine Kopiermaschine. Sie würden eine einzige Nachricht finden, sie Tausende Male ausdrucken und jedem aushändigen. Auf Social Media sah dies so aus, als würden Millionen von Menschen auf den „Retweet"-Button drücken.
- Die Daten: Etwa 40 % der Nachrichten waren einfach Retweets. Die Wörter waren fast identisch, wie ein Chor, der exakt dieselbe Note singt.
Die neue Methode (2024):
Bis 2024 war die Kopiermaschine verschwunden. Stattdessen verhielt sich die Gruppe wie ein Team von Ghostwritern. Sie wiederholten nicht nur dieselbe Nachricht; sie schrieben Tausende neue Geschichten, die alle dasselbe sagten, aber völlig unterschiedliche Wörter verwendeten.
- Die Daten: Fast 93 % der Nachrichten waren „Originalbeiträge". Der „Retweet"-Button wurde kaum genutzt (weniger als 1 %). Es sah so aus, als würde jeder einen eigenen, einzigartigen Aufsatz über dasselbe Thema schreiben.
2. Der Wechsel von „Vollgepacktem Raum" zu „Geheimclub"
Die alte Methode (2016):
2016 waren die böswilligen Akteure wie ein vollgepackter Mosh-Pit. Sie schrien alle zur exakt gleichen Sekunde, unabhängig davon, worüber sie schrien. Wenn eine Person über das Wetter schrie und eine andere über Politik, schrien beide um 14:00 Uhr genau. Dieser „Ausbruch" von Lärm war ihre Signatur.
- Die Daten: Sie koordinierten ihre Timing perfekt über unterschiedliche Themen hinweg. Es war überall gleichzeitig chaotisch und laut.
Die neue Methode (2024):
2024 war der Mosh-Pit verschwunden. Stattdessen bildeten sie kleine, geheime Clubs. Sie hörten auf, gleichzeitig über zufällige Dinge zu schreien. Stattdessen warteten sie, bis sie alle über dieselbe spezifische Geschichte sprachen, und dann posteten sie alle zur exakt gleichen Sekunde.
- Die Daten: Sie schrien selten gleichzeitig über verschiedene Themen. Aber wenn sie über eine bestimmte Geschichte sprachen (wie eine Promi-Unterstützung), koordinierten sie ihr Timing innerhalb dieser Gruppe perfekt.
3. Der Wechsel von „Robotern" zu „Menschlichen Autoren"
Die alte Methode (2016):
Die Nachrichten waren so identisch, dass es offensichtlich war, dass sie gefälscht waren. Es war, als würde ein Roboter ein Skript vorlesen.
- Die Daten: Die Wörter waren zu 99 % identisch. Wenn Sie zwei Beiträge verglichen, waren sie praktisch derselbe Satz.
Die neue Methode (2024):
Die Nachrichten waren vielfältig. Eine Person könnte sagen: „Taylor Swift unterstützt den Kandidaten!", während eine andere sagt: „Der Popstar hat gerade ihre volle Unterstützung dem Vizepräsidenten gegeben!" Sie meinten dasselbe, aber die Wörter waren völlig unterschiedlich.
- Die Daten: Die Wörter waren sehr unterschiedlich (geringe Ähnlichkeit), aber die Bedeutung war dieselbe. Genau das ist das, wofür Generative KI gut ist: eine Idee zu nehmen und sie auf hundert verschiedene Arten umzuschreiben, um natürlich zu klingen.
Das große Fazit
Die Forscher sagen nicht: „Wir haben die KI erwischt." Sie sagen: „Die Fingerabdrücke haben sich geändert."
- Vor der KI: Die Bösewichte nutzten Bots, um bestehende Inhalte zu verstärken (wiederholen).
- Nach der KI: Die Bösewichte scheinen KI zu nutzen, um neue Inhalte zu synthetisieren (erschaffen), die einzigartig aussehen, aber dieselbe Agenda vorantreiben.
Die Arbeit legt nahe, dass die „Bösewichte" ihr Werkzeugkoffer aufgerüstet haben. Sie drücken nicht mehr nur auf „Kopieren und Einfügen"; sie nutzen KI, um frische, einzigartige Geschichten zu schreiben, die sich perfekt um bestimmte Narrative herum koordinieren, was sie viel schwerer zu erkennen macht als den alten, repetitiven Spam.
Wichtiger Hinweis: Die Autoren sind sorgfältig darin zu sagen, dass sie nicht bewiesen haben, dass KI dies definitiv verursacht hat. Sie haben lediglich festgestellt, dass die Muster in 2024 genau so aussehen, wie man es erwarten würde, wenn jemand KI würde, wohingegen die Muster von 2016 wie alte Bot-Netzwerke aussahen. Sie bieten eine neue „Basislinie" für Sicherheitsexperten, um diese neuen Muster in der Zukunft zu suchen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.