Propaganda Forensics: Recovering the Generation Pipeline of an AI-Driven Influence Campaign

In der modernen Informationslandschaft ist eine neue Art von Rauschen entstanden, das aus dem rasanten Fortschritt der künstlichen Intelligenz hervorgegangen ist. Große Sprachmodelle, jene leistungsstarken Computersysteme, die in der Lage sind, menschenähnliche Texte zu generieren, haben die Barriere für die Erstellung von Nachrichtenartikeln in industriellem Maßstab gesenkt. Während diese Werkzeuge oft für ihren Nutzen gefeiert werden, besitzen sie eine duale Natur: Sie können dazu verwendet werden, bestehende Geschichten in eine Form umzuschreiben, die darauf ausgelegt ist, die öffentliche Meinung zu manipulieren. Dieses Phänomen, das manchmal als „Slopaganda“ bezeichnet wird, beinhaltet das Umformen echter Nachrichten, um sie in ein spezifisches, oft irreführendes Narrativ einzupassen. Die Herausforderung für Forscher besteht nicht mehr nur darin, offensichtliche Lügen zu entlarven, sondern zwischen echtem Journalismus und Inhalten zu unterscheiden, die algorithmisch verändert wurden, um authentisch zu wirken. Um zu verstehen, wie diese Manipulation funktioniert, müssen Wissenschaftler wie Forensiker agieren und die digitalen Fingerabdrücke untersuchen, die die Maschinen hinterlassen, die den Text erstellen.

Ein Team von Forschern von Institutionen, darunter die Sorbonne Universität und Airbus, hat kürzlich seine Aufmerksamkeit auf eine spezifische, groß angelegte Einflusskampagne namens Storm-1516 gerichtet. Diese Operation, die auf französische Zielgruppen abzielte, betrieb ein Netzwerk von vierundachtzig Websites, die seriöse Nachrichtenmedien wie Le Monde und France Télévisions imitierten. Diese Seiten veröffentlichten tausende Artikel, die wie Standardnachrichten erschienen, aber tatsächlich Teil einer koordinierten Bemühung waren, pro-russische Narrative zu verbreiten. Die Forscher sammelten 2.646 dieser Artikel in einer neuen Sammlung, die sie PROPAGIA nannten. Um zu verstehen, was diese Texte von echtem Journalismus unterschied, verglichen sie sie mit einer Kontrollgruppe von 2.385, von Menschen geschriebenen Artikeln einer großen französischen Tageszeitung, Ouest-France, die denselben Zeitraum abdeckten. Das Ziel war es, nicht nur festzustellen, ob die Texte von Maschinen geschrieben wurden, sondern auch die spezifischen Anweisungen zu entschlüsseln, die man der Maschine gegeben hatte, und die Familie der verantwortlichen Künstlichen-Intelligenz-Modelle zu identifizieren.

Der erste Schritt der Untersuchung war die Analyse des Stils und des Tons der Schreibweise. Die Forscher fanden heraus, dass die Artikel in der PROPAGIA-Sammlung signifikant vager und subjektiver waren als die von Menschen geschriebenen Artikel. Während ein echter Journalist typischerweise spezifische Quellen zitieren, Experten benennen oder konkrete Details liefern würde, stützten sich die KI-generierten Texte stark auf allgemeine Aussagen und emotionale Sprache. Die Propaganda-Artikel waren auch weitaus negativer und bauten oft ein Gefühl von Angst oder Übertreibung um Ereignisse auf. Sie zitierten externe Stimmen viel seltener und ersetzten überprüfbare Fakten durch die eigenen Behauptungen des Autors. Dieses Muster deutet auf eine bewusste Strategie hin, faktische Berichterstattung durch Meinung zu ersetzen – eine Technik, die den Inhalt schwerer überprüfbar und leichter für emotionale Manipulation nutzbar macht.

Der direkteste Beweis für die Beteiligung von Maschinen kam aus einer überraschenden Quelle: dem Text selbst. In fünfzig der vierundachtzig Websites fanden die Forscher heraus, dass die künstliche Intelligenz versehentlich Teile ihrer eigenen Anweisungen hinterlassen hatte. Diese „Leaks“ erschienen als Notizen oder Checklisten, die in die veröffentlichten Artikel eingebettet waren und die exakten Befehle offenlegten, die die Betreiber der Maschine gegeben hatten. Eines dieser Dokumente enthielt eine zehnpunktige redaktionelle Spezifikation, die das Modell anwies, Geschichten umzuschreiben, während es Erwähnungen anderer Medien vermeidet, bestimmte politische Führer verurteilt und den russischen Präsidenten in einem positiven Licht darstellt. Diese Anweisungen erklärten die Muster im Text: Der Mangel an Quellen, der negative Ton und die spezifische politische Färbung waren keine zufälligen Fehler, sondern das Ergebnis eines strengen, automatisierten Rezepts. Das Vorhandensein dieser Leaks bestätigte, dass der Inhalt nicht bloß von einem Menschen mit einer Voreingenommenheit geschrieben wurde, sondern von einer Maschine generiert wurde, die einem starren Regelwerk folgte.

Um zu bestimmen, welche spezifische Art der künstlichen Intelligenz verwendet wurde, nutzten die Forscher eine Methode, bei der sie testeten, wie verschiedene Modelle auf den Text reagierten. Sie baten mehrere verschiedene KI-Systeme, die Artikel umzuschreiben, und beobachteten dabei, wie stark jedes System die ursprüngliche Wortwahl änderte. Die Logik dahinter war: Wenn ein KI-Modell ursprünglich einen Text geschrieben hatte, wäre es weniger wahrscheinlich, seine eigene Arbeit signifikant zu ändern, im Vergleich dazu, wie es einen von einem Menschen geschriebenen Text ändern würde. Die Ergebnisse zeigten ein klares Muster: Die Modelle, die von Geheimdiensten als Urheber der Kampagne verdächtigt werden, insbesondere jene aus der Llama-3-Familie, änderten die Propaganda-Artikel am wenigsten. Interessanterweise zeigten Modelle aus der Mistral-Familie ein ähnliches Muster, was darauf hindeutet, dass die Kampagne möglicherweise eine Mischung verwandter Technologien verwendete oder dass diese verschiedenen Familien grundlegende Gemeinsamkeiten teilen.

Die Studie kam zu dem Schluss, dass die Storm-1516-Kampagne eine raffinierte Operation war, die auf einer Pipeline generativer KI basierte, um Propaganda in Massenproduktion zu erstellen. Durch die Analyse des Textes auf Anzeichen von Vageheit, das Finden geleakter Anweisungen und das Testen, wie verschiedene Modelle den Inhalt umschrieben, konnten die Forscher den Generierungsprozess rekonstruieren. Sie fanden heraus, dass die Kampagne einen spezifischen Satz von Anweisungen nutzte, um die KI dazu zu zwingen, negative, quellenlose Narrative zu produzieren, die den Stil echter Nachrichten imitierten. Während die Forscher nicht das exakte einzelne Modell bestimmen konnten, legten ihre Beweise nahe, dass die Llama-3-Modellfamilie zentral für die Operation war, potenziell zusammen mit Mistral-Modellen. Diese forensische Arbeit liefert einen Bauplan dafür, wie zukünftige KI-gestützte Einflusskampagnen aufzuspüren und zu verstehen – weg von der einfachen Detektion hin zum Verständnis der Mechanik, wie die Manipulation konstruiert wird.