LLM-based Detection of Manipulative Political Narratives
Dieser Beitrag stellt ein rechnerisches Framework vor, das Few-Shot-Prompting mit Reasoning-Modellen für Filterung und unüberwachtes Clustering kombiniert, um ohne reliance auf vordefinierte Kategorien effektiv distinct manipulative politische Narrative aus über 1,2 Millionen Social-Media-Beiträgen zu identifizieren und zu strukturieren.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich einen riesigen, chaotischen Stadtplatz (soziale Medien) vor, auf dem Millionen von Menschen gleichzeitig schreien. Manche beschweren sich nur über das Wetter oder kritisieren die neue Politik des Bürgermeisters (legitime Kritik). Andere jedoch flüstern eine spezifische, koordinierte Geschichte, die darauf ausgelegt ist, alle in Panik zu versetzen, ihre Nachbarn zu hassen oder das Vertrauen in das System zu verlieren (manipulative Narrative).
Das Problem ist, dass die „Flüstergeschichten" oft exakt wie die „Beschwerden" klingen. Sie verwenden ähnliche Worte, aber die Absicht ist eine andere. Eine Person sagt: „Der Bürgermeister ist in seinem Job schlecht", während eine andere sagt: „Der Bürgermeister arbeitet heimlich mit Außerirdischen zusammen, um unsere Stadt zu zerstören." Beide kritisieren den Bürgermeister, aber nur einer ist eine manipulative Falle.
Dieser Artikel beschreibt ein neues, intelligentes System, das von Forschern der Universität der Bundeswehr München entwickelt wurde, um diese spezifischen „Fallen" in einer Flut von 1,2 Millionen Social-Media-Beiträgen zu finden. Hier ist, wie sie es getan haben, unter Verwendung einfacher Analogien:
1. Der „kluge Türsteher" (Der Filter)
Zuerst mussten die Forscher die echten Kritiker von den Manipulatoren trennen. Sie konnten einen Computer nicht einfach bitten, „Lügen zu finden", weil Manipulatoren oft die Wahrheit nutzen, um eine Lüge zu erzählen (z. B.: „Ja, die Wirtschaft ist schlecht, und hier ist eine gefälschte Geschichte darüber, wer sie verursacht hat").
Stattdessen bauten sie einen klugen Türsteher mit Hilfe einer leistungsstarken KI (ein Large Language Model).
- Funktionsweise: Sie gaben der KI ein spezifisches Regelbuch und einige Beispiele für „böse Akteure" (wie eine Gruppe, die Nachrichtenseiten kloniert oder gefälschte Skandale erfindet).
- Der Trick: Sie sagten der KI: „Wenn du eine Geschichte hörst, die nach einem koordinierten Komplott klingt, um Menschen wütend oder ängstlich zu machen, markiere sie. Aber wenn es nur ein normaler Mensch ist, der über Steuern wütend ist, lass ihn passieren."
- Das Ergebnis: Die KI agierte wie ein sehr strenger Türsteher. Sie ließ fast alle potenziell manipulativen Geschichten durch (auch wenn sie versehentlich ein paar normale Menschen durchließ), denn es ist besser, ein paar Extra zu fangen, als einen gefährlichen Plan zu verpassen.
2. Die „Stimmungs-Karte" (Clustering)
Nachdem der Türsteher die Beiträge gefiltert hatte, hatten die Forscher einen Haufen „verdächtiger" Geschichten. Jetzt mussten sie sie gruppieren.
- Die Analogie: Stellen Sie sich vor, Sie werfen Tausende von farbigen Murmeln in eine große Kiste. Einige sind rot, einige blau, aber sie sind alle durcheinander gemischt.
- Die Methode: Sie benutzten ein spezielles Kartierungswerkzeug (genannt UMAP und HDBSCAN), um diese Murmeln anzuordnen. Anstatt sie nach dem Thema zu gruppieren (z. B. „alle Beiträge über die Wirtschaft"), gruppierten sie sie nach der Stimmung oder Absicht (z. B. „alle Beiträge, die sich wie ein Verrat anfühlen").
- Die Magie: Weil sie dem Computer nicht sagten, nach welchen Gruppen er suchen sollte, fand der Computer eigenständig 41 distincte „Stämme" von Geschichten. Es ist, als würde man in einen überfüllten Raum gehen und feststellen: „Oh, alle in dieser Ecke flüstern über ein geheimes Regierungskomplott, während alle in dieser anderen Ecke über Außerirdische flüstern."
3. Der „Geschichten-Zusammenfasser" (Labeling)
Sobald die Gruppen gebildet waren, mussten die Forscher wissen, was jede Gruppe tatsächlich sagte.
- Der Prozess: Sie nahmen die Top-Beiträge aus jeder Gruppe und baten eine superintelligente KI, eine einzeilige Überschrift für die gesamte Gruppe zu schreiben.
- Die Ausgabe: Anstatt einer langweiligen Liste von Schlüsselwörtern wie „Wirtschaft, Gas, Krieg" lieferte die KI vollständige Handlungsstränge.
- Beispielgruppe 1: „Die Regierung verrät uns, indem sie gefährliche Migranten hereinlässt, um unsere Kinder zu ersetzen."
- Beispielgruppe 2: „Die Regierung opfert unseren Frieden, um einen gefälschten Krieg für reiche Lobbyisten zu führen."
Was haben sie gefunden?
Als sie dieses System auf über 1,2 Millionen Beiträge aus Deutschland anwendeten, fanden sie 41 distincte manipulative Handlungsstränge. Diese fielen in vier Haupt„Themen" oder Säulen:
- Die Große Ersetzung: Die Idee, dass die Regierung die einheimische Bevölkerung absichtlich durch Migranten austauscht.
- Der Stellvertreterkrieg: Die Idee, dass Deutschland nur eine Marionette der USA ist und seine eigenen Leute opfert, um gegen Russland zu kämpfen.
- Die Klimadiktatur: Die Idee, dass der Klimawandel ein von Eliten erfundener Schwindel ist, um normale Menschen zu kontrollieren und zu verarmen.
- Die Retter-Erzählung: Die Idee, dass alle traditionellen Parteien korrupt sind und nur eine bestimmte politische Partei (und externe Figuren wie Elon Musk) das Land retten können.
Warum das wichtig ist
Die Forscher stellten fest, dass traditionelle Methoden (wie das bloße Zählen, wie oft Wörter vorkommen) hier versagen, weil sie die Geschichte übersehen. Man kann einen Beitrag über „Gaspreise" haben, der eine normale Beschwerde ist, und einen anderen über „Gaspreise", der Teil einer Verschwörungstheorie ist.
Dieses neue System ist wie ein Detektiv, der nicht nur die Worte auf der Seite betrachtet, sondern die Handlung versteht. Es trennte erfolgreich das „Rauschen" normaler politischer Diskussionen vom „Signal" koordinierter Manipulation, selbst wenn die Manipulatoren echte Fakten nutzten, um eine gefälschte Geschichte zu erzählen.
Wichtiger Hinweis: Die Forscher betonen, dass ihr System darauf ausgelegt ist, koordinierte Komplotte zu finden, nicht um zu beurteilen, ob die persönliche Meinung einer Person richtig oder falsch ist. Manchmal mag eine normale Person etwas sagen, das nach einer Verschwörung klingt, und das System könnte es markieren. Aber da das System Dinge zusammenfasst, werden diese einzelnen, isolierten Stimmen normalerweise als „Rauschen" herausgefiltert, sodass nur die großen, koordinierten Geschichten sichtbar bleiben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.