Conspiracy Frame: a Semiotically-Driven Approach for Conspiracy Theories Detection
Die Studie stellt das „Conspiracy Frame"-Konzept und das dazugehörige Con.Fra.-Datenset vor, die auf einer semiotisch-semantischen Analyse von Telegram-Nachrichten basieren und als Grundlage für eine verbesserte, kontextunabhängige Erkennung von Verschwörungstheorien durch Large Language Models dienen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Rätsel: Verschwörungstheorien entlarven
Stell dir vor, das Internet ist ein riesiger, lauter Marktplatz. Auf diesem Marktplatz gibt es viele verschiedene Stimmen: einige erzählen die Wahrheit, andere lügen, und wieder andere erzählen Verschwörungstheorien.
Verschwörungstheorien sind wie eine ganz spezielle Art von Geschichte. Sie sagen immer: „Die offiziellen Behörden lügen euch an! Eine böse, geheime Gruppe (die „Sie") plant etwas Schreckliches gegen uns (die „Wir"), und wenn wir nichts tun, wird die Welt untergehen."
Das Problem für Computer (Künstliche Intelligenz, kurz KI) ist: Diese Geschichten sind schwer zu erkennen. Bisher haben Forscher versucht, KI beizubringen, Verschwörungen zu erkennen, indem sie ihr einfach sagten: „Das hier ist eine Verschwörung, das hier nicht." Das ist wie ein Kind zu lehren, indem man ihm nur rote und grüne Karten zeigt, ohne zu erklären, warum sie rot oder grün sind. Das funktioniert oft nicht gut, besonders wenn die Geschichten über neue Themen (wie neue Krankheiten oder neue Technologien) kommen.
Die neue Idee: Der „Verschwörungs-Rahmen" (Conspiracy Frame)
Die Autoren dieses Papers haben sich gedacht: „Lass uns nicht nur auf den Inhalt schauen, sondern auf die Struktur der Geschichte."
Sie haben ein neues Werkzeug erfunden, das sie „Conspiracy Frame" nennen. Stell dir das wie einen Baukasten für Geschichten vor. Jede echte Verschwörungstheorie muss bestimmte Bausteine enthalten, damit sie als solche funktioniert. Diese Bausteine sind:
- Der Plan: Was tut die böse Gruppe? (z. B. „Sie impfen uns alle heimlich").
- Das Geheimnis: Warum wissen wir nichts davon? (z. B. „Die Medien verschweigen es").
- Die Bösen (Out-Group): Wer ist der Feind? (z. B. „Die Eliten", „Die Regierung").
- Die Guten (In-Group): Wer sind wir Opfer? (z. B. „Wir normalen Bürger", „Die Christen").
- Der Aufruf: Was müssen wir tun? (z. B. „Wir müssen protestieren!").
Wenn eine Geschichte diese Bausteine hat, ist es mit hoher Wahrscheinlichkeit eine Verschwörungstheorie – egal, ob es um Viren, Außerirdische oder Politiker geht.
Der Datenschatz: Telegram-Nachrichten als Labor
Um diesen Baukasten zu testen, haben die Forscher Tausende von Nachrichten aus Telegram-Gruppen gesammelt (Telegram ist bekannt dafür, ein beliebter Ort für solche Theorien zu sein).
Sie haben diese Nachrichten wie ein Archäologenteam bearbeitet:
- Sie haben jede Nachricht genau gelesen.
- Sie haben die einzelnen Sätze markiert und den passenden Baustein zugeordnet (z. B. „Dieser Satz ist der 'Plan', dieser hier ist das 'Geheimnis'").
- Das Ergebnis ist ein riesiger Datensatz namens Con.Fra. (Conspiracy Frames), der wie ein Trainingsbuch für KI dient.
Der Test: Können KI-Modelle das lernen?
Die Forscher haben dann große KI-Modelle (wie LLaMA) getestet. Sie haben drei Methoden verglichen:
- Ohne Hilfe (Zero-Shot): Die KI muss raten.
- Mit Beispielen (Few-Shot): Die KI bekommt ein paar Musterbeispiele gezeigt.
- Mit dem „Rahmen"-Hinweis (Frame-Guided): Hier haben die Forscher der KI extra gesagt: „Achte auf den 'Plan' und das 'Geheimnis'!"
Das Ergebnis war überraschend:
Die Methode mit dem extra „Rahmen"-Hinweis hat die KI nicht deutlich besser gemacht als die, die einfach nur Beispiele bekam. Die KI ist schon sehr schlau und erkennt Muster gut, auch ohne den speziellen Hinweis.
Aber: Der Ansatz mit dem „Rahmen" ist trotzdem wertvoll! Er hilft uns zu verstehen, warum die KI etwas als Verschwörung erkennt. Es ist wie bei einem Detektiv: Wenn der Detektiv sagt „Ich verhafte ihn, weil er das Motiv hat", ist das besser als wenn er nur sagt „Ich verhafte ihn, weil er komisch aussieht". Der „Rahmen" macht die KI also erklärbarer.
Die Entdeckung: Es geht um tiefe Muster
Ein spannender Fund war, dass die Verschwörungstheorien oft auf sehr alten, menschlichen Mustern basieren, die in einer Datenbank namens FrameNet (eine Art Wörterbuch für Bedeutungen) gespeichert sind.
Zum Beispiel tauchen oft Muster auf wie:
- „Etwas essen/aufnehmen" (Ingest_substance): Verschwörungstheorien reden oft davon, dass uns „Gift" in den Körper gepumpt wird (Impfstoffe, Chemtrails).
- „Kampf/Krieg" (Firefighting): Die Sprache ist oft militärisch („Wir müssen kämpfen", „Der Feind greift an").
- „Familie/Verwandtschaft" (Kinship): Die Einteilung in „Wir" (die Familie) gegen „Die" (die Fremden).
Das zeigt: Verschwörungstheorien sind nicht nur über bestimmte Themen, sondern nutzen immer wieder dieselben tiefen psychologischen und sprachlichen Muster, um Angst zu schüren.
Fazit: Was bringt uns das?
Diese Forschung ist wie der Bau eines neuen Kompasses.
Bisher haben wir versucht, Verschwörungstheorien nur nach ihrem Inhalt zu fangen (z. B. „Alles über 5G ist falsch"). Das neue Werkzeug schaut auf die Struktur der Geschichte.
Auch wenn die KI durch diesen neuen Kompass nicht sofort perfekt wurde, hilft er uns zu verstehen, wie Verschwörungstheorien funktionieren. In der Zukunft hoffen die Forscher, dass sie KI-Modelle so trainieren können, dass sie diese tiefen Muster automatisch erkennen und uns erklären können: „Achtung, diese Nachricht nutzt genau das 'Geheimnis'-Muster, um Angst zu machen."
Das ist ein wichtiger Schritt, um die Informationsflut im Internet besser zu verstehen und Menschen zu helfen, die Wahrheit von der Fiktion zu unterscheiden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.