Reliable News or Propagandist News? A Neurosymbolic Model Using Genre, Topic, and Persuasion Techniques to Improve Robustness in Classification
Diese Arbeit stellt ein neurosymbolisches Modell vor, das nicht-kontextuelle Texteinbettungen mit symbolischen Konzeptmerkmalen wie Genre, Thema und Überzeugungstechniken kombiniert, um die Robustheit und Generalisierungsfähigkeit bei der Erkennung von Propaganda im Vergleich zu reinen Textmodellen zu verbessern.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Titel: Wie man Propaganda entlarvt – Ein Mix aus KI und menschlicher Logik
Stellen Sie sich vor, Sie gehen durch einen riesigen, lauten Marktplatz (das Internet). Dort gibt es zwei Arten von Händlern:
- Die ehrlichen Verkäufer: Sie zeigen Ihnen die Ware genau so, wie sie ist. „Hier ist ein Apfel, er ist rot und süß."
- Die Propagandisten: Sie tragen die Kleidung von ehrlichen Verkäufern, aber sie versuchen, Ihnen etwas unterzujubeln, das gar nicht stimmt, oder sie versuchen, Sie emotional zu manipulieren, damit Sie kaufen, obwohl die Ware mangelhaft ist.
Das Problem: Die Propagandisten sind sehr schlau. Sie machen ihre Lügen so gut wie möglich, dass sie wie echte Nachrichten aussehen. Herkömmliche Computerprogramme (KI-Modelle), die nur auf das Wortgewand achten, lassen sich oft täuschen. Sie lernen auswendig, wie die Propagandisten auf diesem einen Markt sprechen, aber wenn die Propagandisten auf einen neuen Markt ziehen und ihre Sprache leicht ändern, erkennen die Computer sie nicht mehr. Sie haben sich zu sehr auf die alten Tricks verlassen (das nennt man „Overfitting").
Die Lösung: Ein neurosymbolischer Detektiv
Die Autoren dieses Papers haben einen neuen Detektiv erfunden. Er ist ein Hybrid-Detektiv, der zwei Gehirne hat:
- Das schnelle, intuitive Gehirn (Neural): Das ist eine KI, die einfach nur liest, was da steht. Sie kennt die Wörter und den Stil. Das ist wie ein Mensch, der schnell schaut: „Oh, das klingt verdächtig!"
- Das logische, analytische Gehirn (Symbolisch): Das ist der kluge Partner, der nicht nur liest, sondern versteht. Er fragt sich:
- Was ist das für ein Genre? Ist das eine echte Nachricht (Reportage) oder nur eine Meinung (Meinungsbeitrag)?
- Worum geht es? (Das Thema).
- Welche Tricks werden benutzt? Benutzt der Text emotionale Wörter, wiederholt sich ständig oder spielt mit Vorurteilen?
Die Analogie: Der Koch und das Rezept
Stellen Sie sich vor, Sie wollen herausfinden, ob ein Gericht vergiftet ist.
- Der alte KI-Ansatz schaut nur auf die Farbe des Suppentellers. Wenn der Teller rot ist, sagt er: „Das ist Gift!" Aber wenn die Propagandisten plötzlich einen blauen Teller benutzen, denkt die KI: „Alles gut!" – und wird vergiftet.
- Der neue Hybrid-Ansatz schaut nicht nur auf den Teller. Er prüft auch das Rezept (die Tricks) und die Zutaten (das Genre). Er sagt: „Auch wenn der Teller blau ist, enthält das Rezept 10-mal das Wort 'Feind' und verspricht Rache. Das ist keine normale Suppe, das ist Propaganda!"
Was haben die Forscher gemacht?
Sie haben zwei große Datenbanken verglichen:
- Echte Nachrichten: Von seriösen Zeitungen.
- Propaganda: Von Quellen, die bekannt dafür sind, zu manipulieren (oft im Kontext des Ukraine-Krieges).
Sie stellten fest: Propaganda nutzt viel mehr emotionale Tricks, ist öfter als „Meinung" getarnt und benutzt eine andere Art von Sprache als echte Nachrichten.
Der Test: Der Stress-Test
Um zu beweisen, dass ihr neuer Detektiv wirklich stark ist, haben sie ihn nicht nur mit zufälligen Nachrichten getestet. Sie haben ihn in schwierige Situationen gebracht:
- Szenario A: Die Nachrichten kommen von völlig neuen Zeitungen, die der Detektiv noch nie gesehen hat.
- Szenario B: Die Nachrichten haben eine völlig andere politische Ausrichtung als das, was er gelernt hat.
- Szenario C: Die Nachrichten kommen von Quellen, die man für unzuverlässig hält.
Das Ergebnis:
- Der alte KI-Detektiv (nur Text) ist in diesen neuen Situationen oft zusammengebrochen. Er hat die Propaganda nicht erkannt, weil sie sich anders „anzog".
- Der neue Hybrid-Detektiv hat sich viel besser geschlagen. Weil er auf die Tricks (die symbolischen Merkmale) geachtet hat, konnte er die Propaganda auch dann entlarven, wenn die Wörter anders waren. Er war robuster.
Warum ist das wichtig?
In einer Welt voller Fake News und Manipulation reicht es nicht mehr, nur zu lesen, was geschrieben steht. Man muss verstehen, wie es geschrieben wurde und welche Absicht dahintersteckt. Dieser neue Ansatz ist wie ein Sicherheitsgurt für unsere Informationsversorgung: Er hilft uns, die Lügen zu erkennen, selbst wenn sie sich gut verkleiden.
Zusammengefasst: Nicht nur auf die Worte hören, sondern auf die Tricks achten. Das macht den Unterschied zwischen einem leicht zu täuschenden Computer und einem echten Propaganda-Entlarver.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.