Decoding Islamophobic Discourse: Using LLMs to Identify Tropes and Semi-Coded Hate Speech
Dieser Beitrag nutzt Large Language Models und Topic Modeling, um große Datenmengen aus extremistischen Plattformen zu analysieren, und zeigt dabei, dass LLMs halb-codierte islamophobe Beleidigungen wirksam identifizieren können, während gleichzeitig offengelegt wird, dass eine derartige Hassrede in diversen politischen Bewegungen weit verbreitet ist und häufig höhere Toxizitätswerte aufweist als andere Formen von Hassrede.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet als einen riesigen, lauten Marktplatz vor. In den letzten Jahren hat eine Gruppe von Menschen auf diesem Platz begonnen, Muslime zu beschimpfen, doch sie haben einen neuen, trickreichen Kniff gelernt: Anstatt offensichtliche Beleidigungen zu brüllen, verwenden sie „geheime Codewörter".
Dieser Artikel ist wie ein Team von Detektiven, das herausfinden soll, ob moderne KI (insbesondere Large Language Models oder LLMs) diesen Code knacken und den Hass stoppen kann, bevor er sich ausbreitet.
Hier ist die Aufschlüsselung ihrer Ermittlungen, unter Verwendung einfacher Analogien:
1. Das Problem: Die „Tarnung" des Hasses
In der Vergangenheit war Hassrede wie eine Person, die ein leuchtend rotes Hemd mit der Aufschrift „ICH HASSE DICH" trug. Es war leicht zu erkennen.
Heute tragen die Hassprediger Tarnkleidung. Sie verwenden Wörter, die harmlos aussehen oder wie normale Namen klingen, aber im Kontext extremistischer Foren (wie 4Chan oder Gab) bedeuten sie etwas Schreckliches.
- Der „Mudslime"-Trick: Stellen Sie sich vor, Sie nehmen das Wort „Muslim", tauschen das „M" gegen „Mud" (Schlamm) aus und fügen „slime" (Schleim) hinzu. Es klingt widerlich und entmenschlichend, aber wenn man das Wort ohne Kontext liest, sieht es aus wie ein seltsamer erfundener Name.
- Die „Abdul"-Falle: „Abdul" ist ein üblicher, normaler muslimischer Name. Doch auf diesen Plattformen verwenden Hassprediger ihn wie eine generische Beleidigung, ähnlich wie jemand einen generischen Namen verwenden könnte, um eine ganze Gruppe zu verspotten.
- Das „Muzrat"-Durcheinander: Dies ist eine Mischung aus „Muzz" (eine Dating-App) und „Rat" (Ratte). Es soll Muslime wie Ungeziefer erscheinen lassen, ist aber so geschrieben, dass es versucht, automatische Filter zu umgehen.
Die Forscher nennen diese Begriffe „Out-of-Vocabulary" (OOV) oder „halb-codierte" Begriffe. Sie sind das digitale Äquivalent eines Wolfes, der ein Schafskostüm trägt.
2. Die Ermittlung: Kann die KI die Tarnung durchschauen?
Die Forscher baten eine sehr intelligente KI (GPT-4), diese Beiträge zu lesen und zu entscheiden: „Ist das Hassrede?"
- Die gute Nachricht: Die KI ist überraschend gut darin, den „Wolf im Schafspelz" zu erkennen. Als die Forscher ihr Beiträge mit Wörtern wie mudslime, pislam oder muzrat vorlegten, identifizierte die KI sie in den meisten Fällen korrekt als hassvoll. Sie verstand, dass diese Wörter, auch wenn sie seltsam oder neutral aussehen, eine böswillige Absicht haben.
- Die schlechte Nachricht: Die KI wird manchmal durch den Kontext verwirrt. Wenn ein Beitrag den Namen „Abdul" ohne andere hassvolle Wörter verwendet, könnte die KI denken: „Oh, das ist nur ein Name", und den Hass übersehen. Sie braucht mehr Hinweise, um sicher zu sein.
3. Der Toxizitäts-Test: Wie „giftig" ist der Hass?
Die Forscher verglichen Hassrede gegen Muslime mit Hassrede gegen jüdische Menschen (Antisemitismus). Sie verwendeten ein Tool namens Google Perspective API, das wie ein „Toxizitätsmessgerät" funktioniert.
- Das Ergebnis: Das Messgerät zeigte, dass Hassrede gegen Muslime signifikant toxischer (unhöflicher, aggressiver und missbräuchlicher) ist als Hassrede gegen jüdische Menschen.
- Die Analogie: Wenn Antisemitismus wie ein scharfes Messer ist, dann war die Hassrede gegen Muslime in dieser Studie wie ein Vorschlaghammer. Sie war schwerer, lauter und in ihrer Sprache gewalttätiger.
4. Das „Topos"-Rätsel: Kann die KI die Geschichte verstehen?
Hassrede stützt sich oft auf alte, wiederverwendete Geschichten oder „Tropen" (Stereotype). Die Forscher baten die KI, die Hassrede in fünf spezifische Kategorien einzuteilen:
- Rassismus: Angriffe auf Menschen basierend auf ihrer Hautfarbe oder Ethnie.
- Immigration: Die Behauptung, Muslime würden das Land „stehlen".
- Religion: Angriffe auf den Islam als Glaubenssystem.
- Der Prophet: Beleidigungen des Propheten Mohammed.
- Unterdrückung: Die Behauptung, muslimische Frauen seien unterdrückt oder schlecht behandelt.
- Das Ergebnis: Die KI war ein Meister darin, Beleidigungen gegen den Propheten zu erkennen (da die Wörter sehr spezifisch und offensichtlich waren) und Angriffe auf die Religion.
- Der Kampf: Die KI hatte Schwierigkeiten, zwischen Rassismus, Immigration und Unterdrückung zu unterscheiden. Oft verwechselte sie diese. Es ist wie ein Detektiv, der eine Mordwaffe leicht erkennen kann, aber Schwierigkeiten hat, herauszufinden, warum das Verbrechen geschah oder welches spezifische Motiv verwendet wurde.
5. Das Fazit: Ein Werk im Gange
Der Artikel kommt zu dem Schluss, dass die KI zwar besser darin wird, diese „geheimen Codewörter" zu erkennen, aber noch nicht perfekt ist.
- Was funktioniert: Die KI kann sagen, dass mudslime ein schlechtes Wort ist.
- Was nicht funktioniert: Die KI übersieht manchmal die tiefere Bedeutung, wenn der Hass subtil ist oder wenn sie herausfinden soll, welches spezifische Stereotyp verwendet wird.
Das Fazit:
Die Forscher sagen den Social-Media-Plattformen: „Sie können nicht mehr nur nach offensichtlichen bösen Wörtern suchen. Sie müssen Ihre KI lehren, diese neuen, seltsamen, codierten Wörter zu verstehen, sonst wird die Hassrede weiterhin durch die Rutschen schlüpfen." Sie schlagen auch vor, dass dieser Hass, da er so toxisch ist, dringend Aufmerksamkeit benötigt, um den Online-Marktplatz sicher zu halten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.