Detecting LGBTQ+ Instances of Cyberbullying
Diese Studie evaluiert die Effektivität verschiedener Transformer-Modelle bei der präzisen Erkennung und Unterscheidung von Cyberbullying-Vorfällen, die sich spezifisch gegen die LGBTQ+-Gemeinschaft richten, unter Verwendung realer Social-Media-Daten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich soziale Medien wie einen riesigen, belebten Marktplatz vor. Früher musste man direkt neben jemandem stehen und Beleidigungen brüllen, wenn man gemein sein wollte. Heute hat der „Marktplatz“ eine Tastatur, und Menschen können digitale Steine aus meilenweiter Entfernung werfen. Das ist Cybermobbing.
Obwohl alle durch diese digitalen Steine verletzt werden können, erklärt das Papier, dass eine bestimmte Gruppe von Menschen – die LGBTQ+-Gemeinschaft – viel härter und häufiger getroffen wird als andere. Es ist, als stünden sie in einer Zielzone, auf die die Mobber gezielt auf ihre Identität abzielen.
Hier ist erklärt, was die Forscher gemacht haben, ganz einfach:
Die Mission: Einen digitalen Sicherheitswachmann bauen
Die Forscher wollten einen „intelligenten Sicherheitswachmann“ (ein Computerprogramm) bauen, der Kommentare auf Instagram analysieren und sofort sagen kann: „Hey, das ist Mobbing, und es richtet sich gezielt gegen LGBTQ+-Personen.“
Sie wussten, dass normale Sicherheitswachmänner oft Fehler machen. Sie könnten denken, ein Kommentar sei nur ein Witz, obwohl es sich eigentlich um Hassrede handelt, oder sie könnten durch Slang und versteckte Beleidigungen verwirrt werden. Deshalb testete das Team drei verschiedene „Gehirne“ (Computermodelle), um zu sehen, welcher der beste Wachmann sei:
- RoBERTa
- BERT
- GPT-2
Das Trainingsgelände: Eine kleine, knifflige Klasse
Um diese Wachmänner zu trainieren, verwendeten die Forscher einen speziellen Datensatz von 1.083 Instagram-Kommentaren.
- Das Problem: Die meisten Kommentare hatten nichts mit LGBTQ+-Mobbing zu tun. Nur etwa 200 von ihnen betrafen dieses Thema. Es ist, als versuche man, einem Hund beizubringen, eine ganz bestimmte seltene Blume in einem Feld voller Löwenzahn zu finden. Der Hund lernt vielleicht einfach, die seltene Blume zu ignorieren, weil es so viele Löwenzahn gibt.
- Die Lösung: Um den Wachmännern beim Lernen zu helfen, verwendeten die Forscher eine Technik namens „Oversampling“ (SMOTE und ADASYN). Stellen Sie sich das so vor, als würde man aus den wenigen Beispielen der seltenen Blume Fotokopien erstellen, damit die Wachmänner mehr Übung darin bekommen, sie zu entdecken.
Die Ergebnisse: Wer war der beste Wachmann?
Nachdem die Wachmänner trainiert worden waren, unterzogen sie die Forscher einem Test. So lief es ab:
- RoBERTa war der Champion: Es war der intelligenteste Wachmann. Es erreichte die höchste Gesamtpunktzahl und war am besten darin, Mobbing zu erkennen.
- Die anderen hatten Schwierigkeiten: BERT und GPT-2 waren gut darin, allgemeines Mobbing zu erkennen, aber sie wurden verwirrt, wenn das Mobbing spezifisch gegen LGBTQ+-Themen gerichtet war.
Der große Haken: Das „Blinde Fleck“-Problem
Selbst obwohl RoBERTa der beste war, hatte es immer noch einen massiven blinden Fleck.
- Die gute Nachricht: Es war exzellent darin, zu sagen: „Dies ist kein LGBTQ+-Mobbing.“ (Es schlug selten Fehlalarm).
- Die schlechte Nachricht: Es war immer noch schlecht darin, zu sagen: „Dies ist LGBTQ+-Mobbing.“ Es übersah viele der tatsächlichen Angriffe.
Warum hat es sie übersehen?
Das Papier erklärt, dass Mobbing gegen LGBTQ+-Personen oft wie ein Geheimcode funktioniert.
- Manchmal wird Sarkasmus verwendet.
- Manchmal wird Slang verwendet, dessen Bedeutung sich je nach Situation ändert.
- Manchmal wird die Beleidigung in einen Satz versteckt, der harmlos aussieht.
Die Computermodelle sind wie Schüler, die das Wörterbuch auswendig gelernt haben, aber den Witz oder den Tonfall nicht verstehen. Sie sehen die Wörter, aber sie spüren den Stich nicht. Zum Beispiel stellte das Papier fest, dass das Modell das Wort „Dyke“ manchmal übersah, weil es nicht genügend Beispiele für dieses spezifische Schimpfwort in seinen Trainingsdaten hatte, oder es einen Kommentar übersah, weil es den Kontext des Gesprächs nicht verstand.
Das Faz-it
Die Forscher kamen zu dem Schluss, dass wir zwar einige sehr intelligente „Sicherheitswachmänner“ (KI-Modelle) gebaut haben, sie aber noch nicht perfekt sind.
- RoBERTa ist der stärkste Wachmann, den wir derzeit haben.
- Oversampling (das Erstellen von mehr Trainingsbeispielen) half ein wenig, löste das Problem aber nicht vollständig.
- Die Herausforderung: Das „Mobbing“ ist zu subtil und knifflig, als dass die aktuelle Technologie es jedes Mal erfassen könnte. Die Modelle übersehen immer noch zu viele der Angriffe (False Negatives).
Das Papier legt nahe, dass wir diese Wachmänner wirklich effektiv machen können, indem wir sie mit vielfältigeren Beispielen unterrichten, ihnen Bilder und Videos zeigen (nicht nur Text) und ihnen helfen, den tieferen Kontext menschlicher Gespräche zu verstehen. Bis dahin hat der digitale Marktplatz immer noch blinde Flecken, in denen die LGBTQ+-Gemeinschaft verwundbar bleibt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.