Examining hate speech infection in social media using range constraints in multidimensional data structures
Dieses Paper schlägt eine Methodik vor, die eine Shapelet-basierte Zeitreihenanalyse mit mehrdimensionalen Datenstrukturen und Bereichsbeschränkungen kombiniert, um die zeitlichen Fenster und Nutzer-Konnektivitätsmuster präzise zu identifizieren, welche die Verbreitung von Hassrede in sozialen Medien vorantreiben, wodurch eine effektivere Ereigniserkennung und -minderung ermöglicht wird.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich soziale Medien als eine riesige, geschäftige Party vor, auf der jeder seine Gedanken herausbrüllt. Manchmal kippt die Stimmung, und eine bestimmte Art von „toxischer Infektion“ (Hassrede) beginnt sich auszubreiten. Die Autoren dieser Arbeit, Eleanna Kafeza und ihr Team, wollten genau herausfinden, wann diese Infektion beginnt und wer sie verbreitet, anstatt nur zu versuchen, jedes einzelne böse Wort zu fangen, das vorbeifliegt.
Betrachten Sie die Timeline eines Nutzers nicht als eine Liste von Posts, sondern als einen Herzmonitor. Anstatt auf die Wörter selbst zu schauen, verwandelte das Team die emotionale Intensität jedes Nutzers in eine zackige Linie auf einem Graphen. Wenn ein Nutzer wütende, hasserfüllte Dinge postet, schlägt sein „Herzschlag“ mit negativer Energie aus.
Das Werkzeugkasten des Detektivs: Shapelets und Suffix-Bäume
Um die Übeltäter zu finden, nutzten die Forscher einen cleveren Trick namens Shapelet-Klassifizierung. Stellen Sie sich vor, Sie suchen nach einem spezifischen Fingerabdruck in einem Haufen schlammiger Fußabdrücke. Ein „Shapelet“ ist wie ein winziger, markanter Teil dieses Fußabdrucks, der beweist, wer ihn hinterlassen hat. In diesem Fall ist der „Fingerabdruck“ ein spezifisches Muster emotionaler Spitzen, das nur Hassrede-Nutzer zu haben scheinen.
Aber jeden einzelnen Schritt gegen jeden einzelnen Fingerabdruck zu prüfen, würde ewig dauern. Deshalb baute das Team eine superschnelle Bibliothek namens Suffix-Baum. Denken Sie an dies wie an einen magischen, organisierten Aktenschrank, in dem jedes mögliche Wortmuster sofort sortiert ist. Anstatt jedes Buch in der Bibliothek zu lesen, um eine Geschichte zu finden, fragen Sie den Schrank einfach: „Wo ist die Geschichte, die mit ‚wütend‘ beginnt?“ und er zeigt Sie direkt zum richtigen Regal. Dies machte ihre Suche unglaublich schnell und verwandelte eine Aufgabe, die normalerweise Äonen dauert, in etwas, das in einem Wimpernschlag geschieht.
Der Zwei-Schritte-Filter: Zeit und Einfluss
Das Finden des Musters war nur der erste Schritt. Die wahre Magie geschah, als sie zwei zusätzliche Filter hinzufügten, wie ein Türsteher, der zwei Ausweise kontrolliert: Zeit und Einfluss.
- Das Zeitfenster: Das Team stellte fest, dass Hassrede oft direkt nach einem spezifischen Ereignis explodiert, wie etwa dem Breaking News einer Nachrichtengeschichte. Sie suchten nicht nur nach dem schlechten Muster; sie fragten: „Passierte dieses Muster genau jetzt?“ Indem sie auf spezifische Zeitfenster (wie ein 13-Stunden-Fenster) zoomten, konnten sie genau bestimmen, wann die „Infektion“ begann, sich auszubreiten.
- Der Einfluss-Check: Sie prüften auch, wie „populär“ oder „vernetzt“ der Nutzer war. Sie fanden etwas Überraschendes heraus: Hassrede kam nicht immer von den größten Prominenten. Tatsächlich vermuteten sie, dass einflussreiche Nutzer schnell gesperrt werden, weslich die Infektion oft durch reguläre, weniger vernetzte Nutzer verbreitet wird. Sie verwendeten ein mathematisches Werkzeug namens 2D-Range-Tree, um zu prüfen, ob die Posts eines Nutzers zur richtigen Zeit stattfanden und ob sein Grad an Einfluss in einen bestimmten Bereich fiel.
Was die Zahlen sagen
Das Team testete dies an einem massiven Datensatz von Tweets, die über einen Monat gesammelt wurden (vom 1. Februar 2022 bis zum 1. März 2022). Sie untersuchten 3.912 Nutzer, die Hassrede posteten, und balancierten dies mit einem Datensatz von 46.557 Tweets von 7.824 verschiedenen Nutzern.
Als sie ihre Experimente durchführten, waren die Ergebnisse vielversprechend, aber spezifisch für ihren Aufbau:
- Genauigkeit: Ihr bestes Setup fand die richtigen Hassrede-Nutzer mit einer mittleren Genauigkeit (Accuracy) von 0,72 und einem mittleren F1-Score von 0,84.
- Geschwindigkeit: Ihre neue Methode war drastisch schneller als die alte, „naive“ Art der Vorgehensweise. Während die alte Methode etwa 0,12 × 10⁻² Sekunden für einen kleinen Test benötigte, dauerte ihre neue Methode nur 2,15 × 10⁻⁶ Sekunden. Als die Daten auf 23.800 Artikel anwuchsen, blieb ihre Methode schnell (etwa 2,97 × 10⁻⁶ Sekunden), während die alte Methode signifikant langsamer wurde.
- Der Sweet Spot: Sie fanden heraus, dass die Hassrede-Infektion in einem spezifischen Zeitfenster von [0, 13] (Stunden) und unter Nutzern im [0, 17,5]-Perzentil des Einflusses am sichtbarsten war. Dies deutet darauf hin, dass die Infektion oft mit einer kleinen Gruppe von Nutzern beginnt, die nicht unbedingt die berühmtesten sind, aber während einer spezifischen Krise sehr aktiv sind.
Was sie nicht behaupten
Es ist wichtig zu beachten, was diese Arbeit nicht sagt. Die Autoren betonen ausdrücklich, dass sie nicht behaupten, Hassrede für immer „gelöst“ zu haben. Sie argumentieren explizit dagegen, sich nur auf einfache Wortlisten zu verlassen oder nur den Text ohne Kontext zu betrachten. Sie merken auch an, dass ihre Methode am besten funktioniert, wenn man über spezifische Bedingungen (wie eine bekannte Ereigniszeit) verfügt, um zu filtern; sie ist kein Zauberstab, der Hassrede im Vakuum ohne zusätzliche Daten findet.
Das große Ganze
Indem sie emotionales Chaos in organisierte Datenshapeformen verwandelten und eine superschnelle Bibliothek nutzten, um sie zu finden, zeigten die Autoren, dass wir die „Infektion“ der Hassrede präziser erfassen können. Sie fanden heraus, dass wir, indem wir darauf schauen, wann die Wutspitzen auftreten und wer sie verbreitet, die Quelle des Problems viel schneller identifizieren können als zuvor. Während sie nahelegen, dass dies Social-Media-Plattformen helfen könnte, sofortige Maßnahmen zu ergreifen, präsentieren sie dies als ein mächtiges neues Werkzeug im Werkzeugkasten, nicht als ein finales Allheilmittel. Das Ziel ist es, den Funken zu entdecken, bevor der ganze Wald abbrennt.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.