The Enforcement and Feasibility of Hate Speech Moderation on Twitter
Die Studie zeigt, dass die anhaltende Präsenz von Hassrede auf Twitter nicht primär auf technische Grenzen zurückzuführen ist, sondern auf institutionelle Entscheidungen bei der Ressourcenallokation, wobei eine wirtschaftlich tragfähige Kombination aus KI und menschlicher Prüfung die Sichtbarkeit von Hassrede erheblich reduzieren könnte.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Problem: Der digitale Müllhaufen
Stell dir Twitter (heute X) wie einen riesigen, globalen Marktplatz vor, auf dem jeden Tag hunderte Millionen Menschen reden, schreien und sich austauschen. Leider gibt es auf diesem Markt auch eine Menge „giftigen Müll": Hassreden, die bestimmte Gruppen angreifen oder sogar zu Gewalt aufrufen.
Die Forscher wollten herausfinden: Werfen die Marktplatz-Wächter diesen Müll wirklich weg? Und könnten sie das überhaupt schaffen, wenn sie es wollten?
Die Untersuchung: Ein Schnappschuss aus dem Jahr 2022
Die Wissenschaftler haben sich einen einzigen Tag im September 2022 vorgenommen. Sie haben sich alle öffentlichen Tweets dieser 24 Stunden geschnappt (eine riesige Menge von 375 Millionen!). Davon haben sie eine repräsentative Auswahl von 540.000 Tweets genau unter die Lupe genommen.
Dafür haben sie mutige menschliche Prüfer (Annotatoren) eingesetzt, die in acht verschiedenen Sprachen (wie Englisch, Arabisch, Deutsch, Spanisch) geschult waren. Diese Leute haben jeden Tweet gelesen und entschieden: „Ist das harmlos?", „Ist das nur beleidigend, aber nicht verboten?" oder „Ist das echter Hass, der gegen Gesetze verstößt?"
Ergebnis 1: Die Wächter schlafen (oder schauen weg)
Das erste Schock-Ergebnis war: Fast nichts passiert.
- Die Statistik: Fünf Monate nach dem Posten waren 80 % der Tweets, die als Hassrede identifiziert wurden, immer noch online. Sie waren nicht gelöscht, die Autoren waren nicht gesperrt.
- Der Vergleich: Es war völlig egal, ob der Tweet harmlos war oder ob er zu Gewalt aufrief (z. B. „Tötet diese Gruppe"). Die Wahrscheinlichkeit, dass ein gewalttätiger Tweet gelöscht wurde, war genauso gering wie bei einem harmlosen Tweet.
- Die Analogie: Stell dir vor, du hast einen Müllmann, der durch eine Stadt fährt. Wenn jemand eine leere Bierflasche (Harmloser Tweet) auf die Straße wirft, wird sie vielleicht aufgehoben. Wenn aber jemand einen brennenden Molotowcocktail (Gewalttätiger Hass-Tweet) auf die Straße wirft, fährt der Müllmann einfach vorbei, als wäre nichts passiert.
Interessanterweise wurden andere Dinge viel strenger gehandhabt: Betrügereien (Scams) oder pornografische Inhalte wurden viel schneller entfernt. Hassrede war also nicht die Priorität.
Ergebnis 2: Die Technik ist nicht das einzige Problem
Viele denken: „Ach, das ist unmöglich, es gibt zu viele Tweets und die Computer sind nicht schlau genug."
Die Forscher haben das geprüft:
- Die KI-Probleme: Wenn man versucht, nur mit Computern (KI) zu löschen, passiert ein Chaos. Die KI ist oft zu dumm: Sie löscht harmlose Witze oder beleidigende Sprache, die aber kein Hass ist (falsche Positive). Oder sie übersieht den echten Hass.
- Die gute Nachricht: Die KI ist aber gut darin, Reihenfolge zu bestimmen. Sie kann sagen: „Dieser Tweet hier oben ist wahrscheinlich Hass, dieser da unten eher nicht." Sie ist also ein guter Assistent, aber kein alleiniger Entscheider.
Ergebnis 3: Es ist machbar, aber es kostet Geld
Hier kommt der wichtigste Teil der Studie. Die Forscher haben simuliert: Was wäre, wenn wir die KI nutzen, um die schlimmsten Tweets zu finden, und dann Menschen diese prüfen lassen?
- Die Rechnung: Um die meisten Menschen vor Hassrede zu schützen (indem man die Tweets löscht, die am meisten Aufmerksamkeit bekommen), bräuchte man mehr Personal. Aber es ist finanziell machbar.
- Der Vergleich: Die Kosten für ein solches System wären niedriger als die Geldstrafen, die Plattformen in Europa (DSA) oder Großbritannien zahlen müssen, wenn sie es nicht tun.
- Stell dir vor: Es kostet einen Supermarkt 100 Euro, um die Diebe abzuhalten. Wenn er es nicht tut, kostet ihn die Strafe 1.000 Euro. Warum macht er es dann nicht?
- Das Fazit: Es ist nicht technisch unmöglich, Hassrede zu bekämpfen. Es ist eine Entscheidung. Die Plattformen investieren einfach nicht genug Geld und Personal in die menschlichen Prüfer, besonders in Sprachen wie Arabisch oder Spanisch, wo es oft an Personal mangelt.
Zusammenfassung in einem Satz
Die Studie zeigt, dass Hassrede auf Twitter nicht deshalb so lange online bleibt, weil die Technik versagt, sondern weil die Plattformen nicht genug Ressourcen (Geld und Menschen) einsetzen, um es zu entfernen – obwohl sie es sich leisten könnten und es sogar billiger wäre als die möglichen Strafen.
Es ist also keine Frage von „Können wir?", sondern von „Wollen wir?". Und aktuell scheint die Antwort leider „Nein" zu sein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.