Testing Hypotheses from the Social Approval Theory of Online Hate: An Analysis of 110 Million Messages from Parler
Diese Studie analysiert 110 Millionen Parler-Nachrichten, um zu zeigen, dass soziale Zustimmung (Upvotes) Online-Hass und Toxizität auf komplexe, zeitabhängige Weise vorhersagt, indem sie negatives Verhalten unmittelbar oft unterdrückt, aber über längere Zeiträume hinweg steigert, während soziale Missbilligung (Downvotes) diese Effekte moderiert, indem sie die langfristige Toxizität reduziert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das Internet wie einen riesigen, chaotischen Spielplatz vor, auf dem alle schreien, flüstern und Schilder aufhängen. In dieser digitalen Welt gibt es ein Phänomen namens „Online-Hass“, bei dem Menschen gemeine, verletzende Dinge über andere sagen, basierend darauf, wer sie sind. Lange Zeit glaubten Wissenschaftler, dass diese hasserfüllten Poster einfach „schlechte Akteure“ seien – Menschen mit bösen Persönlichkeiten, die anderen zum Spaß wehtun wollen. Aber eine neuere Idee, die Social Approval Theory (Theorie der sozialen Bestätigung), legt etwas anderes nahe: Vielleicht sind Menschen nicht einfach gemein, um jemanden zu verletzen; vielleicht sind sie gemein, um eine Reaktion zu bekommen. Denken Sie an ein Kind auf einem Schulhof, das ein Gerücht verbreitet, nicht weil es das Opfer hasst, sondern weil es möchte, dass seine Freunde lachen und jubeln. In dieser Theorie sind die „Jubelrufe“ digitale Signale wie Upvotes (ein Daumen nach oben) oder Likes. Die große Frage ist: Macht es jemanden dazu gebracht, das nächste Mal noch gemeiner zu sein, wenn er ein „Jubeln“ bekommt? Dies ist eine entscheidende Frage, denn wenn wir wissen, warum Menschen Hass verbreiten, können wir vielleicht bessere Wege finden, um ihn zu stoppen.
Dieses Paper ist eine massive Detektivgeschichte, die versucht, diese Frage zu beantworten, indem sie einen Berg von Daten untersucht. Die Forscher David Markowitz und Samuel Hardman Taylor beschlossen, eine spezifische Social-Media-Seite namens Parler zu untersuchen, die zwischen 2018 und 2021 populär war. Sie analysierten eine atemberaubende Menge von 110 Millionen Nachrichten von dieser Plattform, die dafür bekannt war, sehr wenige Regeln darüber zu haben, was die Leute sagen dürfen. Sie wollten sehen, ob das Erhalten von Upvotes auf eine hasserfüllte Nachricht jemanden dazu brachte, später mehr Hass zu posten, oder ob es ihn dazu brachte, aufzuhören.
Hier ist, was sie herausfanden, und es ist etwas komplizierter als ein einfaches „Ja“ oder „Nein“.
Zuerst schauten sie sich das Timing an. Wenn man einen Upvote für einen Hass-Post bekommt, führt das dazu, dass man sofort wieder Hass postet? Überraschenderweise war die Antwort nein. Tatsächlich war die Wahrscheinlichkeit, direkt nach einem Upvote eine weitere hasserfüllte Nachricht zu posten, sogar geringer. Es ist, als ob das „Jubeln“ sie für einen Moment zufriedenstellte und sie eine Pause machten. Die Geschichte ändert sich jedoch, wenn man ein wenig wartet. Als die Forscher betrachteten, was im Laufe einer Woche geschah, wirkten die Upvotes wie ein Magnet. Menschen, die Upvotes für ihre Hass-Posts erhielten, waren in der folgenden Woche eher bereit, mehr Hass zu posten. Es scheint, als ob die „Belohnung“ des Upvotes nicht sofort wirkte; es dauerte eine Weile, bis sie sich in ihrem Geist ansammelten, bevor es sie dazu brachte, es wieder tun zu wollen.
Aber die Art der Nachricht spielte eine große Rolle. Die Forscher unterteilten die Daten in zwei Kategorien: Posts (Nachrichten, die an alle im Feed ausgestrahlt werden, wie eine Werbetafel) und Kommentare (Nachrichten, die innerhalb eines Gesprächsfadens geschrieben wurden).
- Für Posts: Die Upvotes ließen Menschen in der nächsten Woche mehr Hass posten, aber dieser Effekt verblasste nach einem Monat.
- Für Kommentare: Das Muster war noch seltsamer. Upvotes auf einen hasserfüllten Kommentar führten dazu, dass Menschen in ihrem sehr nächsten Kommentar weniger Hass posteten, aber dann in der nächsten Woche mehr Hass. Wenn man jedoch auf die langfristige Sicht (drei bis sechs Monate) blickte, kehrte sich der unmittelbare Effekt um und sagte weniger Hass voraus. Entscheidend ist jedoch, dass beim Blick auf das große Ganze über alle Nutzer hinweg diejenigen, die insgesamt mehr Upvotes auf ihre Hass-Kommentare erhielten, dazu neigten, langfristig mehr Hass zu produzieren, unabhängig vom Zeitintervall. Es ist, als hätten die Upvotes einen kurzen Energieschub gegeben, um gemein zu sein, aber die Menschen, die konsistent die meiste Zustimmung bekamen, waren diejenigen, die über die Zeit am meisten Hass verbreiteten.
Die Forscher untersuchten auch die Toxizität, ein Maß dafür, wie unhöflich oder respektlos eine Nachricht ist (nicht nur Hass, sondern einfach nur gemein zu sein). Sie fanden heraus, dass bei Kommenten Upvotes die Menschen in der kurzen Frist (der nächsten Woche) toxischer machten, dies aber bei Posts nicht der Fall war.
Schließlich fragten sie: Was passiert, wenn man sowohl ein „Jubeln“ (Upvote) als auch ein „Buhen“ (Downvote) bekommt? Die Social Approval Theory suggerierte, dass selbst wenn man gebuht wird, man weitermacht, wenn die Freunde für einen jubeln. Aber die Daten zeigten etwas anderes. Wenn Menschen neben ihren Upvotes auch Downvotes erhielten, funktionierte das „Jubeln“ nicht so gut. Die Downvotes schienen die Motivation, gemein zu sein, zu neutralisieren. Es ist, als würde man einen Witz erzählen, und die eine Hälfte des Raumes lacht, während die andere Hälfte stöhnt; wahrscheinlich erzählt man nicht gleich wieder einen Witz. Die Studie deutet darauf an, dass Upvotes zwar den Hass kurzfristig anheizen können, Downvotes das Feuer aber tatsächlich dämpfen können, was die Verbindung zwischen dem Erhalt von Zustimmung und dem Posten von Hass schwächer macht.
Was ist also das Fazit? Die Idee, dass „Menschen einfach nur gemein sind, um anderen wehzutun“, ist nicht die ganze Geschichte. Die Studie legt nahe, dass soziale Bestätigung Online-Hass zwar antreibt, aber es ein langsam brennendes Feuer ist, keine sofortige Explosion. Es braucht Zeit, bis sich die „Jubelschreie“ ansammeln und jemanden dazu bringen, wieder etwas Gemeines zu sagen. Und interessanterweise kann das Erhalten einer Mischung aus Jubel und Buhen tatsächlich helfen, den Kreislauf zu durchbrechen, zumindest für eine Weile. Die Forscher betonen vorsichtig, dass dies auf dem basiert, was sie in diesem speziellen Datensatz gemessen haben, und sie schlagen vor, dass weitere Forschung nötig ist, um genau zu verstehen, wie sich diese Gefühle über die Zeit aufbauen. Aber eines ist klar: Im Internet prägt die Art und Weise, wie wir aufeinander reagieren – ob mit einem Daumen nach oben oder einem Daumen nach unten – das, was als Nächstes gesagt wird.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.