IYKYK (But AI Doesn't): Automated Content Moderation Does Not Capture Communities' Heterogeneous Attitudes Towards Reclaimed Language
Die Studie zeigt, dass automatisierte Inhaltsmoderationssysteme die heterogenen und kontextabhängigen Einstellungen marginalisierter Gemeinschaften gegenüber der Wiederverwendung von Schimpfwörtern nicht erfassen können, was zu einer Unterdrückung ihrer Stimmen führt.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Missverständnis: Wenn KI die Sprache der Gemeinschaft nicht versteht
Stellen Sie sich vor, Sie haben eine geheime Sprache mit Ihren besten Freunden entwickelt. Sie nutzen ein Wort, das früher von Fremden benutzt wurde, um Sie zu beleidigen. Aber in Ihrem Freundeskreis haben Sie das Wort „umgedreht". Wenn Sie es heute sagen, meinen Sie damit: „Hey, wir sind stark, wir gehören zusammen, wir sind stolz." Es ist wie ein geheimes Handzeichen oder ein warmer Umarmungsgruß unter Freunden.
Das Problem:
Die Computerprogramme (KI), die soziale Medien wie Twitter oder Facebook überwachen, sind wie sehr strenge, aber etwas naive Hausmeister. Sie sehen dieses Wort und denken sofort: „Achtung! Das ist ein Beleidigungswort! Das muss gelöscht werden!" Die KI versteht den Unterschied zwischen einem bösen Angriff von außen und dem liebevollen Gebrauch unter Freunden nicht. Sie löscht also oft die Beiträge von marginalisierten Gruppen (wie Schwarze, LGBTQIA+ oder Frauen), die eigentlich nur Solidarität ausdrücken wollen.
Was haben die Forscher gemacht?
Die Forscher aus Los Angeles wollten herausfinden: „Verstehen die Mitglieder dieser Gemeinschaften untereinander wirklich alle gleich, wann ein Wort harmlos ist und wann es böse gemeint ist?"
Sie haben sich drei Gruppen angesehen:
- Schwarze Community (bezüglich des „N-Wortes").
- LGBTQIA+-Community (bezüglich des „F-Wortes").
- Frauen-Community (bezüglich des „B-Wortes" / Bitch).
Sie haben Menschen aus genau diesen Gruppen gebeten, Tausende von Tweets zu lesen und zu bewerten: „Ist das ein Hasskommentar?" und „Würdest du das melden?"
Die überraschende Entdeckung: „Wir sind nicht alle gleich!"
Das Wichtigste, was die Studie herausfand, ist: Selbst innerhalb einer Gemeinschaft gibt es keine einheitliche Meinung.
Stellen Sie sich eine große Familie vor. Wenn jemand ein altes, schmutziges Wort benutzt, sagen manche Familienmitglieder: „Oh, das ist doch nur ein Scherz unter uns!" Andere sagen: „Nein, das macht mir immer noch weh, egal wer es sagt."
Die Forscher haben festgestellt:
- Selbst wenn alle Annotatoren zur gleichen Gruppe gehören, sind sie sich oft nicht einig.
- Es gibt keine „perfekte Regel", die für alle gilt.
- Was für den einen ein Zeichen von Stolz ist, ist für den anderen immer noch schmerzhaft.
- Die KI-Modelle (wie das von Google, das sie getestet haben) sind noch viel schlechter darin, diese Nuancen zu verstehen als die Menschen. Sie löschen zu viel und verstehen zu wenig.
Warum ist das so kompliziert? (Die Analogie vom Kontext)
Stellen Sie sich vor, jemand ruft „Feuer!"
- Wenn es in einem Theater brennt, ist das eine Katastrophe.
- Wenn es in einem Film ein Schauspieler sagt, ist es nur ein Satz.
- Wenn es in einem Spiel „Feuer!" heißt, ist es ein Spielzug.
Die KI sieht nur das Wort „Feuer" und denkt sofort an Katastrophe. Sie sieht nicht, ob es im Theater, im Kino oder im Spiel passiert. Genauso ist es mit Schimpfwörtern:
- Wer es sagt? (Ein Freund oder ein Fremder?)
- Wo wird es gesagt? (In einer geschützten Gruppe oder öffentlich?)
- Wie ist der Ton? (Freundlich oder aggressiv?)
Ohne diese Informationen (den „Kontext") macht die KI einen riesigen Fehler.
Was bedeutet das für die Zukunft?
Die Studie sagt uns: Wir können nicht einfach eine KI bauen, die für alle Menschen auf der Welt die gleichen Regeln aufstellt.
- Es gibt keine „Goldene Regel": Man kann nicht erwarten, dass alle Schwarzen oder alle queeren Menschen genau gleich denken. Die Vielfalt der Meinungen ist normal und wichtig.
- KI braucht Hilfe: Die Computer sind zu stur. Sie brauchen Menschen, die den Kontext verstehen, oder Systeme, die flexibler sind.
- Gefahr der Zensur: Wenn wir die KI so lassen, wie sie ist, werden die Stimmen derjenigen, die am meisten unter Diskriminierung leiden, am lautesten unterdrückt. Sie werden stumm gemacht, weil sie versuchen, ihre eigene Sprache zu nutzen.
Fazit in einem Satz
Die Studie zeigt, dass Computer noch nicht gelernt haben, dass Worte wie „Schimpfwörter" manchmal auch wie „Liebesbriefe" sein können – und dass selbst die Empfänger dieser Liebesbriefe nicht immer genau wissen, wie sie sie interpretieren sollen. Wir brauchen also mehr menschliches Verständnis und weniger starre Computerregeln, um das Internet fair zu machen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.