SLAyiNG: A Diverse and Community-validated Dataset of Queer Slang
Dieses Paper stellt „SLAyiNG“ vor, den ersten durch die Community validierten Datensatz mit über 500 englischen Queer-Slang-Begriffen aus 20 Subcommunities, der aufzeigt, dass Sprachmodelle zwar oft keinen Repräsentationsbias gegenüber queeren Identitäten aufweisen, jedoch dennoch Schwierigkeiten bei der Verarbeitung von Queer-Vokabular haben – insbesondere bei Slang aus afroamerikanischen und latinisierenden Gemeinschaften –, was die Notwendigkeit diverser linguistischer Ressourcen zur Verbesserung von NLP-Systemen unterstreicht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Computer wie riesige, gierige Leser sind, die fast jedes Buch, jede Website und jedes Gespräch verschlungen haben, das jemals geschrieben wurde. Diese Maschinen, bekannt als Large Language Models (LLMs), sind die Gehirne hinter vielen der Chatbots und KI-Tools, die wir heute verwenden. Sie lernen, indem sie Muster in Wörtern erkennen und versuchen zu erraten, was als Nächstes in einem Satz kommt. Aber hier ist der Haken: Wenn ein Computer eine bestimmte Art der Sprechweise noch nie gehört hat, wird er verwirrt. Er könnte denken, dass ein freundlicher Witz eine Beleidigung ist, oder er könnte eine kulturelle Referenz völlig missverstehen. Dies ist ein großes Problem für „Soziolekte“ – spezialisierte Sprachen, die von bestimmten Gruppen von Menschen verwendet werden, wie zum Beispiel Teenagern, Gamern oder der LGBTQ+-Gemeinschaft. Wenn KI diese Gruppen nicht versteht, kann sie versehentlich unhöflich sein, Menschen falsch identifizieren oder einfach nicht richtig chatten können. Die Frage, die sich Forscher stellen, lautet: Wie bringen wir diesen digitalen Gehirnen bei, den reichen, farbenfrohen und sich ständig entwickelnden Slang von queeren Communities zu verstehen, ohne dabei Fehler zu machen?
Hier kommt ein neues Projekt namens SLAYING ins Spiel. Stellen Sie es sich wie ein massives, gemeinschaftlich geprüftes Wörterbuch und Storybook speziell für queeren Slang vor. Die Forscher erkannten, dass KI zwar besser darin wird, viele Arten von Sprache zu verstehen, aber oft über queeren Wortschatz stolpert. Manchmal ist die KI so verwirrt, dass sie eine harmlose, feierliche Phrase für Hassrede hält oder eine unhöfliche Antwort an einen Nutzer generiert, nur weil dieser ein bestimmtes Wort verwendet hat. Um dies zu beheben, hat das Team den ersten realen Datensatz mit über 500 queeren Slang-Begriffen erstellt, komplett mit 3.405 Beispielen dafür, wie diese Wörter tatsächlich in Sätzen verwendet werden. Sie haben diese Wörter nicht einfach aus einem Lehrbuch gezogen; sie haben sie aus Filmen, Podcasts und sozialen Medien gesammelt und anschließend echte Mitglieder der queeren Community jedes einzelne Beispiel überprüfen lassen, um sicherzustellen, dass es korrekt verwendet wurde und nicht verletzend war.
Das Team nutzte diesen neuen Datensatz, um einige populäre KI-Modelle zu testen, und stellte dabei etwas Überraschendes fest. Sie entdeckten, dass ein Computer gegenüber queeren Menschen „nett“ sein kann (das heißt, er pflegt keine Stereotypen und hasst sie nicht), aber dennoch „ahnungslos“ in Bezug auf ihre Sprache sein kann. Es ist, als hätte man einen Freund, der einen liebt, aber die Insider-Witze nicht versteht; er ist nicht böse, er versteht nur die Anspielung nicht. Die Studie zeigte, dass, wenn man ein KI-Modell mit diesem neuen Datensatz aus harmlosem, gemeinschaftlich genehmigtem Slang trainierte, das Modell tatsächlich besser darin wurde, queere Menschen im Allgemeinen zu verstehen, nicht nur deren Wörter.
Die Forscher fanden jedoch auch heraus, dass die KI nicht alle gleich behandelt. Die Modelle hatten am meisten Schwierigkeiten mit dem Slang spezifischer Gruppen, insbesondere jener aus afroamerikanischen und latinisierenden queeren Communities sowie Begriffen im Zusammenhang mit Drag- und nicht-binären Identitäten. Es ist, als hätte die KI einen blinden Fleck für genau die Gemeinschaften, die einen Großteil des Slangs erschaffen haben, den sie zu lernen versucht. Darüber hinaus zeigte die Studie, dass automatisierte Systeme, die darauf ausgelegt sind, „toxische“ Sprache abzufangen, diese queeren Begriffe oft als gefährlich markieren, selbst wenn sie auf eine positive, zurückgewonnene Weise verwendet werden. Dies deutet darauf an, dass eben jene Werkzeuge, die dazu dienen, das Internet sicher zu halten, versehentlich queere Stimmen zensieren könnten. Das Paper legt nahe, dass wir diesen Modellen durch die Fütterung mit mehr diversen, realen Beispielen queerer Sprache helfen können, die Community besser zu verstehen, wodurch sowohl ihre Verwirrung als auch ihre Tendenz, harmlose Sprache fälschlicherweise als schädlich zu markieren, reduziert wird.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.