SLAyiNG: A Diverse and Community-validated Dataset of Queer Slang
Cet article présente « SLAyiNG », le premier ensemble de données validé par la communauté comprenant plus de 500 termes d'argot queer en anglais répartis sur 20 sous-communautés, lequel révèle que si de nombreux modèles de langage ne présentent pas de biais de représentation contre les identités queer, ils peinent néanmoins à traiter le vernaculaire queer — particulièrement l'argot issu des communautés afro-américaines et latinos — soulignant ainsi la nécessité de ressources linguistiques diversifiées pour améliorer les systèmes de TAL.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où les ordinateurs sont comme des lecteurs géants et voraces qui auraient avalé presque tous les livres, sites web et conversations jamais écrits. Ces machines, connues sous le nom de Grands Modèles de Langage (LLM), sont les cerveaux derrière de nombreux chatbots et outils d'IA que nous utilisons aujourd'hui. Ils apprennent en repérant des motifs dans les mots, en essayant de deviner ce qui vient ensuite dans une phrase. Mais voici le hic : si un ordinateur n'a jamais entendu une façon spécifique de parler, il s'embrouille. Il pourrait prendre une blague amicale pour une insulte, ou ne pas comprendre entièrement une référence culturelle. C'est un gros problème pour les « sociolectes » — des langages spécialisés utilisés par des groupes spécifiques de personnes, comme les adolescents, les joueurs ou la communauté LGBTQ+. Lorsque l'IA ne comprend pas ces groupes, elle peut accidentellement être méchante, mal identifier les gens ou simplement échouer à discuter correctement. La question que se posent les chercheurs est la suivante : comment enseigner à ces cerveaux numériques à comprendre l'argot riche, coloré et évolutif des communautés queer sans se tromper ?
C'est là qu'intervient un nouveau projet appelé SLAYING. Voyez cela comme un dictionnaire et un livre d'histores massif, approuvé par la communauté, spécifiquement dédié à l'argot queer. Les chercheurs se sont rendu compte que, bien que l'IA s'améliore pour comprendre de nombreux types de langage, elle trébuche souvent sur le vernaculaire queer. Parfois, l'IA est tellement confuse qu'elle prend une phrase de célébration inoffensive pour un discours de haine, ou elle génère une réponse impolie à un utilisateur simplement parce que celui-ci a utilisé un mot spécifique. Pour corriger cela, l'équipe a construit le premier ensemble de données réel de plus de 500 termes d'argot queer, comprenant 3 405 exemples de la façon dont ces mots sont réellement utilisés dans des phrases. Ils n'ont pas seulement extrait ces mots d'un manuel ; ils les ont rassemblés à partir de films, de podcasts et des réseaux sociaux, puis ont demandé à de vrais membres de la communauté queer de vérifier chaque exemple pour s'assurer qu'il était utilisé correctement et qu'il n'était pas nuisible.
L'équipe a utilisé ce nouvel ensemble de données pour tester certains modèles d'IA populaires, et elle a découvert quelque chose de surprenant. Elle a découvert qu'un ordinateur peut être « gentil » avec les personnes queer (ce qui signifie qu'il ne tient pas de stéréotypes et ne les déteste pas) mais rester tout de même « inconscient » de leur langage. C'est comme avoir un ami qui vous aime mais qui ne comprend pas vos plaisanteries privées préférées ; il n'est pas méchant, il ne saisit juste pas la référence. L'étude a montré que lorsqu'ils ont enseigné à un modèle d'IA en utilisant ce nouvel ensemble de données d'argot inoffensif et approuvé par la communauté, le modèle devenait en fait meilleur pour comprendre les personnes queer en général, et pas seulement les mots.
Cependant, les chercheurs ont également constaté que l'IA ne traite pas tout le monde de la même manière. Les modèles ont le plus de mal avec l'argot de groupes spécifiques, particulièrement ceux issus des communautés queer afro-américaines et latines, ainsi que les termes liés au drag et aux identités non-binaires. C'est comme si l'IA avait un angle mort pour les communautés mêmes qui ont créé une grande partie de l'argot qu'elle essaie d'apprendre. De plus, l'étude a montré que les systèmes automatisés conçus pour détecter le langage « toxique » signalent souvent ces termes queer comme dangereux, même lorsqu'ils sont utilisés de manière positive ou réappropriée. Cela suggère que les outils mêmes destinés à rendre Internet sûr pourraient accidentellement censurer les voix queer. Le document suggère qu'en nourrissant ces modèles avec des exemples plus diversifiés et réels du langage queer, nous pouvons aider ces machines à mieux comprendre la communauté, réduisant ainsi à la fois leur confusion et leur tendance à signaler à tort des propos innocents comme étant nuisibles.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.