SLAyiNG: A Diverse and Community-validated Dataset of Queer Slang
Este artigo apresenta o "SLAyiNG", o primeiro conjunto de dados validado pela comunidade com mais de 500 termos de gírias queer em inglês através de 20 subcomunidades, o qual revela que, embora muitos modelos de linguagem careçam de viés de representação contra identidades queer, eles ainda têm dificuldade em processar o vernáculo queer — particularmente gírias de comunidades afro-americanas e latinas — destacando a necessidade de recursos linguísticos diversos para melhorar os sistemas de PLN.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um mundo onde os computadores são como leitores gigantes e vorazes que engoliram quase todos os livros, sites e conversas já escritos. Essas máquinas, conhecidas como Grandes Modelos de Linguagem (LLMs), são os cérebros por trás de muitos dos chatbots e ferramentas de IA que usamos hoje. Elas aprendem identificando padrões em palavras, tentando adivinhar o que vem a seguir em uma frase. Mas aqui está o problema: se um computador nunca ouviu uma forma específica de falar, ele fica confuso. Ele pode achar que uma piada amigável é um insulto, ou pode falhar totalmente ao entender uma referência cultural. Este é um grande problema para os "socioletos" — linguagens especializadas usadas por grupos específicos de pessoas, como adolescentes, gamers ou a comunidade LGBTQ+. Quando a IA não entende esses grupos, ela pode ser acidentalmente rude, identificar pessoas incorretamente ou simplesmente falhar ao conversar adequadamente. A pergunta que os pesquisadores estão fazendo é: Como ensinamos esses cérebros digitais a entender a linguagem rica, colorida e em constante evolução das comunidades queer sem errar o alvo?
É aqui que entra um novo projeto chamado SLAYING. Pense nele como um dicionário e um livro de histórias massivo, aprovado pela comunidade, especificamente para a gíria queer. Os pesquisadores perceberam que, embora a IA esteja melhorando na compreensão de muitos tipos de linguagem, ela frequentemente tropeça no vernáculo queer. Às vezes, a IA fica tão confusa que confunde uma frase inofensiva e celebratória com discurso de ódio, ou gera uma resposta rude a um usuário apenas porque ele usou uma palavra específica. Para corrigir isso, a equipe construiu o primeiro conjunto de dados do mundo real com mais de 500 termos de gírias queer, completo com 3.405 exemplos de como essas palavras são realmente usadas em frases. Eles não apenas extraíram essas palavras de um livro didático; eles as coletaram de filmes, podcasts e redes sociais, e depois fizeram com que membros reais da comunidade queer verificassem cada um dos exemplos para garantir que fossem usados corretamente e não fossem prejudiciais.
A equipe usou esse novo conjunto de dados para testar alguns modelos de IA populares e descobriu algo surpreendente. Eles descobriram que um computador pode ser "gentil" com pessoas queer (significando que não mantém estereótipos ou as odeia), mas ainda assim ser "desprevenido" em relação à sua linguagem. É como ter um amigo que te ama, mas não entende suas piadas internas favoritas; eles não estão sendo maldosos, eles apenas não entendem a referência. O estudo mostrou que, quando ensinaram um modelo de IA usando este novo conjunto de dados de gírias inofensivas e aprovadas pela comunidade, o modelo na verdade melhorou sua compreensão de pessoas queer em geral, não apenas das palavras.
No entanto, os pesquisadores também descobriram que a IA não está tratando todos igualmente. Os modelos tiveram maior dificuldade com gírias de grupos específicos, particularmente aqueles de comunidades queer afro-americanas e latinas, bem como termos relacionados a drag e identidades não binárias. É como se a IA tivesse um ponto cego para as próprias comunidades que criaram grande parte da gíria que ela está tentando aprender. Além disso, o estudo mostrou que sistemas automatizados projetados para detectar linguagem "tóxica" frequentemente sinalizam esses termos queer como perigosos, mesmo quando estão sendo usados de uma forma positiva e ressignificada. Isso sugere que as próprias ferramentas destinadas a manter a internet segura podem estar acidentalmente censurando vozes queer. O artigo sugere que, ao alimentar esses modelos com exemplos mais diversos e do mundo real da linguagem queer, podemos ajudá-los a entender melhor a comunidade, reduzindo tanto sua confusão quanto sua tendência de sinalizar erroneamente o discurso inocente como prejudicial.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.