SLAyiNG: A Diverse and Community-validated Dataset of Queer Slang
Questo articolo introduce "SLAyiNG", il primo dataset validato dalla comunità composto da oltre 500 termini di slang queer in inglese attraverso 20 sottocomunità, il quale rivela che, sebbene molti modelli linguistici manchino di un pregiudizio di rappresentazione contro le identità queer, essi faticano comunque a elaborare il vernacolo queer — in particolare lo slang delle comunità afroamericane e latine — evidenziando la necessità di risorse linguistiche diversificate per migliorare i sistemi di NLP.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Immaginate un mondo in cui i computer sono come lettori giganti e voraci che hanno inghiottito quasi ogni libro, sito web e conversazione mai scritta. Queste macchine, note come Grandi Modelli Linguistici (LLM), sono i cervelli dietro molti dei chatbot e degli strumenti di IA che utilizziamo oggi. Imparano individuando schemi nelle parole, cercando di indovinare cosa verrà dopo in una frase. Ma ecco il problema: se un computer non ha mai sentito un certo modo di parlare, si confonde. Potrebbe pensare che uno scherzo amichevole sia un insulto, o potrebbe non riuscire a comprendere affatto un riferimento culturale. Questo è un grande problema per i "socioletti": linguaggi specializzati usati da gruppi specifici di persone, come adolescenti, gamer o la comunità LGBTQ+. Quando l'IA non comprende questi gruppi, può essere accidentalmente sgarbata, identificare male le persone o semplicemente non riuscire a conversare correttamente. La domanda che i ricercatori si pongono è: come possiamo insegnare a questi cervelli digitali a comprendere il linguaggio ricco, colorato ed evolutivo dello slang queer senza sbagliare?
È qui che entra in gioco un nuovo progetto chiamato SLAYING. Pensatelo come un enorme dizionario e un libro di storie approvato dalla comunità, specificamente dedicato allo slang queer. I ricercatori si sono resi conto che, sebbene l'IA stia diventando più brava a comprendere molti tipi di linguaggio, spesso inciampa nel vernacolo queer. A volte, l'IA si confonde così tanto da scambiare una frase innocua e celebrativa per un discorso d'odio, o genera una risposta maleducata a un utente solo perché ha usato una parola specifica. Per risolvere questo problema, il team ha costruito il primo dataset del mondo reale di oltre 500 termini dello slang queer, completo di 3.405 esempi di come queste parole vengono effettivamente usate nelle frasi. Non hanno semplicemente prelevato queste parole da un libro di testo; le hanno raccolte da film, podcast e social media, e poi hanno fatto sì che veri membri della comunità queer controllassero ogni singolo esempio per assicurarsi che fosse usato correttamente e non fosse dannoso.
Il team ha utilizzato questo nuovo dataset per testare alcuni popolari modelli di IA e ha scoperto qualcosa di sorprendente. Hanno scoperto che un computer può essere "gentile" con le persone queer (nel senso che non nutre stereotipi o odio verso di loro) ma può comunque essere "ingenuo" riguardo al loro linguaggio. È come avere un amico che ti vuole bene ma non capisce i tuoi scherzi privati preferiti; non è cattivo, semplicemente non coglie il riferimento. Lo studio ha dimostrato che quando hanno insegnato a un modello di IA usando questo nuovo dataset di slang innocuo e approvato dalla comunità, il modello è diventato effettivamente più bravo a comprendere le persone queer in generale, non solo le parole.
Tuttavia, i ricercatori hanno anche scoperto che l'IA non tratta tutti allo stesso modo. I modelli hanno avuto maggiori difficoltà con lo slang di gruppi specifici, in particolare quelli delle comunità queer afroamericane e latine, nonché con i termini relativi al drag e alle identità non binarie. È come se l'IA avesse un punto cieco per le stesse comunità che hanno creato gran parte dello slang che sta cercando di imparare. Inoltre, lo studio ha mostrato che i sistemi automatizzati progettati per intercettare il linguaggio "tossico" spesso segnalano questi termini queer come pericolosi, anche quando vengono usati in modo positivo o riappropriato. Ciò suggerisce che gli stessi strumenti destinati a rendere internet sicuri potrebbero accidentalmente censurare le voci queer. Il documento suggerisce che, fornendo a questi modelli esempi più diversificati e reali del linguaggio queer, possiamo aiutare loro a comprendere meglio la comunità, riducendo sia la loro confusione che la loro tendenza a segnalare erroneamente il parlato innocente come dannoso.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.