IYKYK (But AI Doesn't): Automated Content Moderation Does Not Capture Communities' Heterogeneous Attitudes Towards Reclaimed Language
Cette étude démontre que les outils de modération automatisée échouent à saisir la complexité et la subjectivité des attitudes hétérogènes au sein des communautés marginalisées face à l'usage de termes réappropriés, conduisant à une mauvaise identification du discours haineux par rapport aux jugements humains.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Le Titre : "IYKYK (Mais l'IA ne sait pas)"
Imaginez que vous êtes dans une pièce remplie de gens qui partagent un secret, une blague interne ou un mot de passe. Si vous dites ce mot, tout le monde rit et se sent proche. C'est le "IYKYK" (If You Know, You Know).
Mais si un robot (une intelligence artificielle) entre dans la pièce et entend ce mot, il panique. Pour le robot, ce mot est toujours dangereux, toujours une insulte. Il ne comprend pas que, dans ce contexte précis, ce mot est en réalité un signe d'amitié et de solidarité.
C'est exactement ce que cette étude a découvert : les outils automatiques qui filtrent les insultes sur internet échouent lamentablement à comprendre la différence entre une vraie insulte et un mot "reconquis" par une communauté.
L'Histoire : Des Mots qui ont changé de peau
Prenons trois mots : le mot "Nègre" (n-word), le mot "Fagot" (f-word) et le mot "Putain" (b-word).
Historiquement, ce sont des armes terribles utilisées pour blesser et opprimer des groupes (Noirs, LGBTQIA+, femmes).
Mais, comme des plantes qui repoussent sur un terrain brûlé, certaines communautés ont décidé de reconquérir ces mots. Elles les ont pris, les ont retournés et les utilisent entre elles pour dire : "On est ensemble, on est forts, on s'aime." C'est comme si un groupe de copains utilisait un surnom moche pour se taquiner gentiment, alors qu'un inconnu qui utilise le même surnom serait insultant.
Le problème : Les modérateurs automatiques (les robots) ne voient que le mot. Ils ne voient pas le sourire derrière, ni la main tendue. Ils bloquent tout.
L'Expérience : Une enquête avec des humains
Les chercheurs (des étudiants et chercheurs de l'UCLA) ont voulu vérifier si, même en demandant à des membres de ces communautés de juger les messages, tout le monde serait d'accord.
Ils ont créé un petit jeu :
- Ils ont pris 100 tweets contenant chacun de ces mots.
- Ils ont demandé à des membres des communautés concernées (Noirs, LGBTQIA+, femmes) de lire ces tweets et de répondre : "Est-ce que c'est une insulte ?" et "Est-ce que le robot devrait bloquer ce message ?".
- Ils ont aussi interviewé certaines personnes pour comprendre pourquoi elles pensaient ça.
La Grande Révélation : Même entre nous, on n'est pas d'accord !
C'est ici que ça devient fascinant. On pensait souvent que : "Si on est tous Noirs (ou tous gays, ou toutes femmes), on va tous être d'accord sur ce qui est une insulte."
Faux.
Les chercheurs ont découvert que même au sein d'une même communauté, les gens ne sont pas d'accord.
- L'analogie du goût : Imaginez un plat très épicé. Pour certains, c'est délicieux et réconfortant. Pour d'autres, c'est trop fort et ça pique trop. Pour d'autres encore, c'est juste du sel.
- De la même façon, pour un mot reconquis :
- La personne A dit : "C'est de l'amour, c'est de la fierté."
- La personne B dit : "Non, ça me fait mal, ça me rappelle trop de traumatismes."
- La personne C dit : "Ça dépend de qui le dit et dans quel contexte."
Les chercheurs ont mesuré cet accord et il était très faible. C'est comme essayer de dessiner une seule carte pour un territoire où chaque habitant a une vision différente du paysage.
Pourquoi l'IA a-t-elle du mal ?
Les robots actuels (comme ceux utilisés par les réseaux sociaux) fonctionnent un peu comme un chien de garde très zélé mais très bête.
- Le chien : "J'entends le mot 'Putain' ? Aboiement ! Danger ! Bloquer !"
- Le contexte humain : "Attends, c'est une fille qui dit à sa meilleure amie : 'Oh putain, ce gâteau est incroyable !'."
L'étude a montré que les robots sont souvent trop stricts. Ils bloquent les messages des communautés marginalisées beaucoup plus souvent que nécessaire, car ils ne comprennent pas les nuances. Ils traitent tous les usages du mot comme s'ils venaient d'un méchant.
Ce que les chercheurs nous disent (Leçon à retenir)
- Il n'y a pas de "règle unique" : On ne peut pas créer une liste de mots interdits qui fonctionne pour tout le monde. Ce qui est acceptable pour une personne peut être blessant pour une autre, même si elles font partie du même groupe.
- Le contexte est roi : Pour savoir si un mot est une insulte ou un câlin verbal, il faut comprendre l'histoire, la relation entre les gens, et l'intention. C'est très difficile à programmer pour un ordinateur.
- La solution n'est pas de supprimer, mais de comprendre : Si on continue à utiliser des robots bêtes pour modérer ces communautés, on va continuer à censurer (faire taire) les gens qui essaient juste de s'exprimer et de se soutenir.
En résumé
Imaginez que vous essayez de traduire une chanson en utilisant seulement un dictionnaire, sans jamais avoir entendu la musique. Vous aurez les mots, mais vous manquerez l'émotion, le rythme et le sens profond.
C'est ce que font les modérateurs automatiques avec les mots reconquis. Ils lisent les mots, mais ils ne sentent pas la musique de la communauté. Cette étude nous rappelle qu'il faut faire preuve d'humilité : l'intelligence humaine, avec ses nuances et ses contradictions, est encore bien plus complexe que n'importe quel algorithme.
Il faut arrêter de chercher une "règle parfaite" pour tout le monde et accepter que la réalité humaine est faite de nuances, de désaccords et de contextes qui changent à chaque instant.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.