Beyond Binary Classification: Detecting Fine-Grained Sexism in Social Media Videos
Cet article présente FineMuSe, un nouveau jeu de données multimodal en espagnol avec une taxonomie hiérarchique fine, et évalue les capacités des grands modèles de langage à détecter le sexisme subtil dans les vidéos des réseaux sociaux, révélant qu'ils rivalisent avec les humains pour l'identification mais peinent à saisir les types sexistes coexistants véhiculés par des indices visuels.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez de trier une immense boîte de jouets en plastique. La plupart des robots actuels sont programmés pour faire une chose très simple : ils disent « C'est un jouet » ou « Ce n'est pas un jouet ». C'est ce qu'on appelle la classification binaire.
Mais dans la réalité, les jouets sont complexes. Certains sont dangereux, d'autres sont juste bizarres, d'autres sont des contrefaçons, et certains sont des blagues qui ressemblent à des jouets dangereux mais qui ne le sont pas. Si votre robot ne fait que dire « Jouet / Pas Jouet », il va rater toutes les nuances.
C'est exactement le problème que les auteurs de cet article veulent résoudre avec le sexisme sur les réseaux sociaux.
Voici l'explication de leur travail, servie avec des analogies simples :
1. Le Problème : Le Robot « Tout ou Rien »
Aujourd'hui, les outils qui surveillent les vidéos sur TikTok, YouTube ou BitChute sont comme des gardiens de sécurité un peu bêtes. Ils regardent une vidéo et disent : « Ah, c'est du sexisme ! » ou « Non, c'est innocent ».
Le problème ? Le sexisme est souvent subtil.
- Parfois, c'est une blague qui cache une insulte.
- Parfois, c'est une vidéo qui dit « Je suis contre le sexisme » mais qui utilise des images sexistes pour le faire.
- Parfois, c'est une vidéo qui nie que les inégalités existent.
Si le robot ne voit que l'étiquette « Sexiste », il ne comprend pas pourquoi c'est sexiste. Il manque le contexte, comme un traducteur qui traduit mot à mot sans comprendre l'humour ou l'ironie.
2. La Solution : La Boîte à Outils « FineMuSe »
Les chercheurs ont créé un nouveau jeu de données (une immense bibliothèque de vidéos) appelée FineMuSe. Imaginez que c'est une boîte à outils ultra-précise pour apprendre aux robots à voir les détails.
Au lieu de juste dire « Sexiste / Pas Sexiste », ils ont créé un système de 3 niveaux (comme une pyramide) :
- Niveau 1 (La base) : Est-ce sexiste ou non ? (Oui/Non).
- Niveau 2 (Le détail) : Si c'est sexiste, c'est quel type ?
- Les Stéréotypes : « Les femmes sont faites pour la cuisine. »
- Le Déni : « Il n'y a plus d'inégalités, les femmes exagèrent. »
- La Discrimination : Attaquer les personnes LGBTQ+ ou les minorités.
- L'Objectification : Traiter une femme comme un objet décoratif.
- Niveau 3 (L'astuce) : Est-ce que c'est dit avec de l'Ironie ou de l'Humour ? (Parfois, on dit le contraire de ce qu'on pense pour se moquer du sexisme, ou au contraire, pour le renforcer).
3. L'Entraînement : Des Experts Humains
Pour créer ce manuel d'instructions, les chercheurs n'ont pas demandé à des gens au hasard de regarder les vidéos. Ils ont fait appel à des experts (des linguistes, des professeurs) qui connaissent bien le sujet.
C'est comme si, au lieu de demander à un enfant de trier des pièces de monnaie, vous aviez demandé à un expert numismate de les classer par époque, par métal et par rareté. Cela rend la base de données beaucoup plus fiable.
4. Le Test : Les Robots vs Les Humains
Ensuite, ils ont mis à l'épreuve les plus grands robots intelligents (les grands modèles de langage ou LLM, comme GPT-4 ou Claude) avec ces vidéos.
Les résultats sont intéressants :
- Pour le niveau 1 (Oui/Non) : Les robots sont excellents. Ils sont presque aussi bons que les humains pour dire si une vidéo est toxique ou non.
- Pour le niveau 2 (Les détails) : Là, ça coince un peu. Les robots sont bons pour repérer les stéréotypes (les phrases sexistes), mais ils ont du mal avec ce qui se passe visuellement.
- L'analogie : Imaginez une vidéo où quelqu'un dit « Je respecte les femmes » (texte), mais où l'image montre une femme réduite à un objet. Le robot entend le texte et dit « C'est gentil ». Il rate le message caché dans l'image.
- Pour l'humour et l'ironie : C'est le niveau le plus difficile, même pour les humains ! Les robots se trompent souvent sur le ton.
5. Pourquoi c'est important ?
Aujourd'hui, si un robot supprime une vidéo, il ne donne souvent aucune explication. C'est frustrant pour l'utilisateur.
L'objectif de ce travail est de créer des robots qui ne se contentent pas de dire « C'est interdit », mais qui peuvent expliquer : « Cette vidéo est sexiste parce qu'elle utilise l'humour pour renforcer un stéréotype sur le rôle des femmes, même si le texte semble inoffensif. »
C'est comme passer d'un gardien de sécurité qui vous dit juste « Sortez ! » à un professeur qui vous explique exactement pourquoi votre comportement était inapproprié, pour vous aider à comprendre et à faire mieux la prochaine fois.
En résumé : Les chercheurs ont créé une carte au trésor ultra-détaillée pour aider les robots à comprendre que le sexisme sur internet n'est pas juste un mot, mais un mélange complexe de mots, d'images, de blagues et de préjugés cachés.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.