💬 NLP

Spam and Sentiment Detection in Arabic Tweets Using MARBERT Model

Cette étude propose une approche d'apprentissage profond utilisant le modèle MARBERT pour détecter le spam et analyser le sentiment dans 24 513 tweets en arabe concernant la Saudi Telecom Company (STC), visant à améliorer le service client grâce à l'amélioration des mesures de classification de sentiment.

Auteurs originaux : Abrar Alotaibi, Atta-ur Rahman, Raheel Alhaza, Wala Alkhalifa, Narjes Alhajjaj, Atheer Alharthi, Dhai Abushoumi, Maryam Alqahtani, Dania Alkhulaifi

Publié 2026-06-25

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Abrar Alotaibi, Atta-ur Rahman, Raheel Alhaza, Wala Alkhalifa, Narjes Alhajjaj, Atheer Alharthi, Dhai Abushoumi, Maryam Alqahtani, Dania Alkhulaifi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez STC (Saudi Telecom Company) comme une place de ville géante et trépidante. Chaque seconde, des milliers de personnes crient leurs opinions, leurs plaintes ou leurs éloges dans les airs via Twitter. L'entreprise veut écouter chaque voix pour améliorer son service, mais il y a simplement trop de voix pour qu'une équipe d'humains puisse suivre le rythme. C'est comme essayer d'entendre un simple murmure dans un ouragan.

Ce document traite de la construction d'une oreille de robot super intelligente (un modèle d'IA) capable d'écouter cette foule chaotique, de comprendre ce qu'ils disent et de trier leurs cris dans des catégories bien nettes.

Voici comment les chercheurs ont construit ce robot, expliqué simplement :

1. Le Problème : La barrière de la langue et le « Bruit »

Les chercheurs ont été confrontés à deux obstacles principaux :

La Langue : L'arabe est complexe. Ce n'est pas une langue uniforme ; il existe une version formelle (comme la langue des livres) et de nombreux dialectes de la « rue » (comme l'argot utilisé dans les salons de discussion). C'est comme essayer d'apprendre à un robot à comprendre l'anglais, mais le robot doit gérer à la fois l'anglais formel de Shakespeare et l'argot très marqué de New York simultanément.
Le Bruit : Les tweets ne sont pas seulement des phrases propres. Ils sont remplis de « hashtags » (comme #STC), de liens, de noms d'utilisateurs et de messages répétés. C'est comme essayer de lire un livre où chaque page est recouverte de post-it et de gribouillis.

2. La Solution : Le robot « MARBERT »

Au lieu de construire un robot à partir de zéro, l'équipe a utilisé un cerveau pré-entraîné appelé MARBERT.

L'Analogie : Imaginez un étudiant qui a déjà lu des millions de livres et de tweets en arabe. Cet étudiant connaît parfaitement la grammaire, l'argot et le contexte de la langue arabe. C'est MARBERT.
La Particularité : La plupart des modèles d'IA sont entraînés sur du texte formel. MARBERT est spécial car il a été entraîné spécifiquement sur des tweets, ce qui signifie qu'il comprend la façon désordonnée, informelle et riche en dialectes dont les gens parlent réellement sur les réseaux sociaux.

3. L'Entraînement : Apprendre au robot à trier

Les chercheurs ont pris une pile massive de 24 513 tweets réels de clients de STC et ont appris au robot à les trier dans cinq bacs différents :

Positif : « Super service ! »
Négatif : « Ma connexion internet est coupée ! »
Neutre : « Je viens de consulter mon solde. »
Sarcasme : « Oh, génial, encore une panne. C'est exactement ce qu'il me fallait. » (C'est le plus difficile à détecter car les mots disent « génial », mais le sens est « mauvais ».)
Indéterminé : « Je ne sais pas quoi dire. »

Le problème de la « Classe Déséquilibrée » :
Les chercheurs ont remarqué un problème : le robot était excellent pour repérer les tweets « Négatifs » et « Positifs », mais il se trompait constamment avec les tweets « Sarcastiques » et « Indéterminés ».

La Métaphore : Imaginez un professeur corrigeant un examen où 90 % des réponses sont « Oui » et seulement 10 % sont « Non ». L'élève devient paresseux et répond « Oui » à chaque fois simplement parce qu'il a raison la plupart du temps. Le robot faisait la même chose ; il ignorait les rares tweets « Sarcastiques » car il n'y en avait pas assez pour apprendre.
La Correction : Les chercheurs sont retournés sur Twitter et ont collecté plus de tweets sarcastiques pour équilibrer la pile. Ils ont également ajusté les « paramètres d'apprentissage » du robot (comme sa vitesse d'apprentissage et le nombre d'exemples qu'il examine à la fois) pour qu'il prête plus d'attention aux cas difficiles et rares.

4. Les Résultats : Une oreille plus intelligente

Après avoir ajusté le robot et lui avoir injecté plus de données, les résultats ont été impressionnants :

Détection du Spam : Le robot est devenu très doué pour repérer le « spam » (messages inutiles), l'identifiant correctement 98 % du temps.
Analyse de Sentiment : Il a réussi à trier les tweets des clients dans les cinq catégories avec une grande précision.
La Recette Secrète : Les chercheurs ont découvert que l'utilisation d'une « taille de lot » (batch size) spécifique (le nombre de tweets que le robot regarde avant de faire une pause pour réfléchir) et d'un « taux d'apprentissage » lent (prendre son temps pour apprendre) fonctionnait le mieux.

5. L'Objectif

Le but ultime n'est pas seulement de construire un robot cool ; c'est d'aider STC. En lisant automatiquement ces tweets, STC peut savoir instantanément si les clients sont en colère, heureux ou sarcastiques. Cela leur permet de résoudre les problèmes plus rapidement et d'améliorer leur service client, transformant ainsi cette place de ville chaotique de voix qui crient en une conversation gérable.

En résumé : Le document décrit la prise d'un cerveau intelligent pré-entraîné à la langue arabe (MARBERT), le nettoyage d'une pile de tweets désordonnée, l'apprentissage de la détection du sarcasme et des messages indésirables, et l'ajustement jusqu'à ce qu'il devienne un outil hautement efficace pour comprendre les sentiments des clients.

Résumé Technique : Détection du Spam et du Sentiment dans les Tweets en Arabe via le Modèle MARBERT

Énoncé du Problème
La Saudi Telecom Company (STC), un important fournisseur de services en Arabie Saoudite, est confrontée à des défis significatifs pour gérer la satisfaction de sa clientèle en raison du volume massif de retours reçus via Twitter. Bien que Twitter serve de canal principal pour les plaintes des clients et l'expression de sentiments, l'afflux rapide de tweets rend l'analyse manuelle impossible. De plus, l'arabe présente des défis linguistiques uniques pour le traitement du langage naturel (NLP), notamment une morphologie complexe, l'existence de multiples dialectes (Arabe Dialectal vs Arabe Standard Moderne) et la prévalence du sarcasme. La littérature existante se concentre souvent sur l'anglais ou la classification binaire, laissant une lacune dans l'analyse robuste des sentiments multi-classes et la détection du spam spécifiquement pour les ensembles de données arabes déséquilibrés.

Méthodologie
L'étude propose un cadre d'apprentissage profond utilisant le modèle MARBERT, une architecture basée sur les transformeurs pré-entraînés, spécifiquement optimisée pour le texte arabe. La méthodologie comprend les étapes suivantes :

Collecte et Prétraitement des Données :
- Deux ensembles de données distincts ont été utilisés : un ensemble de données de sentiment contenant plus de 22 000 tweets de clients de STC étiquetés manuellement et un ensemble de données de spam comprenant plus de 24 000 tweets.
- L'ensemble de données de sentiment comprend cinq classes : Positif, Négatif, Neutre, Sarcasme et Indéterminé.
- Le prétraitement a consisté à supprimer le bruit (hashtags, URLs, noms d'utilisateurs, espaces supplémentaires), à éliminer les doublons et à normaliser les caractères arabes (par exemple, unifier les variations des lettres 'A' et 'Y') pour assurer l'uniformité.
Architecture du Modèle :
- Le modèle central est MARBERT, qui diffère du BERT standard en omettant l'objectif de Prédiction de la Phrase Suivante (NSP), car il a été entraîné spécifiquement sur des textes courts comme les tweets.
- MARBERT a été entraîné sur un corpus massif de 15,6 milliards de tokens comprenant à la fois l'Arabe Dialectal (DA) et l'Arabe Standard Moderne (MSA).
- L'architecture emploie un encodeur de transformeur bidirectionnel pour capturer efficacement le contexte.
Gestion du Déséquilibre des Classes :
- L'ensemble de données présentait un déséquilibre de classe significatif, particulièrement avec les classes sous-représentées comme le « Sarcasme » (initialement 200 échantillons) et « Indéterminé ».
- Au lieu d'utiliser des techniques de suréchantillonnage ou de sous-échantillonnage (que les auteurs ont notées comme pouvant introduire du bruit ou une perte de données), l'équipe a traité le déséquilibre en collectant des données supplémentaires et diverses sur Twitter, augmentant la classe de sarcasme à 1 400 échantillons.
Optimisation des Hyperparamètres :
- Des expériences approfondies ont été menées pour optimiser les performances. Les auteurs ont évalué différents tamaños de lots (batch sizes), taux d'apprentissage, longueurs de séquence et nombres d'époques.
- La configuration optimale identifiée était un batch size d'entraînement de 96, un batch size d'évaluation de 32, un taux d'apprentissage de $2 \times 10^{-5}$ , une longueur de séquence maximale de 256 et 5 époques.

Résultats Clés
L'étude a évalué le modèle en utilisant les métriques de Précision, de Rappel et de score F1.

Détection du Spam : L'approche basée sur MARBERT a atteint un score F1 de 0,98 sur l'ensemble de données de spam, surpassant les études récentes utilisant SVM, Naive Bayes ou d'autres modèles basés sur BERT (qui rapportaient des scores de 0,93 et 0,96).
Analyse de Sentiment :
- Le modèle a réussi à classifier les tweets dans les cinq catégories cibles.
- Avec les hyperparamètres optimisés (Batch size 96), le modèle a atteint un score F1 global de 0,75.
- La performance par classe a montré une haute précision pour les sentiments standards (Négatif : 0,85, Positif : 0,92, Neutre : 0,89) mais des scores plus faibles pour les classes plus complexes (Sarcasme : 0,54, Indéterminé : 0,56), soulignant la difficulté de ces catégories spécifiques même avec l'augmentation de données.

Signification et Contributions
L'article revendique les contributions suivantes au domaine du NLP arabe et de l'analyse de service client :

Application Spécifique au Domaine : L'étude démontre l'application pratique de MARBERT pour améliorer les opérations de service client chez STC en automatisant l'analyse des retours arabes non structurés.
Capacité Multi-classe : Contra à de nombreux travaux antérieurs axés sur la classification binaire, cette recherche traite avec succès un problème à cinq classes (incluant le sarcasme et les sentiments indéterminés) dans un environnement arabe déséquilibré.
Référencement de Performance : Les résultats indiquent que MARBERT surpasse les techniques existantes dans la littérature pour la détection du spam et l'analyse de sentiment multi-label en arabe.
Stratégie de Données : Le papier souligne l'efficacité de l'expansion de l'ensemble de données pour traiter le déséquilibre des classes plutôt que de compter uniquement sur des techniques de rééchantillonnage algorithmique, qui peuvent dégrader la performance du modèle.

Les auteurs concluent que bien que le modèle montre une précision prometteuse, particulièrement pour les sentiments standards, la détection des tweets sarcastiques et indéterminés reste un défi. Ils suggèrent que les travaux futurs pourraient explorer l'apprentissage profond hybride, les approches basées sur la fusion et l'apprentissage fédéré pour améliorer davantage les performances.