Résumé Technique : PolarMind à SemEval-2026 Task 9

Énoncé du Problème

L'article traite du défi critique de la détection de la polarisation en ligne dans des contextes multilingues et multiculturels, plus précisément dans le cadre de la SemEval-2026 Task 9. La tâche consiste à identifier les discours polarisés dans 22 langues, répartis en deux sous-tâches :

1. Sous-tâche 1 : Classification binaire (polarisé vs non-polarisé).
2. Sous-tâche 2 : Classification multi-classe des types de polarisation (Politique, Raciale, Genre, Ethnique, Autre).

Les auteurs soulignent que la polarisation dépend de la culture et de la langue ; une phrase peut être neutre dans une langue (ex. l'anglais) mais polarisée lorsqu'elle est traduite dans une autre (ex. l'ourdou). Une difficulté majeure réside dans la rareté des données d'entraînement pour les langues à faibles ressources, ce qui entraîne souvent des écarts de performance significatifs entre les langues à hautes ressources (ex. l'anglais) et les langues à faibles ressources dans les modèles de pointe.

Méthodologie

Les auteurs proposent PolarMind, un système centré sur une architecture LaBSE (Language-agnostic BERT Sentence Embedding) personnalisée, augmentée par un Apprentissage par Curriculum Guidé par Proxy (Proxy-Guided Curriculum Learning).

Architecture Centrale : LaBSE avec Pooling Hybride

Contra à des encodeurs multilingues standards (ex. mBERT, XLM-R), LaBSE est optimisé pour mapper des phrases translingues sémantiquement similaires dans le même espace vectoriel exact. Les auteurs émettent l'hypothèse que cet alignement strict permet au modèle de projeter les rares expressions polarisées des langues à faibles ressources dans des voisinages sémantiques robustes établis par les langues à hautes ressources.

L'architecture incorpore deux modifications clés :

1. Agrégation de Couches Pondérée : Au lieu d'utiliser uniquement la couche finale, le modèle agrège les quatre dernières couches ($L_{n-4}$ à $L_n$) en utilisant des paramètres apprenables ($w_1, w_2, w_3, w_4$). Les poids des couches antérieures sont initialisés pour être plus petits ($\sim 0,2w_1$) afin de donner la priorité aux caractéristiques sémantiques profondes.
2. Pooling Hybride : La représentation finale combine un Global Mean Pooling (capturant le contexte sémantique global) et un Additive Attention Pooling (mettant en évidence les tokens à fort impact).
   • Mean Pooling : Calcule la moyenne arithmétique des états cachés.
   • Attention Pooling : Utilise un mécanisme d'attention additive (Bahdanau et al., 2016) pour assigner des poids à des tokens spécifiques.
   • Fusion : L'embedding final est $e_{hybrid} = e_{mean} + \lambda e_{attn}$. Pour la Sous-tâche 2, des mécanismes d'attention indépendants sont maintenus pour chaque tête de classification afin d'éviter la confusion entre différents types de polarisation (ex. genre vs ethnicité).

Stratégie d'Entraînement : Apprentissage par Curriculum Guidé par Proxy

Pour traiter le déséquilibre des données et la variation de difficulté, les auteurs emploient une stratégie d'apprentissage par curriculum :

• Classement par Difficulté : Un modèle proxy (XLM-RoBERTa-base) classe le jeu de données selon un score de difficulté $R(x) = \alpha \cdot P(y|x) + \beta \cdot \frac{1}{len(x)}$, où $P(y|x)$ est la confiance du proxy et le terme d'inverse de longueur favorise les exemples courts à hautes ressources.
• Phases d'Entraînement : Les modèles sont entraînés par étapes : d'abord les échantillons faciles, suivis de faciles+moyens, moyens+difficiles, et enfin l'ensemble du jeu de données.

Étude d'Ablation et Modèles Alternatifs

L'article évalue l'architecture centrale LaBSE par rapport à plusieurs alternatives :

• RemBERT : Testé avec et sans pré-entraînement continu sur un corpus dérivé des données de la Sous-tâche 3 pour mettre à jour les connaissances du modèle sur les événements récents.
• EuroBERT : Un encodeur de pointe optimisé pour les langues européennes avec une coupure de connaissances plus récente.
• Qwen-2.5-14B (LLM) : Évalué via un cadre de prompting basé sur la recherche (retrieval).
  • Recherche (Retrieval) : LaBSE recherche les $k$ phrases les plus sémantiquement similaires dans les données d'entraînement.
  • Diversité : La Pertinence Maximale Marginale (MMR) garantit que les exemples récupérés sont à la fois pertinents par rapport à la requête et diversifiés entre eux.
  • Prompting : Le prompting few-shot (7 shots) a été testé avec du texte brut et du texte augmenté de phonèmes (utilisant la bibliothèque Epitran) pour analyser si l'information phonétique aide la performance des langues à faibles ressources.

Contributions Clés

1. Architecture basée sur LaBSE : Introduction d'un mécanisme d'agrégation de couches pondérées et de pooling hybride spécifiquement conçu pour la détection de la polarisation translingue, en tirant parti de l'alignement translingue strict de LaBSE.
2. Apprentissage par Curriculum Guidé par Proxy : Une stratégie pour atténuer le déséquilibre des données multilingues en entraînant sur des données triées par difficulté.
3. Évaluation Complète des Modèles : Une analyse comparative des modèles encodeurs (LaBSE, RemBERT, EuroBERT) et des modèles de langage (LLM) (Qwen-2.5) dans un cadre basé sur la recherche.
4. Analyse Empirique des Limites des LLM : Étude de l'efficacité du prompting basé sur les phonèmes et de l'apprentissage few-shot pour les tâches de polarisation en langues à faibles ressources.

Résultats

Le système a été évalué sur l'ensemble de développement et l'ensemble de test officiel à travers 22 langues.

• Sous-tâche 1 (Classification Binaire) :

  • L'architecture LaBSE proposée avec le pooling hybride a systématiquement surpassé le baseline officiel POLAR (LaBSE-base fine-tuné) d'une moyenne de 0,04 Macro F1 sur l'ensemble des 22 langues.
  • Dans les langues à faibles ressources, le système a obtenu des résultats compétitifs, décrochant des classements dans le top 10 pour cinq langues. Par exemple, en amharique (amh), le système a obtenu un score de 0,771, soit une amélioration de 5,6 % par rapport au baseline.
  • Le pré-entraînement continu sur RemBERT n'a apporté que des gains marginaux (+0,005 Macro F1), suggérant que la stratégie de pooling hybride offre un boost plus significatif que la simple montée en échelle du modèle.
  • Le modèle décodeur Qwen-2.5 n'a pas surpassé les modèles encodeurs, probablement en raison de décalages de tokenisation et d'un alignement translingue plus faible par rapport à LaBSE.

• Sous-tâche 2 (Détection de Type) :

  • Le modèle basé sur LaBSE a de nouveau surpassé RemBERT et EuroBERT.
  • Le calibrage du seuil spécifique à la langue a amélioré le Macro-F1 moyen sur l'ensemble de développement de 0,5216 à 0,5441 (+2,25 %), soulignant la sensibilité de la détection multi-label au choix du seuil.
  • Qwen-2.5 (7-shot) a performé au même niveau que le modèle encodeur, exploitant les connaissances préalables pour généraliser des motifs épars (ex. genre/ethnicité) là où l'encodeur peinait avec des échantillons limités.
  • Prompting Phonétique : L'ajout d'informations phonétiques (texte + IPA) n'a pas apporté d'améliorations significatives. Les auteurs supposent que pour cette tâche, les couches phonétiques offrent des informations redondantes, et que la transformation IPA peut involontairement filtrer des emojis ou des marqueurs spécifiques à l'écriture qui portent un poids polarisé important.

Signification et Revendications

L'article affirme que l'approche optimale pour la détection de la polarisation multiculturelle implique des systèmes spécialisés qui tiennent compte des nuances linguistiques et culturelles, plutôt que de s'appuyer uniquement sur des modèles à usage général.

La principale signification de ce travail réside dans la démonstration que LaBSE, typiquement réservé aux tâches de recherche, peut être efficacement détourné pour la classification dans des contextes de faibles ressources. En combinant l'alignement translingue strict de LaBSE avec le pooling hybride et l'apprentissage par curriculum, le système comble l'écart de performance entre les langues à hautes ressources et celles à faibles ressources, atteignant jusqu'à 0,2 de macro F1 d'amélioration dans certains scénarios de faibles ressources par rapport aux baselines standards.

Les auteurs concluent modestement que bien que les LLM montrent un potentiel via le few-shot learning, ils font actuellement face à des limites en matière d'alignement translingue et de tokenisation pour cette tâche spécifique, et que l'augmentation phonétique ne fournit pas d'avantage concluant pour la détection de la polarisation. Ce travail établit une base robuste pour les recherches futures en NLP multilingue et multiculturel.