QuadAI at SemEval-2026 Task 3: Ensemble Learning of Hybrid RoBERTa and LLMs for Dimensional Aspect-Based Sentiment Analysis

Ce papier présente le système QuadAI pour la tâche 3 de SemEval-2026, qui combine un encodeur hybride RoBERTa et des modèles de langage (LLM) via un apprentissage d'ensemble pour améliorer la précision de l'analyse de sentiment basée sur les aspects multidimensionnels.

L'essentiel

Voici une explication simple et imagée de ce papier de recherche, comme si on en discutait autour d'un café.

🌟 Le Projet : QuadAI et la "Sentinelle des Émotions"

Imaginez que vous êtes un critique de restaurant ou un analyste de films. Votre travail consiste non seulement à dire si quelque chose est "bon" ou "mauvais", mais à mesurer à quel point c'est bon ou mauvais, et avec quelle intensité l'émotion est ressentie.

C'est ce qu'on appelle l'analyse de sentiment "dimensionnelle". Le papier décrit comment une équipe (QuadAI) a créé un système pour faire cela mieux que n'importe qui d'autre lors d'un grand concours international (SemEval-2026).

Voici comment ils ont fait, en utilisant trois ingrédients magiques :

---

1. Le Cerveau Hybride : Le "Chef Cuisinier" (RoBERTa)

Imaginez un chef cuisinier très expérimenté (le modèle RoBERTa) qui doit évaluer un plat.

• Le problème : Si on lui demande juste de donner une note précise (ex: 7,42 sur 10), il peut parfois hésiter ou se tromper de peu.
• La solution de l'équipe : Ils ont donné au chef deux chapeaux à porter en même temps :
  1. Le chapeau du Mathématicien : Il essaie de donner une note précise et continue (comme 7,42).
  2. Le chapeau du Catégoriseur : Il divise la note en "tranches" (comme 7, 8, 9) pour être plus sûr de sa zone de confiance.

Ensuite, ils prennent la moyenne des deux avis du chef. C'est comme si le chef disait : "Je pense que c'est un 7,42, mais si je dois le classer, c'est clairement dans la tranche 7-8". En combinant les deux, le résultat final est beaucoup plus stable et fiable. C'est ce qu'ils appellent le modèle Hybride.

2. Les Experts Intuitifs : Les "Gourmets Géants" (LLM)

Ensuite, l'équipe a fait appel à des Grands Intelligences Artificielles (les LLMs, comme des super-chefs qui ont lu tous les livres du monde).

• Au lieu de les entraîner avec des milliers d'exemples (ce qui prend du temps), ils ont utilisé une technique appelée "Apprentissage par l'exemple" (In-Context Learning).
• L'analogie : Imaginez que vous demandez à un expert : "Voici 50 exemples de plats qui font rire les gens, et 50 qui les font pleurer. Maintenant, dis-moi ce que tu penses de ce nouveau plat."
• L'équipe a même créé un "Comité de 3 juges" (trois IA différentes) pour nettoyer les données. Si les trois juges sont d'accord pour dire qu'un exemple est bizarre ou faux, ils le jettent à la poubelle avant de commencer.

3. Le Chef d'Orchestre : La "Fusion" (Ensemble Learning)

C'est ici que la magie opère vraiment. Au lieu de choisir entre le "Chef Cuisinier" (RoBERTa) et les "Gourmets Géants" (LLM), l'équipe a créé un Chef d'Orchestre.

• Le problème : Parfois, le Chef Cuisinier a raison sur la structure, mais le Gourmets Géant a une meilleure intuition sur le contexte.
• La solution : Le Chef d'Orchestre écoute les deux. Il prend la prédiction du Chef Cuisinier et celle du Gourmets Géant, et il les mélange intelligemment (comme un mélangeur de cocktails).
• Le résultat : Le cocktail final est bien meilleur que n'importe quel ingrédient pris séparément. Les erreurs de l'un sont corrigées par les forces de l'autre.

---

🏆 Les Résultats : Qui a gagné ?

Sur les données d'entraînement (le "cours pratique" avant le vrai examen), leur système a été un véritable succès :

• Moins d'erreurs : Leur système s'est trompé beaucoup moins que les autres méthodes.
• Meilleure corrélation : Il a mieux compris la "vibe" émotionnelle des textes.

Cependant, il y a eu un petit imprévu (un "accident de voiture" dans le métaphorique) : à cause de problèmes de temps et de logistique, l'équipe n'a pas pu soumettre la version finale avec tous les super-pouvoirs (les LLMs et le mélange) pour l'examen officiel. Ils n'ont soumis que le "Chef Cuisinier" seul.

Même sans ses super-pouvoirs complets, le système s'est très bien classé !

• Sur les données de "Laptops", ils étaient dans le top 16 sur 30 équipes.
• Sur les données de "Restaurants", ils étaient dans le top 22 sur 33.
• Et ce, avec un système beaucoup moins cher et plus rapide à faire tourner que les géants de l'IA.

🚀 Conclusion : Et après ?

L'équipe dit : "C'était juste le début !".
Ils ont prouvé que mélanger un modèle rapide et précis (le Chef Cuisinier) avec un modèle intuitif et puissant (le Gourmets Géant) est la clé pour comprendre les émotions humaines.

Leur plan pour le futur ?

1. Tester ce système sur d'autres langues (comme le chinois).
2. Soumettre la version complète avec tous les super-pouvoirs pour voir si ça peut battre les champions du monde.
3. Partager tout leur code gratuitement pour que tout le monde puisse apprendre et améliorer la chose.

En résumé : Ils ont créé une équipe de rêve où chaque membre apporte sa force, et même en jouant à demi-mesure, ils ont déjà fait une excellente performance !

Résumé technique

Voici un résumé technique détaillé du papier de recherche « QuadAI at SemEval-2026 Task 3 », rédigé en français.

Titre : QuadAI à SemEval-2026 Task 3 : Apprentissage par ensemencement (Ensemble Learning) d'un RoBERTa hybride et de LLM pour l'Analyse de Sentiment Basée sur les Aspects Dimensionnelle

1. Problématique

Le papier aborde la tâche 3 de SemEval-2026, spécifiquement la piste A1 (« DimASR »), qui vise la régression de sentiment basé sur les aspects dimensionnelle. Contrairement à la classification binaire traditionnelle (positif/négatif), cette tâche demande de prédire des scores continus selon deux dimensions psychologiques :

• Valence (Valence) : Le degré de positivité ou de négativité.
• Arousal : L'intensité émotionnelle (de faible à élevée).

Les défis majeurs incluent la rareté des données, la complexité de la modélisation des relations entre les aspects et les opinions, et la difficulté de capturer des nuances émotionnelles fines avec des modèles standards.

2. Méthodologie

L'équipe QuadAI propose une approche hybride combinant des encodeurs de modèles de langage pré-entraînés (PLM) et des Grands Modèles de Langage (LLM) via un apprentissage par ensemencement (ensemble learning).

A. Encodeur Hybride RoBERTa
Le cœur de l'approche repose sur un modèle RoBERTa modifié avec deux têtes de prédiction parallèles :

1. Tête de Régression : Prédit directement la valeur continue du sentiment.
2. Tête de Classification Discretisée : Divise l'espace de sortie continu en $n$ intervalles (bins) et utilise une perte d'entropie croisée pour prédire la probabilité de chaque bin. La valeur attendue est ensuite calculée à partir de ces probabilités.

• Fusion : La prédiction finale est la moyenne pondérée des sorties de la régression et de la classification ($\hat{y} = w\hat{y}_{reg} + (1-w)\hat{y}_{cls}$).
• Avantage : La classification discretisée offre une stabilité d'entraînement supérieure et une meilleure expression de la confiance que la régression pure.

B. Utilisation des LLMs (In-Context Learning)
Les auteurs explorent l'utilisation de LLMs (Gemini, Claude, GPT-5.2) via l'apprentissage en contexte (In-Context Learning - ICL) :

• Sélection des exemples : Utilisation de la similarité sémantique (embeddings de phrases) pour sélectionner des exemples pertinents dans le jeu de données d'entraînement.
• Nettoyage des données (Data Cleaning) : Un processus en trois étapes utilisant trois LLMs différents et le clustering HDB-Scan pour identifier et supprimer les exemples aberrants (outliers) ou mal étiquetés avant de les utiliser pour le prompting.

C. Apprentissage par Ensemencement (Ensemble Learning)
Pour combiner les forces des deux approches, une fusion au niveau de la prédiction (late fusion) est mise en œuvre :

• Méthodes : Moyenne simple, moyenne pondérée (optimisée par recherche de grille), et Stacking par régression Ridge.
• Fonctionnalités supplémentaires : Des caractéristiques lexicales issues de VADER (scores de polarité composés, positifs, négatifs, neutres) sont ajoutées comme entrées auxiliaires au combinateur, bien que leur impact se soit révélé négligeable ou négatif dans les tests.
• Objectif : Réduire la variance et améliorer la robustesse en exploitant la complémentarité des modèles basés sur des encodeurs (RoBERTa) et des modèles génératifs (LLM).

3. Résultats Clés

Les expériences ont été menées sur les jeux de données de développement (Dev) des pistes « Laptop » et « Restaurant » (Track A1) ainsi que sur la piste « Environmental Protection » (Track B).

• Performance du modèle Hybride RoBERTa :
  • Sur le jeu de données Laptop, le modèle hybride a surpassé les modèles de régression pure et de classification par bins individuels, réduisant l'erreur quadratique moyenne (MSE) et l'erreur quadratique moyenne racine (RMSE).
  • Sur le jeu de données Restaurant, l'amélioration a été encore plus marquée, avec une réduction de près de 50 % du score MSE par rapport à la régression seule (0.4919 vs 0.8176).
• Performance des LLMs :
  • Les LLMs seuls (avec ICL) ont obtenu un RMSE de 0.695 sur le jeu de données Laptop, surpassant le meilleur modèle hybride RoBERTa (0.7361).
• Performance de l'Ensemble :
  • La combinaison des modèles via l'ensemencement a produit les meilleurs résultats globaux.
  • Le RMSE moyen est descendu à 0.6344 (contre 0.7361 pour RoBERTa seul et 0.695 pour le LLM seul).
  • Les scores de corrélation de Pearson moyens ont également augmenté, passant de 0.7231 (RoBERTa) à 0.7773 pour l'ensemble pondéré.
  • L'ajout des caractéristiques VADER n'a pas amélioré les performances, suggérant une redondance ou du bruit.

4. Contributions et Signification

• Approche Hybride Innovante : La démonstration que la combinaison d'une régression continue et d'une classification discretisée au sein d'un même encodeur améliore la stabilité et la précision de la prédiction de sentiment dimensionnel.
• Synergie Encodeur-LLM : Le papier valide l'hypothèse que les approches basées sur des encodeurs (efficaces et stables) et les LLMs (riches en contexte et flexibles) sont complémentaires. Leur combinaison par ensemencement dépasse significativement les performances de chaque modèle individuel.
• Optimisation des LLMs : Une méthodologie rigoureuse pour le nettoyage des données d'entraînement et la sélection d'exemples pour l'ICL, utilisant un consensus entre plusieurs LLMs pour filtrer les outliers.
• Ressources Open Science : Le code et les ressources seront partagés publiquement, favorisant la reproductibilité.

5. Limitations et Travail Futur

• Limitations : En raison de contraintes de temps, les modèles complets (LLM + Ensemble) n'ont pas été soumis sur le jeu de données de test final, mais uniquement sur le jeu de développement. Les soumissions officielles n'ont utilisé que le modèle RoBERTa hybride.
• Futur : Les auteurs prévoient d'évaluer le système sur les jeux de test réels, d'explorer d'autres méthodes d'ensemencement (comme le stacking de Romero et al.), d'automatiser le réglage des hyperparamètres (via Optuna) et de tester la généralisation du modèle sur d'autres langues (ex: chinois).

En conclusion, cette étude démontre que l'hybridation de techniques de régression/classification et l'agrégation intelligente des prédictions de modèles de différentes architectures constituent une voie prometteuse pour résoudre les tâches complexes d'analyse de sentiment dimensionnelle.