AILS-NTUA at SemEval-2026 Task 3: Efficient Dimensional Aspect-Based Sentiment Analysis

Ce papier présente le système AILS-NTUA pour la tâche 3 de SemEval-2026, qui combine un fine-tuning de modèles encodeurs et un réglage par instructions de grands modèles de langage via LoRA pour réaliser une analyse de sentiment basée sur les aspects multidimensionnelle multilingue avec une efficacité paramétrique et des performances compétitives.

L'essentiel

🌍 Le Contexte : Une enquête sentimentale mondiale

Imaginez que vous êtes un détective chargé d'analyser des milliers de critiques de clients dans le monde entier (restaurants, ordinateurs, hôtels, banques). Votre mission ? Ne pas se contenter de dire "c'est bien" ou "c'est mal". Vous devez être un chirurgien des émotions.

Le défi de cette année (SemEval-2026) est double :

1. La précision : Savoir exactement de quoi on parle (le "plat", le "service", la "batterie").
2. La nuance : Mesurer l'intensité de l'émotion. Ce n'est pas juste "positif", c'est "très positif et très énergique" ou "légèrement négatif et calme".

L'équipe AILS-NTUA (des chercheurs grecs) a construit un système pour relever ce défi dans six langues différentes (anglais, chinois, russe, etc.) et plusieurs domaines.

---

🛠️ La Boîte à Outils : Deux approches pour deux types de problèmes

Pour résoudre ce casse-tête, ils ont utilisé deux stratégies différentes, comme un artisan qui choisirait un marteau ou un scalpel selon la tâche.

1. Le Scalpel de Précision (Pour les scores d'émotion)

Le problème : On vous donne une phrase et un mot (ex: "la batterie"), et vous devez donner un score précis de "joie" (Valence) et d'"énergie" (Arousal). C'est comme essayer de deviner la température exacte d'une soupe sans thermomètre, juste au goût.

La solution de l'équipe : Ils ont pris des petits cerveaux spécialisés (des modèles d'intelligence artificielle de taille moyenne, comme DeBERTa ou RoBERTa).

• L'analogie : Imaginez un chef cuisinier qui a passé sa vie à cuisiner uniquement des plats japonais. Il ne connaît pas la cuisine mexicaine, mais pour le sushi, il est un génie.
• Comment ça marche : Ils ont entraîné un "chef" différent pour chaque langue et chaque domaine. Pour le russe, un chef russe ; pour les restaurants, un chef restaurant. Ces modèles sont légers, rapides et très précis pour donner ce score numérique (entre 1 et 9).

2. Le Chef d'Orchestre (Pour extraire les structures complexes)

Le problème : Cette fois, on ne veut pas juste un score. On veut extraire toute l'histoire : Qui est critiqué ? Quelle catégorie ? Quel mot exprime l'opinion ? Et quel est le score ? C'est comme devoir résumer une pièce de théâtre en une seule phrase structurée.

La solution de l'équipe : Ils ont utilisé des Géants de l'IA (des modèles comme Llama ou Qwen), mais avec une astuce de génie.

• L'analogie : Imaginez un chef étoilé de 14B de paramètres (très grand, très intelligent). Au lieu de le faire réapprendre tout ce qu'il sait (ce qui prendrait des années et coûterait une fortune), ils lui ont donné un petit carnet de notes magique (la technique LoRA).
• Comment ça marche : Ce carnet contient juste les règles spécifiques pour ce jeu de détection. Le géant lit la critique, consulte son carnet, et écrit la réponse sous forme de liste JSON (un format informatique très propre).
• Le résultat : Ils ont obtenu des résultats aussi bons que des modèles beaucoup plus gros, mais en utilisant beaucoup moins de ressources (comme conduire une voiture de sport avec un réservoir de gazoline réduit).

---

🌐 Les Défis Rencontrés (Et comment ils les ont surmontés)

1. Le problème de la "Traduction"

Ils ont pensé : "Et si on traduisait tout en anglais, on entraînait un seul modèle, puis on re-traduisait les réponses ?"

• L'expérience : C'était comme essayer de comprendre une blague en la traduisant mot à mot. Les nuances se perdaient, les expressions idiomatiques disparaissaient.
• Leçon : La traduction ajoute du "bruit". Il vaut mieux avoir un expert natif pour chaque langue plutôt qu'un traducteur généraliste.

2. Le piège des "Rien" (NULL)

Dans certaines critiques, on dit "C'était nul" sans préciser quoi était nul.

• Le défi : L'IA a tendance à être paresseuse et à répondre "Rien" (NULL) pour tout, car c'est facile.
• La solution : Ils ont écrit des instructions très strictes dans le "carnet de notes" du géant : "Ne réponds 'Rien' que si tu es absolument certain qu'il n'y a rien à dire. Sinon, cherche bien !".

3. Les langues rares

Pour des langues comme le Tatar ou l'Ukrainien, il y a peu de données.

• L'astuce : Ils ont dû utiliser des modèles un peu plus gros (14 milliards de paramètres) pour compenser le manque de données, un peu comme utiliser un filet plus large pour pêcher quand il y a peu de poissons.

---

🏆 Le Verdict Final

L'équipe AILS-NTUA a prouvé qu'on n'a pas besoin de construire des usines entières (des modèles géants) pour faire du bon travail.

• Leur philosophie : "La bonne taille, au bon endroit".
  • Des petits experts pour les tâches de précision (les scores).
  • Des géants bien guidés pour les tâches de structure (l'extraction).
• Le résultat : Leur système a battu les bases de référence (les modèles standards) dans la plupart des cas, tout en étant beaucoup plus économe en énergie et en temps de calcul.

En résumé : Ils ont transformé un problème complexe de compréhension des émotions humaines en une série de tâches gérées par des spécialistes efficaces, prouvant que l'intelligence artificielle peut être à la fois puissante et élégante, sans être démesurée.

Résumé technique

1. Problématique et Contexte

L'article présente la participation du laboratoire AILS-NTUA à la tâche 3 de SemEval-2026, intitulée DimABSA (Dimensional Aspect-Based Sentiment Analysis). Contrairement à l'analyse de sentiments traditionnelle qui se limite à une polarité catégorielle (positif/négatif/neutre), DimABSA vise à extraire des structures d'opinion riches dans un cadre multilingue et multi-domaine, en utilisant des scores continus de Valence-Arousal (VA).

La tâche se décompose en trois sous-tâches (Track A) :

1. DimASR (Régression) : Prédire les scores de valence (positivité/négativité) et d'arousal (intensité/activation) pour des aspects donnés dans un texte.
2. DimASTE (Extraction de triplets) : Extraire les triplets (Aspect, Opinion, VA).
3. DimASQP (Prédiction de quadruplets) : Extraire les quadruplets (Aspect, Catégorie, Opinion, VA).

Le défi réside dans la diversité linguistique (6 langues : Anglais, Chinois, Japonais, Russe, Tatar, Ukrainien) et la complexité des domaines (Restaurants, Ordinateurs portables, Hôtels, Finance), incluant des cas où les cibles sont implicites (annotations NULL).

2. Méthodologie

L'équipe propose une architecture unifiée mais adaptative, combinant des encodeurs légers pour la régression et des grands modèles de langage (LLM) pour l'extraction structurée, le tout optimisé par des techniques de fine-tuning paramétrique efficace.

A. Pour la Régression (DimASR)

• Approche : Fine-tuning d'encodeurs transformateurs pré-entraînés adaptés à chaque langue.
• Architecture : Les modèles concatènent l'aspect et la phrase d'entrée, puis utilisent des têtes de régression scalaires pour prédire la valence et l'arousal.
• Fonction de perte : Une combinaison pondérée de l'erreur quadratique moyenne (MSE) et du coefficient de corrélation de concordance (CCC), enrichie par un régularisateur de triplet guidé par les scores VA pour améliorer la structure de l'espace latent.
• Modèles : Utilisation de DeBERTa (Anglais/Japonais), RoBERTa (Chinois), BERT (Russe) et XLM-R (Ukrainien/Tatar).

B. Pour l'Extraction Structurée (DimASTE et DimASQP)

• Approche : Génération de texte contrainte via des LLMs instructs, traitant l'extraction comme une tâche de génération de JSON.
• Architecture : Utilisation de modèles Llama 3.1 et Qwen 2.5 (taille ≤ 14B) avec une adaptation LoRA (Low-Rank Adaptation). Cela permet un fine-tuning efficace par paire langue/domaine sans modifier l'ensemble des paramètres du modèle.
• Prompting : Des instructions spécifiques sont conçues dans la langue cible pour :
  • Forcer le format de sortie JSON strict.
  • Gérer les cas "NULL" (aspects implicites) pour éviter que le modèle ne prédise systématiquement NULL.
  • Inclure ou exclure la catégorie selon la sous-tâche (AST vs ASQP).
• Post-traitement : Les scores VA générés sont contraints dans la plage [1.00, 9.00] et formatés avec deux décimales.

3. Contributions Clés

1. Cadre de régression multilingue efficace : Un système de régression paramétrique efficace qui surpasse les baselines fournies sur la plupart des configurations langue/domaine pour la tâche DimASR.
2. Pipeline unifié LoRA pour l'extraction : Une méthode d'instruction-tuning basée sur LoRA pour les tâches DimASTE et DimASQP, démontrant que des modèles de taille modeste (≤14B) peuvent atteindre des performances compétitives, voire supérieures, par rapport à des LLMs beaucoup plus grands (70B+) entièrement fine-tunés.
3. Étude empirique du transfert par traduction : Une analyse des compromis entre l'adaptation multilingue directe et l'utilisation de la traduction pour l'entraînement. Les résultats montrent que la traduction introduit souvent du bruit (décalage d'idiomes, perte de nuances) qui dégrade les performances, surtout pour les langues à faibles ressources.

4. Résultats Expérimentaux

Les expériences ont été menées sur un seul GPU NVIDIA A100.

• DimASR : Les modèles basés sur des encodeurs légers ont surpassé les baselines (Kimi K2 Thinking, Qwen 3) sur la plupart des domaines anglais et chinois, ainsi que sur le domaine Finance japonais. Les performances ont légèrement baissé sur les langues à faibles ressources (Tatar) en raison de la taille réduite des ensembles de données et d'un pré-entraînement linguistique moins robuste.
• DimASTE et DimASQP :
  • Les modèles ≤14B (Llama 3.1 8B, Qwen 2.5 7B/14B) ont obtenu des scores cF1 (Continuous F1) compétitifs, surpassant souvent les modèles beaucoup plus grands (comme Llama 3.3 70B ou GPT-OSS 120B) mentionnés dans le papier de référence.
  • Le fine-tuning a nettement surpassé les approches "Zero-shot" et "Few-shot".
  • Des écarts de performance significatifs ont été observés entre les ensembles de développement et de test, attribués à des variations dans la longueur des avis et la densité des structures (nombre de quadruplets par avis), particulièrement dans les domaines "Restaurant" et "Laptop".
  • L'ajout de la catégorie (ASQP) a accru la difficulté, réduisant les scores cF1 par rapport à l'extraction de triplets (ASTE).

5. Signification et Limites

Signification :
Ce travail démontre qu'il n'est pas nécessaire d'utiliser des modèles massifs pour obtenir des performances de pointe en analyse de sentiments dimensionnelle. Une approche "efficiente" combinant des encodeurs spécialisés et des LLMs adaptés via LoRA offre un excellent compromis entre coût computationnel et efficacité, tout en maintenant une forte robustesse multilingue.

Limites :

• Spécialisation par langue/domaine : L'approche nécessite un modèle (ou un adaptateur LoRA) distinct pour chaque combinaison, ce qui augmente la charge de gestion des checkpoints et n'exploite pas pleinement le transfert inter-langues.
• Critère d'évaluation strict : L'évaluation exact-match pour les éléments catégoriels pénalise sévèrement les paraphrases ou les erreurs de formatage mineures, même si le sens est correct.
• Stabilité en faible ressource : Les performances sont moins stables pour les langues comme le Tatar, où les petits ensembles de données amplifient les variations statistiques.
• Contraintes de calcul : Les expériences ont été limitées par une seule carte graphique, empêchant des recherches d'hyperparamètres plus approfondies ou l'exploration de backbones plus larges.

En conclusion, l'équipe AILS-NTUA propose une méthodologie robuste et économe en ressources qui établit un nouvel état de l'art pour les tâches de sentiment dimensionnel, prouvant l'efficacité des modèles de taille moyenne bien adaptés.