Résumé technique : Une couche d'émotion inspirée des hormones pour les modèles de langage à base de transformateurs (HELT)

Énoncé du problème

Bien que les modèles de langage de grande taille (LLM) aient atteint un succès sans précédent en matière de correction grammaticale et de pertinence contextuelle, ils manquent fondamentalement de la capacité à traiter et à répondre au contexte émotionnel d'une manière analogue à la cognition émotionnelle humaine. Les approches actuelles de traitement du langage naturel (NLP) pour la modélisation des émotions sont limitées par plusieurs contraintes :

• Classification discrète : Traiter l'émotion comme des catégories statiques et mutuellement exclusives (par exemple, heureux, triste) échoue à capturer la nature continue, mélangée et fluide de l'affect humain.
• Réduction dimensionnelle : Les modèles reposant sur un sentiment binaire ou des espaces bidimensionnels d'éveil-valence sont insuffisants pour représenter le spectre complexe et multidimensionnel des états émotionnels humains.
• Tokenisation statique : Les méthodes qui préfixent des étiquettes d'émotion explicites (par exemple, "[triste]") manquent de dynamisme temporel et de représentations apprises et contextuelles, échouant à modéliser comment les états émotionnels évoluent ou interagissent au fil du temps.

Par conséquent, les réponses standard basées sur les transformateurs restent souvent émotionnellement plates, échouant à refléter l'enthousiasme, à désamorcer les conflits ou à étendre une empathie authentique.

Méthodologie : Architecture HormoneT5

L'article présente HormoneT5, une architecture novatrice qui enrichit le transformateur de transfert texte-à-texte pré-entraîné (T5) avec un Bloc d'émotion hormonale inspiré biologiquement. Ce bloc simule le rôle du système endocrinien humain dans le traitement émotionnel en calculant six valeurs continues, de type hormonal, dérivées des états cachés de l'encodeur.

Composants principaux

1. Bloc d'émotion hormonale : Inséré entre l'encodeur et le décodeur T5, ce bloc agit comme un système endocrinien computationnel. Il lit les caractéristiques linguistiques, prédit les niveaux d'activation pour six hormones spécifiques et module les représentations cachées avant le décodage.
2. Têtes d'attention par hormone : Le modèle utilise six têtes d'attention parallèles et spécialisées (une pour chaque hormone : Dopamine, Sérotonine, Cortisol, Ocytocine, Adrénaline et Endorphines).
   • Initialisation orthogonale : Les vecteurs de requête apprenables pour chaque tête sont initialisés de manière orthogonale pour garantir qu'ils couvrent différents sous-espaces, empêchant l'effondrement de l'attention.
   • Apprentissage par transfert : Les projections de clés et de valeurs sont initialisées à partir des poids d'auto-attention pré-entraînés du T5 pour exploiter les connaissances linguistiques existantes et assurer la stabilité de l'entraînement.
   • Mise à l'échelle de la température : Un facteur de température ($\tau = 0,5$) est appliqué pour créer des distributions d'attention plus nettes, permettant aux hormones de se concentrer sur des tokens spécifiques.
3. Mécanisme de modulation : Les six valeurs scalaires hormonales sont projetées dans un embedding émotionnel unifié ($e$) et appliquées aux états cachés de l'encodeur ($H$) via un mécanisme de porte multiplicative :
   $$\tilde{H} = H \odot (1 + \alpha \cdot e_{expanded})$$
   Ici, $\alpha$ est un scalaire apprenable borné entre 0,1 et 0,5, assurant une modulation stable et bornée sans dominer les représentations linguistiques originales.

Cadre d'entraînement

Le modèle utilise un cadre d'entraînement multi-objectif avec une fonction de perte composite :

• Perte de séquence ($L_{seq}$) : Entropie croisée standard pour la génération de texte.
• Perte hormonale ($L_{hormone}$) : Une combinaison de l'erreur quadratique moyenne (MSE) et d'une Perte de marge. La perte de marge pénalise les prédictions qui ne parviennent pas à atteindre des valeurs extrêmes (par exemple, <0,3 pour les états faibles, >0,7 pour les états élevés), encourageant une différenciation claire entre les tons émotionnels.
• Perte de diversité ($L_{diversity}$) : Pénalise la similarité cosinus entre les vecteurs de requête de différentes têtes hormonales pour assurer une distinction fonctionnelle.

Contributions clés

1. Architecture novatrice : Introduction d'un Bloc d'émotion hormonale qui calcule des signaux hormonaux continus via des mécanismes d'attention spécialisés, dépassant la classification discrète.
2. Stratégie d'apprentissage par transfert : Démonstration que l'initialisation des projections de clés/valeurs des têtes d'attention hormonales à partir des poids pré-entraînés du T5 améliore considérablement la précision des prédictions et la stabilité.
3. Optimisation multi-objectif : Une fonction de perte combinée qui équilibre la qualité de génération, la prédiction hormonale précise avec des pénalités de marge, et la diversité de l'attention.
4. Évaluation complète : Évaluations automatisées et humaines extensives montrant des améliorations significatives dans l'adéquation émotionnelle et la qualité empathique.
5. Publication open-source : Publication complète du code, des scripts d'entraînement, du jeu de données et des poids pré-entraînés pour garantir la reproductibilité.

Résultats expérimentaux

Le modèle a été entraîné sur un jeu de données curaté de 1 200 exemples (étendu à partir de 150 dialogues uniques) couvrant cinq tons émotionnels (Amical, Neutre, Grossier, Triste, Excité).

• Précision de prédiction hormonale : HormoneT5 a atteint une précision moyenne de 85,5 % (prédictions à $\pm 0,15$ de la cible) pour les six hormones. La prédiction du Cortisol était la plus élevée à 91,3 %, tandis que celle de l'Ocytocine était la plus faible à 78,4 %.
• Différenciation : Le modèle a atteint une plage de différenciation moyenne de 0,85, confirmant qu'il ne produit pas de moyennes plates mais module dynamiquement les états internes. Par exemple, les entrées "Amicales" ont déclenché une forte Dopamine (0,92) et un faible Cortisol (0,08), tandis que les entrées "Grossières" ont inversé ce profil.
• Évaluation humaine : Dans une étude en aveugle par paires avec 15 évaluateurs, HormoneT5 a été préféré au T5 de base dans 77 % des cas.
  • Adéquation émotionnelle : 4,12/5 (contre 2,73 pour la base, $p < 0,001$).
  • Qualité de l'empathie : 3,98/5 (contre 2,45 pour la base, $p < 0,001$).
  • Fluence : Est restée statistiquement identique à la base (4,18 contre 4,21), indiquant que la modulation émotionnelle n'a pas dégradé la qualité linguistique.

Importance et revendications

L'article revendique qu'HormoneT5 représente une étape significative vers un calcul affectif ancré biologiquement. En modélisant l'émotion comme une interaction continue et multidimensionnelle de neurochimiques plutôt que comme des catégories discrètes, l'architecture comble avec succès le fossé entre la compréhension sémantique et la résonance émotionnelle.

Les auteurs affirment que les têtes d'attention du modèle s'alignent naturellement sur les fonctions biologiques sans programmation explicite (par exemple, les têtes de Cortisol s'attardant sur les marqueurs de menace, celles de l'Ocytocine sur les pronoms sociaux). Cela suggère que les vecteurs hormonaux continus fournissent un biais inductif efficace pour capturer l'intensité et la nuance des états émotionnels.

Ce travail ouvre de nouvelles directions pour créer des agents conversationnels émotionnellement intelligents capables de générer des réponses contextuellement appropriées. Cependant, les auteurs maintiennent une attitude modeste concernant les limitations actuelles, reconnaissant que le modèle repose sur un petit jeu de données uniquement en anglais avec des mappings hormonaux synthétiques, manque de dynamisme temporel pour les conversations longues, et n'intègre pas encore d'indices multimodaux. Ils soulignent que les "hormones" sont des abstractions computationnelles, et non des états conscients, et appellent à des garde-fous éthiques rigoureux contre la manipulation et l'amplification de la toxicité dans les déploiements futurs.