💬 NLP

Lacuna Inc. at SemEval-2026 Task 4: Structurally Gated State-Space Models for Disentangling Narrative Similarity

Cet article introduit l'Invariant-Variant Disentangled State-Space Model (IVD-SSM), qui combine une architecture hybride de type State-Space avec une nouvelle tête d'alignement à porte structurelle (Structurally Gated Alignment) afin de désentrelacer efficacement les structures narratives abstraites des détails lexicaux superficiels pour une meilleure évaluation de la similitude des histoires lors de la tâche 4 de SemEval-2026.

Auteurs originaux : Aleksey Kudelya, Rafif Alshawi, Alexander Shirnin

Publié 2026-07-07

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Aleksey Kudelya, Rafif Alshawi, Alexander Shirnin

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le gros problème : « Mots identiques, histoires différentes »

Imaginez que vous essayiez de décider si deux histoires ont fondamentalement le même scénario, mais racontées avec des personnages différents.

Histoire A : Un enfant harcelé utilise un « virus zombie » pour se venger et devenir populaire.
Histoire B : Un scientifique libère accidentellement un « virus zombie » dans un laboratoire, et tout le monde court en criant.

Un programme informatique standard regarderait ces deux textes et dirait : « Ils sont identiques à 90 % ! » parce qu'ils contiennent tous deux le mot « zombie ». Mais un humain sait qu'il s'agit d'histoires totalement différentes. L'une traite de vengeance et d'ascension sociale ; l'autre est un récit d'horreur et de catastrophe de survie.

Le défi auquel les auteurs ont été confrontés (SemEval-2026 Task 4) était de construire un ordinateur capable d'ignorer le mot-clé « zombie » pour se concenter à la place sur la chaîne de cause à effet : Qui a fait quoi, et pourquoi ?

La solution : L'approche « Squelette vs Peau »

L'équipe de l'Université HSE a construit un système appelé IVD-SSM. Voyez ce système comme un détective qui sépare une histoire en deux couches :

Le Squelette (Invariant) : La structure centrale. La séquence des événements (ex : « Exclu » → « Prend une mesure radicale » → « Le statut change »). Cela ne change jamais, même si les noms changent.
La Peau (Variant) : Les détails superficiels. Les noms, les objets spécifiques, les décors et les clichés de genre (comme les « zombies », les « vaisseaux spatiaux » ou les « châteaux »).

Leur objectif était de forcer l'ordinateur à se concentrer entièrement sur le Squelette et à ignorer la Peau.

Comment ça marche : La « Vue d'ensemble » et le « Microscope »

Le système utilise un type spécial de moteur d'IA (basé sur un modèle appelé Jamba) qui est excellent pour lire de longs textes sans se fatiguer ou oublier le début. Mais la véritable magie opère grâce à une nouvelle partie qu'ils ont inventée : la Tête d'Alignement à Porte Structurelle (SGA Head).

Imaginez que la tête SGA possède deux paires d'yeux travaillant ensemble :

L'Œil « Macro » (L'objectif grand angle) :
- Cet œil regarde l'histoire de loin. Il survole les détails et ne voit que les étapes majeures : Début, Conflit, Climax, Résolution.
- Il crée une carte rudimentaire de la forme de l'histoire. Il ne se soucie pas de savoir si le héros s'appelle « John » ou « Jane », ou si l'arme est un « pistolet » ou un « laser ». Il voit simplement la forme de l'intrigue.
L'Œil « Micro » (Le microscope) :
- Cet œil zoome sur chaque mot. Il remarque que les deux histoires mentionnent des « zombies ».
- Le Danger : Si l'ordinateur n'utilisait que cet œil, il serait piégé par le mot « zombie » et penserait que les histoires sont similaires.
Le « Gardien » (Le mécanisme de porte/gating) :
- C'est la partie la plus importante. L'Œil Macro agit comme un videur ou un gardien.
- Il regarde d'abord la carte rudimentaire. Si l'Œil Macro dit : « Hé, la forme de ces deux histoires est totalement différente », il referme violemment la porte sur l'Œil Micro.
- Même si l'Œil Micro hurle : « Mais ils ont tous les deux des zombies ! », le Gardien répond : « Je m'en fiche. La structure de l'intrigue ne correspond pas, donc ignore le mot 'zombie' ».
- Le Gardien ne laisse passer les détails de l'Œil Micro que si les structures globales de l'histoire concordent réellement.

Ce qu'ils ont découvert

L'équipe a testé ce système contre d'autres modèles d'IA standards et même contre une IA très intelligente et pré-entraînée (GPT-4o-mini).

Modèles Standards : Ont été trompés par les mots « zombie » et n'ont pas réussi à voir la différence entre les intrigues.
Leur Système (IVD-SSM) : A réussi à ignorer les mots distrayants et a correctement identifié que l'histoire de la « vengeance » et l'histoire de la « survie » étaient différentes, tout en choisissant l'histoire qui partageait réellement la même structure « un exclu prend des mesures ».
Le Résultat : Leur système était meilleur qu'un choix aléatoire et meilleur qu'une simple comparaison de mots, prouvant qu'on peut apprendre à un ordinateur à voir au-delà des détails superficiels pour trouver la véritable structure d'un récit.

Le revers de la médaille (Limites)

Les auteurs admettent honnêtement que leur système n'est pas encore parfait :

La porte n'est pas un mur : La porte est « souple ». Si l'histoire erronée possède trop de mots spécifiques correspondants (comme un nom très précis ou un objet rare), un peu de ce « bruit » peut encore s'infiltrer par la porte et confondre le système.
Problèmes de mémoire : Bien que le moteur principal soit efficace, l'étape finale consistant à comparer chaque mot à chaque mot (pour vérifier les détails) est encore lourde en mémoire informatique. Cela fonctionne bien pour des résumés courts, mais pourrait avoir du mal avec des romans complets.
Données d'entraînement : Ils ont dû entraîner le système principalement sur des histoires générées par d'autres ordinateurs car il n'y avait pas assez d'exemples écrits par des humains. Cela signifie que le système est très bon pour repérer les schémas narratifs standards, mais pourrait être confus par des histoires humaines très étranges, expérimentales ou non linéaires.

En résumé

L'article présente une nouvelle façon d'enseigner aux ordinateurs comment comprendre les histoires. Au lieu de simplement compter combien de mots deux histoires partagent, ils ont construit un système qui vérifie d'abord si le squelette de l'intrigue correspond. Ce n'est que si les squelettes correspondent que le système permet aux détails d'influencer la décision finale. Cela empêche l'ordinateur d'être trompé par des similitudes superficielles comme des mots-clés communs.

Résumé Technique : IVD-SSM pour la Similarité Narrative

Définition du Problème
Le papier traite du défi computationnel de l'évaluation de la similarité narrative, une tâche définie par le SemEval-2026 Task 4 consistant à distinguer la « structure profonde » d'une intrigue (schémas abstraits de causalité et de progression) de sa réalisation de surface (noms, décors et objets spécifiques). Les architectures Transformer standards échouent souvent à cette tâche en raison d'un biais vers le chevauchement lexical et sémantique, menant à des « corrélations spécieuses » où des récits partageant un vocabulaire spécifique à un genre (ex: « zombies ») sont jugés similaires malgré des chaînes causales fondamentalement différentes. De plus, les Transformers standards font face à des goulots d'étranglement de mémoire et de calcul quadratiques ( $O(N^2)$ ) lors du traitement des dépendances à longue portée inhérentes aux récits étendus.

Méthodologie : IVD-SSM
Les auteurs proposent l'IVD-SSM (Invariant-Variant Disentangled State-Space Model), une architecture hybride conçue pour séparer explicitement les structures de l'intrigue invariantes des détails sémantiques variants. Le système se compose de deux composantes primaires :

Encodeur de Base (Jamba-1.5-Mini) :
- Le système utilise un modèle Jamba-1.5-Mini, une architecture hybride combinant des couches Mamba (modèle d'espace d'état) avec l'attention Transformer.
- Les couches Mamba ont été choisies pour leur capacité à compresser l'historique de la séquence dans un état caché mis à jour dynamiquement avec une complexité temporelle linéaire ( $O(N)$ ), ce qui les rend idéales pour capturer les chaînes causales à longue portée sans le surcoût de mémoire des caches clé-valeur.
- Pour adapter le modèle de 12 milliards de paramètres sous des contraintes de calcul, l'ossature est chargée en quantification 4-bit NormalFloat (NF4). Les auteurs utilisent le QLoRA (Fine-Tuning de paramètres efficaces) en ciblant uniquement les modules de projection et d'embedding, tout en laissant le reste du réseau gelé afin de préserver les connaissances du monde pré-entraînées.
Tête d'Alignement à Portillages Structurels (SGA Head) :
- Il s'agit de la principale contribution novatrice, un mécanisme d'alignement dual-échelle différentiable inspiré de l'algorithme de Smith-Waterman. Il traite un récit ancre et un récit candidat à travers deux voies parallèles :
  - Voie Macro (Structure Invariante) : Les séquences d'entrée sont fortement sous-échantillonnées (stride $k=4$ ) pour capturer le squelette structurel grossier (ex: introduction, conflit, résolution). Cette voie est aveugle aux entités au niveau du jeton (token).
  - Voie Micro (Détails Variants) : Les séquences à pleine résolution sont traitées pour capturer les correspondances fines au niveau des entités (ex: noms de personnages spécifiques ou objets).
- Mécanisme de Portillages (Gating) : La Voie Macro génère une matrice de similarité structurelle ( $M_{macro}$ ), qui est suréchantillonnée et passée à travers une activation Sigmoïde pondérée par la température pour créer un masque structurel souple ( $G$ ). Ce masque filtre la matrice de similarité de la Voie Micro ( $M_{micro}$ ) via une multiplication élément par élément ( $M_{filtered} = M_{micro} \odot G$ ).
- Ce mécanisme supprime activement le bruit sémantique et les chevauchements de mots-clés superficiels, garantissant que des scores de similarité élevés ne sont attribués que lorsque les détails fins s'alignent dans des régions structurellement valides.

Entraînement et Évaluation

Données : En raison de données annotées par l'humain limitées (200 triplets de développement, 400 de test), le modèle a été entraîné exclusivement sur 1 900 triplets de récits synthétiques fournis par les organisateurs de la tâche, augmentés par l'ensemble annoté par l'humain pour la validation.
Piste A (Classification par paire) : Le modèle utilise un objectif contrastif pour déterminer lequel de deux candidats est structurellement plus proche d'une ancre.
Piste B (Apprentissage de représentation) : Le modèle génère des vecteurs de plongement (embeddings) denses via un pooling moyen des sorties projetées de l'ossature, suivi d'une normalisation L2 stricte pour faciliter les comparaisons de distance cosinus.

Résultats Clés

Piste A (Classification par paire) : L'IVD-SSM (Gated) a atteint une précision de 57,25 %, surpassant la ligne de base aléatoire (50,00 %) et la ligne de base de similarité lexicale de Jaccard (56,25 %). Cependant, il est resté derrière le prompt zero-shot de GPT-4o-mini (67,00 %).
Piste B (Similarité d'Embedding) : Le modèle a atteint une précision de 54,50 %, restant en deçà de l'encodeur de phrases all-MiniLM-L6-v2 (58,50 %) et de story-emb (63,25 %).
Études d'Ablation :
- La Voie Micro seule (55,75 %) a sous-performé la base Jaccard, confirmant que la similarité des jetons à grain fin sans filtrage structurel est vulnérable aux distracteurs lexicaux.
- La Voie Macro seule (57,00 %) a nettement surpassé Jaccard, indiquant que le squelette structurel grossier porte la majorité du signal pour l'équivalence narrative.
- Le Mécanisme de Portillages (Gating) a fourni une amélioration modeste mais constante (+0,25 %) par rapport à la variante Macro-seule, validant son rôle dans le filtrage du bruit sémantique résiduel.

Signification et Revendications
L'article affirme que le principal goulot d'étranglement dans l'évaluation narrative computationnelle est la confusion entre la structure de l'intrigue invariante et les détails sémantiques variants. Les auteurs soutiennent que leurs résultats démontrent que la similarité narrative ne peut pas être mesurée de manière fiable par des approches de type « sac de mots » ou des embeddings de phrases génériques. Au contraire, elle nécessite des architectures qui modélisent explicitement le déroulement séquentiel de l'action.

La signification de ce travail réside dans la capacité de l'IVD-SSM à désentrelacer les invariants structurels des variants lexicaux, fournissant un cadre rigoureux pour la compréhension narrative profonde. Les auteurs notent que bien que leur approche ne rejoigne pas encore les performances des grands modèles de langage (LLM) en zero-shot (probablement en raison de leur pré-entraînement étendu sur les structures narratives et leurs capacités de raisonnement implicite), l'architecture SGA parvient à atténuer les « corrélations spécieuses » qui font échouer les modèles standards sur les échantillons négatifs difficiles.

Limites
Les auteurs reconnaissent plusieurs limites :

Portillages Souples (Soft Gating) : Le portillon basé sur la Sigmoïde est continu et n'atteint jamais zéro, permettant une certaine « fuite » de distracteurs lexicaux puissants (ex: entités nommées identiques) pour l'emporter sur un désalignement structurel.
Complexité Computationnelle : Bien que l'ossature soit linéaire, la tête SGA réintroduit un goulot d'étranglement quadratique ( $O(L_a \times L_c)$ ) lors du calcul des matrices de similarité croisée complètes, ce qui peut limiter l'extensibilité aux romans complets ou aux scénarios sans modifications d'alignement parcimonieux.
Biais de Données : Le modèle a été principalement entraîné sur des données synthétiques générées par des LLM, ce qui pourrait mener à un surapprentissage sur des cadences narratives prévisibles et des archétypes standards, laissant inexplorée sa performance sur des récits humains avant-gardistes ou non linéaires.