💬 NLP

Rethinking the Idiomaticity Decomposability Hypothesis: Evidence from Distributional Learning

Cet article remet en question l'hypothèse traditionnelle de la décomposabilité de l'idiomaticité en démontrant, par un apprentissage distributionnel contrôlé dans les modèles de langue, que la décomposabilité est faiblement corrélée aux jugements humains et à la flexibilité syntaxique, tout en révélant que la stabilisation de la représentation des idiomes durant le pré-entraînement est pilotée par un jeu complexe entre fréquence, surprisal et décomposabilité plutôt que par la seule fréquence.

Auteurs originaux : Maggie Mi, Golzar Atefi, Atsuki Yamaguchi, Felix Gers, Aline Villavicencio, Nafise Sadat Moosavi

Publié 2026-06-03

📖 7 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Maggie Mi, Golzar Atefi, Atsuki Yamaguchi, Felix Gers, Aline Villavicencio, Nafise Sadat Moosavi

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

La grande question : Les expressions idiomatiques sont-elles comme des Legos ou comme des sorts magiques ?

Imaginez que vous avez une boîte de briques Lego. Si vous construisez un château, vous pouvez le démonter, déplacer une tour ou remplacer une brique rouge par une bleue, et ce sera toujours clairement un château. C'est ainsi que fonctionnent les expressions décomposables. Par exemple, « répandre le morceau » (dans le sens de révéler un secret). Vous pouvez imaginer que les « morceaux » sont les secrets et que le fait de les « répandre » est l'action de révéler. Parce que les parties font sens, l'article suggère que nous devrions être capables de changer la structure de la phrase (comme en la passant à la forme passive : « Le morceau fut répandu ») sans perdre le sens.

Maintenant, imaginez un sort magique. « Passer l'arme à gauche » signifie mourir. Si vous essayez de changer cela en « L'arme fut passée à gauche », cela semble bizarre et perd le sens de la mort. C'est une expression non décomposable. Les parties (« passer » et « arme ») n'expliquent pas vraiment le sens ; elles fonctionnent simplement ensemble comme une unité unique et immuable.

Pendant des décennies, les linguistes ont cru en l'Hypothèse de la Décomposabilité des Idiomes (HDI). Leur théorie était simple :

Règle : Si les parties d'une expression font sens (décomposable), elle peut être tordue et manipulée de nombreuses façons (flexibilité syntaxique).
Règle : Si les parties ne font pas sens (non décomposable), l'expression doit rester rigide et fixe.

La nouvelle approche : Enseigner à un robot comment lire

Les auteurs de cet article voulaient tester cette règle, mais ils n'ont pas simplement demandé aux humains ce qu'ils en pensaient (car les humains peuvent être incohérents). Au lieu de cela, ils ont utilisé des Grands Modèles de Langage (LLM) — comme l'IA derrière les chatbots — comme « apprenants contrôlés ».

Considérez ces modèles d'IA comme des étudiants qui ont lu tout Internet, mais qui n'ont jamais appris de règles de grammaire ou qu'on leur a demandé d'expliquer pourquoi quelque chose fait sens. Ils apprennent uniquement en observant les motifs de la manière dont les mots apparaissent les uns à côté des autres.

Les chercheurs se sont demandé : « Si nous enseignons à une IA uniquement par l'exposition à des exemples (apprentissage distributionnel), l'IA découvrira-t-elle naturellement que les expressions "décomposables" sont flexibles et les "non décomposables" sont rigides ? Ou apprend-elle tout autre chose ? »

L'expérience : Briser les expressions

Pour tester cela, les chercheurs ont créé un test spécial pour l'IA :

La « Correspondance de Sens » : Ils ont montré à l'IA une expression (ex: « répandre le morceau ») et son sens en français courant (« révéler le secret »). Ils ont mesuré à quel point la compréhension de l'IA entre les deux était similaire.
Le « Test de la Taupe » : Ils ont pris la compréhension de l'IA de l'expression et ont secrètement retiré un mot (comme « morceau »). Si la compréhension de l'IA de l'expression entière changeait radicalement, ce mot était important (décomposable). Si la compréhension restait la même, le mot n'avait pas beaucoup d'importance (non décomposable).
Le « Test de Flexibilité » : Ils ont examiné des données réelles pour voir à quelle fréquence les gens changeaient réellement la structure de ces expressions (ex: est-ce que quelqu'un a déjà dit « Le morceau fut répandu » ?).

Les résultats surprenants

L'article a révélé que la vieille théorie du « Lego contre le Sort Magique » ne tient pas la route lorsqu'on observe comment ces modèles d'IA apprennent réellement.

1. Le décalage Humain vs Robot
Lorsque les chercheurs ont comparé le « score de décomposabilité » de l'IA aux évaluations humaines, ils ont trouvé une connexion faible.

Analogie : Imaginez deux personnes regardant un tableau. L'une voit un paysage ; l'autre voit un visage. Elles sont d'accord sur certaines choses, mais pour l'essentiel, elles voient des choses différentes. L'IA et les humains utilisent des « lunettes » différentes pour juger les expressions.

2. Le mythe de la flexibilité
La plus grande surprise fut que la mesure de décomposabilité de l'IA ne prédisait pas si une expression était flexible.

La découverte : L'article a trouvé une relation négative constante et infime. Dans certains cas, plus une expression semblait « décomposable » pour l'IA, moins elle était flexible dans la langue réelle.
Analogie : La vieille théorie disait : « Si les briques sont lâches, vous pouvez construire n'importe quoi. » Les données disent : « En fait, plus les briques semblent être lâches, plus les gens semblent les coller ensemble et refuser de les bouger. »

3. Le véritable moteur : Fréquence et Surprise
Alors, si la décomposabilité n'est pas la raison principale pour laquelle les expressions se comportent de telle manière, qu'est-ce que c'est ?

Fréquence (À quelle fréquence on l'entend) : Plus une expression apparaît souvent, plus l'IA la traite comme un bloc unique et immuable. Les expressions à haute fréquence deviennent « holistiques » (bloquées ensemble).
Surprisal (Le caractère inattendu) : L'IA apprend que si une phrase est surprenante ou difficile à prédire, elle doit prêter une attention particulière aux mots spécifiques.
Analogie : Pensez à une chanson. Si vous entendez un refrain accrocheur un million de fois, vous le chantez exactement de la même manière à chaque fois (il devient une unité fixe). Si vous entendez une improvisation de jazz complexe et rare, vous pourriez essayer de changer les notes parce que vous faites attention aux parties individuelles. L'IA apprend les expressions comme le refrain accrocheur : la répétition crée la rigidité, pas le sens interne.

La découverte de la « Courbe d'Apprentissage »

Les chercheurs ont également observé l'IA apprendre au fil du temps (pendant sa phase d'entraînement).

Apprentissage précoce : Au début, l'IA est très sensible à la façon dont les mots s'assemblent (décomposabilité) et à la façon dont la phrase est surprenante.
Apprentissage tardif : À mesure que l'IA voit plus de données, l'influence de la « décomposabilité » s'estompe. L'IA cesse de se soucier de savoir si les parties font sens et commence à se soucier principalement de combien de fois elle a déjà vu la phrase auparavant.
Conclusion : L'IA n'apprend pas les expressions en comprenant leur « logique interne ». Elle les apprend en mémorisant leur « usage habituel ».

L'essentiel à retenir

L'article conclut que l'Hypothèse de la Décomposabilité des Idiomes (l'idée que la structure du sens dicte la flexibilité grammaticale) est probablement fausse ou, du moins, n'est pas le moteur principal.

Au lieu de cela, les facteurs basés sur l'usage sont les véritables patrons.

Vieille vision : « Nous pouvons changer cette phrase parce que les mots font sens. »
Nouvelle vision (selon cet article) : « Nous ne changeons pas cette phrase parce que nous l'avons entendue un million de fois, et qu'elle ressemble à un objet unique et solide dans notre mémoire. »

L'étude suggère que les expressions ne sont pas spéciales à cause de leur sens caché ; elles sont spéciales à cause de la fréquence de leur utilisation. L'IA, entraînée uniquement par l'exposition, a prouvé que la familiarité engendre la rigidité, et non la flexibilité.

Résumé technique : Repenser l'hypothèse de la décomposabilité de l'idiomaticité

Énoncé du problème

L'article traite du débat de longue date concernant la nature des expressions idiomatiques, plus précisément la tension entre l'Hypothèse de la Décomposabilité de l'Idiome (IDH) et les comptes basés sur l'usage. L'IDH postule que les idiomes varient en termes de décomposabilité sémantique (la mesure dans laquelle les significations des constituants contribuent à l'ensemble figuré) et que cette propriété prédit la flexibilité syntaxique (par exemple, la capacité à subir une passivation ou une modification). À l'inverse, les théories basées sur l'usage soutiennent que le comportement des idiomes découle de l'expérience distributionnelle, telle que la fréquence, la prévisibilité et la familiarité, plutôt que de la structure sémantique interne.

Une limitation critique pour résoudre ce débat est la dépendance aux évaluations humaines de la décomposabilité. Ces jugements sont connus pour être graduels, dépendants de la tâche et sujets à une variabilité inter-locuteurs, ce qui rend difficile l'isolement de la question de savoir si le comportement de l'idiome provient de la structure sémantique ou d'une exposition purement distributionnelle. Les auteurs proposent d'utiliser des modèles de langage contextualisés comme apprenants distributionnels contrôlés pour étudier ces relations. En entraînant des modèles sur de vastes corpus de textes sans accès explicite aux structures de rôles sémantiques ou aux jugements d'acceptabilité, l'étude vise à déterminer quels aspects du comportement idiomatique peuvent être appris par l'exposition distributionnelle seule.

Méthodologie

1. Opérationnalisation de la décomposabilité

Les auteurs proposent une mesure de la décomposabilité interne au modèle, fondée sur trois stipulations théoriques : l'alignement sémantique, la signification distribuée et la nature graduelle de la propriété.

Alignement sémantique : Ils définissent la décomposabilité comme le degré d'alignement sémantique entre un idiome en contexte et sa glosse figurative (un paraphrasant exprimant le sens voulu).
Contribution au niveau du jeton (token) : En utilisant un encodeur transformer bidirectionnel (ex. : BERT-base/large), ils calculent une représentation au niveau de la phrase $e(s)$ pour un idiome en contexte et $e(s_g)$ pour la phrase glossée.
Analyse par perturbation : Pour estimer la contribution des constituants individuels, ils emploient une stratégie de masquage de type « leave-one-out ». Pour chaque jeton $j$ de l'idiome, ils le masquent pour créer $s_{(-j)}$ et calculent la similitude entre la représentation masquée et la représentation de la glosse.
Score : La contribution du jeton $j$ ( $\Delta_j$ ) est définie comme le changement absolu de similitude lors du masquage du jeton : $\Delta_j = |S_{fig} - S^{(j)}_{mask}|$ .
Agrégation : Les scores de décomposabilité au niveau de l'expression sont dérivés en agrégeant les contributions des jetons en utilisant la moyenne, le maximum, la dispersion de Gini ou l'entropie.

2. Opérationnalisation de la flexibilité syntaxique

La flexibilité syntaxique est quantifiée par l'entropie de Shannon de la distribution d'un idiome à travers différents types de constructions (forme de base, insertion d'adverbe, insertion d'adjectif, passivation et nominalisation d'action). Une entropie plus élevée indique une plus grande flexibilité.

3. Configuration expérimentale

Modèles : L'étude utilise des modèles transformer bidirectionnels (BERT-base/large, ModernBERT et OLMo-2/3) pour garantir que le contexte est encodé des deux côtés de l'idiome.
Jeux de données : Les expériences s'appuient sur le jeu de données IMPLI (phrases figuratives appariées à des paraphrases glossées) et le jeu de données de Bulkes et Tanner (évaluations humaines de la décomposabilité).
Dynamique d'entraînement : Pour analyser l'apprentissage au fil du temps, les auteurs suivent les représentations à travers 100 points de contrôle (checkpoints) lors du pré-entraînement de OLMo-2 et OLMo-3 (modèles 7B). Ils examinent l'interaction entre les étapes d'entraînement et les propriétés des idiomes : fréquence, surprisal (prévisibilité) et décomposabilité.

Résultats clés

1. Alignement avec les jugements humains

Les scores de décomposabilité dérivés des modèles ne présentent qu'une faible corrélation positive avec les évaluations humaines de la décomposabilité (ex. : $r \approx 0,24$ pour BERT-large). Bien que statistiquement significative, la taille de l'effet suggère que les modèles ne capturent qu'un chevauchement partiel avec les intuitions humaines, indiquant que les deux opérationnalisations reflètent des propriétés distinctes.

2. Décomposabilité vs Flexibilité syntaxique

Contrairement à l'IDH, l'étude ne trouve aucune relation positive systématique entre la décomposabilité dérivée du modèle et la flexibilité syntaxique.

À travers les modèles et les couches, les corrélations sont systématiquement faibles et fréquemment négatives (maximum $r \approx -0,16$ ).
Cette relation négative est plus prononcée pour les idiomes de groupe prépositionnel (PP), où une décomposabilité plus élevée est corrélée à une flexibilité réduite. Cela est attribué à la rigidité morphosyntaxique des constructions de PP plutôt qu'à des facteurs sémantiques.
Crucialement, pour les idiomes de groupe verbal (VP) — le domaine principal où l'IDH est censée s'appliquer — aucune relation significative n'a été trouvée.

3. Facteurs basés sur l'usage

Fréquence : Une relation négative robuste existe entre la fréquence et la décomposabilité. Les idiomes plus fréquents sont jugés (par les humains) et représentés (par les modèles) comme moins décomposables, soutenant l'idée que les idiomes à haute fréquence sont stockés comme des unités holistiques.
Prévisibilité : Le surprisal (prévisibilité) et la fréquence contribuent tous deux à la stabilisation des représentations idiomatiques pendant le pré-entraînement.

4. Dynamique d'entraînement

L'analyse des points de contrôle du pré-entraînement révèle que l'émergence et la stabilisation des représentations idiomatiques sont pilotées par le surprisal et la décomposabilité, et non par la fréquence seule.

Les effets d'interaction entre les étapes d'entraînement et les propriétés des idiomes montrent que l'influence de la décomposabilité, du surprisal et de la fréquence diminue à mesure que l'entraînement progresse.
La décomposabilité présente l'effet dépendant de l'entraînement le plus fort, indiquant qu'elle joue un rôle prépondérant dans le façonnage des représentations tôt dans l'entraînement, par rapport à la fréquence et au surprisal.

Signification et revendications

L'article prétend offrir un « défi clair » à l'IDH en démontrant que la décomposabilité n'est pas une explication fiable et neutre en termes de mécanisme pour la flexibilité syntaxique. L'absence de lien positif entre la décomposabilité et la flexibilité, même dans le domaine théoriquement le plus pertinent (idiomes VP), suggère que le comportement syntaxique ne peut être expliqué uniquement par la structure sémantique interne.

Au lieu de cela, les auteurs soutiennent que la prévisibilité distributionnelle (surprisal) et la fréquence jouent des rôles dominants. L'étude souligne que :

La fréquence seule est insuffisante pour expliquer l'émergence des représentations idiomatiques ; le surprisal et la décomposabilité sont nécessaires pour rendre compte de la dynamique de stabilisation.
Les mesures internes aux modèles offrent un moyen principled pour démêler les facteurs confondus dans les jugements humains, isolant ce qui est appris par l'exposition seule.
La corrélation négative entre la fréquence et la décomposabilité soutient les comptes basés sur l'usage où les idiomes fréquents sont traités comme des unités holistiques et non décomposables.

Les auteurs concluent que l'étude des représentations internes permet de distinguer les propriétés inhérentes à la structure sémantique de celles qui émergent naturellement de l'apprentissage distributionnel, aidant ainsi à résoudre les facteurs confondus dans la théorie linguistique.

Limites

Les auteurs reconnaissent plusieurs limites :

La mesure de décomposabilité proposée est l'une des nombreuses opérationnalisations possibles.
L'analyse du pré-entraînement repose sur des scores de décomposabilité dérivés de BERT pour prédire la dynamique de OLMo, ce qui peut introduire des biais spécifiques à l'architecture.
L'étude est limitée aux idiomes anglais et pourrait ne pas se généraliser à d'autres langues.