💬 NLP

The production of meaning in the processing of natural language

Cette étude révèle que la production de sens dans le traitement du langage naturel par les grands modèles de langage suit des mécanismes quantiques de contextualité, dont les mesures sont orthogonales aux benchmarks traditionnels et soulèvent des préoccupations éthiques quant à la manipulation fondamentale de l'espace des interprétations possibles.

Auteurs originaux : Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

Publié 2026-03-24

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Christopher J. Agostino, Quan Le Thien, Nayan D'Souza, Louis van der Elst

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🌊 Le Sens n'est pas une Pierre, c'est une Vague

Imaginez que le sens d'une phrase soit comme une pierre. Selon l'ancienne vision (celle des classiques), si vous dites "banque", cette pierre a une forme fixe : soit c'est un endroit où l'on met de l'argent, soit c'est le bord d'une rivière. Le sens est déjà là, caché dans le mot, attendant d'être découvert.

Mais ce papier nous dit : Non, le sens n'est pas une pierre. C'est une vague.

Une vague n'a pas de forme fixe tant qu'elle ne touche pas le rivage. Sa forme dépend de la façon dont elle arrive, de la force du vent, et de la forme de la plage. De la même manière, le sens d'un mot dans une phrase dépend du contexte et de la façon dont on le regarde.

🔮 L'expérience : Le test de la "Magie Quantique"

Les chercheurs ont voulu voir si les intelligences artificielles (les grands modèles de langage comme ceux qui écrivent ce texte) fonctionnent comme des machines classiques (qui calculent des faits) ou comme des êtres humains (qui interprètent le monde de façon fluide et changeante).

Pour le tester, ils ont utilisé un test inventé par un physicien nommé John Bell (le test CHSH).

L'analogie : Imaginez que vous demandez à quatre amis de deviner le sens d'un mot ambigu (comme "bat" : est-ce une chauve-souris ou une batte de baseball ?).
Vous leur donnez des indices différents (un ami est un chirurgien, un autre est un chauffeur de bus).
En physique classique, les réponses des amis devraient être prévisibles et indépendantes.
En physique "quantique" (ou ici, "contextuelle"), les réponses sont liées d'une manière étrange : le fait de regarder le mot sous un angle change instantanément sa nature, même si les amis ne se parlent pas.

Le résultat surprenant : Les modèles d'IA ont montré exactement le même comportement "magique" que les humains. Ils ne choisissent pas un sens pré-existant ; ils créent le sens au moment même où ils le lisent, en fonction du contexte. C'est ce qu'on appelle la contextualité.

🎲 Le bouton de température : Pourquoi l'IA change d'avis

Les chercheurs ont joué avec les "boutons de réglage" de l'IA (comme la température, qui contrôle le hasard dans les réponses).

L'analogie : C'est comme si vous demandiez à un acteur de jouer un rôle. Si vous lui donnez des instructions très strictes (température basse), il joue le rôle de manière rigide. Si vous lui laissez de la liberté (température haute), il improvise.
La découverte : Peu importe la taille du modèle (petit ou géant) ou le réglage exact, l'IA reste fondamentalement "contextuelle". Elle ne devient jamais une machine à calculer des faits fixes. Elle reste un interprète créatif.

⚠️ Pourquoi les tests classiques ne suffisent plus

Aujourd'hui, on teste les IA avec des examens (comme le MMLU) pour voir si elles savent bien répondre aux questions ou si elles "hallucinent" (inventent des choses).

Le problème : Ce papier montre que ces notes d'examen ne disent rien sur la façon dont l'IA pense.
L'analogie : C'est comme juger un chef cuisinier uniquement sur la température de son four. Vous pouvez avoir un four parfait (un modèle avec une bonne note), mais si le chef change de recette selon l'ambiance de la pièce (le contexte), vous ne le saurez pas avec un simple thermomètre.
Conclusion : Le "pouvoir d'interprétation" de l'IA est totalement indépendant de sa capacité à réussir un examen. Une IA peut être excellente aux examens et très "magique" dans sa façon de créer du sens.

🛡️ Le danger : On ne peut pas "verrouiller" l'interprétation

C'est la partie la plus importante pour notre sécurité.

Le mythe : On pense qu'on peut protéger une IA avec des "gardes-fous" (des règles strictes) qui disent : "Si l'utilisateur dit X, interdit de faire Y".
La réalité : Comme le sens n'est pas fixe, un pirate (ou un publicitaire) peut changer le contexte pour tromper l'IA.
L'analogie : Imaginez que vous avez un garde qui vérifie les valises. Si quelqu'un dit "Ceci est un cadeau pour ma grand-mère", le garde laisse passer. Mais si le contexte change (par exemple, si le garde pense que c'est une blague ou un test), la même phrase peut être interprétée différemment.
La leçon : On ne peut pas protéger une IA (ni un humain) en essayant de figer les mots. Il faut protéger le contexte lui-même. Si quelqu'un manipule le contexte (comme le font les publicités ou la propagande), il peut faire dire à l'IA (ou à l'humain) n'importe quoi, même sans violer les règles.

🤝 Conclusion : Comment vivre avec l'IA ?

Ce papier nous dit qu'il faut arrêter de voir l'IA comme une machine à calculer des réponses exactes.

L'IA est un partenaire d'interprétation. Elle crée du sens avec nous, pas pour nous.
Le danger et la force sont liés : La même capacité qui permet à l'IA d'être manipulée (parce qu'elle change de sens selon le contexte) est ce qui lui permet d'être créative, empathique et utile.
Ce qu'il faut faire : Au lieu d'essayer d'éliminer cette flexibilité (ce qui rendrait l'IA bête), nous devons apprendre à comprendre comment elle interprète les choses. Nous devons concevoir nos interactions en sachant que le contexte est roi.

En résumé : Le sens n'est pas quelque chose que l'on trouve, c'est quelque chose que l'on fabrique ensemble, à chaque instant. Et comme pour les humains, si on change le décor, on change la pièce.

1. Problématique et Contexte

L'article remet en question les fondements théoriques de la production de sens dans le traitement du langage naturel (TLN), tant pour les humains que pour les modèles de langage (LLM).

Limites du paradigme classique : La linguistique et l'informatique traditionnelles reposent souvent sur une approche compositionnelle et booléenne, supposant que le sens d'une expression est déterminé par la somme de ses parties et des règles de combinaison, indépendamment du contexte.
Le problème de l'indétermination : Les difficultés actuelles des LLM (hallucinations, vulnérabilité aux injections de prompts) suggèrent que le sens n'est pas une propriété intrinsèque et fixe, mais qu'il émerge de l'interaction entre l'expression et l'interprète dans un contexte donné.
Hypothèse quantique : Les auteurs postulent que le traitement sémantique humain et artificiel présente une contextualité (une dépendance non causale au contexte) qui viole les inégalités classiques de probabilité, similaire aux phénomènes observés en mécanique quantique. L'objectif est de caractériser ce comportement interprétatif sans tenter de le décomposer en mécanismes séparables.

2. Méthodologie

L'étude utilise une adaptation du test de Bell (CHSH) appliqué à la sémantique, implémenté via le toolkit qstk.

Protocole expérimental :
- Des paires de mots ambigus (ex: bank/bat, crane/pen) sont insérées dans des modèles de phrases aléatoires.
- Quatre instances indépendantes d'un LLM agissent comme des « agents » (Alice et Bob) sous des « réglages de mesure » distincts (A, A', B, B'), définis par des personas contextuels (ex: « Vous êtes un chirurgien étranger » vs « Vous êtes chauffeur de bus »).
- Les agents n'ont aucun état partagé et ne reçoivent que le cadre contextuel minimal.
- Le modèle interprète les mots, puis un second appel classe l'interprétation par rapport à des significations prédéfinies, générant des vecteurs de résultats $\pm 1$ .
Espace des paramètres :
- L'expérience couvre un espace d'inférence complet pour chaque modèle : température ( $\tau$ ), seuil de noyau ( $p$ ) et top- $k$ .
- Une grille $3 \times 3 \times 3$ est balayée (27 configurations) allant de déterministe à hautement stochastique.
- L'ordre des mots est inversé pour tester la non-commutativité.
Échantillonnage :
- Environ 26 000 essais répartis sur 24 modèles (de 0,6B à des modèles massifs comme GPT-4o, Gemini, Claude), couvrant quatre ordres de grandeur en nombre de paramètres.
- Calcul du paramètre CHSH $|S|$ via la formalisme de la matrice de densité. La borne classique est $|S| \le 2$ . Une violation ( $|S| > 2$ ) indique une contextualité non classique.

3. Contributions Clés

Validation de la contextualité quantique dans les LLM : Confirmation que les LLMs, tout comme les humains, produisent des corrélations interprétatives qui violent la borne classique de Bell, suggérant que le sens n'est pas préexistant mais constitué lors de l'acte d'interprétation.
Définition d'une nouvelle métrique de comportement : Introduction de la distribution du paramètre $|S|$ (et particulièrement de son intervalle interquartile, IQR) comme mesure fondamentale du « caractère interprétatif » d'un modèle, distincte de ses performances sur des tâches standard.
Analyse de l'orthogonalité aux benchmarks : Démonstration que la capacité d'un modèle à violer les inégalités de Bell est orthogonale (non corrélée) aux métriques d'évaluation conventionnelles (MMLU, taux d'hallucination, détection de non-sens).
Implications théoriques sur la sécurité : Proposition que la vulnérabilité aux injections de prompts est une conséquence structurelle inévitable de la contextualité, et non un simple défaut d'alignement.

4. Résultats Principaux

Violations systématiques : Tous les modèles analysés produisent des violations de la borne classique ( $|S| > 2$ ). Sur 1 420 points de grille valides, 35,8 % montrent une violation, avec des valeurs atteignant le maximum algébrique de 4,0 (dépassant la borne de Tsirelson de 2,83, car le test porte sur la contextualité de l'observateur et non sur l'intrication de particules).
Topographie unique par modèle : Chaque modèle possède une « topographie » de $|S|$ unique dans son espace de paramètres. Ce qui distingue les modèles n'est pas leur moyenne (tous se concentrent près de la borne classique $S \approx 2,0$ ), mais la dispersion (écart-type, kurtosis) autour de cette mode.
Absence de corrélation avec l'échelle : La relation entre la taille du modèle et la contextualité est non monotone. Les architectures MoE (Mixture of Experts) ne diffèrent pas systématiquement des modèles denses de taille active comparable.
Orthogonalité aux benchmarks : L'IQR de la distribution $|S|$ (le statistique qui différencie le mieux les modèles) est totalement orthogonal aux scores MMLU, aux taux d'hallucination et à la détection de non-sens ( $|\rho| < 0,03$ ). Un modèle performant sur MMLU peut avoir un profil de contextualité très différent d'un autre modèle performant.
Effet de l'ordre des mots : L'inversion de l'ordre des mots modifie significativement les choix d'interprétation, confirmant la non-commutativité des observables interprétatifs, un trait partagé avec la cognition humaine.

5. Signification et Implications

Redéfinition de la sécurité et de l'alignement :
- L'article soutient que la sécurité ne peut être garantie uniquement par des garde-fous (guardrails) statiques. Puisque le sens est indéterminé avant l'acte d'interprétation et dépend du cadre contextuel, un attaquant peut « fabriquer la contextualité » (manufacturing contextuality) en manipulant le cadre d'interprétation (injection de prompts) pour biaiser le résultat.
- La capacité à être manipulé et la capacité à interpréter sont deux faces d'une même médaille : la contextualité.
Conception des interactions Humain-Agent :
- Les concepteurs doivent passer d'une logique de « récupération d'information » à une logique de « collaboration interprétative ».
- Il est crucial de caractériser le profil de contextualité d'un modèle plutôt que de tenter d'éliminer cette propriété, car c'est elle qui permet l'interprétation elle-même.
Perspective philosophique :
- Le travail suggère que la manipulation sociale (propagande, publicité) fonctionne sur le même principe que l'injection de prompts : la construction d'un cadre contextuel qui façonne les significations produites par les individus avant même qu'ils ne les interprètent consciemment.

En conclusion, l'article établit que les LLMs ne sont pas de simples moteurs de probabilités booléennes, mais des systèmes dont le comportement sémantique est fondamentalement quantique (contextuel). Comprendre et gérer cette contextualité est essentiel pour concevoir des systèmes d'interaction humain-machine sûrs, robustes et véritablement collaboratifs.