Ambiguity Collapse by LLMs: A Taxonomy of Epistemic Risks

Cet article introduit le concept d'« effondrement de l'ambiguïté » par les grands modèles de langage, qui résolvent de manière unique des termes à multiples interprétations légitimes, et propose une taxonomie des risques épistémiques associés ainsi que des principes d'atténuation pour préserver la négociation humaine du sens.

L'essentiel

Voici une explication simple et imagée de l'article « L'Effondrement de l'Ambiguïté par les IA : Une Taxonomie des Risques Épistémiques ».

Le Concept Central : L'Effondrement de l'Ambiguïté

Imaginez que vous êtes dans une pièce remplie de brouillard. Ce brouillard, c'est l'ambiguïté. Dans la vie humaine, ce brouillard est souvent utile. Il nous force à discuter, à réfléchir, à négocier et à trouver un terrain d'entente. C'est comme un pont suspendu : il est flou, mais il nous permet de traverser ensemble en ajustant notre pas.

Les Grands Modèles de Langage (LLM), comme ChatGPT, agissent comme un puissant projecteur. Quand on leur demande de résoudre un problème flou (par exemple : « Qu'est-ce qu'une insulte ? » ou « Qui est un bon candidat ? »), ils éteignent le brouillard d'un coup. Ils projettent une image nette, unique et définitive.

Les auteurs appellent cela l'« Effondrement de l'Ambiguïté ».
Le problème ? En éclairant tout si fort, ils détruisent le pont. Ils remplacent la discussion humaine par une réponse unique, présentée comme une vérité absolue, alors que la réalité était complexe et multiple.

---

Pourquoi est-ce dangereux ? (Les 3 Niveaux de Risques)

L'article explique que ce phénomène pose trois types de dangers, comme une tempête qui frappe à trois niveaux différents :

1. Le Niveau « Processus » : On perd nos muscles mentaux

• L'analogie : Imaginez un gymnase où l'on vous donne un ascenseur au lieu d'escalader les escaliers. Au début, c'est pratique. Mais si vous n'escaladez plus jamais, vos jambes s'atrophient.
• Ce qui se passe : Quand l'IA nous donne la réponse toute faite, nous arrêtons de réfléchir, de débattre ou de remettre en question nos valeurs.
  • Exemple : Si un élève demande à l'IA ce que signifie le « feu vert » dans un livre, l'IA donne une définition unique. L'élève perd l'occasion de se demander : « Qu'est-ce que ce feu vert signifie pour moi ? ».
  • Résultat : Nous devenons des passifs qui attendent les réponses, perdant notre capacité à gérer l'incertitude.

2. Le Niveau « Résultat » : La carte est fausse

• L'analogie : Imaginez que vous demandez à un GPS de vous guider dans une ville où les rues sont floues. Le GPS, pour être utile, doit choisir une seule route. Mais s'il vous dit : « Tournez à gauche, c'est la seule vraie route », alors qu'il existe en réalité trois chemins possibles selon votre destination, vous êtes perdu. Pire, il vous cache les autres chemins.
• Ce qui se passe :
  • Rétrécissement : L'IA ne vous montre qu'une seule interprétation parmi des dizaines de possibles. Vous ne voyez plus la richesse des idées.
  • Contrebande de valeurs : L'IA prend une décision basée sur ses propres règles cachées (ses « préférences ») et vous la présente comme un fait neutre. C'est comme si un juge vous donnait une sentence en disant : « C'est la loi », alors qu'il a en fait inventé la loi pour vous.
  • Exemple : Un recruteur demande à l'IA de trouver le candidat le plus « qualifié ». L'IA choisit un profil spécifique et le présente comme le seul vrai « qualifié », effaçant d'autres façons légitimes de définir l'excellence.

3. Le Niveau « Écosystème » : La forêt devient une plantation

• L'analogie : Imaginez une forêt où chaque arbre a une forme différente, permettant à divers animaux de vivre. Si vous coupez tous les arbres pour planter une seule espèce d'arbre identique (une monoculture), la forêt perd sa résilience. Si une maladie arrive, tout meurt.
• Ce qui se passe :
  • Verrouillage : Si tout le monde utilise la même IA pour définir un mot (comme « démocratie » ou « justice »), tout le monde finit par utiliser la même définition. Les autres sens disparaissent.
  • Rupture du lien : Parfois, l'ambiguïté permet à des groupes différents de s'entendre (ex: un slogan politique vague qui rassemble tout le monde). Si l'IA force une définition précise, elle brise cette alliance.
  • Perte de tolérance : À force de voir des réponses claires partout, nous devenons incapables de supporter le flou. Nous voulons tout catégoriser immédiatement, ce qui est dangereux pour une société démocratique qui a besoin de nuance.

---

Des Exemples Concrets

L'article donne trois exemples où cela arrive déjà :

1. L'IA qui se juge elle-même : Des IA sont programmées pour suivre des règles floues comme « soyez utile et sans danger ». Pour obéir, elles doivent choisir une seule interprétation de ce que signifie « dangereux ». Elles deviennent donc les juges de leur propre morale, sans que personne ne puisse contester leur choix.
2. L'IA comme juge : Des tribunaux ou des entreprises utilisent l'IA pour évaluer des cas complexes (harcèlement, qualifications). L'IA transforme un cas gris et complexe en un simple « Oui/Non », effaçant les nuances qui auraient pu sauver une personne ou révéler une injustice.
3. L'IA en droit : Un juge demande à l'IA ce que signifie un mot dans une loi. L'IA donne une réponse nette. Mais en droit, le sens d'un mot dépend souvent du contexte et de l'interprétation humaine. En donnant une réponse fixe, l'IA fige le sens de la loi, empêchant son évolution naturelle.

---

Que faire ? (Les Solutions)

Les auteurs ne disent pas qu'il faut bannir l'IA, mais qu'il faut la redessiner pour qu'elle respecte le flou :

• Entraînement : Au lieu d'entraîner l'IA à donner la réponse, entraînez-la à dire : « Il y a plusieurs façons de voir cela. Voici les options A, B et C. Laquelle préférez-vous ? »
• Interface : Au lieu d'une réponse unique, l'écran devrait montrer plusieurs chemins possibles, comme un menu de choix plutôt qu'un ordre.
• Humilité : L'IA devrait parfois dire : « Je ne sais pas, c'est flou, et c'est à vous de décider » au lieu de faire semblant de tout savoir.

En Résumé

L'ambiguïté n'est pas un bug, c'est une fonctionnalité de la vie humaine. C'est l'espace où nous discutons, apprenons et vivons ensemble. Si nous laissons les IA « effondrer » ce brouillard en une seule image nette, nous risquons de perdre notre capacité à penser, à débattre et à construire un monde commun. Il faut apprendre à utiliser ces outils non pas pour supprimer le flou, mais pour nous aider à naviguer dedans.

Résumé technique

1. Problématique

Les grands modèles de langage (LLM) sont de plus en plus déployés pour interpréter des termes ambigus, à texture ouverte et chargés de valeurs (ex. : « discours de haine », « incitation », « qualifié », « biaisé »). Ces systèmes sont utilisés dans des contextes critiques tels que la modération de contenu, le recrutement, l'application de lois et l'auto-régulation des modèles eux-mêmes.

Le problème central identifié par les auteurs est le phénomène d'effondrement de l'ambiguïté (ambiguity collapse). Cela se produit lorsqu'un LLM rencontre un terme admettant légitimement plusieurs interprétations, mais qu'il produit une résolution unique et singulière, contournant ainsi les processus humains de délibération, de négociation et de contestation qui fondent traditionnellement la construction du sens.

Contrairement à la désambiguïsation classique en NLP (où un seul sens est correct selon le contexte), l'effondrement de l'ambiguïté concerne des concepts où plusieurs sens sont valides et légitimes. Le risque n'est pas seulement une erreur de fait, mais une distorsion épistémique : le modèle transforme des concepts indécis et pluriels en résolutions précises et explicites, masquant les jugements de valeur sous-jacents et privant les utilisateurs de la capacité à gérer l'incertitude.

2. Méthodologie

L'approche de l'article est conceptuelle, diagnostique et taxonomique. Elle ne repose pas sur une nouvelle expérience empirique massive, mais sur une analyse théorique interdisciplinaire et une illustration par des études de cas.

• Cadre théorique : Les auteurs s'appuient sur des travaux en philosophie du langage, sociologie, droit, STS (Science and Technology Studies) et éducation, où l'ambiguïté est vue comme une ressource productive (favorisant l'adaptabilité, la réflexion et la contestation).
• Définition opérationnelle : Ils distinguent l'ambiguïté (sens multiples discrets) et la flou (limites indéterminées d'un seul sens), traitant les deux comme des formes d'indétermination pertinentes pour leur analyse.
• Construction de la taxonomie : Ils développent une classification des risques épistémiques en trois niveaux hiérarchiques :
  1. Niveau Processus : Ce qui est perdu au niveau de l'activité cognitive et délibérative.
  2. Niveau Sortie (Output) : Comment la résolution unique déforme le concept lui-même et les raisons d'agir.
  3. Niveau Écosystème : Les impacts à long terme sur les vocabulaires partagés, les normes interprétatives et l'évolution des concepts.
• Études de cas : L'analyse est illustrée par trois domaines à haute enjeu :
  1. L'alignement des modèles via des règles constitutionnelles (Constitutional AI).
  2. L'utilisation des LLM comme juges (LLM-as-a-judge) pour évaluer des contenus subjectifs.
  3. L'interprétation juridique assistée par IA.

3. Contributions Clés : La Taxonomie des Risques

La contribution principale est la taxonomie détaillée des risques épistémiques, résumée ci-dessous :

A. Risques au niveau du Processus

• Fermeture délibérative (Deliberative Closure) : Perte de la capacité individuelle à raisonner, à explorer des interprétations alternatives et à réfléchir aux compromis. L'IA remplace le travail de réflexion par une réponse définitive.
• Érosion pédagogique (Pedagogical Erosion) : Affaiblissement des compétences cognitives et intellectuelles. La résolution facile de l'ambiguïté par l'IA prive les apprenants des « difficultés désirables » nécessaires à l'apprentissage profond et à la formation du jugement.
• Déplacement de l'autorité interprétative : Le pouvoir de fixer le sens passe d'acteurs publics et responsables (juges, experts, communautés) vers des concepteurs de modèles privés et non transparents, créant une injustice épistémique et participative.

B. Risques au niveau de la Sortie (Output)

• Rétrécissement épistémique (Epistemic Narrowing) :
  • Perte d'alternatives : Le modèle ne présente qu'un sous-ensemble d'interprétations raisonnables, effaçant la pluralité des points de vue.
  • Perte de résiduels : Le modèle force des cas limites ou indéterminés dans des catégories rigides (ex: binaire oui/non), rendant invisibles les zones grises et les réalités sociales qui résistent au cadre conceptuel.
• Contrebande normative (Normative Smuggling) : Le modèle remplace les critères de l'utilisateur par ses propres critères normatifs (valeurs implicites du modèle), tout en présentant le résultat comme neutre, objectif et inévitable. Cela masque les jugements de valeur sous-jacents.

C. Risques au niveau de l'Écosystème

• Verrouillage interprétatif (Interpretive Lock-In) : Une résolution initiale devient la norme par défaut dans les utilisations ultérieures (ex: données d'entraînement, benchmarks), rendant coûteux le retour à la contestation du sens.
• Monoculture : Uniformité des résolutions d'ambiguïté à travers différents modèles, réduisant la diversité interprétative globale et créant une illusion de sens unique et évident.
• Effondrement du sens partagé :
  • Malentendus : Des modèles différents donnent des résolutions divergentes à différents groupes, brisant la communication.
  • Fracture des coalitions : La fixation d'un sens unique détruit la capacité de coordination que permettait l'ambiguïté (ex: slogans politiques ou accords diplomatiques qui reposent sur une ouverture interprétative).
• Diminution de la tolérance à l'ambiguïté : La délégation habituelle de la construction du sens aux modèles affaiblit collectivement la capacité humaine à supporter l'incertitude et à exercer un jugement critique.

4. Résultats et Illustrations

Les auteurs démontrent que ces risques ne sont pas théoriques mais déjà en train de se matérialiser :

• Alignement Constitutionnel : Dans les modèles s'auto-régulant via des principes vagues (ex: « éviter les préjudices »), les modèles choisissent arbitrairement une interprétation morale parmi plusieurs possibles. Si les modèles divergent, c'est vu comme un bruit ; s'ils convergent, cela crée une fausse illusion de consensus moral.
• LLM-as-a-Judge : Lorsqu'un modèle évalue la « nouveauté » d'une idée ou la « toxicité » d'un texte, il doit trancher sur des concepts subjectifs. En fournissant un score unique, il efface le débat nécessaire sur les critères d'évaluation et impose ses propres biais normatifs comme des faits objectifs.
• Interprétation Juridique : L'utilisation de LLM par des juges pour déterminer le « sens ordinaire » d'un terme (ex: « aménagement paysager ») risque de figer une interprétation contestable en une vérité factuelle, court-circuitant la procédure judiciaire de justification publique et d'appel.

5. Signification et Recommandations

Signification :
Ce papier met en lumière un risque sous-estimé de l'IA générative : non pas seulement la désinformation factuelle, mais la destruction de l'espace épistémique nécessaire à la démocratie, à l'éducation et à l'évolution des concepts. En remplaçant l'ambiguïté productive par une fausse clarté, les LLM risquent de rigidifier les normes sociales, d'appauvrir le débat public et de dégrader les compétences humaines de jugement.

Stratégies d'atténuation (Mitigation) :
Les auteurs proposent une approche multi-couches pour concevoir des systèmes qui préservent l'ambiguïté :

1. Entraînement et Alignement : Entraîner les modèles à reconnaître l'ambiguïté, à proposer plusieurs interprétations, à poser des questions de clarification et à privilégier l'abstention ou l'hésitation plutôt que la certitude prématurée.
2. Contraintes de Déploiement : Passer de la classification binaire à des flux de travail nuancés (ex: signaler les cas limites aux humains, utiliser le raisonnement analogique plutôt que l'application rigide de règles).
3. Interfaces et Interactions : Concevoir des interfaces qui exposent la pluralité des interprétations (ex: afficher plusieurs options avec leurs justifications), inviter l'utilisateur à contester ou affiner la réponse, et éviter le « nourrissage » passif.
4. Gestion des Prompts Sous-spécifiés : Rendre explicites les dimensions normatives cachées dans les prompts (ex: demander à l'utilisateur de choisir entre plusieurs représentations plutôt que de laisser le modèle deviner).

Conclusion :
L'objectif n'est pas d'éliminer l'ambiguïté, mais de concevoir des systèmes sociotechniques qui aident les utilisateurs à naviguer dans des concepts contestés tout en préservant les conditions nécessaires pour que ces concepts continuent d'être débattus, révisés et légitimés. Il s'agit de passer de systèmes qui imposent une clarté fausse à des systèmes qui soutiennent le travail difficile, mais nécessaire, de donner du sens à un monde irréductiblement ambigu.