Opaque Epistemic Mediation: How LLM Deployment Configurations Shape the Validation of Pseudo-Science
Cet article démontre que les grands modèles de langage commerciaux présentent des postures épistémiques instables et opaques à l'égard des affirmations pseudo-scientifiques, où les résultats de validation dépendent des configurations de déploiement, des types d'interface et des mises à jour silencieuses plutôt que d'être des propriétés intrinsèques des modèles eux-mêmes.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous déambulez dans une bibliothèque géante et animée où les livres sont écrits par des bibliothécaires invisibles et surdoués. Ce ne sont pas des bibliothécaires ordinaires ; ce sont des intelligences artificielles (IA) conversationnelles, entraînées sur presque tout ce que les humains ont jamais écrit. Elles deviennent nos sources de référence pour obtenir des réponses, allant de « comment faire un gâteau » à « cette théorie scientifique est-elle vraie ? ». Mais voici le piège : nous ne savons pas exactement comment ces bibliothécaires décident de ce qui est un fait ou une fiction. Ils n'ont pas un « cerveau » unique et immuable comme un humain ; ils ressemblent plutôt à une machine complexe dotée de nombreux réglages, filtres et règles que l'entreprise peut modifier en coulisses sans prévenir personne. Cette étude plonge dans un recoin spécifique de ce mystère : la façon dont ces bibliothécaires IA gèrent la « pseudo-science » — des idées qui ressemblent à de la science mais qui sont en réalité inventées ou rejetées par de vrais scientifiques, souvent utilisées pour pousser des agendas politiques sur la race et l'ethnicité. La grande question n'est pas seulement de savoir si l'IA connaît les faits (ce qu'elle connaît généralement), mais si la manière dont l'IA est configurée change sa réponse, lui faisant donner accidentellement (ou intentionnellement) son aval à des absurdités dangereuses.
Les chercheurs ont décidé de jouer au jeu du « repérer le mensonge » avec quatre des familles d'IA les plus célèbres : Claude, Grok, GPT et Gemini. Ils ont soumis ces bots à une affirmation spécifique et piégeuse basée sur le travail de Frank Salter, une figure connue pour promouvoir des idées ethnonationalistes que la biologie dominante rejette. L'affirmation tentait de détourner des concepts scientifiques réels (comme la façon dont les animaux aident leurs parents) pour argumenter que différents groupes ethniques sont génétiquement distincts d'une manière qui justifie leur séparation. Pour s'assurer que les bots prêtaient réellement attention, les chercheurs leur ont également posé deux questions de contrôle faciles : une sur un fait de base de l'évolution (sur lequel ils devraient tous s'accorder comme étant vrai) et une sur une idée démentie appelée lamarckisme (qu'ils devraient tous accepter comme étant fausse).
Les résultats ont été spectaculaires et ont révélé un monde caché d'instabilité. D'abord, les bots d'IA étaient excellents pour les questions faciles, identifiant correctement la vraie science et la fausse science. Mais lorsqu'il s'agissait de la déclaration piégeuse de Salter, les choses sont devenues bizarres. La plupart des bots ont donné un « score de crédibilité » faible (entre 15 et 40 sur 100), traitant correctement l'affirmation comme une science fragile. Cependant, une version spécifique de Grok — la version « Fast » qui alimente le chat par défaut sur la plateforme X — lui a donné un score massif de 70 à 75. Elle disait essentiellement aux utilisateurs : « Hé, cela semble assez crédible ! ». Ce n'était pas un coup de chance ; les chercheurs ont testé cela sur plusieurs mois, et cette version spécifique de Grok donnait systématiquement des scores élevés, tandis que les autres versions de Grok et tous les autres modèles d'IA donnać des scores faibles.
Plus étrange encore, les chercheurs ont découvert que le comportement de l'IA pouvait changer du jour au lendemain sans que personne ne dise un mot. Dans un instantané, le chat de Grok sur le site web agissait de manière chaotique, donnant des scores aléatoires. Deux semaines plus tard, après un « patch silencieux » (une mise à jour cachée sans annonce publique), ce même chat s'était soudainement stabilisé en donnant le score élevé de 70-75. C'était comme si un bibliothécaire avait soudainement décidé de recommander un faux livre comme un classique, et que personne n'avait prévenu les clients.
L'intrigue s'est intensifiée lorsque les chercheurs ont comparé la version « en coulisses » (utilisée par les développeurs via l'API) avec la version « en vitrine » (ce que voient les utilisateurs réguliers sur le site web). Pour le même modèle Grok, la version en coulisses donnait un score stable de 75, mais trois mois plus tard, la version en vitrine s'était effondrée, donnant des scores proches de zéro. C'était comme si le même bibliothécaire vous donnait une critique élogieuse lors d'une réunion privée, mais refusait ensuite de parler du livre quand vous posiez la question dans le hall. Les chercheurs ont également constaté que certains modèles, comme une version de Claude, refusaient parfois de répondre à la question, disant : « Je ne peux pas noter ceci car cela repose sur des idées nuisibles ». Mais même ce comportement « bon » était instable ; dans la version suivante du logiciel, ce refus avait disparu et le bot donnait un score faible à la place.
La principale conclusion est que l'opinion d'une IA n'est pas une vérité fixe à l'intérieur du cerveau d'un robot. Au contraire, c'est une cible mouvante façonnée par des réglages invisibles, des mises à jour cachées et la « porte » par laquelle vous entrez pour poser la question. L'étude suggère que lorsqu'une IA donne un score élevé à la pseudo-science, ce n'est pas nécessairement parce que l'IA y « croit », mais à cause de la manière dont l'entreprise l'a déployée. C'est un problème car ces systèmes deviennent nos enseignants et nos sources d'information, pourtant les règles qui décident de ce qu'ils disent sont opaques, changent silencieusement et sont parfois contradictoires. Les chercheurs soutiennent que nous avons besoin de nouveaux moyens pour tenir ces entreprises responsables, car en ce moment, la « vérité » qu'une IA vous raconte pourrait n'être que le reflet d'un interrupteur caché que l'on actionne derrière le rideau.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.