Résumé technique : L'empreinte digitale de l'Oracle : erreurs de prévision corrélées des IA et limites de la transmission des biais

Énoncé du problème

La « sagesse des foules » repose sur l'indépendance statistique des erreurs individuelles ; lorsque les prévisionnistes se trompent dans des directions idiosyncrasiques, leurs erreurs s'annulent lors de l'agrégation. Cependant, l'adoption généralisée des modèles de langage (LLM) pour l'aide à la décision introduit un risque de monoculture épistémique. Si les prévisionnistes humains consultent un petit ensemble de modèles d'IA partageant des modes d'échec systématiques et corrélés, la diversité de la « foule » s'effondre. L'article examine trois conditions nécessaires pour que cette monoculture cause des dommages :

1. Les LLM doivent présenter des biais systématiques de prévision.
2. Ces biais doivent être fortement corrélés entre différents modèles (même ceux provenant d'organisations différentes).
3. Les décideurs humains doivent absorber et propager ces biais dans leurs propres prévisions.

Méthodologie

L'étude utilise des données provenant de Metaculus, une plateforme de prévision en ligne comportant des questions binaires résolues et une vérité terrain vérifiable. La recherche est divisée en trois études :

• Étude 1 (Carte des biais des LLM) : Les auteurs ont interrogé trois LLM majeurs (GPT-4o d'OpenAI, Claude Sonnet d'Anthropic et Gemini 1.5 Pro de Google) sur 568 questions binaires résolues. Ils ont calculé les erreurs signées ($e = p - o$) et mesuré les corrélations d'erreurs par paires entre les modèles. Pour traiter une éventuelle fuite de données d'entraînement (où les modèles pourraient connaître les réponses grâce à leurs données d'entraînement), ils ont appliqué une heuristique de détection de fuite et analysé un sous-ensemble « propre » de 414 questions.
• Étude 2 (Changement temporel) : En utilisant une conception intra-question, les auteurs ont suivi les déplacements des prévisions de la communauté à travers la frontière du lancement de ChatGPT (novembre 2022). Ils ont analysé 179 questions ouvertes avant et après cette date. Ils ont régressé le déplacement des prévisions de la communauté ($\Delta$) par rapport à la « traction vers la résolution » (mouvement vers la vérité terrain) et à la « traction des LLM » (la direction dans laquelle le LLM tirerait la prévision). Cela a permis de contrôler la mise à jour rationnelle pour isoler l'influence spécifique des LLM.
• Étude 3 (Empreinte digitale du biais) : Les auteurs ont catégorisé les questions en cinq groupes thématiques (Technologie, Géopolitique, Économie, Santé, Science/Environnement). Ils ont comparé les modèles de biais au niveau des catégories des LLM avec les biais de la communauté humaine dans les périodes pré-ChatGPT et post-ChatGPT. Ils ont calculé la corrélation entre l'« empreinte digitale » des LLM (vecteur des biais à travers les catégories) et le vecteur de biais humain pour chaque période afin de déterminer si les biais humains convergèrent vers le modèle de l'IA.

Résultats clés

1. Forte corrélation des erreurs inter-modèles (Condition 1 & 2)

La découverte principale est que les LLM distincts fonctionnent comme un oracle unique avec du bruit plutôt que comme des sources indépendantes.

• Corrélation : La corrélation moyenne des erreurs par paires entre GPT-4o, Claude et Gemini était de $r = 0,77$ ($p < 0,001$) sur l'ensemble des données et de $r = 0,78$ sur le sous-ensemble propre.
• Implication : Cette corrélation est 3 à 5 fois plus élevée que les corrélations typiques parmi les prévisionnistes humains ($r \approx 0,1–0,3$). Les auteurs calculent qu'un ensemble de trois tels modèles équivaut effectivement à seulement 1,3 prévisionnistes indépendants, offrant des gains de diversité négligeables par rapport à la consultation d'un seul modèle.
• Direction du biais : Les trois modèles ont présenté un biais directionnel positif (surestimation des résultats « Oui ») et une surconfiance dans les probabilités de la gamme médiane.

2. Absence de transmission détectable aux prévisionnistes d'élite (Condition 3)

L'étude 2 n'a trouvé aucune preuve statistiquement significative que les biais des LLM se soient propagés dans les prévisions de la communauté Metaculus au-delà de la mise à jour rationnelle.

• Analyse de régression : Bien que la corrélation brute entre les déplacements de la communauté et la direction de la traction des LLM fût positive ($r = 0,20, p = 0,007$), cela s'expliquait entièrement par le mouvement de la communauté vers la vérité terrain (Traction vers la résolution, $\beta_1 = 0,061, p < 0,001$).
• Influence des LLM : Le coefficient pour l'influence spécifique aux LLM ($\beta_2$) n'était pas significatif ($\beta = 0,023, p = 0,36$).
• Précaution : Les auteurs notent une faible puissance statistique (23 %) pour détecter de petits effets et reconnaissent que les prévisionnistes de Metaculus constituent une population d'élite, hautement calibrée, représentant un « meilleur scénario » pour l'indépendance.

3. Inversion de l'hypothèse de l'empreinte digitale (Condition 3)

Contrairement à l'hypothèse selon laquelle l'IA imprimerait de nouveaux biais sur les humains, l'étude 3 a révélé que les biais humains correspondaient déjà aux biais des LLM avant que ChatGPT ne soit largement disponible.

• Pré-ChatGPT : La corrélation entre l'empreinte digitale du biais des LLM et le biais humain était forte ($r = 0,87$).
• Post-ChatGPT : La corrélation s'est affaiblie pour atteindre $r = -0,28$.
• Interprétation : Les LLM n'ont pas introduit de biais nouveaux ; ils ont hérité des biais cognitifs humains existants de leurs données d'entraînement. L'affaiblissement de la corrélation post-ChatGPT peut indiquer un « effet de prise de conscience », où les prévisionnistes experts (en particulier dans la technologie) ont reconnu et corrigé la surconfiance de l'IA.

Signification et affirmations

L'article conclut qu'une monoculture épistémique est « construite mais pas encore activée ».

• L'infrastructure de l'échec : La découverte la plus robuste est que l'écosystème de l'IA manque de diversité au niveau des modèles. Consulter plusieurs LLM majeurs n'apporte presque aucune indépendance supplémentaire par rapport à la consultation d'un seul, car ils partagent les mêmes modes d'échec.
• Miroirs de biais, pas sources : Les auteurs soutiennent que les LLM agissent comme des miroirs de biais. Ils reflètent et rigidifient les biais déjà présents dans l'écosystème de l'information humaine (médias, discours public) plutôt que d'injecter des erreurs étrangères.
• Le risque d'amplification : Le danger ne réside pas dans l'introduction de nouvelles erreurs par l'IA, mais dans la fourniture d'une confirmation autoritaire des biais humains existants. Lorsqu'un prévisionniste humain consulte un LLM qui partage son biais, le « mécanisme correctif » consistant à rencontrer un point de vue désaccordé est perdu. Cela crée un « verrouillage de biais » structurellement analogue, mais plus puissant, aux chambres d'écho des réseaux sociaux, en raison de la perception d'objectivité de l'IA.
• État actuel : Sur des plateformes d'élite comme Metaculus, les prévisionnistes humains restent plus précis et indépendants que les modèles d'IA. Cependant, à mesure que les outils d'IA s'intègrent dans les flux de travail pour des populations moins expertes, le risque d'échec corrélé à grande échelle augmente.

L'article souligne que, bien que la transmission des biais aux prévisionnistes d'élite ne soit pas encore détectable, les prérequis pour un risque systémique sont en place : les modèles partagent les mêmes biais et ils sont de plus en plus traités comme des sources autoritaires.