💻 computer science

When LLMs Agree, Are They Right? Auditing Self-Consistency and Cross-Model Agreement as Confidence Signals

Cet article remet en question la fiabilité de l'utilisation de l'auto-cohérence et de l'accord entre modèles comme signaux de confiance pour les grands modèles de langage, démontrant à travers une étude à grande échelle que si l'accord est un prédicteur positif mais faible de la justesse, il conduit souvent à une surconfiance chez les modèles de pointe où un accord élevé coïncide avec des erreurs fréquentes.

Auteurs originaux : Kaihua Ding

Publié 2026-07-10

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Kaihua Ding

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous organisiez un immense concours de talents pour trouver le meilleur cerveau artificiel. Vous avez un jury de juges (les modèles d'IA) et vous leur posez un million de questions pièges. La grande règle que tout le monde suit est : « Si tous les juges s'accordent sur une réponse, elle doit être correcte. » Cela semble être du bon sens, n'est-ce pas ? Si dix personnes disent que le ciel est vert, peut-être voient-elles toutes un filtre étrange ? Mais si cent personnes le disent, c'est probablement vrai !

Ce document est comme une histoire de détective qui plonge dans les coulisses pour vérifier si cette règle fonctionne réellement. L'auteur, Kaihua Ding, a mené une expérience massive avec 53 différents « coureurs » (des personnes faisant passer les tests d'IA) et leur a fait générer 265 000 réponses à certaines des questions de mathématiques et de sciences les plus difficiles disponibles (appelées GPQA Diamond et AIME).

Voici le rebondissement que le document révèle : L'accord n'est pas la même chose que l'exactitude.

Le pièque de la « chambre d'écho »

Considérez les modèles d'IA comme un groupe d'étudiants qui auraient tous étudié à partir du même manuel légèrement erroné. S'ils ont tous mémorisé la même mauvaise réponse à une question, ils lèveront tous la main et s'accorderont sur cette mauvaise réponse. Ils ne sont pas d'accord parce qu'ils sont intelligents ; ils sont d'accord parce qu'ils partagent le même biais ou une « heuristique mémorisée ».

Le document a découvert que lorsque les modèles d'IA sont d'accord avec eux-mêmes (ou entre eux), il s'agit souvent simplement d'un écho d'une erreur partagée, et non d'un signe de vérité.

L'élève brillant « sur-confiant »

La découverte la plus surprenante concerne les modèles « frontières » — les versions d'IA les plus avancées et les plus intelligentes. On pourrait penser que le modèle le plus intelligent serait le plus fiable. Le document montre le contraire est vrai dans cette configuration spécifique.

Le constat : Le modèle le plus avancé (gpt-4.1) était d'accord avec lui-même 89 % du temps (un score de confiance très élevé). Mais lorsqu'il était d'accord, il n'avait raison que 48 % du temps.
L'analogie : Imaginez un étudiant qui est si sûr de sa réponse qu'il la crie avec 100 % de confiance, mais qui se trompe en réalité la moitié du temps. Le document appelle cela de la « sur-confiance ». En fait, ce modèle super-intelligent était moins bon pour signaler quand il avait raison qu'un modèle de « niveau intermédiaire » légèrement moins avancé.
La preuve : L'étude a mesuré cela à l'aide d'un lien statistique (appelé corrélation) entre « l'accord » et « l'exactitude ». Pour le modèle le plus intelligent, ce lien était très faible (environ 0,20), ce qui signifie que sa haute confiance était presque inutile comme signal de confiance.

Est-ce que le « Chain-of-Thought » aide ?

Certaines personnes pensent que si vous demandez à l'IA de « montrer son raisonnement » (une méthode appelée Chain-of-Thought), elle sera plus honnête.

Le résultat : Oui, demander à l'IA de montrer son travail l'a rendue légèrement plus précise (elle a répondu correctement à plus de questions).
Le bémol : Cependant, cela n'a pas rendu le « signal d'accord » beaucoup meilleur. L'IA ne parvient toujours pas à vous dire de manière fiable quand elle a raison simplement par le degré d'accord avec elle-même. C'est comme un étudiant qui écrit une explication longue et détaillée mais qui se trompe toujours dans la réponse finale, et vous ne pouvez pas faire la différence simplement en regardant la clarté de son écriture.

Le mystère du « biais partagé »

Les chercheurs ont également vérifié si différentes familles d'IA (comme GPT et Claude) commettaient les mêmes erreurs.

La découverte : Ils ont découvert que lorsque différents modèles d'IA se trompaient sur une question, ils choisissaient souvent la même mauvaise réponse exacte.
L'analogie : C'est comme si deux étudiants différents, venant d'écoles différentes, commettaient tous deux la même erreur sur un problème de mathématiques parce qu'ils avaient tous les deux appris une astuce spécifique et erronée en classe. Cela suggère que lorsque les IA s'accordent sur une mauvaise réponse, ce n'est pas une coïncidence chanceuse ; c'est un biais partagé ancré dans leur entraînement.

Devrions-nous alors arrêter d'utiliser l'accord ?

Pas exactement. Le document ne dit pas « ne faites jamais confiance à l'accord ». Il dit : « Utilisez-le avec prudence, et connaissez vos limites. »

Bon pour la budgétisation : L'accord est excellent pour décider de la quantité de puissance de calcul à dépenser. Si les modèles sont tous incertains (faible accord), vous pourriez vouloir consacrer plus de temps ou d'argent pour obtenir une meilleure réponse.
Mauvais pour la confiance : Vous ne devriez jamais utiliser l'accord comme un bouton unique de « faites-moi confiance ». Si un modèle super-intelligent dit : « Je suis sûr à 90 % », et qu'il est d'accord avec lui-même, vous ne pouvez toujours pas être certain qu'il a raison. En fait, le document suggère qu'orienter les questions difficiles vers le modèle le plus « intelligent » en se basant sur la confiance est une mauvaise idée car ce modèle est le plus sur-confiant.

L'essentiel

Le document conclut que la cohérence de soi (l'accord) est un « proxy conditionnel ». C'est un indice utile dans certaines situations (comme avec les modèles de niveau intermédiaire), mais ce n'est pas une garantie de vérité.

Ce qui est prouvé : Dans ces tests spécifiques, un fort accord signifiait souvent une haute confiance mais une faible précision, surtout pour les modèles les plus avancés.
Ce qui est suggéré : La « sur-confiance » pourrait être un effet secondaire de la façon dont ces modèles sont entraînés, et les erreurs partagées surviennent parce que différents modèles apprennent à partir de données similaires.
Ce qui est inconnu : Le document note que ces résultats sont spécifiques aux modèles et aux questions testés. Nous ne savons pas si cela se produit avec chaque type d'IA ou chaque type de question, mais l'avertissement est clair : Ne supposez pas que parce que tout le monde est d'accord, ils ont raison. Parfois, ils regardent simplement tous la même carte erronée.

Résumé Technique : Quand les LLM sont d'accord, sont-ils corrects ?

Énoncé du Problème

Les grands modèles de langage (LLM) sont de plus en plus déployés en tant que systèmes « LLM-as-judge » (le LLM comme juge), souvent sous forme d'ensembles ou de panels de type « mixture-of-experts » (mélange d'experts), pour évaluer les sorties de l'IA dans les pipelines d'entreprise. Ces systèmes reposent sur une intuition omniprésente : que l'accord (qu'il s'agisse d'un accord entre plusieurs juges ou d'une auto-cohérence via des échantillons stochastiques provenant d'un seul modèle) signale la correctitude. Par conséquent, l'accord est utilisé comme un proxy de confiance pour le routage basé sur les coûts, l'allocation adaptative du budget d'échantillonnage et la prédiction sélective (abstention).

Cependant, l'article soutient que cette hypothèse est peu fiable. L'accord n'est pas synonyme de précision. Un modèle peut être d'accord avec lui-même ou avec d'autres modèles en raison de biais partagés, d'heuristiques mémorisées, de priors de position d'options ou d'hallucinations systématiques plutôt que de la vérité. La question centrale est la suivante : Dans quelles conditions la fonction de signal d'accord est-elle un proxy utilisable pour la correctitude, et quand échoue-t-elle ?

Méthodologie

Les auteurs mènent un audit à grande échelle, par exécution croisée (cross-runner), pour séparer les erreurs récurrentes et confiantes du bruit stochastique.

Provenance des données : L'étude analyse 265 000 échantillons générés par 53 participants (participants à un cours de master) qui ont soumis des sorties de modèles. Bien que les participants partagent un contexte de cours, leurs exécutions ont été traitées comme des soumissions indépendantes. Le jeu de données couvre 394 cas uniques issus de GPQA Diamond (choix multiples à 4 options de niveau master) et AIME (mathématiques de compétition).
Design Expérimental :
- Modèles : Les expériences se concentrent sur la famille gpt-4.1 (nano, mini et frontier gpt-4.1) et un contrôle exploratoire sur trois niveaux de Claude d'Anthropic (haiku, sonnet, opus).
- Axes de comparaison :
  - Axe A (Niveau) : Nano vs. Mini.
  - Axe B (Prompting) : Zero-shot vs. Chain-of-Thought (CoT) sur le modèle Mini.
  - Axe C (Échelle) : Mini vs. Frontier gpt-4.1.
- Paramètres : Température = 1.0, $K=50$ échantillons par cas.
Métriques :
- Auto-cohérence ( $C$ ) : La proportion d'échantillons en accord avec la réponse majoritaire ( $n_{maj}/K$ ).
- Majorité-Correctitude ( $M$ ) : Un indicateur binaire indiquant si la réponse majoritaire correspond à la vérité terrain.
- Précision de l'échantillon ( $A$ ) : La proportion d'échantillons individuels correspondant à la vérité terrain.
- Corrélation : Rho de Spearman ( $\rho$ ) entre $C$ et $M$ (et $A$ ).
Inférence Statistique : En raison de données non i.i.d. (les participants contribuent à plusieurs lignes ; les cas sont partagés), les auteurs utilisent un bootstrap hiérarchique groupé par participant (rééchantillonnage des participants, puis des cas au sein des participants) et un bootstrap groupé par cas pour la robustesse.

Principales Contributions

Audit à grande échelle : Un audit de 265 000 échantillons de l'auto-cohérence en tant que signal de confiance sur des benchmarks de raisonnement difficiles, utilisant un bootstrap hiérarchique pour contrôler les dépendances entre participants et cas.
Preuve de la dégradation des modèles Frontier : Démonstration que le signal d'accord se dégrade sur les modèles frontier les plus cohérents. Ces modèles présentent une sur-confiance (haut $C$ ) sans gain correspondant de précision, rendant le routage basé sur la confiance vers eux contre-productif.
Analyse de la récurrence : Une séparation des erreurs stochastiques et de la fausseté récurrente et confiante. L'étude montre que de nombreuses erreurs confiantes ne sont pas du bruit d'échantillonnage mais réapparaissent à travers différents participants et prompts.
Contrôle du biais de position : Une expérience de permutation d'options révélant qu'une partie significative de la « confiance » dans les tests à choix multiples est pilotée par des priors de position d'option (ex: éviter l'option D) plutôt que par la compréhension sémantique.
Vérification inter-familles : Une analyse exploratoire montrant que les erreurs confiantes sont partiellement partagées entre les fournisseurs (GPT et Claude), suggérant que l'accord entre modèles peut refléter des biais de pré-entraînement partagés plutôt qu'une vérification indépendante.
Publication du jeu de données : Publication d'un jeu de données dé-identifié, avec schéma validé, et d'un pipeline d'analyse.

Résultats

1. L'accord est un prédicteur positif mais faible

À travers les 12 cellules expérimentales (combinaisons de modèle, de prompt et de benchmark), la corrélation entre l'auto-cohérence ( $C$ ) et la majorité-correctitude ( $M$ ) est positive mais faible ( $\rho \approx 0,20–0,59$ ).

Aucune cellule ne dépasse $\rho = 0,60$ .
Une règle d'« auto-acceptation à haut accord » admet toujours un nombre substantiel de réponses fausses.
Le signal dépend du régime : il est plus fort pour les modèles de niveau intermédiaire et plus faible pour les modèles frontier.

2. Le paradoxe du modèle Frontier

Le modèle frontier (gpt-4.1) présente la plus haute auto-cohérence ( $C=0,89$ sur GPQA) mais la plus faible corrélation entre l'accord et la correctitude ( $\rho(C, M) = 0,20$ ).

Sur-confiance : 77 % des cas GPQA pour le modèle frontier ont $C \ge 0,8$ , pourtant 48 % de ces réponses à haut accord sont fausses.
Calibration : Le modèle frontier possède la pire erreur de calibration attendue (ECE = 0,41) parmi toutes les configurations testées.
Implication : Router les cas difficiles vers le modèle frontier sur la base d'un accord élevé est contre-productif, car il hérite d'un taux d'erreur élevé.

3. Effets de la Chaîne de Pensée (CoT)

Précision : La CoT améliore la précision de manière robuste ( $\Delta A \approx +0,067$ sur GPQA).
Signal : La CoT n'apporte qu'une amélioration marginale au signal accord-correctitude ( $\rho(C, M)$ ). Bien qu'elle améliore la corrélation avec la précision de l'échantillon ( $A$ ), son effet sur le label de déploiement ( $M$ ) est limite ou nul selon la méthode de rééchantillonnage.

4. Erreurs récurrentes et partagées

Récurrence : Un sous-ensemble non négligeable d'erreurs confiantes (ex: 28 % des cas uniques GPQA pour gpt-4.1) sont fausses et confiantes ( $C \ge 0,8$ ) pour chaque participant, indiquant qu'il s'agit de biais systématiques plutôt que de bruit d'échantillonnage.
Biais de position : Dans GPQA, le mélange des options réduit significativement la précision et modifie les distributions de réponses majoritaires, confirmant que la « confiance » reflète souvent des priors de position (ex: sous-sélection de « D ») plutôt que la vérité.
Partage inter-fournisseurs : Sur les items GPQA partagés, les modèles GPT et Claude s'accordent fréquemment sur les mêmes mauvaises réponses avec un haut niveau de confiance. Ce taux dépasse une distribution nulle par permutation de labels, suggérant des biais partagés entre les fournisseurs.

5. Implications systémiques

Échantillonnage adaptatif : L'accord est utile pour allouer les ressources de calcul (échantillonnage adaptatif). Une règle adaptative utilisant l'accord pour arrêter l'échantillonnage prématurément permet d'économiser environ 60 % des échantillons tout en maintenant les taux d'erreur.
Politiques de routage : Un cascade de routage par confiance (bon marché $\to$ coûteux) performe mieux que le routage aléatoire mais est dominé par l'utilisation systématique du modèle de niveau intermédiaire. Le routage vers le modèle frontier sur-confiant dégrade les performances.

Signification et Revendications

L'article conclut que l'auto-cohérence n'est pas la précision, mais plutôt un proxy empirique conditionnel et dépendant du régime pour celle-ci.

Régimes utilisables : L'accord est un signal utile et grossier pour allouer le calcul (échantillonnage adaptatif) et est plus fiable pour les modèles de niveau intermédiaire non saturés.
Régimes inutilisables : L'accord est un mauvais score de confiance autonome, particulièrement pour les modèles frontier où l'accord élevé est déconnecté de la correctitude en raison de la sur-confiance et des biais partagés.
Implication de sécurité : Les systèmes qui traitent l'auto-cohérence comme un seuil de confiance définitif risquent de router des réponses confiantes mais fausses vers des chemins de confiance. L'article met en garde contre l'utilisation de l'accord comme raison pour escalader des cas difficiles vers les modèles frontier les plus cohérents.

Les auteurs insistent sur la modestie de leurs affirmations : l'étude est un audit de benchmarks spécifiques (GPQA, AIME) et de familles de modèles, et les résultats soulignent la nécessité de traiter l'accord comme un « signal grossier d'économie de coûts » plutôt que comme un seuil de vérité fiable.