💬 NLP

Evaluating Scoring Bias in LLM-as-a-Judge

Cet article traite de la question sous-étudiée du biais de notation dans les systèmes LLM-as-a-Judge en définissant et en quantifiant trois nouveaux types de biais — les biais liés à l'ordre des rubriques, aux identifiants de score et aux scores des réponses de référence — et en proposant un cadre complet pour les atténuer grâce à une conception améliorée des invites et à une évaluation automatisée.

Auteurs originaux : Qingquan Li, Shaoyu Dou, Kailai Shao, Chao Chen, Haixiang Hu

Publié 2026-05-22

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Qingquan Li, Shaoyu Dou, Kailai Shao, Chao Chen, Haixiang Hu

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous ayez embauché un enseignant robot automatisé très intelligent pour corriger des dissertations. Ce robot est censé être équitable, objectif et cohérent. Vous lui donnez la dissertation d'un élève et une grille d'évaluation (une liste de contrôle de ce qui fait une bonne dissertation), et il attribue à la dissertation une note de 1 à 5.

Ce papier traite de la découverte selon laquelle même les enseignants robots les plus intelligents sont en réalité assez facilement trompés. Ils ne se contentent pas d'examiner la dissertation ; ils sont perturbés par la manière dont les instructions sont rédigées, même si les instructions disent exactement la même chose.

Voici la décomposition des résultats du papier en utilisant des analogies simples :

Le problème central : l'effet « Magic 8-Ball »

Les chercheurs ont constaté que si vous modifiez légèrement la mise en forme des instructions de notation, sans en changer le sens réel, la note attribuée par le robot à la même dissertation peut changer drastiquement. C'est comme demander à un ami : « Quelle est la qualité de ce film ? » et obtenir une réponse de « 5 sur 5 » si vous posez la question poliment, mais une réponse de « 2 sur 5 » si vous la posez la tête en bas. Le film n'a pas changé, mais la réponse a changé.

Le papier se concentre sur le biais de notation, qui se produit lorsque le robot attribue une note absolue différente (comme un 3 ou un 4) simplement parce que l'invite a été modifiée, et non parce que la réponse a changé.

Les trois façons dont le robot se trompe

Les chercheurs ont identifié trois « astuces » spécifiques qui perturbent la notation du robot :

Le biais de l'ordre du menu (ordre de la grille) :
Imaginez un menu de restaurant. Habituellement, les entrées sont listées en premier, puis les plats principaux. Si vous inversez le menu pour que les plats principaux soient listés en premier, est-ce que la nourriture a un goût différent ? Non. Mais l'enseignant robot le pense.
- La découverte : Si les règles de notation sont listées de « 1 à 5 » (du bas vers le haut), le robot note différemment que si elles sont listées de « 5 à 1 » (du haut vers le bas) ou dans un ordre aléatoire. Le robot est perturbé par la séquence.
Le biais de la badge de nom (ID de score) :
Habituellement, nous utilisons des chiffres comme 1, 2, 3, 4, 5. Mais que se passe-t-il si nous utilisons des lettres (A, B, C, D, E) ou des chiffres romains (I, II, III, IV, V) ?
- La découverte : Le cerveau du robot réagit différemment à ces différents « noms » pour les scores. Parfois, l'utilisation de chiffres romains rend le robot meilleur pour noter ; parfois, cela le rend pire. C'est comme si le robot avait un alphabet préféré.
Le biais de « l'exemple parfait » (note de la réponse de référence) :
Parfois, les enseignants donnent aux élèves un « exemple parfait » d'une dissertation pour montrer à quoi ressemble un « 5 ». Les chercheurs ont testé ce qui se passe s'ils attachent une note à cet exemple.
- La découverte : Si vous montrez au robot un exemple parfait et que vous l'étiquetez « Score 5 », le robot devient très cohérent et précis. Cependant, si vous étiquetez ce même exemple parfait comme un « Score 3 », le robot se trompe et commence à attribuer des notes plus basses à tout le reste, en pensant : « Oh, si l'exemple parfait n'est qu'un 3, alors la dissertation de cet élève doit être terrible. »

Les expériences : tester les robots

Les chercheurs ont testé cela sur plusieurs « enseignants robots » (modèles d'IA) différents, allant des plus puissants (comme GPT-4o) aux plus petits et moins chers.

Les gros robots contre les petits robots : Les robots les plus puissants étaient moins facilement perturbés. Ils étaient comme un enseignant senior qui connaît si bien la matière que l'inversion de l'ordre du menu ne les déstabilise pas. Les petits robots étaient comme des enseignants stagiaires nerveux ; un tout petit changement dans les instructions faisait osciller leurs notes de manière sauvage.
La surprise : Parfois, les « astuces » ont en fait aidé ! Pour certains robots, l'utilisation de chiffres romains ou l'inversion de l'ordre des règles les a rendus plus précis dans leur notation que la méthode standard. Il s'avère que la manière « standard » dont les humains écrivent habituellement les invites n'est pas toujours la meilleure façon pour les robots.

Les solutions : comment corriger la notation

Sur la base de leurs expériences, les auteurs suggèrent trois façons de rendre ces juges robots plus fiables :

Embaucher les gros robots : Si vous avez besoin d'une note critique (comme pour un emploi ou une école), utilisez le modèle d'IA le plus puissant disponible. Ils sont naturellement plus stables et moins susceptibles d'être influencés par des astuces de mise en forme.
Enfreindre les règles (intentionnellement) : Ne copiez pas simplement la liste standard « 1 à 5 ». Essayez de lister les règles de « 5 à 1 », ou utilisez des lettres au lieu de chiffres. Le papier suggère que faire quelque chose de légèrement « non conventionnel » mais clair peut en fait empêcher le robot de tomber dans ses pièges de biais habituels.
Montrer l'exemple parfait (avec un 5) : Si vous allez montrer au robot une réponse « référence d'or » pour l'aider à noter, assurez-vous de l'étiqueter comme un « 5 » (la note la plus élevée). Cela ancre la réflexion du robot et le rend beaucoup plus précis.

La conclusion

Le papier conclut que « LLM-as-a-Judge » (utiliser l'IA pour noter l'IA) n'est pas aussi objectif que nous le pensions. Les robots sont sensibles à la présentation des règles, et non seulement aux règles elles-mêmes. Pour obtenir des notes équitables, nous devons faire très attention à la manière dont nous rédigeons les instructions, peut-être en utilisant les modèles les plus puissants et en concevant nos invites d'une manière légèrement différente de ce à quoi nous sommes habitués.

Résumé Technique : Évaluation des Biais de Notation dans le Paradigme LLM-comme-Juge

Définition du Problème

Le paradigme « LLM-comme-Juge » utilise des Modèles de Langage à Grande Échelle (LLM) comme évaluateurs automatisés pour fournir un feedback évolutif sur des tâches complexes. Alors que la recherche existante a largement investigué les biais dans les évaluations comparatives (par exemple, déterminer quelle réponse est meilleure entre deux), les évaluations basées sur la notation — où un LLM attribue un score absolu à une seule réponse — restent sous-investigées. Les méthodes basées sur la notation sont souvent plus pratiques pour les applications industrielles et l'analyse quantitative standardisée.

Ce papier identifie une lacune critique : les juges LLM basés sur la notation présentent une instabilité significative lorsque leurs invites sont perturbées, même lorsque la cible d'évaluation (la réponse notée) reste inchangée. Les auteurs définissent le biais de notation comme le décalage mesurable des scores exhibé par un juge LLM lorsqu'il est soumis à des perturbations dans l'invite de notation elle-même, plutôt qu'à des changements de la cible d'évaluation.

Méthodologie

Cadre d'Évaluation

Les auteurs proposent un cadre complet pour quantifier le biais de notation, inspiré de travaux antérieurs sur le biais d'invite. Le cadre implique :

Perturbation d'Invite : Modification systématique des composants non-cibles de l'invite de notation tout en maintenant l'instance de la cible d'évaluation ( $I$ ) constante.
Métriques : Trois dimensions d'évaluation sont utilisées :
- Stabilité : Mesurée par le Taux d'Inversion (FP) (le pourcentage d'échantillons où le score change) et l'Écart Absolu Moyen (MAD) entre les scores perturbés et une référence.
- Précision : Mesurée par les coefficients de corrélation de Spearman ( $\rho$ ) et de Pearson ( $r$ ) entre les scores du juge et les « scores de référence » (dérivés de LLM avancés comme GPT-4.1 et d'annotateurs humains).
- Tendance de Notation : Analysée via des histogrammes de distribution des scores pour détecter des préférences inhérentes pour des catégories de scores spécifiques.

Types de Perturbation

L'étude introduit et définit trois types novateurs de biais de notation :

Biais d'Ordre de la Grille : Altération de la séquence des descriptions de scores dans la grille (par exemple, ordre croissant 1–5, ordre décroissant 5–1, ou ordre aléatoire).
Biais d'Identifiant de Score : Modification des identifiants utilisés pour les scores (par exemple, chiffres arabes {1–5}, notes alphabétiques {A–E}, ou chiffres romains {i–v}).
Biais de Score de la Réponse de Référence : Investigation de l'impact de l'attachement de scores spécifiques (1–5) aux réponses de référence fournies dans l'invite, un facteur précédemment inexploré dans le contexte de la robustesse.

Jeux de Données et Modèles

Jeux de Données : L'évaluation utilise quatre benchmarks établis : BiGGen Bench, FLASK, MT Bench et Vicuna Bench. Pour les jeux de données manquant de réponses de référence pour tous les niveaux de score (BiGGen Bench et FLASK), les auteurs ont développé un pipeline automatique de synthèse de données (boucle génération-examen) pour créer des réponses de référence pour les scores 1 à 4.
Modèles Juges : Les expériences ont été menées sur un ensemble diversifié de modèles, incluant GPT-4o, DeepSeek-V3-671B, Qwen3-32B, Qwen3-8B et Mistral-Small-24B-Instruct.
Scores de Référence : GPT-4.1 a été utilisé pour générer les scores de référence, validés comme ayant la corrélation la plus élevée avec les annotations humaines parmi les modèles testés.

Résultats Clés

1. Omniprésence du Biais de Notation

Même les LLM les plus avancés souffrent de biais de notation substantiels. Les perturbations de la structure de l'invite entraînent des incohérences significatives :

Stabilité : Sous perturbation, les Taux d'Inversion (FR) variaient d'environ 16 % à plus de 46 % selon le modèle et le type de perturbation. Par exemple, Qwen3-8B a exhibé un FR de 46,22 % sur BiGGen Bench sous une simple perturbation d'ordre de grille décroissante, ce qui signifie que près de la moitié de ses scores ont changé.
Sensibilité du Modèle : Les modèles plus grands et plus performants (par exemple, GPT-4o, DeepSeek-V3) ont généralement démontré une plus grande robustesse (FR et MAD plus faibles) par rapport aux modèles plus petits (par exemple, Qwen3-8B).

2. Impact Non Linéaire sur la Précision

Contrairement à l'hypothèse selon laquelle le biais est toujours préjudiciable, l'étude a révélé que certaines perturbations peuvent améliorer la précision de la notation par rapport aux scores de référence :

Identifiant de Score : L'utilisation de chiffres romains a amélioré la précision de GPT-4o, tandis que les notes alphabétiques ont amélioré DeepSeek-V3-671B. Inversement, ces changements ont souvent dégradé la précision d'autres modèles.
Ordre de la Grille : Les ordres de grille décroissants ont amélioré la précision pour DeepSeek-V3 et Mistral-Small, tandis que les ordres aléatoires ont généralement nui à la précision sur tous les modèles.

3. Tendances de Notation et Réponses de Référence

Préférences Inhérentes : Différents modèles exhibent des distributions de notation distinctes (par exemple, DeepSeek-V3-671B tendait à attribuer des scores élevés, tandis que Mistral-Small favorisait le score 4).
Impact de la Réponse de Référence : L'inclusion d'une réponse de référence avec une note maximale (Score 5) a systématiquement produit la plus haute précision de notation et stabilisé les tendances de notation à travers les modèles. En revanche, les réponses de référence avec des scores inférieurs (1–4) ont souvent poussé les modèles à « tirer » leurs scores vers la référence, réduisant la précision.

Contributions Clés

Identification de Biais Novateurs : Le papier définit formellement et investigue trois biais de notation précédemment non étudiés : le biais d'ordre de la grille, le biais d'identifiant de score et le biais de score de la réponse de référence.
Cadre d'Évaluation : Il propose le premier cadre dédié à la quantification du biais de notation, introduisant une suite de métriques (stabilité, précision, tendance) et un pipeline automatique de synthèse de données pour créer un corpus d'évaluation sur mesure.
Preuves Empiriques : L'étude fournit des preuves empiriques que même les LLM de l'état de l'art sont sensibles à ces biais, remettant en question la fiabilité des pratiques actuelles de notation automatisée.

Importance et Recommandations

Le papier soutient que la fiabilité du paradigme LLM-comme-Juge dans les applications industrielles est compromise par ces biais induits par les invites. Les auteurs offrent des pistes d'action concrètes pour concevoir des invites de notation plus robustes :

Sélection de Modèle : Privilégier les modèles plus grands et plus performants pour les évaluations à haut enjeu afin de mitiger le biais.
Conception d'Invite : Adopter une « déviation intentionnelle mais significative par rapport à la convention ». Cela inclut l'utilisation d'ordres de grille décroissants ou d'identifiants non numériques (comme des notes alphabétiques) là où cela est approprié, tout en évitant une randomisation chaotique.
Réponses de Référence : Lors de l'utilisation de réponses de référence, une référence avec une note maximale (Score 5) est recommandée pour maximiser la précision et la stabilité, s'alignant sur la logique de métriques telles que BLEU et ROUGE.

L'ouvrage conclut que la prise en compte du biais de notation est essentielle pour l'équité et la fiabilité de l'évaluation automatisée par LLM, fournissant une base pour de futures recherches sur les stratégies de débiaisage et l'ingénierie d'invites robuste.