The Authenticity Gap in Human Evaluation

Dans le monde du langage informatique, où les machines sont enseignées pour écrire des histoires, répondre à des questions et tenir des conversations, il existe un problème persistant : comment savoir si la machine fait réellement du bon travail ? Pendant des années, la méthode standard a consisté à embaucher des personnes pour lire le texte produit par l'ordinateur et lui attribuer une note, un peu comme un juge lors d'un concours de talents. Ces évaluations humaines sont traitées comme la vérité ultime, l'étalon-or contre lequel tous les nouveaux programmes informatiques sont mesurés. La logique semble simple : si un ordinateur écrit une histoire que les gens évaluent hautement, c'est un bon écrivain. Mais cette approche repose sur une hypothèse cachée — que lorsqu'une personne donne un chiffre à un texte, ce chiffre capture parfaitement son ressenti réel. Elle suppose que la distance entre un score « bon » et un score « excellent » est la même pour tout le monde, et que la moyenne de ces scores nous indique exactement quel ordinateur est meilleur.

Une équipe de chercheurs de l'Université de Stanford a décidé d'examiner de plus près ce processus, non pas seulement pour voir si les juges faisaient leur travail, mais pour se demander si le système de notation lui-même était défectueux. Ils ont abordé le problème sous l'angle de la manière dont les économistes comprennent les choix humains, considérant la capacité d'un ordinateur à générer du texte comme une sorte de pari. Lorsqu'un ordinateur écrit, il ne produit pas un résultat unique et fixe ; il produit une gamme de résultats possibles, certains brillants et d'autres terribles. Les chercheurs ont découvert que la manière standard de demander aux humains de noter ces résultats échoue souvent à capturer ce que les gens préfèrent réellement. En fait, ils ont découvert que le simple fait de faire la moyenne de ces évaluations peut parfois inverser les résultats, faisant paraître un moins bon ordinateur meilleur qu'un meilleur, ou cachant le fait que les humains peuvent faire la différence entre une machine et une personne.

Pour corriger cela, les chercheurs ont proposé une toute nouvelle façon de solliciter les opinions. Au lieu de demander à une personne de noter une seule histoire sur une échelle de un à cinq, ils lui ont demandé de regarder les deux ordinateurs côte à côte et d'estimer la probabilité que l'un soit globalement meilleur que l'autre. Cette méthode, qu'ils appellent évaluation probabiliste au niveau du système, traite le juge humain non pas comme un calculateur de scores, mais comme un expert estimant une probabilité. Lorsqu'ils ont testé cette nouvelle méthode par rapport à l'ancienne en utilisant différentes versions d'un modèle de langage puissant, les résultats ont été frappants. L'ancienne méthode, qui est la norme de l'industrie depuis des années, n'a pas réussi à détecter des différences claires entre les modèles qui auraient dû être évidentes. Elle ne pouvait pas dire qu'un ordinateur plus grand et plus avancé était meilleur qu'un plus petit, et elle suggérait même qu'un ordinateur était nettement meilleur qu'un écrivain humain, une conclusion qui contredit les recherches précédentes.

La nouvelle méthode, cependant, a fonctionné exactement comme les chercheurs l'espéraient. Lorsque les gens utilisaient l'approche basée sur la probabilité, ils identifiaient systématiquement l'ordre correct des modèles d'ordinateurs, reconnaissant que les systèmes plus grands et plus complexes produisaient de meilleures histoires. Ils ont également identifié correctement que, si le plus petit ordinateur était clairement moins bon qu'un humain, le plus grand était indiscernable d'un écrivain humain. Ce succès n'était pas dû à avoir plus de personnes ou plus de données ; les chercheurs ont utilisé le même groupe de quatre-vingt-dix volontaires pour les deux tests. La différence résidait entièrement dans la manière dont la question était posée. La méthode standard, qui demande une note sur une échelle fixe, force les gens à faire des jugements que leur cerveau n'est pas programmé pour faire de manière cohérente. Elle suppose que l'écart entre un score de trois et un score de quatre signifie la même chose pour chaque personne, une hypothèse qui est rarement vérifiée dans la réalité.

Les chercheurs ont montré que ce défaut n'est pas seulement une erreur technique mineure, mais une incompréhension fondamentale du fonctionnement de la préférence humaine. Lorsque les gens sont invités à noter un texte sur une échelle, ils tentent souvent de deviner la distance entre les points, et ces devinettes peuvent varier considérablement d'une personne à l'autre. Une personne peut penser qu'un score de quatre est seulement légèrement meilleur qu'un trois, tandis qu'une autre peut penser qu'il est deux fois meilleur. Lorsque vous faites la moyenne de ces points de vue conflictuels, le résultat est un signal trouble qui obscurcit la vérité. La nouvelle méthode contourne cette confusion en demandant aux gens de prendre du recul et de regarder la situation globale. Au lieu de juger une seule phrase, ils jugent l'ensemble du système, estimant à quelle fréquence ils préféreraient un ordinateur par rapport à un autre s'ils voyaient de nombreux exemples. Cette approche reconnaît que les humains ne peuvent pas voir tous les résultats possibles qu'un ordinateur pourrait générer, mais qu'ils peuvent néanmoins former un sens fiable de la supériorité d'un système basé sur un échantillon.

Les implications de cette découverte s'étendent bien au-delà du simple test de rédaction d'histoires par ordinateur. Cela remet en question la manière dont tout le domaine de l'intelligence artificielle évalue ses propres progrès. Pendant des années, les chercheurs ont construit de nouveaux modèles et ont affirmé qu'ils étaient meilleurs parce qu'ils recevaient des scores moyens plus élevés de la part de juges humains. Si ces scores sont mathématiquement infidèles à la préférence humaine, alors beaucoup de ces affirmations pourraient être erronées. L'étude suggère que le domaine doit s'éloigner des simples échelles de notation pour se tourner vers des méthodes qui respectent la complexité du jugement humain. En demandant aux gens d'estimer des probabilités plutôt que d'attribuer des chiffres, nous pouvons obtenir une image plus claire et plus honnête de ce que ces machines sont réellement capables de faire.

Dans leurs expériences, les chercheurs ont utilisé un ensemble spécifique de consignes de récit et ont demandé aux volontaires de comparer différentes versions d'un modèle de langage, allant d'une version petite et basique à une version massive et avancée. Ils ont également inclus des histoires écrites par de véritables humains pour servir de référence. Les résultats ont été clairs : la nouvelle méthode a récupéré toutes les préférences attendues, classant correctement les ordinateurs du moins bon au meilleur et plaçant avec précision l'écrivain humain dans le mélange. L'ancienne méthode, malgré l'utilisation des mêmes volontaires et des mêmes histoires, n'a récupéré que deux des cinq préférences attendues. Elle n'a pas réussi à percevoir la différence entre les ordinateurs de taille intermédiaire et, plus étonnamment, a conclu que l'écrivain humain était nettement moins bon que le plus grand ordinateur. Cette erreur met en évidence un angle mort dangereux dans les pratiques d'évaluation actuelles, où un protocole défectueux peut conduire les chercheurs à croire que leurs machines ont surpassé les capacités humaines alors qu'elles ne l'ont pas fait.

Les chercheurs ont également testé cette nouvelle approche sur la génération d'images, demandant aux gens de juger quel ordinateur produisait de meilleures images. Les résultats ont tenu bon à nouveau, montrant que la méthode fonctionne à travers différents types de tâches créatives. Ils ont constaté que plus les gens voyaient d'exemples, plus ils devenaient certains de leurs préférences, mais même avec un petit nombre d'exemples, la méthode basée sur la probabilité était capable de détecter le vainqueur correct. Cela suggère que la méthode est robuste et efficace, capable de fournir des réponses fiables sans nécessiter une quantité impossible de données. Elle respecte les limites de l'attention humaine tout en capturant l'essence de la préférence humaine.

En fin de compte, ce travail consiste à aligner nos outils sur la réalité. Le protocole standard pour évaluer l'intelligence artificielle a été construit sur une fondation d'hypothèses qui ne correspondent pas à la façon dont les humains pensent ou ressentent réellement. En déplaçant l'accent des chiffres arbitraires vers des estimations honnêtes de probabilité, les chercheurs ont offert une voie vers des évaluations plus précises et plus dignes de confiance. C'est un rappel que, dans la quête de construction de meilleures machines, nous devons d'abord nous assurer que nos méthodes pour les mesurer sont solides. L'objectif n'est pas seulement de savoir quel ordinateur gagne, mais de comprendre ce que cette victoire signifie réellement pour l'avenir de l'interaction homme-machine. À mesure que ces systèmes s'intègrent dans nos vies, réussir l'évaluation n'est pas seulement un exercice académique ; c'est une nécessité pour garantir que la technologie que nous construisons sert véritablement les personnes qui l'utilisent.