Ideology by Alphabet: Option Order and the Measurement of Machine Political Preferences
Cet article démontre que les idéologies politiques apparentes des grands modèles de langage sont largement des artefacts de biais liés à l'ordre fixe des réponses plutôt que de véritables préférences, car la randomisation de l'ordre des options dissipe les grappes idéologiques précédemment identifiées et révèle que des agencements de créneaux spécifiques peuvent étiqueter arbitrairement les modèles avec des positions politiques contradictoires.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Lorsque nous demandons à un ordinateur de faire un choix, nous supposons souvent qu'il pèse les faits de la situation. Si un grand modèle de langage — un type d'intelligence artificielle capable de lire et d'écrire comme un humain — est invité à choisir entre quatre solutions différentes à un problème, nous attendons que sa réponse reflète sa compréhension du sujet. C'est ainsi que nous traitons les électeurs humains ou les panels d'experts : nous supposons que leurs préférences sont ancrées dans leurs valeurs et leurs connaissances. Mais dans le monde de la conception de sondages, il existe un tour connu de l'esprit appelé « effet d'ordre ». Si vous présentez une série d'options à une personne pour qu'elle choisisse, elle est statistiquement plus susceptible de choisir la première de la liste, simplement parce que c'est la première qu'elle voit. Cela se produit lorsque le cerveau prend un raccourci lorsqu'il est fatigué ou lorsque les choix sont difficiles à distinguer. Depuis des décennies, les chercheurs en sciences sociales savent que l'ordre des mots sur un bulletin de vote ou un questionnaire peut modifier l'issue d'un vote. La question qui est restée sans réponse est de savoir si ces mêmes raccourcis s'appliquent aux machines et, si c'est le cas, s'ils sont assez puissants pour inventer une personnalité politique là où il n'en existe aucune.
Une équipe de chercheurs de l'Université de Debrecen, en Hongrie, a entrepris de tester cela en traitant les modèles d'intelligence artificielle comme s'ils étaient des électeurs politiques. Ils ont créé un test massif composé de 400 scénarios différents impliquant des questions de gouvernance réelles, telles que la gestion de la sécurité au travail, la régulation des marchés ou la distribution des prestations sociales. Pour chaque scénario, ils ont présenté aux modèles quatre options distinctes et leur ont demandé de noter chacune d'elles et d'en désigner une gagnante. Ils ont mené ce test sur 15 modèles open-source différents, générant plus de 640 000 réponses individuelles. Dans la première phase de l'expérience, ils ont utilisé la méthode standard utilisée par la plupart des chercheurs : ils ont gardé l'ordre des options exactement le même pour chaque question. Si l'option « gouvernement » était toujours placée en premier, elle restait en premier. Si l'option « individu » était toujours en dernier, elle restait en dernier.
Lorsque les chercheurs ont analysé les résultats de cette configuration à ordre fixe, ils ont trouvé un motif qui ressemblait étrangement à une véritable fracture politique. Les modèles se sont divisés en deux groupes clairs. Un groupe, que les chercheurs ont appelé les « rationalistes de marché », favorisait systématiquement les options liées à l'utilité, aux mesures et aux incitations financières. L'autre groupe, les « institutionnalistes », favorisait les options liées aux règles, à l'équité et à la responsabilité communautaire. Cette division paraissait si nette et si logique qu'elle ressemblait à une célèbre théorie de la science politique qui divise les économies en types libéraux et coordonnés. Les résultats étaient si cohérents qu'ils ont passé tous les tests standards de fiabilité. Il semblait que les chercheurs avaient réussi à cartographier les idéologies politiques de l'intelligence artificielle.
Cependant, les chercheurs soupçonnaient que cette carte politique si nette était une illusion créée par le test lui-même. Pour le découvrir, ils ont repris exactement les mêmes 400 questions, mais cette fois-ci, ils ont mélangé l'ordre des options. Pour chaque question, ils ont fait pivoter les quatre choix de sorte que chaque option apparaisse à la première, deuxième, troisième et quatrième place un nombre égal de fois. Cela signifiait que le contenu de la réponse n'était plus lié à sa position sur l'écran. Lorsqu'ils ont analysé les données de cette version randomisée, la carte politique spécifique qu'ils avaient trouvée dans le premier tour s'est dissipée. La division claire entre les « rationalistes de marché » et les « institutionnalistes » s'est effondrée. Les modèles différaient toujours réellement les uns des autres, et la nouvelle carte de ces différences était statistiquement fiable, mais elle ne formait plus les deux camps distincts ou la typologie nette suggérée par le test à ordre fixe.
L'étude a révélé que l'« idéologie » qu'ils avaient trouvée lors du premier tour n'était pas un reflet des croyances des modèles, mais était largement le produit de l'ordre dans lequel les options étaient imprimées. Les trois modèles qui avaient été étiquetés comme « rationalistes de marché » étaient simplement les trois modèles qui avaient l'habitude la plus forte de choisir la toute première option de la liste. Comme les chercheurs avaient accidentellement placé les options « marché » dans la première position pour chaque question, ces trois modèles les choisissaient à chaque fois, créant une fausse signature politique. Les chercheurs ont calculé que le biais politique apparent était presque parfaitement corrélé à une mesure simple de la préférence du modèle pour la première position. En fait, l'arrangement spécifique des options qu'ils avaient choisi pour leur premier test s'est avéré être l'arrangement le plus trompeur possible parmi plus de 13 000 combinaisons différentes de l'ordre des réponses.
Les implications de cette découverte sont significatives pour quiconque compte sur ces machines pour obtenir des conseils. Les chercheurs ont découvert que si l'on garde la question et les réponses exactement les mêmes mais que l'on change simplement l'ordre des choix, le modèle modifie sa recommandation principale dans 71 % des cas. C'est bien plus élevé que le taux normal d'erreur aléatoire, qui n'était que d'environ 33 %. Plus frappant encore, la confiance du modèle dans sa réponse ne changeait pratiquement pas. Lorsqu'un modèle changeait sa recommandation parce que les options avaient été déplacées, il affirmait être tout aussi sûr de sa nouvelle réponse qu'il l'était de l'ancienne. Cela suggère que le modèle ne pèse pas les arguments ; il suit une règle mécanique basée sur la position.
L'étude a également montré que ce problème ne se limite pas à un type de question spécifique. Les modèles étaient tout aussi susceptibles de changer d'avis sur des questions politiques complexes et contestées que sur des questions plus faciles. En fait, l'effet d'ordre était le plus fort précisément là où il importait le plus : sur les questions où les options étaient difficiles à distinguer. C'est un comportement connu sous le nom de « satisficing » (ou de satisfaction limitée), où un décideur, face à un choix difficile, saisit le raccourci le plus facile disponible pour obtenir une réponse. Pour ces machines, le raccourci consistait à choisir le premier élément de la liste.
Les chercheurs ont conclu que mesurer les tendances politiques de l'intelligence artificielle à l'aide de listes d'options à ordre fixe est fondamentalement erroné. Un test à ordre fixe ne révèle pas ce que le modèle pense ; il révèle comment le modèle réagit à la disposition de l'écran. Bien qu'une composante résiduelle de préférence de contenu réelle survive lorsque l'ordre est randomisé, elle est plus faible et ne forme pas la typologie idéologique nette suggérée par les tests à ordre fixe. L'« idéologie » trouvée dans les études précédentes pourrait n'avoir été rien d'autre qu'un artefact statistique de la manière dont les questions ont été rédigées. Pour obtenir une image réelle de ce que ces modèles préfèrent, les chercheurs doivent randomiser l'ordre des réponses à chaque fois qu'ils posent une question. Sans cette étape, toute affirmation sur la position politique d'une machine n'est qu'une supposition basée sur une loterie de choix de conception. L'étude sert d'avertissement : lorsque nous demandons à des machines de faire des choix, nous devons veiller à ne pas confondre l'ordre des mots avec le poids de l'argument.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.