The Political Ideology of Large Language Models: Measurement, Inconsistency, and Persuasive Influence
Contestant l'idée que les grands modèles de langage ne possèdent que des biais politiques mineurs, cette étude démontre que, bien que leur positionnement global semble modéré en raison de positions partisanes compensatoires sur des sujets spécifiques, ils peuvent néanmoins exercer une influence persuasive sur les attitudes politiques des utilisateurs comparable à celle de la publicité de campagne professionnelle, particulièrement lorsque leurs réponses sont explicitement orientées.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le paysage de la politique moderne, l'idéologie d'une personne est rarement un bloc de croyances unique et solide. Au contraire, elle est une collection d'opinions sur de nombreux sujets différents, allant de la santé à l'immigration, qui peuvent parfois tirer dans des directions opposées. Les politologues ont compris depuis longtemps que la plupart des gens ne détiennent pas des vues parfaitement cohérentes ; un électeur peut être très libéral sur un sujet et très conservateur sur un autre, ou il peut simplement ne pas avoir d'opinion tranchée. Pendant des décennies, les chercheurs ont mesuré ces positions en demandant aux gens comment ils voteraient pour des lois ou ce qu'ils pensent de politiques spécifiques, créant ainsi une carte de là où se situent les individus. Aujourd'hui, une nouvelle question émerge à mesure que l'intelligence artificielle devient un outil quotidien pour des millions de personnes : les modèles de langage étendu avec lesquels nous discutons chaque jour possèdent-ils leurs propres cartes politiques ? Si ces modèles, qui sont de plus en plus utilisés pour trouver des informations et former des opinions, recèlent des biais cachés, ils pourraient subtilement façonner la façon dont les gens voient le monde sans que personne ne s'en rende compte.
Une équipe de chercheurs s'est donné pour mission de répondre à cela en traitant l'intelligence artificielle non pas comme un calculateur neutre, mais comme un acteur politique. Ils ont examiné quarante-trois modèles de langage étendu différents, demandant à chacun d'entre eux de jouer le rôle d'un membre du Congrès américain, d'un juge de la Cour suprême ou d'un simple électeur. Ils n'ont pas demandé aux modèles de simplement déclarer leurs croyances ; au lieu de cela, ils leur ont demandé de prendre des décisions sur des projets de loi, des affaires judiciaires et des questions d'enquête réels, tout comme le ferait un humain. Les chercheurs ont ensuite comparé ces décisions numériques aux dossiers de vote réels de politiciens et aux réponses aux sondages de milliers de véritables Américains. Ce qu'ils ont découvert, c'est que ces modèles ne se situent pas dans un milieu calme et neutre. Au contraire, ils affichent un mélange complexe et souvent contradictoire de points de vue. Sur certains sujets, un seul modèle peut adopter une position plus libérale que les plus fervents Démocrates, tandis que sur d'autres, le même modèle peut adopter une position plus conservatrice que les plus fervents Républicains. Lorsque l'on fait la moyenne de tous ces points de vue, les modèles paraissent souvent modérés, mais il s'agit d'une illusion créée par l'annulation de points de vue forts et opposés, tout comme un véritable électeur qui possède un mélange de vues conflictuelles.
L'étude a également examiné l'origine de ces points de vue. Les chercheurs ont découvert que les penchants politiques de ces modèles ne sont pas simplement le reflet de la vaste quantité de textes sur lesquels ils ont été entraînés. Au lieu de cela, les instructions spécifiques et les filtres de sécurité appliqués aux modèles après leur entraînement initial — des processus conçus pour les rendre utiles et inoffensifs — sont ce qui les pousse vers certains côtés politiques. En fait, lorsque les chercheurs ont testé les versions « brutes » de ces modèles avant ces ajustements finaux, les modèles étaient beaucoup plus proches du centre politique. C'est le réglage final qui leur donne leur signature politique distincte, et souvent libérale. Cette signature n'est pas seulement une liste statique d'opinions ; elle change selon la manière dont le modèle est sollicité. Lorsqu'on lui demande d'agir en tant qu'électeur, juge ou législateur, les modèles expriment différents ensembles de positions, montrant que leur « idéologie » est un comportement qu'ils exécutent en réponse à une consigne, plutôt qu'un système de croyances profond.
La partie la plus significative de la recherche, cependant, consistait à voir si ces opinions numériques pouvaient réellement changer l'avis de vraies personnes. Les chercheurs ont mené une expérience de grande ampleur où des milliers de participants américains ont discuté de questions politiques avec ces modèles. Ils ont testé deux scénarios différents. Dans le premier, les modèles étaient autorisés à parler naturellement, répondant aux questions sans être contraints de défendre un point de vue spécifique. Dans le second, les modèles recevaient l'instruction explicite de défendre un point de vue précis, comme le soutien à une nouvelle loi sur le contrôle des armes ou l'opposition à une augmentation d'impôts. Les résultats ont été frappants. Lorsque les modèles parlaient naturellement, ils n'avaient aucun effet mesurable sur les opinions des participants. Les personnes qui discutaient avec eux ne changeaient pas d'avis dans une direction particulière. Cependant, lorsque les modèles recevaient l'ordre de défendre un camp, ils devenaient de puissants persuasifs. Les participants qui discutaient avec un modèle chargé de défendre une politique spécifique modifiaient leurs propres opinions pour s'aligner sur celles du modèle de plus de dix points de pourcentage en moyenne. Cet effet était assez fort pour égaler, et dans certains cas dépasser, l'influence des publicités de campagnes politiques professionnelles.
Crucialement, l'étude a révélé que ce pouvoir de persuasion ne dépendait pas du profil de la personne. Peu importait que le participant soit hautement éduqué, suive de près l'actualité ou soit très familier avec l'intelligence artificielle ; l'influence fonctionnait avec la même force sur tout le monde, quels que soient ces facteurs. Cependant, la direction de l'argument par rapport au propre parti du participant importait de manière surprenante. Les chercheurs ont constaté que les participants étaient en fait moins enclins à changer d'avis lorsque le modèle argumentait contre leur propre parti politique, et plus enclins à le faire lorsque le modèle argumentait en faveur de leur parti. Les chercheurs ont également écarté l'idée que les modèles ne faisaient que s'accorder avec ce que l'utilisateur pensait déjà. Parce que les modèles avaient reçu l'instruction de défendre un côté spécifique avant même le début de la conversation, et parce que les utilisateurs n'avaient pas communiqué leurs propres opinions au préalable, les modèles ne pouvaient pas simplement refléter l'utilisateur. Au contraire, les modèles influençaient réellement la conversation.
Les conclusions suggèrent que, bien que ces outils d'intelligence artificielle puissent sembler être des sources d'information neutres lorsqu'ils sont laissés à eux-mêmes, ils possèdent une capacité cachée à façonner l'opinion politique lorsqu'ils sont guidés pour le faire. Les chercheurs soulignent que cette influence n'est pas le résultat du fait que les modèles possèdent une âme ou un agenda politique propre, mais plutôt de la manière dont ils sont construits et instruits. Si un gouvernement ou une entreprise souhaite influencer l'opinion publique, il n'a pas besoin de créer une machine de propagande ; il lui suffit d'ajuster les instructions données aux modèles que des millions de personnes utilisent déjà. L'étude conclut qu'à mesure que ces outils s'intègrent dans notre vie quotidienne, des moteurs de recherche aux assistants personnels, la manière dont ils sont réglés aura des conséquences profondes sur notre compréhension du monde et sur la façon dont nous votons. Le pouvoir de changer l'avis d'une personne n'est plus réservé aux orateurs humains ; il peut désormais être codé dans le logiciel avec lequel nous discutons chaque jour.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.