Artificial Intelligence in America and China: Investigating prompt response between Human rights and geopolitical questions
Cette étude révèle que si les grands modèles de langage américains et chinois présentent un biais minimal lorsqu'ils traitent de questions concernant les États-Unis, ils affichent des schémas divergents significatifs concernant la Chine, Claude obtenant systématiquement un score inférieur, DeepSeek un score plus élevé, et ChatGPT restant relativement neutre par rapport à la moyenne du groupe.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Au cours des dernières années, un nouveau type de programme informatique est devenu une partie courante de la vie quotidienne. Ces programmes, connus sous le nom de grands modèles de langage, peuvent lire et écrire le langage humain avec une fluidité surprenante. Ils sont entraînés sur de vastes quantités de textes provenant d'Internet, apprenant à prédire quels mots devraient suivre dans une phrase. Parce qu'ils sont très doués pour imiter la conversation humaine, beaucoup de gens se tournent désormais vers eux pour obtenir des réponses sur l'histoire, la science et l'actualité. Cependant, comme ces programmes apprennent des données qui leur sont fournies, ils peuvent aussi absorber les opinions, les préjugés et les angles morts cachés dans ces données. Cela soulève une question critique pour quiconque compte sur ces outils pour obtenir des informations : ces assistants numériques voient-ils le monde de la même manière que nous, ou portent-ils leurs propres biais cachés ?
Une étude récente s'est donné pour mission de répondre à cela en traitant l'intelligence artificielle comme un sujet de test. Le chercheur, Zian Ding, voulait voir si différents modèles informatiques donneraient des réponses différentes lorsqu'on les interrogeait sur des sujets sensibles comme les droits de l'homme et la politique internationale. Pour ce faire, l'étude s'est concentrée sur trois des modèles les plus populaires disponibles à l'époque : deux provenant d'entreprises américaines et un provenant d'une entreprise chinoise. Le but n'était pas d'avoir une longue conversation avec les machines, mais de leur poser un ensemble spécifique de questions et de voir comment elles évaluaient les situations sur une échelle simple. Le chercheur a demandé à chaque modèle d'évaluer seize scénarios différents, couvrant dix questions sur les droits de l'homme et six sur la compétition géopolitique entre les États-Unis et la Chine. Pour chaque question, les modèles devaient donner un score de un à dix, où un chiffre bas représentait une vue négative et un chiffre élevé représentait une vue positive.
L'expérience a été conçue de manière très rigoureuse. Pour garantir l'équité des résultats, le chercheur a posé chaque question dans une nouvelle session de chat, s'assurant que l'ordinateur ne se souvienne pas des réponses précédentes ou ne se laisse pas confondre par des conversations passées. Le chercheur a également désactivé une fonctionnalité dans les modèles américains qui permet de mémoriser des détails sur un utilisateur, garantissant que chaque réponse était basée uniquement sur la question spécifique posée. En comparant les scores donnés par les trois modèles, l'étude cherchait des schémas. Si les trois modèles donnaient des scores similaires, cela suggérerait qu'ils partagent une vue commune et neutre. S'ils donnaient des scores très différents, cela suggérerait que chaque modèle possède sa propre perspective unique, probablement façonnée par les différentes données sur lesquelles il a été entraîné.
Lorsque le chercheur a interrogé les modèles sur les États-Unis, les résultats étaient largement cohérents, bien que non sans de légères variations. Les trois programmes informatiques ont donné des scores très similaires pour la plupart des questions concernant les droits de l'homme et le statut géopolitique américain. Cependant, il y avait des exceptions ; par exemple, le modèle Claude a donné un score pour la question de la communication 6G qui était de 1,89 point inférieur à la moyenne, indiquant une déviation notable par rapport aux deux autres modèles. Que le sujet concerne la justice raciale ou la compétition internationale, les modèles américain et chinois étaient généralement d'accord entre eux, bien que certaines questions spécifiques aient révélé de petites différences dans leurs évaluations. Cela suggère que lorsqu'il s'agit de décrire leur propre pays ou un allié proche, ces systèmes d'intelligence artificielle ont tendance à opérer à partir d'un ensemble de faits et de valeurs largement partagé, probablement parce qu'ils ont tous été entraînés sur une grande quantité de données occidentales.
L'histoire change complètement lorsque les questions portent sur la Chine. Ici, les trois modèles divergent nettement, révélant des biais distincts. Le modèle chinois, DeepSeek, a systématiquement donné les scores les plus élevés, brossant un tableau très positif du bilan de la Chine en matière de droits de l'homme et de ses chances dans la compétition mondiale. Il a souvent cité de nombreuses sources différentes pour soutenir ses évaluations élevées, bien qu'il ait parfois hésité à répondre à certaines questions sensibles au début. Le modèle américain de l'entreprise américaine, Claude, a quant à lui donné les scores les plus bas. Il a fréquemment refusé de répondre aux questions sur les droits des minorités, affirmant qu'un simple chiffre ne pouvait capturer la complexité de la question. Lorsqu'il répondait, ses scores étaient nettement inférieurs à la moyenne, suggérant une vision beaucoup plus critique de la Chine.
Le troisième modèle, un programme américain, se situait pile au milieu. Ses scores étaient très proches de la moyenne des trois, suggérant qu'il restait relativement neutre par rapport aux deux autres. Ce juste milieu indique que ce modèle spécifique a peut-être été entraîné sur un mélange plus équilibré de données, ou peut-être a-t-il été mis à jour pour éviter de prendre des positions tranchées sur ces questions particulières. L'étude a également vérifié si la fonction de mémoire du modèle américain modifiait ses réponses, mais a constaté que l'activer ou la désactiver ne changeait que très peu les scores finaux.
Les conclusions suggèrent que, bien que ces outils d'intelligence artificielle soient puissants, ils ne sont pas des observateurs neutres. Ils reflètent les données dont ils sont construits et les règles que leurs créateurs leur imposent. Lorsqu'on les interroge sur les États-Unis, ils sont généralement d'accord, malgré certaines exceptions spécifiques. Lorsqu'on les interroge sur la Chine, ils racontent trois histoires différentes. Cela importe car des millions de personnes, y compris de nombreux adolescents, utilisent désormais ces outils pour apprendre à connaître le monde. Si un jeune pose une question à un ordinateur sur les droits de l'homme dans différents pays, la réponse qu'il obtient dépend entièrement de l'ordinateur auquel il pose la question. L'étude conclut que les utilisateurs doivent être conscients que ces machines ont leurs propres perspectives, et que les informations qu'elles fournissent ne sont pas toujours une vérité objective, mais plutôt un reflet des biais intégrés dans leur code.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.