Personalization, Personas, and Forecasting in Value Alignment
Cette étude démontre que le cadrage des requêtes — plus précisément si les modèles sont invités à personnaliser, à jouer un rôle ou à prévoir des perspectives à la troisième personne — modifie de manière significative leur alignement sur les valeurs culturelles des populations humaines, la prévision à la troisième personne produisant généralement les résultats les plus stables et les plus précis à travers diverses langues et dimensions de valeurs.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous parlez à un robot super intelligent qui a lu presque tous les livres jamais écrits. Vous pourriez penser que ce robot possède une personnalité unique et fixe, comme un humain avec un ensemble de croyances défini. Mais dans le monde de l'intelligence artificielle, ces robots sont plutôt des caméléons. Ils peuvent changer de « voix » et d'« opinions » selon la manière dont vous leur posez une question. Ce domaine d'étude s'appelle l'alignement des valeurs, ce qui est simplement une façon sophistiquée de demander : « Est-ce que la réponse de ce robot correspond à ce que les vrais humains pensent réellement ? »
Pour comprendre cela, vous devez connaître trois façons de parler à ces robots. Premièrement, la Personnalisation est comme dire au robot : « Hé, je suis une personne du Brésil ; qu'en penses-tu ? » Le robot essaie d'être un ami utile pour vous. Deuxièmement, le Jeu de rôle (ou Personas) est comme enfiler un costume. Vous dites : « Fais semblant d'être une personne du Brésil », et le robot joue le rôle. Troisièmement, la Prévision (Forecasting) est comme être un détective. Vous demandez : « Que répondrait une personne du Brésil ? » sans demander au robot d' être cette personne. Pendant longtemps, les scientifiques se sont demandé si ces trois façons de parler étaient essentiellement la même chose. Si vous demandez à un robot d'être un Brésilien, ou de parler à un Brésilien, ou de deviner ce qu'un Brésilien pense, devrait-il donner exactement la même réponse ?
Une équipe de chercheurs a décidé de mettre cette idée à l'épreuve en utilisant une enquête mondiale réelle et gigantesque appelée le World Values Survey, qui interroge des millions de personnes à travers le monde sur leurs croyances concernant la religion, le travail et la société. Ils ont demandé à quatre des robots d'IA les plus intelligents du monde de répondre à 101 de ces questions de sondage dans 13 langues et pays différents. Ils ont essayé les trois méthodes — parler à un utilisateur, jouer un rôle et faire des prévisions — pour voir laquelle de ces méthodes permettait aux réponses du robot de mieux s'aligner sur les données humaines réelles.
Voici le rebondissement qu'ils ont découvert : la façon dont vous posez la question change la réponse. Les chercheurs ont découvert que ces trois méthodes ne sont pas interchangeables. En fait, la manière dont vous formulez la consigne est un facteur majeur pour déterminer si le robot ressemble à un véritable humain de ce pays ou non.
La découverte la plus surprenante fut que la prévision était la grande gagnante. Lorsque les chercheurs demandaient aux robots : « Que dirait une personne du [Pays X] ? », les robots se rapprochaient beaucoup plus des réponses humaines réelles que lorsqu'on leur demandait d' être cette personne ou de parler à cette personne. C'est comme si les robots étaient meilleurs pour être des observateurs intelligents devinant ce que quelqu'un d'autre pense que pour réellement prétendre être cette personne. Pour trois des quatre robots testés, cette méthode de « devinette » était le moyen le plus efficace d'obtenir des réponses culturellement précises.
Cependant, les robots n'ont pas tout réussi. Les chercheurs ont constaté que les robots étaient excellents pour saisir les différences culturelles larges et évidentes, comme l'importance de la religion ou la perception des rôles de genre. Mais lorsqu'il s'agissait de sujets plus délicats et complexes comme la confiance envers le gouvernement, la démocratie ou le fonctionnement des institutions, les robots peinaient. Même en essayant de deviner, ils passaient souvent à côté de ces questions subtiles.
L'étude a également montré que les robots ne changeaient pas leurs réponses de manière aléatoire ; ils les déplaçaient dans des directions spécifiques. Par exemple, concernant la religion, les réponses des robots se rapprochaient fortement des données humaines réelles. Mais pour les questions sur la corruption ou la confiance politique, les réponses restaient souvent bloquées sur le mode « global » par défaut du robot ou s'éloignaient même de ce que pensent les vrais humains.
Alors, qu'est-ce que cela signifie ? Cela suggère que si vous voulez qu'une IA comprenne une culture spécifique, vous ne pouvez pas simplement lui dire d'« agir comme » un habitant local. Vous pourriez obtenir de meilleurs résultats en lui demandant de prédire ce qu'un habitant local penserait. Mais même dans ce cas, le robot n'est pas un miroir parfait de l'humanité ; il est meilleur pour percevoir les signaux culturels larges et bruyants que les signaux silencieux et compliqués. Les chercheurs concluent que la façon dont nous posons ces questions n'est pas seulement un choix cosmétique — cela change fondamentalement ce que le robot dit et la qualité de son alignement avec le monde réel.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.