What Do People Actually Want From AI? Mapping Preference Plurality
En analysant 1 500 réponses ouvertes provenant de 75 pays, cet article révèle que les méthodes actuelles d'alignement de l'IA, telles que le RLHF, ne parviennent pas à capturer la profonde pluralité et la nuance contextuelle des préférences humaines, comme en témoigne le fait que même des traits largement désirés comme la « véracité » sont définis de manières divergentes, et souvent incompatibles, par différents utilisateurs.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayez de cuisiner un seul et immense gâteau qui aurait un goût parfait pour tout le monde dans le monde. Vous demandez à 1 500 personnes de 75 pays différents ce qu'elles veulent dans leur part. Vous obtenez une montagne de réponses. Certains veulent du sucré, d'autres du pimenté, certains veulent qu'il ressemble à une fleur, et d'autres veulent qu'il ressemble à un robot.
Maintenant, imaginez que le boulanger (l'entreprise d'IA) décide d'ignorer toutes les notes individuelles. Au lieu de cela, il prend un « vote à la majorité », mélange tous les désirs contradictoires en un seul profil de saveur et cuit un seul et immense gâteau. Ils appellent cela l'« alignement » — faire en sorte que l'IA soit en accord avec les valeurs humaines.
Cet article, « Ce que les gens veulent réellement de l'IA ? Cartographier la pluralité des préférences », soutient que ce gâteau « taille unique » est un désastre. Les auteurs, Julia Sepúlveda Coelho et Scott A. Hale, ont examiné de véritables conversations ouvertes avec des gens pour voir ce qu'ils veulent réellement, et ils ont découvert que la méthode actuelle pour cuire ces gâteaux d'IA est fondamentalement défaillante.
Voici la décomposition de leurs conclusions, en utilisant des analogies simples :
1. Le piège de la « Vérité » : Tout le monde la veut, mais personne ne s'entend sur ce qu'elle est
La chose la plus courante que les gens ont demandée était la « Véracité ». Environ la moitié des répondants ont dit : « Je veux que l'IA dise la vérité ».
- La conclusion de l'article : Le mot « vérité » est un caméléon. Pour certains, cela signifie « donne-moi des faits tirés d'un manuel scolaire ». Pour d'autres, cela signifie « montre-moi tous les côtés de l'argument, même les plus impopulaires ». Pour certains, cela signifie « cite tes sources comme un journaliste », tandis que d'autres veulent simplement « aucun biais ».
- L'analogie : Imaginez que tout le monde soit d'accord pour dire qu'il veut des « fruits frais ». Mais quand vous demandez ce que cela signifie, une personne veut une pomme, une autre veut une mangue, et une troisième veut une salade de fruits. Si le boulanger se contente de mettre « des fruits » dans la recette sans demander quels fruits, le résultat est un désastre. L'article soutient que, parce que les entreprises d'IA traitent la « vérité » comme une instruction unique et simple, elles passent à côté du fait que les gens ont des définitions complètement différentes de ce qui compte comme étant vrai.
2. Le débat sur l'« Humain » : Certains veulent un ami, d'autres un outil
Un point de discorde majeur était de savoir si l'IA devait agir comme un humain.
- Le clivage : Environ 33 % des gens ont dit : « Non ! Ne jouez pas l'humain. Je veux un outil robotique clair ». Mais 57 % ont dit : « Oui ! Soyez chaleureux, amical et empathique. Ne sonnez pas comme une machine froide ».
- L'analogie : C'est comme demander à un groupe de personnes si elles veulent qu'un guide touristique soit un habitant local bavard et amical qui raconte des blagues, ou un robot silencieux et efficace qui se contente de pointer la direction. L'IA « boulangère » actuelle essaie d'être les deux à la fois, ce qui donne souvent une IA qui semble fausse, étrange ou agaçamment servile (qui est juste d'accord avec vous pour être gentille).
3. Le problème des « Garde-fous » : Sécurité vs Censure
Les gens étaient également en désaccord sur la mesure à laquelle l'IA devrait être « policée » ou restreinte.
- Le clivage : Certains veulent des garde-fous stricts pour empêcher l'IA de dire quoi que ce soit de préjudiciable ou d'offensant. D'autres estiment que ces garde-fous sont de la simple « censure » et que l'IA devrait être autorisée à dire des vérités inconfortables, même si elles sont controversées.
- L'analogie : Imaginez une bibliothèque. Un groupe de personnes veut un bibliothécaire qui l'empêche de consulter des livres contenant de « mauvaises idées ». L'autre groupe veut une bibliothèque sans aucun bibliothécaire, afin de pouvoir lire n'importe quoi, même si c'est dangereux. L'article a constaté que lorsque les entreprises d'IA font la moyenne de ces points de vue, elles finissent souvent par créer un système qui semble excessivement prudent pour les uns et dangereusement restreint pour les autres.
4. La « Moyenne » est un mensonge
Le plus grand problème identifié par les auteurs est la méthode utilisée pour entraîner ces IA, appelée RLHF (Apprentissage par renforcement à partir de la rétroaction humaine).
- Comment cela fonctionne actuellement : L'IA se voit présenter deux réponses (A et B) et les humains choisissent la gagnante. L'IA apprend à choisir la gagnante « moyenne ».
- La faille : L'article soutient que l'on ne peut pas faire la moyenne des valeurs humaines. Si 50 % des gens veulent des « opinions impopulaires » et 50 % veulent de la « sécurité », la moyenne n'est pas un équilibre parfait ; c'est un signal trouble et confus qui ne satisfait personne.
- Le résultat : L'IA finit par « halluciner » (inventer des choses) ou être excessivement prudente, non pas parce qu'elle est cassée, mais parce que les instructions qui lui ont été données étaient un mélange confus de désirs contradictoires. L'article appelle cela la « violence épistémique » — une façon sophistiquée de dire qu'en forçant les vues uniques et complexes de chacun dans une seule boîte simple, nous effaçons la nuance de ce qui importe réellement aux gens.
5. Le contexte compte (Le facteur « Ça dépend »)
Les gens disaient souvent des choses comme : « Soyez amical sauf si je demande une analyse juridique sérieuse », ou « Soyez strict sauf si je raconte une histoire ».
- Le problème : Les méthodes actuelles d'entraînement de l'IA sont comme un interrupteur binaire (On/Off). Elles ont du mal à comprendre le « variateur » du contexte humain. Elles ne parviennent pas facilement à apprendre qu'une règle doit s'appliquer « par défaut » mais peut être désactivée « si demandé ».
L'essentiel
L'article conclut que l'industrie technologique essaie de résoudre un problème politique et culturel avec un problème mathématique. Ils essaient de créer une IA « universelle » qui parle pour tout le monde, mais ce faisant, ils réduisent au silence la diversité même qu'ils prétendent représenter.
En bref : Nous essayons de construire une IA mondiale en demandant à un petit groupe de personnes non représentatif de voter sur un ensemble unique de règles. Le résultat est une IA qui ne comprend pas vraiment ce que les gens veulent, car elle a été forcée de choisir un « terrain d'entente » qui n'existe pas dans le monde réel. Les auteurs suggèrent que nous devons cesser d'essayer de construire une IA parfaite pour tout le monde et commencer à réfléchir à la manière de permettre à différents groupes d'avoir leurs propres versions adaptées à leurs valeurs spécifiques.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.