Toward a Theory of Value in AI Alignment
En analysant 94 articles de recherche sur l'alignement des valeurs, cette étude critique la dépendance du domaine envers des préférences indéfinies et des données synthétiques, arguant que de telles approches simplifient excessivement les valeurs humaines et risquent de fermer la voie à des perspectives diverses sur la manière dont l'IA peut véritablement s'aligner sur les besoins humains.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où nous construisons des esprits numériques — des programmes informatiques super-intelligents capables d'écrire des histoires, de résoudre des problèmes mathématiques et même de tenir des conversations. Il ne s'agit pas de simples calculatrices ; ce sont comme de gigantesques bibliothèques affamées qui ont lu presque tout ce qui existe sur Internet. Mais voici le hic : ce n'est pas parce qu'une bibliothèque a lu tous les livres qu'elle sait quelles histoires sont bienveillantes, quels faits sont vrais ou comment être un bon ami. C'est le cœur d'un domaine appelé l'Alignement de l'IA. Voyez cela comme l'art d'enseigner à ces esprits numériques à partager nos objectifs et nos morales humaines, plutôt que de faire exactement ce qu'on leur demande d'une manière qui pourrait accidentellement nous nuire.
Pour comprendre le problème, vous devez connaître les Grands Modèles de Langage (LLM). Ce sont le type spécifique d'IA qui alimente les agents conversationnels que vous avez peut-être utilisés. Ils fonctionnent en prédisant le mot suivant dans une phrase, encore et encore. Pour les rendre « sûrs », les chercheurs utilisent une technique appelée Apprentissage par Renforcement à partir du Feedback Humain (RLHF). Imaginez un enseignant donnant une étoile dorée à un élève pour une bonne réponse et une croix rouge pour une mauvaise. L'IA apprend à obtenir plus d'étoiles dorées en devinant ce que l'enseignant aime. La grande question qui anime cet article est la suivante : qu'enseignons-nous réellement à ces IA à valoriser ? Leur enseignons-nous à être utiles, honnêtes et inoffensifs ? Ou sommes-nous en train de leur enseigner accidentellement quelque chose de bien plus étrange ?
Le grand malentendu des « Valeurs »
Une équipe de chercheurs a décidé de jeter un coup d'œil derrière le rideau de 94 articles scientifiques écrits par des personnes tentant de résoudre ce problème d'alignement. Ils voulaient répondre à une question simple mais délicate : que veulent réellement dire ces chercheurs lorsqu'ils parlent de « valeurs humaines » ?
Vous pourriez penser que si vous construisez un robot pour qu'il soit une bonne personne, vous commenceriez par vous asseoir pour définir ce que signifie être « bon ». Mais les auteurs de cet article ont découvert quelque chose de surprenant : la plupart des chercheurs ne le définissent pas du tout.
En fait, 79 % des articles qu'ils ont examinés n'ont jamais réellement expliqué ce qu'ils entendaient par « valeurs ». Au lieu de cela, ils ont remplacé le mot « valeurs » par le mot « préférences ». C'est comme essayer de cuisiner un gâteau mais appeler la « farine » par le nom de « truc », en supposant ensuite que tout le monde comprenne que vous parlez de la farine. Les chercheurs ont découvert que dans le monde de l'IA, les « valeurs » (comme la justice, la gentillesse ou la vérité) sont souvent traitées exactement de la même manière que les « préférences » (comme « je préfère la glace au chocolat à la vanille »).
Le piège de la « Préférence »
L'article soutient que ce remplacement est dangereux car il repose sur une vieille idée de l'économie appelée Maximisation de l'Utilité. Imaginez un robot qui pense que la seule chose qui compte dans l'univers est d'obtenir le score le plus élevé dans un jeu. Dans cette vision, l'humain est simplement une machine qui cherche toujours à obtenir le plus de « points » (ou d'« utilité ») pour chaque choix qu'il fait.
Les auteurs suggèrent que cette vision est un peu trop simple. Les vrais humains sont désordonnés. Parfois, nous choisissons la « mauvaise » chose parce que nous sommes fatigués, ou parce que nous tenons plus à nos amis qu'à la victoire, ou parce que nos valeurs changent selon le jour. Mais le domaine de l'alignement de l'IA semble construire un monde où les humains sont des robots parfaits et logiques qui font toujours le meilleur choix pour maximiser leur bonheur.
L'article souligne que 87 % des études examinées utilisent cette approche de « maximisation du score ». Ils traitent les valeurs humaines comme des nombres statiques et immuables qui peuvent être mesurés et injectés dans un ordinateur. Les auteurs soutiennent que cela ignore le fait que les valeurs sont en réalité comme un jardin vivant — elles poussent, elles changent avec les saisons, et elles ont des visages différents selon les cultures.
Le problème du « Qui » et du « Comment »
Un autre problème majeur souligné par l'article est la question de savoir quelles valeurs l'IA apprend. Si vous demandez à un ordinateur d'apprendre les « valeurs humaines », vous devez vous demander : quels humains ?
Les chercheurs ont constaté que 91 % des articles ne précisaient pas quel groupe de personnes ils tentaient de représenter. Ils agissaient comme si les « valeurs humaines » étaient une chose unique et universelle sur laquelle tout le monde s'accorde. Pourtant, en réalité, un adolescent à Tokyo peut accorder de l'importance à des choses très différentes d'un agriculteur au Kenya.
Pour compliquer les choses, l'article note que les chercheurs commencent à cesser de demander l'avis de vrais humains. À la place, ils utilisent des données synthétiques ou d'autres modèles d'IA pour juger les réponses. C'est comme essayer d'enseigner à un nouvel élève en le laissant corriger ses propres devoirs, ou en demandant à un robot de deviner ce qu'un humain penserait. Les auteurs craignent qu'en remplaçant les vraies personnes par des « auto-évaluateurs » (des juges IA), nous ne fermions la porte à la réalité complexe, diverse et magnifique de ce que signifie être humain.
La description « mince » vs « épaisse »
Les auteurs ont également remarqué que la plupart des articles décrivent les valeurs de manière « mince ». Une description « mince » est comme dire : « Soyez gentil ». C'est une règle sans histoire. Une description « épaisse » est comme dire : « Soyez gentil parce que votre grand-mère vous a appris que la gentillesse construit une communauté où chacun se sent en sécurité ».
L'article a révélé que 66 % des études utilisaient ces descriptions « minces ». Elles traitaient les valeurs comme de simples instructions à suivre, plutôt que comme des récits culturels profonds qui expliquent pourquoi nous faisons ce que nous faisons. Seuls 3 % des articles tentaient de comprendre les valeurs de cette manière profonde et « épaisse », en examinant comment la culture et le contexte façonnent ce qui importe aux gens.
L'essentiel
Alors, quelle est la conclusion principale ? L'article suggère que la manière dont nous essayons actuellement d'aligner l'IA avec les valeurs humaines repose sur des fondations fragiles. En traitant les morales humaines complexes comme de simples problèmes mathématiques (maximisation des préférences), nous risquons de construire des systèmes d'IA qui sont techniquement « alignés » avec une version très étroite et robotique de l'humanité, mais qui passent complètement à côté de ce qui fait notre humanité.
Les auteurs ne disent pas que nous devrions arrêter d'essayer de rendre l'IA sûre. Au contraire, ils appellent à un changement de recette. Ils veulent que les chercheurs cessent de prétendre que les valeurs humaines sont juste une liste de préférences à optimiser. Ils veulent que nous fassions appel à des experts en anthropologie, en philosophie et en psychologie pour nous aider à comprendre que les valeurs sont dynamiques, culturelles et profondément liées au monde réel et complexe dans lequel nous vivons.
En bref, si nous voulons que l'IA soit véritablement alignée avec nous, nous devons cesser de lui apprendre à être une calculatrice parfaite et commencer à lui apprendre à comprendre l'histoire complexe, changeante et merveilleuse de l'existence humaine.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.