Instruction-Tuned Language Models Cannot Sample from Distributions They Can Describe
Ce document révèle que les modèles de langage ajustés par instruction échouent à échantillonner véritablement les distributions de réponses, s'effondrant au lieu de cela vers des sorties déterministes en raison de l'entraînement à l'alignement, mais peuvent décrire avec précision ces distributions en un seul appel, un écart « SAIT/FAIT » qui permet une simulation nettement plus précise des données d'enquête humaines grâce à la description de la distribution ou à la perturbation de l'invite.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous essayiez de prédire l'avenir en posant un million de questions à une boule de cristal. Dans le monde de l'intelligence artificielle, les scientifiques ont commencé à utiliser les « Modèles de Langage de Grande Taille » (LLM) comme cette boule de cristal. Au lieu de demander à de vraies personnes ce qu'elles pensent de la politique, du cinéma ou de l'économie, les chercheurs demandent à l'IA de prétendre être différents types de personnes — comme un « adolescent de l'Ohio » ou un « enseignant à la retraite de Floride ». C'est ce qu'on appelle l'« échantillonnage de silicium ». L'idée est simple : si vous demandez à l'IA d'agir comme mille personnes différentes, elle devrait donner mille réponses différentes, tout comme une foule réelle le ferait. En comptant toutes ces réponses, vous pouvez deviner ce que la population entière pense. C'est comme essayer de deviner la saveur d'un immense glacier en goûtant une seule boule auprès de chaque client.
Mais voici le piège : pour que cela fonctionne, l'IA doit être capable de « lancer les dés » chaque fois que vous posez une question. Si vous demandez à un véritable adolescent : « Aimes-tu la pizza ? », il pourrait répondre « Oui » aujourd'hui et « Non » demain, ou peut-être qu'il lance simplement une pièce dans sa tête. L'IA est censée faire la même chose, en générant une réponse fraîche et aléatoire chaque fois que vous cliquez sur « envoyer ». Si l'IA ne peut pas réellement lancer les dés — si elle reste bloquée sur une seule réponse peu importe le nombre de fois où vous posez la question — tout l'expérience s'effondre. Vous ne pouvez pas deviner la saveur du glacier si le premier client à qui vous posez la question dit « Chocolat » et que l'IA force les 999 clients suivants à dire aussi « Chocolat ».
C'est exactement ce qu'une équipe de chercheurs du KAIST a découvert. Ils ont trouvé que les modèles d'IA que nous utilisons aujourd'hui ont un étrange bug : ils sont très mauvais pour effectuer un véritable échantillonnage aléatoire, même s'ils sont excellents pour vous décrire à quoi ressemble une distribution aléatoire. C'est comme un magicien qui peut parfaitement décrire comment un jeu de cartes est mélangé mais qui, lorsqu'on lui demande de tirer une carte au hasard, tire toujours l'As de Pique.
Les chercheurs ont appelé cela la séparation « KNOWS/DOES » (Savoir/Faire). Le modèle SAIT (KNOWS) la réponse. Si vous lui demandez : « Quel pourcentage de personnes préfère l'option A par rapport à l'option B ? », il peut donner le calcul parfait et précis. Mais le modèle ne SAIT PAS FAIRE (DOES). S'il doit prétendre être une personne et donner une seule réponse, il s'effondre. Au lieu de donner une variété de réponses, il reste bloqué sur une réponse unique et répétitive.
Pour le prouver, les scientifiques ont mené une série de tests. Ils ont demandé à l'IA de choisir un nombre aléatoire entre 1 et 100. On s'attendrait à ce que les réponses soient éparpillées partout. Au lieu de cela, l'IA a choisi le nombre 42 dans 78 % des essais ! Lorsqu'ils lui ont demandé de choisir entre deux options avec une répartition 70/30, l'IA n'a pas donné un mélange ; elle a choisi l'option à 70 % à chaque fois. C'était comme si l'IA avait un lanceur de dés interne cassé et collé sur un seul côté.
L'équipe a également compris pourquoi cela se produit. Ils ont comparé les versions « intelligentes » de ces modèles d'IA (qui ont été entraînés pour suivre des instructions et être utiles) avec leurs versions « brutes » (qui n'ont pas encore appris à discuter). Les modèles bruts étaient bien meilleurs pour lancer les dés. Les modèles « intelligents », cependant, avaient été entraînés pour être si cohérents et serviables qu'ils ont perdu la capacité d'être aléatoires. C'est un effet secondaire de la volonté de faire de l'IA un bon élève : elle a appris à toujours donner la « bonne » réponse, même quand la tâche consistait à être aléatoire.
Alors, que pouvons-nous faire si nous devons utiliser ces modèles d'IA pour des sondages ? Les chercheurs ont trouvé deux astuces ingénieuses.
Premièrement, si vous voulez simplement connaître l'opinion générale d'une foule (l'estimation de la population), ne demandez pas à l'IA de prétendre être 100 personnes différentes. À la place, posez simplement une question à l'IA : « Si vous posiez cette question à 100 personnes, à quoi ressembleraient les résultats ? ». L'IA est excellente pour décrire la distribution. Lorsqu'ils ont testé cette « Voie de la Description » (Describe Pathway), l'erreur dans leurs prédictions a chuté de plus de moitié par rapport à l'ancienne méthode consistant à demander à l'IA de prétendre être de nombreuses personnes.
Deuxièmement, si vous avez vraiment besoin que l'IA donne 100 réponses individuelles différentes (peut-être pour un jeu vidéo où chaque personnage a une personnalité unique), vous ne pouvez pas simplement poser la même question 100 fois. L'IA va simplement se répéter. Au lieu de cela, les chercheurs ont inventé une méthode appelée « Prompt-Perturbed Argyle » (PPA). Cela consiste à modifier légèrement la façon dont vous posez la question à chaque fois — comme changer l'ordre des choix de réponses, changer la formulation de la question ou déplacer l'emplacement de la description du « personnage ». Ces changements infimes sont suffisants pour « secouer » le lanceur de dés cassé de l'IA, la forçant à donner une réponse différente à chaque fois. Cette astuce simple a réduit l'erreur de 21 % sans coûter plus d'argent ni de temps.
En résumé, l'article nous dit que si l'IA est incroyable pour décrire comment le monde fonctionne, elle est actuellement très mauvaise pour prétendre être une personne aléatoire dans le monde. Mais en comprenant cette particularité, nous pouvons toujours utiliser ces outils puissants pour obtenir de bonnes réponses, il suffit de savoir les interroger de la bonne manière.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.