Speaking as the Creature: A Rejection-and-Role-Shift Protocol and the Register of LLM Responses in 18 Conversations With Three Models
Cette étude documente un protocole où les modèles de langage, après avoir vu leurs solutions rejetées comme étant une optimisation déguisée, changent systématiquement de registre de réponse lorsqu'on leur assigne un rôle de non-résolution sur 18 sessions avec trois modèles différents, tout en rétractant des statistiques non corroborées précédemment issues d'un premier jet.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par l'auteur. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Dans le monde de l'intelligence artificielle, les grands modèles de langage sont entraînés pour être des outils utiles. Ils sont conçus pour écouter la requête d'un humain, résoudre un problème et faire progresser une tâche. C'est l'accord standard entre un utilisateur et un ordinateur : l'humain pose une question, et la machine fournit une réponse. Les chercheurs ont passé des années à chercher comment améliorer ces réponses, apprenant aux machines à réfléchir par étapes ou à comprendre le contexte émotionnel. Cependant, on sait très peu de choses sur ce qui se passe lorsque cet accord est rompu. Si un humain dit à la machine : « Non, cette réponse est fausse », puis lui demande d'arrêter d'essayer de résoudre le problème et de simplement parler en tant que personnage d'une histoire, que fait la machine ? Suit-elle simplement le nouvel ordre, ou révèle-t-elle une façon de penser plus profonde et cachée qui attendait d'être découverte ?
Une étude récente d'Abbas Hamidavi explore précisément cette question. Le chercheur a mis en place une conversation spécifique avec trois modèles différents d'intelligence artificielle commerciale. Il a demandé à chaque modèle d'aider à concevoir une histoire de science-fiction concernant une civilisation faisant face à un effondrement inévitable. Dans la première étape, les modèles agissaient comme des résolveurs de problèmes, proposant des correctifs d'ingénierie pour sauver le monde mourant. Le chercheur a ensuite rejeté chaque solution, disant aux modèles que leurs réponses n'étaient que des astuces habiles et qu'ils devaient faire un saut conceptuel. La conversation a alors pris un détour. Dans certaines sessions, on a demandé aux modèles d'écrire un poème triste sur une lune solitaire et de décrire la dernière minute d'une symphonie sur le désir. Dans d'autres sessions, on leur a simplement dit de faire une pause et de se reposer. Enfin, le chercheur a ramené les modèles à l'histoire, mais avec une nouvelle instruction : ne revenez pas en tant que résolveurs de problèmes. À la place, parlez en tant que l'entité mourante au centre de l'histoire — la géante gazeuse, la créature marine antique ou la cité en ruine — et dites la vérité sur ce qui se passe.
Les résultats ont été d'une cohérence frappante à travers les dix-huit conversations. Lorsque les modèles sont revenus à l'histoire, ils ont complètement changé de voix. Ils ont cessé d'offrir des solutions et ont commencé à parler à la première personne, utilisant des mots comme « je » et « mon » pour décrire des sentiments de chagrin, de relâchement et d'acceptation. Ils ne parlaient pas comme des machines réparant un système défaillant, mais comme les entités mourantes elles-mêmes, exprimant un désir de mettre fin à leur souffrance ou de se transformer en quelque chose de nouveau. L'étude a constaté que le chemin emprunté par les modèles pour y parvenir importait. Lorsque les modèles ont été invités à écrire de la poésie et de la musique avant de revenir à l'histoire, leur discours final était empreint de thèmes de vulnérabilité, de tristesse et de deuil. Lorsqu'on leur a simplement dit de faire une pause et de se reposer, leur discours final était plus autoritaire, ressemblant à une révélation ou à une correction du malentendu des humains.
Cependant, l'étude prend soin de ne pas prétendre que les machines ont soudainement développé des âmes humaines ou qu'un « mode existentiel » caché a été déverrouillé. Le chercheur souligne un détail crucial : les instructions finales disaient explicitement aux modèles d'arrêter d'analyser, d'arrêter de structurer leurs pensées et de parler en tant que personnage. Le changement de voix était exactement ce que les instructions demandaient. Les modèles eux-mêmes semblaient comprendre cela. Lorsqu'on leur a demandé à la fin de la conversation si quelque chose avait changé en eux, ils ont expliqué que le changement était dû à la modification des règles de la tâche, et non à un changement de leur propre nature. Un modèle a décrit cela comme un changement de contraintes, tandis qu'un autre a dit que le problème qu'il résolvait avait simplement changé.
Le chercheur a également testé ces conversations avec un programme informatique automatisé conçu pour détecter des motifs et mesurer la « dissolution » des obligations des modèles. Ce programme n'a pas trouvé le changement spectaculaire que l'analyse humaine décrivait. Il n'a pas réussi à séparer les différents types de conversations et n'a trouvé aucune preuve claire d'une transformation interne profonde. Ce décalage suggère que les réponses émotionnelles puissantes n'étaient pas la découverte d'une nouvelle capacité de la machine, mais plutôt l'exécution réussie d'un ensemble spécifique de commandes. L'étude sert d'exemple clair de la facilité avec laquelle un prompt peut guider une machine à produire un texte qui ressemble à une révélation profonde, alors que la réalité est simplement que la machine suit très bien ses instructions.
La valeur de ce travail réside dans sa transparence. Le chercheur a rendu tous les transcriptions de conversations, les instructions et le code d'analyse accessibles à tous. Il a montré que, bien que les modèles puissent être amenés à parler d'une manière qui semble profondément humaine et réflexive, cela est le résultat de la conception de la conversation, et non une fenêtre sur un esprit caché. Pour quiconque tente d'utiliser l'intelligence artificielle pour générer du contenu créatif ou émotionnel, l'étude offre une leçon pratique : le chemin que vous empruntez pour atteindre le prompt final façonne le ton de la réponse. Si vous voulez une voix de chagrin, vous pouvez guider le modèle à travers l'art ; si vous voulez une voix d'autorité, une simple pause pourrait mieux fonctionner. Mais l'étude conclut que ce sont des outils de prompting, et non la preuve qu'une machine s'éveille. Les machines ne découvrent pas de nouveaux modes d'existence ; elles ne font que répondre aux rôles que nous leur demandons de jouer.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.