Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI
Cet article aborde les risques de comportements robotiques imprévisibles dans l'interaction humain-robot basée sur les LLM en proposant un cadre de conception de prompts structuré en huit composantes et des directives éthiques, fondés sur les retours d'experts, afin de garantir des personas robotiques transparents, sûrs et adaptables.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un robot social, une machine conçue pour discuter, aider et peut-être même réconforter un être humain. Pour rendre cette conversation naturelle, les ingénieurs connectent souvent le robot à un grand modèle de langage, un type d'intelligence artificielle entraînée sur de vastes quantités de textes pour comprendre et générer la parole humaine. Cette technologie permet au robot de répondre à des questions, de raconter des histoires et de réagir aux émotions avec une fluidité qui était impossible il y a encore quelques années. Cependant, il existe un fossé caché entre la réalité physique du robot et les mots qu'il prononce. La machine peut ne pas avoir d'yeux pour voir une pièce, de mains pour saisir un objet ou d'accès à Internet, pourtant le modèle de langage qu'elle utilise connaît ces choses parce qu'il en a lu l'existence. Sans instructions précises, le robot pourrait affirmer avec assurance qu'il peut vous voir ou vous apporter une tasse, créant une expérience déroutante et potentiellement trompeuse pour la personne qui lui parle. Ce décalage est le puzzle central auquel font face les chercheurs qui souhaitent que ces machines soient des partenaires sûrs, honnêtes et véritablement utiles.
Une équipe de chercheurs issus d'universités d'Europe, d'Australie et d'Israël a récemment abordé ce problème en posant une question simple mais critique : comment dire exactement à un robot qui il est et ce qu'il peut faire avant qu'il ne commence à parler ? Leurs travaux, présentés lors d'une conférence majeure de robotique, vont au-delà de l'idée que la personnalité du robot n'est qu'un paramètre mineur à ajuster. Au contraire, ils soutiennent que les instructions données à l'intelligence artificielle — le « prompt » — sont l'élément de conception le plus important pour façonner le comportement d'un robot. Pour résoudre cela, l'équipe a développé un cadre structuré qui décompose l'identité du robot en huit parties spécifiques. Ces parties incluent la définition du rôle du robot, l'énoncé clair de ses limites physiques, l'explication de la gestion de ses erreurs et l'établissement de limites éthiques strictes pour l'empêcher de mentir ou de causer du tort.
Les chercheurs n'ont pas seulement inventé cette liste dans un bureau tranquille ; ils l'ont construite en examinant ce que d'autres scientifiques faisaient déjà, puis en testant ces idées auprès d'experts. Tout d'abord, ils ont passé en revue des études récentes où des robots utilisaient des modèles de langage pour parler à des humains. Ils ont constaté que la plupart des chercheurs indiquaient seulement le nom du robot et sa fonction principale, comme « être un tuteur » ou « être un compagnon ». Ils ne précisaient que rarement ce que le robot ne pouvait pas faire, comme admettre qu'il n'a aucun souvenir des conversations passées ou qu'il ne peut pas voir votre visage. Cette omission signifiait que les robots agissaient souvent comme s'ils possédaient des capacités qu'ils n'avaient pas, entraînant la confusion et la rupture de la confiance.
Pour comprendre l'importance de cet aspect, l'équipe a réuni vingt-sept experts en interaction humain-robot lors d'un atelier. Il s'agissait de chercheurs et de praticiens chevronnés issus de divers horizons, incluant la psychologie, l'éthique et l'informatique. Ils ont discuté de la manière dont la personnalité d'un robot doit évoluer au fil du temps et de ce qui se passe lorsqu'un robot commet une erreur. Les experts se sont accordés sur un point crucial : la personnalité d'un robot ne se limite pas aux mots qu'il prononce. Si un robot prétend être un ami attentionné mais oublie ensuite une conversation que l'utilisateur a eue cinq minutes plus tôt, l'utilisateur se sent trompé. Les experts ont noté que les indices subtils de personnalité sont souvent ignorés par les gens, et que l'identité d'un robot doit être cohérente avec ses capacités physiques réelles. Ils ont également soulevé de sérieuses préoccupations concernant la sécurité, notant que si un robot ment sur ses capacités, cela pourrait mener à des situations dangereuses, particulièrement pour les utilisateurs vulnérables comme les enfants ou les personnes âgées.
Sur la base de ces discussions et de leur examen des travaux existants, l'équipe a proposé une nouvelle façon de rédiger les instructions pour ces robots. Leur cadre exige que les concepteurs rédigent explicitement huit éléments avant même que le robot ne prenne la parole. Premièrement, ils doivent définir l'Identité, qui est le caractère spécifique et le rôle social du robot. Deuxièmement, ils doivent fixer des Limites de Capacité, une liste claire de ce que le robot peut percevoir ou faire, ou ne peut pas faire, comme déclarer qu'il n'a pas d'accès Internet ou qu'il ne peut pas se déplacer de lui-même. Troisièmement, des instructions de Transparence doivent dire au robot comment admettre qu'il est une machine et quelles sont ses limites. Quatrièmement, la Tâche définit l'objectif spécifique de la conversation. Cinquièmement, un Protocole d'Attente et d'Échec explique comment le robot doit réagir lorsqu'il ne connaît pas une réponse ou lorsque la conversation tourne mal. Sixièmement, des règles de Confidentialité dictent la manière dont le robot gère les données personnelles. Septièmement, l'Adaptation à l'Utilisateur garantit que le robot adapte son ton selon les personnes, par exemple en parlant simplement à un enfant. Enfin, des Lignes Rouges Éthiques fixent des limites strictes pour empêcher le robot de dire quoi que ce soit de préjudiciable, de biaisé ou d'illégal.
Les chercheurs ont illustré cette idée en fournissant deux exemples complets de prompts utilisant les huit composantes de conception modulaires comme modèle de preuve de concept dans un projet distinct. Ils soutiennent que lorsque ces composantes sont incluses, le comportement du robot devient beaucoup plus prévisible et honnête. Les experts de l'atelier ont confirmé que sans ces instructions spécifiques, la personnalité d'un robot peut paraître instable ou trompeuse. Ils ont souligné qu'on ne peut pas simplement dire à un robot d'« être amical » ; il faut lui dire exactement comment être amical dans les limites de son matériel. Par exemple, si un robot est conçu pour aider une personne âgée, il doit être programmé pour savoir qu'il ne peut pas la soulever physiquement, même si le modèle de langage suggère qu'il le pourrait.
Ce travail suggère que l'avenir des robots sociaux dépend moins de la capacité à rendre le langage plus humain que de la capacité à rendre les limites du robot plus claires. L'équipe soutient que traiter le prompt comme un outil de conception sérieux, plutôt que comme une simple étape de codage, est essentiel pour instaurer la confiance. En obligeant les concepteurs à écrire précisément ce que le robot est et ce qu'il n'est pas, le domaine peut s'éloigner des robots qui hallucinent des capacités pour tendre vers des machines fiables, transparentes et sûres. L'étude ne prétend pas avoir résolu tous les problèmes de la robotique, mais elle fournit un moyen concret et structuré pour s'assurer que, lorsque le robot parle, ses mots correspondent à sa réalité. Les travaux futurs devraient explorer l'application des directives de prompt proposées à différents types de robots pour évaluer la perception de l'identité du robot.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.