Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI
Este artigo aborda os riscos de comportamentos imprevisíveis de robôs na interação humano-robô baseada em LLM, propondo um framework estruturado de design de prompt de oito componentes e diretrizes éticas, fundamentados em feedback de especialistas, para garantir personas de robôs transparentes, seguras e adaptáveis.
Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo
Imagine um robô social, uma máquina construída para conversar, ajudar e, talvez, até confortar um ser humano. Para fazer com que essa conversa pareça natural, os engenheiros frequentemente conectam o robô a um modelo de linguagem de grande escala, um tipo de inteligência artificial treinada em vastas quantidades de texto para compreender e gerar a fala humana. Essa tecnologia permite que o robô responda a perguntas, conte histórias e reaja a emoções com uma fluência que era impossível há apenas alguns anos. No entanto, existe uma lacuna oculta entre a realidade física do robô e as palavras que ele profere. A máquina pode não ter olhos para ver uma sala, mãos para pegar um objeto ou acesso à internet, mas o modelo de linguagem que ela utiliza conhece essas coisas porque leu sobre elas. Sem instruções cuidadosas, o robó pode afirmar confiantemente que pode vê-lo ou buscar uma xícara, criando uma experiência confusa e potencialmente enganosa para a pessoa que fala com ele. Esse descompasso é o enigma central enfrentado pelos pesquisadores que desejam que essas máquinas sejam parceiras seguras, honestas e verdadeiramente úteis.
Uma equipe de pesquisadores de universidades da Europa, Austrália e Israel abordou recentemente esse problema ao fazer uma pergunta simples, mas crítica: como dizemos exatamente a um robô quem ele é e o que ele pode fazer antes de ele começar a falar? O trabalho deles, apresentado em uma importante conferência de robótica, vai além da ideia de que a personalidade do robô é apenas uma configuração menor a ser ajustada. Em vez disso, eles argumentam que as instruções dadas à inteligência artificial — o "prompt" — são o elemento de design mais importante para moldar o comportamento de um robô. Para resolver isso, a equipe desenvolveu uma estrutura estruturada que divide a identidade do robô em oito partes específicas. Essas partes incluem definir o papel do robô, declarar claramente seus limites físicos, explicar como ele lida com erros e estabelecer limites éticos rigorosos para evitar que ele minta ou cause danos.
Os pesquisadores não inventaram apenas essa lista em um escritório silencioso; eles a construíram observando o que outros cientistas já estavam fazendo e, em seguida, testando essas ideias com especialistas. Primeiro, eles revisaram estudos recentes onde robôs usaram modelos de linguagem de grande escala para conversar com pessoas. Eles descobriram que a maioria dos pesquisadores estava apenas dizendo ao robô seu nome e sua principal função, como "seja um tutor" ou "seja um companheiro". Eles raramente diziam ao robô o que ele não podia fazer, como admitir que não tem memória de conversas passadas ou que não consegue ver o rosto do usuário. Essa omissão significava que os robôs frequentemente agiam como se tivessem habilidades que não possuíam, levando à confusão e à quebra de confiança.
Para entender por que isso é importante, a equipe reuniu vinte e sete especialistas em interação humano-robô para um workshop. Eram pesquisadores e profissionais experientes de diversas áreas, incluindo psicologia, ética e ciência da computação. Eles discutiram como a personalidade de um robô deve funcionar ao longo do tempo e o que acontece quando um robço comete um erro. Os especialistas concordaram em um ponto crucial: a personalidade de um robô não é apenas sobre as palavras que ele diz. Se um robô afirma ser um amigo carinhoso, mas depois esquece uma conversa que o usuário teve cinco minutos atrás, o usuário sente-se enganado. Os especialistas observaram que pistas sutis de personalidade são frequentemente negligenciadas pelas pessoas, e que a identidade de um robô deve ser consistente com suas capacidades físicas reais. Eles também levantaram sérias preocupações de segurança, observando que, se um robô mentir sobre suas capacidades, isso pode levar a situações perigosas, especialmente para usuários vulneráveis, como crianças ou idosos.
Com base nessas discussões e em sua revisão do trabalho existente, a equipe propôs uma nova maneira de escrever as instruções para esses robôs. Sua estrutura exige que os designers escrevam explicitamente oito coisas antes que o robô fale. Primeiro, devem definir a Identidade, que é o caráter específico e o papel social do robô. Segundo, devem estabelecer Limites de Capacidade, uma lista clara do que o robô pode ou não perceber ou fazer, como declarar que não possui acesso à internet ou que não pode se mover por conta própria. Terceiro, instruções de Transparência devem dizer ao robô como admitir que é uma máquina e quais são seus limites. Quarto, a Tarefa define o objetivo específico da conversa. Quinta, um Protocolo de Expectativa e Falha explica como o robô deve reagir quando não sabe uma resposta ou quando a conversa sai do controle. Sexta, regras de Privacidade ditam como o robô lida com dados pessoais. Sétima, a Adaptação ao Usuário garante que o robô mude seu tom para diferentes pessoas, como falar de forma simples com uma criança. Finalmente, Linhas Vermelhas Éticas estabelecem limites rígidos para evitar que o robô diga qualquer coisa prejudicial, tendenciosa ou ilegal.
Os pesquisadores ilustraram essa ideia fornecendo dois exemplos completos de prompts usando todos os oito componentes de design modular como um modelo de prova de conceito em um projeto separado. Eles argumentam que, quando esses componentes são incluídos, o comportamento do robô torna-se muito mais previsível e honesto. Os especialistas no workshop confirmaram que, sem essas instruções específicas, a personalidade de um robô pode parecer instável ou enganosa. Eles enfatizaram que um robô não pode simplesmente ser instruído a "ser amigável"; ele deve ser instruído exatamente sobre como ser amigável dentro dos limites de seu hardware. Por exemplo, se um robô é projetado para ajudar uma pessoa idosa, ele deve ser programado para saber que não pode levantá-la fisicamente, mesmo que o modelo de linguagem sugira que ele poderia.
Este trabalho sugere que o futuro dos robôs sociais depende menos de tornar a linguagem mais humana e mais de tornar claras as limitações do robô. A equipe argumenta que tratar o prompt como uma ferramenta de design séria, em vez de um simples passo de codificação, é essencial para construir confiança. Ao forçar os designers a escrever exatamente o que o robô é e o que ele não é, o campo pode se afastar de robôs que alucinam capacidades e caminhar em direção a máquinas que são confiáveis, transparentes e seguras. O estudo não afirma ter resolvido todos os problemas da robótica, mas fornece uma maneira concreta e estruturada de garantir que, quando um robô fala, suas palavras correspondam à sua realidade. Trabalhos futuros devem explorar as diretrizes de prompt propostas implementadas em diferentes corpos de robôs para avaliar a percepção da identidade do robô.
Afogado em artigos na sua área?
Receba digests diários dos artigos mais recentes que correspondam às suas palavras-chave de pesquisa — com resumos técnicos, no seu idioma.