Why did My Robot Just Change Personality? Prompting Guidelines for a Grounded Robot Persona in LLM-Based HRI
本文针对基于大语言模型的人机交互中机器人行为不可预测的风险，通过提出一个基于专家反馈的、旨在确保机器人人格透明、安全且具适应性的八组件结构化提示词设计框架及伦理准则，对此进行了探讨。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个社交机器人，一种旨在与人类聊天、提供帮助、甚至提供慰藉的机器。为了让这种对话感觉自然，工程师们通常会将机器人连接到一个大语言模型——这是一种在海量文本上训练过的、用于理解和生成人类语言的人工智能。这项技术使得机器人能够回答问题、讲述故事并对情绪做出反应，其流畅程度在几年前是无法想象的。然而，在机器人的物理现实与其所说的言语之间，存在着一个隐藏的鸿沟。机器可能没有眼睛去观察房间，没有手去拿起物体，也无法访问互联网，但它所使用的语言模型却因为阅读过相关内容而了解这些事物。如果没有仔细的指令，机器人可能会自信地声称它能看到你或帮你拿杯子，从而为与它交谈的人创造一种困惑且可能具有误导性的体验。这种脱节是研究人员面临的核心难题，他们希望这些机器能够成为安全、诚实且真正有益的伙伴。
来自欧洲、澳大利亚和以色列各大学的研究团队最近解决了这个问题，他们提出了一个简单但至关重要的问题：在机器人开始说话之前，我们如何准确地告诉它它是谁以及它能做什么？他们的研究成果在一次主要的机器人会议上发表，其观点超越了将机器人的个性仅仅视为一个微调设置的想法。相反，他们认为给予人工智能的指令（即“提示词”）是塑造机器人行为最重要的设计元素。为了解决这个问题，该团队开发了一个结构化框架，将机器人的身份分解为八个特定的部分。这些部分包括定义机器人的角色、明确陈述其物理限制、解释它如何处理错误，以及设定严格的伦理边界以防止它撒谎或造成伤害。
研究人员并非只是在安静的办公室里凭空发明了这个清单；他们是通过研究其他科学家正在做的工作，并结合专家对这些想法的测试来构建它的。首先，他们回顾了近期关于机器人使用大语言模型与人交流的研究。他们发现，大多数研究者仅是在告诉机器人它的名字和主要职责，例如“做一个导师”或“做一个伴侣”。他们很少告诉机器人它不能做什么，比如承认它没有对过去对话的记忆，或者它无法看到用户的脸。这种遗漏意味着机器人经常表现得好像拥有它们并不具备的能力，从而导致混乱和信任破裂。
为了理解这为何重要，该团队在一次研讨会上召集了二十七位人机交互领域的专家。这些是来自心理学、伦者学和计算机科学等不同背景的资深研究人员和从业者。他们讨论了机器人的个性如何随时间演变，以及当机器人犯错时会发生什么。专家们就一点达成了共识：机器人的个性不仅仅在于它所说的话。如果一个机器人声称自己是一个贴心的朋友，但随后却忘记了用户五分钟前进行的一段对话，用户会感到被欺骗了。专家指出，人们往往会忽略细微的个性线索，且机器人的身份必须与其真实的物理能力保持一致。他们还对安全性提出了严重担忧，指出如果机器人对其能力进行虚假陈述，可能会导致危险的情况，特别是对于儿童或老年人等脆弱群体。
基于这些讨论和对现有工作的回顾，团队提出了一种编写机器人指令的新方法。他们的框架要求设计者在机器人开口说话之前，必须明确写下八件事。首先，必须定义身份（Identity），即机器人的特定性格和社会角色。其次，必须设定能力边界（Capability Boundaries），即一份清晰的清单，说明机器人可以感知或执行什么，以及不能做什么，例如声明它没有互联网访问权限或无法自主移动。第三，**透明度（Transparency）**指令必须告知机器人如何承认自己是机器以及自身的局限性。第四，**任务（Task）**定义了对话的具体目标。第五，**预期与失败协议（Expectation and Failure Protocol）**解释了当机器人不知道答案或对话出现问题时应如何反应。第六，**隐私（Privacy）**规则规定了机器人如何处理个人数据。第七，**用户适应性（User Adaptation）**确保机器人能针对不同的人调整语气，例如对儿童使用简单的语言。最后，**伦理红线（Ethical Red Lines）**设定了硬性限制，以防止机器人发表任何有害、偏见或非法的言论。
研究人员通过在另一个独立项目中提供两个完整的提示词示例来阐释这一理念，这些示例使用了所有八个模块化设计组件作为概念验证模板。他们认为，当包含这些组件时，机器人的行为会变得更加可预测且诚实。研讨会上的专家证实，如果没有这些具体的指令，机器人的个性会让人感觉不稳定或具有欺骗性。他们强调，机器人不能仅仅被告知要“友好”；它必须被明确告知如何在硬件限制内表现得友好。例如，如果一个机器人的设计初衷是帮助老年人，那么它必须被编程为知道自己无法在物理上抬起他们，即使语言模型暗示它可以做到。
这项工作表明，社交机器人的未来不在于让语言听起来更像人类，而在于让机器人的局限性更加清晰。该团队认为，将提示词视为一种严肃的设计工具，而非简单的编码步骤，对于建立信任至关重要。通过迫使设计者明确写下机器人是什么以及它不是什么，该领域可以从产生“幻觉式能力”的机器人，转向开发可靠、透明且安全的机器。这项研究并不声称已经解决了机器人领域的所有问题，但它提供了一种具体且结构化的方式，以确保当机器人说话时，其言语能与现实相符。未来的工作应当探索将所提出的提示词指南应用于不同的机器人实体中，以评估对机器人身份的感知。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。