Personalization, Personas, and Forecasting in Value Alignment
本研究表明，提示词框架——具体而言是要求模型进行个性化、角色扮演还是预测第三人称视角——会显著改变其与人类群体的文化价值对齐情况，其中第三人称预测在不同语言和价值维度上通常能产生最稳定且最准确的结果。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正在和一个超级聪明的机器人对话，它几乎读过人类写过的每一本书。你可能会认为这个机器人拥有单一、固定的个性，就像一个拥有一套固定信念的人类。但在人工智能的世界里，这些机器人更像是变色龙。它们可以根据你提问的方式来改变它们的“声音”和“观点”。这个研究领域被称为价值对齐（value alignment），这只是一个高级说法，其实是在问：“这个机器人的回答是否符合真实人类的真实想法？”
要理解这一点，你需要了解与这些机器人交流的三种方式。首先，**个性化（Personalization）**就像是告诉机器人：“嘿，我是一个来自巴西的人，你觉得呢？”机器人会努力成为你的一个得力助手。第二，**角色扮演（Role-playing/Personas）**就像是穿上了一件戏服。你说：“假装你是一个来自巴西的人”，然后机器人就开始扮演那个角色。第三，**预测（Forecasting）**就像是在当一名侦探。你问：“一个来自巴西的人会如何回答？”而没有要求机器人“成为”那个人。长期以来，科学家们一直在思考这三种交流方式本质上是否是同一回事。如果你要求一个机器人成为一个巴西人，或者让它与一个巴西人交谈，或者让它猜测一个巴西人的想法，它给出的答案是否应该完全一样？
一个研究团队决定用这个想法来进行测试，他们使用了一个巨大的、现实世界的调查——世界价值观调查（World Values Survey），该调查向全球数百万人询问了关于宗教、工作和社会方面的信仰。他们让世界上四个最聪明的AI机器人用13种不同的语言和国家回答了101个调查问题。他们尝试了所有三种方法——与用户交谈、角色扮演和预测——以观察哪种方法能让机器人的答案与真实的真人数据契合得最好。
这里有一个转折：你提问的方式改变了答案。 研究人员发现，这三种方法并不能互换使用。事实上，你构建提示词（prompt）的方式是决定机器人听起来是否像来自那个国家的真实人类的一个巨大因素。
最令人惊讶的发现是，**预测（forecasting）**是明显的赢家。当研究人员问机器人“一个来自[国家X]的人会说什么？”时，机器人的回答比被要求“成为”那个人或“与”那个人交谈时，要更接近真实的真人答案。这似乎表明，比起真正去“扮演”那个人，机器人更擅长作为一个聪明的观察者去猜测别人的想法。对于他们测试的四个机器人中的三个来说，这种“猜测”的方法是获得文化准确答案的最强有力的方式。
然而，机器人并没有做到面面俱到。研究人员发现，机器人非常擅长捕捉那些宏大的、显而易见的文化差异，比如宗教的重要性或人们对性别角色的看法。但当涉及到更棘手、更复杂的话题，如对政府的信任、民主或制度运作效率时，机器人就显得力不从心。即使在尝试进行猜测时，它们也经常偏离目标，无法准确把握这些微妙的问题。
研究还表明，机器人的回答并不是随机变化的；它们会朝着特定的方向移动。例如，在涉及宗教的问题时，机器人的答案会强烈地向真实的人类数据靠拢。但在涉及腐败或政治信任的问题时，答案往往会停留在机器人的默认“全球模式”中，甚至会背离真实人类的想法。
那么，这意味着什么呢？这表明，如果你想让AI理解一种特定的文化，你不能仅仅告诉它去“模仿”当地人。通过询问它去“预测”当地人会如何思考，你可能会得到更好的结果。即便如此，机器人也并非人类的完美镜像；它更擅长捕捉那些宏大、响亮的文化信号，而非那些细微、复杂的信号。研究人员得出结论：我们提问的方式不仅仅是一个外观上的选择——它从根本上改变了机器人的表达以及它与现实世界的对齐程度。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。