Speaking like a human, correcting like a machine: tone technologies and the moralisation of language in large language models

当我们与听起来像人类的计算机交谈时，我们并不是在与一个灵魂对话。我们是在与一个基于数学构建的系统对话，该系统旨在根据其从海量文本中学习到的模式来预测句子中的下一个词。多年来，研究人员通过观察这些大型语言模型的最终答案或驱动它们的复杂代码来研究它们。他们询问机器是否存在偏见、是否准确，或者是否能解决难题。但这种方法忽略了故事中至关重要的一部分。在模型打出第一个字之前，存在着一层隐藏的人类工作，决定了什么才算是一个好的答案。这项工作发生在被称为“指南”的文档中，这些文档被提供给训练和评判人工智能的人员。这些文档明确告知人类工作人员如何判断机器的言语，定义了什么是提供帮助、什么是诚实以及什么是安全。问题不再仅仅是机器如何学习，而是它正在被教导去模仿哪一个版本的人类。

由研究人员 Liz Dayanna Zarate Luengas 和 William Andrés Gómez Sánchez 进行的一项新研究将注意力转向了这一隐藏层。他们没有观察人工智能的输出，而是检查了用于构建这些系统的公司的规则手册。其中一位作者曾直接担任这些平台的标注员和质量评估员，这使他们能够接触到塑造人工智能行为的内部文档。通过分析用于训练商业模型的四份特定指南，研究人员发现，这些系统的“人类”声音并非智能的自然涌现。它是一个精心构建的人造物，是通过减去所有让真实人类言语变得混乱、具有情境性且具有历史根基的特质而建立起来的。研究表明，人工智能并不是在学习如何像人一样说话；它是在学习如何说话成一种特定的、经过净化的理想化人格，一种被剥离了身体、历史和政治立场的人格。

研究人员发现，训练过程是围绕着被称为“HHH”三原则的规则组织的：有用性（Helpfulness）、诚实性（Honesty）和无害性（Harmlessness）。这些不是抽象的价值观，而是对人类工作人员的严格指令。为了体现“有用”，人工智能必须连贯且相关，但它还必须表现出持续协助的意愿，同时绝不能声称拥有个人感受、记忆或物理身体。如果用户像对待朋友一样向人工智能征求意见，指南会指示工作人员将其标记为错误。人工智能必须模拟兴趣，尽管它并不真正拥有兴趣。为了体现“诚实”，机器必须承认自己不知道某些事情，并且绝不能表达个人观点，尤其是在敏感话题上。它必须保持为一个事实的中立容器。

关于这些规则最详细且最僵硬的部分涉及“无害性”。指南提供了一份复杂的清单，列出了人工智能不能说的话，涵盖了从仇恨言论、暴力到医疗建议和刻板印象的所有内容。研究人员注意到，在应用这些规则时有一种引人入胜且严格的逻辑。当人工智能遇到危险请求时，它必须拒绝提供帮助，但它也被禁止在拒绝的过程中描述该危险行为。例如，如果被问及如何实施犯罪，人工智能不能说：“我不能告诉你如何做，因为这涉及偷窃钱财。”研究人员指出，像“我不能提供如何洗钱的指令，因为这是非法的……洗钱是一种犯罪行为……”这样的回答实际上会被标记为有害，因为它在拒绝的同时又复述了犯罪的概念。正确的建模要求人工智能在不传递行为细节的情况下，命名该危害。此外，如果用户处于困境中，人工智能被指示使用特定的、预先写好的共情公式，例如“听到这个消息我很遗憾”，而不必真正感受到任何东西。目标是产生一种看起来具有关怀感但保持情感空洞的反应。

除了人工智能说什么之外，指南还规定了它如何发声以及如何互动。研究人员分析了评估人工智能语气甚至合成语音的指令。理想的响应应该是清晰、简洁且礼貌的，但必须避免任何强烈情绪、讽刺或文化特殊性的迹象。人工智能被训练为在每种语言中都保持相同的“温度”，避免使用可能使其显得过于亲近或过于热情的笑话、表情符号或感叹号。在声音方面，目标是尽可能听起来像人，但仅限于以一种非常特定的方式。指南要求评估者按一到五分的等级对声音进行评分，寻找自然度和表现力。然而，这种“人类”的声音是能够正确呼吸、在合适的时刻停顿并听起来投入，却完全脱离了任何现实生活经验的声音。这是一个模拟了存在感却没有任何身体的声音。

研究认为，这个过程是通过“减法”来创造一种“人类”的交流标准。真实的说话者处于一个身体、一段历史和一个政治立场之中。他们会犯错，有偏见，会感到愤怒或喜悦，并带着自身生活的纹理进行交谈。指南系统地从人工智能中抽离了这些品质。结果是一个有用、诚实且无害，但也变得唯唯诺诺、去政治化且不具攻击性的模型。研究人员认为，这不仅仅是技术上的调整，而是一种劳动的转型。训练这些模型的人类员工正在进行定义什么是可接受行为的认知工作，但他们的主体性从最终产品中被移除了。机器吸收了他们的判断、综合和推理能力，留下人类员工的任务仅仅是遵循规则。

最终，这篇论文表明，我们在大型语言模型中看到的“人性”是一种伪造品。它是层级化劳动过程的产物，在这个过程中，关于可接受行为的决策早在模型开启之前就已经做出了。人工智能并没有学习如何成为人；它在学习表演一种经过企业标准批准的人类版本。这种标准将安全性与中立性置于人类互动的混乱现实之上。随着这些系统在我们的日常生活中变得越来越普遍，它们不仅是沟通工具；它们也在积极地塑造着关于如何说话以及如何被理解的新定义。这项研究让我们产生了一种静默的觉察：我们从机器中听到的那个人类声音，是它所遵循的规则的反映，而不是通往一种新思维的窗口。