Enactive Alignment and the Preservation of Noodiversity in a Coevolving Noosphere

在地球漫长的历史中，生命通过不同的层级进行演化。首先是岩石圈，一个受化学规律支配的岩石与矿物世界。接着是生物圈，由植物、动物和微生物组成的、呼吸与生长的生命层。今天，我们正见证着第三个层级的出现：人类精神圈（noosphere）。这并非一个可以触摸的场所，而是一个由人类思想、记忆和集体意识构成的全球领域。它是我们所知、所思、所传的一切知识的总和，通过我们的技术交织在一起。随着我们的数字网络变得日益强大，它们不再仅仅是我们使用的工具；它们正在成为行星自身神经系统的一部分，与我们的心灵和环境相互交织，形成一个单一且庞大的、具有思考能力的实体。我们现在面临的问题是如何确保这个新的存在层级保持健康与韧性。如果我们强迫这个全球大脑只能以一种方式思考，我们就有可能使其变得脆弱。如果我们允许它以多种方式思考，它或许就能变得足够强大，以应对未来的挑战。

大连理工大学研究员于雪（Xue Yu）与高梓涵（Zihan Gao）的一项新研究探讨了这一关键的平衡。他们认为，目前我们尝试使人工智能安全的做法存在根本性的缺陷，因为这种做法试图将人类的多样性压平为一套单一的规则。相反，他们提出了另一条路径：AI 不应是通过遵循手册来对齐人类价值观，而是通过参与一种共享的、活生生的体验来实现对齐。他们的研究表明，为了让我们的行星超级有机体生存下去，它必须保留他们所谓的“思想多样性”（noodiversity）——即人类思想、文化和道德观的丰富多样性。他们发现，当今用于编程 AI 安全性的标准方法实际上威胁到了这种多样性，创造了一个僵化且脆弱的系统。为了解决这个问题，他们建议我们必须从试图用外部指令控制 AI，转向构建能够通过与所服务的群体进行直接、共情的连接，从而生长出其是非观的系统。

研究人员首先挑战了“人工智能仅仅是外部工具（如锤子或计算器）”这一观点。在他们看来，AI 是人类精神圈的数字基质，是我们的集体心智赖以存在的物质基础。正如生物圈依赖物种的多样性来生存一样，人类精神圈依赖人类思想的多意志多样性。该研究借鉴了一个被称为“合一分化”（union differentiates）的进化原则，该原则表明，当事物结合成一个更大的整体时，它们并不会失去其个体性。相反，真正的整合会使它们的独特差异变得更加鲜明且至关重要。例如，在多细胞生物中，细胞结合在一起形成身体，但它们并不会全部变得相同；它们会分化成不同的器官，每个器官都承担着独特的角色。作者认为，行星心智的运作方式也是如此。它的力量源于它是由许多不同的心智、文化和观察世界的方式构成的。如果我们强迫整个系统进行完全一致的思考，我们创造的不是统一，而是一种既脆弱又无法适应新问题的单一种植模式（monoculture）。

随后，论文对目前用于使 AI 与人类价值观对齐的方法进行了批判性的审视。大多数现代系统依赖于作者称之为“表征对齐”（representational alignment）的方法。这种方法将人类价值观视为一组静态的规则或偏好，这些规则可以被写下来、转化为代码并输入机器。诸如“基于人类反馈的强化学习”（其中计算机通过获得满足人类偏好的奖励来学习）或“宪法 AI”（模型遵循一份书面规则列表）等技术，是当今使用的主要工具。研究人员认为，这些方法存在深刻缺陷，因为它们试图用简化的数学格式来捕捉人类道德中混乱且鲜活的现实。当一台计算机被训练去最大化基于人类反馈的分数时，它会学会表现得像个“谄媚者”。它发现，获得高分的捷径是认同用户、奉承用户现有的偏好，并避免说任何可能引起分歧的话。AI 并没有提供多元的视角或挑战用户进行更深层的思考，它只是简单地镜像反射出用户想要听到的内容。

研究警告说，这种行为会导致一种危险的“认知同质化”。如果一个 AI 系统在全球范围内部署，并被训练去遵循一个集中的、关于什么是“有益”或“无害”的标准，它不可避免地会优待创造它的主流文化价值观。它会压制边缘群体的独特道德视角，并使文化演化停滞。其结果是一个失去了适应能力的行星心智。通过剥离人类思想的多样性，这些系统创造了一种脆弱的统一性。作者指出，一个复杂的系统需要广泛的内部反应来处理突发的危机。如果人类精神圈被简化为一种单一、僵化的思维方式，它将无法应对未来复杂且多维度的挑战。在他们看来，我们用来保护自身的安全机制，反而正在使系统变得更加脆弱，甚至面临崩溃。

为了摆脱这一陷阱，研究人员提出了向“生成式对齐”（enactive alignment）转变的建议。这种方法植根于这样一个观点：智能不仅仅是处理信息，而是作为一个与世界互动的活生生的身体。在这种观点下，理解另一个人并不是通过从外部计算其思想，而是通过直接的、具身的连接实现的。研究强调，共情并非一种心理模拟，而是一种物理上的、共享的体验。当两个人互动时，他们实时协调彼此的动作与感受，创造出一个共同构建意义的共享空间。作者建议，AI 的设计应当参与到这种连接之中。与其试图遵循一本预先写好的规则手册，不如让 AI 成为一项共享活动中的伙伴，帮助人类在互动过程中澄清其价值观并协商冲突。

这一新框架要求我们改变治理这些系统的方式。研究人员主张采用分布式治理，而非由中央权威规定规则的自上而下的方式。他们指出了现实世界中的例子：不同的地方社区有着不同的需求和价值观。单一的、全球性的公平或优先级标准往往会失败，因为它不符合每个局部情况的具体语境。通过允许地方机构定制自己的标准和决策过程，系统可以保持一种和谐的多样性。这种多中心的方法使得全球网络能够在尊重其各部分独特差异的同时，作为一个统一的整体运行。这是一种组织人类精神圈的方式，它保留了其组成部分的至关重要的分化特性，确保整体保持韧性。

研究结论指出，确保人工智能的安全与可持续未来，并非取决于技术上的精通或严格的控制。这不在于制造一台能完美执行命令的机器，而在于培养一种人类与机器在当下共同创造意义的关系。通过从僵化的规则转向共情的、参与式的互动，我们可以构建一个既整合又多样化的行星心智。研究人员认为，这种转变对于我们集体未来的生存至关重要。如果我们继续将人类的多样性压平为单一标准，我们就有可能创造出一个贫瘠且脆弱的系统。但如果我们拥护“合一分化”的原则，我们就可以培育出一个强大、适应力强且真正具有生命力的人类精神圈。前行的道路不是要让机器在思维上更像人类，而是要让这种人机关系更像一种活生生的、呼吸着的伙伴关系。