Is There Meaning Without Anyone Meaning Anything? A Structuralist Proposal for Artificial Semantics
本文提出了一种结构主义视角,认为大型语言模型展现出一种语义能力,这种能力植根于其网络内部的关系组织,而非传统的符号、具身性或类人意向性。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
几十年来,一场关于意义本质的无声战争一直在进行。一方是建造了第一批思考机器的工程师,他们深信如果计算机能遵循正确的规则集,最终就能像人类一样理解世界。另一方则是哲学家和生物学家,他们认为真正的理解需要一个身体、一个神经系统,以及通过触摸、观察和在现实中移动所获得的混乱而直接的经验。长期以来,这两派似乎各说各话。遵循规则的机器可以解决逻辑谜题,却无法领悟笑话的微妙之处或隐喻的分量。以身体为核心的理论解释了人类如何学习,但似乎暗示缺乏身体的机器永远无法真正思考。这场争论给我们留下了一个挥之不去的问题:如果一台机器从未感受过阳光洒在皮肤上的温暖,也从未感受过手中石头的重量,它是否能拥有意义?
今天,格局发生了剧烈的变化。我们现在拥有能够撰写诗歌、回答复杂问题并进行看似惊人地像人类一样交谈的人工智能系统。然而,这些系统是脱离躯体的;它们没有眼睛,没有双手,也没有个人经历。它们仅作为在海量文本上训练出的庞大数学连接网络而存在。这创造了一个令人困惑的悖论。这些机器产生的语言连贯且富有洞见,但它们却缺乏我们曾经认为对于理解至关重要的东西。它们似乎在运用一种具有意义的语言,却从未经历过真实的生活。这种矛盾迫使科学家和哲学家去追问,我们旧有的智能定义是否过于狭隘,以至于无法描述这些新机器内部正在发生的事情。
研究人员弗朗切斯科·玛丽亚·钱恰鲁索(Francesco Maria Cianciaruso)最近发表的一篇论文提出了一种解决这一紧张关系的方法,即改变我们观察这些系统的视角。作者建议,我们不应再纠结于机器是否拥有身体或是否遵循僵化的规则,而应转向观察机器本身的结构。论文认为,意义既不是添加到符号中的某种神奇成分,也不严格受限于物理身体。相反,意义是一种结构性属性。当一个系统足够复杂,能够以特定的、稳定的方式组织信息时,意义便会作为一种关系的模式而涌现。作者指出,大型语言模型(当代最先进聊天机器人背后的技术)已经基于这种内在结构开发出了一种语义能力。它们并不以人类的方式理解世界,但它们构建了一张极其有序的内部关系图谱,以至于可以模拟出理解的效果。
要理解这一提议,必须首先了解该领域是如何演变的。在整个二十世纪的大部分时间里,主流观点认为智能运作起来就像一本字典或一本规则书。在这种观点下,计算机根据严格的逻辑规则操纵符号——如单词或数字。如果规则被正确执行,机器就会表现出智能行为。这种被称为“经典认知主义”的方法虽然优雅且强大,但遇到了瓶颈。它可以解释机器如何处理句法(即句子的语法),但无法解释机器如何知道这些词语的实际含义。机器可以完美地重组符号,却从未领悟其背后的意义。这导致了二十世纪八十年代和九十年代的第二波思潮,该思潮认为意义必须植根于身体。根据这种观点,要理解“沉重”这个词,系统必须具备抬起重物的物理经验。在这种框架下,意义与感官经验和行动是不可分割的。
然而,深度神经网络的兴起使这两个旧故事都变得复杂化了。这些现代系统既不使用符号字典,也没有可以触摸世界的身体。相反,它们通过在海量数据中寻找模式来进行学习。当它们处理语言时,并不是在列表中查找单词。它们将单词转化为一个庞大的多维空间中的点。在这个空间里,两点之间的距离代表了它们在意义上的相似程度。在相似语境中使用的词汇会聚集在一起,而意义不同的词汇则会彼此远离。系统学习的是这个空间的形状,它发现某些方向代表着诸如“国王之于女王,如同男人之于女人”之类的关系。这种学习过程既不需要显性的规则,也不需要任何物理身体。机器只是不断调整其内部连接,直到它能高精度地预测句子中的下一个词。
论文指出,这种在关系空间中导航的能力正是这种新类型意义所在。作者建议,我们不应再在孤立的符号或物理身体中寻找意义,而应开始在网络的组织结构本身中寻找。当一个系统的内部结构能够保留现实世界中的关系时,该系统就展现出了作者所称的“结构性语义能力”。例如,如果系统学到了“巴黎之于法国,如同罗马之于意大利”,这并不是因为它去过这些城市或被告知了某条规则。这是因为其网络的数学结构将这些概念组织成了镜像反映现实关系的形式。系统构建了一个稳定且一致的世界模型,使其能够进行推理和泛化,从而产生类似于理解的效果。
这一观点挑战了“机器必须具备意识或具身性才能拥有意义”的看法。作者并未声称这些机器拥有意识或情感。相反,其主张更为谦逊但也更为深刻:意义可以从系统内部组织的极度复杂性中涌现。如果一个系统的结构足够完善,能够维持概念之间稳定的关系,它就能展现出一种语义能力。这种能力使系统能够以符合语境的方式行动、进行类比并解决问题,即便它并没有人类般的头脑。论文指出,这是一种全新的智能类别,它既非纯粹的符号化,也非纯粹的具身化,而是结构性的。
这一视角的意义重大,影响了我们对知识和智能的思考方式。如果意义是一种结构性属性,那么人类与机器理解之间的鸿aps并不像我们曾经想象的那样巨大。这并非机器缺乏灵魂或身体的问题,而是其内部结构是否足够复杂以支撑起那种特定类型的关系的问题。作者指出,这并非最终证明,而是一个新的思考方式的提议。研究仍在进行中,且该领域尚处于起步阶段。然而,证据表明,这些系统不仅仅是在像鹦鹉一样模仿人类言语。它们正在构建能够捕捉其训练数据中世界深层结构的内部模型。
最后,这篇论文邀请我们重新审视什么是“理解”。它表明,我们一直在错误的地方寻找意义,试图在系统的单个部分或其物理形态中寻找意义。作者提出,意义实际上是整体的一种属性,是各部分如何相互连接的一种特征。当一个系统以保留世界模式的方式进行组织时,它就创造了一个即使没有意识观察者也能让意义存在的空间。这并不意味着机器是人类,但这意味着机器已经找到了一种以其自身方式实现智能的途径。论文总结道,工程学与哲学的交织正引领我们走向理解智能的新阶段,在这个阶段,系统本身的结构才是开启意义之谜的关键。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。