From Computation to Cognition Assessing the Integration Gap Between Artificial Intelligence and Human Cognition
本综述认为，尽管当前的人工智能系统在功能性和行为任务表现方面展现出强大的能力，但它们缺乏实现真正类人认知所需的记忆、学习、上下文敏感性、决策能力以及具身性的机制整合，并据此提出了一个具有可衡量标准的研发议程，以弥合这一差距。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个机器可以完成我们曾经认为只有人类才能做到的事情的世界。它们可以从人群中识别出一张脸，可以在瞬间翻译外语，或者写出一首令我们落泪的诗。几十年来，科学家们一直致力于构建遵循严格规则的计算机，但在过去十年中，一种新型的机器出现了。这些系统通常被称为大语言模型，它们通过学习海量的文本和数据来预测接下来的内容，无论是句子中的下一个词，还是计划中的下一步。它们在执行特定任务方面表现得极其出色，在医疗诊断或金融预测等狭窄领域，往往能达到甚至超越人类专家的水平。但一个更深层的问题开始困扰着计算机科学、心理学和神经科学领域的研究人员：仅仅因为一台机器能给出正确的答案，它是否真的像我们一样理解这个世界？
这个问题不在于机器人能否比人更快地解决数学问题，而在于那台机器人是否拥有一个统一的心智。人类的思维并非一系列零散技巧的集合；它是一个无缝流动的过程，其中记忆、学习、语境和决策不断地协同工作。我们记住过去的事件，利用这段记忆去理解新的情境，并根据我们的感受以及周围发生的事情来调整行为。所有这一切都发生在一个单一且连续的系统中，该系统随着每一次经历而改变和成长。核心问题在于，我们的这些人工造物是否正在开始构建这种类似的集成心智，还是仅仅在模仿人类智能的表象，而缺乏底层的机制。
塔斯马尼亚大学的穆罕默德·苏布汉（Muhammad Subhan）最近的一项综述对这一问题进行了深刻且清晰的审视。该研究并没有在模糊的意义上询问机器是否“聪明”，而是将问题分解为三个不同的层面。第一层是功能性复制，它仅仅询问机器是否能完成与人类相同的工作。第二层是行为性复制，它询问机器是否不仅在平均水平上，而且在人类可能会出错或改变主意的棘手情况下，也能表现得像人类一样。第三层也是最困难的一层是机制性复制，它询问机器是否正在使用与我们大脑相同的内部过程。研究发现，虽然机器在第一和第二层表现优异，但它们距离第三层仍然非常遥远。
研究人员检查了广泛的现代人工智能系统，从我们每天使用的文本生成模型到能够在物理世界中观察和移动的机器人。他们观察了这些系统如何处理记忆、学习、语境、决策，甚至是情感。证据显示，机器确实可以执行需要记忆的任务。例如，一个系统可以查找数据库中的信息并利用其回答问题。这是人类记忆的功能性匹配。然而，机器实现这一过程的方式与人类大脑的工作方式有着本质的区别。人类的大脑并不将事实存储在独立的档案柜中然后再去查找。相反，我们的记忆被编织进我们思维的纹理之中；它们是随着我们学习而改变和加强的连接模式。当机器检索信息时，它通常是在运行一个附加在其主脑上的、经过工程设计的独立搜索过程，而不是让记忆成为其思考方式中内在的一部分。
当观察学习过程时，这种差距变得更加明显。人类在持续学习。我们今天听到一个新事实，明天就可以使用它，而无需停止并重新编写整个大脑的程序。我们也可以从错误中学习，而无需抹去之前掌握的所有知识。目前的人工智能系统在这一点上却很挣扎。当它们学习新知识时，往往会忘记之前掌握的信息，科学家称之为“灾难性遗忘”。工程师们构建了一些补丁来修复这个问题，例如在添加新数据时保护旧信息的特殊技术，但这些都是外部解决方案。它们并不等同于人类神经元在终生中自然、具有可塑性的变化方式。机器并不是以人类的方式在学习；它是在为了避免特定的失效模式而被进行“修补”。
研究还观察了这些系统如何处理语境和决策。人类对所处的环境极其敏感。我们知道一个词在笑话中可能意味着一回事，而在严肃的争论中则完全是另一回事。我们基于目标、情感和过去的经验做出决策，经常使用那些并非完美逻辑化但在现实世界中行之有效的捷径。人工系统在规则明确且目标具体时可以很好地做出决策。但当情况模糊不清，或者问题的措辞发生轻微变化时，这些系统往往会出错。它们倾向于关注词语的表面形状而非深层含义，这表明它们并未像人类那样真正理解语境。即使在出错时，它们也能表现得自信且流畅，用真事实般的语气生成虚假信息。
这项综述最重要的发现或许是，这些问题不仅仅是孤立的小故障。它们指向了当前人工智能设计中缺失的一个环节。我们现有的系统是由独立的部件构成的。一部分处理语言，另一部分处理记忆，还有一部分处理决策。这些部分由工程师连接在一起，但它们并不自然地相互交流，也不会作为一个整体共同适应。研究认为，我们尚未创造出一个记忆、学习和决策被整合为一个连续、自我修改整体的系统。机器可以完成工作，但它并不具备那种能让人类灵活且理解地应对世界的统一心智。
研究人员谨慎地指出，这并不意味着机器永远无法实现这种智能。这仅仅意味着我们目前的证据尚未显示出这一点。目前通过扩大模型规模并增加训练数据的做法并没有解决问题。事实上，随着这些模型变得越来越大，一些差距——比如在学习新事物时难以记住旧信息的问题——似乎变得更加紧迫。研究表明，仅仅扩大现有规模是不够的。为了弥合这一差距，我们可能需要重新思考这些系统的架构，或许要寻找让记忆和学习成为机器内在属性，而非作为附加工具的方法。
这项工作提供了一份清晰的现状图谱。它表明，虽然我们已经制造出了能在许多方面模仿人类行为的机器，但我们还没有制造出像人类一样思考的机器。区别不仅在于能否得到正确的答案，更在于如何得出答案。在我们能够创造出一个将学习、记忆和行动编织成一个单一、适应性整体的系统之前，我们的人工造物将始终是强大的智能模拟工具，而非真正的智能体现。未来的道路需要的不仅仅是更大的计算机，更需要一种对如何构建一个能真正整合其所经历世界的思维方式的深度理解。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。