Beyond Task Intelligence: Artificial Intelligence, Embodied Robotics, and the Epistemic Limits of Machine Cultural Understanding
本文认为，尽管人工智能具有卓越的任务执行能力，但它缺乏人类知识所具备的具身性、情境性与反思性，因此有必要将评估框架转向认识论能力，并将人文科学定位为定义并测试真正通用智能的核心智力环境。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一个机器可以跑得比最快的全人类短跑运动员还要快，却仍然难以捡起一根简单的电缆的世界。这并不是一个关于机器人失败的故事，而是一个关于我们如何衡量智能的更深层的谜题。如今，人工智能系统可以流畅地撰写文章、翻译语言，并以惊人的速度从浩如烟海的文本库中检索事实。它们正在接受特定任务的测试，比如解决数学问题或识别照片中的物体，并且往往能取得胜利。但赢得一场特定的测试并不意味着机器真正理解了它所运行的世界。科学家和学者面临的问题不再是机器能否完成一项任务，而是它能否理解赋予该任务意义的语境、历史和人类关系。这就是完美遵循一套指令与明知这些指令不再适用时仍能做出判断之间的区别。
拉夫堡大学的普鲁德维·库马尔·卡尼亚达里（Prudhvi Kumar Kanyadari）的一项新的系统性综述探讨了这种“做”与“理解”之间的差距。该论文指出，虽然机器在处理特定的、可衡量的任务方面变得极其出色，但它们往往缺乏人类认为理所当然的一种更深层的知识。这种深层知识不仅仅是拥有信息，而是知道这些信息如何融入特定的时间、地点和文化。作者建议，我们不应仅通过机器在标准测试中的得分来评判人工智能，而应开始询问它是否能够处理人类生活中那些混乱、不确定且往往充满矛盾的本质。
论文首先引用了 2026 年世界人形机器人大赛中一个引人注目的例子。在这些赛事中，像天工 Ultra 这样的机器人以 8.64 秒完成了 100 米赛跑，击败了由尤塞恩·博尔特保持的 9.58 秒人类世界纪录。这些机器在跑步方面极其快速且高效。然而，同样的机器人往往在处理许多更简单、日常的任务时感到吃力，例如插上电缆或在变化的物理环境中搬运包裹。作者指出，跑步是一个封闭型问题：跑道是平坦的，距离是固定的，目标是明确的。相比之下，插电缆是一个开放型问题。机器人必须感知插头的形状，感知插座的阻力，并在电缆移动时调整其握力。它必须去适应一个并非为它完美设计的世界。机器人可以赢得比赛，但它还不知道如何在这个世界上航行。
这种模式同样出现在语言和文化领域。大型语言模型——许多现代聊天机器人背后的系统——检索文学名句或总结历史事件的速度比任何人类研究员都要快。然而，当被要求解释一种文化仪式或说明一种社会习俗时，这些系统经常犯下一些暴露其缺乏真实理解的错误。它们可能会写出一段文采斐然但事实错误的传统解释，或者可能会重复关于某个群体的有害刻板印象，因为这些刻板印象在它们训练的数据中非常普遍。论文指出，这些系统可以检索信息，但它们往往无法理解文化的“深描”（thick description）——即同一个行为根据执行者是谁、身处何处以及携带什么样的历史背景，可以具有不同的含义。
作者引入了三种不同的衡量智能的方式，以阐明这一问题。第一种是任务胜任力（task competence），它询问机器是否可以执行特定操作，如参加比赛或寻找一个单词。第二种是语境胜任力（contextual competence），它询问当情况发生变化时，机器是否仍能表现良好，例如语言发生了变化、历史变得复杂或物理环境变得不可预测。第三种也是最困难的一种是认识论胜任力（epistemic competence）。这询问机器是否知道自己是否缺乏足够的信息来给出答案，或者它是否能识别出一个问题本身是否存在缺陷。当前的人工智能在第一种胜任力方面表现出色，但在第二种和第三种方面往往表现不佳。即使在证据缺失或主题过于复杂、无法用单一简单解释的情况下，它也能给出一个自信的答案。
论文强调的最严重问题之一是“幻觉”引用的问题。在学术研究中，引用是对证明观点的来源的参考。然而，这些系统有时会编造看起来真实但实际并不存在的来源，或者引用真实的著作却声称这些书里说了它们从未说过的话。这是危险的，因为它破坏了证据链。在人文科学中，知识是建立在文档、档案和解释的链条之上的。如果机器在链条中插入了一个虚假的链接，整个结构都可能坍塌。论文认为，这不仅仅是一个可以通过更好数据来修复的漏洞，而是机器处理信息的方式与人类构建知识的方式之间的根本区别。人类知道何时停下来并说：“我不知道，”或者“这个来源是不可靠的。”而驱动着去完成任务的机器，往往会带着一个自信但错误的答案向前推进。
该综述还考察了这些系统如何处理文化和代表性。当被要求生成特定文化背景下的人物图像时，这些系统往往依赖于刻板印象。例如，在生成印度人的图像时，系统可能会一致地展示处于现代环境中的高种姓个人，而仅将低种姓个人描绘在贫困或抗议的场景中。这是因为系统从现有的模式中学习，而这些模式往往反映了历史性的偏见。其结果是产生了一个看起来看似合理、实则扭曲了现实的图像。论文指出，一个在文化上具有说服力的图像可能是一种认识论上的失败，这意味着它未能代表它声称要展示的文化的真相。
作者提出，我们需要一种新的测试人工智能的方法，这种方法要超越简单的评分。我们不应仅仅询问机器是否能正确回答一个问题，而应该询问它是否能处理语境的变化。如果历史时期改变了，它还能理解一个故事吗？它能识别出一个文化术语没有直接翻译的情况吗？它能承认一个问题是基于错误的假设吗？论文建议，未来的基准测试应该包括“扰动”（perturbation）测试，即研究人员故意改变任务的条件，以观察系统是否会崩溃。他们还应该测试“认识论弃权”（epistemic abstention），即奖励那些知道何时因信息不足而无法回答问题的系统。
这种新方法需要计算机科学家与人文科学学者（如历史学家、人类学家和文学评论家）之间的合作。这些领域在几个世纪以来一直在研究知识是如何创造的、类别是如何形成的，以及权力如何影响我们所认为的真理。论文认为，这些学者不应仅仅是技术的批评者，而应该是参与设计技术的积极参与者。他们可以帮助定义什么是机器的“文化胜任力”，并帮助建立能够揭示现有系统隐藏偏见和局限性的测试。
论文总结道，人工智能的未来不在于制造更快或更强大的机器，而在于构建更具问责制的系统。一个真正智能的系统不仅应该能够解决一个问题，还应该能够理解问题本身。它应该知道一个问题是否不公平，一个类别是否过时，或者一个表述是否具有伤害性。它应该能够识别自身知识的界限。作者认为，人文科学是测试这些能力的理想场所，因为它们处理的是机器所挣扎的事物：模糊性、历史以及复杂的各种人类关系。
最终，目标不是让机器表现得完全像人类，而是创造能够与我们负责任地协作的系统。这意味着要开发能够区分事实与观点、区分刻板印象与现实、以及区分自信的猜测与有据可查的真理的机器。论文指出，如果我们能实现这一点，我们就已经从简单的任务性能迈向了一种真正通用且真正有用的智能形式。前行的旅程不仅是关于工程学上更好的机器人或更聪明的软件，更是关于在不断变化的世界中重新思考“知晓某事”的含义。最重要的步骤是确保随着这些系统变得越来越强大，它们也变得越来越谦逊，意识到有些问题需要的不仅仅是一个答案。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。