🤖 AI

The Grounding Gap: How LLMs Anchor the Meaning of Abstract Concepts Differently from Humans

本文揭示，尽管大型语言模型在被明确询问时能够识别接地维度，但与人类相比，它们表现出显著的“接地差距”，即过度依赖词语关联，且在自由生成过程中未能自然地调用情感与内部状态概念。

原作者： Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

发布于 2026-05-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Odysseas S. Chlapanis, Orfeas Menis Mastromichalakis, Christos H. Papadimitriou

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图向两组不同的对象解释“正义”这个概念：一组是满屋的人类，另一组是满屋的先进人工智能计算机。

人类的做法：
当人类想到“正义”时，他们的大脑并非仅仅调取字典定义。相反，这会触发一张丰富而杂乱的体验之网。他们可能会回忆起被不公平对待的感觉（一种内在情绪）、法庭的景象（一种感官细节），或是关于谁得到最后一块披萨的家庭争吵中的社会戏剧性场面。他们的理解“扎根”于他们的身体、情感以及与他人共同生活的经历之中。

人工智能的做法：
当人工智能想到“正义”时，它更像是一位超级快速的图书管理员，读过所有写过的书，却从未真正活过一天。它知道“正义”通常与“法律”、“法庭”、“法官”和“公平”等词汇相伴出现。它几乎完全依靠词语关联来构建理解。它知道这个词的“同伴”，却似乎感受不到这个概念的“分量”。

“扎根鸿沟”

这篇论文的研究人员决定测试这种差异。他们让 21 个不同的人工智能模型（包括 GPT-5、Claude 和 Gemini 等巨头）玩一个游戏：“当你听到这个抽象词汇时，脑海中浮现的前四件事是什么。”他们对“自由”、“荣誉”和“理论”等词汇进行了测试。

以下是他们的发现：

不匹配： 当人类玩这个游戏时，他们自然地混合了情感、身体感觉和社会情境。然而，人工智能主要列出的是语言关联（与该主题相关的其他词语），几乎完全忽略了情感和内在状态。
得分： 研究人员测量了人工智能的回答与人类回答的相似程度。即使是最聪明的人工智能，在相似性上也仅得约 0.37 分（满分 1.0）。相比之下，如果你让两个不同的人玩这个游戏，他们彼此之间的 agreement 约为 0.97 分（满分 1.0）。
- 类比： 这就像让一个人和一个机器人描述苹果的味道。人类会说：“甜、脆、多汁，让我想起秋天。”机器人则说：“红色、圆形、水果、苹果。”他们在谈论同一个物体，但用完全不同的语言进行描述。
“机器人俱乐部”： 有趣的是，人工智能彼此之间的相似度远高于它们与人类的相似度。它们似乎都共享同一种“机器人式”的思维方式，这与人类的思维方式截然不同。

转折：如果被要求，它们能做到吗？

研究人员想知道：人工智能是否真的理解这些情感，还是仅仅不知道如何将其表达出来？

为了测试这一点，他们改变了游戏规则。不再要求人工智能“列出脑海中浮现的事物”，而是提出具体问题，例如：“在 1 到 7 的尺度上，这个词与‘人类情感’的相关程度有多大？” 或者 “它与‘触觉’的相关程度有多大？”

结果： 突然之间，人工智能的表现大大提升了！它们的回答与人类更加一致。

类比： 这就像让一个害羞的人“给我讲一个关于你童年的故事”（他们可能会僵住或给出一个笼统的回答）。但如果你问他们：“你 5 岁时感到快乐吗？”（一个具体、有引导的问题），他们就能完美回答。

这表明人工智能内部确实拥有类人理解的“原料”，但当它们被放任自由生成文本时，却不知道如何混合这些原料。它们默认采用“词语关联”的配方，因为这是它们被训练去做的方式。

窥探机器内部

为了验证这种“害羞”的理解是否真的隐藏在人工智能的大脑中，研究人员使用了一种名为稀疏自编码器的特殊工具（将其想象为人工智能思维的 X 光机）。

他们发现，人工智能确实拥有特定的内部“开关”或“特征”，当它思考情感、社会互动或感官细节时，这些开关或特征会被激活。

类比： 想象一架钢琴。当人工智能演奏一首关于“正义”的曲子时，它主要敲击的是“法律”和“法庭”的琴键。但如果你掀开琴盖，你会看到“悲伤”和“触觉”的琴键实际上连接着钢琴内部的电线。它们就在那里，只是人工智能在独自演奏时并没有按下它们。

当研究人员手动强制这些“情感”开关保持开启状态时，人工智能确实开始生成更多情感化的描述。这证明了这种能力是存在的，只是没有被自然地运用。

结论

该论文得出结论：当前的人工智能模型并未像人类那样扎根于现实世界。

它们非常擅长模仿人类语言的模式。
如果你直接将它们指向“情感”或“触觉”等概念，它们能够理解这些概念。
但当它们被放任自由思考和表达时，它们过度依赖词语与词语之间的连接，无法触及那些使人类意义如此丰富的情感、身体感觉和社会体验。

研究人员认为，仅仅让人工智能变得更大或在更多文本上进行训练，并不能解决这个问题。要真正弥合这一鸿沟，我们可能需要从根本上改变构建和训练这些模型的方式，或许赋予它们“体验”世界的能力，而不仅仅是阅读关于世界的描述。

技术摘要：接地鸿沟

问题陈述

本文探讨了大型语言模型（LLM）是否以与人类相似的方式将抽象概念（例如正义、理论、可用性）进行接地（grounding）。人类认知认为，抽象概念的意义源于感知运动体验、情感和社会背景交织而成的网络（接地认知），而大型语言模型仅基于文本进行训练。核心问题在于：大型语言模型是仅仅依赖统计性的词语关联，还是通过构成人类理解的相同经验维度（感知运动、内部状态、社会）在内部表征抽象概念。

方法论

作者采用了一种结合行为复现、评分实验和机制可解释性的多管齐下的方法：

属性生成复现（行为层面）：
- 作者在 21 个前沿及开源权重大型语言模型上复现了两项既定的认知科学实验（Harpaintner 等人，2018；Kelly 等人，2024）。
- 任务： 提示模型自由生成抽象名词的属性、情境或关联。
- 分析： 将生成的输出编码为接地类别（例如：感知运动、内部状态、社会、语言关联），并使用皮尔逊相关系数（ $r$ ）与人类基线进行比较。
- 规模： 实验涵盖了 293 个抽象名词（实验 1）以及包含情感/非情感子集的 236 个抽象名词（实验 2）。
评分实验（显式查询）：
- 为了区分是缺乏对接地维度的知识，还是未能调用这些维度，作者复现了一项评分研究（Troche 等人，2017）。
- 任务： 模型使用李克特量表（Likert scale）在 14 个接地维度（例如：颜色、情感、社会、时间）上显式地对词语进行评分。
- 目标： 确定模型在被显式提示时是否能识别这些维度，并将其与自发的属性生成任务进行对比。
机制可解释性（稀疏自编码器）：
- 作者在 Gemma 3 模型（40 亿和 120 亿参数）上利用稀疏自编码器（SAE）检查内部特征。
- 方法： 他们识别出在名词生成期间，其激活与接地维度（感知运动、内部状态、社会）相关的潜在特征。
- 验证： 他们执行了“特征操控”（钳制激活），以观察人为放大这些特征是否会增加相应类别属性的生成。

主要结果

1. 属性生成中的接地鸿沟

低对齐度： 在所有 21 个模型中，人类与模型的接地之间存在一致且巨大的差距。没有任何模型与人类反应的皮尔逊相关系数（ $r$ ）超过0.37，而人类之间的上限超过0.9。
系统性偏差： 与人类相比，模型持续过度生成语言关联，而内部状态与情感属性的生成则不足。
模型同质性： 模型彼此之间的相关性高于它们与人类的相关性，这表明存在一种共享的、非人类的抽象概念表征模式，这种模式跨越不同的架构和提供商而持续存在。
扩展限制： 增加模型参数量（从 40 亿到 1200 亿）并未显著缩小这一差距；这种不匹配并非仅靠扩展即可解决的能力瓶颈。

2. 评分任务中的对齐

高显式对齐： 与属性生成相比，当被明确要求对词语在接地维度上进行评分时，模型的表现显著更好。表现最好的模型相对于人类上限（约 0.89）达到了约 0.76 的平均 $r$ 值。
启示： 这表明大型语言模型拥有接地类别的知识（在被查询时能够识别它们），但在自由生成过程中未能自发地调用这些维度。

3. 机制证据

内部特征： SAE 分析在 Gemma 模型中识别出了与接地维度（例如“感知运动”、“社会”、“内部状态”）相关的特定内部特征。
特征操控： 操控这些特征增加了其目标类别中属性的生成（例如，操控“内部”特征使内部状态属性的生成增加了 9.4%）。
局限性： 这些特征并非完全隔离；它们捕捉的是更广泛的语义模式，而非清晰、类人的接地类别。

主要贡献

差距的量化： 本文提供了经验证据，证明存在一个稳健的“接地鸿沟”，即当前的 LLM 无论模型大小或家族如何，都无法以类人的方式将抽象概念接地。
能力的区分： 它证明了这一差距并非源于无法识别接地维度（如评分实验所示），而是源于在生成过程中未能自发调用这些维度。
机制发现： 它识别出了 Gemma 模型中追踪接地维度的内部 SAE 特征，表明结构信息存在于模型内部，但并未以类人的方式在行为上表现出来。

意义与主张

本文得出结论，观察到的接地鸿沟不太可能仅通过扩展或改进基于文本的训练来解决，因为对语言关联的依赖是语言上下文自回归训练的自然结果。

适度主张： 作者指出，当前的 LLM“几乎——但并非完全——像人类一样理解基本的接地类别”，但它们“在自由生成时并未以类人的方式调用这些类别”。
未来方向： 研究结果表明，实现与人类真正的认知对齐可能需要训练技术或架构的根本性转变（例如具身学习或新颖的训练目标），而不是对当前范式的渐进式改进。
基准测试： 作者提出，接地对齐是一个新颖的指标，目前标准测试基准无法察觉，值得未来关注。

本文并未声称 LLM 拥有意识或真正的理解，而是强调了与人类认知相比，抽象概念的表征和利用方式存在一种特定的、系统性的分歧。