Structured yet Bounded Temporal Understanding in Large Language Models
本文研究了大语言模型在指示性(过去-现在-未来)与序列性(之前-之后)参照系下,其时间理解与相似性判断是如何变化的,揭示了受时间距离、区间关系及事件持续时间影响的截然不同的结构模式。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你拥有一个非常聪明的机器人,它读过几乎所有被写下的书籍、文章和网站。你可能会认为这个机器人完美地理解时间,因为它知道“昨天”在“今天”之前,“明天”在“今天”之后。但这篇文章提出了一个更深层的问题:这个机器人究竟是如何“感受”时间的? 它看待时间的方式是像人类一样,还是以一种奇怪的、机械化的方式?
普渡大学的研究人员决定通过把这个机器人当作一个正在参加心理测试的人来进行测试。他们想看看机器人的时间理解是否会随着提问方式的不同而改变。
以下是他们实验的过程及其发现,我们使用简单的类比来呈现。
两种看待时间的方式
研究人员使用两种不同的“透镜”或**参照框架(Frames of Reference)**来测试机器人:
- “自我”透镜(指示性/Deictic): 这是人类通常说话的方式。我们站在时间线的中间。我们会说,“那件事发生在过去”,“那件事正在现在发生”,或者“那件事将在未来发生”。参照点是“我们”(即“现在”)。
- “火车”透镜(序列性/Sequential): 这是我们描述事件相对于彼此的关系时的方式,而不必担心“现在”。我们会说,“事件 A 发生在事件 B 之前”,或者“事件 B 发生在事件 A 之后”。参照点仅仅是另一个事件,而不是一个人。
实验方法:“相似度评分”
研究人员并没有问机器人简单的“这是否发生在那个之前?”这类问题,而是要求它给出一个从 -1 到 1 的相似度评分。
- 1.0 表示“这两件事在时间上感觉非常接近/相似”。
- -1.0 表示“这两件事感觉完全相隔很远/不相似”。
他们向机器人输入了数千个现实世界的事件(如“电灯泡的发明”或“条约的签署”),但给它们起了假名(如“毛茸茸的猫”或“蓝色的石头”),这样机器人就无法仅依靠记忆的事实来回答。他们要求机器人根据一个特定的参照点,来评价这些事件感觉有多“近”。
他们的发现:机器人的“时间盲区”
结果非常引人入胜,因为它们表明机器人拥有一种非常特定、有结构但又有限的时间观。
1. “过去 vs 未来”的不平衡(“自我”透镜)
当机器人通过“自我”透镜(过去/现在/未来)观察时间时,它表现出一种不对称的视角:
- 未来是一片模糊: 当机器人观察未来的事件时,它的回答非常一致且趋向于负值。它很快就会判定:“未来的事物与现在完全不同。”这就像是在看一个雾蒙蒙的地平线;一切看起来都一样,而且遥远。
- 过去是一个杂乱的图书馆: 当观察过去时,机器人的回答要多样得多。它似乎对过去有着“更丰富”但“更不稳定”的记忆。有些旧事件感觉很近,有些感觉很远,机器人并不总是确定。
- 类比: 想象你站在一个房间里。未来是一面空白的白墙(统一且遥远)。过去是一个装满箱子的杂乱阁楼(细节丰富,但难以完美组织)。
2. “火车”透镜(序列性透镜)
当机器人切换到“火车”透镜(之前/之后)时,行为发生了彻底的变化。
- “全或无”规则: 一旦两个事件在时间上被分隔开(一个在另一个之前),机器人会立即给出 -1.0 的分数。无论它们相隔 1 天还是 100 年;只要它们不是同时发生的,机器人就会判定:“它们是完全不同的。”这里不存在中间地带。
- 类比: 这就像一个电灯开关。如果两个事件是接触在一起的,它们就是“开”(相似)。如果中间哪怕只有一点点缝隙,开关就会跳到“关”(不相似)。不存在“中间状态”。
3. “持续时间”的怪癖
研究人员还检查了事件的长度是否重要(例如,一场持续 10 年的战争与一场持续 1 天的战斗)。
- 仅限过去: 对于过去的事件,机器人认为较长的事件比短的事件感觉与参照点更相似。一场长期的战争在感觉上比发生在同一时间的短期战斗更“接近”于“现在”。
- 未来: 这个规则并不适用于未来。机器人并不关心未来事件会持续多久;它们都感觉很遥远。
大局观
论文得出结论,大语言模型(LLMs)拥有有结构但有界限的时间理解。
- 有结构: 它们并非随机。它们根据你如何设定框架(自我 vs 序列)以及时间间隔的形式(它们是重叠还是仅仅接触)遵循明确的规则。
- 有界限: 它们没有完美、类人化的时间感。它们对待过去和未来的方式不同,在处理复杂的重叠事件时会遇到困难,并且高度依赖于你给出的“框架”。
简而言之: 机器人并没有感到困惑;它只是在遵循一套与人类不同的规则。它并不把时间看作一条平滑流动的河流,而是将其视为一系列取决于框架的、离散的模式,这些模式会根据你在问“这件事对我何时发生?”还是“这件事相对于那件事何时发生?”而发生变化。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。