← 最新论文
💬 NLP

Recursive numeral systems are highly regular and easy to process

本文认为,通过最小描述长度(MDL)框架将规则性与处理复杂度结合起来,能更好地解释递归数制系统的结构,并自然地解释了以往基于效率的模型需要通过人为设定才能实现的约束。

原作者: Ponrawee Prasertsom, Andrea Silvi, Jennifer Culbertson, Moa Johansson, Devdatt Dubhashi, Kenny Smith

发布于 2026-02-03
📖 1 分钟阅读☕ 轻松阅读

原作者: Ponrawee Prasertsom, Andrea Silvi, Jennifer Culbertson, Moa Johansson, Devdatt Dubhashi, Kenny Smith

原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

想象一下,你正在试图设计一本关于计数的最完美的说明书。你希望它足够短小以便装进兜里(高效),但又要足够清晰,让任何人都能准确理解你所指的数字(信息量充足)。

长期以来,语言学家一直认为,人类语言之所以呈现出目前的计数方式,仅仅是在词汇量大小(词汇量)与句子复杂度(句子长度)之间寻求一种平衡。他们认为语言进化是为了在两者之间找到一个“甜点位”。

然而,这篇新论文指出,旧有的观点忽略了一个至关重要的要素:规则性(Regularity)

以下是利用简单的类比对该论点的拆解:

1. “乐高” vs. “魔术盒”

把像英语中文这样的自然语言想象成一套乐高积木

  • 你有一组基础积木(1, 2, 3... 10)。
  • 你有一些将它们拼接在一起的规则(加法、乘法)。
  • 要组成数字 43,你只需将一个“4”的积木、一个“10”的积木和一个“3”的积木拼在一起即可。这是一个可预测的模式。

现在,想象一个旧数学模型所建议的、在理论上同样优秀的“最优”系统。这个系统就像一个魔术盒

  • 对于数字 18,盒子说“10 + 8”。
  • 对于 19,它说“25 - 7”。
  • 对于 20,它说“5 × 4”。
  • 对于 21,它说“3 × 7”。

从数学上看,这个“魔术盒”系统使用的总词汇量或平均句子长度可能比“乐高”系统更少。但它是混乱的。它没有规律。如果你只知道“21”,你无法推测出如何表达“22”。你必须把每一个数字都当作一个独特的、奇怪的代码来死记硬背。

作者认为,虽然“魔术盒”在电子表格上看起来很高效,但它之所以失败,是因为它缺乏规则性。人类讨厌“魔术盒”,因为它难以学习,也难以处理。

2. 新的衡量标准:“压缩率”

研究人员使用了计算机科学中的一个概念——最小描述长度(MDL)。你可以把它想象成一个压缩包(Zip文件)

  • 一个规则系统(如乐高)是高度可压缩的。你可以写一本极小的规则书:“要制作 10-99 之间的数字,取一个数字,乘以 10,再加上另一个数字。”这个“压缩包”非常小。
  • 一个不规则系统(如魔术盒)则无法被压缩。你必须逐一列出每一个数字,因为无法利用任何模式。这个“压缩包”非常庞大。

论文声称,自然语言之所以是“最优的”,不仅是因为它们简短,还因为它们是高度可压缩的。它们易于被我们的大脑“压缩”(存储)和“解压”(处理)。

3. 测试理论

作者进行了一次大规模模拟:

  • 他们选取了 128 种真实的语言(如英语、中文、法语)。
  • 他们生成了 10,000 种随机的人造语言(包括之前数学模型认为“完美”的“魔术盒”类语言)。

结果是:
人类语言始终比人造语言更具规则性,且更易于处理。即使他们强行让这些人工语言使用与人类语言完全相同的构建模块(数字和乘数),人类的系统依然表现更好。它们更擅长将这些模块组织成一种可预测的模式。

4. “权重”问题

之前的研究假设我们使用小数字(1, 2, 3)的频率远高于大数字(90, 99),因此在计算中给予了小数字很大的“权重”。他们认为:“如果我们只关心小数字,那么‘魔术盒’就是没问题的。”

作者通过改变规则,对所有数字进行等同对待(一种“均匀先验”)来测试这一点。

  • 令人惊讶的是: 即使每个数字的重要性相同,人类语言看起来仍然比人工语言更高效、更有规则。
  • 结论: “魔术盒”系统之所以看起来高效,是因为数学模型忽略了那些庞大且混乱的数字。当我们观察全局时,人类语言才是真正的赢家,因为它们拥有完整的结构。

核心启示

论文得出结论,规则性是语言进化的一个基本压力。它不仅仅是为了节省空间或提供信息,更是为了创建一个遵循规则的系统,从而让我们的脑子不必去死记硬背一百万个随机代码。

自然语言不仅是“高效”的,它们还是可预测的。它们就像一座组织良好的图书馆,你可以通过遵循一套简单的系统找到任何一本书,而不是面对一堆混乱的图书,必须记住每一本书的具体位置。正是这种可预测性,使得语言易于学习、易于使用,并成就了它们现在的模样。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →