💬 NLP

Recursive numeral systems are highly regular and easy to process

本論文は、最小記述長（MDL）の枠組みを通じて規則性と処理複雑性を組み込むことが、再帰的な数体系の構造をより適切に説明し、従来の効率性に基づくモデルがアドホックに課す必要があった制約を自然に説明できることを論じるものである。

原著者： Ponrawee Prasertsom, Andrea Silvi, Jennifer Culbertson, Moa Johansson, Devdatt Dubhashi, Kenny Smith

公開日 2026-02-03

📖 1 分で読めます☕ さくっと読める

原著者： Ponrawee Prasertsom, Andrea Silvi, Jennifer Culbertson, Moa Johansson, Devdatt Dubhashi, Kenny Smith

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

あなたは、数の数え方に関する究極の取扱説明書を設計しようとしていると想像してください。それは、ポケットに入るほど短く（効率的）でありながら、誰が見ても正確にどの数字を指しているのか理解できるほど明快（情報的）である必要があります。

長い間、言語学者は、人間の言語がなぜ現在の数え方をしているのかという秘密は、単に「どれだけの単語が必要か」（語彙サイズ）と「文章がいかに長くなるか」（複雑性）の間のバランスにあると考えてきました。彼らは、言語はこの2つの間の「スイートスポット」を見つけようと進化してきたと考えていたのです。

しかし、この新しい論文は、その古い見解には重要な要素が欠けていると主張しています。それが**「規則性（Regularity）」**です。

以下に、シンプルな比喩を用いた彼らの議論の要約をまとめます。

1. 「レゴ」対「魔法の箱」

人間の言語（英語や中国語など）を、レゴブロックのようなものだと考えてください。

あなたには、いくつかの基本となるブロック（1, 2, 3... 10）があります。
そして、それらを組み合わせるためのいくつかのルール（足し算、掛け算）があります。
「43」を作るには、「4」のブロック、「10」のブロック、そして「3」のブロックをカチッと組み合わせるだけです。これは予測可能なパターンです。

一方、従来の数学モデルが「同等に優れている」とした、理論上の最適とされるシステムを想像してみてください。このシステムは**「魔法の箱」**のようなものです。

「18」に対して、箱は「10 + 8」と言います。
「19」に対しては、「25 - 7」と言います。
「20」に対しては、「5 × 4」と言います。
「21」に対しては、「3 × 7」と言います。

数学的には、この「魔法の箱」は、レゴのシステムよりも総単語数が少なかったり、平均的な文章が短かったりするかもしれません。しかし、それは**混沌（カオス）**としています。パターンが存在しません。「21」を知っていても、「22」の言い方を推測することはできません。すべての数字を、個別の奇妙なコードとして暗記しなければならないのです。

著者らは、魔法の箱はスプレッドシート上では効率的に見えるかもしれませんが、規則性を欠いているために失敗すると主張しています。人間は、学習が難しく、処理が困難な「魔法の箱」を嫌うのです。

2. 新しい指標：「圧縮可能性」

研究者たちは、コンピュータサイエンスの概念である**「最小記述長（MDL）」を用いました。これは「zipファイル」**のようなものだと考えてください。

規則的なシステム（レゴのようなもの）は、非常に圧縮可能です。例えば、「10〜99の数字を作るには、ある桁を取り、10を掛け、別の桁を足す」という極めて小さなルールブックを書くことができます。この「zipファイル」は非常に小さいです。
不規則なシステム（魔法の箱のようなもの）は、圧縮できません。パターンを利用できないため、すべての数字を個別にリストアップする必要があります。そのため、「zipファイル」は巨大になります。

論文は、自然言語は単に短いだけでなく、高度に圧縮可能であると主張しています。つまり、人間の脳にとって「zip（圧縮）」しやすく、「unzip（展開）」しやすいのです。

3. 理論の検証

著者らは大規模なシミュレーションを行いました。

128の実際の人間言語（英語、中国語、フランス語など）を取り上げました。
そして、1万種類のランダムな人工言語（以前の数学モデルが「完璧」とした「魔法の箱」タイプを含む）を生成しました。

結果：
人間が使う言語は、人工的な言語よりも一貫してより規則的で、処理しやすいものでした。たとえ人工言語に対して、人間言語と同じ構成要素（数字や乗数）を使用するように強制したとしても、人間が作ったシステムの方が勝っていました。人間は、それらのブロックを予測可能なパターンへと整理することに長けていたのです。

4. 「重み」の問題

これまでの研究では、小さな数字（1, 2, 3）は大きな数字（90, 99）よりもはるかに頻繁に使われると想定されていたため、計算において小さな数字に多くの「重み」を与えていました。彼らは、「小さな数字だけに注目するなら、魔法の箱でも問題ない」と考えていたのです。

著者らは、すべての数字を平等に扱う（「一様事前分布」）ようにルールを変更して、このテストを行いました。

驚きの事実： すべての数字が同じ重要性を持つ場合でも、人間の言語は人工的な言語よりもはるかに効率的で規則的であることが分かりました。
結論： 「魔法の箱」のようなシステムが効率的に見えたのは、数学が大きくて複雑な数字を無視していたからです。全体像を見ると、構造を持つ人間の言語の方が明らかに勝っています。

まとめ

この論文は、規則性が言語進化における根本的な圧力であると結論付けています。それは単にスペースを節約したり、情報を伝えたりすることではなく、膨大な数のランダムなコードを暗記せずに済むような「ルールに従ったシステム」を作り出すことなのです。

自然言語は単に「効率的」なのではありません。**「予測可能」**なのです。それは、あらゆる本を個別に場所を暗記しなければならない混沌とした本の山ではなく、単純なシステムに従えばどんな本でも見つけられる、よく整理された図書館のようなものです。この予測可能性こそが、言語を学びやすく、使いやすくし、現在の形へと導いているのです。

技術要約：再帰的数詞体系における規則性と処理複雑性

問題提起

言語学における近年の研究は、言語間の変異が、効率的なコミュニケーションのための圧力（例えば、語彙サイズと情報量の間のトレードオフ）によって制約されていることを広範に示してきた。しかし、既存の効率性分析は、形態と意味の対応が規則的なパターンに従うという自然言語の特徴的な性質である「体系性（規則性）」を、多くの場合見落としている。

この欠落は、再帰的数詞体系（数え方の体系）の研究において特に顕著である。DeníćおよびSzymanik (2024, D&S) による先行研究は、自然な体系が語彙サイズと平均的な形態統語的複雑性の間のトレードオフを最適化していると論じた。彼らのモデルは、自然な体系が理論的なパレート境界の近くに位置することを示したが、そのモデルによって生成された「最適」な体系には、極めて不規則で不自然な体系（例：基数が交互に変化する体系）が含まれていた。この問題を解決するために、YangおよびRegier (2025, Y&R) は、探索空間を人間らしい体系に人工的に制限するための*アドホック（場当たり的）*な制約を導入した。著者らは、これらの制約は理論的な説明を欠いているため不十分であると主張している。理想的には、人間らしい特性はより根本的な圧力の副産物として現れるべきものである。核心となる問題は、現在の指標が規則性と処理複雑性を捉えきれていない点であり、これらこそが、自然な数詞体系と理論的に可能な数詞体系を分かつ鍵となる要素であると仮定されている。

方法論

著者らは、再帰的数詞体系の2つの主要な特性、すなわち不規則性と処理複雑性を定量化するために、**最小記述長（MDL）**原理に基づいたフレームワークを提案する。

1. 不規則性の定式化

規則性は圧縮可能性を通じて測定される。著者らは、数詞体系を、与えられた範囲（1–99）のすべての有効な数詞を生成する**部分決定性有限オートマトン（DFA）**としてモデル化する。

指標: 不規則性 $L(G)$ は、DFAを符号化するために必要なビット数として定義される。
計算: DFAのサイズは、状態数（ $|S|$ ）、遷移数（ $|Z|$ ）、および記号数（ $|\Sigma|$ $) によって決定される。非常に規則的な体系（Karo Batakなど）は、状態と遷移が少ない小さなDFAを持ち、結果として記述長が低くなる。
アルゴリズム: 著者らは、与えられた数詞の集合から最小の部分DFAを推論するために、MihovおよびSchulz (2019) のアルゴリズムを使用する。

2. 処理複雑性の定式化

処理複雑性は、DFAが与えられた際の数詞の解析または生成に要する労力を測定する。

指標: $L(N|G)$ は、一連の数 $N$ を文法 $G$ を通じて解析するための経路を一意に決定するために必要な平均情報量（ビット）である。
計算: これは各状態で行われる遷移の対数確率の総和に、遭遇した各受理状態に対する追加の1ビットを加えたものである。
事前分布: 著者らは、まず、小さな数へのコミュニケーション上の必要性を反映したべき乗則の事前分布（ $P(n) \propto n^{-2}$ ）を用いてこれらの指標をテストする。その後、小さな数が効率性の計算を支配するという仮定に異議を唱えるために、一様分布をテストする。

3. 実験設計

本研究では、以下の3つのカテゴリーの体系を比較する：

自然な体系: 自然言語から抽出された128の再帰的数詞体系（形態素レベルで注釈付け済み）。
ベースラインとなる人工的体系: Hurfordの文法を用いてランダムに生成された10,000の体系。
「最適化された」人工的体系:
- D&Sによる体系（語彙サイズと形態統語的複雑性の間で最適化されたもの）。
- Y&Rによる体系（D&Sの体系にアドホックな制約を課したもの）。

また、著者らはローカル近傍分析も実施する。各自然な体系について、全く同じ数字（ $D$ ）、乗数（ $M$ ）、結合子（ $C$ ）、および数詞の長さ（ $L_{Num}$ ）を共有する代替体系を生成する。これにより、語彙サイズと形態統語的複雑性を一定に保ち、構造的配置（規則性）の影響を孤立させて検証する。

主な結果

1. 自然な体系 vs. ランダムなベースライン

自然な体系は、10,000のランダム生成されたベースライン体系と比較して、著しく高い規則性（より低い不規則性スコア）と低い処理複雑性を示す。ランダムにサンプリングされた体系の中で、自然な体系よりも規則性が高く、かつ複雑性が低いものは存在しなかった。

2. 自然な体系 vs. 「最適」な体系 (D&S および Y&R)

D&Sの体系: D&Sの体系は語彙/複雑性の境界線上に位置しているが、自然な体系と比較すると、しばしば極めて不規則であり、処理複雑性が高い。
Y&Rの体系: アドホックな制約は規則性を向上させるが、自然な体系とは完全には一致しない。一部のY&Rの体系は、べき乗則の事前分布の下では自然な体系よりも「効率的」に見えるが、これは事前分布が大きな数を過度に軽視していることによるアーティファクトである。これらの「超効率的」な体系は、極めて小さな語彙（数字1–5）を用いて、深い入れ子構造（例： $46 \approx (((2 \times 2 + 1) \times 2 + 1) \times 2 + 1) \times 2$ ）を通じて大きな数を構成している。
一様分布: べき乗則の事前分布を一様分布に置き換えると、これら「超効率的」なY&Rの体系の優位性は失われる。大きな数を表現するために必要な深い入れ子構造は、処理複雑性を著しく増大させ、結果として自然な体系よりも非効率的になる。

3. ローカル近傍分析

特定の数字、乗数、および結合子を制御した場合（これにより語彙サイズと平均的な形態統語的複雑性を一定に保った場合）でも、自然な体系は一貫して不規則性と処理複雑性のトレードオフにおけるパレート境界上、あるいはその付近に位置している。このことは、自然な体系の特定の構造的配置が、単に語彙サイズや形態統語的複雑性を最適化することの副産物ではなく、規則性と処理の容易さへの圧力によって駆動されていることを示唆している。

意義と主張

本論文は、規則性と処理複雑性が、単純性と情報量のトレードオフとは別個であり、かつ補完的な関係にある、言語体系を形作る根本的な圧力であることを主張している。

理論的貢献: 著者らは、Y&Rで使用されたアドホックな制約は、実質的に規則性を強制しているものであると論じている。MDLを通じて規則性を定式化することにより、これらの制約が、記述長と処理努力を最小化しようとする圧力から自然に導かれるものであることを証明している。
既存モデルへの批判: 本研究は、語彙サイズと形態統語的複雑性のみを指標とすることの不十分さを指摘している。これらの指標のみを最適化すると、不自然で不規則な体系が得られ、人間らしい数詞体系の特徴を捉えられないことを示している。
事前分布の役割: 本論文は、効率性の主張が想定される数の事前分布に敏感であることを強調している。再帰的体系の主な機能は大きな数を表現することであるため、一様分布の方が再帰的体系を評価する上で適切である可能性を示唆している（べき乗則では大きな数が過度に軽視されるため）。
広範な影響: このアプローチは、他の領域（例：文法範疇、色彩語）の効率性研究においても、形態の体系性を組み込む必要があることを示唆している。構成的な信号を、非構成的なものと同等の複雑さとして扱うことは、規則性の役割を過小評価することにつながりかねない。

著者らは、自然な再帰的数詞体系は、単なる情報伝達の観点からのコミュニケーション効率だけでなく、構造的効率（規則性）および計算可能性（処理複雑性）に対しても最適化されていると結論付けている。