The Urysohn Machine: A Metric-Topological Model of Computation

本論文は、ウリュソンの三つ組（Urysohn Triples）と構成的実現定理を利用して、決定境界の幅のような幾何学的尺度を通じて分類複雑性を定義し、再利用可能なフレームワークにおける償却分離性、安定性、およびスケーラビリティの保証を証明する、計量・位相学的計算モデルであるウリュソン・マシンを紹介するものである。

要約

ビッグアイデア：ソート（分類）に関する新しい「考え方」

大量に混ざり合ったおもちゃを箱に仕分けようとしている場面を想像してください。従来のコンピュータ（私たちが今日使っているもの）は、「もし赤ければ箱Aへ、青ければ箱Bへ」といった、厳格に書かれた指示リストに従ってこれを行います。それらはすべてを記号とルールとして扱います。

ウリゾーン・マシン（Urysohn Machine: UM）は、異なるアプローチを提案します。単にルールのリストに従うのではなく、この問題を幾何学と距離の問題として捉えます。「これらの玩具はどれくらい離れているか？」「赤色のものと青色のものの間に線を引くために、どれだけの『空間』が必要か？」と問いかけるのです。

この論文は、従来のコンピュータもソートを行うことはできるが、その作業の真の「コスト」を隠してしまっていると主張しています。ウリゾーン・マシンはそのコストを可視化します。それは、境界線のサイズ（引かなければならない線）と、その線を保存するために必要なメモリ量を測定します。

---

比喩を用いた主要概念の解説

1. メトリック・ライブラリ（Metric Library）： 「地図のスタック」

コンピュータのメモリを、ファイルが詰まったハードドライブではなく、**透明な地図の束（スタック）**として考えてください。

• 一番下の地図： 大まかな全体像を示します（例：「動物 vs 植物」）。
• 真ん中の地図： 特定の領域をズームアップします（例：「犬 vs 猫」）。
• 一番上の地図： さらに細部までズームアップします（例：「プードル vs बीグル」）。

このシステムでは、現在見ることができるのは一番上の地図だけです。より詳細な部分を見る必要がある場合は、新しい、より詳細な地図を上に「プッシュ（積み重ね）」します。作業が終わったら、それを「ポップ（取り除く）」して、前の地図に戻ります。これはスタックと呼ばれます。論文では、これが入れ子になったカテゴリを扱う最も効率的な方法であると主張しています。なぜなら、毎回地図全体を描き直す必要はなく、単に小さな層を上に加えるだけで済むからです。

2. ウリゾーン・トリプル（Urysohn Triple）：「局所的な分離器」

スタックに新しい地図を追加するたびに、新しいウリゾーン・トリプルが追加されます。これを、特定の近隣地域に建てられた、たった一つの完璧な**フェンス（柵）**と考えてください。

• サポート（Support）： フェンスが存在する近隣地域。
• パーティション（Partition）： 分離される2つのグループ（例：左側に「犬」、右側に「猫」）。
• クラシファイア（Classifier）： 実際のフェンスそのもの。

このマシンは、これら多くの小さく局所的なフェンスを積み重ねることで、複雑なソートを構築します。

3. 分離の「梯子（はしご）」

マシンは、絡み合った2つのグループの間にどのようにしてフェンスを築くのでしょうか？ それには**梯子（ラダー）**を使用します。
2つの崖（グループAとグループB）が非常に近くにある場面を想像してください。まだその隙間を飛び越えることはできません。

1. ステップ1： 途中にプラットフォーム（足場）を築きます。
2. ステップ2： 最初のプラットフォームと崖の間の、さらに中間地点にプラットフォームを築きます。
3. ステップ3： 隙間が十分に小さくなり、簡単に歩いて渡れるようになるまで、どんどん小さなプラットフォームを築き続けます。

論文ではこれを**ダイアディック・ラダー（二進的梯子）**と呼んでいます。これは、フェンスが滑らかで連続的なものになるまで、分離を洗練させていくステップ・バイ・ステップのプロセスです。マシンは、隙間が広すぎる場所にのみ段（ラング）を追加することで、この梯子を動的に構築します。

4. ソートの「コスト」を測る

論文では、ソート作業の難易度を測る2つの方法を紹介しています。

• 決定境界の幅 ($W_\partial$)： これは、あなたが築かなければならないフェンスの長さです。円形をソートする場合、フェンスは円の円周になります。もし螺旋形をソートする場合、フェンドは非常に長く、うねった線になります。フェンスが長いほど、仕事は難しくなります。
• ウリゾーン幅 ($W_U$)： これは、マシンがライブラリに保存しているフェンス材の総量です。もし同じフェンスを多くの異なるタスクで再利用できれば、「ウリゾーン幅」は低く保たれます。もしタスクごとに新しい独自のフェンスを建てる必要があるなら、その幅は巨大になります。

大発見： 論文は、数学的な裏切りは不可能であることを証明しています。もし築くべきフェンスが非常に長い（高い $W_\partial$ を持つ）場合、それを構成するために多くの基本的な構成要素（トリプル）を必ず使用しなければなりません。長い、うねったフェンスを小さな箱の中に圧縮することはできないのです。

5. 「アモルタイズ（償却）された推論」：ショートカット

マシンがフェンスを構築し、それをライブラリに保存した後は、毎回作り直す必要はありません。

• 以前： 新しいおもちゃをソートするために、コンピュータは物が増え乱雑になった部屋の中を歩き回って、それがどこに属するかを探さなければなりませんでした。
• 以後： マシンは空間を「収縮」させました。似たもの同士（すべての犬など）の距離を縮め、異なるもの（犬 vs 猫）の距離を広げました。

今や、正しい箱を見つけることは**ショートカット（近道）を取るようなものです。マシンは、すでにソートされた領域を通る「測地線（最短経路）」に従います。これをアモルタイズされた推論（償却された推論）**と呼びます。フェンスを建てるという重いコストは一度だけ支払い、その後のすべてのステップは安価で高速になります。

6. 安定性とハルシネーション（幻覚）

論文は、マシンがどのようにミスを回避するかについても説明しています。

• 安定性（Stability）： 一度フェンスが構築され、スタック内に「凍結」されると、その上に新しい層を追加しても誤って消去されることはありません。古いルールは安全に保たれます。
• ハルシネーション（Hallucination/幻覚）： もしマシンが、これまでに見たことがないもの（「較正された」梯子の範囲外）をソートするように求められた場合、間違った推測をする可能性があります。論文ではこれを「ティッツェ拡張の失敗（Tietze extension failure）」と呼んでいます。これは、地図のない場所でフェンスを描こうとしているようなものです。誤って、つなげてはいけない2つのものを繋いでしまうかもしれません。マシンは、いつ一般化しても安全で、いつそれがリスクが高いのかを知るように設計されています。

論文が主張していることの要約

1. 新しいモデル： 単なる記号ではなく、幾何学とトポロジー（形と空間）を使用する新しいコンピュータモデル（ウリゾーン・マシン）を定義しています。
2. 構成的証明： これらの分離器が、入れ子状の領域を用いた「梯子」によってステップ・バイ・ステップで構築できることを証明しています。
3. 複雑性の尺度： ルールの集合を保存するために必要な幾何学的な努力の総量を測るための「ウリゾーン幅」を導入しています。
4. 下限値： 複雑な境界（長いフェンス）には、より多くのリソースが必要であり、それらを任意に圧縮することはできないことを証明しています。
5. 効率性： 分離器が一度構築されれば、空間を「収縮」させることで、将来の意思決定をより高速に行えることを示しています。
6. 4つの保証： このシステムは、分離可能（常にグループを区別できる）、安定（古いルールが壊れない）、有界（無限のメモリを必要としない）、そしてスケーラブル（学習が進むにつれて高速化する）であることを証明しています。

要するに、ウリゾーン・マシンは、学習とソートを幾何学的な境界の構築と再利用として扱う理論的枠組みであり、知能の「真のコスト」を空間と距離の観点から理解するための方法を提示しています。

技術概要

技術要約：ユリーゼン・マシン（The Urysohn Machine）

1. 問題提起

古典的な計算モデル（チューリングマシン、$\lambda$-計算）は、記号的な状態と局所的な書き換え規則を通じて計算を記述しており、幾何学、連続性、距離に関して意図的に基質中立（substrate-neutral）であり続けている。これらは普遍的ではあるが、分類タスクにおける二つの異なる困難を混同している：

1. 外延的コスト（Extrinsic Cost）： プログラムを介して分類器を実装するために必要な計算リソース。
2. 内延的コスト（Intrinsic Cost）： 分類器が解決しなければならない決定境界自体の幾何学的複雑性。

計量空間や位相空間において、標準的なモデルは幾何学的構造を間接的にエンコードすることを強いるため、分類のために必要な「境界質量（frontier mass）」を不明瞭にしている。本論文は、分類の複雑性を説明するために、計量的分離、境界構造、および計算状態内の収縮を明示的に表現する補完的なモデルが必要であると主張する。

2. 手法：ユリーゼン・マシン (UM)

本論文では、基本オブジェクトをユリーゼン・トリプル（Urysohn Triple） $(\Sigma, \Pi, f)$ とする、計量的・位相的な計算モデルである**ユリーゼン・マシン（UM）**を導入する。

コア構成要素

• 計量ライブラリ（Metric Library）： 計算の基質は、メモリ、プログラム、およびワークスペースとして機能する構造化された空間である。これは5組のタプル $(S, d, T, \sigma, K)$ であり、$S$ はインデックスの可算離散空間、$d$ は計量、$T$ はユリーゼン・トリプルの有限集合、$\sigma$ はスタック規律、そして $K$ はライブラリのサイズを制限するものである。
• ユリーゼン・トリプル（Urysohn Triple）： 支持領域 $\Sigma$、対象となる分割 $\Pi$、およびその分割を分離する分類器 $f$ からなるトリプルである。この分類器は、特定の支持領域に対する「完全な分離器（perfect separator）」である。
• スタック・アーキテクチャ： UMはLIFO（後入れ先出し）スタックを介して動作する。新しい分類コンテキストが新しいトリプルをプッシュし、コンテキストが終了すると、トリプルがポップされ、以前の分類器が復元される。これは、粗い決定がより微細な精緻化のための環境を形成するという、階層的な分類をモデル化している。過去のトリプルは「凍結」され、不変（immutable）となる。

理論的基礎

このモデルは、**ユリーゼン・補題（Urysohn's Lemma）**の構成的バージョンに基づいている。古典的な補題は、正規空間における互いに素な閉集合に対する連続な分離器の存在を保証するが、UMは有限の単体設定における構成的な実現を要求する。

• 二進ラダー（Dyadic Ladder）： 分離器は、入れ子になった多面体領域の二進的な精緻化を通じて構築される。
• 境界カルキュラス（Frontier Calculus）： 二進ラダーの各レベルは「境界（frontier）」（領域間の境界）を導入する。これらの境界は、鎖複体（chain complex）におけるサイクル（$\partial^2 = 0$）として扱われる。レベル間の空間（シェル）は、これらの境界の差によって定義される境界を持つ。

3. 主要な貢献と定義

(1) 複雑性の尺度：$W_\partial$ 対 $W_U$

本論文は、二つの幅の指標を区別する：

• 決定境界幅（Decision-Boundary Width, $W_\partial$）： 単一の分類器の境界の幾何学的尺度（次元 $d-1$ のハウスドルフ測度）。これは、特定の分離器の固有の幾何学的困難さを測定する。
• ユリーゼン幅（Urysohn Width, $W_U$）： ユリーゼン・ライブラリまたは実現によって表現される総境界質量。これは、格納、構成、または再利用されるすべてのトリプルの $W_\partial$ の総和である。これは、蓄積された分離構造の総量を測定する。

(2) 償却分離定理（The Amortized Separation Theorem）

本論文は、精度 $\epsilon$ で幅 $W_\partial$ の境界を近似するには、単純な基底トリプルの数が $W_\partial$ に比例し、$\epsilon$ に反比例する必要があることを証明している。これにより、複雑な境界は任意に圧縮できないこと、すなわち「境界のコスト」は固有の障害（obstruction）であることが確立される。

(3) 対照的分離演算子（Contrastive Separation Operator）

サンプリングされた計量データから $W_\partial$ を推定するための新しい演算子が導入される：

• グラフ・カット・汎関数（Graph-Cut Functional）： クラス内親和性グラフから導出された正規化された非局所的周辺（nonlocal-perimeter）推定量であり、一貫して境界測度を推定する。
• スペクトルによる証明（Spectral Certification）： この演算子のラプラシアン・スペクトルは、境界幅を推定するのではなく、クラス連結成分の数（ゼロ固有値の多重度による）や連結度（スペクトル・ギャップによる）といった位相的性質を証明する。

(4) 計量的収縮と測地線推論

分離器が構築されると、UMは**クラス認識型収縮（class-aware contraction）**を採用する：

• 同一クラスの点同士の距離は収縮する（$d' \le \lambda d, \lambda < 1$）。
• 異なるクラス間の距離は保持されるか、あるいは拡張される。
• 測地線償却（Geodesic Amortization）： 推論は、周囲の空間を探索するのではなく、クラス整合的な領域内での収縮された測地線に沿って進行する。これにより、分離器の構築という一度限りのコストを、将来のクエリのための再利用可能な幾何学へと変換する。

4. 結果と計算上の保証

本論文は、動的ユリーゼン・ラダー（Dynamic Urysohn Ladder）（評価―検出―精緻化という逐次的構築プロセス）を分析し、以下の4つの計算上の保証を確立する：

1. 商崩壊下での分離可能性（Separability under Quotient Collapse）： 商（崩壊）によってコミットされた領域を維持することは、クラスを分離する能力を保持する。分離特性は、ラダーの階層を通じて遺伝的（hereditary）である。
2. コミットされた境界の安定性： このアーキテクチャは、「フロー（能動的な精緻化）」と「スキャフォールド（凍結された、コミットされたトークン）」の分解を維持する。精緻化の更新は、以前にコミットされた境界を摂動させず、干渉のない構成を保証する。
3. 有界容量（Bounded Capacity）： 一様な収縮の下で、商空間の被覆数（容量需要）は、インスタンスの長さに比例するのではなく、深さに対して対数的に成長する。これにより、システムは限定されたリソースで任意に長いインスタンスを表現することが可能になる。
4. スケーラビリティ： 推論コストは、周囲の軌跡の長さではなく、商距離（quotient distance）（階層内のトークン数）に比例する。これにより、推論の時間複雑度を $O(L)$ ではなく $O(\log L)$ に実質的に抑えることができる。

5. 意義と主張

本論文は、ユリーゼン・マシンを、古典的な計算可能性（チューリングマシンによって依然として定義されている）の代替物としてではなく、計量的・位相的な問題のための計算記述の洗練として位置づけている。

• 内包的 vs 外延的： チューリングマシンが「何を」計算できるかという外延的な理論を提供するのに対し、UMは「どのように」計量的・位相的な構造が表現、償却、および再利用され得るかという内包的な説明を提供する。
• 認知計算（Cognitive Computation）： このモデルは、メモリが単なる例の受動的な貯蔵庫ではなく、再利用可能な区別の能動的な幾何学であるという「認知計算」の理論的枠組みを提供する。
• 継続学習（Continual Learning）： UMは、継続学習を制御された境界精緻化として再定義する。新しいタスクは新しい分離器としてライブラリに挿入され、一度コミットされると凍結され、再利用可能となる。これは、可塑性（新しい学習）と安定性（凍結された境界）を分離することで、破滅的忘却の問題に対処する。
• 幻覚（Hallucination） vs 一般化： 本論文は、幻覚を、ドメイン較正の失敗（Tietzeの拡張が、較正されたユリーゼン・ラダーの有効なドメインを超えて適用され、盆地を横断してしまうこと）と定義する。一般化は、盆地を横断することなくその内部で拡張される場合にのみ安全である。
• AGIへの示唆： 著者らは、汎用人工知能（AGI）にはチューリングの限界を超えることではなく、むしろ計算可能な構造のより豊かな内部組織化が必要であると示唆している。すなわち、抽象化のための安定した分離器、一般化のための境界保存的な拡張、そして償却された推論のための再利用可能な計量的収縮である。

結論として、UMは古典的な計算可能性を保持しつつ、純粋に記号的な記述によって隠されていた幾何学的構造を露呈させ、分類の複雑性と償却された推論に関する計量的・位相的な説明を提供するものである。