On the Definition of Intelligence

技術的要約：知能の定義について

問題提起
汎用人工知能（AGI）の追求には、形式的、操作的、かつ種に依存しない知能の定義が必要である。既存の定義には、以下のような重大な限界が存在する：

• 目標指向型の定義： LeggとHutterによる定義（多様な環境においてエージェントが目標を達成する能力を測定するもの）は、明確な環境、報酬信号、または定義された目標を欠く挙動（例：生成AI）に適用しようとする際に困難に直面する。
• 人間中心および時間依存的な定義： チューリング・テストやElaine Richによる定義（AIとは、現在人間がより優れている事柄をコンピュータに実行させること）は、人間と機械の比較に限定されているか、あるいは現在の人間が優位であるという事実に時間的に依存している。
• 操作化の問題： 心理学的な定義（例：ウェクスラーの定義）は、非人間的なシステムへの操作化が困難である。

多様なパラダイム（強化学習、生成モデル、分類、類推推論など）において、曖昧な記述や人間の判断のみを指標とすることなく、生物学的、人工的、およびハイブリッドなシステムを評価できる統一された枠組みが欠如している。

方法論
本論文は、**生成的忠実度（generative fidelity）と実体の不可識別性（entity indistinguishability）**に基づいた知能の定義を提案する。その手法は、以下の形式的な構成要素を含む：

1. 概念空間とファイバー（Fibre）：

   • $U$ を、考え得るすべての実体（データ点、生成物、行動、概念）の宇宙とする。
   • 概念空間は、全射写像 $\Phi: U \to K$ （ここで $K$ は概念の集合）として定義される。
   • 概念 $k \in K$ に対して、その概念を例示する実体の集合を「ファイバー」$C_k = \Phi^{-1}(k)$ とする。

2. $\varepsilon$-概念知能：

   • 概念 $C_k$ に属する入力実体のマルチセット $S \subseteq U$ が与えられたとき、エージェントが同じ概念を例示する実体の集合 $\hat{S}$ を生成できるならば、そのエージェントは知的であるとされる。
   • 識別子（Distinguishers）： 関数族 $F = \{f: U \to [0, 1]\}$ が、 $S$ と $\hat{S}$ の間の類似性をテストするための識別子として機能する。
   • スコアリング： スコアリング関数 $\sigma$ は、一連の集合に対する識別子の出力を集計する。
   • 指標： 知能の指標は、すべての識別子にわたる、元の集合と生成された集合のスコアの差の上限として定義される：
     $$\Delta^\sigma_F(S, \hat{S}) = \sup_{f \in F} |\sigma(\{f(x) : x \in S\}) - \sigma(\{f(x') : x' \in \hat{S}\})|$$
   • 定義： エージェントが概念 $k$ に関して $\varepsilon$-知的 であるとは、$\Delta^\sigma_F(S, \hat{S}) \le \varepsilon$ であることを意味する。これは、生成された実体が、許容される任意の識別子 $f \in F$ によって、元の実体から $\varepsilon$ の許容範囲内で区別できないことを意味する。

3. 動的な枠組み：

   • 本論文は、通時的能力（Synchronic Capability）（時刻 $t$ における固定された概念集合に対する低 $\varepsilon$ 実体の生成の幅）と、通時的能力（Diachronic Capability）（ある概念集合から別の概念集合へと能力を遷移させる能力、実質的に学習や適応を測定するもの）を区別する。

主要な貢献

• 統一された形式的定義： 本論文は、多様なAIパラダイムを包含する単一の数学的枠組み（$\varepsilon$-概念知能）を提供する。知能を抽象的なマッピングや目標最大化のみとしてではなく、根本的に「与えられた概念に一致する新しい実体を生成すること」として扱う。
• 既存のベンチマークの統合： 著者は、確立された知能テストが本フレームワークの特殊なケースであることを示す：
  • チューリング・テスト： ファイバーが人間の言語応答であり、識別子が人間の判定者である場合に現れる。
  • C-テスト： ファイバーが特定のレヴィン複雑性を持つシーケンスであり、識別子が唯一の最小の説明を検証する場合に現れる。
  • Legg-Hutter知能： ファイバーが環境における期待報酬を最大化する行動シーケンスである場合に現れる。
• 知能、学習、および意識の分離：
  • 定義は意識を必要としない。決定論的なソルバーは、意識を持たずとも高い $\varepsilon$-知能を示すことができる。
  • 定義は厳密には学習能力を必要としない。ある概念に対して正しい出力を一貫して生成する静的なシステムは、その領域において知的であるが、学習は（時間の経過に伴う $\varepsilon$ の変化に関連する）通時的能力に関わるものである。
• 操作的基準： 定義は以下の3つの要件を満たす：
  • 操作的（Operational）： 観察可能な出力と不可識別性を通じて測定可能である。
  • 反証可能（Falsifiable）： 概念から逸脱した出力を生成するシステムは、知能が低いと特定される。
  • 汎用可能（Generalizable）： 人間、機械、生物学的システムに適用可能であり、人間中心のバイアスを持たない。

結果と理論的含意
本論文は新しい実験データを示すものではなく、理論的な導出と論理的一貫性の検証を行うものである：

• 生成的忠実度： フレームワークは、たとえ実体が抽象的なものであっても（例：「輸送手段」の例として馬が与えられたときに車を生成すること）、知能とは概念に一致する実体を生成する能力であると仮定する。
• 安全性とデータの質： 著者は、知能は概念への忠実度によって定義されるため、出力の安全性と信頼性は、訓練データの質（初期の実体 $S$）によって直接決定されると主張する。有害な出力を軽減するための主要な手法として、ソースにおける安全性に準拠した合成データのキュレーションを提示している。
• 汎化： フレームワークは未知の概念への汎化を支持する。もし新しい概念空間 $K_B$ が、既知の空間 $K_A$ へと完全、忠実、かつ本質的に全射的な関手（functor）を介して埋め込まれるならば、知能の境界（識別子）を転送することができ、理論的にシステムが未知の問題を扱えるようになる。

意義と主張
本論文は、生物学的、人工的、およびハイブリッドなシステムを比較するための「単一の尺度」を提供すると主張している。その意義は以下の点にある：

1. パラダイムの転換： 目標指向型またはタスク固有の定義から、生成的忠実度モデルへと移行すること。
2. AGIの基礎： 多様なパラダイム（RL、LLM、類推推論）を包含しつつ、テスト可能な、十分に一般的な定義を提供すること。
3. 今後の方向性： 著者は、概念を対象とし、汎化を関手としてモデル化する**圏論（Category Theory）**を用いて、このフレームワークをさらに洗練させることができると示唆している。また、後続の研究では、これを方向性のある類似性場（directed similarity fields）と生成作用素（generative operators）に基づく数学的枠組みへと拡張することを述べている。

著者は控えめな姿勢を保ち、これを最終的かつ網羅的な理論ではなく、将来の洗練と経験的検証のための「最小限かつ基礎的な定義」として、理論的なベースラインを提示するものとしている。