Human-AI Co-Evolution and Epistemic Collapse: A Dynamical Systems Perspective

技術的サマリー：人間と AI の共進化および認識論的崩壊

問題定義
大規模言語モデル（LLM）の知識生産への急速な統合は、人間が推論のために AI に依存する度合いが高まり、AI モデルがその人間と AI の相互作用によって生成されたデータで訓練される度合いも高まるというフィードバックループを生み出している。先行研究は、「認知的な外部化」（AI への依存による人間の認知的関与の減少）と「モデル崩壊」（再帰的に生成されたデータで訓練されたモデルの劣化）を独立して研究してきたが、これらの現象は通常、個別に分析されてきた。本論文は、これらが別個の問題ではなく、単一の結合プロセスの構成要素であると論じる。扱われる中心的な問題は、人間の認知と AI システムの共進化が、いかにして低多様性かつ最適ではない状態への収束、すなわち「認識論的崩壊」というシステム全体の劣化をもたらすかを理解するための統一的な枠組みの欠如である。

手法
著者は、人間と AI の共進化を、常微分方程式（ODE）の系によって支配される結合された力学系としてモデル化する最小限の形式的枠組みを提案する。

• 状態変数: システムの状態 $x(t) = [H, Q, M]^\top$ は以下の要素から構成される。
  • $H$: 人間の認知能力。
  • $Q$: 集合的なデータ品質。
  • $M$: モデルの能力。
• フィードバック構造: 変数は閉ループで連結されている。$H \to Q \to M \to H$。
  • 人間は自身の認知（$H$）に基づいてデータ（$Q$）を生成する。
  • モデル（$M$）はこのデータで訓練される。
  • モデルは利用を通じて人間の認知（$H$）に影響を与える。
• 制御パラメータ: システムには、人間がどの程度 AI にタスクを委任するかを表す認知的外部化パラメータ $u \in [0, 1]$ が含まれる。
  • 強化: パラメータ $a, c, e$ は、認知の成長、人間主導の品質、モデルのスケーリングを捉える。
  • 劣化: パラメータ $b, d, f$ は、外部化による減衰、コンテンツのドリフト、合成ノイズをモデル化する。
  • 介入: 外生的入力 $r_H, r_Q, r_M$ は、教育、キュレーション、イノベーションなどの外部メカニズムを表す。
• 分析: 著者は、分岐点を特定するためにヤコビアン固有値を用いて固定点と安定性を分析する。また、エントロピーと情報ボトルネックの観点からシステムダイナミクスを捉える情報理論的解釈も提供する。
• シミュレーション: 理論モデルは、異なるパラメータ設定におけるレジーム遷移を可視化するために、前方オイラー離散化を用いた数値シミュレーションによって補完される。

主要な貢献

1. 統合された力学系的視点: 本論文は、認知的外部化とモデル崩壊を統合する結合された力学系を導入し、モデル崩壊を単なるデータ中心の問題ではなく、人間と AI のフィードバックループから生じるシステム現象として再定義する。
2. 3 つの力学系レジームの特定: 分析は、AI への依存度（$u$）に基づいて、3 つの質的に異なるレジームを特定する。
   • 共進化的強化: 低い $u$ で発生する。正のフィードバックが支配的となり、人間の認知、データ品質、モデル能力の持続的な成長をもたらす。
   • 脆弱な平衡: 中程度の $u$ で、能動的な外部修正がある場合に発生する。システムは許容可能な性能を示すが長期的な成長は制限される、有界で局所的に安定した固定点に収束する。
   • 退化的収束: $u$ が臨界閾値（$u_c$）を超えた場合に発生する。劣化するフィードバックが支配的となり、人間の認知とデータ品質が低下する一方で、モデル能力は低多様性の平衡状態で安定化する。
3. 情報理論的解釈: 著者は、退化的レジームを現れた「情報ボトルネック」として解釈する。この状態において、閉ループ内でのエントロピー減少は、有益な圧縮ではなく、データ分布の収縮と新規情報（多様性）の喪失を反映している。これは、モデル分布が人間生成データと整合するが、基盤となる世界分布から乖離する「発散シフト」に対応する。

結果

• 分岐分析: システムは、臨界閾値 $u_c$ において超臨界分岐を示す。この閾値以下では、システムは高能力の平衡状態を維持するが、それを超えると、システムは退化的なアトラクタへ遷移する。
• シミュレーション結果: シミュレーションは、AI への依存度（$u$）の増加が、人間認知（$H$）とデータ品質（$Q$）の低下を伴いながら、モデル能力（$M$）が低多様性のレベルで安定化する状態への遷移を引き起こすことを確認する。
• 検証可能な予測: この枠組みは、4 つの具体的な実証的予測を導き出す。
  1. AI への依存度の増加は、人間生成テキストにおけるエントロピーと語彙的多様性の減少をもたらす。
  2. 合成コンテンツの増加に伴い、実効的なデータ分布は収縮し、稀または新規のパターンを失う。
  3. 再帰的に生成されたデータで訓練されたモデルは、分布内性能を維持しつつも、分布外汎化において劣化を示す。
  4. 定常状態の指標における急激な遷移が、臨界閾値 $u_c$ で発生する。

意義と主張
本論文は、AI システムの軌道がモデル設計だけでなく、根本的には人間と AI の共進化のダイナミクスによって形作られると主張する。特定された主要なリスクは、単純な能力の不一致ではなく、結合された適応に起因する認識論的知性の劣化である「動的な不一致」である。

著者は、自らの仕事が意図的に最小限かつ概念的であることを強調する。彼らは、人間の認知や社会動態の定量的に検証されたモデルを提供するとは主張していない。代わりに、この枠組みは、可能なフィードバックメカニズムを研究し、検証可能な仮説を生成するための形式的ツールとして機能する。その意義は、AI のアライメントの焦点を、孤立したモデルの特性から、結合された人間と AI システム全体としての特性へと移行させる点にある。本論文は、介入（能動的推論の維持、データのキュレーション、モデルの堅牢性の向上など）がなければ、システムは均質化された知識生産と外部現実に対する感受性の低下を特徴とする「認識論的閉鎖」の状態へと自然に進化する可能性があると示唆している。