論文要約：人間-AI 共生における「豊かさのパラドックス」：能力閾値と不可逆的依存

論文タイトル: The enrichment paradox: critical capability thresholds and irreversible dependency in human–AI symbiosis（豊かさのパラドックス：人間-AI 共生における臨界能力閾値と不可逆的依存）
著者: Jeongju Park, Musu Kim, Sekyung Han（慶北国立大学電気工学科）
日付: 2026 年 3 月 25 日（arXiv:2603.24391v1）

---

1. 問題提起

人工知能（AI）が人間の認知的労働を代替する過程において、人間が行使しなくなった能力がどのように変化するかは長年の懸念事項です。従来の「自動化の皮肉（ironies of automation）」や定性的な警告は存在するものの、人間の能力喪失がいつ、どのように「壊滅的」かつ「不可逆的」になるかを予測する定量的な枠組みは欠如していました。

本論文は、AI の能力向上が人間-AI システムを不安定化させ、人間の自律的な能力を急激に崩壊させる「豊かさのパラドックス（enrichment paradox）」を定式化し、その臨界点と対策を数学的に示すことを目的としています。

2. 手法とモデル

著者らは、生物学的な「内生共生体のゲノム縮小（例：Buchnera 菌が宿主に依存して遺伝子を失う現象）」に着想を得た、最小限の2 変数常微分方程式（ODE）モデルを提案しました。

2.1 モデルの構成

モデルは以下の 2 つの状態変数と 3 つの公理に基づいています。

• 変数:
  • $H(t)$: 人間の能力（0 から 1 の範囲）
  • $D(t)$: 業務の AI への委任率（0 から 1 の範囲）
• 3 つの公理:
  1. 学習には既存の能力が必要: 能力がゼロに近い状態では学習効率が極めて低い。
  2. 学習には実践が必要: 人間がタスクを実行しない限り（委任率が高い場合）、能力は向上しない。
  3. 不使用は忘却を招く: 委任されたタスクほど、能力は減衰する。

2.2 数式

$$\frac{dH}{dt} = \alpha (H + \varepsilon)(1-H)(1-D) - \beta H D$$
$$\frac{dD}{dt} = \gamma (K - H)(1-D)D + \delta D(1-D)\bar{D}$$

• 第 1 式（能力）: 学習項（委任されていないタスクでの成長）と忘却項（委任による減衰）の競合。
• 第 2 式（委任）: AI 能力 $K$ が人間能力 $H$ を上回る場合の合理的採用と、社会的な同調圧力（$\delta$）による委任の増加。

2.3 検証データ

モデルのパラメータ（特に忘却率 $\beta$）は、以下の 4 つの分野の実証データで較正されました。

1. 教育: GPT-4 使用による試験成績の低下（17% 低下）。
2. 医療（内視鏡）: AI 支援による腺腫検出率の低下（21% 低下）。
3. 空間認知: GPS 使用による空間記憶の低下（30% 低下）。
4. 航空: オートパイロット使用によるパイロットの状況認識能力低下（38% 低下）。

さらに、OECD の PISA 数学テストデータ（2003-2022 年、15 カ国、102 データポイント）を用いて、モデルの予測精度を検証しました。

3. 主要な結果

3.1 臨界能力閾値 $K^*$ と「豊かさのパラドックス」

モデルは、AI の能力 $K$ がある臨界閾値 $K^* \approx 0.85$ を超えると、人間の能力 $H$ が滑らかに減少するのではなく、**急激に崩壊（相転移）**することを示しました。

• 豊かさのパラドックス: 資源（AI の能力）の質が向上することが、共生システムの不安定化（人間の能力崩壊）を招く現象。生態学の「栄養富化のパラドックス」に類似しています。
• 現状の AI: GPT-4 以降のモデルは、複数の分野で $K \ge 0.85$ を超えており、すでに依存リスク領域（赤色領域）に入っていると推定されます。

3.2 不可逆性と「吸収的アトラクター」

• 不可逆性: 一度人間能力がゼロに近づくと、学習項 $(H+\varepsilon)$ がゼロに近くなるため、AI を除去しても能力回復は極めて遅くなります（時間スケールが機関計画期間を遥かに超える）。これは遺伝学における「ミュラーの棘（Muller's ratchet）」に相当します。
• 双安定性: 低 $K$ 領域では「自律状態（高 $H$）」と「依存状態（低 $H$）」の 2 つの安定状態が存在しますが、$K > K^*$ になると自律状態が消失し、依存状態のみが残ります。

3.3 逆説的効果：アンチフラジャリティ（強靭性）

• AI の定期的な故障が能力を向上させる: 完全な AI 信頼性（故障率 0%）は、人間能力の最大崩壊を招きます。
• 数値的発見: AI の故障頻度を 25% に設定すると、完全信頼時（故障率 0%）と比較して、均衡状態での人間能力が2.7 倍向上しました。
• メカニズム: 故障は人間に強制的にタスクを実行させ（実践）、学習項を活性化させるためです。

3.4 政策介入の効果

• 義務的実践の導入: 全タスクの一定割合を AI 不使用で遂行させる政策（例：週 5 日のうち 1 日を AI 不使用）が有効です。
• 20% 義務化の効果: 20% のタスクを AI 不使用で行うことは、ベースライン（5% の自然故障率を含む）と比較して、92% 多くの能力を維持します。
• 非線形性: 実践割合と能力維持の間に超線形な関係があり、少量の介入でも大きな効果が見込めます。

3.5 PISA データによる実証的検証

• 15 カ国の PISA 数学スコアデータに対してモデルを適合させた結果、決定係数 $R^2 = 0.946$ を達成しました。
• 単純な指数減衰モデルや線形モデルと比較して、この ODE モデルが最も優れた説明力を持ち、かつパラメータ数が最少（3 個）であることを示しました（BIC 基準）。

4. 主要な貢献

1. 定量的枠組みの確立: 自動化によるスキル低下を記述する初の動的システムモデルを提供し、定性的な警告を数値的に裏付けました。
2. 臨界閾値の特定: AI 能力が「安全圏」から「崩壊圏」へ移行する具体的な閾値（$K^* \approx 0.85$）を特定しました。
3. 不可逆性の数学的証明: 能力喪失が「吸収的アトラクター」へと至る数学的メカニズムを明らかにし、一度失われた能力の回復が事実上不可能であることを示しました。
4. 政策提言の定量化: 「AI の完全排除」ではなく、「意図的な実践（強制故障や義務的不使用）」がシステムを安定化させるという、逆説的だが実効性のあるガバナンス戦略を提案しました。

5. 意義と結論

本論文は、AI ガバナンスの焦点を「AI の採用の有無」から**「AI の能力がどのレベルになるまで、人間の能力維持策を講じるべきか」**へと転換させるべきだと主張しています。

• 現在の状況: 最先端の AI モデルはすでに臨界閾値 $K^*$ を超えており、人間能力の急激な崩壊リスクに直面しています。
• 対策: 完全な信頼性を追求するのではなく、システムに「攪乱（故障や制限）」を組み込むことで、人間の能力を維持する「アンチフラジャイルな設計」が不可欠です。
• 具体的施策: 航空業界の「マニュアル飛行の義務化」のような施策を、教育や医療など他の AI 依存分野へ拡張する必要性が示唆されました。

結論として、AI との共生を維持するためには、AI の能力向上を盲目的に受け入れるのではなく、人間の能力閾値を維持するための意図的な政策介入が不可欠であるという、重要な警告と指針を提供しています。