AGI and the Limits of Value Production

大局観：新しい種類の機械

経済を巨大な工場だと想像してみてください。過去200年間、機械は人間がより速く働くための手助けをしてきました。機械は、退屈で反復的な作業（重い箱を持ち上げたり、単純な文字を入力したりすること）を引き継ぎましたが、工場を運営し、機械を修理し、最終的な決定を下すためには、依然として人間が必要でした。

この論文は、恐ろしい問いを投げかけています。「もし機械が、あらゆることをこなせるほど賢くなってしまったら、一体何が起きるのか？」

著者であるZichen Song氏は、数学的モデルを構築し、「人工汎用知能（AGI）」が単に人間を助けるだけでなく、人間を完全に置き換えてしまった場合に何が起こるのかを検証しています。この論文は、特定の経済理論（マルクス主義の価値理論）に基づくと、この完全な置き換えが、利益システム全体の崩壊を引き起こす可能性があると主張しています。

2つの重要な概念：「できる（Can Do）」と「行う（Will Do）」

この論文は、人々がよく混同してしまう2つの非常に重要な違いについて述べています。

1. 技術的代替可能性（「できる」：The "Can Do"）： これは「天井」です。完璧なAGIが実行できる仕事の最大量のことです。例えば、レストランのすべての食事を作る能力があるロボットを想像してください。
2. 実際の採用（「行う」：The "Will Do"）： これは、ビジネスオーナーが「実際に」選択することです。たとえロボットが料理を「できる」としても、コストが高すぎたり、従業員を解雇するのが難しかったり、あるいはロボットに不具合があったりするため、オーナーはまだロボットを採用しないかもしれません。

例え話： ビデオゲームを想像してください。

• 技術的代替可能性は、そのゲームが到達しうる最高レベル（レベル100）です。
• 実際の採用は、あなたが現在プレイしているレベルです。適切な装備（お金）がなかったり、ボス（リスク）を恐れていたりするために、レベル10で足踏みしているかもしれません。
• 論文はこう言っています。ゲームがレベル100まで行けるからといって、明日すぐにそこに到達できるわけではありません。しかし、ゲームが簡単（安価）になれば、あなたはレベルを上げていくことになります。

核となるルール：誰がお金を生むのか？

この論文は、一つの厳格なルールに基づいています。**「生きている人間だけが、新しい価値（利益）を生み出す」**というルールです。

• 人間（生きた労働）： 彼らは利益を生み出す「エンジン」です。
• 機械（AGI）： 彼らは「燃料タンク」です。価値を転移させ、物価を安くしますが、それ自体が新しい価値を「創造」することはありません。

例え話： パン屋を想像してください。

• **パン職人（人間）**こそが、小麦粉を価値のある美味しいケーキに変えることができる唯一の存在です。
• **オーブン（機械）**は、ケーキを焼くために必要ですが、オーブンがケーキの価値を「創造」するわけではありません。オーブンはパン職人を助けるための道具に過ぎません。
• もし、パン職人を完璧に焼くロボット・オーブンに置き換えたとしても、そのオーブンは依然として単なる道具です。もし価値を「創造」するパン職人が誰もいなくなれば、利益は消滅します。

危険な滑落：全員を置き換えると何が起きるのか？

論文では、AGIが時間とともに進化し、安価になっていく移行プロセスをモデル化しています。以下が、トラブルへのステップ・バイ・ステップの過程です。

1. コストの低下： AGIがより賢くなるにつれ、人間を雇うよりもロボットを雇う方が安くなります。
2. 切り替え： 企業はコスト削減のために、人間を解雇してロボットを採用し始めます。
3. 罠： より多くの人間が解雇されるにつれ、「生きた労働（人間のエンジン）」が縮小していきます。
   • 人間こそが唯一の利益の源泉であるため、人間の労働が減ることは、総利益の減少を意味します。
   • 一方で、企業はこれらのロボットを購入するために多額の資金を投じています（不変資本）。
4. 結果： 企業は膨大な量の高価なロボットを抱えていますが、利益を生み出す人間はほとんどいません。**「資本の有機的構成（機械と人間の比率）」**が急上昇します。

例え話： カーレースを想像してください。

• 人間は「燃料」です。
• ロボットは「車のシャシー（車体）」です。
• もし、より大きく豪華なシャシーを買い続け、燃料の購入をやめてしまったら、車は止まってしまいます。どんなに優れた車であっても、燃料がなければ、どこにも行けないのです。

「ゼロ」の限界

論文は「極限的なケース」を計算しています。これは、AGIが仕事のほぼ100%を代替してしまう地点です。

• 人間がほぼ完全に置き換えられると、「燃料（生きた労働）」が底をつきます。
• 燃料がなくなれば、**剰余価値（利益）**はゼロに落ち込みます。
• 利益がなくなれば、利潤率もゼロになります。

論文の結論は、AGIのほぼ完全な採用は、単なる「超効率的な未来」ではなく、価値の源泉（人間）が取り除かれることでシステムが崩壊する**「境界ケース」**であるということです。

タイミングのギャップ：なぜ即座には起きないのか

また、論文はこの現象が Overnight（一晩で）起きるわけではないことも指摘しています。そこには「ラグ（遅れ）」が存在します。

• 技術的実現可能性： まず、ロボットが仕事をこなす能力を持ちます。
• 実際の採用： コストや組織的な問題により、企業が実際に切り替わるまでには時間がかかります。

論文は、このラグの間、経済が危険な状態にあることを示しています。ロボットは準備できていますが、人間はまだそこにいます。そして、ついに切り替えが行われるとき、新しい仕事がそれらを補う前に、「燃料（人間）」が断たれてしまうのです。

提案されている解決策

この崩壊を避けるためには、テクノロジーをただ野放しにしておいてはいけないと、論文は示唆しています。私たちはこの移行を管理する必要があります。

1. 新しい仕事の創出： ロボットが古い仕事を代替するスピードよりも速く、人間が必要とされる新しい領域（創造的、社会的、または複雑な判断を要するタスク）を見つける必要があります。
2. 速度を緩める： 経済が適応するための時間を与えるために、企業が完全自動化へ切り替えるスピードを規制する必要があります。
3. ハイブリッド・システム： 完全な置き換えではなく、人間と機械の混合を推奨することで、「燃料（人間による労働）」の流れを維持するようにします。

まとめ

簡単に言えば、この論文は次のように主張しています。**「もし私たちがすべての人間労働者をスーパーインテリジェントなロボットに置き換え、かつ、人間だけが価値を創造すると信じるならば、経済は利益を使い果たしてしまう」**ということです。

それは、コストを節約するために工場の全従業員を解雇した結果、労働者がいないために工場が何も価値を生み出せなくなり、事業が破産してしまうようなものです。論文は、人間を経済に関与させ続けるための慎重な計画がなければ、AGIが価値生産をゼロにするシステムを招く可能性があると警告しています。