Pathways to AGI
本論文は、人工知能の歴史的経路、意思決定の分岐点、モデルの軌道に関する 5 つの主要な問いを分析することにより、現在の AI 開発の背後にある社会政治的・経済的な偶発性を批判的に検討し、汎用人工知能という概念に対する透明性があり持続可能な代替案を提示する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
フレッチャーとヴー・カーンによる論文「AGI への道筋」の解説を、平易な言葉と日常的な比喩を用いて翻訳したものです。
全体像：単に「賢い」ロボットの問題ではない
あなたが世界で最も賢いロボットを誰が作れるかという競争を見ていると想像してください。多くの人は、勝者は最も大きな脳を持つ者か、最も高速なプロセッサを持つ者だと考えています。
しかし、この論文は、この競争が実際には「最も賢い」ロボットを誰が持っているかという問題ではないと主張しています。むしろ重要なのは、誰がトラックを建設し、誰がスタートラインを所有し、誰が競争のルールを決定したかという点です。
著者たちは、現在見られる「汎用人工知能（AGI）」は、単に偶然起きた自然な科学的発見ではないと言います。それは、資金、ビジネス取引、法的契約、そして少数のグループの個人的な歴史によって形作られた特定の産物です。彼らはこれを「クリティカル・パスウェイ分析（重要経路分析）」と呼んでいます。つまり、私たちがここに至るまでの歴史を振り返り、どの扉が開かれ、どの扉が閉ざされたのかを確認するのです。
1. AGI とは何か？（動くゴールポスト）
この論文は、AGI には単一の定義がないと述べています。それは、「良い車」を定義しようとするようなもので、ある人は「速いこと」、別の人は「安全であること」、さらに別の人は「安価であること」を意味すると言うようなものです。
- ベンダーの定義: 大手テック企業（OpenAI、Google、Microsoft など）は、自社の収益に繋がるものを基準に AGI を定義します。例えば、OpenAI は、AI が人間よりも「経済的に価値のある仕事」を遂行できる状態を AGI と定義しています。これは、自動車会社が「人間よりもピザを配達できる速さで届けることができれば、完璧な車だ」と言うようなものです。
- 資金の定義: 漏洩した文書によると、Microsoft と OpenAI にとって、AGI が宣言されるのは、その技術が1,000 億ドルの利益を生み出すまでではないかという示唆があります。これにより、AGI は科学的なマイルストーンではなく、財務的な目標へと変質します。
- 人間の定義: この論文は、人間が単一の「賢さ」を持っているわけではないと主張します。私たちは、数学が得意、感情の理解が得意、物を修理するのが得意など、異なる種類の知性を持っています。現在の AI は、話すことと書くことには非常に優れていますが、他の分野ではひどく苦手です。著者たちは、チャットだけでなく、多様な種類の課題に対処できるシステムである**「人工多重知能（AMI）」**を探すべきだと提案しています。
2. 「実行可能システム」の比喩
著者たちは、現在の AI がまだ真に「汎用的」ではない理由を説明するために、スタッフォード・ビアという人物から来た**「実行可能システムモデル（Viable System Model）」**という理論を用いています。
- 比喩: 人間の体を想像してください。
- 手（システム 1）: これらは現在の AI モデルです。タイピング、コーディング、テキストの要約において、驚くほど高速です。これらは作業を行う「手」です。
- 脳と神経系（システム 2〜5）: これらの部分は、調整、安全性、長期的な計画、倫理を管理します。
- 問題点: 現在の AI は超高速な手を持っていますが、完全に発達した神経系を欠いています。いつ止まるべきか分からず、来年の計画を立てられず、社会や法律の複雑なルールを理解できません。それは、どこへ行き、何が危険かを指示する脳を持たない、巨大で速い手だけを持つ体のようです。
- 結論: 真の「汎用知能」とは、単に賢いモデルではなく、モデル、ルール、安全チェック、そしてそれを管理する人々を含む、システムの中のシステムという全体です。
3. 五つの道筋（競争の物語）
この論文は、5 つの主要なプレイヤーと、彼らの具体的な歴史がいかにして彼らの AI を形作ったかを検討しています。
- OpenAI（企業化への転換）: 非営利の研究機関として始まりました。しかし、資金が必要になったため、彼らは「利益上限付き」の企業となり、Microsoft と提携しました。
- 転換点: 彼らは、世界と共有するのではなく、収益を得るために最良のモデルを秘匿（API の背後に隠す）することを決めました。これにより彼らは豊かで人気になりましたが、その代償として、製品の納期に追われるために深い安全性研究への注力がおろそかになりました。
- Anthropic（安全性への反逆者）: 安全性を懸念したトップ科学者たちが OpenAI を去り、Anthropic を設立して「制御可能」で安全な AI を構築しました。
- 葛藤: 彼らは AI のための「憲法（AI が従うルール集）」を構築しようと試みました。しかし、競争するには Amazon や Google から数十億ドルの資金が必要でした。論文は問いかけます。「投資家の資金を切望している状況で、安全性を維持できるでしょうか？」
- Google（遅咲きの花）: Google は中核技術（トランスフォーマー）を発明しましたが、安全性と評判を懸念して製品として公開しませんでした。
- 過ち: 彼らは待ちすぎました。彼らが AI（Gemini）を公開した頃には、OpenAI がすでに市場を支配していました。Google は今、追いつこうとしていますが、「研究第一」という彼らの文化は、迅速な移動が必要という現実と衝突しています。
- xAI / Grok（ワイルドカード）: イーロン・マスクによって設立されました。彼らの道筋は、特定の政治的物語（「反・woke」）と、誰よりも速く移動したいという欲求によって推進されています。
- リスク: 彼らは Twitter/X という巨大な流通網の優位性と、記録的な速さで構築されたスーパーコンピュータを持っています。しかし、安全性研究やガバナンスはほとんどありません。彼らは「ブレーキのない高速車」です。
- Microsoft（エンタープライズの王）: Microsoft は最も賢い AI を作ったわけではありません。彼らが作ったのは、最高の配送システムです。彼らは OpenAI の技術を世界中のすべてのオフィス用コンピュータ（Copilot）に組み込みました。
- 戦略: 彼らは、銀行や病院が使用できるほど AI を安全にすることに焦点を当てています。彼らは中核となる脳を発明しているわけではありませんが、「ガバナンス」層を構築しています。
4. 「人」の要素（小さな輪）
この論文は、AI 業界全体が互いに知り合いである非常に少数のグループによって運営されていると指摘しています。
- 「Google Brain」のつながり: ほぼすべてのトップ AI 研究者は、Google の研究機関でキャリアをスタートさせました。
- 「OpenAI」のつながり: 彼らの多くは Google を去って OpenAI に加わりました。
- 「Anthropic」のつながり: その後、彼らの多くが OpenAI を去って Anthropic を設立しました。
- 結果: これは「回転ドア」です。同じ少数のグループが企業間を行き来し、自分のアイデアを持ち運んでいます。这意味着業界は非常に「内向的」です。彼らは皆同じように考え、同じツールを使用し、生物学者や心理学者が問題にアプローチするかもしれないような異なる思考法を見逃しています。
5. 私たちは何をすべきか？（提言）
この論文は、現在の道筋は狭すぎると結論付けています。私たちは、利益を上げようとする数社にすべてを賭けています。
- 競争を見るだけではない: 私たちは「最大のモデル」競争だけでなく、異なる種類の研究に資金を提供する必要があります。AI が不確実性をどのように理解し、長期的な計画をどのように処理し、社会にどのように適合するかを研究する必要があります。
- AI を公共財とする: 公的な水道や電気があるように、AI も公共資源として扱われるべきです。富裕層のためのサブスクリプションサービスであってはなりません。
- 主権的な AI: 国々は、単一の外国企業に依存しないように、AI インフラ（コンピュータ、データ、ルール）に対する自国の管理を確保する必要があります。
- 作業の検証: 企業が「信頼してください、私たちは安全です」と言うのを待つのではなく、AI が実際に安全で賢いかどうかを確認する独立した監査人が必要です。
まとめ
この論文は、AGI は私たちが単に「発見」している目的地ではないと主張しています。それは私たちが建設している道です。現在、私たちは資金で舗装され、数社によって管理され、チャットボットの作成に焦点を当てた道を進んでいます。
真に知的で、安全で、有用な AI に到達するためには、それを消費者製品として扱うのをやめ、管理され、監査され、株主だけでなくすべての人々の利益のために構築されるべき複雑なシステムとして扱い始める必要があります。最も利益を生む知性だけでなく、異なる種類の知性が成長できるよう、道を広げる必要があります。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。