Position: AI Must Become Planet-Centered, Not Just Human-Centered
本ポジションペーパーは、現在の深い不確実性の条件下においてシステム的なリスクの悪化を防ぐために、人工知能を惑星規模の社会生態学的安定へと再配向させるシステム思考に基づいた設計哲学である、人間中心から惑星中心AI（PCAI）へのパラダイムシフトを提唱するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
大きなアイデア：私たちはGPSを作り直す必要がある
車を運転している場面を想像してみてください。ここ10年間、AIコミュニティは非常にスマートなGPSを作り続けてきました。このGPSは、歩行者に衝突しないこと、道に迷わないこと、そしてドライバーを目的地へできるだけ早く到着させることを目的として設計されています。これは**「人間中心のAI（Human-Centered AI）」**と呼ばれます。ドライバーにとっては素晴らしいものですが、本論文は、それが私たちが生きる世界にとって十分ではないと主張しています。
著者のマリア・ペレス＝オルティス（María Pérez-Ortiz）は、私たちの惑星は、あらゆるものがつながっている巨大で複雑なエコシステム、いわば「巨大で生きた網（ウェブ）」のようなものであると言います。一本の糸を引けば、網全体が揺れます。現在、私たちの「人間中心のGPS」はドライバーのことしか見ていません。スピードを上げて仕事に早く着こうとすることが、消防車の通行を妨げる渋滞を引き起こしたり、あるいは車の排気ガスが10年後のドライバーが吸う空気をじわじわと汚染したりすることを、このGPSは見落としているのです。
この論文は、**「惑星中心のAI（Planet-Centered AI: PCAI）」**という新しい哲学を提案しています。「これは人間のユーザーにとって良いことか？」と問う代わりに、「これは今、そして将来にわたって、生命の網全体にとって良いことか？」と問わなければならないのです。
なぜ従来の方法は失敗するのか：「厄介な問題（Wicked Problem）」の罠
論文では、私たちが今日直面している多くの大きな課題（気候変動や生物多様性の喪失など）は、**「厄介な問題（Wicked Problems）」**であると説明しています。
- 「手懐けられた問題（Tame Problems）」（従来の方法）： パズルや数学の方程式を思い浮かべてください。ルールを知っており、ゴールを知っており、それを解けば終了です。現在のAIはこれらに非常に長けています。
- 「厄介な問題（Wicked Problems）」（新たな現実）： 誰かが反対側から紐を引っ張っている最中に、結び目を解こうとしている場面を想像してください。しかも、その結び目は形を変え続けています。
- 明確なゴールがない： 何をもって「解決」とするかについて、誰もが意見を違えています。
- 安全な試行錯誤ができない： 「やってみて失敗する」ことはできません。なぜなら、その間違いは取り返しのつかないもの（例：氷河の融解）になる可能性があるからです。
- すべてがつながっている： 一つのことを解決しようとすると、別の場所で何かを壊してしまうことがよくあります。
論文は、現在のAIは「手懐けられた問題」のために構築されていると主張しています。私たちがこのAIを「厄介な問題」を解決するために無理やり使おうとすると、気づかないうちに事態を悪化させてしまうことがよくあるのです。
現在のAIが間違っている3つのポイント
1. 「効率の罠」（リバウンド効果）
電気を半分しか使わない超効率的な掃除機を買ったとしましょう。あなたは「よし、節電だ！」と思います。しかし、あまりに安くて使い勝手が良いため、あなたは一日に3回も家中の掃除をするようになり、さらにガレージ用にもう一台掃除機を買います。結局、以前よりも多くのエネルギーを使うことになります。
論文ではこれを**「リバウンド効果（Rebound Effect）」**と呼んでいます。AIは（車の走行や農業のように）物事をより効率的にしますが、それによってコストが下がり使いやすくなるため、結果として私たちは「より多く」それを行うようになり、実際には地球へのダメージを増やしてしまいます。現在のAIは、走行距離あたりのエネルギー節約量しかカウントせず、増えた走行距離までは見ていないため、この現象を見逃しています。
2. 「盲点」
現在のAIは、非常に狭いレンズを持つカメラのようなものです。目の前にあるものしか見えません。
- 例： 密猟者を阻止するために設計されたAIは、動物を見つけることには非常に優れているかもしれません。しかし、論文は、このAIが地元の先住民を監視するために使われ、彼らが環境保護活動に協力することを躊躇させるようになる可能性を指摘しています。AIは密猟者の発見には「成功」していますが、コミュニティの信頼という大きな視点においては「失敗」しているのです。
- 論文によれば、現在のAI倫理は通常、人間のユーザーのみを重視し、植物、動物、そして土壌については無視しています。しかし、もし土壌が死んでしまえば、人間も死んでしまうのです。
3. 「水晶玉」の問題
AIは過去に基づいて未来を予測すること（例：昨日も雨が降ったから今日も降るだろうと言うこと）には長けています。しかし、変化し続ける世界において、過去は未来の姿を反映していません。
- 比喩： 100年前の海洋図を使って船を操縦しようとしている場面を想像してください。潮流は変わり、新しい島が現れ、嵐の形も変わっています。
- 論文は、AIはしばしば「たった一つの可能性としての未来」を示す水晶玉のように振る舞うと述べています。しかし、複雑な世界には多くの可能性があります。私たちに必要なのは、単に一つの結果を予測するのではなく、より良い選択ができるように、さまざまな可能性を「探索」させてくれるAIなのです。
解決策：惑星中心のAI（PCAI）
論文は、AIの設計方法を根本から作り直す必要があると提案しています。それがどのようなものかを簡単に説明します。
- 網全体をマッピングする： AIを構築する前に、それが他のすべて（人々、自然、経済）とどのようにつながっているかのマップを描かなければなりません。「これを行ったら、魚はどうなるか？ 農家はどうなるか？ 50年後にはどうなっているか？」と問う必要があります。
- すべてを「最適化」しようとするのをやめる： 単一の「最善の」答えを見つけようとするのではなく、AIはトレードオフ（妥協点）を示すべきです。「Xを行えば、お金は節約できるが川を傷つける。Yを行えば、川を守れるがコストがかかる」。AIは人間の代わりに決定を下すのではなく、人間が議論し、決定するための助けとなるべきです。
- 長期的な視点で監視する： AIを起動した後も、監視を続ける必要があります。もしAIが問題（例えば、人々をより多く運転させるなど）を引き起こし始めたら、軌道修正したり「元に戻す」ボタンを押したりできる仕組みが必要です。
- 謙虚であること： 論文は、私たちはすべてを予測することはできないと認めています。したがって、AIは複雑なシステムを「制御」するための道具ではなく、システムを「理解」するための道具であるべきです。
大きな警告（検証可能な主張）
論文は、大胆でテスト可能な主張で締めくくられています。
「もし、システム全体を揺るがすことについて考えず、単に速さ、安さ、あるいは効率性だけを追求するAIを構築するならば、それらは世界の大きな問題を解決するどころか、むしろ悪化させることになるだろう。」
これは、ブレーキもハンドルもない車に強力なエンジンを取り付けるようなものです。スピードは出ますが、必ずクラッシュします。論文は、アクセルを踏む前に、システム思考という名のブレーキとハンドルを設置することを求めているのです。
まとめ
この論文は、AIが悪いと言っているのではありません。私たちのAIに対する考え方が小さすぎるのだと言っているのです。私たちはAIを「人間のための道具」として扱っていますが、私たちは人間もまた、巨大で脆弱なシステムの一部であるという惑星に住んでいるのです。未来を生き抜くためには、ユーザーだけでなく、システム全体を尊重するAIが必要なのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。