AI Narrative Breakdown. A Critical Assessment of Power and Promise

ライナー・レハック（Rainer Rehak）の論文「AIナラティブの解体（AI Narrative Breakdown）」の要約を、日常的な例えを用い、分かりやすい言葉で解説します。

大きな全体像：「時代精神としてのAI」という霧

想像してみてください。部屋に入ると、誰もがあらゆるものに対して「魔法だ！」と叫んでいる状況を。トースターを見れば、「それは魔法だ！」と言われ、電卓を見れば、「それは魔法だ！」と言われ、ロボット犬を見れば、「それは魔法だ！」と叫ばれるのです。

著者はこれを**「時代精神としてのAI（Zeitgeist AI）」**と呼んでいます。これは、現代的に見せるためだけに、デジタルなものすべてに貼り付けてしまう、流行に敏感で曖昧なラベルのことです。論文は、この混乱は危険であると主張しています。私たちはAIを「自然界の魔法のような力」として扱うのをやめ、それが実際には何であるか、つまり「特定の目的と特定の限界を持つ、人間によって作られた道具」であることを理解する必要があります。

論文では、真のAIを2つのバケツに分けています：

1. 特化型AI（専門家）： これが現在の私たちの手にあります。これは、完璧なスフレを作ることができる熟練シェフのようなものですが、蛇口の修理をしたり詩を書いたりすることはできません。顔認識やテキスト翻訳など、特定の仕事には非常に優れていますが、それ以外のことには全く役に立ちません。
2. 汎用AI（SFの夢）： これは、映画に出てくるような、人間のように考え、感じ、あらゆることを学習できる「超知能」ロボットのことです。論文は、**「これはまだ存在せず、将来存在する証拠も全くない」**と指摘しています。しかし、私たちがこれについて語り続けることで、現在のツールが実際に何ができるのかについて混乱が生じています。

神話の解体（「ナラティブ」の正体）

著者は、人々がAIについて語る最も一般的なストーリーを取り上げ、風船を割るようにその正体を暴いていきます。以下はその内訳です。

1. 「エージェンシー（主体性）」の神話（「それが決めた」という物語）

• ストーリー： 人々は「AIがこれを決めた」と言います。
• 現実： AIには脳も、欲望も、意図もありません。それは**「確率論的なオウム（統計的なオウム）」**（聞いた言葉のパターンに基づいて言葉を繰り返す鳥）のようなものです。もしオウムが「愛してる」と言ったとしても、それはオットがあなたを愛しているという意味ではなく、単に「愛」という言葉の後に「してる」が続くパターンを知っているだけなのです。
• 教訓： AIは「行動」しません。計算しているだけです。もし何か問題が起きたとしても、責任は機械ではなく、そのツールを作った、あるいは購入した「人間」にあります。

2. 「自律性」の神話（「自己統治」の物語）

• ストーリー： 「自律走行」する車やドローンが、自ら選択を下しているという話を聞きます。
• 現実： これらの機械は、**「非常に優れたオートパイロットを備えたリモコンカー」**のようなものです。彼らは人間が設定したルールに従っています。もし自動運転車が歩行者に衝突したとしても、それは車が「選んだ」のではなく、特定の状況下で失敗した「一連の指示」に従った結果なのです。目標を設定したのは人間であり、機械はそれを実行したに過ぎません。

3. 「真実性」の神話（「嘘つき」の物語）

• ストーリー： AIが私たちを「騙したり」あるいは「欺いたり」することを人々は心配しています。
• 現実： 真実を知らなければ、嘘をつくことはできません。AIは、何が真実で何が偽りかを理解していません。ただ、以前に読んだデータに基づいて、文章の次の単語を予測しているだけです。もしAIが間違ったことを言ったとしても、それは「嘘をついている」のではなく、単に**「パターンの幻覚（ハルシネーション）」**を見せているだけです。そのソフトウェアではなく、そのAIを売っている企業にこそ、意図（アジェンダ）があります。

4. 「知識」の神話（「賢い学生」の物語）

• ストーリー： AIは物事を知っており、世界を理解している。
• 現実： AIは**「統計的な鏡」**です。何十億もの本や記事を見て、どの言葉が通常どのように組み合わさるかを学習します。しかし、AIは「意味」を理解していません。それは、楽譜の音符を完璧に暗記して演奏できるミュージシャンのようなものです。彼らは曲の感情を理解していません。AIは詩やニュースレポートの「スタイル」を模倣しますが、その言葉が実際に何を意味しているのかは分かっていないのです。

5. 「予測」の神話（「水晶玉」の物語）

• ストーリー： AIは犯罪や天候のように、未来を予測できる。
• 現実： 天候は物理法則に従うため、AIは天気を予想するのが得意です。しかし、人間の行動（犯罪など）を予測するのは苦手です。なぜなら、人間は岩石のように予測可能ではないからです。もし犯罪を予測するために過去のデータを使うようAIに命じれば、AIは単に**「過去を再生」**するだけです。そこには過去の差別や偏見も含まれます。それは未来を見ているのではなく、単に歴史を再利用しているのです。

6. 「中立性」の神話（「客観的なロボット」の物語）

• ストーリー： コンピュータは中立で公平である。
• 現実： AIは**「カメラのレンズ」**のようなものです。レンズ自体は「何が現実か」を決定しませんが、カメラを持つ人間が、どこを指し、どこを切り取るかを決めます。あらゆるAIシステムは、どのデータを含め、どのデータを無視するかという選択を行う人間によって構築されています。それらの選択は政治的であり、偏っています。「人間の手」が入っていない「生のデータ」など存在しません。

7. 「非政治的な最適化」の神話（「魔法の解決策」の物語）

• ストーリー： AIは政治抜きで、飢餓や交通渋滞などの大きな問題を解決できる。
• 現実： 何かを「最適化」するためには、まず何が「良い状態」であるかを決めなければなりません。もし交通問題を解決するようにAIに頼んだ場合、車の所有者を助けたいのか、それとも自転車利用者を助けたいのか？ スピードを求めるのか、それとも安全を求めるのか？ AIはこれらの問いに答えることはできません。 これらは政治的な選択です。AIが政治的な議論なしにこれらの問題を解決できると考えるのは、計算機にピザの分け方を決めてもらうようなものです。

8. 「持続可能性」の神話（「緑の救世主」の物語）

• ストーリー： AIはあらゆるものを効率化することで、地球を救う。
• 現実： AIは多少の助け（データセンターの冷却効率を上げるなど）にはなりますが、しばしば**「リバウンド効果」を招きます。もしデータセンターの運営コストが下がれば、企業はさらに多くのデータセンターを建設し、結果として全体のエネルギー消費量は増えてしまいます。また、気候変動の最大の問題は情報の不足ではありません。私たちはすでに問題を知っています。問題は「権力と政治」**です。AIは権力争いを解決することはできません。

9. 「民主化」の神話（「みんなのための道具」の物語）

• ストーリー： AIはすぐに無料になり、誰もが所有できるようになる。
• 現実： 大規模なAIシステムを構築することは、**「原子力発電所」**を建てることに似ています。それには、GoogleやOpenAIのような巨大企業だけが持つ膨大な資金、エネルギー、そしてデータが必要です。彼らはツールを「レンタル」させてくれるかもしれませんが、その「工場」を所有させてくれることは決してありません。それはコミュニティの庭ではなく、民間の独占物なのです。

10. 「大量失業」の神話（「仕事を奪うもの」の物語）

• ストーリー： AIがすべての仕事を奪い、私たちを何もすることがない状態にする。
• 現実： 仕事は単に消滅するのではなく、**「変化」します。通常、これは「良い仕事」が減り、「低賃金の悪い仕事」が増えることを意味します。しかし、論文は「AI」のせいにすることはトリックであると主張しています。実際には、コスト削減のために解雇を決めるのは「企業のボス」**です。機械のせいにすることで、真の意思決定者の姿を隠しているのです。

結論：私たちは何をすべきか？

著者は、私たちは現在、**「サイエンス・フィクション的な思考」**のサイクルに陥っていると結論づけています。私たちは、AIが人類を滅ぼすと恐れる（ディストピア）か、あるいはAIが人類を救うと期待する（ユートピア）かのどちらかに陥っています。しかし、そのどちらも間違っています。

AIは単なる**「道具」**であり、ハンマーやセメントミキサーと同じです。魂もなければ、運命もありません。

• 真の危険： 危険なのは、ロボットの反乱ではありません。強力な企業が、これらのツールを使ってより多くの利益を得て、環境を無視し、労働者を不当に扱う一方で、テクノロジーが「中立」または「魔法的」であると装うことを、私たちが許してしまうことです。
• 解決策： 私たちはAIを神秘的な力として扱うのをやめ、**「政治的な問題」**として扱い始める必要があります。誰がこれらのツールをコントロールし、誰がそこから利益を得るのか、そして私たちがどのような社会を築きたいのかについて、正直な対話を行う必要があるのです。

要約すると： AIは神でもなければ、怪物でもありません。それは、人間の目的のために、人間によって作られた非常に複雑な機械です。もし私たちがより良い未来を望むのであれば、「魔法」という物語からコントロールを取り戻し、その背後にいる人間に責任を負わせる必要があります。