AI Pluralism and the Worlds It Misses
本論文は、AIの複数主義（AI pluralism）は、単なる多様な価値観の表象を超え、AIシステムが複雑な現実に対して限定的な技術的カテゴリーを課してしまう「存在論的な平坦化（ontological flattening）」に対処しなければならないと論じ、AI開発プロセス全体を通じて認識論的な包摂と手続き的な権威を確保するための「複数主義的ライフサイクル・ガバナンス」の枠組みを提案するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
大きなアイデア：AIが何を言うかだけでなく、「世界をどう見るか」が重要である
あなたがロボットに、賑やかな街の通りについて説明しようとしている場面を想像してみてください。あなたはこう言うかもしれません。「この通りは、隣人たちが集まる場所であり、子供たちが遊ぶスポットであり、夜にはリスクのあるエリアであり、静かに自分を見つめ直す場所であり、そして活気ある商業ゾーンでもある」と。
この論文は、今日のほとんどのAIシステムは、単にこれらの異なる物語を聞いているだけではない、と主張しています。むしろ、コンピュータが理解できるように、その通りを**「たった一つのもの」**へと強制的に作り変えてしまうのです。AIは、その通りを単に「安全」か「不安全」か、あるいは「インクルーシブ（包摂的）」か「そうでないか」といった具合に決定してしまうかもしれません。
著者はこれを**「存在論的な平坦化（Ontological Flattening）」**と呼んでいます。
- 比喩： 粘土、木、ガラスで作られた豊かで立体的な3D彫刻を、壁に叩きつけて2Dの絵に変えてしまう様子を想像してください。その絵は測定やコピーはしやすくなりますが、質感や奥行き、そしてその物体が多様な素材で構成されていたという事実を失ってしまいます。
- 問題点： AIが世界を「平坦化」するとき、複雑で混沌とした人間の経験（安全性、心地よさ、あるいは帰属意識など）を、単純で固定された技術的なカテゴリーへと変えてしまいます。たとえAIが多くの異なる「答え」を出したとしても、その答えを見つけ出すために使われているのは、同じ「平玉化された地図」である可能性があるのです。
核となる議論：「複数性（プルラリズム）」の2つの型
論文では、2つの概念を区別する必要があると述べています。
- 結果の複数性（Outcome Pluralism）：「何を」の部分
- 比喩： 50種類の料理を提供しているレストランのメニュー。
- 落とし穴： たとえ50種類の料理があっても、それらがすべて全く同じ材料（＝平坦化された世界観）から作られている可能性があります。
- 手続きの複数性（Procedural Pluralism）：「どのように」の部分
- 比喩： 客がシェフに対して、「実は『安全性』とは単に『犯罪がないこと』ではなく、『歓迎されていると感じること』も含めるべきです。レシピを変えましょう」と言える状態。
論文は、現在のAIシステムは多くの場合、「結果の複数性」（たくさんの答えがあること）は持っていますが、「手続きの複数性」（人々がゲームのルールを決めること）が欠けていると主張しています。
3つの実例（ケーススタディ）
著者は、AIと街の通りに関する3つの具体的なプロジェクトを検証し、どこで問題が生じるのかを示しました。
- ケースA（画像生成AI）： 「インクルーシブな」公共空間の画像を生成するように訓練されたAI。
- 起きたこと： 人々が気に入ったものに対してフィードバックを与えました。するとAIは、「勝ち取った」画像を選ぶことを学習しました。
- 平坦化： AIは複雑な感情を、単純な「好き」対「嫌い」の投票へと変えてしまいました。そこには「よくわからない」や「状況による」といった答えが消され、グレーゾーンが存在すべき場所に二者択一の選択が強制されました。
- ケースB（街の地図）： 写真に基づいて、どの通りが「インクルーシブ」かを予測しようとするAI。
- 起きたこと： 人々が通りを評価しました。AIは写真の中のパターンを見つけ出しました。
- 平坦化： AIは「インクルーシビティ」を、目に見えるもの（新しい塗装や広い歩道など）だけで判断し始めました。それは、地元のコミュニティが実際にその場所で安全や歓迎を感じているかといった、「目に見えないもの」を見落としました。深い人間的な感覚を、浅い視覚的な手がかりへと置き換えてしまったのです。
- ケースC（テストスコア）： 研究者が、AIモデルが都市のシーンをどれだけうまく記述できるかをテストしました。
- 起きたこと： 彼らはAIの回答と人間の回答を比較しました。
- 平坦化： 人間同士の意見が食い違ったとき（例：「この公園は安全か？」）、研究者はしばしばその不一致を「ノイズ」や「間違い」として扱いました。しかし、本論文は、その不一致こそが重要なデータであると主張しています。それは、概念が複雑であることを示しているのであり、人間が間違っていることを示しているのではないからです。
解決策：複数的なライフサイクル・ガバナンス（PLG）
著者は、AIシステムをチェックするための新しい方法として、**「複数的なライフサイクル・ガバナンス（Pluralistic Lifecycle Governance: PLG）」を提案しています。これは、成績表のような「スコアを出すテスト」ではなく、AIプロジェクトの全期間をカバーする「公平性のためのチェックリスト」**と考えてください。
これには5つの大きな問いが含まれます。
- 世界は変化に対して開かれているか？（存在論的な開放性）
- 問い： 人々は定義に対して異議を唱えられるか？ もしAIが何かを「リスクがある」と呼んだとき、コミュニティは「いいえ、そこはむしろ安らぎの場です」と言えるか？
- 目標： プロジェクトが始まる前に、ルールが石に刻まれたように固定されていてはいけません。
- すべての声が聞き届けられているか？（認識論的な包含性）
- 問い： AIは「専門家」のデータだけを信頼しているか、それとも一般の人々の「生きた経験」も信頼しているか？
- 目標： おばあさんの街の通りについての物語が、単なるセンサーの数値ではなく、一つの証拠としてカウントされるべきです。
- 人々は実質的な権限を持っているか？（手続き的な権威）
- 問い： 人々は単に意見を聞かれているだけ（声）なのか、それとも「止めて」や「変えて」と言える力（権限）を持っているのか？
- 目標： 「私たちはあなたの声を聞きました」から、「あなたの意見を受けて計画を変更しました」への移行を目指します。
- 不一致が可視化されているか？（評価の複数性）
- 問い： レポートは、人々が意見を違えた事実を隠しているか、それとも、その混沌とした現実を示しているか？
- 目標： 見栄えを良くするために答えを平均化してはいけません。「わからない」や「状況による」という答えもしっかりと示してください。
- 後任の責任は誰にあるのか？（ライフサイクルの説明責任）
- 問い： AIがリリースされた後、もしそれが誰かを傷つけた場合、誰がそれを修正できるのか？
- 目標： 責任はソフトウェアをリリースした瞬間に終わるべきではありません。後からルールを更新する方法が必要です。
まとめ
本論文は、AIの複数性とは、単にAIに多くの選択肢を与えることではないと結論づけています。それは、AIが、人間の生活の複雑で混沌とした、そして美しい現実を、単純で硬直した箱の中に押し込めてしまわないようにすることなのです。
AIを真に公平なものにしたいのであれば、単に100通りの答えを求めるだけでは足りません。影響を受ける人々が、そもそも「どのような問いを立てるべきか」を決定する手助けをし、答えが自分たちの世界に適合しない場合に、ルールを変更できる権限を与える必要があるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。