Epistemic Subordination: Generative AI and the Infrastructure of Knowledge

現代社会において、私たちはニュースを要約し、物語を書き、質問に答えるために、人工知能への依存をますます強めています。生成AIとして知られるこれらのシステムは、単にデータベースから事実を検索するのではなく、インターネット上の膨大なテキストを学習することで、次にどのような言葉が来るべきかを予測することを学びます。このプロセスは、システムが最も頻繁に読んだものに基づいてパターンを学習するという、人間の言語の統計的モデルを作り出します。数十年にわたり、専門家たちは、これらのシステムが偏り（バイアス）、つまり特定のグループの人々を他よりも不当に優遇する可能性があることを懸念してきました。通常の想定では、このバイアスはデータにおける特定のエラーや、ツールを構築するプログラマーによる選択に起因するとされてきました。しかし、新たな視点は、問題がはるかに深く、より構造的なものであることを示唆しています。それは、AIが間違いを犯すということだけでなく、AIが世界を理解する方法の基盤そのものが、単一の支配的な思考様式の上に築かれており、それ以外のあらゆる知のあり方が「逸脱」と見なされてしまうという点にあります。

二人の法学、ギラド・アビリとエマニュエル・トウフィグは、彼らが「認識論的従属（epistemic subordination）」と呼ぶこの現象は、知識がどのように組織化されるかにおける根本的な転換を表していると主張しています。彼らは、生成AIが従来のテクノロジーが行ってこなかったことを行っていると提案しています。それは、多数派の知のあり方を、あらゆる知識のデフォルトのインフラストラクチャとしてコード化することです。このシステムにおいては、世界の多数派の文化的仮定、言語、および推論スタイルが、他のすべてを測定するための不可視の基準となります。ここでの害悪は、単にAIが不公平な結果を生み出すことにあるのではなく、マイノリティの文化や言語が、排除されるからではなく、単一の均質化された平均へと吸収され、平坦化されることで、統計的な現実の中に構造的に押し下げられてしまうことにあります。著者らは、この問題が、しばしば別個のものとして扱われる3つの問題を統合していることを示しています。それは、差別的な出力、マイノリティ文化への脅威、そして民主的な議論の狭小化です。彼らは、これらがランダムな不具合ではなく、これらのモデルが構築される方法の結果として避けられないものであることを見出しました。

この従属のメカニズムは、データそのものから始まる3つの明確な段階を経て展開されます。第一段階はデータです。ほとんどのAIモデルは、インターネット上で利用可能な、人間の表現の未構造な総体を用いて学習されます。このデジタル風景は中立ではありません。それは圧倒的に英語のコンテンツ、西洋的な視点、そしてオンラインで発表する教育とアクセス手段を持つ人々の見解によって支配されています。モデルがこのコーパスから学習するとき、モデルは単に言葉を学ぶのではなく、その多数派の文化的仮定や規範的な枠組みを、自身の統計的なデフォルトとして学習します。第二段階は、このデフォルトを不可逆的なものにします。学習過程において、データは数十億の統計的パラメータへと圧縮され、それらは元のソースに遡って展開したり追跡したりすることができません。ルールによってバイアスが生じた箇所をプログラマーが特定できた従来のコンピュータプログラムとは異なり、これらのモデルは設計上、不透明です。バイアスは単一のコードの行や特定の変数にあるのではなく、システムのアーキテクチャ全体に織り込まれています。

第三段階は、これらのAIシステムを安全かつ公正にするために用いられる、「価値観の調整（value alignment）」と呼ばれるツールに関わります。人間からのフィードバックを用いた強化学習などの手法は、モデルの発言をより礼儀正しく、あるいは害の少ないものにするよう調整します。しかし、著者らは、これらのツールは出力を変えるだけであり、根底にある知識を変えるものではないと主張しています。開発者がモデルに多様性を強制しようとすると、例えば、人種的に多様なナチスの兵士の画像を生成するといった不条理な結果を招くことがあります。なぜなら、モデルのベースラインには真の意味での文脈的多様性の枠組みが存在しないからです。モデルは単に、真に理解できない統計的なデフォルトを、拙く上書きしようとしているに過ぎません。したがって、害悪は最終的な回答のレベルではなく、構築のレベルで発生しています。モデルは単に偏った決定を下すだけでなく、自らが設定に関与することのできない標準からの「逸脱」として、文化や言語を構造的に従属させているのです。

この構造的な現実は、マイノリティを保護するために設計された既存の法律にとっての危機を生み出しています。例えば、反差別法は、特定の決定を中立的な基準と比較することによって機能します。もし銀行が、特定の保護対象グループに不利に働く特定のルールに基づいて融資を拒否した場合、法はその決定を覆すことができます。しかし、生成AIにはそのような明確な標的が存在しません。差別的な出力は、単一の識別可能なルールではなく、アーキテクチャ全体の産物なのです。「決定」は確率的な推測であり、「基準」は数十億の不可視のパラメータであり、「責任主体」は開発者と展開者の連鎖です。害悪は排除という特定の行為ではなく、マイノリティの視点が吸収され平坦化されるという「包含の条件」として存在するため、意図や因果関係という法的道具は力を失います。

この脅威は、マイノリティの制度を多数派の支配から守るために設計された、文化的および言語的権利にも及びます。伝統的に、マイノリティの学校は、自らの言語や伝統を守るために、独自の図書を編纂したり独自のカリキュラムを選択したりすることができました。これらのテクノロジーにおける文化的バイアスは、選択可能な「コンテンツ」の中に存在していました。生成AIはこの状況を逆転させます。バイアスは、モデルのアーキテクチャ自体の中にあります。マイノリティのコミュニティは、数百米ドルのコストがかかり、インターネット規模のデータが存在しないため、独自の基盤モデルを構築することができません。最近のテストでは、最高のモデルであっても英語では高い精度を達成する一方で、スワヒリ語やヨルバ語のような言語では精度が著しく低下することが示されています。宗教学校やマイノリティ言語の教室がAIアシスタントを使用する場合、彼らは世俗的で西洋的な推論をデフォルトとする規範的な枠組みを輸入することになります。テクノロジーは、これまでのツールが決して成し得なかった方法で、知識を内部から再構築し、これまで権利が守ろうとしてきた制度的空間に浸透していくのです。

最後に、この現象は民主的な討議のインフラそのものを脅かしています。健全な民主主義は、問題を理解するための真に多様な枠組みが利用可能であることに依存しています。それは、人々が事前に選んだものではない視点に触れることを必要とします。しかし、もし生成AIが情報の主要なソースとなれば、認識論的な領域は均質化されます。マイノリティの枠組みは検閲されるのではなく、モデルの学習データへと吸収され、構造的に従属させられます。公的な議論は消滅することはありませんが、それはすでに中央値の文化へと平坦化されたフィールドの中で行われるようになるでしょう。メディアの多様性に関する規則のような、視点の多元性を保護するための法的枠組みは、多様な知識が独立して存在し、単に公衆に届くためのチャンネルを必要としているという前提に基づいています。認識論的従属は、この前提を崩壊させ、多様な発言が生じるフィールドそのものを狭めてしまうのです。

著者らは、現在の法的対応は、AIが「何をするか」を規制する「下流」で機能しているため、この問題に対処するには構造的に不可能であると結論づけています。欧州連合のAI法や様々な州の規制のような法律は、採用や融資におけるAIの適用や、最終製品の安全性に焦点を当てています。これらは、学習データの構成やモデルのアーキテクチャ自体には対処していません。このエッセイの中心的な主張は、認識論的な多元性を保護するためには、根本的に異なる規制の方向性が必要であるということです。法は、データの構成、調整の方法、およびモデルのアーキテクチャを形作るという、学習のレベルにおいて統治を行うように押し上げられなければなりません。

これは単なる理論的な要求ではありません。最近の研究は、介入するための技術的な能力が実在することを示唆しています。科学者たちは、ベースモデルがより小さなコミュニティ固有のモデルを参照することで、個別の視点を保持できるモジュール型アーキテクチャを提案しています。また、特定の文化的視点を表現するために、文化的に根ざした学習データを体系的に構築し、ニュアンスが平坦化されることなく保持される方法を実証した人々もいます。さらに、特定の文化的視点を表現するために合成学習データを生成し、単一のデフォルトではなく、人間の価値観の完全な分布を代表するように調整プロセスを再設計する方法もあります。これらの提案は完成された解決策ではありませんが、前進するための技術的な道筋が存在することを示しています。欠けているのは、これらの介入を要求し、可能にするための政治的意志と法的枠組みです。今後の課題は、モデルの構築そのものにまで及ぶ法律を構築し、知識のインフラが、それが奉仕すると謳う多様性そのものを従属させることがないようにすることです。