The Universality Myth: Epistemic Exclusion, Structural Power, and AI Governance in the Global South
本論文は、主要なAIガバナンス・フレームワークが主張する普遍性は、認識論的排除の構造的メカニズムを隠蔽するイデオロギー的な神話であり、そこではグローバル・サウスの諸集団がAIシステムに異議を唱えるために必要な「異議申し立てのリテラシー（contestation literacy）」を欠いており、それによって概念的資源の剥奪、歪められた社会技術的イマジナリー、および官僚的な構造的障壁の組み合わせを通じて、展開者の権力を強化していると論じるものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能がいかに構築され、制御されるべきかというルールが、ほとんどの人が読むことのできない言語で書かれている世界を想像してみてください。世界の指導者や主要な組織はしばしば、これらのルールは人類と地球を守るために設計されたものであり、すべての人、あらゆる場所に適用されるものであると主張します。彼らは、あらゆる国家を導くべき普遍的な原則について語ります。しかし、詳しく見てみると、異なる現実が浮かび上がってきます。多くのコミュニティ、特に（ここではこれらの技術の創造から歴史的に排除されてきた地域を指す）グローバル・サウスの人々にとって、これらのルールは単に従うのが難しいだけでなく、「不可視」なのです。これらのシステムの下で暮らす人々は、人工知能システムが自分たちの生活に関する決定を下しているという事実を認識するための基本的なツールさえ欠いており、ましてやその決定に異議を唱える能力など持ち合わせていません。これは単に、教育やインターネットへのアクセスの充実が必要だという問題ではありません。それは、これらのシステムを理解し、異議を唱えるために必要な概念そのものが、公的な議論から欠落しているという構造的な格差なのです。
この格差こそが、RV大学のアムリヤ・N氏とアシュウィニ・プラサド・S氏の研究者が調査しようとした対象です。彼らは、「普遍的な」AIガバナンスという考えは、実際には権力を持つ者に資するイリュージョンであると論じています。著者らは、テック企業や政府が人々にAI製品の使い方――スクロール、クリック、相互作用の仕方――を教えることに奔走する一方で、それらを「統治（ガバナンス）」する方法については教えていないと示唆しています。道具の使い方を知ることと、その道具の製作者に対して責任を問う方法を知ることの間には、決定的な違いがあります。論文は、この「争訟可能性（コンテスタビリティ）」――すなわち、あるシステムを、疑問を投げかけたり規制したりできるものとして捉える能力――の欠如は、偶然ではないと断じています。人々がシステムを見ることができなければ、彼らはそれに異議を唱えることができず、それによって、システムを構築している企業は変化を迫られることがなくなるのです。
このプロセスを理解するために、研究者たちはインドとサブサハラアフリカという、非常に対照的な二つの場所に着目しました。これらの場所を選んだのは、この問題が特定の国や特定のタイプの政府に固有のものではないことを示すためです。強力なテック産業と巨大な政府を持つインドにおいて、問題は内部から生じています。政府は主要なデータ保護法を可決しましたが、議会での討論は約2時間しか行われず、最終的な法律には国家自身に対する広範な免除規定が含まれていました。人工知能の詳細についてほとんど関心のない大衆には、より優れた安全策を要求するための語彙も政治的な圧力もありませんでした。その結果、紙の上では保護的であるように見えながらも、一般市民に対しては実質的な保護をほとんど提供しない法律が誕生しました。一方、サブサハラアフリカにおいて、問題は外部からやってきます。これらの国々は、ヨーロッパや米国で構築されたAIシステムやガバナンスのルールを採用していますが、それらを執行するために必要な現地の制度や専門知識を欠いていることがよくあります。彼らはこれらのルールが「普遍的」であると言われますが、それらは異なる社会のために設計されたものであるため、現地の住民を保護することに失敗することが多く、結果として、監査も理解もできないシステムに従属することになります。
研究者たちは、この不可視性が二つの主要な力によって維持されていることを明らかにしました。第一に、意識の欠如です。多くの人々は、AIが自分たちのローンや福祉給付、あるいは安全に関する決定を下していることさえ、単に知らないのです。第二に、一種の誤情報が存在します。人々はAIについて知ってはいるものの、真の危険を隠蔽する特定の物語を通じてのみ知らされているのです。ある人々には、AIはあらゆる開発問題を解決する魔法の解決策であると伝えられ、また別の人々には、SFのようなロボットによる支配を恐れるよう伝えられます。これらの物語は、現在進行形で起きている静かな害悪――差別的なアルゴリズム、盗まれたデータ、そして現地の同意なしに構築されたインフラ――から目を逸らさせるものです。論文は、これらの物語は単なる誤解ではなく、人々が正しい問いを立てることを妨げるための構造的な特徴であると論じています。
本研究の最も衝撃的な発見の一つは、この盲目が、これらのシステムを動かすデータセンターの建設を承認する政府当局者にまで及んでいることです。インドでは、一つのデータセンターに対して、様々な政府機関から最大30もの許可が必要になることがあります。ある職員が建築許可や電気接続を承認する際、その建物が人工知能のためのデータセンターであることすら知らない場合があります。書類にはそのような情報は記載されておらず、その職員の職務記述書にも、AIの広範な影響を理解することは含まれていません。彼らは腐敗しているのではなく、単に無知なのです。彼らは大規模なガバナンス・システムを可能にしながら、その存在に対して完全に盲目なのです。これにより、責任を負うべき人々が、実は市民と同様に、知識から排除されているという状況が生み出されています。
本研究は、解決策は単にテクノロジーについてより多くの人に教えることだという一般的な信念に異を唱えています。著者らは、もし責任ある立場にある人々が悪いシステムを止める法的権限を持っていなかったり、あるいは法律自体が権力者を免除するように書かれていたりする場合、人々にAIの使い方を教えるだけでは問題は解決しないと論じています。会話に加わる声を増やしたとしても、その会話が、その声が話すことのできない言語で行われていたり、あるいは会話のルールが、その声に耳を傾ける必要のない人々によって設定されていたりする場合、それは何の助けにもなりません。論文は、普遍的なAIガバナンスという主張は、それらを構築し展開する側の利益に資する神話であると結論づけています。それは、彼らがグローバルな基準に従っていると主張しながら、実際にはその基準が本当に満たされているかどうかを確認できる者が誰もいない空間で活動することを可能にしているのです。人々が、その鏡が何であるかを直視するための概念的なツールを与えられない限り、人工知能の未来を形作る力は、彼らの手の届かない場所に留まり続けるでしょう。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。