Decolonizing AI Ethics in Education: A Systematic Review and Glocalized Framework (FGAIEE)

ある人々が、自分たちの歴史と独自の言語のみを用いて作成した、他者への接し方のルールが適用される世界を想像してみてください。これは、学校における人工知能（AI）の現状です。コンピュータが賢くなるにつれ、テストの採点、レッスンの推奨、さらには大学への入学可否の決定にさえ、AIがますます利用されるようになっています。しかし、これらのシステムを公平に保つための倫理的ガイドラインは、その多くが裕福な西側諸国によって作成されています。これらのガイドラインは、誰もが同じように考え、話し、学ぶことを前提としています。これらのルールがアフリカ、アジア、あるいはラテンアメリカの学生に適用されるとき、それらはしばしば失敗します。それらは学生のアクセントを誤解したり、現地の文化的価値観を無視したり、あるいは単にインターネット接続が遅すぎるために機能しなかったりすることがあります。その結果、公平であることを主張しながらも、実際には特定のグループをさらに疎外してしまうシステムが生み出されているのです。

この不均衡は、研究者の間に新たな問いを投げかけました。「誰が正しいかを決める権利を持つのか？」という問いです。インドネシアの一群の研究者たちは、AI倫理が世界中の教室で実際にどのように運用されているかを分析することで、この問いに答えようと試みました。彼らは単にルールを読んだのではありません。ガイドラインを作成した人々、それが影響を与える学生、そしてそれが使用される場所について論じている84の発表済み研究を精査しました。彼らの目的は、AI倫理を一部の権力を持つ人々だけでなく、すべての人にとって機能するものにする方法を見つけることでした。彼らはこのアプローチを「グローカル（glocal）」、すなわちグローバル（世界的）とローカル（地域的）を融合させたものと呼び、優れたルールとは世界全体を念頭に置きつつ、各コミュニティの特定のニーズに適合するように構築されるべきものであることを示唆しています。

研究者たちはまず、2015年から2025年の間に発表された84の異なる研究を集めました。彼らは、AIが教育においてどのように使用されているか、そしてそれが公正であるかどうかを論じているあらゆる研究を探しました。彼らは数千の記事を精査し、実証的な証拠や、これらのシステムが実際にどのように機能するかについての深い分析を提供しているものだけを選別しました。彼らは、テクノロジーに関する主要な議論からしばれてきた地域、すなわちアフリカ、ラテンアメリカ、およびアジアの一部を含む「グローバル・サウス」からの研究に特に注意を払いました。既存の文献の中にこれらの声を反映させることで、チームは倫理的なAIがどのような姿であるべきかについて、異なる視点を見出したいと考えたのです。

彼らが発見したのは、明確な隔たりでした。ルールやガイドラインの大部分は、ヨーロッパや北米の機関から来ています。これらのルールは、「公正であれ」や「透明であれ」といった、単純な価値観のチェックリストとして書かれることが多いものです。しかし、この研究によれば、こうしたチェックリストが世界の他の地域における学校での実際の動きを左右することはほとんどありません。多くの場合、グローバル・サウスの学校は、意見を求められることもなく、これらの西側のルールを採用するよう指示されます。研究者たちは、AIシステムが英語のデータと西側の概念のみに基づいて構築されている場合、他の言語を話す学生や異なる文化的背景を持つ学生に対して、より多くの間違いを犯すことを発見しました。例えば、自動採点ツールは非ネイティブの英語話者に苦戦することがあり、その生徒の成果物が劣っているからではなく、コンピュータがその話し方を理解できないために低いスコアを与えてしまうのです。

また、この研究は、これらのルールによって守られるべき人々――教師、学生、そして地域のリーダーたち――が、意思決定プロセスに加わることがほとんどないことも明らかにしました。地域コミュニティが関与している数少ないケースにおいても、その関与はしばしば形式的なものに過ぎず、真のパートナーシップではなく、単にチェックボックスを埋めるための手続きに過ぎませんでした。研究者たちは、地域の声が無視されると、テクノロジーは本来解決すべき問題を解決できなくなることが多いと指摘しました。すべての人を助ける代わりに、既存の不平等を深化させ、すでに苦労している人々がついていくことをより困難にしてしまう可能性があるのです。

しかし、物語は失敗で終わりません。研究者たちは、よりうまく機能しているローカルな解決策の広がりも発見しました。例えばガーナでは、学校が「ウブントゥ（Ubuntu）」と呼ばれる概念を用いています。これは、「人が人であるのは、他の人々を通じてである」ということを強調する考え方です。この考え方は、個人のスコアよりも、コミュニティの信頼と責任の共有に焦点を当てたAIシステムの設計に使用されています。東南アジアでは、「ゴトン・ロヨン（gotong royong）」と呼ばれる、共通の利益のために協力するという別の手法が、テクノロジーの使い道について全員が発言権を持てるようにするために用いられています。これらのローカルな手法は、単なる大きなグローバルなルールへの小さな調整ではありません。これらは、何が正しいか、何が間違っているかについての全く異なる考え方なのです。これらは、現地の知識を西洋の科学と同じくらい重要であると考えています。

チームは、現在のやり方は、倫理を「ワンサイズ・フィッツ・オール（画一的）」な製品として扱っているため、壊れていると結論付けました。彼らは、単一のルールを全世界に押し付けようとするのをやめる必要があると主張しています。代わりに、彼らは「教育におけるグローカルAI倫理フレームワーク」と呼ばれる新しい枠組みを提案しています。このアプローチは、倫理的なルールがボトムアップで構築されるべきであることを示唆しています。つまり、異なる国の学校がAIを使用したい場合、自国の文化、言語、ニーズに合わせてルールを形成できるべきだということです。また、これらのツールを販売する企業は、それらを販売する前に、自社のシステムが現地の学生に対して公平に機能することを証明する義務があるべきだとも言っています。

研究者たちは、これを実現するための3つの主要なステップを提案しています。第一に、これらのシステムを導く知識は、単一の場所からではなく、多様な場所から得られなければなりません。第二に、テクノロジーを使用する人々が、その設計や検証において真の声を持たなければなりません。第三に、テクノロジーが公平性に欠ける場合に、ツールを購入しないといった、現実的な結果（ペナルティ）が伴わなければなりません。これは単に「親切」であるということではなく、テクノロジーが実際に機能するようにするためのことです。研究は、設計段階で地域のコミュニティが関与することで、システムへの信頼が高まり、テクノロジーがすべての人にとってより有用になることを示しています。

この新しい考え方は、古いルールをすべて捨てることを意味するのではありません。むしろ、ルールの「作り方」を変えることを意味しています。それは、言語の話し方や授業の教え方に多様性があるように、倫理的なあり方にも多くの形があることを認識することです。研究者たちは、もし私たちがこれらの違いを尊重できるシステムを構築できれば、すべての学生の学習を真に助けるAIを生み出すことができると信じています。彼らは、これが容易なことではなく、一朝一夕に実現することではないとも述べています。しかし、少数の強力なグループが全員のために決定を下すという現在の道は、うまくいっていないという点において、彼らの主張は明確です。教育におけるAIの未来は、実際にそれを使っている人々の声に耳を傾け、彼らの声がツールの設計において聞き届けられることを保証できるかどうかにかかっているのです。