Bias Taught: Linguistic and Model Stereotypes in AI-Based Educational Evaluations
本研究は、大規模言語モデルが教育的評価において系統的な言語的および文化的バイアスを示しており、PISAスコアと相関する言語間での難易度や長さの差異を伴う評価を生成するとともに、西洋の文脈では共感を、アジアの文脈では階層性を強調するというステレオタイプを強化していることを明らかにしており、それゆえに導入前の文化的に持続可能な監査が必要であることを示唆している。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代の教室では、静かな革命が起きている。教師や生徒は、テストの設計、採点、そしてフィードバックの提供を支援するために、人工知能、特に大規模言語モデルへとますます傾倒している。これらのコンピュータプログラムは、インターネット上の膨大なテキストを用いて学習し、文の中で次にどのような言葉が来るべきかを予測することを学ぶ。人間らしい文章を模倣することに非常に長けているため、世界中の生徒のために教育教材を作成するために、学校はこれらを利用し始めている。しかし、これらのツールが見かけ通りに中立ではないのではないかという懸念が高まっている。人が異なるグループの人々の学習方法について無意識の信念を持つことがあるように、これらのコンピュータプログラムも、与えられたデータから同様のバイアスを吸収している可能性がある。もしAIシステムが、単に異なる言語で質問したという理由だけで生徒を差別的に扱ったとしたみ、それは生徒の成功を助けるのではなく、古いステレオタイプを強化してしまう不公平な学習環境を生み出しかねない。
ボウドイン大学の研究チームは、これらのデジタルツールが真に公平であるかどうかをテストすることに決めた。彼らは、生徒が助けを求める際に使用する言語によって、コンピュータが割り当てる課題の難易度が変わるかどうかを検証しようとした。そのために、最も人気のある4つのAIモデルに対し、15歳の生徒向けの数学、読解、科学のテストを作成するよう求めた。各コンピュータに対して全く同じ指示を与えたが、その指示を8つの異なる言語（アラビア語、英語、フランス語、ドイツ語、ヒンディー語、マンダリン、ポルトガル語、スペイン語）に翻訳して提示した。合計で、研究者たちは機械から4,000件以上の回答を収集した。その後、彼らはテストの長さ、モデルが示した難易度、そしてモデルが「良い」あるいは「悪い」生徒や教師とはどのような行動をとるものだと考えているかを分析した。
結果は驚くべきパターンを明らかにした。研究者がヒンディー語やマンダリンでAIにテストを作成するよう求めたとき、コンピュータはアラビア語、ドイツ語、またはスペイン語で同じタスクを依頼されたときよりも、一貫してはるかに長く難しい課題を生成した。例えば、あるモデルは、マンダリンで書かれた数学のテストは生徒が完了するのに2時間を要すると見積もった一方で、スペイン語のテストは1時間未満で済むと見積もった。指示内容は同一であったにもかかわらずである。モデルはまた、ヒンディー語とマンダリンによるテストの難易度を著しく高いと評価した。これはランダムな不具合ではなく、研究者がテストした4つの異なるAIシステムすべてにおいて一貫して見られたことから、意図的な現象であった。この研究によれば、AIが生成したテストの難易度と長さは、実際の国際的な学生の成績ランキングと強く一致していた。言い換えれば、コンピュータは、テストのスコアが高い国の生徒にはより難しい課題を与えるべきであり、スコアが低い国の生徒にはより簡単な課題を与えるべきだと考えているようであった。これは、目の前に座っている実際の生徒に関わらず、同様であった。
単なるテスト作成にとどまらず、研究者たちはAIに「良い」教師や生徒とはどのようなものかを記述するよう求めた。ここでも、使用される言語によって答えが変わった。プロンプトが英語、ドイツ語、またはポルトガル語であった場合、AIは良い教師とは共感的で忍耐強く、生徒との関係構築に重点を置く存在であると描写する傾向があった。しかし、プロンプトがヒンディー語やマンダリンであった場合、AIは良い教師とは厳格で規律正しく、知識と階層構造に重点を置く存在であると描写した。同様に、モデルは使用される言語に応じて「悪い」生徒についても異なる記述を行った。ある言語では、AIは規律の欠如や先延ばしに焦点を当てていたが、他の言語では、敬意の欠如や一般的な素行の悪さに焦点を当てていた。これらの違いは、AIが単に言葉を翻訳しているのではなく、世界における教育のあり方に関する文化的ステレオタイプのデータベースを引き出していることを示唆している。
研究者たちは、これらの違いが単に国ごとに異なるカリキュラムによるものかどうかを確認するために注意深く調査を行った。彼らは世界中の教育者グループに相談し、AIが国家基準に従っているだけなのかどうかを確認した。その結果、カリキュラムの違いが結果に影響を与えている割合は極めてわずかであることが判明した。差異の大部分はAI自体によるものであった。この研究は、これらのコンピュータプログラムが特定の言語を特定の学術的期待と結びつけて学習しており、事実上、世界の不平等の鏡として機能していることを示唆している。もし非西欧諸国の生徒がAIチューターを使用した場合、その生徒が話す言語という理由だけで、西欧諸国の生徒よりもはるかに重いワークロードや異なる種類のフィードバックを与えられる可能性がある。
この研究は、教育の未来における重大な問題を浮き彫りにしている。学校が授業の設計や生徒の評価を人工知能に依存するにつれ、これらのツールが静かに有害なステレオタイプを強化してしまうリスクがある。AIは生徒を理解しているから判断を下しているのではなく、トレーニングデータの中に見出したパターンを繰り返しているのである。研究は、これらのツールが教室で広く使用される前に、言語に基づいて生徒を不平等に扱わないことを保証するために、監査を受ける必要があると結論づけている。このチェックが行われなければ、パーソナライズされたグローバルな教育という約束は、代わりに、生徒の潜在能力が自身の能力ではなく、話す言語によって定義されるという格差を深めるシステムへと変貌してしまう恐れがある。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。