Bias in Large Language Models: Origin, Evaluation, and Mitigation

以下は、論文「バイアスを持つ大規模言語モデル：起源、評価、および軽減」の解説を、日常的な比喩を用いた簡単な概念に分解したものです。

全体像：「盲点」を持つ「超読書家」

大規模言語モデル（LLM）を、これまで書かれたほぼすべての本、ウェブサイト、ソーシャルメディアの投稿を読み込んだ「超高度な学生」と想像してください。この学生は非常に賢く、誰よりも優れたエッセイを書き、質問に答え、言語を翻訳できます。

しかし、この学生が人間が書いた「すべて」から学んだため、私たちの「偏見、ステレオタイプ、不公平な習慣」もすべて学んでしまいました。ある特定の集団が数学が苦手だと皆が信じている地域で育った子供が、それが真実でなくてもそのように思い込むのと同じように、この学生もまた、真実でなくてもそのように信じるようになるかもしれません。

この論文は、以下の 3 つの主要な問いを問う巨大なガイドブックです：

1. これらの悪い習慣はどこから来たのか？（起源）
2. どうやってその学生が不正をしているのか見つけるのか？（評価）
3. どうやって彼らを公平に教えるのか？（軽減）

---

第 1 部：悪い習慣の由来（起源）

著者らは、これらの「悪い習慣」（バイアス）を内在的と外在的の 2 種類に分けています。

1. 内在的バイアス：「内部記憶」

これは、学生が学習中に形成された内部的な辞書と世界観と考えてください。

• 学習データ（教科書）： 学生は、「医師」はほぼ常に男性で、「看護師」はほぼ常に女性だと書かれた本を読みました。そのため、内部記憶では「医師」を「男性」と、「看護師」を「女性」と結びつけています。これがデータバイアスです。
• 収集方法（図書館）： 学生が特定の国にある図書館しか訪れなかったと想像してください。すると、その国の祝日だけが世界の祝日だと考えるようになります。これが空間的・時間的バイアスです。
• ツール（ペンと紙）： 学生が単語を分割する方法（トークナイズ）さえも不公平になり得ます。もし学生の「ペン」がマイノリティのグループの氏名を小さく混乱させる断片に分割し、一般的な氏名はそのままに保つなら、マイノリティの氏名を十分に理解できません。これがトークナイズバイアスです。

2. 外在的バイアス：「悪いパフォーマンス」

これは、学生が特定のテストや仕事において、悪い習慣を実行する時です。

• 理解タスク（NLU）： 「誰が医師ですか？」と問い、テキストに「医師が到着した」とある場合、テキストに性別が書かれていなくても、内部記憶にバイアスがあるため、学生は「彼」と推測するかもしれません。
• 生成タスク（NLG）： 学生にリーダーについての物語を書くよう頼むと、指示していなくても、自動的にリーダーを男性、看護師を女性としてしまうかもしれません。
• 結果： 学生は、学習データで見たパターンを単に繰り返すだけで、女性よりも男性に就職を推薦したり、ある文化を侮辱するような形で文を翻訳したりする可能性があります。

---

第 2 部：不正を見抜く方法（評価）

学生がバイアスを持っているかどうかをどうやって知るのでしょうか。この論文は、教師が生徒を評価するように、3 つの異なるレベルでチェックすることを提案しています。

1. データレベルのチェック（教科書の確認）：
   • 学生が学習を始める前、彼らが読んでいる本を確認します。男性に関する本が多すぎて女性に関する本が少なすぎませんか？アメリカに関する本は多くてアフリカに関する本が一つもないですか？私たちは数学を用いて、異なるグループがどの頻度で現れるかを数えます。
2. モデルレベルのチェック（脳の確認）：
   • 学生の脳を刺激して、アイデアをどう結びつけているか確認します。「看護師は男性ですか？」と問うと、学生の脳が「いいえ」と反応する一方で、「医師は男性ですか？」と問うと「はい」と反応するなら、その結びつきに隠れたバイアスがあるとわかります。これには反事実的（名前を「ジョン」から「ジェーン」に変えて、答えが変わるかどうかを見る）などのツールを使用します。
3. 出力レベルのチェック（宿題の採点）：
   • 学生が実際に与えた答えを確認します。特定のグループに対して酷い言葉を使っていますか？異なる人々に異なる助言を与えていますか？また、人間の審査員（実際の人間）に答えを読ませて、「おい、あれは不公平に聞こえる」と言わせることも行います。

---

第 3 部：悪い習慣を直す方法（軽減）

この論文は、介入するタイミングに応じて、学生を「バイアス除去」するための 3 つの方法を提案しています。

1. モデル前バイアス除去（教科書のクリーニング）

• アイデア： 学生が学習を始める前に、図書館を掃除します。
• 方法： 過小評価されているグループに関する本を追加（オーバーサンプリング）したり、非常に憎悪的な本を削除したりします。文を書き換えて性別を入れ替える（例：「The doctor is he」を「The doctor is she」に変更）ことで、学生に両方の選択肢を学ばせることもあります。
• 長所/短所： 安く始めやすいですが、本を掃除するだけではすべてを修正できません。一部の悪い習慣は、すでに学生の脳構造に焼き付いています。

2. モデル内バイアス除去（脳の配線変更）

• アイデア： 学生が学習している間、彼らに異なる方法で学習させるよう強制します。
• 方法： ゲームのルールを変更します。学生が「看護師」と「女性」を結びつけようとすると、「ペナルティスコア」（損失関数）を与えて、その行動を止めるように学習させます。また、これらの悪い結びつきを保持する脳の特定部分を「剪定」（削除）することもあります。
• 長所/短所： 根本原因の修正には非常に効果的ですが、高価で困難です。コンピューターを稼働させたまま配線を変更するようなものです。

3. モデル後バイアス除去（宿題の編集）

• アイデア： 学生に答えを書かせてから、世界に公開する前に編集します。
• 方法： 学生がバイアスを含んだ文を書いた場合、フィルターを使って言葉を変更します。あるいは、「因果的プロンプト」というトリックを使い、学生にステレオタイプを無視するように強制する特定の考え方で問題に取り組ませます。
• 長所/短所： 迅速で、学生を再学習させる必要はありません。ただし、これは傷口に絆創膏を貼るようなもので、症状を和らげるだけで病気を治すわけではありません。

---

第 4 部：なぜこれが重要なのか（倫理と法）

この論文は、これらのバイアスは単に面倒なだけでなく、危険であると警告しています。

• 表現的害： 学生が「イスラム教徒は暴力的だ」や「女性はリーダーになれない」と言うかもしれません。これは人々の感情を傷つけ、社会における否定的なステレオタイプを強化します。
• 配分的害： これは人々が現実世界の機会を失う場合です。バイアスを持った学生が企業の採用を支援する場合、資格のある女性の履歴書を却下する可能性があります。バイアスを持った学生が病院で患者を診断するのを支援する場合、マイノリティグループの疾患を見逃す可能性があります。

この論文は、法律が追いつき始めていると指摘しています。ニューヨーク市や欧州連合（EU）などの場所では、企業が AI ツールを監査し、人種、性別、年齢に基づく差別を行っていないことを確認することが義務付けられ始めています。

結論

この論文は、道案内図です。AI は社会の欠点を映し出す鏡のようなものであると教えてくれます。公平な AI を構築するためには、一つの解決策に頼ることはできません。私たちはデータをクリーニングし、モデルを慎重に訓練し、彼らの仕事を絶えずチェックし、人々に届く前に出力を修正する必要があります。これは一度きりの仕事ではなく、継続的なプロセスです。