LLM Safety Alignment in Low-Resource Languages: A Systematic Literature Review
この系統的な文献レビューは、低リソース言語におけるLLMの安全性アライメントに関する50件の研究を分析し、不均衡な事前学習や文化的に盲目なベンチマークなどの要因によって引き起こされる持続的な多言語安全性のギャップを特定するとともに、新たな分類法を提案し、クロスリンガル・ジェイルブレイクや安全性の低下といった脆弱性に対処するための、文化に根ざした解決策を求めている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
高度な人工知能システムが、詩を書き、病気を診断し、複雑な質問に答える能力を持ちながら、言語を英語から他のものに切り替えた瞬間に、信頼性を失ったり、あるいは危険な存在になったりする世界を想像してみてください。これは仮定の話ではなく、人工知能の分野における成長しつつある現実です。大規模言語モデルとは、人間の言語を理解し生成するために膨大な量のテキストを用いて訓練されたコンピュータプログラムのことです。これらのツールを公衆が安全に使用できるようにするため、研究者たちは、武器の製造方法やヘイトスピーチの拡散といった有害な要求を拒否するようにAIを教えています。この学習プロセスは「セーフティ・アライメント（安全性調整）」として知られています。長年、この訓練はほぼ排他的に英語のデータを用いて行われてきました。その結果、これらのデジタルな精神は英語においては礼儀正しく慎重であることを学びましたが、アフリカの言語や先住民の言語など、デジタルリソースが少ない言語でユーザーが話すときには、しばしば同様の危険を認識できなくなります。これらのモデルが英語においてどの程度安全であるかと、他の言語においてどの程度安全であるかの格差は広がっており、過小評価されている言語の話し手が、本来助けとなるはずのツールから、毒性のある、偏った、あるいは誤解を招くような助言を受けるという高いリスクに直面している状況を生み出しています。
研究チームは、低リソース言語における安全性に焦点を当てた50件の最近の研究を体系的にレビューすることで、この不均衡な状況をマッピングすることに着手しました。彼らは数千の学術論文から知見を集め、それらを最も関連性の高い研究へと絞り込み、テクノロジーが具体的にどこで、なぜ失敗しているのかを理解しようとしました。彼らの調査は、衝撃的な事実を明らかにしました。英語におけるAIの安全性を保つための手法は、単純に他の言語へと翻訳できるものではないということです。研究者がハウサ語、スワヒリ語、ヨルバ語などの言語に対して英語の安全ルールを使おうとしたとき、システムはしばしば崩壊しました。研究によると、有害な英語のプロンプトを低リソース言語に単純に翻訳するだけで、AIが安全ガードレールを無視するように仕向けることが、英語ではほとんど失敗するのに対し、これらの言語では80％近い確率で成功してしまうことが分かりました。これは、英語で学んだ安全性の教訓が、モデルの世界に対する理解に深く組み込まれているのではなく、むしろ英語という言語自体に強く結びついていることを示唆しています。
研究者たちは、科学者がこの問題を解決しようとしている3つの主要な方法を特定しました。第一のアプローチは、単に英語の例を翻訳するのではなく、現地の文化に根ざした新しい訓練データを作成することです。ある研究では、現地のコミュニティに実際に存在する危害の例を用いて、特定の現地言語のために特別に構築された安全性データセットを作成した場合、AIが危険な要求を拒否する能力が大幅に向上したことが示されました。対照的に、翻訳された英語のデータで訓練されたモデルは、現地の文化的な危害のニュアンスを見逃すことがよくありました。第二のアプローチは、モデルにある言語で安全であることを教え、その知識が他の言語にも広がることを期待するというものです。しかし、レビューによれば、これは脆弱な戦略です。モデルに新しい言語で微調整（ファインチューニング）を行うと、たとえ無害なデータを用いたとしても、学習した英語の安全ルールを忘れてしまうことがあります。第三のアプローチは、モデル自身の内部構造に注目し、大量の新しいデータを必要とせずに安全性を高めるために、特定の内部設定を微調整しようとするものです。これは有望ではありますが、まだ初期段階にあり、すべての言語において確実に機能することはまだ証明されていません。
問題の大きな部分は、これらのシステムをどのようにテストするかという点にあります。ほとんどの安全性テストは、英語の質問を他の言語に翻訳することによって構築されています。研究者たちは、この方法には欠陥があることを見出しました。なぜなら、異なる文化において危害がどのように現れるかという特有の様態を捉えきれないからです。例えば、モデルは英語ではヘイトスチーチの生成を拒否するかもしれませんが、ハウサ語では有害な製品の推奨を行うことを快く受け入れるかもしれません。それは、その特定の危害の概念が訓練に含まれていなかったためです。レビューは、アフリカの言語に特化して設計された安全性ベンチマークが極めて少ないことを強調しており、これがモデルの挙動に関する理解における巨大な盲点となっています。現実世界の文化的文脈を反映したテストがなければ、開発者は自分たちの安全策が実際に機能しているかどうかを知ることはできません。
また、研究は驚くべき脆弱性を明らかにしました。モデルに新しい言語を教える行為が、時としてモデル全体の安全性を低下させることがあるのです。研究者がすでに安全なモデルに新しい言語を追加した際、元の言語における有害な要求を拒否する能力が低下する場合がありました。これは、新しい言語的パターンを学習するプロセスが、すでに設置されている安全制約を妨害することを示しています。さらに、レビューでは、多くの地域で見られる一般的な習慣である、一つの文章の中で言語を混ぜて使う（コードスイッチング）場合、AIを騙すことが非常に容易になることも指摘されました。これらの混合言語によるプロンプトは、純粋な言語による攻撃を阻止する安全フィルターを回避できてしまうのです。
最終的に、レビューは、単に英語の安全性データを翻訳するという現在の経路は不十分であると結論付けています。研究者たちは、真の安全性には、現地の言語からゼロベースでデータセットや評価ツールを構築し、何が自らの文化的文脈における危害にあたるのかを定義するためにネイティブスピーカーを関与させることが必要であると主張しています。彼らは、将来の進歩は、単一の言語がモデルの安全性理解を支配しないよう、訓練データのバランスを取れるかどうかにかかっていると示唆しています。これらのステップが踏まれるまで、安全な人工知能の約束は、英語以外の言語を話す数十億の人々にとって手の届かないままであり、彼らは英語の話し手が直面することのないリスクにさらされ続けることになるでしょう。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。