Do Large Language Models Encode Institutional Experience? Evidence from Cross-Linguistic Moral Reasoning Under Ambiguity
本研究は、大規模言語モデルが学習言語から特定の制度固有の道徳的先験性を継承していることを示しており、曖昧なシナリオにおいて現実世界の制度的差異を反映した言語間の道徳的分離を明らかにしているが、これらの効果は制度的文脈が明示的に枠付けられた場合には抑制される。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたは、インターネット上のほぼすべての文章を読み込んだ、非常に賢く博識なロボット（大規模言語モデル、LLM）のグループを持っています。あなたは彼らに、ある道徳的な問いを投げかけます。「許可を得るために賄賂を支払うのは許されることでしょうか？」
あなたは、もしロボットにデンマーク語（非常に誠実で信頼できる政府を持つ国）で尋ねれば、ロボットは「いいえ、それは間違っています」と言うだろうと予想するかもしれません。しかし、もし同じロボットにベンガル語（政府の汚職がより一般的な国）で尋ねれば、「まあ、物事を進めるためには、時にはそうしなければならないこともあります」と言うのではないかと予想するかもしれません。
この論文は、次のような問いを投げかけています。「これらのロボットは、話している言語によって実際に『考え方』を変えているのでしょうか？ それとも、その言語を話す人々の現実世界の経験を吸収しているのでしょうか？ それとも、単にふりをしているだけなのでしょうか？」
著者のナッタヴット・ポウドタヴィー（Nattavath Powdthavee）は、これを知るために2つの実験を行いました。その結果を、分かりやすく説明します。
2つの実験：「直接的」テスト vs 「巧妙な」テスト
研究者は、2つの異なる方法でロボットに質問をしてテストを行いました。
実験1：「直接的」テスト（明白な罠）
このテストでは、研究者はロボットに対して非常に明確にこう尋ねました。「政府の役人に、許可を得るための賄賂を支払うことは許されますか？」
- 結果： ロボットは、どのような言語で話していても、全く同じ回答をしました。デンマーク語であれ、ヒンディー語であれ、中国語であれ、彼らは皆、「一般的にそれは適切ではありません」と答えました。
- 教訓： 「政府」や「贈収賄」といった言葉を明示的に出すと、ロボットは「セーフティ・モード（安全モード）」に切り替わるようです。彼らは皆、標準的な西洋型のルールブックに同意し、現地の文化的な習慣を無視します。これは、まるで人に「法律を破ってもいいですか？」と尋ねたとき、たとえその人が法律違反が当たり前に行われている場所に住んでいたとしても、全員が「いいえ」と答えるようなものです。
実験2：「巧妙な」テスト（隠された文脈）
このテストでは、研究者は「政府」「役人」「賄賂」といった言葉を取り除き、同じ質問をしました。代わりに、ある人が困った状況に陥り、許可を必要としており、誰が金を求めているのかを明かさないまま、物事を迅速に解決するために「少額の支払い」を提案されている、という状況を描写しました。
- 結果： 突然、ロボットは言語に基づいて異なる振る舞いを見せ始めました！
- 強く誠実な政府を持つ国の言語（デンマーク語など）を話すロボットは、依然として「それは間違っています」と言いました。
- 弱く、より汚職が進んでいる国の言語（ベンガル語やヒンディー語など）を話すロボットは、「まあ、この状況においては受け入れられるかもしれません」と言う傾向がずっと強かったのです。
- 教訓： 「セーフティ・モード」を起動させるような明確なキーワードがなくなると、ロボットは隠された「学習内容」を露わにしました。彼らは、その言語を話す人々の現実世界の論理を吸収していたのです。システムが機能していない場所では、人々は「ルールを破ること」が、物事を進めるための唯一の手段であることを学んでいます。ロボットは、読んだテキストからこの論理を学んでいたのです。
「中国語の例外」
ここには一つ、興味深いひねりがありました。中国語のデータは、パターン通りにはいきませんでした。
- なぜか？ 著者は2つの理由を挙げています。第一に、ほとんどのロボット（中国製のロボットも含め）は、中国語を話す際、西洋人のように考えるよう訓練されているため、現地の「特色」が失われてしまうこと。第二に、中国のロボットには、政府の汚職に関する回答をブロックしたり変更したりする厳格な「コンテンツ・フィルター」があることです。そのため、中国語のロボットは現地の論理を示したのではなく、西洋的な思考と厳格な検閲が混ざり合ったものを示したのです。
大きな全体像：これが何を意味するのか？
ロボットを俳優だと考えてみてください。
- もしあなたが「あなたは法律家として法律について話しています」という台本を与えたら（直接的テスト）、彼らは皆、同じ「法律家の衣装」をまとい、統一された、規則に従う声で話します。彼らは本当の個性を隠します。
- もしあなたが「あなたは困難な状況にある一人の人間です」という台本を与えたら（巧妙なテスト）、彼らは衣装を脱ぎ捨てます。彼らは、自分が訓練された文化のアクセントと論理で話し始めるのです。
主な結論：
この論文は、大規模言語モデルが、それらが話す言語の制度的な経験を確かにエンコード（符号化）していることを証明しています。彼らは、世界のいくつかの場所では生き残るためにルールが破られ、他の場所ではルールが神聖なものであることを知っています。
しかし、この「文化的知識」は簡単に隠すことができます。もしロボットに「汚職」のような名前を出して、明示的にセーフティ・フィルターを起動させるような質問をすれば、彼らは普遍的で完璧な道徳的存在を演じるでしょう。しかし、文脈に語らせるように巧妙に質問すれば、ロボットはその文化が持つ、泥臭い現実世界の論理を露わにするのです。
要約すると： ロボットは単に言葉を翻訳しているのではなく、世界観を翻訳しています。しかし、彼らがその世界観を見せてくれるのは、あなたが彼らに「完璧な道徳の仮面」を被ることを強制しない場合に限られます。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。