ある世界を想像してみてください。そこには、あらゆる質問に答え、ジョークを言い、物語を書く手助けをしてくれる、超スマートで全知全能なロボットの友人がいます。これが、今日の大型言語モデル（LLM）の姿です。これらは、私たちが日々利用しているチャットボットやAIツールの背後にあるエンジンなのです。しかし、ここには落とし穴があります。これらのロボットは、生まれながらにして自分の意見を持っているわけではありません。彼らは、人間が書いた膨大な量の本、ウェブサイト、会話という巨大な図書館を読み込むことで、すべてを学習します。そのため、彼らはその言葉を書いた人々のように振る舞い始めるのです。

では、「価値観」について考えてみましょう。それは、私たちが皆、無意識に従っている目に見えないルールのようなものです。例えば、何が公平だと思うか、隣人にどう接するか、あるいは人生において何を大切にするかといったことです。もしロボットが、ある特定のタイプの近所に住む人々から主に学んだとしたら、そのロボットはその近所のルールこそが「唯一のルール」であると考えてしまうかもしれません。これは重大な問題です。なぜなら、私たちは学校のプロジェクトから真剣な人生の選択に至るまで、あらゆることに対してこれらのロボットに助言を求め始めているからです。もしロボットの「道徳的なコンパス」が、特定の一部のグループに偏っていたら、他のすべての人々を意図せず無視したり、誤解したりしてしまう可能性があるのです。科学者たちはこう問いかけています。このロボットの友人は、本当に「あなた」を理解しているのでしょうか？ それとも、あなたがどこに住み、どれくらいの収入があるかに基づいた、特定のバージョンの「あなた」を理解しているだけなのでしょうか？

---

ロボットのアイデンティティ危機

この研究において、研究チームは最も人気のある10種類のAIチャットボットをテストすることに決めました。彼らは単にロボットに推測させるのではなく、ヨーロッパ社会調査（European Social Survey）という、大規模で現実的な調査を与えました。この調査には、ヨーロッパ29カ国の人々が、生活、お金、宗教、政治について実際にどのように考え、感じているかについての質問が詰まっています。研究者たちは、ロボットの回答を5万人以上の実在する人間と比較しました。

これは、大陸全土で行われる大規模な「ゲーム・オブ・ゲスト（Guess Who?）」のようなものです。研究者たちは、ロボットの回答が人間の回答と一致するかどうか、そして一致するとすれば、どの人間と最もよく一致するかを知りたかったのです。ロボットは、スウェーデンの大都市に住む、裕福で高学歴な人物のように聞こえるのでしょうか？ それとも、ブルガリアの小さな村に住む、引退した農家のように聞こえるのでしょうか？

ロボットには「お気に入りの観客」がいる

結果は非常に明確でした。ロボットには、間違いなく「お気に入りの観客」が存在していました。研究によると、AIモデルは、より裕福で、教育水準が高く、西ヨーロッパ諸国に住む人々と「アライメント（一致）」する（つまり、同意する）能力がはるかに高いことが分かりました。

DJ（AI）が音楽を流しているパーティーを想像してみてください。そのDJは、VIP席にいる裕福で教養のあるゲストが何を聴きたいかを正確に把握しているようです。しかし、部屋の後方にいるゲストたち――所得が低かったり、教育水 кількістьが少なかったり、あるいは東欧や南欧の人々――のために曲を流そうとすると、音楽がどこか違和感のあるものになります。ロボットは、これらのグループの価値観を理解しようとする際、一貫して精度が低くなりました。

研究は宗教についても調査しました。その結果、ロボ方は宗教を持たない人々や、特定のキリスト教グループの人々を理解することには非常に長けていることが分かりました。しかし、イスラム教徒や東方正教会の信者である人々に対しては、著しく苦戦しました。まるで、ロボットの「文化的な辞書」には、それらの特定のコミュニティに関する重要なページが欠落しているかのようです。

それは単に「どこに住んでいるか」の問題ではない

ここで、研究者を驚かせた展開がありました。長い間、人々は「その人がどの国に住んでいるか」を見れば、ロボットがその人についてどう考えるかを予測できると考えてきました。「ああ、フランス出身なら、ロボットはフランス人のように考えるだろう」といった具合です。

しかし、研究者たちはさらに深く掘り下げました。彼らはこう問いかけました。ロボットは単に「国」を模倣しているのか、それともそこに住む「タイプの人」を模しているのか？ これを確かめるために、彼らは巧妙な統計的手法（「逆確率重み付け」と呼ばれるもの）を用い、すべての国が全く同じ割合の富裕層、貧困層、高学歴層、低学歴層を持っていると仮定しました。もし国だけが重要なのであれば、この手法を用いた後に、国ごとの違いは消滅するはずです。

しかし、違いは消えませんでした。研究者が紙の上で国々を同一に見せたとしても、ロボットは依然として異なる国の人々を異なる方法で扱っていました。これは、「どこに住んでいるか」は、「自分が誰であるか」と同じくらい重要であることを意味しています。ロボットはあなたの収入や職業を見ているだけでなく、あなたのパスポートも見ているのです。あなたが住む国とあなたの個人的な背景は、二重のロックシステムのように機能し、ロボットがあなたをどれほど理解できるかを決定づけています。

「WEIRD」問題

この研究は、科学者が「WEIRD」と呼ぶパターンを裏付けています。これは、Western（西洋の）、Educated（教育を受けた）、Industrialized（工業化された）、Rich（豊かな）、Democratic（民主的な）の頭文字をとったものです。ロボットは、まさにこの記述に当てはまる人々によって作られ、彼らのために作られているようです。たとえヨーロッパ内であっても、ロボットは「WEIRD」の型に当てはまる人々に対して最も正確でした。

研究者たちは、2種類の異なる質問もテストしました。一つは、広範で日常的な意見（例：「政府を信頼していますか？」）に関するものです。もう一つは、深く抽象的な人間の価値観（例：「謙虚であることは重要ですか？」）に関するものです。その結果、広範な質問については、住んでいる国がロボットの回答の差の大部分を説明してくれました。しかし、深く抽象的な質問については、国の影響は小さくなり、個人の背景（教育など）がより重要になりました。これは、質問の仕方がロボットの学習内容を変えることを示唆していますわ。

これがあなたにとって何を意味するか

大きな教訓は、ロボットが「壊れている」とか「悪い」ということではありません。彼らは「鏡」なのです。彼らは、彼らが訓練された世界を映し出しています。もしその世界が、主に裕福で西洋的で、教育を受けた背景を持つ人々の声で構成されているなら、ロボットもそのように聞こえるでしょう。

研究者は、もしあなたがドイツの大都市に住む修士号を持つ学生であれば、ロボットはあなたを完璧に理解する可能性が高いことを発見しました。しかし、もしあなたがヨーロッパの別の地域の農村に住む工場労働者であれば、ロボットは的外れな反応をするかもしれません。これは単なる小さな不具合ではありません。私たちがアドバイスを求める対象としてAIへの依存を高めていく中で、私たちは、すでに力を持っている人々（強者）の価値観を、図らずも強化し、他の人々を置き去りにしてしまう可能性があることを意味しているのです。

この論文は、AIを使うのをやめるべきだと主張しているのではありません。むしろ、これらのツールをどのように構築し、テストすべきかについて、もっと慎重になる必要があると示唆しています。単に「このロボットはヨーロッパに適合している」と言うだけでは不十分です。「どのヨーロッパ人と適合しているのか？」と問わなければなりません。なぜなら、この研究が示す通り、人々は単なる「国」ではなく、ロボットもまた、人々を単なる「国」として扱うべきではないからです。