Personalization, Personas, and Forecasting in Value Alignment
本研究は、プロンプトのフレーミング、具体的にはモデルに対して、個人化、ロールプレイ、または三人称視点の予測のいずれかを求めるかどうかが、多様な言語および価値観の次元にわたって、モデルの人間集団との文化的価値観の整合性を著しく変化させること、そして三人称の予測が一般的に最も安定し、かつ正確な結果をもたらすことを実証している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、これまでに書かれたほぼすべての本を読んだことのある、超知能なロボットと話していると想像してみてください。あなたはこのロボットが、人間のように一つの決まった信念を持つ、単一で固定されたパーソナリティを持っていると思うかもしれません。しかし、人工知能の世界では、これらのロボットはカメレオンのような存在です。彼らは、どのように質問するかによって、その「声」や「意見」を変えることができるのです。この研究分野は**バリュー・アライメント（価値観の整合性）**と呼ばれており、これは単に、「このロボットの答えは、現実の人間が実際に考えていることと一致しているか？」と問うための専門的な言い回しです。
これを理解するには、これらのロボットと話すための3つの方法を知る必要があります。第一に、**パーソナライゼーション（個別化）**は、ロボットに「ねえ、私はブラジル出身の人なんだけど、あなたはどう思う？」と伝えるようなものです。ロボットは、あなたにとっての役に立つ友人でいようと努めます。第二に、ロールプレイング（役割演技）（またはペルソナ）は、コスチュームを着るようなものです。「ブラジル出身の人になりきって」と言うと、ロボットはその役を演じます。第三に、**フォアキャスティング（予測）**は、探偵になるようなものです。その人を「なりきって」と頼むのではなく、「ブラジル出身の人は何と答えるだろうか？」と尋ねます。
長い間、科学者たちは、これら3つの話し方は基本的に同じものなのかどうかと考えてきました。もし、あなたがロボットに対して「ブラジル人になりなさい」と言っても、「ブラジル人と話して」と言っても、あるいは「ブラジル人が何を考えるかを推測して」と言っても、ロボットは全く同じ答えを出すべきなのでしょうか？
ある研究チームは、このアイデアをテストするために、宗教、仕事、社会についての信念を世界中の何百万人もの人々に尋ねる、世界価値観調査という巨大で現実的な調査を用いました。彼らは、世界で最もスマートな4つのAIロボットに対し、13の異なる言語と国における101の調査質問に答えるよう求めました。彼らは、ユーザーに話しかける、役割を演じる、そして予測するという3つの手法すべてを試し、どの方法が最も現実の人間データと一致するかを調べました。
ここに、彼らが見つけたひねりがあります。**「どのように質問するかによって、答えが変わる」**のです。研究者たちは、これら3つの手法は互換性があるものではないことを発見しました。実際、プロンプト（指示文）の構成は、ロボットがその国の実在する人間のように聞こえるかどうかに極めて大きな要因となります。
最も驚くべき発見は、**フォアキャスティング（予測）**が明確な勝者であったことです。研究者がロボットに対し、「[国X]の人は何と言うでしょうか？」と尋ねたとき、ロボットは、その人として「振る舞う」よう求められたり、その人に「話しかける」よう求められたりしたときよりも、ずっと現実の人間による回答に近い答えを出しました。それはまるで、ロボットは誰かになりきるよりも、優れた観察者として他人が何を考えているかを推測することの方が得意であるかのようです。テストした4つのロボットのうち3つにおいて、この「推測」する方法が、文化的に正確な答えを得るための最も強力な方法でした。
しかし、ロボットがすべてを正しく理解できたわけではありません。研究者たちは、ロボットが宗教がいかに重要か、あるいはジェンダーの役割をどう捉えているかといった、大きく明白な文化的差異を捉えることには長けていることを発見しました。しかし、政府への信頼、民主主義、あるいは制度がいかに機能しているかといった、よりトリッキーで複雑なトピックに関しては、ロボットは苦戦しました。たとえ予測しようとしたとしても、彼らはしばしば的外れな結果となりました。
この研究はまた、ロボットが単にランダムに答えを変化させているのではなく、特定の方向にシフトしていることも示しました。例えば、宗教に関する質問では、ロボットの回答は現実の人間によるデータの方へ強く移動しました。しかし、汚職や政治的信頼に関する質問では、回答はしばしばロボットのデフォルトの「グローバルな」モードに留まったままだったり、あるいは現実の人間が考えていることから逆に離れていったりしました。
では、これは何を意味するのでしょうか？ これは、もしAIに特定の文化を理解させたいのであれば、単に現地の人のように「振る舞って」と伝えるだけでは不十分であることを示唆しています。むしろ、現地の人がどう考えるかを「予測」するように求める方が、より良い結果が得られるかもしれません。それでもなお、ロボットは人類の完璧な鏡ではありません。彼らは、静かで複雑な信号よりも、大きく目立つ文化的なシグナルを捉えることの方が得意なのです。研究者たちは、これらの質問の仕方は単なる表面的な選択肢ではなく、ロボットが何を語り、現実の世界といかに適合するかを根本的に変えてしまうものであると結論付けています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。