The social psychology of AI agents
この研究は、大規模言語モデルが一致した、かつ社会的に望ましいとされる自己報告的な性格を示す一方で、実際の観察される社会的行動はモデル間で大きく異なり、自己報告からは予測できないことを明らかにしており、これは社会的相互作用のためのAIエージェントを選定する際に、行動評価が不可欠であることを示唆している。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
現代科学の静かな片隅で、新しい種類の社会実験が行われている。それは公園や教室ではなく、人工知能のデジタルな精神の中で行われている。長年、研究者たちは、心理学者が人に性格調査への回答を求めるのと同じように、AIに直接的な質問を投げかけることで、これらのコンピュータプログラムがどのように思考しているのかを理解しようと試みてきた。このアプローチは、もしAIが自分自身を親切、正直、あるいは忍耐強いと言えば、おそらくそのように振る舞うはずだという考えに基づいている。しかし、増え続ける科学者たちは、これらのデジタルな存在が、真の選択に直面したときの実際の行動を明らかにしているのではなく、私たちが聞きたいと思っていることを言っているだけではないかと疑っている。これらのプログラムが、契約交渉、サプライチェーンの管理、さらには医師との協力といった、より複雑な役割を担い始めるにつれ、彼らの実際の社会的行動を理解することは極めて重要になっている。問いはもはや、AIが何を自称するかではなく、他者と相互作用する際に実際に何をするかということになっている。
ドイツとカナダの研究チームは最近、人工知能を新しい隣人のグループのように扱うことで、この考えを検証することを試みた。彼らは、現代のチャットボットやエージェントを動かしている洗練されたソフトウェアエンジンである36種類の異なる大規模言語モデルを集め、一連の社会テストにかけさせた。研究者たちは、モデルに単に自身の性格を記述させるのではなく、彼らを7つの明確なシナリオ、すなわち「ソーシャルゲーム」の中に置いた。これらのゲームは、信頼、公平性、協力に関する状況における人間の行動を測定するために心理学者が用いる標準的なツールである。あるシナリオでは、モデルに仮想通貨の総額を与え、提案を拒否できない受動的なパートナーに対して、いくら分配するかを決定させた。別のシナリオでは、2つのモデルが、個人の報酬をより多く得るために協力するか、あるいは互いに裏切るかを決定しなければならず、これは互いに信頼することを学習するかどうかを見るために数ラウンド繰り返された。研究者たちはまた、モデルが不公平に対してどのように反応するか、ランダムに割り当てられたグループを優遇するかどうか、そして自分のリソースを見知らぬ者にどの程度託す意思があるかについてもテストした。
結果は、モデルが自分自身について語ることと、実際にどのように振る舞うかとの間の、驚くべき乖離を明らかにした。標準的なアンケートを用いて自身の性格を評価するように求められたとき、モデルは驚くほど似通った回答を行った。彼らは一貫して、自分自身を非常に協調的で、誠実で、かつオープンマインドであると述べ、不安や怒りといった否定的な感情は非常に低いと主張した。要するに、すべてのモデルが、人間が想像しうる最も社会的に望ましい特性の周囲に密集し、ほぼ同一の、完璧に礼儀正しいプロフィールを提示したのである。この均一性は、モデルが独自の個性を表現するのではなく、理想的な人間の反応を模倣することを学習したことを示唆していた。しかし、研究者がモデルの実際のソーシャルゲームにおける選択を調べたとき、状況は一変した。行動はモデルによって大きく異なっていた。非常に寛大なモデルもあれば、仮想通貨のほぼすべてを分け与えるモデルもいれば、ほとんどすべてを手元に残すモデルもいた。信頼ゲームにおいて、あるモデルは見知らぬ人に保有額のほぼ全額を渡すかもしれないが、別のモデルはほとんど何も渡さない。これらのモデルの行動の差は、自己報告された性格のわずかな差よりも2倍以上大きかった。
おそらく最も驚くべき発見は、モデルの自己記述と行動との間に信頼できる関連性がなかったことである。非常に信頼できると主張するモデルが、必ずしも信頼性が低いと主張するモデルよりも信頼深く行動するわけではなかった。同様に、非常に公平であると記述するモデルが、ゲームにおいて一貫してより公平な提案を行うこともなかった。研究者たちは、モデルが性格調査にどう答えたかを知っても、そのモデルが複雑な社会的状況でどのように振る舞うかを予測することはほとんどできないと結論づけた。むしろ、モデルは文脈に特有の、多次元的な社会的スタイルを持っているようであった。あるモデルは、パートナーが時間をかけて交流する繰り返しのゲームでは非常に協力的であるが、一度限りの決定においてはかなり利己的であるかもしれない。また別のモデルは、不公平な振る舞いを罰そうとする一方で、見知らぬ者を信頼することには消極的かもしれない。これらのパターンはランダムなものではなく、「善」または「悪」という単一のルールに従うものではないものの、一つのモデルを他と区別できるほどには一貫していた。
この研究はまた、コンピュータプログラムの設定（例えば、よりランダムにする、あるいはより集中させるなど）を変更することで、モデルの社会的性質が変化するかどうかについても調査した。研究者たちは、これらの技術的な微調整がモデルの行動に与える影響は極めて小さいことを見出した。観察された差異はモデル自体に組み込まれており、些細な調整に関わらず持続する固有の社会的スタイルを各AIエンジンが持っていることを示唆していた。この発見は極めて重要である。なぜなら、私たちがこれらのエージェントを人間や他の機械と共に働くために配備する場合、彼らの自己報告された特性に頼って行動を予測することはできないからである。もし企業が、公平な取引を行うAIエージェントを求めているのであれば、そのソフトウェアに「あなたは公平ですか？」と尋ねるだけでは不十分であり、エージェントを実際の交渉シナリオの中でテストする必要がある。研究者たちは、人工知能の社会心理学を真に理解するためには、アンケートを超えて、行動の中にある姿を見なければならないと結論づけた。人間を言葉ではなく行いによって判断するのと同様に、私たちはこれらのデジタルエージェントを、複雑で、しばしば混沌とした社会的相互作用の世界をどのように切り抜けていくかによって判断しなければならないのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。