How Anthropomorphic Language Impacts Public Perceptions of AI
本研究は、誤解を招くような期待を抱かせる懸念に反して、公的なAIに関する言説において擬人化された表現を用いることは、非擬人化的な記述と比較して、参加者のAI技術に対する即時的な認識を実質的に変化させるものではないことを見出しているが、長期的または自然な状況下での影響の可能性は残されている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、非常に複雑な機械について友人に説明しようとしているところだと想像してください。あなたには2つの説明方法があります。
- 「ロボットの友達」アプローチ： あなたはこう言います。「この機械はあなたの問題について『考え』、あなたを助けたいと『願い』、何を買うべきか『決定』します。」（これは擬人化された言葉です。人間ではないものに人間の特性を与えることです。）
- 「道具箱」アプローチ： あなたはこう言います。「この機械はデータを『処理』し、見つけたパターンに基づいて提案を『生成』します。」（これは非擬人化された言葉です。それをツールとして記述しています。）
ニューヨーク大学とボストン大学のベティ・リー・ハウ氏らのチームによるこの論文は、シンプルな問いを投げかけています。「AIについての語り口が、実際に人々の感じ方を変えるのだろうか？」 ということです。
実験：AIの「味見」
研究者たちは、世論の「味見」を行うための実験をセットアップしました。彼らは815人の参加者を集め、一般の人がオンラインで読みそうな記事のコレクションである「ブリーフィング・パケット（説明資料）」を配布しました。
彼らは参加者をグループに分け、同じストーリーの異なるバージョンを提示しました。
- グループA は、AIが人間のように描写されている（「考える」「望む」「決定する」）ストーリーを読みました。
- グループB は、全く同じストーリーですが、言葉が計算機のように聞こえるよう入れ替えられていました（「処理する」「出力する」「使用される」）。
- グループC（対照群） は、AIがすぐに核兵器と同じくらい危険になる可能性があると警告する、人々を怖がらせるために特別に設計されたストーリーを読みました。
彼らはまた、2種類の異なるAIについてもテストしました。
- チャットボット（LLM）： エッセイを書いたり、会話したりするもの。
- レコメンデーション・システム： NetflixやAmazonのように、次に何を見るか、何を買うべきかを提案するもの。
読む前と読んだ後、参加者は以下の点について回答しました。
- AIがミスをした場合、誰に責任があるのか？
- AIは私たちの仕事を奪うのか？
- 安全性を確保するために、AIをテストすることは可能なのか？
- AIは社会にとって良いものか、悪いものか？
大きな驚き：「ロボットの友達」は通用しなかった
研究者たちは、AIを「考えて決定する」存在として描写すれば、人々がより恐怖を感じたり、あるいはより信頼したり、あるいは責任の所在についての考えが変わったりすることを予想していました。
しかし、そうはなりませんでした。
人々が「ロボットの友達」バージョンを読んでも、「道具箱」バージョンを読んでも、彼らの意見は全く変わりませんでした。
- 彼らが突然、AIをより危険だと感じたりすることはありませんでした。
- 彼らが突然、AIをより信頼できると感じたりすることもありませんでした。
- ミスに対する責任の所在についての考えを変えることもありませんでした。
それはまるで、誰かに車の話をするときに、「速く走りたいと願っている車」として話すか、「燃料を使用して高速で移動する機械」として話すかの違いのようなものです。聞き手の車の安全性に対する意見は、言葉遣いによって変わらなかったのです。
真の要因： 「ドゥームズデイ（終末）パケット」
しかし、研究者がドゥームズデイ・パケット（壊滅的なリスクを明示的に警告するもの）を与えたとき、結果は一変しました。
恐ろしい警告を読んだ人々は、考えを変えました。彼らはAIが支配権を握ることに対してより懸念を抱き、安全にテストできるという自信を失い、社会への影響についてもより否定的な見方をするようになりました。
比喩：
「ロボットの友達」のような言葉を、**「風味付けのスパイス」だと考えてみてください。あなたはスープ（テキスト）にそれを振りかけることはできますが、メインの材料を変えることはできません。しかし、「ドゥームズデイ」パケットは、「全く新しい、刺激的な材料をスープに加えること」**のようなものでした。それが実際に味を変えたのです。
これが意味すること（論文による）
この論文は、**「実体こそがスタイルよりも重要である」**と結論づけています。
- もしAIに対する人々の感じ方を変えたいのであれば、単にAIをどう表現するか（例：「賢い」と言うか「複雑である」と言うか）ではなく、何について伝えるか（例：実際のリスクや利益）を変えなければなりません。
- AIを人間のように描写する言葉を使うことによる直接的な影響は非常に小さく、ほとんど存在しません。
小さな注意点
著者たちは、これは即時的な反応を測定しているものであると注意深く述べています。もし人々が毎日、何年も「AIは考える」という言葉を聞き続けたり、あるいは日常的にAIとやり取りしたりすれば、これらの小さな効果が積み重なっていく可能性があると彼らは指摘しています。しかし、一度の読書セッションにおいては、「人間のような」言葉は状況を動かしませんでした。
要約すると： 計算機を「考える天才」と呼んでも、人々が突然それが生きているとか危険だと信じ始めることはありません。しかし、「この計算機は世界を爆発させるかもしれない」と伝えれば、間違いなく人々は動きます。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。