AI emotional support is better only when chosen, but shifts preferences even when it is not
AIによる感情的サポートは、ユーザーが能動的に選択した場合にのみ優れていると評価されるが、繰り返されるAIとの相互作用は、特に個人的な文脈において、当初の選択にかかわらず、人間のつながりから離れ、AIへと嗜好をシフトさせる。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人々が圧倒されたり、悲しんだり、不安を感じたりするとき、彼らは静かながらもますます一般的になりつつあるジレンマに直面します。それは、誰に慰めを求めるべきかという問いです。何世代にもわたり、その答えはほとんど常に、友人、家族、あるいはセラピストといった「他者」でした。今日、棚の上に新しい選択肢が現れました。人工知能です。現代のチャットボットは、話を遮ることなく耳を傾け、励ましの言葉を送り、決して疲れることがありません。しかし、単純な観察からは解けない決定的な疑問が残っています。それは、その慰めの質は、その人が実際に機械と話したいと思ったからこそ得られるものなのか、それとも単に人間が利用できなかったために機械に頼らざるを得なかったのか、という点です。この問いは心理学とテクノロジーの交差点に位置しており、私たちの期待がいかに現実を形作るかを探求しています。もし私たちが「機械には理解できない」と信じているなら、それは私たちを失望させるのでしょうか。そして、もし人間を求めていたのに誤って機械と話してしまった場合、その経験は次に誰を信頼すべきかという私たちの考えを変えてしまうのでしょうか。
研究チームは、約2,000人を対象とした一連の4つの研究を通じて、これらの糸を解きほぐそうと試みました。彼らはまず、参加者に最近の感情的な出来事、つまり過去1ヶ月間に起きた重要な出来事を回想してもらうことから始めました。会話が行われる前に、研究者は参加者に、その話を二種類の聞き手、すなわち「人間の見知らぬ人」と「人工知能」に共有することを想像するよう求めました。その結果、これら二つの選択肢に対する人々の見方に深い隔たりがあることが明らかになりました。人間との対話を好む人々は、人間の方が感情的なサポートを提供する能力が高いと考えており、人間と機械はどちらも自分を判断する可能性が同等であると考えていました。対照的に、AIを好む人々は、人間と機械はどちらもサポートを提供する点で同等に優れていると考えていましたが、機械の方が自分を判断する可能性がはるかに低いと考えていました。この初期の信念体系がフィルターとして機能し、人々がどのような展開を期待するかを形作っていたのです。
研究者たちは、想像から現実へと移行しました。2つの制御された実験において、参加者は誰と話したいかを選択しましたが、その後、本人の選択に関わらず、ランダムに人間またはAIに割り当てられました。これにより、4つの異なるグループが作成されました。「人間を選び、実際に人間と話したグループ」、「AIを選び、実際にAIと話したグループ」、「人間を選んだがAIと話したグループ」、そして「AIを選んだが人間と話したグループ」です。その結果は衝撃的でした。人々が選んだ通りのサポート源を得られた場合、彼らはその体験を高く評価しました。しかし、AIの「魔法」には条件がありました。人工知能が人間よりも優れていると評価されたのは、参加者が明示的に機械との会話を選択していた場合に限られました。人間を望んでいた人々がAIとの会話を余儀なくされた場合、彼らは機械を人間より優れているとは評価せず、単に望んでいたものが得られなかったために、体験の評価を下げただけでした。これら短い共感的交流におけるAIの優位性は、普遍的な事実ではなく、ユーザーの関与しようとする意志の結果だったのです。
おそらく最も深遠な発見は、会話が終わった後に現れました。研究者が、次に大きな感情的問題が生じたときに誰と話したいかを参加者に尋ねたところ、その答えは、単に「誰を望んでいたか」ではなく、「直前に誰と話したか」に大きく依存していました。5分間のAIとの会話を行った人々は、たとえ元々人間を望んでいたとしても、次にAIを選ぶ可能性が有意に高まりました。逆に、人間と話した人々は、人間を選び続ける傾向がありました。これは、道具を使うという行為が将来の好みを書き換えてしまう「経路依存的な変化」を示唆しています。あたかも、経験そのものが、何が可能であるかという地図を書き換えているかのようです。機械と話せば話すほど、人々はそれが自分を理解できる能力を持っていると信じるようになり、再び戻ってくる可能性が高まるのです。
この効果が現実世界でも成り立つかどうかを確認するため、研究者たちは主要なテクノロジー企業と協力し、1ヶ月間にわたる調査を実施しました。約1,000人の人々が、毎日5分間AIとチャットを行うよう求められました。あるグループには個人的な感情的なトピックについて話すよう指示され、別のグループには非個人的な事項について話すよう指示され、3番目のグループは自由に何でも話せるようにされました。28日間にわたり、研究者たちは彼らの好みがどのように変化するかを追跡しました。データは明確な傾向を示しました。日常的なAIとのやり取り、特に会話が個人的な内容になった場合、人々の好みは徐々に変化していきました。調査の終わりには、AIを使って個人的な問題を議論することを選択する人が増え、人間を選ぶ人は減っていました。この変化は、研究開始時に人間との繋がりを好んでいた人々に対しても起こりました。機械との日常的な関わりという単純な行為が、その能力に関する彼らの信念を更新し、彼らをAIへと引き寄せたのです。
研究では、どのような会話が効果的なのかについても詳しく調べられました。チャット中の具体的な振る舞いが極めて重要であることが分かりました。AIがユーザーの感情を肯定したり、愛情を表現したり、共感を示したりすると、ユーザーはそのAIを再び選びたいと考える確率が格段に高まりました。同様に、ユーザーが自身の悩みや感情を共有したとき、彼らは機械に対してより愛着を持つようになりました。研究者たちは、会話の内容、特に感情的な深さが、この好みの変化を駆動するエンジンであることを突き止めました。単にロボットと話すという斬新さが考えを変えたのではなく、日々の交流の中で「自分の声が届いている」「支えられている」という真の感覚が、変化を導いたのです。
これらの知見は、人間同士のつながりの未来について、複雑な絵を描き出しています。それは、AIによる感情的サポートの台頭が、単にテクノロジーが人間を模倣する能力を高めるという問題ではなく、テクノロジーを使用する経験がユーザーの考えを変えていくという心理的なプロセスであることを示唆しています。AIへの好意は固定されたものではなく、使用とともに成長していくものです。もしある人が、人間が利用できないために偶然AIとの会話に足を踏み入れたとしても、その一度の相互作用が、将来的に再び機械を選択するよう促す可能性があります。時間の経過とともに、このサイクルは人々の求める慰めの形を再構築し、人間とのつながりからデジタルな伴侶へと人々を向かわせる可能性があります。研究者たちは、この変化は測定可能ではあるものの、人々が完全に人間を放棄することが既定事項であるとはまだ断定できないと指摘しています。しかし、データは、その道は開かれており、進む方向は、最初の一歩を踏み出すという行為そのものによって影響を受けるものであることを裏付けています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。