Feeling Included by AI: Belonging and Authenticity in Human-AI Interaction

急速に拡大する人工知能の世界において、研究の大部分はアクセスのメカニズム、すなわち、誰がオンラインになれるのか、誰がハードウェアを所有しているのか、そしてソフトウェアが手頃な価格であるかどうかという点に焦点を当ててきました。これはデジタル・インクルージョン（デジタルの包摂）の基礎であり、ツールを持たないという理由だけで人々が取り残されないようにするための概念です。しかし、機械がより会話的になり、人間の社会的合図を模倣できるようになるにつれ、異なる種類の問いが浮かび上がってきました。もはや、人がログインできるかどうかを問うだけでは不十分であり、その人がそこにいる間にどのように感じているかを問わなければならないのです。音声アシスタントがクエリに応答したり、チャットボットが助言を提供したりするとき、ユーザーは自分が聞き入れられ、尊重され、自分らしくいられると感じているでしょうか。この変化は、対話を構造的なものから心理的なものへと移行させ、テクノロジーが人間に「所属している」と感じさせるのか、それとも単に冷徹で効率的な道具として機能しているのかを探求しています。

ある研究チームが、人間とAIの相互作用におけるこの「感じられる包摂」を調査するために、二つの特定の感情状態、すなわち「所属感」と「真正性」に焦点を当てて調査を行いました。ここでの所属感とは、システムが自分を気にかけてくれ、自分を記憶し、価値ある参加者として扱ってくれているという感覚を指します。真正性とは、判断や訂正を恐れることなく、自分の本当の考えや感情を表現できる自由のことです。研究者たちは、これらの感情が重要であるかどうかを知りたいと考えました。具体的には、AIシステムによって包摂されていると感じることが、テクノロジーへの満足度を高め、その相互作用が公正で敬意に満ちたものであるという感覚を強めるのかどうかを問い、その答えを見出すために、単一のグループや単一のタイプの機械には頼りませんでした。代わりに、彼らは二つの明確に異なる集団からデータを収集しました。迅速なタスク設計のための音声起動型アシスタントであるAmazon Alexaのユーザー219名と、長く複雑な会話が可能なテキストベースの生成AIであるChatGPTのユーザー577名です。

研究の結果、包摂を感じることと、ユーザーがテクノロジーをどのように評価するかとの間に、明確かつ正の相関関係があることが明らかになりました。両方のグループにおいて、所属感を感じ、かつ自分らしくいられると感じた人々は、高いレベルの満足度を報告しました。彼らはまた、その相互作用をより公正であると認識しており、つまり、AIが自分に対して尊厳と公平さを持って接していると感じていたのです。これは、感情的な質の高さが、回答の技術的な正確さと同じくらい重要であることを示唆しています。AIシステムが共感を持って応答したり、過去の詳細を記憶したり、あるいは非審判的なトーンを採用したりするとき、それは単にタスクを完了させるだけでなく、ユーザーが体験に対してより良い感情を抱くような関係を育むのです。

しかし、研究者たちは、すべての人がこれらの相互作用を同じように経験するわけではないことも発見しました。データパターンを分析することで、彼らは同じテクノロジーに対して異なる反応を示す、明確に異なるユーザーグループを特定しました。Amazon Alexaのユーザーのグループでは、データは二つの明確なプロファイルに分かれました。研究者が「控えめなユーザー（reserved users）」と呼んだグループは、サンプルの約45パーセントを占めていました。これらの個人は、所属感、真正性、および満足度のスコアが低い傾向にありました。彼らは主にデバイスを実用的なものとして利用しており、深い感情的なつながりを期待することなく、機能的なツールとして扱っているようでした。もう一方のグループは「エンゲージド・ユーザー（engaged users）」とラベル付けされ、残りの55パーセントを占めていました。これらのユーザーは、高いレベルの包摂感と満足度を報告しており、彼らにとって音声アシスタントは単なるコマンドセンター以上の、真の相互作用の源であったことを示唆しています。

ChatGPTのユーザーについては、より複雑な状況でした。テキストベースの生成AIはより豊かで多様な会話を可能にするため、研究者は六つの異なるユーザープロファイルを見出しましたが、そのうち実際に際立った経験を示したのは三つでした。約33パーセントのユーザーを占める「ユーティリティ志向（utility-oriented）」と呼ばれる大きなグループは、控えめなAlexaユーザーと同様に、所属感や真正性の感情に対して概ね無関心であるようでした。彼らの満足度は、感情がどうあれ、システムが問題を解決しタスクを効率的に実行できる能力から得られていました。もう一つの「エンゲージド・ユーザー」は、サンプルの約17パーセントを占めていました。これらの個人は、強いつながりと高い真正性を感じ、深い満足感を抱いており、AIを支援的なパートナーと見なしていました。第三のグループである「バランス型のユーザー（balanced users）」は、最大のセグメントである約33パーセントを構成していました。これらのユーザーはAIの価値を認め、適度な包摂感を感じていましたが、同時にシステムの限界についても認識していました。彼らは相互作用を楽しんではいましたが、完全にエンゲージしたグループのようなレベルの感情的な深さを期待してはいませんでした。

これらの知見は、すべてのユーザーがテクノロジーに対して同じことを望んでいるという考えに異を唱えるものです。単に機能するマシンに満足する人もいれば、つながりや承認を求める人もいます。本研究は、AIの開発者や組織にとって、進むべき道は単に速度や精度を向上させること以上に、含まれる要素があることを示唆しています。真にユーザーを包摂するためには、システムは所属感を育み、真正な自己表現を可能にするように設計されなければなりません。これは、ユーザーの好みを記憶する音声アシスタントや、ユーザーの感情状態に適応するチャットボットを通じて、共感的で、非審判的であり、個々のニーズに応答するインターフェースを作成することを意味します。音声アシスタントがユーザーの好みを記憶したり、チャットボットが感情的な状態に適応したりすることを通じて、目標は、その相互作用が公正で人間らしいと感じられるようにすることです。人工知能が学校から職場に至るまで、日常生活の構造の中に織り込まれていく中で、これらの感情的な側面を理解することは不可欠です。アクセシブルなシステムを構築するだけでは不十分であり、人々が本当に「そこに属している」と感じられるシステムを構築しなければならないのです。