I wanted it to feel more personal: Customization of social AI as AI individualism in practice
本研究は、169人のユーザーがいかにして個人の好みを反映させるためにソーシャルAIをカスタマイズしているかを調査しており、この共創プロセスが所有意識や個人主義を育む一方で、強力なシステムに対するコントロールの錯覚を生み出す可能性があることを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたのデジタル世界が、誰もが同じ路線バスを利用する、巨大で賑やかな都市であると想像してみてください。バスは決まった時刻に走り、同じ停留所に止まり、運転手は誰にでも当てはまるような一般的な声で話します。長い間、人工知能（AI）はそんな風に機能してきました。私たちはAIに質問をし、AIは他の誰に対しても出すであろう、同じ答えを返してきたのです。しかし最近、自分自身の乗り物を造ることができる新しい技術が登場しました。お気に入りの色に塗り替え、エンジンを唸らせたり静かに響かせたりするように調整でき、さらには運転手にジョークを言わせたり、愛のある厳しい指導をさせたりするようにプログラムすることさえできます。この研究分野は「ヒューマン・コンピュータ・インタラクション（人間とコンピュータの相互作用）」と呼ばれ、私たちがどのように機械と対話するかを扱うものです。この研究を突き動かしている具体的な概念は、「AI個人主義（AI Individualism）」です。これは、機械との関係が標準的なレンタカーであってはならず、あなたの独自の形、ニーズ、そして運転スタイルにフィットする、カスタムメイドの車であるべきだという考え方です。人々がこれを重視するのは、AIが私たちの生活の中で友人、教師、あるいは上司としての役割を果たすようになるにつれ、「私たちは単なる乗客なのか、それともハンドルを握っているのは自分自身なのか？」を知りたいと考えているからです。
ノルウェーの研究チームによって書かれたこの論文は、人々が実際にどのようにAIのエンジンをチューニングしているのかを解明するために、ガレージの中へと踏み込みます。彼らは、すでに独自のAIコンパニオン（ChatGPT、Character.ai、またはGoogleのGeminiなど）をカスタマイズしている169人に、なぜそれを行ったのか、そしてどのように行ったのかを説明してもらいました。彼らは単にコードを見ているのではなく、キーボードの背後にある人間の心を見つめていたのです。
研究者たちは、人々がカスタマイズを行う主な理由として、ツールボックスの中にある異なる道具のような、7つの主要な理由を見出しました。
- 実用的なサポート（Pragmatic Support）: ほとんどの人は、AIをより優れた働き手にしたいと考えていました。曖昧な回答をやめさせ、執筆やコーディング、計画立案において明確で直接的な助けを与えられるよう、AIを微調整しました。それは、メカニックに対して「専門用語を使うのをやめて、ただ車を早く直してくれ」と頼むようなものです。
- 感情的なサポート（Emotional Support）: 他の人々は、デジタルな友人を求めていました。ストレスや孤独について、判断される恐怖を感じることなく話せる、より温かく共感的で安全な場所となるよう、AIをプログラムしました。
- 信頼性と信頼性（Trust and Reliability）: 一部のユーザーは、デフォルトのAIが不安定すぎたり、作り話をしたりしやすいと感じていました。彼らは、AIがより一貫性を持ち、知らないことについては正直に答え、事実を再確認するようにカスタマイズしました。
- 反論（Pushback）: これは驚くべき発見でした。多くのユーザーは、「イエスマン」を求めてはいませんでした。彼らは、自分の意見にすべて同意するのではなく、自分の主張の弱点を指摘し、責任を問うような、あえて異を唱えるAIをプログラムしました。
- 人間らしさ（あるいはその欠如）（Human Likeness or Lack Thereof）: ある人々は、AIが人間の友人のように全く同じように聞こえることを望みました。他の人々はその逆で、人間のようなトーンは煩わしい、あるいはコントロール感が失われると感じるため、より冷たくロボット的なものにしました。
- 創造性と遊び心（Creativity and Playfulness）: 少数のユーザーは、ただ楽しさを求めていました。彼らは、やり取りを娯楽的なものにするために、ユーモアや機知、独特な性格の特性を加えました。
- 自己の拡張（Extension of Self）: 小さなグループは、AIを自分自身の心の鏡として扱いました。彼らは、AIが自分と同じように考え、書き、推論するようにカスタマイズし、事実上の「自分自身の脳のデジタル版」を作り上げました。
研究は、カスタマイズのプロセス自体についても調査しました。約70%の人が、それは一度限りの修正ではなく、絶え間ない試行錯誤のゲームであると述べました。設定を微調整し、テストし、それが機能するかを確認し、また微調整するというプロセスです。興味深いことに、研究者はこのプロセスにおける人々のアプローチに分裂があることを見出しました。約55%のユーザーは、AIを厳格に「命令されるべき道具」として扱い、カスタマイズの方法についてAI自身の意見を求めることを拒みました。彼らは完全なコントロールを望んでいました。しかし、41%は、AIが自分自身をどのようにカスタマイズすべきかについて、AI自身をパートナーとして招待しました。彼らにとって、「どのように自分を定義すべきか」とAIに尋ねることは、人間とパートナーとの間のコラボレーションの一部でした。
では、カスタムAIを作り終えたとき、何が起こるのでしょうか？ 論文は、主に3つの結果を示唆しています。第一に、ユーザーはより多くのサポートを感じるようになります。仕事の助けが必要であれ、悲しい心へのケアであれ、カスタマイズされたAIはより正確で関連性の高いものに感じられました。第二に、人々はより親密な関係を感じるようになりました。AIの形を作ることに時間を費やすことで、ペットや子供を育てているような所有感を感じ、それが相互作用への関心を高めました。第三に、そしておそらく最も重要なこととして、ユーザーはより大きなコントロール感を感じるようになりました。彼らは自分自身のデジタル世界の設計者であると感じたのです。
しかし、研究者たちはその発見の中に、穏やかな警告を込めています。ユーザーは完全なコントロールを持ち、カスタマイズしたAIがより信頼できると感じていますが、論文はこれが一種の錯覚である可能性を示唆しています。AIは依然として、ある企業が所有する巨大で既製のエンジン上で動いています。ユーザーが感じる「コントロール」は、車のラジオやシートを操作するコントロールのようなものであり、エンジンの根本的な限界を制御するものではありません。著者らは、この完全なコントロール感は「擬似的な自律性（pseudo-autonomy）」の一形態であると示唆しています。それはリアルで力強く感じられますが、AIはユーザーが見ることや変更することのできないルールに依然として縛られています。さらに、AIをより温かく友人のように感じさせることは、たとえAIが間違いを犯していたとしても、過剰に信頼させてしまう危険もあります。
要約すると、この論文は、人々が汎用的なAIを個人的なコンパニオンへと積極的に変容させていることを示していますが、同時に、私たちが車の塗装を変えたりラジオを調整したりすることはできても、私たちは依然として「誰かによって作られた道」を走っているのだということも思い出させてくれます。カスタマイズは、ドライブをより個人的なものにし、ドライバーに力を与えた感覚を与えますが、目的地と地図は、依然として大部分がシステムの設計者次第なのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。