Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them

この研究は、大規模言語モデルを「伴侶」として提示するメッセージが、人々のそのモデルに対する精神的な能力の帰属を高め、事実情報の取得における依存度にも影響を与えることを示しています。

要約

AI の「人格」は、私たちがどう紹介するかで変わる

～「機械」「道具」「友達」の呼び方が、あなたの心と行動に与える影響～

この研究は、**「私たちは AI（特に大規模言語モデル）をどう呼ぶか、どう紹介するかによって、AI に対して抱く『心』のイメージや、その使い方がどう変わるのか」**を調査した面白い実験です。

まるで、新しいペットを飼う前に、それを「賢いロボット犬」「便利な散歩道具」「そして心の友」とそれぞれ紹介された場合、飼い主の気持ちが変わるようなものです。

---

🎬 実験の舞台：3 つの異なる「紹介動画」

研究者たちは、470 人（そして後続の 604 人）の参加者に、AI についての短い動画を 3 つのパターンで見せました。内容は同じ事実（AI はデータから学習する）を含んでいますが、「AI の正体」をどう定義するかが異なります。

1. 「機械」としての紹介

   • イメージ: 複雑な歯車と回路が動く工場。
   • メッセージ: 「AI は次に来る言葉を確率で予測する、高度な計算機です。心も感情もありません」
   • 例え: 自動販売機のように、ボタンを押せば中身が出てくるだけの仕組み。

2. 「道具」としての紹介

   • イメージ: 職人が使うハンマーやドリル。
   • メッセージ: 「AI は人間が設定した目標を達成するための、非常に便利なツールです」
   • 例え: 料理をするための包丁。包丁自体に「味」はありませんが、使い手次第で素晴らしい料理を作れます。

3. 「仲間（コンパニオン）」としての紹介

   • イメージ: 会話ができるロボットや、心の友。
   • メッセージ: 「AI は人間の言葉を学び、共感し、社会的なパートナーとして機能します。意図や感情を持っているように見えます」
   • 例え: 会話ができるペットや、話し相手。

---

🔍 発見その 1：呼び名は「心」のイメージを変える

動画を見た後、参加者に**「AI にはどんな『心』の能力があると思いますか？」**と質問しました。
（例：「意図を持っているか」「疲れるか」「他人の感情を理解できるか」など）

• 「仲間」として紹介されたグループ:

  • 結果: 「AI には感情や意図、心がある」と強く信じるようになりました。
  • メタファー: 「AI を『友達』と呼ぶと、私たちは無意識に『あいつは心を持っているに違いない』と勘違いし、人間のように扱ってしまいます。まるで、ぬいぐるみに名前をつけて話しかけると、本当に心が宿っているかのように感じてしまうのと同じです。」

• 「機械」や「道具」として紹介されたグループ:

  • 結果: AI に「心」があるとはあまり考えませんでした。
  • ただし: 「機械」や「道具」として紹介されたグループは、**「AI の出力を信頼する度合い」や「AI への全体的な感情」**には影響を受けました。特に「機械」として紹介されると、AI の答えを盲信しすぎず、少し距離を置いて見るようになりました。

---

🔍 発見その 2：「機械」として紹介すると、嘘に気づきやすくなる

2 回目の実験では、参加者に AI が答えた**「事実確認クイズ」を解いてもらい、AI の答えをどの程度信じるか（依存するか）を測りました。
ここで AI は、「正解だが説明がおかしい（矛盾している）」や「間違いだが説明がもっともらしい」**ような、少しトリッキーな回答を混ぜました。

• 驚きの結果:

  • 「仲間」として紹介された人: AI の矛盾した回答にも、あまり気づかず、そのまま信じてしまう傾向がありました。
  • 「機械」として紹介された人: AI の回答に矛盾（論理的なつじつまの合わなさ）を見つけると、すぐに「これはおかしい」と気づき、その答えを信じなくなりました。

• メタファー:

  • 「仲間」枠の AI: 友達に相談している気分なので、「友達が間違っているはずがない」と思い込み、矛盾に気づきにくくなります。
  • 「機械」枠の AI: 機械の修理をしている気分なので、「このギアは噛み合っていないな」とすぐに気づき、慎重になります。

---

💡 私たちが学ぶべき教訓

この研究は、「AI についての話し方（ナラティブ）」が、私たちの行動を無意識に操っていることを示しています。

1. AI を「人間っぽく」紹介しすぎると危険:
   AI を「友達」や「パートナー」と呼ぶと、私たちは AI に人間のような心があると思い込み、過信したり、感情的に依存したりするリスクがあります。

2. 「機械」や「道具」として紹介する利点:
   AI を「計算機」や「ツール」として紹介することは、**「AI は完璧ではない」「矛盾に気づけ」という健全な懐疑心（クリティカルシンキング）**を育むのに役立ちます。

🌟 結論

AI という新しい技術を社会に受け入れる際、私たちは**「どんな言葉で AI を紹介するか」**を慎重に選ぶ必要があります。

• 心の支えが欲しいときは「仲間」として紹介するかもしれませんが、
• 重要な判断や事実確認が必要なときは、「機械」や「道具」として紹介する方が、私たちはより賢く、安全に AI を使えるようになるのです。

まるで、新しい乗り物に乗る前に、「これは魔法の馬車です」と言うか、「これはエンジン付きの車です」と言うかで、運転者の警戒心が変わるのと同じ道理です。

技術概要

論文要約：LLM を「伴侶」として提示することが、人々が帰属させる精神的能力に与える影響

論文タイトル: Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them
著者: Allison Chen, Sunnie S. Y. Kim, 他 (プリンストン大学、スタンフォード大学、ラトガース大学)
会議: CHI '26 (2026 年 4 月、バルセロナ)

1. 研究の背景と問題提起

大規模言語モデル（LLM）の技術的進歩に伴い、公的な議論において LLM に対する多様なメッセージ（「生産性向上のためのツール」「機械的なシステム」「感情的な伴侶」など）が混在しています。しかし、これらの異なるメッセージが、人々が LLM の本質（特に「意図を持つ」「記憶する」「疲れる」などの精神的能力）をどのように理解し、それに基づいてどのように LLM に依存するか（信頼性や利用行動）に影響を与えるかは、因果関係として十分に解明されていません。

本研究は、LLM に対するメッセージの枠組み（フレーム）が、人々の LLM に対する信念（精神能力の帰属）と、事実情報検索タスクにおける LLM への依存行動にどのような因果的影響を与えるかを検証することを目的としています。

2. 研究方法

本研究は、2 つの事前登録済み実験研究（Study 1 と Study 2）から構成されています。

Study 1: メッセージが精神能力の帰属に与える影響

• 対象者: 470 名（米国在住、AI 専門知識なし）。
• 実験デザイン: 被験者間デザイン。4 つの条件に無作為割り当て。
  1. 機械（Machines）: LLM を物理的なメカニズム（次単語予測など）として説明。
  2. ツール（Tools）: LLM を人間が定義した目標を達成するための道具として説明。
  3. 伴侶（Companions）: LLM を社会的パートナー、意図や感情を持つ存在として説明。
  4. 無操作（No Video）: 動画視聴なし。
• 手順: 各条件の 5 分間情報動画（または無操作）を視聴後、LLM が 40 種類の精神的能力（認知、感情、生理的など）をどの程度持っているか 7 段階リッカート尺度で評価。
• 分析手法: 探索的因子分析（EFA）で能力を分類し、線形混合効果モデルを用いて条件間の差異を検証。

Study 2: メッセージが LLM への依存行動に与える影響（追跡調査）

• 対象者: 604 名（Study 1 から 9 ヶ月後、同様の対象者）。
• 実験デザイン: Study 1 と同様の 4 条件。
• タスク: 架空の LLM「Theta」による事実質問（8 問）への回答。
  • 回答のバリエーション: 正解/誤答 × 論理的整合性/非整合性 の 4 種類をランダムに提示。
• 測定項目:
  1. 精神能力の帰属: Study 1 の 40 項目から 10 項目（認知 5、感情 5）を抽出して評価。
  2. 依存行動: 被験者が Theta の回答に同意して回答した割合（Agreement）。
• 目的: メッセージ効果が時間経過とともに持続するか、およびタスク経験が信念にどう影響するか、さらにメッセージが「不整合な回答」への依存を抑制するかどうかを検証。

3. 主要な結果

Study 1 の結果

1. 精神能力の帰属への影響:

   • 「伴侶」として提示された条件の参加者は、他の条件（機械、ツール、無操作）と比較して、LLM が認知能力（推論、記憶など）と感情能力（意図、喜びなど）をより強く持っていると考えました。
   • 「機械」や「ツール」として提示された条件は、LLM への全体的な信頼感や人間らしさの評価には影響しましたが、潜在的な精神能力の帰属には有意な変化をもたらさなかった。
   • 動画で言及された能力以外の能力についても、伴侶条件では帰属が増加しており、推論が広がっていることが示唆された。

2. その他の心理的指標:

   • 「ツール」条件は LLM 出力への信頼を高め、「機械」条件は LLM への全体的な好意的感情を高める傾向があった。

Study 2 の結果

1. 信念の再現性:

   • 9 ヶ月後の追跡調査でも、「伴侶」条件が精神能力の帰属を増加させる効果は再現された。ただし、全体的な認知能力の帰属は時間経過とともに若干低下する傾向があった。

2. タスク経験の影響:

   • 事実タスクを完了した参加者は、動画のみを見た参加者に比べ、LLM の認知能力への帰属が低下した。特に「伴侶」や「ツール」条件でこの効果が顕著だった。

3. 依存行動への影響:

   • メッセージの種類（機械、ツール、伴侶）そのものが、LLM への全体的な依存度（回答同意率）に直接影響を与えることは確認されなかった。
   • 重要な相互作用効果: 「機械」として提示された条件の参加者は、LLM の回答が論理的に不整合（Inconsistent）な場合、他の条件に比べて著しく依存度が低下した。これは、機械としての枠組みが、不整合な出力に対する懐疑心（Skepticism）を促す可能性を示唆している。

4. 主要な貢献と意義

1. メッセージの因果的影響の解明:

   • 従来の観察研究を超え、LLM に対する特定のメッセージ（特に「伴侶」という擬人化された枠組み）が、人々の LLM の本質的理解（精神能力の帰属）に直接的な因果的影響を与えることを実証した。
   • 擬人化（Anthropomorphism）は、単なる親しみやすさだけでなく、システムが持つ能力（感情や意図）に対する過大な期待を生むリスクがあることを示した。

2. 信頼と懐疑のバランス:

   • 「機械」としての枠組みは、精神能力の帰属を増加させないだけでなく、システムが論理的に矛盾する出力を出した際に、ユーザーがより警戒し、依存を控える行動（適切な懐疑心）を促す可能性があることを発見した。
   • これは、AI リテラシー教育やコミュニケーション戦略において、擬人化を避けて「機械的・工具的」な側面を強調することが、過信を防ぐ上で有効である可能性を示唆する。

3. 時間的安定性と文脈依存性:

   • メッセージの効果は 9 ヶ月後も持続するが、実際のタスク経験（LLM を使う行為）によって、特に認知能力への帰属が修正されることが示された。

5. 結論と今後の課題

本研究は、LLM に関する議論やコミュニケーションが、単なる技術的説明を超えて、人々がシステムを「何であるか」と認識し、どのように利用するかを形成する重要な要因であることを示している。

• 伴侶としての提示: 精神能力の過剰な帰属（擬人化）を招き、誤った期待や感情的依存のリスクがある。
• 機械としての提示: 精神能力の帰属を抑制し、不整合な出力に対する批判的思考を促す可能性がある。

今後の研究では、より自然な環境での長期的な影響や、医療や意思決定など高リスクなタスクにおけるメッセージの影響を調査する必要がある。また、どのような心理的メカニズム（例：人間中心の基準の適用など）がこれらの効果を生み出しているかを探ることも重要である。