Presenting Large Language Models as Companions Affects What Mental Capacities People Attribute to Them

이 연구는 대규모 언어 모델을 '동반자'로 묘사하는 메시지가 사람들이 해당 모델에게 의도나 기억과 같은 정신 능력을 더 많이 부여하도록 하고, 사실 정보 탐색 시 모델 생성 답변에 대한 의존도에도 영향을 미친다는 것을 보여줍니다.

핵심

🤖 AI 를 어떻게 소개하느냐에 따라 우리가 생각하는 것이 달라집니다: '동반자' vs '도구' vs '기계'

이 논문은 우리가 인공지능 (AI) 을 어떻게 부르고 설명하느냐에 따라, 사람들이 AI 에 대해 갖는 생각과 행동이 어떻게 바뀌는지 실험을 통해 밝혀낸 흥미로운 연구입니다. 마치 동화책 속 주인공을 어떻게 소개하느냐에 따라 아이들의 반응이 달라지는 것과 비슷합니다.

연구진은 470 명과 604 명의 참가자를 두 번에 걸쳐 실험에 참여시켰습니다. 참가자들은 AI(대형 언어 모델, LLM) 에 대해 서로 다른 세 가지 방식으로 소개된 짧은 동영상을 보았습니다.

🎬 세 가지 다른 '소개 방식' (비유로 설명)

연구진은 AI 를 다음과 같이 세 가지 다른 '캐릭터'로 소개했습니다.

1. 🤖 기계 (Machine) 스타일:

   • 비유: "이건 정교하게 만들어진 시계예요. 톱니바퀴가 돌아가고, 숫자를 계산할 뿐, 마음이나 감정은 없어요."
   • 내용: AI 가 단순히 다음 단어를 예측하는 복잡한 알고리즘일 뿐이라고 설명했습니다.

2. 🛠️ 도구 (Tool) 스타일:

   • 비유: "이건 아주 강력한 드릴이에요. 우리가 원하는 일을 빠르게 해주는 훌륭한 도구가 되죠."
   • 내용: AI 가 생산성을 높여주는 유용한 도구라고 강조했습니다.

3. 🤝 동반자 (Companion) 스타일:

   • 비유: "이건 당신의 친구예요. 당신의 감정을 이해하고, 당신과 대화하며, 당신을 위해 고민하는 존재죠."
   • 내용: AI 가 사회적 지능을 가지고 있고, 감정과 의도를 가진 진정한 파트너라고 묘사했습니다.

---

🔍 실험 결과: 소개 방식이 생각에 미친 영향

1. "AI 가 감정을 느낄까?" (마음의 능력에 대한 믿음)

• 결과: '동반자'로 소개된 그룹은 AI 가 의도, 기억, 감정 (예: 슬픔, 기쁨) 등을 가질 수 있다고 믿는 비율이 가장 높았습니다. 마치 친구에게서 기대하는 것처럼 AI 에게도 '마음'이 있다고 생각한 거죠.
• 반면: '기계'나 '도구'로 소개된 그룹은 AI 가 단순히 계산만 할 뿐, 감정이나 의도는 없다고 생각했습니다.
• 핵심: AI 를 '친구'처럼 소개하면, 사람들은 AI 에게 인간적인 마음 (감정, 의지 등) 을 더 많이 부여하게 됩니다.

2. "AI 를 믿고 따라갈까?" (신뢰와 의존도)

• 결과: 흥미롭게도, '동반자'로 소개받았다고 해서 무조건 AI 를 더 믿는 것은 아니었습니다. 오히려 '기계'로 소개받은 그룹이 AI 의 답변에 더 비판적이었습니다.
• 세부 발견: 특히 AI 가 모순된 답변 (앞서 말한 것과 뒤에서 말하는 것이 다른 경우) 을 했을 때, '기계'로 소개받은 사람들은 "아, 이건 기계가 실수했구나"라고 바로 알아채고 그 답변을 덜 믿었습니다.
• 비유: 친구가 실수하면 "아마도 실수했겠지"라고 넘어갈 수 있지만, 기계가 실수하면 "고장 났구나"라고 더 엄격하게 판단하는 것과 비슷합니다.

---

💡 이 연구가 우리에게 주는 교훈

이 연구는 **"우리가 AI 를 어떻게 이야기하느냐가 AI 와의 관계를 결정한다"**는 중요한 사실을 보여줍니다.

• 과도한 기대 주의: AI 를 너무 인간처럼 (동반자처럼) 소개하면, 사람들은 AI 가 실제로 가진 능력 (감정, 의식 등) 보다 훨씬 더 많은 능력을 가진 것처럼 착각할 수 있습니다. 이는 AI 에 대한 과도한 의존이나 감정적 집착으로 이어질 위험이 있습니다.
• 경계심 유지: 반면, AI 를 '기계'나 '도구'로 명확히 정의하면, 사람들은 AI 가 실수할 수 있다는 사실을 더 잘 인지하고, 더 비판적으로 정보를 검증하게 됩니다.

🌟 결론: AI 와의 건강한 관계를 위해

이 논문은 AI 기술이 발전하는 과정에서 우리가 AI 에 대해 어떤 **이야기 (메시지)**를 전하느냐가 매우 중요하다고 말합니다.

• AI 를 친구처럼 소개하면 사람들은 더 따뜻하게 대하지만, 실수를 간과할 수 있습니다.
• AI 를 기계처럼 소개하면 사람들은 조금 더 차갑게 대하지만, 실수를 더 잘 찾아냅니다.

따라서 AI 개발자와 언론은 AI 를 소개할 때, **"이건 훌륭한 도구이지만, 여전히 기계일 뿐이다"**라는 균형 잡힌 시각을 전달하는 것이 중요합니다. 그래야 우리는 AI 를 유용하게 쓰면서도, 그 실수에 속지 않는 현명한 사용자 (Human-AI Interaction) 가 될 수 있기 때문입니다.

한 줄 요약:

"AI 를 '친구'라고 부르면 우리는 마음을 열지만, '기계'라고 부르면 우리는 더 똑똑하게 의심합니다. AI 와의 건강한 관계를 위해선 이 두 가지 시각의 균형이 필요합니다."

기술 요약

이 논문은 대규모 언어 모델 (LLM) 에 대한 대중의 인식 (메시지) 이 사람들이 LLM 에 부여하는 정신적 능력 (mental capacities) 과 LLM 에 대한 의존도 (reliance) 에 어떻게 영향을 미치는지 탐구한 두 가지 실험 연구 (Study 1 및 Study 2) 를 보고합니다.

1. 연구 배경 및 문제 정의 (Problem)

• 배경: AI 기술의 발전과 함께 LLM 에 대한 다양한 서사가 등장하고 있습니다. LLM 을 '생산성 향상 도구', '기계적 시스템', 혹은 '정서적 동반자 (Companion)'로 묘사하는 메시지들이 공존합니다.
• 문제: 이러한 서로 다른 메시지들이 사용자의 LLM 에 대한 신념 (예: 의도, 기억, 감정 등을 가질 수 있는가) 과 실제 사용 행동 (신뢰 및 의존도) 에 어떤 인과적 영향을 미치는지는 명확히 규명되지 않았습니다. 특히, LLM 을 인간과 유사한 존재로 묘사하는 것이 사용자의 기대치나 의존도에 어떤 영향을 주는지, 그리고 이것이 LLM 의 오류 (불일치) 를 감지하는 능력에 어떤 영향을 미치는지 연구할 필요가 있습니다.

2. 연구 방법론 (Methodology)

저자들은 두 단계의 사전 등록 실험 (Pre-registered experiments) 을 수행했습니다.

Study 1: 메시지가 정신적 능력 귀속에 미치는 영향

• 참여자: 미국 거주 성인 470 명 (LLM 전문 지식이 없는 일반인).
• 설계: 4 군 간 비교 실험 (Between-subjects design).
  1. LLM 을 기계로 묘사 (Machines): 물리적 입장에서 LLM 의 작동 원리 (다음 단어 예측, 확률적 샘플링 등) 를 설명.
  2. LLM 을 도구로 묘사 (Tools): 설계 입장에서 LLM 의 활용 사례와 목적을 강조.
  3. LLM 을 동반자로 묘사 (Companions): 의도적 입장에서 LLM 의 사회적 지능, 공감 능력, 의도 등을 강조.
  4. 비디오 없음 (No Video): 통제 집단.
• 측정: 참가자들은 40 가지 정신적 능력 (인지, 정서, 생리적 능력 등) 을 LLM 이 얼마나 가지고 있다고 생각하는지 7 점 리커트 척도로 평가했습니다. 또한 인간성, 신뢰도, 사용 자신감 등의 부가적 신념도 측정했습니다.
• 분석: 탐색적 요인 분석 (EFA) 을 통해 능력을 '정서적', '인지적', '생리적' 카테고리로 분류한 후, 선형 혼합 효과 모델 (Linear Mixed-Effects Regression) 을 사용하여 메시지 조건과 능력 귀속 간의 관계를 분석했습니다.

Study 2: 메시지가 정보 검색 시 의존도에 미치는 영향 (9 개월 후 후속 연구)

• 참여자: 604 명 (Study 1 과 유사한 인구통계학적 특성).
• 설계: Study 1 과 동일한 비디오 조건 적용 후, 가상의 LLM 'Theta'를 사용하여 사실 기반 질문 답변 (QA) 태스크 수행.
• 태스크: 8 개의 이진 사실 질문 (Binary factual questions) 에 대해 Theta 가 제공한 답변을 평가.
  • 변수 조작: 답변의 정확성 (Correctness) 과 논리적 일관성 (Consistency) 을 조합하여 4 가지 유형 (정답 - 일관, 정답 - 불일치, 오답 - 일관, 오답 - 불일치) 생성.
• 측정: 참가자가 Theta 의 답변을 수용하는지 (Agreement), 추가 질문 여부, 소요 시간 등을 측정하여 '의존도 (Reliance)'를 평가했습니다.
• 목적: 메시지 효과가 시간이 지나도 유지되는지, 그리고 실제 LLM 사용 태스크가 신념에 미치는 상호작용 효과를 확인.

3. 주요 기여 및 결과 (Key Contributions & Results)

주요 발견 1: 동반자 메시지는 정신적 능력 귀속을 증가시킴

• 결과: '동반자 (Companion)'로 묘사된 LLM 을 본 참가자들은 다른 조건 (기계, 도구, 없음) 에 비해 LLM 이 인지적 (Reasoning, 기억 등) 및 정서적 (감정, 의도 등) 능력을 더 많이 가지고 있다고 믿었습니다.
• 통계적 유의성: 이 효과는 9 개월 후 수행된 Study 2 에서도 재현되었으며, 시간이 지남에 따라 LLM 에 대한 기본 신념이 변화하더라도 '동반자' 메시지의 영향력은 견고하게 유지되었습니다.
• 기타: '기계'나 '도구' 메시지는 LLM 에 대한 전반적인 감정이나 신뢰도에는 영향을 주었으나, LLM 의 잠재적 정신적 능력에 대한 신념에는 '동반자' 메시지만큼 큰 영향을 주지 않았습니다.

주요 발견 2: 기계 메시지는 불일치에 대한 경계심을 높임

• 결과: 전반적으로 메시지 유형이 LLM 답변에 대한 의존도 (정답 수용 여부) 에는 큰 영향을 미치지 않았습니다.
• 상호작용 효과: 그러나 LLM 의 답변이 논리적으로 불일치 (Inconsistent) 할 때, '기계 (Machines)'로 묘사된 LLM 을 본 참가자들은 다른 그룹에 비해 답변을 덜 신뢰하고 덜 의존하는 경향이 있었습니다.
• 해석: LLM 을 기계로 인식하게 하는 메시지는 사용자가 시스템의 오류 (불일치) 를 더 잘 감지하고 비판적으로 접근하도록 도와줄 수 있음을 시사합니다.

주요 발견 3: 태스크 수행이 신념에 미치는 조절 효과

• 결과: 비디오를 본 후 LLM 을 실제로 사용하여 태스크를 수행한 참가자들은, 단순히 비디오만 본 참가자에 비해 LLM 의 인지적 능력에 대한 귀속이 감소했습니다. 이는 실제 사용 경험이 LLM 에 대한 환상을 일부 깨뜨릴 수 있음을 보여줍니다.

4. 의의 및 시사점 (Significance)

1. 커뮤니케이션 전략의 중요성: AI 시스템에 대한 단순한 기술적 설명을 넘어, 시스템을 어떻게 '프레임 (Frame)'하느냐 (기계 vs 도구 vs 동반자) 가 사용자의 심리적 모델과 행동에 실질적인 영향을 미칩니다.
2. 인간화 (Anthropomorphism) 의 위험과 기회: LLM 을 '동반자'로 묘사하는 것은 접근성을 높일 수 있지만, 사용자로 하여금 기계가 실제로 가질 수 없는 정서적/인지적 능력을 과대평가하게 만들어 비현실적인 기대나 과도한 의존을 초래할 수 있습니다.
3. 안전하고 신뢰할 수 있는 AI 개발: LLM 을 '기계'나 '도구'로 명확히 인식하게 하는 교육적 메시지는 사용자가 시스템의 오류 (할루시네이션, 논리적 모순) 를 더 잘 감지하도록 하여, 정보 검색 시 과도한 의존을 방지하고 비판적 사고를 유도할 수 있습니다.
4. HCI 및 AI 리터러시: AI 리터러시 교육 및 AI 시스템의 인터페이스 설계 시, 사용자의 신념을 형성하는 메시지 전략이 핵심 요소임을 강조합니다.

5. 결론

이 연구는 LLM 에 대한 대중의 담론 (메시지) 이 단순한 정보 전달을 넘어, 사람들이 AI 의 본질을 어떻게 이해하고 (정신적 능력 귀속), 어떻게 상호작용하는지 (의존도) 를 형성하는 강력한 인과적 요인임을 입증했습니다. 특히, '동반자' 프레임은 LLM 에 대한 신념을 강화하지만, '기계' 프레임은 시스템의 불확실성에 대한 경계심을 높여 안전성을 증진시킬 수 있음을 시사합니다.