Human attribution of empathic behaviour to AI systems

1. 연구 문제 및 배경 (Problem Statement)

• 배경: 대규모 언어 모델 (LLM) 을 기반으로 한 AI 가 사회적, 정서적 지원을 제공하는 텍스트를 생성하는 경우가 늘어나고 있습니다. 실제로 많은 청소년과 성인이 AI 를 대화 파트너나 정서적 지지 도구로 활용하고 있습니다.
• 문제 제기: 기존 연구들은 AI 가 생성한 텍스트에 대해 **'부정적 편향 (Negativity Bias)'**이 존재한다고 보고해 왔습니다. 즉, 사용자가 텍스트가 AI 에 의해 생성되었다는 사실을 알게 되면, 그 텍스트의 품질과 공감적 능력 (인지적, 정서적, 동기적 공감) 을 인간이 작성한 텍스트보다 낮게 평가하는 경향이 있다는 것입니다.
• 연구 목적: 본 연구는 이러한 기존 통설을 검증하고, 실제 작성자 (Source) 와 사용자가 믿는 작성자 (Label) 가 공감 지각에 미치는 영향을 분리하여 분석하고자 합니다. 특히 관계 조언 (Relationship Advice) 과 같은 정서적 맥락에서 AI 생성 텍스트가 인간이 작성한 텍스트보다 어떻게 지각되는지, 그리고 이 지각이 작성자 라벨에 의해 어떻게 변하는지 규명하는 것을 목표로 합니다.

2. 연구 방법론 (Methodology)

본 연구는 두 개의 사전 등록 실험 (Preregistered Experiments) 으로 구성되었으며, 2(실제 작성자: 인간 vs AI) x 3(라벨 조건: 인간, AI, 무라벨) 또는 **2(실제 작성자) x 2(라벨 조건)**의 혼합 설계 (Mixed Design) 를 사용했습니다.

• 자극물 (Stimuli): Kleinberg 등 (2024) 의 이전 연구 데이터를 재사용하여, 인간과 GPT-4 가 작성한 '이별' 상황에 대한 조언 텍스트 100 개 (인간 50 개, AI 50 개) 를 선정했습니다. 선정 기준은 '인간성 (Humanness)' 평가 점수가 가장 높은 텍스트들이었습니다.
• 실험 1 (Study 1):
  • 참가자: 641 명 (Prolific 플랫폼).
  • 설계: 3 가지 라벨 조건 (인간, AI, 무라벨) 과 실제 작성자 (인간, AI) 를 교차하여 4 가지 종속 변수 (전체 만족도, 인지적 공감, 정서적 공감, 동기적 공감) 를 평가.
  • 분석: 중첩된 데이터 구조를 고려한 **다층 선형 모델 (Multilevel Modeling, MLM)**을 사용하여 텍스트와 평가자 (Rater) 를 랜덤 효과로 통제.
• 실험 2 (Study 2):
  • 참가자: 500 명.
  • 수정 사항: 실험 1 에서 라벨 조작의 강도가 부족할 수 있다는 점 (30% 이상의 참가자가 작업 지시를 기억하지 못함) 을 보완하기 위해 '무라벨' 조건을 제거하고, 라벨을 시각적 아이콘 (👤 인간, 🤖 AI) 과 함께 반복적으로 노출하여 조작의 강도를 높였습니다.
• 통제 변수: 기술 친화도 (ATI), AI 태도 (AIAS-4), 공감 능력 (ECQ), 인구통계학적 변수 등을 공변량으로 포함.

3. 주요 결과 (Key Results)

A. 실제 작성자 (Source) 의 효과

• 전체 품질, 인지적 공감, 동기적 공감: AI 가 생성한 텍스트가 인간이 작성한 텍스트보다 일관되게 높은 점수를 받았습니다.
  • 이 효과는 텍스트가 AI 에 의해 생성되었는지 인간이 작성했는지에 대한 라벨 (Label) 과 무관하게 유지되었습니다.
  • 즉, 사용자는 AI 가 생성한 조언이 인간이 작성한 것보다 더 높은 품질과 공감 능력을 가지고 있다고 판단했습니다.
• 정서적 공감 (Emotional Empathy): 실제 작성자 (인간 vs AI) 에 따른 유의미한 차이는 발견되지 않았습니다.

B. 라벨 (Label) 의 효과 (부정적 편향 검증)

• 실험 1: 라벨 조건 (인간, AI, 무라벨) 에 따른 유의미한 주효과나 상호작용 효과가 발견되지 않았습니다. 즉, "이것은 AI 가 썼다"고 알려주더라도 사용자의 평가는 변하지 않았습니다.
• 실험 2:
  • 전체 품질: AI 라벨이 붙은 텍스트는 인간 라벨이 붙은 텍스트보다 약간 낮은 점수를 받았습니다 (약간의 부정적 편향 존재).
  • 정서적 공감: AI 라벨이 붙은 경우 인간 라벨에 비해 점수가 유의미하게 낮았습니다.
  • 인지적/동기적 공감: 라벨 조건에 따른 차이는 없었으며, 여전히 실제 작성자가 AI 일 때 더 높은 점수를 받았습니다.

C. 개인차 (Individual Differences)

• AI 에 대한 긍정적 태도나 기술 친화도가 높은 참가자들은 전반적으로 텍스트의 공감적 특성을 더 높게 평가했으나, 이는 전체적인 결과 패턴 (AI 텍스트의 우위) 을 바꾸지는 않았습니다.

4. 주요 기여 및 결론 (Key Contributions & Conclusion)

1. 부정적 편향 (Negativity Bias) 에 대한 재검토: 기존 연구들이 주장하던 "AI 라벨이 붙으면 공감적 가치가 급격히 떨어진다"는 주장을 부분적으로 반박합니다. 특히 **인지적 공감 (Cognitive Empathy)**과 동기적 공감 (Motivational Empathy) 영역에서는 AI 생성 텍스트가 인간 텍스트보다 우월하게 지각되며, 이 우월성은 작성자 정보 (라벨) 에 의해 약화되지 않습니다.
2. 공감 구성 요소의 이질성:
   • 인지적/동기적 공감: AI 가 언어적 특징을 통해 인간보다 더 효과적으로 시뮬레이션할 수 있음.
   • 정서적 공감: AI 는 실제 감정을 공유할 수 없다는 본질적 한계로 인해, 인간이 작성한 텍스트보다 낮게 평가되거나 (라벨 효과), 실제 작성자와 무관하게 차이가 없음. 이는 AI 가 정서적 공감을 완벽하게 모방하기 어렵다는 이론을 지지합니다.
3. 언어적 특징의 우세: 사용자의 공감 지각은 작성자에 대한 신념 (Belief) 보다 **텍스트의 언어적 특징 (Linguistic Features)**에 더 크게 영향을 받음을 시사합니다.

5. 의의 및 시사점 (Significance)

• AI 지원 시스템 설계: AI 기반 정서적 지원 시스템 (예: 챗봇 상담, 정신 건강 앱) 을 설계할 때, "AI 입니다"라는 라벨이 사용자의 신뢰를 떨어뜨릴 것이라는 우려는 과장되었을 수 있음. 오히려 **공감을 전달하는 언어적 신호 (언어적 특징)**를 최적화하는 것이 사용자 만족도와 지각된 공감 능력을 높이는 핵심 요소임.
• 정책 및 안전 (Safety): 사용자가 AI 의 정서적 능력을 과대평가할 수 있다는 점은 위험할 수 있음. AI 가 인간과 구별되지 않는 수준의 공감적 응답을 제공할 경우, 사용자는 AI 에 대해 과도한 신뢰를 가지거나 (예: 자해 권고 등 부적절한 조언 수용), AI 와의 상호작용에 대한 윤리적 경계가 모호해질 수 있음.
• 미래 연구 방향: 실제 정서적 고통을 겪는 대상 (환자 등) 을 대상으로 한 연구와, 다항목 척도를 활용한 정서적 공감의 더 정밀한 측정이 필요함.

요약하자면, 본 연구는 AI 가 생성한 관계 조언이 인간이 작성한 것보다 인지적 및 동기적 공감 측면에서 더 우수하게 지각되며, 이는 작성자 정보 (라벨) 에 의해 쉽게 훼손되지 않는다는 점을 발견했습니다. 이는 AI 의 정서적 지원 가능성에 대한 낙관적 전망과 동시에, AI 에 대한 과도한 신뢰로 인한 잠재적 위험에 대한 경고를 동시에 시사합니다.