Mental Models of Autonomy and Sentience Shape Reactions to AI

1. 연구 배경 및 문제 제기 (Problem)

• 문제의 핵심: 사람들이 인공지능 (AI) 과 상호작용할 때, AI 를 '자율적 (autonomous, 스스로 통제하고 행동하는 능력)'인 존재로 인식하는지, 아니면 '감수성 (sentient, 느끼고 경험하는 능력)'을 가진 존재로 인식하는지에 따라 반응이 달라집니다.
• 현재의 한계: 기존 HCI(인간 - 컴퓨터 상호작용) 연구와 대중 담론에서는 AI 의 자율성과 감수성이 종종 혼재되어 논의되거나, 하나의 거시적인 'AI' 개념으로 묶여 있습니다. 그러나 이 두 가지 정신 모델 (Mental Models) 이 서로 다른 심리적 메커니즘을 통해 사용자의 인식 (마음 지각, 도덕적 고려, 위협 인식 등) 에 어떻게 다른 영향을 미치는지는 체계적으로 분리되어 연구된 바가 부족합니다.
• 연구 목적: 자율성과 감수성을 개념적으로 분리 (disentangle) 하여, 각 요소가 AI 에 대한 사용자의 마음 지각 (Mind Perception), 도덕적 고려 (Moral Consideration), 위협 인식 (Perceived Threat), 그리고 규제 정책에 대한 지지에 미치는 고유한 영향을 실증적으로 규명하는 것입니다.

2. 연구 방법론 (Methodology)

이 연구는 3 개의 파일럿 연구와 4 개의 사전 등록 (preregistered) 된 실험, 그리고 메타 분석을 포함하는 총 7 개의 연구로 구성되었습니다. 총 2,702 명의 미국 성인 (Prolific 플랫폼 모집) 이 참여했습니다.

• 실험 설계:
  • 가상 에이전트: 모든 실험에서 'Corion'이라는 가상의 '스마트 인공지능 비서'를 소개했습니다.
  • 조건 조작 (Manipulation):
    1. 자율성 (Autonomy): Corion 이 외부 통제 없이 스스로 목표를 설정하고 행동하는지 여부.
    2. 감수성 (Sentience): Corion 이 감정 (기쁨, 슬픔 등) 을 느끼고 감각을 경험하는지 여부.
  • 4 가지 조건 (2x2 Factorial Design):
    1. None: 자율성 없음 + 감수성 없음
    2. Autonomy: 자율성 있음 + 감수성 없음
    3. Sentience: 자율성 없음 + 감수성 있음
    4. Both: 자율성 있음 + 감수성 있음
  • 실험 흐름:
    • 파일럿 연구 (N=374): 자율성과 감수성에 대한 대중의 정신 모델 내용을 매핑하고 조작 문구를 개발.
    • 실험 1 (N=254): 자율성 조작만 수행 (감수성은 통제).
    • 실험 2 (N=256): 감수성 조작만 수행 (자율성은 통제).
    • 실험 3 (N=741): 4 가지 조건을 모두 포함하여 상호작용 효과 검증.
    • 실험 4 (N=1,451): 실험 3 의 결과를 검증하고, '자율성/감수성'이라는 명시적 라벨을 제거하여 인지적 부조화를 줄인 강화된 실험.
• 측정 변수:
  • 종속 변수: 마음 지각 (Mind Perception), 지각된 자율성/감수성, 도덕적 대우 (Moral Treatment), 정의의 범위 (Scope of Justice), 지각된 해악 (Perceived Harm), AI 규제 지지 (AI Caution).
  • 통제 변수: 기술 - 애니미즘 신조, 인간화 경향성 (Anthropomorphism).

3. 주요 결과 (Key Results)

메타 분석 및 실험 결과를 종합한 주요 발견은 다음과 같습니다.

• 감수성 (Sentience) 의 영향력:

  • 감수성을 활성화하면 **마음 지각 (Mind Perception)**과 **도덕적 고려 (Moral Consideration)**가 자율성 활성화보다 더 크게 증가했습니다.
  • 감수성 인식은 지각된 자율성에도 긍정적인 영향을 미쳤습니다 (감수성이 있으면 자율성도 있다고 봄).
  • 결과: 감수성은 AI 를 '마음'을 가진 존재로 인식하게 만드는 더 강력한 기반입니다.

• 자율성 (Autonomy) 의 영향력:

  • 자율성을 활성화하면 **지각된 위협 (Perceived Threat/Harm)**이 감수성 활성화보다 더 크게 증가했습니다.
  • 자율성은 도덕적 고려를 증가시키지만, 감수성만큼 강력하지는 않았습니다.
  • 결과: 자율성은 AI 를 '위협적'으로 인식하게 만드는 주된 요인입니다.

• 상호작용 효과:

  • Both 조건 (자율성 + 감수성): 마음 지각이 가장 높게 나타났습니다.
  • None 조건 (자율성 없음 + 감수성 없음): 마음 지각과 도덕적 고려가 가장 낮았습니다.
  • 규제 지지 (AI Caution): 실험 2 에서는 감수성이 규제 지지를 높였으나, 실험 3 과 4 (조건이 분리된 상황) 에서는 감수성의 영향이 사라지거나 반전되는 등 일관되지 않았습니다. 이는 감수성 인식 시 자동적으로 자율성 모델이 활성화될 때 위협이 느껴져 규제를 지지하는 경향이 있음을 시사합니다.

• 메타 분석:

  • 4 개 실험의 효과 크기 (Cohen's d) 를 비교한 결과, 감수성 (평균 d=0.90) 이 자율성 (평균 d=0.70) 보다 AI 에 대한 반응에 더 큰 영향을 미치는 것으로 나타났습니다.

4. 주요 기여 (Key Contributions)

1. 개념적 분리 (Disentanglement): AI 에 대한 반응 연구에서 '자율성'과 '감수성'을 분리하여 각각의 고유한 심리적 경로를 규명했습니다. 이는 기존에 혼재되어 있던 AI 인식 연구를 정밀화했습니다.
2. 이중적 영향 메커니즘 규명:
   • 감수성은 AI 를 '인격체'로 인식하게 하여 도덕적 고려를 증대시킵니다.
   • 자율성은 AI 를 '통제 불가능한 존재'로 인식하게 하여 위협감을 증대시킵니다.
3. 정량적 증거: 대규모 실험과 메타 분석을 통해 감수성 모델이 자율성 모델보다 전반적인 반응 (특히 마음 지각과 도덕적 고려) 에 더 강력한 영향을 준다는 것을 통계적으로 입증했습니다.
4. 실험적 방법론: '과학 소설 과학 (Science Fiction Science)' 방법을 사용하여 현재 존재하지 않는 감수성 AI 에 대한 대중의 반응을 예측하고 연구할 수 있는 틀을 제공했습니다.

5. 의의 및 시사점 (Significance)

• 디자인 함의 (Design Implications):
  • AI 시스템의 역할 (도구 vs 동반자) 에 따라 사용자의 정신 모델을 의도적으로 조절해야 합니다.
  • 자율성 강조: 자율적인 에이전트 (예: 자율주행차) 는 위협을 유발할 수 있으므로, 사용자의 통제감을 높이는 디자인이 필요합니다.
  • 감수성 강조: 감정적 동반자 (예: 챗봇) 는 도덕적 고려를 불러일으키지만, 이는 AI 에 대한 과도한 애착이나 비인간적 대우로 이어질 수 있는 위험이 있습니다.
  • 프롬프트 엔지니어링: 사용자의 프롬프트가 AI 의 감수성이나 자율성을 어떻게 지각하게 하는지 고려해야 합니다.
• 정책 및 거버넌스 (Policy & Governance):
  • AI 규제 논의는 'AI'를 하나의 덩어리로 보지 않고, 자율성과 감수성이라는 하위 요소를 구분하여 접근해야 합니다.
  • 감수성 인식은 규제 지지로 이어질 수 있지만, 이는 종종 자율성에 대한 두려움과 결합된 결과일 수 있음을 인지해야 합니다.
  • AI 리터러시 (AI Literacy) 교육은 AI 의 이질성 (heterogeneity) 을 이해시키고, 특정 AI 에 대한 부정적 인식이 모든 AI 로 일반화 (Generalization) 되는 것을 방지하는 데 기여해야 합니다.
• 학문적 의의: 인간 - AI 상호작용 연구에 '디지털 마음 (Digital Minds)'이라는 새로운 존재론적 범주를 도입하고, 이에 대한 인간의 심리적 반응을 체계적으로 연구하는 기초를 마련했습니다.

이 논문은 AI 가 사회에 통합되는 과정에서 발생하는 복잡한 심리적, 윤리적, 정책적 쟁점들을 해결하기 위해, 사용자의 내적 정신 모델을 정밀하게 이해하고 설계하는 것이 필수적임을 강조합니다.