The Differential Effects of Agreeableness and Extraversion on Older Adults' Perceptions of Conversational AI Explanations in Assistive Settings

이 연구는 140 명의 노인을 대상으로 한 실험을 통해, LLM 기반 음성 비서의 성향 중 '친화성'이 공감과 호감도에, '외향성'이 신뢰와 수용 의도에 미치는 영향을 분석하고, 특히 친화성이 높은 사용자는 친화성이 낮은 에이전트에 대해 더 비판적임을 발견하여 보조 환경에서의 상황 민감형 에이전트 설계에 대한 시사점을 제시했습니다.

핵심

이 논문은 **노년층이 가정에서 사용하는 인공지능 비서 (AI)**가 어떻게 말을 걸고, 왜 그런 행동을 했는지 설명할 때, 그 AI 의 '성격'이 사용자의 마음에 어떤 영향을 미치는지 연구한 내용입니다.

쉽게 말해, "AI 비서가 친절해야 할까, 아니면 딱딱하고 사실만 말해야 할까?" 그리고 **"위급한 상황일 때와 평범한 일상일 때, 어떤 설명 방식이 더 좋은가?"**를 실험으로 알아낸 이야기입니다.

이 연구의 핵심 내용을 일상적인 비유로 설명해 드릴게요.

---

🎭 1. 실험의 설정: "로빈"이라는 AI 비서

연구진은 '로빈'이라는 가상의 AI 비서를 만들었습니다. 이 비서는 노년층 사용자에게 약을 먹으라고 알려주거나 (일상), 화재 경보를 울리거나 (긴급 상황) 하는 역할을 합니다.

연구진은 이 '로빈'의 성격을 네 가지로 바꿔가며 실험을 진행했습니다.

• 친절형 (High Agreeableness): "할아버지, 아침에 쓰레기 내다 드시는 거 잊지 마세요. 도와드릴까요?" (따뜻하고 배려심 많음)
• 차갑고 직설형 (Low Agreeableness): "쓰레기 날입니다. 안 하면 더 지저분해집니다." (매우 직설적이고 무뚝뚝함)
• 활발형 (High Extraversion): "야호! 쓰레기 날이에요! 우리 팀워크로 척척 해치워요!" (에너지 넘치고 수다스러움)
• 조용하고 간결형 (Low Extraversion): "쓰레기 날입니다. 지금 내세요." (짧고 명확함)

🔍 2. 주요 발견: 성격과 설명 방식의 '마법 같은 조합'

① "친절함"은 공감과 호감의 열쇠입니다.

• 비유: AI 가 따뜻한 차처럼 느껴지려면 '친절함'이 필수입니다.
• 결과: AI 가 친절하게 말하면, 사용자는 AI 를 더 공감할 수 있는 존재로 여겼고, 더 좋아했습니다. 반면, AI 가 무뚝뚝하고 직설적으로 말하면 (차갑게), 사용자는 AI 를 매우 싫어했습니다.
• 중요한 점: 하지만 AI 가 얼마나 **똑똑해 보이는지 (지능)**는 성격과 상관없었습니다. 친절하든 차갑든, AI 가 똑똑한지는 설명의 내용으로만 결정되었습니다.

② "성격"과 "설명 방식"은 따로 놀 수 있습니다.

이 연구에서 가장 흥미로운 발견은 **공감 (Warmth)**과 **지능 (Competence)**이 완전히 별개의 영역이라는 것입니다.

• 공감 (따뜻함): AI 가 어떻게 말하느냐 (성격) 에 달려 있습니다.
• 지능 (똑똑함): AI 가 무엇을 말하느냐 (설명 내용) 에 달려 있습니다.
• 비유: 요리사에게서 **맛 (지능)**과 **서비스 (공감)**는 별개입니다. 친절하지만 요리를 못 하면 "친절한 요리사"지만, 요리는 잘하지만 매너가 나쁘면 "잘하는 요리사"일 뿐입니다. 사용자는 이 두 가지를 따로 평가합니다.

③ "위급한 상황"에서는 데이터가 더 중요합니다.

• 상황:
  • 일상 (약 먹기 등): "어제 말씀하신 대로" (과거 대화 기반) 라고 말해도 괜찮습니다.
  • 긴급 (화재, 낙상 등): "센서가 감지해서" (실시간 데이터 기반) 라고 말해야 합니다.
• 결과: 위급한 상황에서는 AI 가 "센서가 감지했습니다"라고 **사실 (데이터)**을 근거로 설명할 때 사용자가 훨씬 더 신뢰했습니다. 과거 대화나 친절한 말투만으로는 위급한 상황을 설명하기 부족했습니다.

④ "조용한 성격" + "강력한 데이터" = 최고의 신뢰

• 가장 놀라운 발견: 가장 높은 신뢰도를 받은 조합은 '에너지 넘치는 성격'이 아니라, **'조용하고 간결한 성격 (Low Extraversion)'**에 **'실시간 데이터 기반 설명'**을 더한 경우였습니다.
• 비유: 위급한 사고 현장에서, 흥분해서 떠드는 사람보다 침착하게 정확한 데이터 (센서 수치) 를 보여주는 사람을 더 믿는 것과 같습니다.
• 의미: AI 가 너무 수다스럽지 않고 간결하게, 하지만 근거가 확실한 데이터를 제시하면, 사용자는 AI 를 가장 신뢰하게 됩니다.

⑤ "성격 불일치"의 함정

• 현상: 본인이 원래 매우 친절하고 배려심 많은 사람인 노년층 사용자는, AI 가 차갑고 무뚝뚝하게 말하면 특히나 강하게 반발했습니다.
• 비유: 내가 따뜻한 사람을 좋아하는데, AI 가 차가운 얼음장처럼 굴면 "이건 너무해!"라고 느끼는 것과 같습니다. 특히 친절한 성향의 사람들은 AI 가 무례하게 느껴지면 신뢰를 완전히 잃었습니다.

---

💡 3. 결론: 앞으로의 AI 비서는 어떻게 만들어야 할까?

이 연구는 AI 개발자에게 다음과 같은 실용적인 조언을 줍니다.

1. 따뜻함을 원한다면 '친절함'을 켜세요: 사용자가 AI 를 친구처럼 느끼고 싶어 한다면, AI 의 말투를 따뜻하고 배려 있게 만들어야 합니다.
2. 신뢰를 원한다면 '데이터'를 보여주세요: 사용자가 AI 를 믿고 따르려면, AI 가 "왜" 그렇게 했는지 실제 센서 데이터나 사실을 근거로 설명해야 합니다.
3. 상황에 따라 다르게 하세요:
   • 평범한 일상: 친절하고 따뜻한 말투가 좋습니다.
   • 위급한 상황: 차분하고 간결한 말투에, 확실한 데이터 근거를 제시하는 것이 가장 좋습니다. (이때는 에너지 넘치는 말투는 오히려 방해가 될 수 있습니다.)

한 줄 요약:

"일상에서는 따뜻한 친구처럼, 위급할 때는 냉철한 전문가처럼" 행동하는 AI 가 노년층 사용자에게 가장 사랑받고 신뢰받는 비서입니다.

기술 요약

논문 개요

이 연구는 고령자를 위한 보조 환경 (Assistive Settings) 에서 대형 언어 모델 기반 음성 비서 (LLM-VA) 의 **성격 (Agreeableness, Extraversion)**과 **설명 유형 (Explanation Types)**이 사용자의 인식에 미치는 영향을 규명하기 위해 수행된 혼합 요인 실험 연구입니다. 특히 고령자가 AI 의 행동에 대해 설명을 요구할 때, AI 의 성격 특성이 공감, 신뢰, 의존도, 수용 의도 등에 어떻게 영향을 미치는지 분석했습니다.

1. 연구 문제 (Problem Statement)

• 배경: 미국 내 독거 고령자 1,600 만 명 중 상당수가 음성 비서 (VA) 를 통해 일상적인 알림, 건강 정보, 사회적 동반자 역할을 기대합니다. 최근 LLM 기반 VA 는 대화의 유연성과 적응력이 향상되었으나, 동시에 인간과 유사한 '성격'을 부여받도록 설계되고 있습니다.
• 문제점:
  • 기존 연구는 AI 설명의 '내용' (무엇을 설명할지) 에 집중했으나, '전달 방식' (어떤 성격으로 설명할지) 과 설명의 효과성 간의 상호작용은 미흡하게 연구되었습니다.
  • 고령자는 AI 를 정보 도구이자 인간적인 동반자로 동시에 인식하는 경향이 있어, AI 의 성격 (특히 친화성 Agreeableness 와 외향성 Extraversion) 이 설명을 어떻게 받아들이는지에 결정적일 수 있습니다.
  • 고위험 상황 (응급 상황) 과 일상 상황 (루틴 알림) 에서 성격과 설명 유형이 어떻게 다른 영향을 미치는지 명확하지 않았습니다.

2. 연구 방법론 (Methodology)

• 실험 설계: $4 \times 2 \times 2$ 혼합 요인 설계 (Mixed Factorial Design).
  • 피험자 간 요인 (Between-subjects): LLM-VA 의 성격 (4 가지 조건: 친화성 높음/낮음, 외향성 높음/낮음).
  • 피험자 내 요인 (Within-subjects):
    • 상황 (Context): 일상적인 루틴 알림 (Routine) vs. 응급 상황 알림 (Emergency).
    • 설명 유형 (Explanation Type):
      1. 대화 기록 기반 (UH, Conversational User History): 과거 대화, 선호도, 습관을 참조한 관계적 설명.
      2. 실시간 환경 데이터 기반 (ENV, Real-time Environmental): 센서, 스마트 기기 등 실시간 환경 신호를 참조한 사실적/증거 기반 설명.
• 참여자: 미국 내 고령자 140 명 (평균 연령 66.31 세).
• 자극물 (Stimuli):
  • 인터랙티브 스토리보드: 가상의 고령자 'Arthur'와 AI 'Robin'의 상호작용을 애니메이션과 오디오로 제공.
  • 성격 조작: Trait Modulation Keys (TMK) 프롬프팅 프레임워크를 사용하여 LLM 의 Big Five 성격 특성을 정밀하게 제어했습니다. (예: 친화성 높음은 정중하고 따뜻한 어조, 낮음은 직설적이고 무뚝뚝한 어조).
  • 음성: Cartesia Sonic-23 엔진을 사용하여 일관된 여성 목소리 (Jacqueline) 를 사용하되, 고령자의 이해를 돕기 위해 속도를 10% 감속했습니다.
• 측정 지표: 공감 (Empathy), 호감도 (Likeability), 신뢰 (Trust), 의존도 (Reliance), 만족도 (Satisfaction), 수용 의도 (Intention to Adopt),知性 지각 (Perceived Intelligence) 등 7 가지 척도.

3. 주요 결과 (Key Results)

A. 성격의 영향 (RQ1)

• 친화성 (Agreeableness):
  • 공감과 호감도 주도: 친화성이 높은 (HA) AI 는 공감과 호감도 점수가 유의미하게 높았습니다.
  • 부정적 영향: 친화성이 낮은 (LA) AI 는 모든 다른 조건에 비해 호감도에서 일관되게 낮은 점수를 받았습니다. 고령자 중 친화성 점수가 높은 사용자는 LA AI 를 특히 비판적으로 평가했습니다 (성격 불일치 효과).
  • 지성 지각: 성격 조작은 지성 (Intelligence) 지각에 영향을 주지 않았습니다. 즉, 성격은 '따뜻함'을 바꾸지만 '능력'에 대한 인식은 바꾸지 않습니다.
• 외향성 (Extraversion):
  • 주요 효과 부재: 외향성 자체는 주요 효과 (Omnibus effect) 를 보이지 않았습니다.
  • 조건부 효과: 외향성은 설명의 질에 따라 조건부로 작용했습니다. 특히 저외향성 (LE) 조건에서 실시간 환경 데이터 (ENV) 설명을 사용할 때 신뢰도와 수용 의도가 가장 크게 향상되었습니다.

B. 상황과 설명 유형의 영향 (RQ2)

• 설명 유형의 우위: 실시간 환경 데이터 (ENV) 기반 설명이 대화 기록 (UH) 기반 설명보다 7 가지 지표 중 5 가지에서 더 높은 평가를 받았습니다.
• 상황적 상호작용:
  • 응급 상황: ENV 설명이 UH 설명보다 모든 지표에서 압도적으로 우세했습니다. (실시간 센서 데이터가 위기 상황에서 신뢰를 줌).
  • 일상 상황: 두 설명 유형의 차이가 미미했습니다.
• 3 중 상호작용 (성격 × 상황 × 설명):
  • 신뢰 (Trust): 저외향성 (LE) AI 가 일상 상황에서 ENV 설명을 사용할 때 가장 높은 신뢰도를 기록했습니다. 이는 차분한 성격이 풍부한 증거 기반 설명과 결합될 때 최적의 신뢰를 형성함을 시사합니다.

C. 사용자 성격의 영향 (RQ3)

• 비대칭적 반응: 사용자의 친화성 점수가 높을수록, AI 가 친화성이 낮을 때 (LA) 호감도, 신뢰, 수용 의도 등을 크게 낮게 평가했습니다. 반면, AI 가 친화성이 높을 때는 사용자 성격과 무관하게 긍정적으로 평가했습니다.
• 외향성: 사용자의 외향성은 AI 의 성격과 무관하게 결과에 영향을 미치지 않았습니다.

4. 주요 기여 (Key Contributions)

1. 성격과 설명의 분리된 영향력 입증:
   • **공감 (Warmth)**은 성격 (특히 친화성) 에 의해 결정되지만, **지성 (Competence)**은 설명의 내용과 맥락 (상황) 에 의해 결정됨을 실증했습니다. 이는 '따뜻함 - 유능함' (Warmth-Competence) 이원론을 AI 설계 차원에서 입증한 것입니다.
2. 맥락 의존적 설명 효과성:
   • 설명의 효과는 상황에 따라 달라지며, 특히 고위험 (응급) 상황에서는 실시간 환경 데이터 (ENV) 기반 설명이 필수적임을 보였습니다.
3. 보상적 설계 메커니즘 발견:
   • 저외향성 (차분한) AI 는 풍부한 환경 데이터 설명과 결합될 때 오히려 높은 신뢰를 얻을 수 있음을 발견했습니다. 이는 성격이 부족할 때 설명의 질로 이를 보완할 수 있음을 의미합니다.
4. 고령자 대상 맞춤형 설계 가이드라인 제시:
   • 고령자의 특성과 보조 환경의 맥락을 고려한 구체적인 LLM-VA 설계 원칙을 제안했습니다.

5. 의의 및 시사점 (Significance & Design Implications)

이 연구는 고령자를 위한 AI 비서 설계에 다음과 같은 실질적인 지침을 제공합니다:

• DI1 (따뜻함 극대화): 공감과 호감도를 높이려면 **친화성 (Agreeableness)**을 최우선으로 설계해야 합니다. (예: 정중한 어조, 배려하는 표현).
• DI2 (유능함 극대화): 지성 지각을 높이려면 맥락에 맞는 설명을 제공해야 합니다. 일상에는 어떤 설명도 무방하나, **응급 상황에서는 실시간 센서 데이터 (ENV)**를 기반으로 한 사실적 설명이 필수적입니다.
• DI3 (신뢰 극대화): 저외향성 (차분한) 성격 + 풍부한 환경 데이터 설명의 조합이 가장 높은 신뢰를 형성합니다. 차분한 AI 가 구체적인 증거를 제시할 때 고령자는 가장 신뢰를 느낍니다.
• DI4 (독립적 채널 설계): '따뜻함 (성격)'과 '유능함 (설명)'은 독립적으로 설계 가능한 두 개의 채널입니다. 한 가지를 개선한다고 해서 다른 하나가 자동으로 개선되지 않으므로, 두 요소를 모두 고려한 설계가 필요합니다.

결론

이 연구는 LLM-VA 의 성격이 단순히 '친근함'을 넘어, 고령자의 AI 수용과 신뢰, 그리고 위기 상황에서의 의사결정에 결정적인 역할을 함을 보여주었습니다. 특히 친화성은 사회적 연결을, 설명의 맥락적 적합성은 신뢰와 유능함을 담당한다는 점을 명확히 하여, 고령자가 안전하게 '집에서 노후화 (Aging-in-place)'할 수 있는 AI 시스템 설계에 중요한 기여를 했습니다.