Designing Social Robots with Ethical, User-Adaptive Explainability in the Era of Foundation Models

1. 문제 제기 (Problem)

사회적 로봇 분야는 규칙 기반 시스템이나 좁게 훈련된 모델에서 기초 모델 (Foundation Models, FM), 특히 대규모 언어 모델 (LLM) 과 시맨틱 - 비주얼 모델 (VLM) 로의 전환을 겪고 있습니다. 이러한 모델은 로봇이 개방형 언어를 생성하고, 맥락을 추론하며, 실시간으로 행동을 적응하게 합니다. 그러나 이 전환은 다음과 같은 심각한 문제를 야기합니다.

• 일반화된 설명의 한계: 기존 HRI(인간 - 로봇 상호작용) 연구는 "일괄 적용 (one-size-fits-all)" 방식의 설명 전략을 사용했습니다. 하지만 기초 모델은 방대하고 이질적이며 불투명한 데이터로 훈련되었기 때문에, 생성된 행동에 대한 설명이 사용자의 다양성 (능력, 선호도, 문화적 배경, 정서적 상태) 을 반영하지 못하고 표면적이고 일반화된 서사로 남게 됩니다.
• 윤리적 위험: 적응과 설명이 모두 기초 모델에 의해 매개될 때, 모델의 편향 (Normative bias) 이 사용자에게 전파될 수 있습니다. 예를 들어, 신경다양성 (neurodivergence) 을 가진 사용자의 행동을 결함으로 해석하거나, 소수 집단을 배제하는 방식으로 적응할 수 있습니다.
• 불투명성: 기초 모델의 내부 작동 원리는 불투명하며, 어떻게 적응이 이루어지는지, 왜 특정 설명이 생성되었는지에 대한 명확한 근거를 제공하기 어렵습니다.

2. 방법론 및 분석 프레임워크 (Methodology & Analysis)

이 논문은 새로운 기술적 해결책을 제안하기보다, 문제 공간 (Problem Space) 을 매핑하고 연구 의제를 설정하는 데 중점을 둡니다.

• 개방적 도전 과제 식별: 기초 모델 기반 사회적 로봇의 적응형 설명 가능성 (User-Adaptive Explainability) 에 있어 세 가지 주요 도전을 분석합니다.
  1. 사전 훈련 편향과 불일치: 인터넷 규모의 데이터로 훈련된 모델이 특정 상황의 HRI 맥락에서 사용자의 기대와 불일치할 수 있음.
  2. 일괄 적용 설명의 지속: 사용자의 배경이나 정신 모델을 반영하지 못하는generic(일반적) 설명이 우세함.
  3. 적응 메커니즘의 불투명성: 다양한 사용자에게 설명을 개인화하면서도 모델의 행동을 충실히 반영하고 투명성을 유지하는 방법의 부재.
• 윤리적 관점 분석: 인지적 (Cognitive), 인식론적 (Epistemic), 제도적 (Institutional) 세 가지 관점에서 윤리적 위험을 규명합니다.
  • 인지적: 로봇이 사용자의 심리 상태를 오해하여 편향된 적응을 수행할 위험 (예: 신경다양성 사용자를 병리화).
  • 인식론적: 지배적인 지식 체계만 강조하여 비주류의 지식과 표현 방식을 배제하는 위험.
  • 제도적: 개발자가 모델의 '중립성'을 핑계로 책임을 회피하고, 소수 집단에 해가 집중되는 구조적 불평등 심화.

3. 주요 기여 및 제안 (Key Contributions & Recommendations)

저자들은 기초 모델 기반 사회적 로봇 설계의 핵심 원칙으로 윤리적 사용자 적응형 설명 가능성을 제안하며, 이를 실현하기 위한 4 가지 구체적인 권장 사항을 제시합니다.

1. 모달리티 및 사용자 인식 설명 전략 설계 (Design modality- and user-aware explanation strategies):
   • 사용자의 능력과 선호도에 따라 텍스트, 시각, 비언어적 단서 (시선, 제스처) 등 설명 채널을 동적으로 선택하고 조합해야 함. (예: 발달 언어 장애 아동에게는 시각적 보조 자료와 단순한 텍스트 사용, 시각 장애 사용자에게는 음성 설명 제공).
2. 공설계 (Co-design) 를 통한 설명 요구 및 적응 기준 도출 (Employ co-design):
   • 로봇이 어떻게 행동을 설명하고, 어떤 윤리적 요소를 고려하며, 어떻게 적응할 것인지를 최종 사용자 (특히 소외된 집단) 와 전문가가 함께 설계해야 함. 이는 설계자의 가정을 넘어 사용자의 인지적, 정서적, 인식론적 관점을 반영합니다.
3. 사용자 선호도와 기술적 실현 가능성의 균형을 맞춘 계층적 적응 (Integrate layered adaptation):
   • 모든 사용자를 위한 개별 미세 조정 (per-user fine-tuning) 이 기술적, 윤리적으로 불가능할 수 있으므로, 계층적 적응 전략을 사용해야 함.
   • 유사 사용자 그룹 (연령대, 접근성 필요 등) 에 대한 전이 학습 (Transfer learning) 을 초기 기반으로 삼고, 파라미터 효율적 기술 (LoRA 등) 을 통해 데이터가 축적됨에 따라 점진적으로 세분화된 개인화를 수행.
4. 무분별한 확장보다는 작고 공정한 데이터셋 우선 (Prioritise smaller, fairer datasets):
   • "큰 모델, 큰 데이터" 패러다임은 편향을 증폭시킬 수 있음. 기초 모델과 공설계된 소규모 큐레이션 데이터셋을 결합하여 소외된 사용자를 강조하고, 설명의 효과성과 윤리적 기반을 강화해야 함.

4. 사례 연구 및 적용 (Illustrative Use Case)

이론적 권장 사항을 구체화하기 위해 LLM 기반 사회적 보조 로봇 (Socially Assistive Robot) 시나리오를 제시합니다.

• 상황: 학교, 요양원, 임상 환경에서 다양한 능력과 배경 (장애인, 노년층, LGBTQ+, 원주민 등) 을 가진 사용자를 지원.
• 적용:
  • R1 (모달리티): 아동이나 발달 장애 사용자에게는 시각적 보조가 포함된 간결한 설명을, 노년층에게는 텍스트/음성 기반의 논리를 제공.
  • R2 (공설계): 전문가 및 사용자와 함께 설명의 시기, 상세도, 모달리티를 공동으로 정의.
  • R3 (계층적 적응): 모든 학생/환자별 모델을 만드는 대신, '연령대'나 '접근성 요구' 단위로 초기 적응을 수행한 후 피드백을 통해 정교화.
  • R4 (데이터): 편향된 대규모 데이터 대신, 관련 커뮤니티와 함께 설계된 소규모 데이터셋으로 설명 전략을 검증 및 제한.

5. 결과 및 논의 (Results & Discussion)

논문의 결론은 기술적 솔루션을 제시하는 것이 아니라, **미래 연구 의제 (Research Agenda)**를 설정하는 데 있습니다.

• 과도한 신뢰 (Over-trust) 위험: 적응형 설명이 로봇의 능력을 과장하여 사용자에게 잘못된 신뢰를 심어줄 수 있음. 특히 LLM 이 유창한 언어를 생성할 때, 패턴 매칭에 불과한 것을 깊은 이해로 오인하게 할 위험이 큼.
• 설명 불필요성: 모든 상황에서 설명이 필요한 것은 아님. 단순한 작업이나 높은 인지 부하 상황에서는 설명이 오히려 방해가 될 수 있으므로, 필요에 따른 설명 (on-demand) 및 설명의 깊이 조절 메커니즘이 필요함.
• 윤리적 적응의 핵심: 시스템이 신뢰할 수 있는 범위 내에서만 설명을 생성하고, 불확실성과 능력의 한계를 명확히 표시해야 함.

6. 의의 (Significance)

이 논문은 기초 모델이 사회적 로봇에 통합되는 시대에 설명 가능성 (Explainability) 이 단순한 기술적 기능이 아닌 핵심 윤리적 설계 목표여야 함을 강력히 주장합니다.

• 윤리적 프레임워크: 편향, 불평등, 책임 소재 모호함 등 기초 모델이 가져오는 새로운 윤리적 도전을 체계적으로 분류했습니다.
• 설계 패러다임 전환: "일괄 적용"에서 "사용자 적응형"으로, "대규모 데이터"에서 "공설계된 소규모 데이터"로의 설계 패러다임 전환을 요구합니다.
• 미래 연구 방향: 사회적 로봇이 다양한 사회적 맥락에서 공정하고 투명하게 작동할 수 있도록, 적응형 설명 생성의 기술적, 윤리적 기준을 마련하는 데 기여합니다.

요약하자면, 이 논문은 기초 모델의 강력한 적응 능력을 활용하면서도, 그로 인해 발생할 수 있는 윤리적 해악을 방지하기 위해 사용자 중심의 공설계, 계층적 적응, 그리고 윤리적으로 검증된 데이터를 기반으로 한 새로운 설명 가능성 프레임워크를 제시합니다.