Impact of Different Failures on a Robot's Perceived Reliability

이 연구는 로봇의 다양한 실패 유형이 인간이 인지하는 신뢰도에 미치는 영향을 분석한 결과, 조작 실수나 정지보다 잘못된 객체 선택이나 목표 설정 같은 '실수'가 신뢰도에 덜 치명적이며, 그 후의 성공적인 수행이 신뢰 회복에 효과적임을 규명했습니다.

핵심

🤖 1. 실험의 설정: "로봇 주주"가 되어보세요

상상해 보세요. 여러분은 한 로봇 회사의 주주입니다. 로봇이 쓰레기통에 물병을 버리는 작업을 수행합니다.
연구자들은 여러분에게 "이 로봇이 다음에 성공할까, 아니면 동전 던지기 (50% 확률) 가 더 나을까?"라고 물으며 $2 를 걸게 했습니다.

• 로봇이 성공하면: 돈을 더 벌 수 있습니다.
• 로봇이 실패하면: $2 를 잃습니다.

이때, 여러분이 로봇에 돈을 걸었다는 것은 **"나는 이 로봇을 믿는다"**는 뜻이고, 동전 던지기를 선택했다면 **"이 로봇은 믿을 수 없다"**는 뜻입니다. 연구자들은 이 '돈을 거는 행동'을 통해 로봇에 대한 **신뢰도 (Perceived Reliability)**를 측정했습니다.

---

🚨 2. 로봇의 실수 세 가지 유형 (실패의 종류)

로봇이 실패하는 방식은 크게 세 가지로 나뉩니다. 마치 사람이 일을 할 때 실수하는 방식과 비슷합니다.

① 미끄러짐 (Slip) - "손이 미끄러져서"

• 상황: 로봇은 "물병을 들어야지"라고 생각했는데, 손 (그립퍼) 이 제대로 작동하지 않아 물병을 잡지 못하고 밀어버렸습니다.
• 비유: 마라톤 선수가 출발선에서 넘어져서 주저앉는 경우입니다. 계획은 완벽했는데, 몸이 따라주지 않았죠.
• 결과: 사람들은 가장 크게 실망했습니다. "로봇이 물리적으로 제 기능을 못 하는구나"라고 생각해서 신뢰도가 급락했습니다.

② 멍때리기 (Lapse) - "생각이 끊겨서"

• 상황: 로봇은 물병을 잡으러 갔다가 갑자기 멈춰서 15 초 동안 아무것도 안 했습니다.
• 비유: 친구가 대화 중 갑자기 멍하니 있다가 "아, 뭐라고?"라고 묻는 경우입니다. 계획은 있었지만, 그 순간 머리가 하얗게 된 거죠.
• 결과: 미끄러짐보다는 덜하지만, 여전히 신뢰도가 많이 떨어졌습니다. "로봇이 멈추는 건 무언가 큰 문제가 있는 거야"라고 생각했기 때문입니다.

③ 착각 (Mistake) - "계획 자체가 틀려서"

• 상황: 로봇은 물병이 아니라 다른 물건을 집어 쓰레기통에 버렸습니다. (예: 물병 대신 스테이플러나 마커를 버림)
• 비유: 요리사가 "소금"을 넣으라고 했는데, 실수로 "설탕"을 넣은 경우입니다. 손재주는 좋지만, 무엇을 해야 할지 잘못 이해한 거죠.
• 결과: 놀랍게도 사람들은 가장 덜 실망했습니다. 오히려 "로봇은 물건을 집고 버리는 능력은 있는 것 같아"라고 생각해서 신뢰도가 크게 떨어지지 않았습니다.
  • 참고: 만약 로봇이 물병을 쓰레기통이 아니라 '컵'에 넣었다면 신뢰도가 조금 더 떨어졌지만, 그래도 '미끄러짐'보다는 나았습니다.

---

🔄 3. 가장 중요한 발견: "다시 성공하면 용서받는다"

이 연구의 가장 놀라운 결론은 **회복 (Recovery)**에 관한 것입니다.

• 상황: 로봇이 먼저 실패했다가 (실수), 바로 이어 성공을 보여줬습니다.
• 결과: 사람들은 실패가 있었는지조차 잊어버린 듯 다시 로봇을 믿었습니다.
• 비유: 친구가 약속 시간에 늦었다가 (실패), 도착하자마자 "미안해, 지금부터 최선을 다할게"라고 말하며 일을 잘 해냈다면 (성공), 우리는 그 친구를 다시 믿고 함께 일합니다.

로봇이 사과를 하거나 변명할 필요도 없었습니다. 단순히 "성공적인 작업"을 보여주기만 해도 사람들의 신뢰는 실패 전 수준으로 빠르게 돌아왔습니다.

---

💡 4. 요약: 우리에게 주는 교훈

이 연구는 로봇을 만들거나 로봇과 함께 일할 때 중요한 두 가지를 알려줍니다.

1. 실수의 종류가 다릅니다: 로봇이 "몸이 고장 난 것 (미끄러짐)"이나 "멈춰버린 것 (멍때리기)"은 사람들이 가장 싫어합니다. 하지만 "무엇을 해야 할지 잘못 이해한 것 (착각)"은 상대적으로 용서받기 쉽습니다.
2. 성공이 최고의 사과입니다: 로봇이 실수했을 때, 화려한 사과나 설명보다 바로 다음에 일을 잘 해내는 것이 신뢰를 회복하는 가장 확실한 방법입니다.

결론적으로, 로봇이 실수를 해도 괜찮습니다. 다만, 그 실수가 "몸이 고장 난 것"처럼 보이지 않게 하고, 실수 후 빠르게 성공을 보여주면 사람들은 로봇을 다시 믿고 함께 일할 준비가 됩니다.

기술 요약

이 논문은 인간 - 로봇 상호작용 (HRI) 에서 로봇의 다양한 실패 유형이 사용자의 **지각된 신뢰도 (Perceived Reliability, PR)**에 미치는 영향과, 명시적인 사회적 복구 행동 (예: 사과, 설명) 없이 로봇이 성공을 통해 신뢰를 회복하는 방식을 연구한 것입니다.

다음은 논문의 기술적 요약입니다.

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 로봇이 물류, 제조, 서비스 등 다양한 분야에서 인간과 협업하며 사용됨에 따라, 소프트웨어/하드웨어 한계 및 환경 상호작용으로 인한 실패는 불가피합니다.
• 문제: 로봇의 실패는 사용자의 신뢰 (Trust) 와 밀접한 관련이 있는 '지각된 신뢰도 (PR)'를 저하시킵니다. 그러나 모든 실패가 동일한 영향을 미치는지, 그리고 어떤 실패 유형이 가장 치명적인지, 또한 성공적인 수행이 실패 후 신뢰를 어떻게 회복시키는지에 대한 체계적인 이해가 부족합니다.
• 연구 질문:
  1. 슬립 (Slip), 실수 (Mistake), 랩스 (Lapse) 등 서로 다른 실패 유형이 로봇의 PR 에 미치는 영향은 어떻게 다른가?
  2. 실패 후 성공적인 수행이 이루어질 경우, PR 에 미치는 영향은 어떻게 변하는가?

2. 연구 방법론 (Methodology)

• 실험 설계: 사전 등록 (Pre-registered) 된 통제된 온라인 비디오 연구입니다.
• 참가자: 326 명 (18~78 세, 중앙값 37 세) 의 참가자가 Prolific 플랫폼을 통해 모집되었습니다.
• 과제: 로봇 팔이 일회용 플라스틱 물병을 쓰레기통에 넣는 '픽 앤 플레이스 (Pick-and-place)' 작업.
• 실험 조건 (11 가지): 참가자들은 무작위로 다음 중 하나의 비디오를 보게 됩니다.
  1. 실패 조건 (5 가지):
     • Slip (미끄러짐): 계획은 올바르지만 기계적 실행 실패 (그립퍼가 열리지 않음).
     • Lapse (정지/지체): 계획은 올바르지만 실행 중 진행이 멈춤 (15 초간 정지).
     • Mistake (실수 - 3 가지 유형): 계획이 잘못됨.
       • Thermos: 텀블러를 쓰레기통에 넣음.
       • Stapler: 스테이플러를 쓰레기통에 넣음.
       • Marker: 마커를 머그컵에 넣음.
  2. 실패 + 성공 조건 (5 가지): 위의 실패 유형 중 하나가 발생한 후, 같은 비디오 내에서 로봇이 즉시 성공적으로 작업을 완료함.
  3. 성공 조건: 실패 없이 처음부터 성공적으로 작업을 완료함.
• 측정 지표 (PR 측정):
  • 금전적 베팅 (Monetary Betting): 각 비디오 시청 전후로 참가자는 로봇의 성공 여부 (50% 확률의 동전 던지기 대안) 에 $2 를 베팅했습니다.
  • 지각된 신뢰도 (PR) 점수: '부호화된 자신감 (Signed Confidence)'을 사용했습니다. (로봇 선택 = +1, 동전 선택 = -1) × (1~5 점의 자신감 점수). 이는 -5(동전 확신) 에서 +5(로봇 확신) 사이의 11 점 척도로 변환됩니다.
  • 데이터 수집: 비디오 시청 전후의 베팅 변화 ($\Delta_{1 \to 2} PR$) 를 분석하여 실패의 영향을 정량화했습니다. 또한, 참가자의 개방형 응답에 대한 친화도 다이어그램 (Affinity Diagramming) 을 통해 질적 분석을 수행했습니다.

3. 주요 결과 (Key Results)

• 실패 유형에 따른 영향 차이:
  • 가장 치명적인 실패: **Slip (기계적 실행 실패)**과 **Lapse (정지)**가 PR 을 가장 크게 감소시켰습니다 (Slip: -3.40, Lapse: -2.46). 이는 로봇의 물리적 능력에 대한 심각한 결함으로 인식됨을 시사합니다.
  • 상대적으로 덜 치명적인 실패: **Mistake (계획 오류)**는 PR 에 미치는 부정적 영향이 적었습니다. 특히 텀블러를 쓰레기통에 넣는 실수는 PR 변화가 거의 없었으며 (+0.19), 스테이플러 실수도 미미한 감소 (-0.67) 에 그쳤습니다.
  • 실수 유형 간 차이: 마커를 머그컵에 넣는 실수는 다른 실수보다 PR 감소 (-1.68) 가 컸습니다. 이는 '목표 위치 (Place)'의 오류가 '대상물 (Object)'의 오류보다 더 심각하게 인식될 수 있음을 시사합니다.
• 성공의 회복 효과 (Recovery):
  • 실패 직후 성공적인 수행이 이루어지면, PR 은 실패 없이 처음부터 성공한 경우와 통계적으로 구별되지 않을 정도로 회복되었습니다.
  • 실패 유형 (Slip, Lapse, Mistake) 이 무엇이든, 로봇이 결국 작업을 성공적으로 완료하면 사용자는 신뢰를 회복하는 경향이 있었습니다.
  • 이는 명시적인 사회적 복구 행동 (사과 등) 없이도, 물리적 성공 (Physical Success) 자체가 강력한 신뢰 복구 전략임을 보여줍니다.
• 지속성: 실패 후 두 번의 성공 비디오를 본 후, 참가자들의 PR 점수는 초기 기준선 (Baseline) 을 상회하거나 회복되었습니다.

4. 주요 기여 (Key Contributions)

1. 실패 유형별 차별적 영향 규명: 로봇 실패가 모두 동일하게 신뢰를 떨어뜨리는 것이 아니며, 물리적 실행 실패 (Slip/Lapse) 가 계획 오류 (Mistake) 보다 사용자에게 더 큰 신뢰 손실을 준다는 것을 실증했습니다.
2. 물리적 신뢰 복구 전략의 유효성 증명: 사회적 개입 없이 로봇이 실패 후 즉시 성공을 보여줌으로써 신뢰를 회복할 수 있음을 입증했습니다. 이는 로봇 설계 시 '실패 후 재시도 성공'이 중요한 복구 메커니즘임을 시사합니다.
3. 사용자 인식의 미묘한 차이 발견: 사용자는 로봇의 '인지적 능력 (계획/이해)'과 '물리적 능력 (구현)'을 다르게 평가하며, 특정 실수 (예: 올바른 장소에 잘못된 물건을 넣음) 는 부분적인 능력으로 간주될 수 있음을 발견했습니다.

5. 의의 및 의의 (Significance)

• HRI 설계 가이드라인: 로봇 개발자는 모든 실패를 동일하게 처리할 필요가 없습니다. 특히 Slip과 Lapse와 같은 물리적 실패는 즉각적인 복구 전략이 필요하지만, Mistake와 같은 계획 오류는 로봇이 곧바로 성공을 보여준다면 사용자의 신뢰가 쉽게 회복될 수 있으므로 덜 긴급할 수 있습니다.
• 신뢰 회복 메커니즘: 복잡한 사회적 행동 (사과, 설명) 없이도 로봇이 작업을 성공적으로 완수하는 것만으로도 신뢰를 회복할 수 있음을 보여줌으로써, 로봇의 자율성과 효율성을 높이는 데 기여합니다.
• 향후 연구 방향: 로봇의 '의도 (Motivation)'와 '능력 (Ability)'에 대한 인간의 해석, 그리고 물리적 실패와 인지적 실패에 대한 사용자의 인식 차이를 이해하는 것이 향후 신뢰 기반 HRI 설계의 핵심임을 강조합니다.

결론적으로, 이 연구는 로봇의 실패 유형을 세분화하여 분석함으로써, 어떤 실패가 사용자의 신뢰에 가장 큰 타격을 주는지와 성공적인 수행이 어떻게 신뢰를 회복시키는지 대한 실증적 근거를 제공했습니다. 이는 인간과 로봇이 함께 작업하는 환경에서 더 안전하고 신뢰할 수 있는 로봇 시스템을 설계하는 데 중요한 통찰을 줍니다.