A Causal Approach to Predicting and Improving Human Perceptions of Social Navigation Robots

이 논문은 제한된 데이터와 해석 가능성이라는 과제를 해결하기 위해 인과적 베이지안 네트워크를 도입하여 로봇의 사회적 항해 행동을 예측하고, 이를 기반으로 반사실적 모션을 생성하여 사용자의 로봇 유능성 인식을 통계적으로 유의미하게 향상시키는 방법을 제안합니다.

핵심

🤖 1. 문제 상황: 로봇이 "멍청해 보이는" 순간

생각해 보세요. 박물관에서 안내 로봇이 당신을 데리고 가는데, 갑자기 목적지를 향해 가지 않고 벽을 향해 돌거나, 갑자기 멈춰서 빙글빙글 도는 경우가 있습니다. 이때 사람들은 로봇을 보고 **"이 로봇, 제정신인가?", "역할을 못 하는구나"**라고 생각하게 됩니다.

기존의 로봇들은 이런 상황을 모릅니다. 그냥 "목적지까지 가자"라고만 계산할 뿐, **"사람들이 나를 보고 뭐라고 생각할까?"**는 전혀 고려하지 않죠.

🕵️‍♂️ 2. 기존 방법의 한계: "단순한 추측" vs "진짜 이유 찾기"

기존의 인공지능 (머신러닝) 은 방대한 데이터를 보고 **"사람들이 로봇을 칭찬할 때, 로봇은 보통 A 라는 행동을 했다"**는 **패턴 (연관성)**만 기억합니다.

• 비유: 마치 "비 오는 날에는 우산을 들고 다니는 사람이 많다"는 사실을 기억하는 것과 같아요. 하지만 "우산을 들고 다니니까 비가 온다"라고 착각할 수도 있죠.
• 문제점: 로봇이 "사람이 가까이 오니까 칭찬을 많이 받네? 그럼 사람한테 더 가까이 가자!"라고 생각하면, 오히려 사람이 놀라서 싫어할 수 있습니다. 이는 원인과 결과를 혼동한 것입니다.

🌳 3. 이 연구의 핵심: "인과 관계 나무" (Causal Bayesian Network)

이 연구팀은 로봇에게 **"왜 사람들이 나를 싫어하는지 그 진짜 이유"**를 이해시키는 **인과 관계 지도 (Causal Bayesian Network)**를 만들었습니다.

• 비유: 기존의 로봇은 "운전면허 시험 문제집을 외운" 학생이라면, 이 연구의 로봇은 "운전 원리를 이해한" 수석 운전사입니다.
  • "사람이 싫어하는 이유는 내가 목적지를 향해 가지 않고 빙글빙글 돌기 때문이야!"
  • "아, 그렇다면 빙글빙글 돌지 않고 곧장 가거나, 천천히 방향을 틀어야겠구나!"

이 지도를 통해 로봇은 **"내가 지금 어떤 행동을 하면 사람들이 나를 '유능하다'고 생각할까?"**를 논리적으로 추론할 수 있게 됩니다.

🛠️ 4. 해결책: "만약에 (Counterfactual)" 시뮬레이션

로봇이 "아, 지금 내가 하면 사람들이 나를 멍청하다고 생각할 것 같다"라고 판단하면, 바로 행동을 바꿉니다.

• 비유: 요리사가 "이 요리는 너무 짜서 사람들이 싫어할 거야"라고 생각하면, "만약에 소금을 덜 넣고 물을 더 넣으면 어떨까?"라고 상상하며 최고의 레시피를 찾아냅니다.
• 실제 작동: 로봇은 "만약에 내가 벽을 피해서 돌아서 간다면?", "만약에 천천히 방향을 틀고 간다면?"이라는 수천 가지의 대안 시나리오를 순식간에 시뮬레이션합니다. 그리고 그중에서 사람들이 가장 '유능해 보일' 행동을 선택해서 실행합니다.

📊 5. 실험 결과: "로봇이 83% 더 똑똑해 보였다!"

연구팀은 실제 사람들과 가상 현실 (VR) 에서 실험을 했습니다.

• 결과: 로봇이 이 방법을 써서 행동을 고치자, 사람들이 로봇을 "유능하다"고 평가한 비율이 무려 83%나 증가했습니다.
• 의미: 로봇이 똑똑한 행동을 할 필요는 없었습니다. 사람들이 보기 좋게 행동을 조금만 수정해도, 로봇에 대한 신뢰가 급격히 높아진 것입니다.

💡 6. 요약: 왜 이 연구가 중요한가요?

이 연구는 로봇이 단순히 "일"을 잘하는 것을 넘어, **사람들과의 관계 (사회적 상호작용)**를 잘 맺는 방법을 제시합니다.

• 기존: 로봇은 "내가 목적지에 도착했어"라고만 생각합니다.
• 이 연구: 로봇은 "사람들이 나를 보고 '저 로봇은 정말 잘한다'고 생각하게 하려면, 어떻게 움직여야 할까?"라고 생각합니다.

마치 매너가 좋은 사람은 상대방의 기분을 고려해 행동을 바꾸는 것처럼, 이 로봇은 사람들의 마음을 읽는 (Theory of Mind) 능력을 갖추어 더 안전하고 친근한 사회로 나아갈 수 있게 해줍니다.

---

한 줄 요약:

"로봇이 사람들이 자신을 어떻게 볼지 '원인'을 분석하고, 더 좋아 보일 수 있는 '대안 행동'을 스스로 찾아내어, 사람들과 더 잘 어울리게 만든 연구입니다."

기술 요약

논문 요약: 사회적 항법 로봇에 대한 인간 인식 예측 및 개선을 위한 인과적 접근

1. 문제 정의 (Problem)

이동 로봇이 인간의 환경에 점점 더 많이 배치됨에 따라, 로봇이 인간에게 어떻게 인식될지 (유능함, 의도 명확성 등) 예측하는 것은 사회적 적응형 항법을 위해 필수적입니다. 그러나 기존 접근 방식에는 두 가지 주요 한계가 존재합니다.

• 데이터 부족: 인간 - 로봇 상호작용 (HRI) 데이터는 수집 비용이 많이 들고 시간이 오래 걸려 머신러닝 표준에 비해 데이터 양이 매우 적습니다.
• 해석 가능성 및 인과성 부재: 기존 지도 학습 모델 (예: 랜덤 포레스트, 신경망) 은 관찰된 특징 간의 '상관관계 (association)'만 학습합니다. 이는 가짜 상관관계 (spurious correlations) 에 취약하며, 로봇의 행동을 변경하여 인간의 인식을 개선하려는 '개입 (intervention)' 시에는 잘못된 결론을 내릴 수 있습니다. 또한, 이러한 블랙박스 모델은 로봇이 왜 실패했는지 설명하거나 제어 가능한 요인을 식별하는 데 한계가 있습니다.

2. 방법론 (Methodology)

저자들은 인간의 인식을 예측하고 로봇 행동을 개선하기 위해 인과 베이지안 네트워크 (Causal Bayesian Network, CBN) 와 이를 활용한 반사실적 (counterfactual) 행동 생성 방법을 제안합니다.

• 인과 베이지안 네트워크 (CBN) 구축:

  • 구조: 로봇의 궤적, 회전, 목표와의 거리 변화, 인간과의 거리 변화 등 환경적 단서를 노드로 정의하고, 이들이 로봇의 '유능함 (Competence)'과 '의도 명확성 (Intention)'에 미치는 인과 관계를 그래프로 모델링합니다.
  • 데이터 전처리: 시계열 데이터 (8 초 간격) 를 처리하기 위해 클러스터링 (K-means) 을 적용하여 궤적 패턴을 이산화 (discretization) 했습니다. 이를 통해 연속적인 시간 데이터를 CBN 이 처리 가능한 범주형 변수로 변환했습니다.
  • 변수 선택: 모델의 복잡도를 줄이고 해석 가능성을 높이기 위해 자율 보행자나 벽과 같은 환경 변수는 제외하고, 로봇의 회전 및 위치 변화에 집중했습니다.

• 반사실적 행동 생성 (Counterfactual Behavior Generation):

  • CBN 을 통해 현재 로봇 행동이 '낮은 유능함'으로 예측될 경우, 알고리즘은 조합 탐색 (Combinatorial Search) 을 수행합니다.
  • 최소 변화 원칙 (Occam's Razor): 현재 상태에서 유능한 행동으로 전환하기 위해 필요한 최소한의 변수 변경 (예: 로봇 회전 각도나 이동 방향의 미세 조정) 을 찾습니다.
  • 탐색 알고리즘: 너비 우선 탐색 (BFS) 을 사용하며, 학습 데이터에서 충분히 관찰된 (Threshold $m=5$) 패턴만 선택하여 희귀하거나 일반화되지 않은 행동을 필터링합니다.
  • 목표: 유능함 확률이 임계값 ($\epsilon=0.9$) 을 초과하는 새로운 궤적 파라미터를 찾아 로봇이 이를 실행하도록 유도합니다.

3. 주요 기여 (Key Contributions)

1. 해석 가능한 CBN 모델: 로봇 항법 시 인간의 '유능함'과 '의도 이해도'를 예측하는 최초의 인과 모델입니다. 기존 상관관계 기반 모델보다 데이터 효율성이 높고, 실패 원인을 설명할 수 있습니다.
2. 반사실적 궤적 생성 방법: 낮은 유능함이 예측될 때, CBN 을 가이드로 하여 인간이 더 잘 받아들일 수 있는 대체 로봇 행동을 자동으로 생성하는 새로운 알고리즘을 제안했습니다.
3. 사용자 연구를 통한 검증: 온라인 사용자 연구를 통해 생성된 반사실적 행동이 실제로 로봇의 지각된 유능함을 통계적으로 유의미하게 향상시켰음을 입증했습니다.

4. 실험 결과 (Results)

• 예측 성능: SEAN Together 데이터셋을 사용하여 Leave-One-Out Cross-Validation (LOOCV) 을 수행했습니다.
  • 유능함 (Competence): F1 점수 0.78, 정확도 0.835 (기존 최첨단 랜덤 포레스트 모델 대비 성능 향상).
  • 의도 (Intention): F1 점수 0.75, 정확도 0.788.
  • 기존 블랙박스 모델보다 성능이 우수하거나 동등하면서도 해석 가능성이 뛰어났습니다.
• 사용자 연구 (Online User Study):
  • H1 (모델이 낮은 유능함을 정확히 예측한 경우): 생성된 반사실적 행동은 원래 행동보다 유능함 점수가 83% 향상되었습니다 (1.96 → 3.59).
  • H2 (모델이 낮은 유능함을 잘못 예측한 경우, 즉 원래는 괜찮았으나 모델이 잘못 판단한 경우): 생성된 행동은 원래 행동보다 유능함 점수가 27% 향상되었습니다 (2.69 → 3.42).
  • 이는 모델이 초기 판단을 잘못하더라도 생성된 행동이 인간에게 더 긍정적으로 받아들여질 수 있음을 시사합니다.

5. 의의 및 결론 (Significance & Conclusion)

이 연구는 HRI 분야에서 인과적 추론 (Causal Reasoning) 의 중요성을 강조합니다. 단순한 상관관계 분석을 넘어, 로봇이 "왜" 인간에게 부정적으로 인식되는지 인과적으로 파악하고, 이를 해결하기 위한 구체적인 행동 (궤적) 을 제안할 수 있음을 보여줍니다.

• 안전성과 신뢰성: 로봇이 인간에게 유능하고 의도가 명확하게 인식되도록 행동을 조정함으로써 사회적 수용성을 높입니다.
• 데이터 효율성: 제한된 HRI 데이터에서도 도메인 지식을 구조에 반영하여 CBN 을 구축함으로써 데이터 부족 문제를 해결했습니다.
• 미래 전망: 생성된 궤적을 실제 로봇의 모션 플래너에 통합하고, 대규모 언어 모델 (LLM) 을 활용하여 인과 그래프 구조를 자동화하는 등의 후속 연구가 가능합니다.

결론적으로, 이 논문은 로봇이 인간의 심리를 이해하고 (Theory of Mind), 이를 바탕으로 자신의 행동을 스스로 수정하여 인간과의 상호작용 품질을 높이는 새로운 패러다임을 제시합니다.