How Users Understand Robot Foundation Model Performance through Task Success Rates and Beyond

기술 요약: 사용자가 작업 성공률과 그 너머를 통해 로봇 파운데이션 모델의 성능을 이해하는 방식

문제 정의
로봇 파운데이션 모델(RFM)은 임의의 작업을 수행할 수 있는 범용 홈 로보틱스를 약속합니다. 그러나 비전문가 사용자가 모델이 명시적으로 학습하거나 평가하지 않은 새로운 작업(novel tasks)을 요청할 때, 성능 지표를 어떻게 해석하는지에 대해서는 중요한 간극이 존재합니다. 작업 성공률(Task Success Rate, TSR)은 RFM을 평가하는 표준 지표이지만, 초보자들이 이 확률적 데이터를 의도된 대로 해석하는지는 불분명합니다. 또한, 물리적 환경에서 실패의 비용이 높기 때문에 사용자는 로봇이 성공할지 여부뿐만 아니라, 어떻게 실패할 수도 있는지까지 이해해야 합니다. 현재의 평가는 실패 모드에 대한 투명성이 부족한 경우가 많으며, 이는 예상치 못한 실패와 신뢰 저하로 이어질 수 있습니다. 본 논문은 비로봇 전문가들이 TSR, 실패 사례 설명, 그리고 실제 과거 데이터와 내부 성능 추정치 사이의 상호작용에 초점을 맞추어 RFM 성능 정보를 어떻게 해석하는지 조사합니다.

연구 방법론
저자들은 RFM 성능 데이터에 대한 사용자 해석을 평가하기 위해 두 부분으로 구성된 연구를 수행했습니다.

1. 온라인 연구 (n=112): 참가자들에게 세 가지 공개된 RFM 연구 프로젝트(OpenVLA, Baku, Multimodal Diffusion Transformer)의 실제 평가 데이터를 16가지의 서로 다른 조작 작업과 함께 제시했습니다. 본 연구는 네 가지 정보 유형을 다양한 조합으로 제시하는 피험자 내 설계(within-subjects design)를 채택했습니다:

   • 추정 작업 성공률 (Estimated Task Success Rate, ETSR): 요청된 작업에 대한 로봇의 내부 성공 확률 추정치.
   • 추정 실패 사례 (Estimated Failure Case, EFC): 요청된 작업에서 발생할 가능성이 가장 높은 실패 모드에 대한 자연어 설명.
   • 관련 작업 - 작업 성공률 (Related Task - Task Success Rate, RT-TSR): 사용자의 요청과 "유사하다"고 판단된 작업으로부터 얻은 과거의 TSR 데이터.
   • 관련 작업 - 실패 사례 (Related Task - Failure Case, RT-FC): 유사한 작업으로부터 얻은 과거의 실패 설명.

   참가자들은 작업 비디오(실제 성공/실패율을 반영하도록 샘플링됨)를 보기 전과 본 후에 신뢰도, 편안함, 정보 충분성을 평가했습니다.

2. 대면 연구 (n=14): 체현(embodiment)의 효과를 조사하기 위해, 참가자들은 대학교 로비에서 키노바 젠3 라이트(Kinova Gen3 Lite) 로봇이 수프 통 배치 작업을 자율적으로 시도하는 것을 관찰했습니다. 참가자들에게는 동일한 네 가지 정보 유형이 제공되었으며, 가정 환경에서의 로봇 유용성과 신뢰성을 평가하도록 요청받았습니다.

주요 기여
본 논문은 세 가지 주요 기여를 합니다:

1. TSR 해석의 검증: 본 연구는 비전문가 사용자가 전문가의 기대와 일치하는 방식으로 TSR을 해석한다는 것을 실증적으로 검증했습니다. 보고된 TSR 값과 사용자가 보고한 시스템에 대한 신뢰 및 확신 사이에는 강력한 양의 상관관계가 존재합니다.
2. 실패 정보의 가치: 저자들은 실패 사례에 대한 자연어 설명이 비전문가들에게 매우 가치 있다는 것을 입증했습니다. 이러한 설명은 사용자가 위험을 이해하고 잠재적 실패에 대비하는 데 도움을 주며, 이는 RFM 평가에서 실패 사례 보고를 표준화할 필요성을 시사합니다.
3. 실제 데이터와 추정치의 이중 필요성: 본 연구는 사용자들이 (현실에 근거한) 유사 작업의 실제 과거 데이터와 새로운 작업에 대한 로봇 자신의 추정치를 모두 원한다는 점을 강조합니다. 이는 RFM이 방대한 평가 이력에 접근할 수 있어야 하며, 테스트되지 않은 작업에 대한 성능을 정확하게 추정할 수 있는 능력을 갖추어야 함을 시사합니다.

결과

• 정보 충분성: 어떤 정보 유형이라도 존재하면 사용자의 인지된 정보 충분성이 유의미하게 증가했습니다. 그러나 성공률(TSR)이 실패 사례보다 인지된 충분성에 더 큰 효과 크기를 가졌습니다.
• 편안함과 신뢰: 사용자의 편안함과 신뢰도는 높은 성공률(ETSR 및 RT-TSR 모두)에 의해 강하게 예측되었습니다. 반대로, 실패 사례 설명(EFC 및 RT-FC)의 존재는 보고된 편안함을 유의미하게 높이지는 않았으나, 사용자들이 이를 유용하다고 평가하기는 했습니다.
• 유용성 순위: 대다수의 사용자가 모든 정보 유형이 유용하다고 답했습니다. 정량적 분석 결과, ETSR이 EFC보다 더 유용한 것으로 보고되었고, RT-TSR이 RT-FC보다 더 유용한 것으로 나타났습니다. 그러나 ETSR이 다른 모든 유형을 합친 것보다 유의미하게 더 유용하지는 않았습니다.
• 예측 정확도: 오직 ETSR만이 사용자가 이진 성공/실패 결과를 올바르게 예측하는 능력(61.9% 정확도)을 유의미하게 향상시켰으며, 이는 ETDR이 즉각적인 결과 예측에 가장 정보력이 높은 지표임을 나타냅니다.
• 질적 통찰: 사용자들은 임계값 사용(예: ETSR < 70%인 경우 거절)이나 실제 데이터와 추정치를 교차 검증하는 등 다양한 전략을 사용했습니다. 많은 사용자가 실제 세계의 증거 없이 추정치만을 제시하는 것에 대해 회의적인 태도를 보였습니다.
• 체현 효과: 대면 연구는 온라인 연구의 결과를 대체로 뒷받침했습니다. 그러나 체현된 상호작용은 물리적 안전(예: 바닥이나 물건의 손상) 및 속도와 작업 공간 요구사항 같은 실질적인 제약에 대한 더 구체적인 우려를 불러일으켰습니다.

의의 및 주장
본 논문은 TSR이 필수적인 지표이지만, 가정 환경에서 RFM을 안전하고 효과적으로 배포하기에는 불충분하다고 주장합니다. 저자들은 다음과 같은 사용자 중심의 해석 가능한 평가로의 전환을 주장합니다:

• 실패 사례(일반적인 시나리오 및 최악의 시나리오 모두 포함)의 표준화된 보고.
• 실제 과거 데이터와 새로운 작업에 대한 신뢰할 수 있는 성능 추정치의 제공.
• RFM이 새로운 작업에 대해 예측 가능하게 행동하거나 행동을 예측할 수 있는 메커니즘.

저자들은 정보가 풍부한 사용자가 로봇과 협업하고, 가르치고, 적절히 신뢰하는 데 더 잘 준비되어 있다고 강조합니다. 전문가의 평가 지표와 사용자 이해 사이의 간극을 메움으로써, 본 연구는 미래의 RFM 평가 표준과 배포 전략에 기여하는 것을 목표로 하며, 사용자가 특정 로봇 작업을 감독할지, 가르칠지, 혹은 피할지에 대해 정보에 기반한 결정을 내릴 수 있도록 합니다. 저자들은 이러한 결과가 특정 작업 도메인(주방 가사, 조작)에서 도출되었다는 점을 겸허히 언급하면서도, 정보 투명성의 원칙은 서로 다른 로봇 형태와 작업 유형 전반에 걸쳐 일반화될 수 있다고 명시했습니다.