💻 computer science

Evaluating Uncertainty and Quality of Visual Language Action-enabled Robots

본 논문은 시각-언어-행동(VLA) 로봇을 위한 일련의 불확실성 및 품질 지표를 제안하고 이를 실증적으로 검증하며, 대규모 연구를 통해 이러한 지표들이 인간 전문가의 판단과 높은 상관관계를 보이고 기존의 이진 성공률보다 작업 수행에 대한 더 미세한 평가를 제공한다는 점을 입증한다.

원저자: Pablo Valle, Chengjie Lu, Shaukat Ali, Aitor Arrieta

게시일 2026-07-22

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Pablo Valle, Chengjie Lu, Shaukat Ali, Aitor Arrieta

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇이 단순히 "만약 이렇다면, 저렇다"라는 엄격한 명령 목록을 따르는 멍청한 기계가 아니라, 세상을 보고, 당신의 말을 이해하며, 스스로 몸을 움직여 당신을 도울 수 있는 호기심 많고 똑똑한 조수와 같은 세상을 상상해 보십시오. 이것이 바로 시각-언어-행동(Vision-Language-Action, VLA) 로봇의 흥미로운 최전선입니다. 이들을 궁극의 "스마트한 집사"라고 생각해보세요. 지저로 된 방을 보고, "빨간 컵을 바구니에 넣어줘"라는 당신의 말을 듣고, 실제로 그 일을 수행하는 존재 말이죠. 하지만 여기에는 함정이 있습니다. 로봇이 작업을 완수했다고 해서 반드시 잘 해냈다는 뜻은 아니라는 점입니다. 로봇은 다른 컵 세 개를 쓰러뜨렸거나, 빨간 컵을 두 번이나 떨어뜨렸거나, 혹은 마침내 성공하기 전까지 너무 비틀거려서 마치 공황 발작을 일으키는 것처럼 보였을 수도 있습니다.

오랫동안 과학자들은 이 로봇들을 "성공했는가?"라는 단순한 이진법적 스위치로 판단해 왔습니다. 즉, 성공(Yes) 아니면 실패(No)로 말이죠. 이는 마치 학생의 에세이를 채점하면서 글씨체가 엉망인지 철자가 틀렸는지는 전혀 신경 쓰지 않고, 단지 "완료함"이라는 체크 표시 하나만 남기는 것과 같습니다. 이 논문은 이러한 "합격/불합격" 시스템이 고장 났다고 주장합니다. 이는 마치 요리사가 버거를 내놓기만 하면, 그 버거가 타버렸거나 바닥에 떨어졌거나 포크로 다시 조립해야 할 정도였더라도 그 요리사가 훌륭하다고 말하는 것과 같습니다. 이를 해결하기 위해 연구진들은 로봇이 작업을 마쳤는지뿐만 아니라, 작업을 수행하는 동안 어떻게 느꼈는지—즉, 부드럽고 자신감 있었는지, 아니면 흔들리고 불안했는지—를 측정할 방법을 찾아야 했습니다.

로봇의 "패닉 미터"와 "매끄러움 점수"

이 연구에서 연구진은 로봇에게 "해냈니?"라고 묻는 대신, "얼마나 확신했니, 그리고 얼마나 우아하게 움직였니?"라고 묻기로 했습니다. 그들은 로봇의 뇌를 시험을 치르는 긴장한 학생처럼 다루었습니다. 연구진은 로봇을 평가하기 위한 두 가지 새로운 기준을 도입했습니다: 불확실성(Uncertainty, 로봇이 자신의 선택에 얼마나 확신을 가졌는가)과 품질(Quality, 움직임이 얼마나 매끄럽고 안전했는가)입니다.

불확실성을 측정하기 위해, 그들은 로봇의 "내면의 독백"을 살펴보았습니다. 로봇이 컵을 잡으려고 결정하는 상황을 상상해 보세요. 자신감 있는 로봇은 "저건 99% 확률로 컵이고, 여기서 잡으면 돼!"라고 생각합니다. 반면 혼란에 빠진 로봇은 "저게 컵인가? 아니면 캔인가? 아마 여기서 잡아야 할까... 아니, 저기인가? 아, 모르겠어!"라고 생각할 수 있습니다. 연구진은 이러한 혼란을 포착하기 위해 8가지 서로 다른 "패닉 미터"를 만들었습니다. 어떤 미터들은 로봇의 디지털 생각(확률 예측이 얼마나 분산되어 있는지 확인)을 경청했고, 다른 미터들은 로봇의 물리적 움직임을 관찰했습니다. 만약 로봇의 팔이 떨리거나, 흔들리거나, 갑작스럽고 거친 수정을 반복한다면, 미터는 이를 "높은 불확실성"으로 표시하여 로봇이 무엇을 해야 할지 결정하는 데 어려움을 겪고 있음을 알렸습니다.

품질을 측정하기 위해, 그들은 로봇의 춤 동작을 살펴보았습니다. 그들은 로봇이 우아한 발레리나처럼 움직이는지, 아니면 서투른 아기처럼 움직이는지 확인하기 위해 5가지 서로 다른 "매끄러움 점수"를 사용했습니다. 그들은 갑작스러운 덜컥거림, 이상한 가속도, 또는 로봇이 경로를 되돌아가거나 다시 계획해야 했는지 등을 체크했습니다. 높은 품질의 실행은 로봇이 자신이 어디로 가는지 정확히 알고 있는 부드럽고 흐르는 듯한 동작이었습니다. 낮은 품질의 실행은 멈춤, 시작, 그리고 아슬아슬한 상황의 연속이었습니다.

위대한 로봇 현실 점검

연구팀은 단순히 추측만 한 것이 아니라, 대규모 실험을 통해 이를 검증했습니다. 그들은 현존하는 가장 똑똑하고 진보된 세 가지 로봇 뇌(OpenVLA, SpatialVLA, $\pi_0$ 라고 불림)를 가져와서 물건을 집거나, 물건 근처로 옮기거나, 쌓거나, 용기 안에 넣는 등 908가지의 다양한 과업을 수행하게 했습니다.

여기서 큰 놀라운 사실이 발견되었습니다: 테스트를 "통과"한 로봇들이 종종 "품질" 테스트에서는 낙제했다는 것입니다.

결과를 분석했을 때, 연구진은 로봇이 작업(예: 컵 집기)을 성공적으로 완료할 수는 있지만, 그 과정이 엉망일 수 있다는 것을 발견했습니다. 예를 들어, 한 로봇 모델( $\pi_0$ )은 작업을 완수하는 데 매우 뛰어났지만, 인간 전문가들이 영상을 시청했을 때 로봇이 자주 서투르게 행동하거나, 물건을 떨어뜨리거나, 흔들리고 불확실하게 움직인다는 것을 깨달았습니다. 실제로 일부 작업에서는 "성공"한 시도의 절반 이상이 전문가들에 의해 "낮은 품질"로 분류되었습니다. 이는 기존의 "합격/불합격" 테스트가 우리를 속이고 있었다는 것을 증명했습니다. 로봇은 운이 좋거나 무력으로 밀어붙여서 테스트를 통과할 수 있지만, 실제로는 제대로 수행하고 있지 않을 수도 있기 때문입니다.

미터가 알려준 것들

연구진은 자신들의 새로운 "패닉 미터"와 "매끄러움 점수"가 실제로 인간 전문가의 의견을 예측할 수 있는지 확인했습니다.

좋은 소식: 몇 가지 새로운 지표들이 놀라울 정도로 잘 작동했습니다. 특히, 작동 속도 불안정성(Action Velocity Instability, 로봇의 속도가 얼마나 갑자기 변했는지)과 작동 가속도 불안정성(Action Acceleration Instability, 움직임이 얼마나 거칠었는지)을 측정하는 지표들은 인간의 의견과 강한 연관성을 보였습니다. 로봇이 움찔거리면 인간들도 품질이 낮다고 평가했고, 로봇이 부드러우면 인간들도 동의했습니다. 이는 우리가 모든 영상을 일일이 볼 필요 없이, 수학 공식을 사용하여 로봇이 제대로 하고 있는지 자동으로 판단할 수 있음을 시사합니다.
"움직였는가?"의 기술: 그들은 또한 완전한 실패를 포착하는 영리한 방법을 찾아냈습니다. 그들은 최적 궤적 차이(Optimal Trajectory Difference, OT)라는 지표를 사용했는데, 이는 기본적으로 "로봇이 목표에 가까워지고 있는가?"를 묻는 것입니다. 만약 로봇이 멈춰 있거나 전혀 움직이지 않는다면, 이 지표는 즉각적으로 실패를 감지합니다. 이것은 로봇이 성공했는지 아니면 완전히 실패했는지를 구분하는 데 가장 좋은 도구였습니다.
나쁜 소식: 로봇의 뇌를 여러 번 실행하여 서로 다른 답을 내놓는지 확인함으로써 불확실성을 측정하려 했던 실행 가변성(Execution Variability, EV)이라는 지표는 실생활에서 사용하기에는 너무 느리고 비용이 많이 들었습니다. 컴퓨터 자원을 너무 많이 소모하여 실시간 사용이 불가능했습니다. 또한, 어떤 지표들은 로봇이 "보통"(중간 품질)인 상태와 완전히 실패한 상태를 구분하지 못했는데, 이는 로봇의 성능이 나빠질수록 그 모습이 완전한 실패와 비슷해진다는 것을 의미합니다.

시사점

이 논문의 핵심 교훈은 로봇을 단순한 합격/불합격 시험처럼 판단해서는 안 된다는 것입니다. 로봇이 작업을 끝냈다고 해서 그것이 반드시 안전하거나, 효율적이거나, 신뢰할 수 있다는 뜻은 아닙니다. 연구진은 "자신감"과 "매끄러움" 점수를 사용함으로써 로봇이 실제로 어떻게 수행하고 있는지 훨씬 더 명확한 그림을 얻을 수 있음을 보여주었습니다.

그들은 향-후 로봇이 더 나은 "테스트 오라클"(로봇의 합격 여부를 결정하는 규칙)을 구축하기 위해 이러한 지표들을 사용해야 한다고 제안합니다. 단순히 컵이 바구니 안에 있는지를 확인하는 대신, 로봇이 얼마나 부드럽고 자신감 있게 그곳에 도달했는지를 확인해야 합니다. 이는 미래를 위해 매우 중요합니다. 왜냐하면 우리가 로봇이 우리의 집이나 병원에서 일하기를 원한다면, 그들이 단순히 운이 좋은 것이 아니라, 일관되게 잘하고, 부드럽고, 확신에 차 있어야 한다는 것을 알아야 하기 때문입니다. 이 논문은 우리가 이제 이를 측정할 도구를 갖추고 있지만, 우리의 미래 로봇 조수들이 진정으로 현실 세계에 나설 준비가 되었는지 확인하기 위해 이 지표들을 사용하기 시작해야 한다고 결론짓습니다.

기술 요약: VLA(Vision-Language-Action) 기반 로봇의 불확실성 및 품질 평가

문제 정의

Vision-Language-Action (VLA) 모델은 시각적 인지, 자연어 이해, 그리고 행동 계획을 통합하여 자율적인 작업 수행을 가능하게 함으로써 로봇 제어 분야의 중요한 발전을 나타냅니다. 그러나 이러한 시스템의 평가는 현재 심각한 한계에 직면해 있습니다. 바로 성공 여부(즉, 작업 완료 여부)만을 주요 테스트 오라클(test oracle)로 사용하는 이진 성공률에 의존한다는 점입니다. VLATest와 같은 프레임워크에서 예증되는 이 방식은 기능적 정확성은 포착하지만, 작업 실행의 품질(예: 부드러움, 안전성, 효율성)이나 로봇의 결정에 대한 신뢰도를 평가하지 못합니다. 결과적으로, 로봇이 충돌, 불안정한 궤적 또는 비효로적인 움직임과 같은 저품질 동작을 보임에도 불구하고 "성공"으로 분류될 수 있으며, 이는 실제 환경 배포 시 신뢰성에 대한 잘못된 확신을 초래할 수 있습니다.

방법론

이러-gap을 해결하기 위해 저자들은 VLA 기반 로봇 조작에 특화된 8가지 **불확실성 지표(uncertainty metrics)**와 5가지 **품질 지표(quality metrics)**로 구성된 종합적인 평가 프레임워크를 제안합니다.

1. 지표 적응

불확실성 지표 (총 8개): 모델의 신뢰도와 생성된 행동의 일관성을 정량화합니다.
- 토큰 기반 (4개): VLA 모델 출력의 이산적 토큰 확률을 측정하기 위해 대규모 언어 모델(LLM)에서 차용되었습니다. 여기에는 Token Probability (TB-TP), Prediction Confidence Score (TB-PCS), DeepGini (TB-D), **Entropy (TB-E)**가 포함됩니다.
- 행동 기반 (4개): 정책이 생성하는 연속적인 행동 벡터로부터 직접 불확실성을 측정하여 시간적 불일치를 포착합니다. 여기에는 Action Position Instability (A-PI), Action Velocity Instability (A-VI), Action Acceleration Instability (A-AI), **Execution Variability (EV)**가 포함됩니다.
품질 지표 (5개): 실행된 궤적과 작업 진행의 특성을 평가합니다.
- Trajectory Position Instability (TCP-PI), Trajectory Velocity Instability (TCP-VI), Trajectory Acceleration Instability (TCP-AI): 운동 안정성을 평가하기 위해 고전적인 로보틱스 부드러움 측정 방식(예: jerk 기반 지표)에서 차용되었습니다.
- Trajectory Instability (TI): 전체적인 운동 부드러움을 정량화하기 위한 RMS jerk 지표입니다.
- Optimal Trajectory Difference (OT): 목표물에 대한 말단 장치(end-effector)의 공간적 근접성을 측정하여 목표 지향적 행동을 평가합니다.

2. 경험적 연구 설정

저자들은 다음을 포함하는 대규모 경험적 연구를 수행했습니다:

모델: 세 가지 최첨단 VLA 모델인 OpenVLA, SpatialVLA, $\pi_0$ .
작업: 네 가지 대표적인 조작 작업인 Pick Up, Move Near, Put On, Put In.
엠보디먼트(Embodiments): 두 가지 로봇 플랫폼인 Google Robot (Everyday Robot) 및 WidowX 로봇.
데이터: 세 명의 도메인 전문가가 High, Medium, Low 품질 범주로 수동 레이블링한 908개의 성공적인 작업 실행 데이터.
분석: 연구는 제안된 지표와 전문가 판단 사이의 상관관계(Spearman's rank correlation)를 분석하였으며, 성공 및 실패 작업을 구분하는 지표의 능력(Mann-Whitney U test 및 Vargha-Delaney $\hat{A}_{12}$ 효과 크기)을 평가하였습니다.

핵심 기여

평가 프레임워크: VLA 기반 로봇에 맞춤 설계된 8가지 불확실성 및 5가지 품질 지표를 통합한 통일된 프레임워크 설계.
품질 가이드라인: 이진 성공을 넘어 VLA 작업 실행의 품질을 평가하기 위한 인간 전문가용 특정 가이드라인 제안.
대규모 경험적 분석: 세 가지 VLA 모델, 네 가지 작업, 두 가지 로봇 엠보디먼트에 걸쳐 908개의 전문가 레이블링된 실행 데이터를 포함하는 엄격한 연구 수행.
재현 패키지: 재현성을 촉진하기 위해 코드, 설정 파일 및 실험 결과를 포함한 완전한 재현 패키지 공개.

결과

성공률의 한계: 연구는 성공률만으로는 불충분함을 확인했습니다. 예를 들어, $\pi_0$ 모델은 높은 성공률을 달립로 했지만, "성공적인" 실행 중 상당 부분이 인간 전문가에 의해 **저품질(low-quality)**로 분류되었습니다 (예: "Pick up" 작업에서 저품질 비율 >50%). 반면, SpatialVLA는 성공률의 변동에도 불구하고 전반적으로 더 높은 실행 품질을 보여주었습니다.
전문가 판단과의 상관관계:
- 불확실성: A-VI (Action Velocity Instability)와 A-AI (Action Acceleration Instability)는 여러 모델과 작업에 걸쳐 인간의 품질 평가와 중간에서 강한 상관관계를 보였습니다. 특히, 이러한 지표들의 방향(orientation) 기반 변형이 위치(positional) 기반 변형보다 더 높은 상관관계를 보였는데, 이는 방향 불확실성이 인지된 품질에 결정적임을 시사합니다.
- 품질: TCP-VI (Trajectory Velocity Instability)가 가장 일관된 품질 지표로 나타났으며, 모델과 작업 전반에 걸쳐 강한 상관관계를 보였습니다.
변별 능력:
- **Optimal Trajectory (OT)**는 모든 모델에서 성공과 실패 작업을 구분하는 데 가장 효과적인 지표였으며, 모델 불문(model-agnostic) 실패 지표로서 역할을 했습니다.
- 대부분의 지표는 고품질(high-quality) 실행을 실패와 효과적으로 구분할 수 있었습니다. 그러나 중간/저품질(medium/low-quality) 성공 사례를 완전한 실패와 구분하는 것은 더 어려웠는데, 이는 저품질 성공 사례가 실패와 유사한 행동 패턴을 보이는 경우가 많기 때문입니다.
계산 오버헤드:
- **Execution Variability (EV)**는 여러 번의 모델 추론이 필요하여 높은 오버헤드가 발생하므로 실시간 사용에는 부적합합니다.
- **Optimal Trajectory (OT)**는 복잡한 실제 환경에서 최적 궤적을 정의하기 어렵기 때문에 주로 시뮬레이션 환경에 국한됩니다.
- 나머지 지표들(Token-based, AI-based, TCP-based, TI)은 무시할 만한 수준의 오버헤드만을 유발하여 런타임 모니터링에 적합합니다.

의의 및 주장

본 논문은 현재 VLA 기반 로봇을 위한 평가 관행이 행동 품질과 모델 신뢰도를 무시한 채 이진 성공 오라클에 의존하고 있기 때문에 부적절하다고 주장합니다. 저자들은 제안된 지표가 로봇 성능에 대한 더 미묘하고 신뢰할 수 있는 평가를 제공한다고 주장합니다.

이진 테스트를 넘어서: 연구 결과는 성공률의 충분성에 의문을 제기하며, 높은 성공률이 낮은 실행 품질과 취약한 행동적 정확성을 은폐할 수 있음을 입증했습니다.
런타임 모니터링: 본 연구는 특정 지표(A-VI, A-AI, TCP-VI 등)가 상징적인 작업 완료 체크에 의존하지 않고도 로봇의 행동을 모니터링하고, 이상 징식(anomaly)을 탐지하며, 잠재적 실패를 식별하는 효과적인 런타임 오라클 역할을 할 수 있음을 시사합니다.
미래 방향: 이 연구는 행동 품질을 포함하는 차세대 테스트 오라클을 위한 토대를 마련하며, 품질 저하에 대한 객관적인 함수를 제공함으로써 탐색 기반 테스트 및 퍼징(fuzzing)을 지원하고, 실시간 불확실성 모니터링을 통해 로봇 시스템의 적응형 향상을 가능하게 합니다.

저자들은 지표의 효과가 특정 기본 정책(policy)에 따라 달라질 수 있다는 점을 인정하며, 특히 시뮬레이션-실제 간극(sim-to-real gap) 및 특정 작업에서의 물체 방향 처리와 관련하여 실제 환경 배포를 위한 추가 검증이 필요하다는 신중한 입장을 유지합니다.