ReViP: Mitigating False Completion in Vision-Language-Action Models with Vision-Proprioception Rebalance

이 논문은 비전-프로프리오셉션 불균형으로 인한 '잘못된 완료 (False Completion)' 문제를 해결하기 위해, 작업 단계 관찰자를 통해 시각적 단서를 적응적으로 조절하는 새로운 VLA 프레임워크인 ReViP 를 제안하고, 이를 통해 기존 모델 대비 성공률을 26% 향상시켰음을 입증합니다.

핵심

🤖 로봇의 '착각' 문제: "눈은 보는데, 뇌는 무시하는 경우"

상상해 보세요. 당신이 친구에게 "책상 위의 컵을 가져와서 냉장고에 넣어줘"라고 시켰다고 칩시다.
그런데 로봇이 컵을 잡으려다 실수로 컵을 바닥에 떨어뜨렸습니다.

• 일반적인 로봇 (기존 모델): 로봇의 '뇌'는 "아, 내가 컵을 잡았으니 이제 냉장고로 가자"라고 생각하며 내부 상태 (내 손이 컵을 잡았다는 기록) 만 믿습니다. 바닥에 떨어진 컵을 눈으로 보면서도 "아직도 잡았으니 냉장고로 가자"라고 무시하고, 빈 손으로 냉장고 문을 열거나 어딘가에 부딪히며 **"일 끝났다!"**라고 선언하고 멈춥니다.
  • 이게 바로 'False Completion (거짓 완료)'입니다. 눈앞에 실패가 명확히 보이는데도, 로봇은 자신의 계획을 맹신하며 일을 끝낸 척합니다.

🛠️ 해결책: ReViP (눈과 몸의 균형 맞추기)

연구팀이 개발한 ReViP는 이 문제를 해결하기 위해 로봇에게 "눈 (시각)"과 "몸의 느낌 (자세/감각)"의 균형을 다시 맞춰주는 기술을 적용했습니다.

1. 비유: "현장 감시관 (Task-Stage Observer)"을 고용하다

기존 로봇은 자신의 계획표만 보고 움직였지만, ReViP 는 로봇 옆에 **전문적인 '현장 감시관' (Task-Stage Observer)**을 배치합니다.

• 이 감시관은 로봇이 움직일 때마다 실시간으로 주변을 살핍니다.
• "어? 컵이 떨어졌잖아! 계획대로 냉장고로 가는 게 아니야! 다시 컵을 주워야 해!"라고 로봇의 뇌에 실시간 경고를 보냅니다.
• 이 감시관은 로봇이 "내가 컵을 잡았다"라고 착각할 때, "아니, 컵이 바닥에 있어!"라고 시각적 증거를 제시해 줍니다.

2. 비유: "내부 상태"와 "외부 시각"의 조율 (Vision-Proprioception Rebalance)

기존 로봇은 자신의 '내부 상태' (내가 무엇을 했다는 기록) 를 100% 믿고, '눈으로 보는 것'을 20% 만 믿었습니다. 그래서 실수를 못 알아챘죠.
ReViP 는 이 비율을 재조정합니다.

• 감시관이 "컵이 떨어졌다"라고 말하면, 로봇은 즉시 "아, 내 기록이 틀렸구나. 다시 컵을 잡아야겠다"라고 생각하며 행동을 바꿉니다.
• 마치 운전할 때 내비게이션 (내부 계획) 이 "직진해"라고 해도, 눈앞에 차가 막혀 있다면 (시각 정보) 운전자가 멈추는 것과 같습니다. ReViP 는 로봇이 눈앞의 현실을 더 중요하게 여기도록 가르친 것입니다.

🧪 실험 결과: 얼마나 잘할까?

연구팀은 로봇에게 다양한 함정을 만들어서 테스트했습니다.

1. 물건 떨어뜨리기: 로봇이 물건을 잡다가 떨어뜨리면, 다시 주워야 합니다.
2. 유사한 물건 바꾸기: '버터'를 잡으라고 했는데, '치즈'와 위치를 바꿔놓으면, 로봇이 헷갈리지 않고 진짜 버터를 찾아야 합니다.
3. 배치 바꾸기: 물건이 원래 있던 곳이 아니라 다른 곳에 있으면, 로봇이 다시 계획을 세워야 합니다.

결과:

• 기존 로봇들은 함정에 걸려 "일 끝났다"라고 거짓말하며 실패했습니다.
• 하지만 ReViP를 적용한 로봇은 물건이 떨어지거나 위치가 바뀌어도 **"아, 문제가 생겼네. 다시 시도하자"**라고 생각하며 성공률을 약 26% 이상이나 높였습니다.

💡 핵심 요약

이 연구는 로봇이 "계획대로만 움직이려다 실패를 못 보는" 어리석은 행동을 고쳐주었습니다.
마치 눈을 뜨고 현실을 직시하며, 자신의 생각 (계획) 보다 눈앞의 상황을 더 중요하게 여기는 똑똑한 로봇을 만든 것과 같습니다.

이 기술 덕분에 로봇은 집안일이나 공장 작업 중에도 실수가 생기면 스스로 알아서 고쳐서, 더 안전하고 똑똑하게 일할 수 있게 되었습니다.

기술 요약

1. 문제 정의 (Problem Definition)

이 논문은 비전 - 언어 - 행동 (Vision-Language-Action, VLA) 모델이 로봇 조작 작업에서 겪는 "거짓 완료 (False Completion)" 라는 치명적인 실패 모드를 지적하고 해결책을 제시합니다.

• 거짓 완료 (False Completion) 란? 로봇이 실제로 목표 작업을 달성하지 못했음에도 불구하고 (예: 물체가 떨어졌거나, 잘못된 물체를 잡았음), 내부 상태 (Proprioception) 가 진행 중임을 나타내는 신호에 의존하여 작업을 성공적으로 종료했다고 잘못 판단하는 현상입니다.
• 근본 원인: 기존 VLA 모델들은 시각적 피드백 (Vision) 과 proprioceptive 상태 (Proprioception) 를 단순히 융합하는 과정에서 모달리티 불균형 (Modality Imbalance) 이 발생합니다. 정책 (Policy) 이 외부의 시각적 실패 신호 (예: 물체 낙하) 를 무시하고, 내부의 상태 진행 (State Progression) 을 과도하게 신뢰하여 "상태 주도 편향 (State-dominant Bias)"을 보입니다.
• 기존 접근법의 한계: 단순히 상태 입력 (State Input) 을 제거하면 시각적 의존도가 높아져 거짓 완고는 줄어들지만, 정상적인 작업 수행 능력도 급격히 저하됩니다. 따라서 상태 정보를 완전히 배제하는 것이 아닌, 시각과 상태 신호의 균형을 재조정 (Rebalance) 하는 것이 핵심 과제입니다.

2. 제안 방법: ReViP (Vision-Proprioception Rebalance)

저자들은 ReViP라는 새로운 VLA 프레임워크를 제안하여 시각적 근거와 상태 신호 간의 균형을 적응적으로 조절합니다. ReViP 는 두 가지 주요 구성 요소로 이루어져 있습니다.

가. 작업 단계 관찰자 (Task-Stage Observer, TSO)

• 역할: 외부의 강력한 비전 - 언어 모델 (VLM, 예: Qwen2.5-VL) 을 사용하여 실시간 관찰 이미지와 작업 지시를 분석합니다.
• 기능: 로봇의 현재 물리적 상태, 작업 관련 물체의 위치 및 상태, 그리고 작업의 진행 단계를 추론합니다.
• 출력: "물체가 떨어졌다", "물체를 다시 잡아야 한다"와 같은 진행 인식 시각 단서 (Progress-aware Visual Cues) 를 생성합니다. 이는 작업의 현재 단계에 대한 명시적인 시각적 증거를 제공합니다.

나. 작업 단계 강화기 (Task-Stage Enhancer, TSE)

• 역할: TSO 에서 추출된 시각 단서를 VLA 모델의 백본 (Backbone) 에 주입하여 시각과 상태 신호의 결합을 재조정합니다.
• 메커니즘: TS-FiLM (Task-Stage Feature-wise Linear Modulation) 을 사용합니다.
  • 추출된 시각 단서 ($z_t$) 를 통해 $\gamma_t$ 와 $\beta_t$ 와 같은 변조 파라미터를 생성합니다.
  • 이를 비전 - 언어 프리픽스 토큰에 적용하여, 시각적 증거와 일치하는 채널은 증폭하고 상태 주도 편향을 유발하는 방해 요인 (Distractors) 은 약화시킵니다.
• 효과: 로봇이 내부 상태에 맹목적으로 의존하는 대신, 현재 시각적 관찰에 기반하여 행동을 재계획 (Replan) 하도록 유도합니다.

3. 주요 기여 (Key Contributions)

1. 거짓 완료 현상의 체계적 분석: VLA 모델에서 발생하는 '거짓 완료'를 모달리티 불균형 (상태 주도 편향) 으로 규정하고, 이를 해결하기 위해 상태 입력을 단순히 제거하는 것이 아니라 시각 - 상태 신호의 재균형이 필요함을 실험을 통해 입증했습니다.
2. 최초의 거짓 완료 벤치마크 (False-Completion Benchmark Suite) 개발:
   • LIBERO 벤치마크를 기반으로 8 가지 작업과 3 가지 제어된 교란 (Perturbation) 을 포함하는 벤치마크를 최초로 소개했습니다.
   • 교란 유형:
     • Object Drop: 작업 중 물체가 떨어지는 상황 (회복 능력 평가).
     • Distractor Swap: 목표 물체와 유사한 방해 물체의 위치를 바꾸는 상황 (구별 능력 평가).
     • Relayout: 목표와 목표 영역의 공간적 배치를 변경하는 상황 (적응 능력 평가).
3. ReViP 프레임워크 제안: TSO 와 TSE 를 통해 시각적 단서를 적응적으로 주입하여 상태 주도 편향을 완화하고, 다양한 교란 하에서도 견고한 작업 수행을 가능하게 하는 새로운 아키텍처를 제시했습니다.
4. 광범위한 실험적 검증: 시뮬레이션 (LIBERO, RoboTwin 2.0) 과 실제 로봇 (Real-world) 환경에서 기존 SOTA 모델 (OpenVLA, $\pi_0$, $\pi_0$-Fast 등) 보다 월등히 높은 성능을 입증했습니다.

4. 실험 결과 (Results)

• 거짓 완료 벤치마크: ReViP 는 $\pi_0$ 모델 대비 평균 성공률에서 26% 향상을 보였습니다. 특히 물체가 떨어지는 (Object Drop) 상황에서는 기존 모델들이 작업을 계속 진행하며 실패하는 반면, ReViP 는 물체를 재파악하여 성공적으로 작업을 완료했습니다.
• 일반 벤치마크 (LIBERO & RoboTwin 2.0):
  • LIBERO: 모든 서브 suites (Spatial, Object, Goal, Long) 에서 SOTA 성능을 기록했습니다. 특히 장기 작업 (LIBERO-10) 에서 안정성이 크게 개선되었습니다.
  • RoboTwin 2.0 (이중 암): 복잡한 접촉 기반 작업에서도 기존 모델 대비 성공률이 크게 향상되었습니다.
• 실제 로봇 실험: 실제 ROKAE 로봇 팔을 이용한 실험에서도 물체 낙하, 방해 물체, 재배치 등 다양한 교란 상황에서 ReViP 가 높은 성공률 (평균 88%) 을 보이며, 기존 모델 ($\pi_0$: 62%) 을 압도했습니다.
• 효율성: TSO 는 비동기적으로 실행되므로 제어 주파수 (16Hz) 에 큰 영향을 주지 않으면서도 성능을 극대화했습니다.

5. 의의 및 결론 (Significance)

이 논문은 로봇 조작 분야에서 시각적 피드백의 소홀함이 초래하는 근본적인 문제를 해결하기 위한 중요한 이정표를 제시합니다.

• 이론적 기여: VLA 모델이 단순히 상태와 시각을 융합하는 것을 넘어, 시각적 근거 (Visual Grounding) 를 강화하여 상태 의존성을 균형 있게 조절해야 함을 증명했습니다.
• 실용적 가치: 제안된 ReViP 는 실제 환경에서 발생할 수 있는 예기치 않은 장애 (물체 낙하, 환경 변화) 에 대해 로봇이 스스로 인지하고 복구할 수 있는 능력을 부여하여, 로봇의 신뢰성과 실용성을 크게 높입니다.
• 커뮤니티 기여: 연구진은 거짓 완고를 평가하기 위한 최초의 벤치마크와 코드, 데이터를 오픈소스하여 향후 VLA 모델의 견고성 (Robustness) 연구에 기여할 것으로 기대됩니다.

요약하자면, ReViP는 로봇이 "눈으로 보고 판단하는" 능력을 회복시켜, 내부 상태에 맹목적으로 의존하다가 발생하는 실패를 방지하고 복잡한 실제 환경에서도 성공적인 작업을 수행하도록 만드는 혁신적인 접근법입니다.