기술 요약: VISOR – 로봇 테스트를 위한 비전-언어 모델 기반 테스트 오라클

1. 문제 제기

안전이 중시되는 분야와 자율 시스템 분야에서 로봇 시스템을 테스트하는 것은 '테스트 오라클 문제'라는 심각한 병목 현상에 직면해 있습니다. 이는 로봇이 의도한 작업을 올바르게 수행했는지, 그리고 충분한 품질로 수행했는지를 판단하는 문제입니다. 기존의 접근 방식은 다음과 같은 방법에 의존합니다:

• 기호적 오라클 (Symbolic Oracles): 이는 작업별 특화되어 있으며, 일반적으로 수행의 '품질'을 정량화하지 않고 이진법 (통과/실패) 판정만 제공합니다. 또한 다양한 작업 간 재사용성이 부족합니다.
• 수동 인간 평가: 인간은 작업 품질 (예: 고, 중, 저 수준의 수행 기준 구분) 을 평가할 수 있지만, 이 과정은 시간이 많이 소요되고 주관적이며 오류가 발생하기 쉽고 확장하기 어렵습니다.

본 논문은 로봇 테스트의 확장성을 위해서는 인간의 지속적인 개입 없이 작업 정확성(성공 대 실패)과 작업 품질(등급별 수행) 을 모두 평가할 수 있는 자동화된 오라클이 필요하다고 주장합니다.

2. 방법론: VISOR

저자들은 비전 - 언어 모델 (VLM) 을 자동화된 테스트 오라클로 활용하는 VISOR 프레임워크를 제안합니다. VISOR 는 로봇 수행에 대한 비디오 녹화를 분석하여 작업 결과와 품질 수준을 결정합니다.

핵심 구성 요소

• 입력: 시스템은 시뮬레이터에서 생성된 비디오를 처리합니다. 시뮬레이터는 환경 구성 (물체 위치, 회전, 모델 ID) 과 작업 지시 (예: "오렌지를 들어 올리세요") 를 입력으로 받아 제어 정책을 실행한 후 비디오를 출력합니다.
• 심판으로서의 VLM: VISOR 는 **제로샷 프롬프팅 (zero-shot prompting)**을 사용하는 '심판으로서의 VLM(VLM-as-a-judge)' 접근 방식을 채택합니다. 저자들은 여러 프롬프팅 스타일 (제로샷 대 퓨샷) 을 평가한 결과, 토큰 제한 (64K 대 7K) 과 추론 시간으로 인해 퓨샷 프롬프팅은 계산적으로 불가능하다고 판단했습니다.
• 프롬프트 설계: 두 가지 명확한 프롬프트 템플릿이 설계되었습니다:
  1. 정확성 평가: 전체 비디오 시퀀스를 기반으로 수행을 '성공' 또는 '실패'로 분류하도록 VLM 에게 요청합니다.
  2. 품질 평가: 사전 정의된 의사결정 규칙 (이전 인간 평가 연구에서 적응됨) 을 기반으로 성공적인 수행을 '고', '중', '저'의 세 가지 서열 범주로 분류하도록 VLM 에게 요청합니다.
• 불확실성 정량화: VLM 의 내재적 불확실성을 인식하여, VISOR 는 평가 중 모델의 신뢰도를 명시적으로 정량화합니다. 예측 확률의 분산을 측정하기 위해 엔트로피 (Entropy), 최대 소프트맥스 확률 (MSP), DeepGini를 계산합니다.

실험 설정

• 데이터셋: Valle 등 [48] 의 데이터셋에서 파생된 1,000 개 이상의 비디오 (총 1,032 개) 의 선별된 하위 집합입니다. 이 데이터셋은 MoveNear, PickUp, PutIn, 그리고 PutOn이라는 네 가지 로봇 조작 작업을 다룹니다. 데이터는 성공과 실패 수행의 수를 균등하게 맞추도록 균형 잡혔으며, 성공적인 경우 또한 품질 수준 (고, 중, 저) 간에 균형을 이루도록 조정되었습니다.
• 평가된 모델: 저자들은 처음에 6 개의 VLM(GPT-4.1, Gemini-2.5-Flash, LLaVA-Next, SmolVLM2, Qwen, Eagle) 을 스크리닝했습니다. 오픈소스 모델은 모든 입력에 대해 '성공'을 예측하는 편향을 보이며 결과를 구분하지 못했기 때문에 주요 연구에서 제외되었습니다. 최종 평가는 GPT-4.1(GPT 로 표기) 과 Gemini-2.5-Flash(Gemini 로 표기) 에 집중되었습니다.
• 지표:
  • 정확성: 정밀도 (Precision), 재현율 (Recall), F1 점수.
  • 품질: 정밀도, 재현율, F1 의 마이크로 (Micro) 및 매크로 (Macro) 버전.
  • 거리 지표 (Distance Metric): 정확성 오류 (가중치 2) 와 품질 서열 오류 (가중치 1) 를 결합하여 오분류의 심각도를 정량화하는 0 에서 5 까지의 새로운 지표 ($d$).
  • 불확실성: 스피어만 순위 상관관계를 사용한 불확실성 지표와 거리 지표 간의 상관관계.

3. 주요 결과

작업 정확성 (RQ1.a)

• Gemini는 더 높은 재현율(예: MoveNear의 경우 0.730, PickUp의 경우 0.836) 을 보였으며, 이는 대부분의 참 양성 사례를 성공적으로 식별했지만 더 많은 위양성 (false positives) 을 생성했음을 의미합니다.
• GPT는 더 높은 정밀도(예: MoveNear의 경우 0.844, PutIn의 경우 0.980) 를 보였으며, 이는 위양성을 더 적게 발생시켰지만 더 많은 참 양성 사례를 놓쳤음 (낮은 재현율) 을 의미합니다.
• 통계적 검정 (Mann-Whitney U) 은 이러한 차이가 큰 효과 크기를 가지고 유의미함을 확인했습니다.
• 정성적 오류: 두 모델 모두 '거의 완료된' 수행 (성공으로 분류됨), 잘못된 물체와 상호작용, 작업과 유사한 동작을 성공적인 완료로 해석하는 데 어려움을 겪었습니다. Gemini 는 실패를 성공으로 분류하는 경향이 더 강했습니다.

작업 품질 (RQ1.b)

• 다중 클래스 품질 평가의 전반적인 성능은 modest(보통) 였습니다 (마이크로 F1 점수는 대략 0.15 에서 0.48 사이).
• GPT는 일반적으로 품질 평가 지표에서 Gemini 보다 우수한 성과를 보였으며, 특히 PutIn과 PutOn에서 실제 값 (ground truth) 에 더 가까운 유의미하게 낮은 거리 (Distance) 점수를 달성했습니다.
• Gemini는 MoveNear 작업에서 상대적으로 더 잘 수행되었으나 미세한 공간 간격 감지에는 어려움을 겪었습니다.
• 식별된 주요 과제는 VLM 이 미묘한 공간 변화와 미세한 수행 결함 (예: 주저함, 진동, 약간의 충돌) 에 대해 추론하는 데 어려움을 겪는 것이었습니다.

불확실성과 상관관계 (RQ2 및 RQ3)

• 낮은 불확실성: 두 모델 모두 모든 작업과 실행에서 극도로 낮은 불확실성 (엔트로피와 DeepGini 는 0 에 가깝고, MSP 는 1.0 에 가까움) 을 보였습니다.
• 신뢰도 대 정확성: 낮은 불확실성은 높은 정확성과 연관되지 않았습니다. 모델은 예측이 실제 값과 크게 벗어났을 때도 종종 매우 높은 신뢰도를 보였습니다.
• 상관관계 분석:
  • Gemini: 불확실성 지표 (DeepGini, 엔트로피) 와 거리 지표 사이에 통계적으로 유의미한 양의 상관관계를 보였습니다. 불확실성이 높을수록 일반적으로 실제 값과의 편차가 컸습니다.
  • GPT: 상관관계가 더 약하고 일관성이 없었습니다. 일부 작업 (예: PutIn) 의 경우 상관관계가 통계적으로 유의미하지 않았거나 반전되었습니다.
• 불확실성에 대한 결론: 불확실성 지표는 (특히 Gemini 의 경우) 신뢰성에 대한 신호로 작용할 수 있지만, 정확성을 보장하기 위해서는 그 자체로는 부족합니다.

4. 주요 기여

1. VISOR 프레임워크: VLM 을 사용하여 로봇 분야의 테스트 오라클 평가를 자동화하는 새로운 접근법으로, 이진 정확성과 등급별 작업 품질을 모두 평가할 수 있습니다.
2. 대규모 실증 연구: 네 가지 다른 조작 작업을 포함한 1,000 개 이상의 로봇 작업 비디오에 대한 VLM 평가를 통해 자동화된 테스트를 위한 포괄적인 벤치마크를 제공합니다.
3. 새로운 거리 지표: 정확성과 서열 품질 평가에서의 오류 심각도를 모두 고려하는 가중치 거리 지표 도입.
4. 불확실성 분석: VLM 신뢰도와 평가 정확도 간의 관계를 심층적으로 조사하여, 높은 신뢰도가 정확성을 의미하지 않으며 불확실성 지표가 모델 간 유용성이 다르다는 점을 밝혔습니다.

5. 중요성과 주장

본 논문은 VISOR 가 로봇 테스트를 위한 인간 수동 평가의 확장 가능하고 자동화된 대안을 제공한다고 주장합니다.

• 비용과 효율성: 저자들은 평가당 약 $0.03의 비용과 약 7 초의 추론 시간을 추정합니다. 단일 비디오에 대한 인간 평가보다 느리고 비싸지만, VISOR 는 병렬 처리와 지속적 운영에서 상당한 이점을 제공하여 CI/CD 파이프라인에서의 대규모 테스트에 실용적입니다.
• 한계점: 저자들은 그들의 주장이 시뮬레이션 기반 데이터셋으로 제한됨을 명시적으로 밝힙니다. 센서 노이즈와 모션 블러와 같은 실제 세계 요인은 테스트되지 않았음을 인정합니다.
• 향후 작업: 논문은 로봇 데이터로 오픈소스 VLM 을 파인튜닝하면 독점 모델에 대한 의존도를 줄이고 성능을 향상시킬 수 있다고 제안합니다. 또한 더 풍부한 비디오 분석을 위해 '월드 모델'(예: Nvidia Cosmos) 을 탐색하고, 여러 VLM 의 평가를 통합하기 위한 투표 메커니즘을 개발할 것을 제안합니다.

저자들은 VLM 이 테스트 오라클로서 가능성을 보이지만, 공간 추론의 현재 한계와 신뢰도와 정확성 간의 괴리로 인해 안전이 중시되는 실제 세계 시나리오에 완전히 배포되기 전에는 불확실성 지표와 모델 적응에 대한 추가 연구가 필요하다고 결론 내립니다.