💻 computer science

Test-Time Scaling for World Action Models via Zero-Shot Geometric Evaluation

이 논문은 제로샷 기하학적 일관성 검사를 통해 테스트 시점 스케일링을 선택적으로 적용함으로써 월드 액션 모델(World Action Models)을 강화하고, 이를 통해 작업 성공률을 높이는 동시에 불필요한 계산 비용을 크게 줄이는 학습이 필요 없는 프레임워크인 \methodgated를 소개한다.

원저자: Zesen Zhao, Minkyoung Cho, Hui shen, Boyuan Zheng, Kunxiao Gao, Yulong Cao, Z. Morley Mao

게시일 2026-07-21

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zesen Zhao, Minkyoung Cho, Hui shen, Boyuan Zheng, Kunxiao Gao, Yulong Cao, Z. Morley Mao

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇이 커피 한 잔을 만드는 법을 배우려고 노력하는 모습을 상상해 보세요. 옛날에 로봇들은 서투른 걸음마 단계의 아이와 같았습니다. 손잡이를 잡고, 잡아당기고, 결과가 잘 나오기만을 바랐죠. 만약 컵을 떨어뜨리면, 그저 실수를 통해 배우기를 희망하며 다시 시도할 뿐이었습니다. 하지만 현대의 로봇들은 점점 더 똑똑해지고 있습니다. 그들은 "세계 행동 모델(World Action Models)"이라고 불리는 것을 사용합니다. 이 모델들을 로봇의 내부 '꿈 생성기'라고 생각해보세요. 로봇이 실제로 팔을 움직이기 전에, 머릿속에서 빠른 시뮬레이션을 실행하여 컵을 잡고, 들어 올리고, 따를 때 미래가 어떻게 보일지 상상합니다. 로봇은 마음의 눈으로 미래를 보는 것입니다.

과학자들이 던지는 핵심적인 질문은 이것입니다: 어떻게 하면 로봇의 "꿈"이 좋은 꿈이 되도록 보장할 수 있을까? 인공지능의 세계에는 "테스트 시간 스케일링(Test-Time Scaling)"이라는 유명한 개념이 있습니다. 이는 학생에게 시험 시간을 더 주는 것과 같습니다. 질문에 단 한 번만 답하는 대신, AI는 열 가지의 서로 다른 가능한 답을 생성하고, 그 모두를 검토한 뒤 가장 좋은 것을 선택합니다. 이는 보통 AI를 더 똑똑하게 만들지만, 많은 컴퓨터 연산량을 필요로 하기 때문에 비용이 많이 들고 느립니다. 로봇에게 있어 나쁜 아이디어에 시간과 에너지를 낭비하는 것은 위험합니다. 생각하는 동안 꽃병을 넘어뜨릴 수도 있기 때문입니다. 따라서 과제는 언제 추가적인 두뇌 에너지를 써서 미래를 확인할 가치가 있는지, 그리고 노이즈에 혼란스럽지 않게 최선의 미래를 어떻게 선택할지 결정하는 것입니다.

이 논문은 로봇이 이러한 결정을 내리는 데 도움을 줄 수 있는 영리하고도 무료인 방법을 소개합니다. 저자들은 "Gated GeoBoN"이라 불리는 시스템을 제안합니다. 로봇이 가진 모든 아이디어를 강제로 확인하는 대신(이는 느린 방식입니다), 그들은 2단계 필터를 구축했습니다. 먼저, 로봇은 자신의 첫 번째 아이디어를 빠르고 저렴하게 살펴봅니다. 로봇은 간단한 질문을 던집니다: "내가 계획한 동작이 내 꿈속에서 보이는 움직임과 실제로 일치하는가?" 만약 로봇이 컵을 들어 올리려고 계획했는데 꿈에서는 컵이 가만히 있다면, 그것은 경고 신호입니다. 그러면 로봇은 "게이트(gate)"를 치고 이렇게 말합니다. "좋아, 이 첫 번째 아이디어는 이상해. 몇 가지 옵션을 더 생성해서 주의 깊게 확인해보자."

만약 첫 번째 아이디어가 일관성 있게 보인다면, 로봇은 시간을 절약하기 위해 그냥 그대로 실행합니다. 하지만 게이트가 작동하면, 로로봇은 새로운 "꿈"들을 묶음으로 생성합니다. 여기서 두 번째이자 더 강력한 단계인 기하학적 검사가 등장합니다. 로봇은 사전 학습된 고정된 기하학 모델(3D 공간을 이해하는 도구)을 사용하여 다양한 카메라 각도에서 자신의 새로운 꿈들을 살펴봅니다. 로봇은 묻습니다: "만약 내가 내 손목 카메라와 메인 카메라의 관점에서 이 미래의 장면을 본다면, 3D 형상들이 완벽하게 일치하는가?" 만약 로봇의 꿈속에서 컵이 공중에 떠 있다면, 이는 물리 법칙의 3D 규칙에 맞지 않으므로 시스템은 이를 거부합니다. 그런 다음 로봇은 가장 물리적으로 일관되게 보이는 꿈을 선택하여 그 동작을 실행합니다.

연구진은 이 방법을 문을 열거나, 커피를 만들거나, 물체를 옮기는 등의 작업을 포함한 여러 로봇 벤치마크에서 테스트했습니다. 그들은 이 방법이 매우 효과적이라는 것을 발견했습니다. 예를 들어, 고정된 횟수의 검사(예: 항상 8개의 옵션을 확인하는 것)를 사용했을 때, 로봇들은 작업 수행 능력이 향가되었습니다. 예를 들어, RoboCasa라는 작업 세트에서 한 종류의 로봇 뇌를 사용했을 때는 성공률이 66.3%에서 68.4%로 높아졌고, 다른 종류의 뇌를 사용했을 때는 80.8%에서 82.5%로 높아졌습니다. 또 다른 세트인 LIBERO Long에서는 성공률이 97.5%에서 99.3%로 뛰어올랐습니다.

하지만 이 논문은 하나의 한계를 발견했습니다. 만약 계속해서 더 많은 옵션을 요구한다면(예: 16개나 32개의 꿈을 확인하는 것), 로봇이 반드시 더 똑똑해지는 것은 아닙니다. 사실, 때로는 오히려 더 나빠지기도 합니다. 저자들은 그 이유가 너무 많은 옵션이 쌓이면, 실제로는 좋은 계획이 아님에도 불구하고 우연히 일관성 있게 보이는 "운 좋은 나쁜 아이디어"를 선택하게 될 수도 있기 때문이라고 설명합니다. 이를 "잘못된 낮은 점수 선택(false low-score selection)"이라고 부릅니다.

이를 해결하기 위해 그들은 "게이트" 시스템을 사용했습니다. 첫 번째 아이디어가 의심스러울 때만 비용이 많이 드는 심층 검사를 수행함으로써, 그들은 많은 시간을 절약했습니다. 그들은 이 "Gated" 접근 방식이 모든 것을 확인했을 때 얻을 수 있는 성능 이점의 약 75%를 회복하면서도, 추가 검사를 트리거하는 경우는 결정의 약 26%에 불과했다는 것을 발견했습니다. 이는 로봇이 대부분의 시간 동안 빠르고 효율적으로 유지되며, 정말 필요할 때만 깊이 생각하기 위해 속도를 늦춘다는 것을 의미합니다. 이 논문은 이러한 내장된 일관성 검사를 사용하는 것이 로봇의 뇌를 새로 훈련시키거나 새롭고 복잡한 부품을 추가하지 않고도 로봇을 더 똑똑하게 만드는 강력하고도 무료인 방법이라고 결론짓습니다.

기술 요약: 제로샷 기하학적 검증을 통한 월드 액션 모델(World Action Models)의 테스트 타임 스케일링

문제 정의

월드 액션 모델(WAM)은 다중 뷰 입력과 언어 지침으로부터 미래의 시각적 관측값과 액션 청크를 공동으로 예측함으로써 시각-운동 제어를 구현하는 유망한 패러다임입니다. 액션 전용 정책과 달리, WAM은 실행 전 "상상된(imagined)" 롤아웃을 노출하며, 이는 로봇이 액션을 확정하기 전에 예측된 미래가 내부적으로 일관되는지 검사할 수 있는 독특한 기회를 제공합니다.

테스트 타임 스케일링(추가적인 계산량을 들여 샘플을 추출하고 후보를 선택하는 것)이 언어 모델에서는 효과적임이 입증되었으나, 이를 로보틱스에 적용하는 데는 구체적인 과제들이 따릅니다. 기존의 로봇 선택 방식은 흔히 다음과 같은 한계를 가집니다:

모든 결정 시점에서 필요 여부와 상관없이 고정된 샘플링 예산을 사용하여 계산 효율성이 떨어짐.
특정 인터페이스나 미세 조정(fine-tuning)이 필요한 학습된 보상 모델, 검증기 목적 함수 또는 모델 내부의 신뢰도 헤드와 같은 학습된 신호에 의존함.
서로 다른 WAM 백본 간에 일반화되지 않는 모델 특정적 신호에 의존함.

핵본적인 질문은 다음과 같습니다: 로봇은 언제 추가적인 미래를 샘플링하기 위해 추가 계산량을 투입해야 하며, 작업별 레이블이나 학습된 검증기에 의존하지 않고 어떻게 이들 사이에서 선택할 것인가?

방법론: Gated GeoBoN

저자들은 학습이 필요 없는 2단계 선택적 테스트 타임 스케일링 프레임워크인 Gated GeoBoN을 제안합니다. 이 방법은 WAM 추론 과정에서 자연스럽게 노출되는 신호, 즉 예측된 미래 프레임과 생성된 액션을 활용하며, 정답 미래 관측값이나 작업 성공 레이블을 요구하지 않습니다.

1단계: 액션-미래 일관성 게이트 (선택적 샘플링)

첫 번째 단계는 추가 샘플링이 필요한지 결정하는 경량 필터 역할을 합니다.

메커니즘: 시스템은 생성된 액션과 예측된 미래에 보이는 움직임을 비교합니다.
구현:
- 현재 관측값과 예측된 미래 프레임 사이의 조밀한 광학 흐름(optical flow, $F$ )을 계산합니다.
- 액션 청크로부터 순방향 기구학(forward kinematics)을 통해 도출된 말단 장치(end-effector)의 움직임을 카메라 뷰( $\Delta u$ )로 투영합니다.
- 말단 장치 주변의 캡슐 영역 내에서 예측된 시각적 흐름과 투영된 액션 움직임 사이의 코사인 일치도( $c$ )를 계산합니다.
결정 로직: 일치도 점수 $c$ 가 임계값 $\tau_{gate}$ 보다 낮으면, 초기 롤아웃이 내부적으로 불일치한 것으로 간주됩니다. 시스템은 이후 $N_{max}-1$ 개의 추가 롤아웃 샘플링을 트리거합니다. 게이트를 통과하면 초기 롤아웃을 즉시 실행하여 계산량을 절약합니다.

2단계: 교차 뷰 기하학적 평가기 (GeoBoN)

게이트가 트리거되거나 고정 예산 설정인 경우, 시스템은 후보들의 순위를 매기기 위해 Best-of-N (BoN) 선택기를 사용합니다

메커니즘: 이 단계는 예측된 미래의 **교차 뷰 기하학적 일관성(cross-view geometric consistency)**을 평가합니다.
구현:
- 동결된 기하학 기초 모델(VGGT- $\Omega$ )을 사용하여 카메라 기하 구조와 깊이(depth)를 추정합니다.
- 각 후보 롤아웃에 대해, 기본 뷰(primary view)와 손목 뷰(wrist view)에서 얻은 예측된 미래 프레임을 처리합니다.
- 손목 뷰의 3D 포인트 맵을 기본 카메라 프레임으로 투영하고, 투영된 깊이( $d_{proj}$ )를 기하 모델이 직접 예측한 기본 뷰의 깊이( $d_{vggt}$ )와 비교합니다.
순위 산정: 순위 측정 기준은 교차 뷰 깊이 재투영 불일치(깊이의 로그 비율)입니다.
선택: 불일치 점수가 가장 낮은 후보가 실행 대상으로 선택됩니다.

주요 기여

선택기로서의 기하학적 일관성 식별: 본 논문은 교차 뷰 기하학적 일관성이 WAM 롤아웃을 순위 매기기 위한 견고하고 학습이 필요 없는 신호임을 확인했습니다. 저자들은 작업 레이블이나 정답 미래 없이 작동하는 고정 예산 Best-of-N 선택기인 GeoBoN을 제안합니다.
Gated GeoBoN 프레임워크: 저자들은 액션-미래 일관성 게이트와 GeoBoN을 결합한 2단계 프레임워크를 도입했습니다. 이를 통해 초기 롤아웃이 신뢰할 수 없다고 판단될 때만 비용이 많이 드는 샘플링과 기하학적 평가를 호출함으로써, "항상 켜져 있는(always-on)" 스케일링의 성능 이점을 적은 비용으로 대부분 회복할 수 있습니다.
포괄적인 검증: 이 프레임워크는 폐쇄 루프(closed-loop) 평가 및 오프라인 진단을 통해 다섯 가지 벤치마크-백본 설정(RoboCasa, LIBERO Long, RoboTwin 2.0 with Cosmos Policy, X-WAM, LingBotVA, Motus)에서 검증되었습니다.

실험 결과

평가는 제안된 방법이 작업 성공률을 높이는 동시에 계산 비용을 관리함을 보여줍니다:

고정 예산 GeoBoN: 모든 설정에서 $N=8$ 개의 후보를 사용하는 고정 예산 방식은 단일 롤아웃 추론보다 높은 작업 성공률을 보였습니다.
- RoboCasa: 그룹 평균 성공률을 Cosmos Policy의 경우 **66.3%에서 68.4%**로, X-WAM의 경우 **80.8%에서 82.5%**로 향상시켰습니다.
- LIBERO Long: Cosmos Policy의 성공률을 **97.5%에서 99.3%**로 개선했습니다.
- RoboTwin 2.0: Motus의 성공률을 **87.8%에서 89.9%**로 향상시켰습니다.
- 참고: 매우 큰 예산( $N=16$ )에서는 스푸리어스(spurious)한 저점수 이상치(outlier)가 선택되는 문제로 인해 성능이 정체되거나 약간 저하되기도 합니다.
Gated GeoBoN 효율성: 게이트를 활성화함으로써 시스템은 결정 지점의 단 **14.2% ~ 34.5%**에서만 추가 샘플링을 트리거합니다.
- 이는 "항상 켜져 있는" 방식의 성공 이득을 평균 **74.8%**까지 회복합니다.
- 예를 들어, RoboCasa(Cosmos Policy 적용)에서 이 방식은 **24.7%**의 지연 시간(latency)만으로 **67.9%**의 성공률을 달s성했습니다 (항상 켜져 있는 방식의 68.4% 대비).
선택기 진단: 오프라인 분석 결과, 교차 뷰 재투영이 신뢰도 기반 또는 컨센서스 기반 대안보다 더 일관된 선택기임을 확인했습니다. 이는 모든 테스트 예산에서 모델 특정적 학습 가치 헤드(learned value head, Cosmos Policy)보다 우수한 성능을 보였습니다.
실패 분석: 논문은 **가짜 저점수 선택(false low-score selection)**이라는 특정 실패 모드를 식와합니다. 후보 풀( $N$ )이 증가함에 따라, (다른 것들과 시각적으로 동일함에도 불구하고) 스푸리어스하게 낮은 재투영 오차를 가진 후보를 선택할 확률이 높아집니다. 이러한 "다중 비교 효과(multiple-comparisons effect)"가 높은 $N$ 에서 성능이 저하되는 이유를 설명합니다.

의의 및 주장

본 논문은 WAM이 단순히 더 많은 미래를 샘플링하는 것뿐만 아니라, 노출된 미래를 사용하여 언제 더 많은 계산이 필요한지를 결정함으로써 이득을 얻는다고 주장합니다.

학습이 필요 없는 일반화: 학습된 검증기나 특정 모델 인터페이스를 요구하는 이전 방법들과 달리, Gated GeoBoN은 동결된 기하 기초 모델을 활용하여 모든 다중 뷰 WAM과 함께 작동합니다.
효율적인 스케일링: 게이팅 메커니즘은 "항상 켜져 있는" 스케일링이 종종 불필요함을 입증합니다. 경량화된 일관성 체크를 통해 신뢰할 수 있는 롤아웃을 효과적으로 필터링하여, 불확실한 시나리오를 위해 무거운 계산 자원을 예약할 수 있습니다.
대리 지표로서의 기하학적 일관성: 본 연구는 교차 뷰 기하학적 일관성이 여러 벤치마크에서 모델 내부의 신뢰도 신호 및 학습된 가치 헤드보다 뛰어난, 강력하고 작업 레이블이 필요 없는 롤아웃 품질의 대리 지표(proxy)임을 확립했습니다.

저자들은 이 접근 방식이 추가 학습 없이 WAM 롤아웃의 내재적 구조를 활용하여 추론 시 의사결정을 내림으로써 로봇 제어 정책을 개선할 수 있는 실질적인 경로를 제공한다고 결론짓습니다.