OneTwoVLA: A Unified Vision-Language-Action Model with Adaptive Reasoning

OneTwoVLA: 적응형 추론을 갖춘 통합 비전-언어-액션 모델

이 논문은 ICLR 2026 에 발표된 OneTwoVLA라는 새로운 로봇 제어 모델을 소개합니다. 이 모델은 고수준 추론 (System Two) 과 저수준 행동 (System One) 을 단일 통합 모델 내에서 적응적으로 수행하며, 기존 접근법의 한계를 극복하고 로봇의 장기 작업 계획, 오류 복구, 인간과의 상호작용 능력을 획기적으로 향상시킵니다.

1. 문제 제기 (Problem)

기존의 범용 로봇 제어 접근법은 카네만 (Kahneman) 의 이중 시스템 이론에 영감을 받아, 고수준 추론을 담당하는 'System Two'(예: 사전 훈련된 VLM) 와 저수준 행동을 담당하는 'System One'(예: VLA) 으로 분리된 이중 시스템 (Dual-System) 아키텍처를 주로 사용했습니다. 그러나 이러한 분리된 구조는 다음과 같은 심각한 문제를 야기합니다:

• 상호 인식 부재: 두 시스템이 서로의 능력을 이해하지 못해, System Two 가 System One 이 실행할 수 없는 추상적인 지시를 생성할 수 있습니다.
• 지연 (Latency) 문제: 실시간 환경에서 System Two 의 추론이 느려져, 로봇이 구식이거나 관련 없는 지침을 따르게 됩니다.
• 비효율성: 모든 단계에서 추론을 수행하는 것은 계산 비용이 많이 들고, 추론이 없는 단순 VLA 는 복잡한 장기 작업에서 실패하기 쉽습니다.

2. 방법론 (Methodology)

OneTwoVLA는 추론과 행동을 하나의 모델로 통합하고, 작업 수행 중 적응형 (Adaptive) 으로 두 모드 사이를 전환하는 프레임워크를 제안합니다.

2.1 통합 아키텍처 및 적응형 추론

• 단일 모델: Vision-Language-Action (VLA) 모델 기반으로, 텍스트 추론과 액션 생성을 모두 수행합니다.
• 적응적 전환: 모델은 각 타임스텝에서 [BOR](Reasoning 시작) 또는 [BOA](Action 시작) 토큰을 예측하여 모드를 결정합니다.
  • 추론 모드 (System Two): 중요한 시점 (하위 작업 완료, 오류 감지, 인간 개입 필요 시) 에 자연어 추론을 수행합니다. 이는 장면 설명, 고수준 계획, 진행 상황 요약, 다음 단계 지시 등을 포함합니다.
  • 행동 모드 (System One): 최근의 추론 결과를 바탕으로 로봇의 구동 상태 (proprioception) 와 관측을 결합하여 정밀한 액션 청크를 생성합니다.
• 효율성: 대부분의 시간에는 빠른 행동 모드로 작동하며, 추론은 필수적인 순간에만 수행되므로 전체 실행 지연을 최소화합니다.

2.2 데이터 구성 및 합성 파이프라인

모델의 추론 및 일반화 능력을 극대화하기 위해 두 가지 데이터 전략을 사용합니다.

1. 로봇 데이터 정제 (Curating Robot Data): 기존 로봇 데이터에 '추론 구간'을 추가합니다. 하위 작업 완료 시나 오류 발생 시와 같은 핵심 구간에서 텍스트 추론 내용 (장면, 계획, 히스토리, 다음 단계) 을 주석으로 태깅합니다.
2. 확장 가능한 합성 데이터 파이프라인: 로봇 데이터의 한계를 극복하기 위해, Gemini 2.5 와 FLUX.1-dev 를 활용하여 체화된 추론 (Embodied Reasoning) 이 포함된 비전 - 언어 데이터를 대량으로 합성합니다.
   • 테이블 레이아웃 텍스트 생성 $\rightarrow$ 이미지 합성 $\rightarrow$ 작업 지시 및 추론 내용 자동 생성.
   • 총 16,000 개의 합성 데이터를 생성하여 로봇 데이터와 함께 공훈련 (Co-training) 합니다.

3. 주요 기여 (Key Contributions)

1. 통합 추론 - 행동 모델: 추론과 행동을 분리하지 않고 단일 모델에서 적응적으로 전환하는 새로운 패러다임을 제시했습니다.
2. 체화된 추론 데이터 합성: 로봇의 물리적 맥락을 반영한 고품질 추론 데이터를 대량으로 생성하는 확장 가능한 파이프라인을 개발했습니다.
3. 다양한 능력의 통합: 단일 모델이 장기 작업 계획, 실시간 오류 복구, 자연스러운 인간 - 로봇 상호작용, 그리고 일반화된 시각적 그라운딩 (Visual Grounding) 을 모두 수행할 수 있음을 입증했습니다.

4. 실험 결과 (Results)

실제 로봇 플랫폼 (Franka arm, ARX dual-arm) 을 이용한 실험에서 OneTwoVLA 는 기존 모델들을 압도하는 성능을 보였습니다.

• 장기 작업 계획 (Long-horizon Planning):
  • 복잡한 작업 (전복 요리, 핫팟 준비, 칵테일 만들기) 에서 **성공률 87%**를 기록했습니다.
  • 기존 VLA(π0) 보다 30%, 이중 시스템 방식보다 24% 높은 성능을 보였습니다.
  • 추론을 통해 작업 진행 상황을 추적하고 동적으로 계획을 수정하는 능력이 뛰어났습니다.
• 오류 감지 및 복구 (Error Detection & Recovery):
  • 그립 실패나 유체 흘림과 같은 오류를 실시간으로 감지하고, 추론을 통해 교정 전략을 수립하여 성공적으로 복구했습니다 (성공률 80%).
  • 지연이 발생하는 이중 시스템 방식은 오류 발생 시 대응이 늦어 실패율이 높았습니다.
• 인간 - 로봇 상호작용 (Human-Robot Interaction):
  • 인간의 개입이나 모호한 지시에 대해 즉각적으로 추론하여 대응하거나 질문을 던지는 등 자연스러운 상호작용이 가능했습니다 (성공률 100%).
• 일반화된 시각적 그라운딩 (Generalizable Visual Grounding):
  • 로봇 학습 데이터에 없는 새로운 객체나 환경에서도 공간 관계, 속성, 의미적 특징을 이해하여 객체를 정확히 식별했습니다.
  • 합성 데이터로 공훈련한 OneTwoVLA-VL은 오픈 월드 환경에서 **73%**의 성공률을 기록하며, 훈련되지 않은 객체 (예: 스프라이트 캔, GoPro) 도 인식하는 뛰어난 일반화 능력을 보였습니다.

5. 의의 및 결론 (Significance)

OneTwoVLA 는 로봇이 추론과 행동을 유연하게 결합하여 인간과 유사한 물리적 지능을 갖출 수 있음을 보여줍니다.

• 실용성: 단일 모델 아키텍처는 시스템 간 통신 지연을 제거하고, 추론이 필요한 순간에만 리소스를 집중함으로써 실시간 배포에 적합합니다.
• 확장성: 제안한 합성 데이터 파이프라인은 고비용의 인간 데이터 수집 없이도 로봇의 추론 및 일반화 능력을 대폭 향상시킬 수 있는 길을 열었습니다.
• 미래 전망: 이 연구는 복잡한 장기 작업, 동적 환경 변화, 그리고 인간과의 자연스러운 협업을 요구하는 차세대 범용 로봇 개발의 중요한 이정표가 될 것입니다.

결론적으로, OneTwoVLA 는 "생각하고 행동하는 (Reasoning and Acting)" 로봇을 실현하기 위한 통합적이고 효율적인 솔루션을 제시하며, 로봇 학습 분야에서 새로운 표준을 제시합니다.