ForeAct: Steering Your VLA with Efficient Visual Foresight Planning

1. 문제 정의 (Problem Statement)

• VLA 모델의 한계: 비전 - 언어 - 행동 (Vision-Language-Action, VLA) 모델은 고수준의 언어 지시를 구체적인 로봇 행동으로 변환하는 데 탁월한 잠재력을 보이지만, 개방형 환경 (open-world) 에서 복잡한 다단계 작업을 수행할 때 어려움을 겪습니다.
• 근본 원인: 고수준 언어 지시 (예: "쓰레기를 치워라") 를 구체적인 실행 가능한 행동 시퀀스로 '그라운딩 (grounding)'하는 과정이 어렵습니다. VLA 모델은 복잡한 의미론적 추론 (semantic reasoning) 과 시 - 운동 추론 (visuo-motor inference) 을 동시에 수행해야 하므로, 특히 복잡한 환경에서 정확도와 일반화 능력이 떨어집니다.
• 기존 접근법의 부족: 단순히 텍스트 하위 작업 (subtask) 을 제공하는 것만으로는 로봇이 구체적인 행동 단계를 시각적으로 명확히 이해하기 어렵습니다. 또한, 기존 비전 예측 기반 방법론들은 추론 속도가 느리거나 폐쇄 루프 (closed-loop) 제어에 적합하지 않은 경우가 많습니다.

2. 제안 방법: ForeAct (Visual Foresight Planning)

저자들은 ForeAct라는 효율적인 플래너를 제안하여 VLA 모델을 단계별 시각적 안내로 유도합니다. 핵심 아이디어는 "무엇을 할지 (What)"가 아닌 "어떻게 할지 (How)"를 시각적으로 보여주는 것입니다.

2.1. 아키텍처 구성

ForeAct 는 크게 두 가지 주요 모듈로 구성되며, 기존 VLA 모델의 아키텍처를 수정하지 않고 시각 입력을 확장하는 방식으로 통합됩니다.

1. 효율적 예지 이미지 생성 모듈 (Efficient Foresight Image Generation, ImGen):

   • 역할: 현재 관측치와 언어 지시를 기반으로 로봇이 수행한 후의 '상상된 미래 관측치 (imagined future observation)'를 생성합니다.
   • 아키텍처: SANA(State-of-the-art image generation model) 를 기반으로 하며, 고해상도 (640x480) 이미지를 효율적으로 생성하기 위해 선형 DiT(Linear Diffusion Transformer) 와 32 배 압축 오토인코더 (DC-AE) 를 사용합니다.
   • 특징: 로봇의 고유 상태 (proprioception) 를 배제하고 시각 정보와 언어 지시만으로 학습하여 다양한 로봇 플랫폼에 일반화되도록 설계되었습니다.
   • 속도: H100 GPU 에서 약 0.33 초 만에 고화질 미래 이미지를 생성하여 실시간 폐쇄 루프 제어가 가능합니다.

2. 비전 - 언어 모델 (VLM) 기반 하위 작업 플래너:

   • 역할: 복잡한 전체 작업을 분석하여 즉시 실행 가능한 '하위 작업 설명 (subtask description)'을 생성하고, 실행 후 상태를 모니터링하여 다음 단계를 재계획합니다.
   • 동작: Reason-Execute-Monitor 사이클을 통해 VLA 가 실패 시 복구하고 환경 불확실성에 적응하도록 돕습니다.

2.2. 통합 방식

기존 VLA 모델 ($\pi_l$) 은 생성된 미래 관측치 ($G_t$) 를 추가적인 시각 입력으로, 하위 작업 설명 ($l_t$) 을 언어 조건으로 받아 행동 ($A_t$) 을 생성합니다.
$$\pi(A_t | I_t, q_t, l) = \pi_l(A_t | [I_t, G_t], q_t, l_t) \cdot \pi_h(G_t, l_t | I_t, l)$$
이 방식은 VLA 가 고수준 추론 대신 **시 - 운동 추론 (visuo-motor inference)**에 집중할 수 있게 하여 정확도를 높입니다.

3. 주요 기여 (Key Contributions)

1. 새로운 플래닝 프레임워크: 고수준 언어 지시를 구체적인 시각적 목표 (미래 관측치) 로 변환하여 VLA 의 행동 생성을 안내하는 '시각적 예지 계획 (Visual Foresight Planning)' 프레임워크를 제안했습니다.
2. 효율성과 실용성: H100 GPU 에서 0.33 초 내에 고해상도 미래 이미지를 생성하는 효율적인 생성 모델을 개발하여, 실제 로봇의 폐쇄 루프 제어에 적용 가능한 속도를 달성했습니다.
3. 대규모 사전 학습: 100 만 개 이상의 다양한 로봇 embodiment(다양한 로봇 형태) 데이터를 기반으로 생성 모델을 사전 학습시켜, 새로운 환경과 작업에 대한 강력한 일반화 능력을 확보했습니다.
4. 비교 우위: 기존 VLA 모델의 아키텍처 변경 없이 시각 입력만 확장하여 통합할 수 있어, 최첨단 VLA 모델에 쉽게 적용 가능합니다.

4. 실험 결과 (Results)

저자들은 Galaxea R1 Lite 로봇을 사용하여 11 가지 다양한 실세계 작업 (주방, 작업 공간, 공장 환경) 과 LIBERO 시뮬레이션 벤치마크에서 평가를 수행했습니다.

• 실세계 성능 (Real-World Benchmark):

  • 평균 성공률: ForeAct 는 **87.4%**의 평균 성공률을 기록했습니다.
  • 비교 우위:
    • 기본 $\pi_0$ 모델 (46.5%) 대비 +40.9% 향상.
    • 텍스트 하위 작업 안내가 추가된 $\pi_0$ (57.1%) 대비 +30.3% 향상.
  • OOD(분포 외) 일반화: 훈련 데이터에서 보지 못한 객체 배치나 조합 (예: 여러 가지 야채를 순차적으로 담는 작업) 에서 기존 모델이 실패하는 반면, ForeAct 는 시각적 안내를 통해 성공적으로 작업을 완수했습니다.

• 데이터 효율성 (Data Efficiency):

  • 훈련 데이터의 20% 만 사용해도 79% 의 성공률을 달성하여, 기존 베이스라인보다 훨씬 적은 데이터로도 높은 성능을 발휘함을 입증했습니다.

• 시뮬레이션 벤치마크 (LIBERO):

  • $\pi_0.5$ 모델과 결합 시, 평균 성공률을 96.8% 에서 **97.5%**로 추가로 향상시켰습니다.

• 지연 시간 (Latency):

  • 8 단계의 디노이징 (denoising) 단계를 사용하여 0.33 초의 지연 시간을 달성했으며, 이는 실시간 제어에 충분합니다.

5. 의의 및 결론 (Significance)

• 시각적 안내의 중요성: 이 연구는 로봇이 복잡한 작업을 수행할 때, 텍스트 지시만으로는 부족하며 **구체적인 시각적 목표 상태 (미래 관측치)**를 제공하는 것이 행동 생성의 정확도와 일반화 능력을 극대화한다는 것을 증명했습니다.
• 실용적 적용 가능성: 0.33 초라는 빠른 생성 속도와 기존 모델과의 호환성으로 인해, ForeAct 는 실제 로봇 시스템에 즉시 적용 가능한 실용적인 솔루션입니다.
• 향후 방향: 추론 속도를 더 높이기 위한 증류 (distillation) 나 양자화 (quantization) 기법 등을 통해 더 낮은 지연 시간을 달성할 수 있을 것으로 기대됩니다.

결론적으로, ForeAct 는 VLA 모델이 고수준 추론의 부담을 덜고 시 - 운동 제어에 집중할 수 있도록 돕는 강력한 프레임워크로, 보다 강력하고 신뢰할 수 있는 임베디드 지능 (embodied intelligence) 을 실현하는 중요한 방향성을 제시합니다.