BitVLA: 1-bit Vision-Language-Action Models for Robotics Manipulation

이 논문은 엣지 로봇 플랫폼에서 메모리 사용량을 11 배, 지연 시간을 4.4 배 줄이면서도 풀 정밀도 모델과 유사한 성능을 내기 위해 1 비트 가중치를 사용하는 'BitVLA'라는 새로운 비전 - 언어 - 행동 모델을 제안합니다.

핵심

🤖 로봇의 '뇌'를 가볍게 만든 혁신: BitVLA

이 논문은 로봇이 세상을 보고, 이해하고, 손으로 물건을 잡는 일을 할 때 필요한 인공지능 (AI) 모델을 어떻게 훨씬 작고 가볍게 만들 수 있는지 소개합니다. 바로 **'BitVLA'**라는 새로운 기술입니다.

기존의 로봇 AI 는 마치 거대한 도서관처럼 방대한 데이터와 무거운 컴퓨터가 필요해서, 일반 가정이나 작은 로봇에 탑재하기 어려웠습니다. 하지만 BitVLA 는 이 도서관을 작은 스마트폰 메모리 안에 넣을 정도로 압축하면서도, 똑똑함은 그대로 유지하는 놀라운 방법을 제시했습니다.

---

1. 핵심 아이디어: "모든 것을 1 비트로!" (1-bit 모델)

일반적인 AI 모델은 숫자를 표현할 때 '부동 소수점'이라는 복잡한 방식을 써서 많은 메모리를 차지합니다. 마치 고급 레스토랑의 정교한 요리처럼 재료 (데이터) 가 많고 정교하지만, 만들기 어렵고 비쌉니다.

반면, BitVLA 는 모든 숫자를 {-1, 0, 1} 세 가지 값만 사용하도록 바꿨습니다.

• 비유하자면: 고급 레스토랑 요리 대신, **간단하지만 영양가 높은 '비트 (Bit) 도시락'**을 만든 것입니다.
• 효과: 재료 (메모리) 는 11 배나 줄었지만, 맛 (성능) 은 고급 레스토랑 요리와 거의 비슷합니다!

2. 어떻게 이렇게 가볍게 만들었을까? (세 단계 훈련법)

저자들은 단순히 AI 를 잘라내서 작게 만든 게 아니라, 처음부터 가볍게 만들 수 있도록 세 단계의 훈련 과정을 고안했습니다.

1 단계: 눈과 언어를 연결하기 (Multimodal Training)

• 상황: 로봇의 '눈' (카메라) 과 '언어' (명령) 를 연결하는 훈련입니다.
• 방법: 아주 똑똑한 1 비트 언어 모델 (BitNet) 에 고해상도 카메라를 연결했습니다. 이때 카메라는 아직 무거운 상태지만, 언어 모델은 이미 가볍습니다.
• 비유: **어린아이 (1 비트 언어 모델)**에게 **전문 사진작가 (고해상도 카메라)**의 눈을 빌려주어 세상의 사물을 배우게 하는 단계입니다.

2 단계: '가압-지도' 훈련 (Quantize-then-Distill) - 이 기술이 핵심!

• 문제: 이제 카메라도 가볍게 만들고 싶지만, 무거운 카메라를 바로 가볍게 바꾸면 시력이 떨어질까 봐 걱정됩니다.
• 해결: **가벼운 학생 (1.58 비트 카메라)**과 **무거운 선생님 (원본 카메라)**을 짝지어 훈련시켰습니다.
• 방법: 선생님이 본 것을 학생이 똑같이 따라 하도록 가르칩니다 (지식 증류). 학생은 가볍게 변해가지만, 선생님의 시선을 따라가므로 시력이 떨어지지 않습니다.
• 비유: 거울을 통해 무거운 선생님의 모습을 가볍게 학생이 따라 하는 것입니다. 학생은 가벼워졌지만, 선생님이 본 세상의 모습은 그대로 기억하게 됩니다.

3 단계: 로봇 실전 훈련 (Robotics Training)

• 상황: 이제 눈과 언어가 다 가벼워졌으니, 실제 로봇 팔을 움직이는 법을 배웁니다.
• 방법: 실제 로봇이 물건을 잡는 100 만 번의 경험을 학습시켜, "컵을 잡아"라는 말을 들으면 바로 컵을 잡는 행동을 하도록 만듭니다.

3. 어떤 결과가 나왔을까? (실제 실험)

이 기술을 적용한 BitVLA 는 놀라운 성과를 거두었습니다.

• 메모리: 기존 거대 모델 (OpenVLA) 이 15GB의 메모리를 썼다면, BitVLA 는 1.4GB만 썼습니다. (약 11 배 가벼워짐!)
  • 비유: 무거운 -desktop PC 대신, 스마트폰이나 노트북에서도 로봇을 구동할 수 있게 되었습니다.
• 속도: 명령을 내리고 로봇이 움직이기까지 걸리는 시간이 4.4 배 빨라졌습니다.
  • 비유: 느릿느릿한 거북이가 토끼처럼 빠르게 반응하게 되었습니다.
• 성능: 메모리가 훨씬 작아졌지만, 물건을 잡는 성공률은 거대한 모델과 비슷하거나 오히려 더 좋았습니다.

4. 왜 이것이 중요한가요?

지금까지 로봇 AI 는 무거워서 공장이나 연구실 같은 큰 공간에만 있었습니다. 하지만 BitVLA 덕분에:

1. 가정용 로봇: 우리 집 거실이나 주방에 있는 작은 로봇도 똑똑한 AI 를 탑재할 수 있게 됩니다.
2. 에너지 절약: 전기를 덜 먹기 때문에 배터리로 오래 작동할 수 있습니다.
3. 실시간 반응: 로봇이 주변 상황을 보고 즉시 반응할 수 있어 안전해집니다.

📝 한 줄 요약

"BitVLA 는 거대한 AI 모델을 '1 비트'라는 초경량 도시락으로 바꿔, 작은 로봇도 거대 AI 못지않게 똑똑하고 빠르게 움직이게 만든 혁신적인 기술입니다."

이 기술은 앞으로 우리가 만나는 모든 로봇이 더 작고, 저렴하며, 똑똑해지는 시대의 문을 연다고 할 수 있습니다.

기술 요약

1. 문제 정의 (Problem)

로봇 조작 (Robotics Manipulation) 을 위한 비전 - 언어 - 행동 (VLA, Vision-Language-Action) 모델은 뛰어난 일반화 능력을 보여주지만, 실제 엣지 디바이스 (Edge Devices) 나 모바일 로봇에 배포하는 데에는 다음과 같은 심각한 제약이 존재합니다.

• 엄격한 자원 제약: 실제 로봇 시스템은 메모리, 연산 처리량 (Throughput), 에너지 예산이 제한적입니다. 기존 VLA 모델은 대규모 파라미터와 정밀도 (Full-precision) 를 사용하여 메모리 사용량과 지연 시간 (Latency) 이 매우 큽니다.
• 기존 양자화 (Quantization) 의 한계: 사후 양자화 (Post-training quantization) 는 메모리를 줄일 수 있지만, 종종 정확도 하락을 초래하며 원래 학습 과정의 최적화 동역학과 일치하지 않아 보정이 어렵습니다.
• 멀티모달 1 비트 모델의 부재: 1 비트 (또는 3 진수) LLM 은 언어 분야에서 효율성을 입증했으나, 비전 - 언어 정렬과 행동 예측이 긴밀하게 결합된 VLA 모델로 확장하는 것은 연구가 거의 이루어지지 않았습니다.

2. 방법론 (Methodology)

저자들은 BitVLA를 제안하며, 이는 로봇 조작을 위한 최초의 완전 네이티브 1 비트 (Fully Native 1-bit) VLA 모델입니다. 모든 파라미터가 $\{-1, 0, 1\}$의 3 진수 (Ternary) 로 제한됩니다.

A. 모델 아키텍처

• 백본: 공개된 1 비트 LLM 인 BitNet b1.58 2B4T를 기반으로 합니다.
• 비전 인코더: SigLIP-L 을 사용하며, 메모리 사용을 줄이기 위해 제안된 Quantize-then-Distill 기법을 통해 1.58 비트 가중치와 INT8 활성화 값으로 압축합니다.
• 연결부 (Connector) 및 행동 헤드: 파라미터 수가 적고 메모리 부담이 미미하므로 정밀도 (Full-precision) 를 유지합니다.

B. 3 단계 학습 파이프라인

BitVLA 는 효율성을 극대화하기 위해 학습 단계에서 양자화를 통합한 3 단계 학습 전략을 사용합니다.

1. 멀티모달 학습 (Multimodal Training):
   • 1 비트 LLM 과 정밀도 비전 인코더를 결합하여 LLaVA 패러다임에 따라 학습합니다.
   • 먼저 커넥터만 학습하여 비전 토큰과 언어 임베딩을 정렬한 후, 비전 인코더를 고정하고 나머지 모듈을 학습합니다.
2. Quantize-then-Distill (양자화 후 증류):
   • 핵심 기여: 정밀도 비전 인코더를 1.58 비트 가중치로 압축하는 단계입니다.
   • 정밀도 인코더를 '교사 (Teacher)'로 고정하고, 1.58 비트 인코더를 '학생 (Student)'으로 학습합니다.
   • 손실 함수: 언어 모델링 손실 (Instruction Following) 과 중간 특징 정렬 손실 (Representation Alignment Loss) 을 결합하여, 양자화로 인한 표현력 손실을 최소화합니다.
   • 이 과정에서 1 비트 LLM 백본은 고정되어 학습 안정성을 유지합니다.
3. 로봇 학습 (Robotics Training):
   • Open X-Embodiment 데이터셋의 약 100 만 개 로봇 궤적을 사용하여 대규모 사전 학습 (Pre-training) 을 수행합니다.
   • 행동 조각화 (Action Chunking) 를 통해 실시간 제어를 위한 효율적인 추론을 가능하게 합니다.

3. 주요 기여 (Key Contributions)

1. BitVLA 제안: 로봇 조작을 위한 최초의 완전 네이티브 1 비트 VLA 모델을 구축했습니다. 모든 파라미터가 3 진수 ($\{-1, 0, 1\}$) 로 제한됩니다.
2. Quantize-then-Distill 전략: 비전 백본을 1.58 비트로 압축하면서도 멀티모달 정렬과 태스크 성능을 유지하는 경량 양자화 인식 학습 전략을 제안했습니다.
3. 효율성과 성능의 동시 달성: 기존 정밀도 모델과 유사한 성능을 유지하면서 메모리 사용량을 획기적으로 줄이고 지연 시간을 단축했습니다.

4. 실험 결과 (Results)

A. 시뮬레이션 환경 (LIBERO Benchmark)

• 성능: BitVLA 는 7.7B 파라미터의 OpenVLA-OFT와 유사한 성능 (평균 성공률 96.0% vs 97.1%) 을 달성했습니다.
• 비교: 3.5B 파라미터의 $\pi_0$ 모델보다 LIBERO-Long (장기적 작업) 에서 7.6% 높은 성능을 보였습니다.
• 메모리: OpenVLA-OFT 대비 11 배 (11.0×) 적은 메모리 (1.4GB) 만 사용합니다.

B. 실제 세계 로봇 실험 (Real-world Tasks)

• 과제: 물수박 잡기, 빵을 바구니에 넣기, 종을 뒤집기 등 3 가지 조작 과제 및 OOD(분포 외) 변형 과제 수행.
• 결과: BitVLA 는 $\pi_0$를 모든 과제에서 능가했으며, 훨씬 큰 OpenVLA-OFT 와도 경쟁력 있는 성능을 보였습니다. 사전 학습 (Pre-training) 이 없으면 성능이 급격히 떨어지므로, 대규모 로봇 궤적 학습의 중요성을 입증했습니다.

C. 추론 효율성 (Inference Efficiency)

• 지연 시간 (Latency): OpenVLA-OFT 대비 4.4 배 빠릅니다 (73ms vs 321ms).
• 처리량 (Throughput): 341.1 Hz 로, 기존 모델들보다 월등히 높은 처리 속도를 보입니다.
• 하드웨어: 4GB 메모리를 가진 소비자용 GPU (NVIDIA RTX 3050 Ti) 에서도 실행 가능합니다.

5. 의의 및 결론 (Significance)

• 배포 가능성: BitVLA 는 메모리 제약이 심한 엣지 로봇 플랫폼에서도 고성능 VLA 모델을 배포할 수 있는 실용적인 경로를 제시합니다.
• 학습 - 효율성 공동 설계 (Co-design): 사후 압축이 아닌, 학습 단계부터 양자화를 통합함으로써 효율성과 정확성을 동시에 최적화하는 새로운 패러다임을 보여줍니다.
• 하드웨어 최적화: 1 비트 가중치와 INT8 활성화 값은 부동소수점 연산 (FLOPs) 을 정수 덧셈으로 대체하여 에너지 효율을 극대화하며, 1 비트 VLA 에 최적화된 전용 가속기 설계의 기반을 마련합니다.

결론적으로, BitVLA 는 로봇 공학 분야에서 대규모 모델의 효율적인 배포를 가능하게 하는 획기적인 기술로, 제한된 자원을 가진 엣지 환경에서도 경쟁력 있는 로봇 조작 능력을 실현할 수 있음을 입증했습니다.