LAP: Language-Action Pre-Training Enables Zero-shot Cross-Embodiment Transfer

기술적 요약 (한국어)

이 논문은 로봇 공학의 오랜 목표인 "새로운 로봇 형태 (Embodiment) 에 대한 제로샷 (Zero-shot) 배포"를 달성하기 위한 새로운 접근법인 **LAP (Language-Action Pre-Training)**을 제안합니다. 기존 비전 - 언어 - 액션 (VLA) 모델들이 다양한 로봇에 적용되기 위해 비용이 많이 드는 파인튜닝이 필요했던 한계를 극복하고, 자연어 기반의 액션 표현을 통해 로봇의 형태에 구애받지 않는 일반화 능력을 입증했습니다.

1. 문제 정의 (Problem)

• 제로샷 크로스-임바디먼트 전이 (Zero-shot Cross-Embodiment Transfer) 의 부재: 기존 대규모 VLA 모델들은 인터넷 규모의 데이터와 다양한 로봇 데이터를 학습했음에도 불구하고, 훈련 데이터에 포함되지 않은 새로운 로봇 (예: 그리퍼 모양, 카메라 위치, 관절 수의 차이) 에서는 성능이 급격히 떨어지거나 아예 작동하지 않습니다.
• 기존 방법의 한계:
  • 액션 토큰화 (Tokenization): 기존 VLA 는 연속적인 로봇 제어 명령 (Joint/End-effector commands) 을 임의의 토큰이나 추상화된 토큰으로 변환하여 학습합니다. 이는 사전 학습된 비전 - 언어 모델 (VLM) 의 분포와 불일치 (Distributional Mismatch) 를 일으켜, VLM 이 가진 강력한 의미론적 (Semantic) 지식과 일반화 능력을 저해합니다.
  • 형태 의존성 (Embodiment Coupling): 액션 공간의 통일만으로는 다른 로봇의 물리적 구조 차이를 극복할 수 없으며, 새로운 로봇에 배포할 때마다 별도의 파인튜닝이 필수적입니다.

2. 제안 방법론: LAP (Language-Action Pre-Training)

저자들은 VLM 의 사전 학습 분포와 액션 예측을 정렬하기 위해 **자연어로 표현된 액션 (Language-Actions)**을 직접 학습하는 새로운 전처리 레시피를 제안합니다.

핵심 아이디어

• 자연어 기반 액션 표현: 로봇의 저수준 제어 명령 (예: "그리퍼를 5cm 앞으로 이동", "30 도 기울이기") 을 자연어 문장 형태로 변환하여 VLM 에게 학습시킵니다.
  • 예: Move forward 5cm, Tilt right 30 degrees
• 분포 정렬 (Distribution Alignment): 자연어 토큰은 VLM 이 이미 학습한 언어 분포와 일치하므로, 모델이 새로운 로봇의 제어 명령을 학습할 때 사전 학습된 시각 - 의미 지식 (Visual-Semantic Priors) 을 유지하면서 정밀한 제어를 습득할 수 있습니다.
• 자동 생성: 수동 주석이 필요 없으며, 로봇 데이터셋의 엔드 이펙터 (End-effector) 궤적 데이터를 고정된 좌표계와 템플릿을 사용하여 자동으로 자연어 텍스트로 변환합니다.

아키텍처 (LAP-3B)

• 하이브리드 설계:
  1. VLM 백본: LAP 로 학습된 비전 - 언어 모델이 구조화된 자연어 액션 토큰을 예측합니다 (Cross-Entropy Loss).
  2. 액션 전문가 (Action Expert): 경량화된 Flow-Matching 기반의 디퓨전 모델이 VLM 이 예측한 자연어 정보를 바탕으로 실제 연속적인 제어 명령을 생성합니다.
• 지식 격리 (Knowledge Insulation): 액션 전문가의 그래디언트가 VLM 백본으로 역전파되는 것을 차단하여, VLM 의 사전 학습된 표현이 손상되지 않도록 합니다.
• 효율성: 추론 시에는 VLM 이 아닌 경량 액션 전문가만 실행하여 25Hz 의 실시간 제어가 가능합니다.

3. 주요 기여 (Key Contributions)

1. LAP 레시피 개발: VLA 에게 자연어 액션을 직접 학습시켜 크로스-임바디먼트 일반화를 가능하게 하는 새로운 전처리 방법론 제안.
2. LAP-3B 모델 구현: PaliGemma-3B 백본을 기반으로 한 최초의 VLA 모델로, 파인튜닝 없이 완전히 새로운 로봇에 제로샷으로 성공적으로 적용됨.
3. 성능 입증: 기존 최첨단 (SOTA) VLA 대비 약 2 배 (약 30% 절대적 향상) 의 제로샷 성공률 달성.
4. 효율적인 적응: 새로운 로봇이나 복잡한 작업에 대한 파인튜닝 시, 기존 방법 대비 약 2.5 배 적은 데이터와 계산 자원으로 동일한 성능 달성.
5. 확장성 및 VQA 공학습: 모델 크기 증가에 따른 성능 향상 (Scaling) 이 우수하며, 동작 예측 (Motion Prediction) 과 같은 VQA 작업을 함께 학습하면 성능이 추가적으로 향상됨.

4. 실험 결과 (Results)

• 제로샷 전이 성능:
  • 실험 환경: 훈련에 사용된 DROID 로봇과 함께, 훈련 데이터에 없던 3 가지 새로운 로봇 (Custom Franka, YAM, Kinova) 과 5 가지 조작 작업 (Pick & Place, Sort, Tissue, Towel, Pour) 에서 평가.
  • 결과: LAP-3B 는 새로운 로봇들에서 평균 50% 이상의 성공률을 기록했습니다. 반면, 기존 오픈소스 VLA 모델들 (OpenVLA, X-VLA 등) 은 새로운 로봇에서 성공률이 0% 에 수렴하거나 의미 있는 행동을 생성하지 못했습니다.
  • 비교: 기존 SOTA 모델 (π0.5) 대비 약 2 배의 성능 향상을 보였습니다.
• 파인튜닝 효율성:
  • 시뮬레이션 (LIBERO) 과 실제 로봇 환경에서 LAP-3B 는 기존 모델보다 훨씬 적은 에폭과 데모 데이터로 빠르게 수렴했습니다.
  • 실제 로봇 (YAM, Franka) 에서 복잡한 작업 (테이프 걸기, 수건 접기) 을 수행할 때, 기존 방법보다 약 2.5 배 적은 데모 데이터로 동급의 성능을 달성했습니다.
• 표현 학습 분석:
  • t-SNE 시각화를 통해 LAP-3B 는 훈련 로봇과 미훈련 로봇 간의 특징 공간 (Feature Space) 이 겹치는 부분이 많음을 확인했습니다. 이는 모델이 로봇의 형태에 구애받지 않는 추상적인 제어 표현을 학습했음을 의미합니다.
  • 미훈련 로봇에 대한 액션 예측 오차가 기존 모델보다 낮고 학습이 안정적이었습니다.
• 확장성 (Scaling): 모델 크기를 4B, 12B, 27B 로 확장했을 때 LAP-3B 는 성능이 지속적으로 향상되었으나, 기존 π0.5 기반 모델은 성능이 정체되거나 저하되는 현상을 보였습니다.

5. 의의 및 결론 (Significance)

• 로봇 기초 모델의 새로운 패러다임: LAP 는 로봇 제어 명령을 단순한 숫자나 임의 토큰이 아닌 자연어로 표현함으로써, VLM 이 가진 강력한 일반화 능력을 로봇 제어에 효과적으로 이전할 수 있음을 증명했습니다.
• 실용적 가치: 별도의 파인튜닝 없이 다양한 로봇에 즉시 배포 가능한 "범용 로봇 정책 (Generalist Policy)"의 실현 가능성을 높였습니다. 이는 로봇 하드웨어의 다양성을 극복하고 대규모 로봇 데이터 활용도를 극대화하는 핵심 기술이 될 것입니다.
• 미래 방향: LAP 는 인간 동작 데이터나 인터넷 비디오와 같은 정밀한 제어 신호가 부족한 데이터 소스에서도 자연어 표현의 유연성을 통해 학습이 가능하므로, 향후 더 넓은 범위의 로봇 학습 데이터 활용을 가능하게 할 것입니다.

요약하자면, 이 논문은 **"로봇의 물리적 형태를 자연어로 설명함으로써, AI 모델이 새로운 로봇을 즉시 이해하고 제어할 수 있게 했다"**는 점에서 로봇 공학 및 AI 분야에서 획기적인 진전을 이룬 연구입니다.