$Ψ_0$: An Open Foundation Model Towards Universal Humanoid Loco-Manipulation

이 논문은 인간과 휴머노이드 로봇 간의 운동학적 차이로 인한 기존 접근법의 한계를 극복하기 위해, 대규모 인간 시점 데이터를 활용한 사전 학습과 고품질 로봇 데이터를 통한 후속 학습이라는 2 단계 훈련 패러다임을 도입하여, 훨씬 적은 데이터로 기존 모델보다 40% 이상 뛰어난 성능을 보이는 오픈 소스 휴머노이드 로코-조작 기초 모델 '$Ψ_0$'을 제안합니다.

핵심

🤖 Ψ0( Psi-Zero): 로봇이 인간처럼 '손발이 척척' 움직이는 비결

이 논문은 **"로봇이 인간처럼 복잡한 일을 척척 해내게 하려면 어떻게 해야 할까?"**라는 질문에 대한 새로운 해답을 제시합니다. 연구진은 USC 물리 초지능 (PSI) 랩에서 **Ψ0( Psi-Zero)**이라는 새로운 인공지능 모델을 개발했습니다.

이걸 이해하기 쉽게 요리사와 요리 도우미의 비유로 설명해 드릴게요.

---

1. 기존 방식의 문제점: "혼란스러운 요리 교실"

지금까지 로봇을 가르치려면, 인간의 영상과 로봇의 데이터를 모두 섞어서 한 번에 가르치는 방식이 많았습니다.

• 비유: 마치 요리 실력을 가르치려는데, 인간 요리사가 칼질하는 모습과 로봇 팔이 움직이는 모습을 같은 교실에서 동시에 보여주면서 "이걸 보고 따라 해!"라고 하는 것과 같습니다.
• 문제: 인간의 손과 로봇의 손은 생김새도, 움직임도 완전히 다릅니다. 그래서 로봇은 "어? 인간은 이렇게 하는데, 나는 어떻게 해야지?"라며 혼란을 겪고, 배우는 데도 시간이 너무 오래 걸립니다.

2. Ψ0 의 해결책: "단계별 요리 학교"

Ψ0 는 이 문제를 해결하기 위해 두 단계로 나누어 가르치는 새로운 방식을 도입했습니다.

1 단계: "요리 이론과 감각" 배우기 (VLM 학습)

• 무엇을 하나요? 먼저 **인간의 일인칭 시점 영상 (내가 요리하는 모습)**만 800 시간 동안 보게 합니다.
• 비유: 로봇이 인간 요리사의 영상을 보며 "커피를 따를 때 손은 어떻게 움직여야지?", "식탁을 닦을 때 어떤 순서로 해야 하지?" 같은 요리 이론과 상황 판단 능력을 익힙니다.
• 효과: 로봇은 실제 로봇 팔을 움직이는 법은 아직 몰라도, "무엇을 해야 하는지"에 대한 **상식과 비전 (Vision)**을 완벽하게 갖게 됩니다.

2 단계: "실제 요리 도구" 다루기 (Action Expert 학습)

• 무엇을 하나요? 이제 이론을 다 배운 로봇에게 실제 로봇 팔로만 30 시간 정도 훈련을 시킵니다.
• 비유: 이제 로봇은 "아, 커피를 따르는 건 이런 순서구나!"라는 이론을 알고 있으니, **"내 손 (로봇 관절) 으로 어떻게 그 동작을 구현할지"**만 집중해서 연습합니다.
• 효과: 이론과 실습을 분리했기 때문에, 적은 데이터로도 훨씬 빠르고 정확하게 로봇의 손가락을 움직일 수 있게 됩니다.

---

3. Ψ0 의 핵심 기술: "부드러운 춤" (실시간 조각화)

로봇이 생각하다 움직이다 보면, "생각하는 동안 멈추고, 움직이다가 다시 멈추는" 어색한 동작이 나올 수 있습니다.

• 비유: 춤을 추는데 음악이 끊기면 춤추는 사람이 멈칫거리게 되죠.
• 해결책: Ψ0 는 "실시간 조각화 (Real-Time Chunking)" 기술을 썼습니다. 이는 다음 동작을 미리 준비해 두는 것입니다. 한 동작이 끝날 때쯤 다음 동작이 이미 준비되어 있어서, 로봇이 부드럽게 춤추듯 연속적으로 움직이게 합니다.

---

4. 놀라운 성과: 적은 데이터로 대박!

이론과 실습을 분리한 이 방식은 정말 놀라운 결과를 낳았습니다.

• 데이터 효율: Ψ0 는 인간 영상 800 시간 + 로봇 데이터 30 시간만으로도 훈련되었습니다.
• 비교: 다른 최신 로봇 모델들은 10 배 이상 많은 데이터로 훈련했는데도, Ψ0 가 성공률에서 40% 이상 더 높은 점수를 받았습니다.
• 실제 능력: 냉장고 문을 열고, 카트를 밀고, 컵을 따르고, 식탁을 닦는 등 복잡한 집안일을 척척 해냅니다.

5. 결론: "올바른 데이터를 올바른 방식으로"

이 연구의 핵심 메시지는 **"데이터를 무조건 많이 모으는 것보다, 어떤 데이터를 어떻게 가르칠지가 더 중요하다"**는 것입니다.

• 인간의 영상으로 '상식'을 배우고,
• 적은 로봇 데이터로 '실제 기술'을 다듬는 방식이,
• 로봇이 인간처럼 똑똑하고 유연하게 움직이는 지름길이라는 것을 증명했습니다.

이제 Ψ0 는 오픈소스로 공개되어, 앞으로 더 많은 로봇이 우리 일상에서 인간처럼 자연스럽게 일할 수 있는 기반이 될 것입니다! 🏠🤖✨

기술 요약

Ψ0: 범용 휴머노이드 로코 - 매니퓰레이션 (Loco-Manipulation) 을 위한 오픈 파운데이션 모델

1. 문제 정의 (Problem)

휴머노이드 로봇은 인간과 유사한 형태와 민첩성을 갖추고 있어 전신 운동 제어 (locomotion) 분야에서 괄목할 만한 성과를 거두었으나, 정교한 조작 (manipulation) 과 이동이 결합된 '로코 - 매니퓰레이션' (loco-manipulation) 과 같은 복잡한 작업 수행에는 여전히 큰 한계가 있습니다.

기존 접근법들은 인간 데이터와 휴머노이드 로봇 데이터를 대규모로 함께 학습 (co-training) 시키는 방식을 주로 사용했습니다. 그러나 인간과 휴머노이드 로봇은 운동학적 구조 (kinematics) 와 운동 역학 (dynamics) 의 근본적인 차이로 인해, 단순히 데이터를 섞어 학습하는 것은 비효율적이며 성능이 만족스럽지 못했습니다. 또한, 고품질의 로봇 텔레오퍼레이션 (원격 조종) 데이터는 수집 비용이 매우 비싸고 확장성이 낮아 데이터 부족 문제가 심각했습니다.

2. 방법론 (Methodology)

저자들은 Ψ0 를 통해 이질적인 데이터 소스의 활용을 극대화하기 위해 학습 과정을 분해 (decouple) 한 3 단계 학습 패러다임을 제안합니다.

A. 모델 아키텍처 (Triple-System Architecture)

Ψ0 는 세 가지 시스템으로 구성된 VLA(Vision-Language-Action) 모델입니다.

1. System 2 (VLM Backbone): 고수준의 시각 - 언어 이해 및 작업 의미 (task semantics) 를 학습합니다. (Qwen3-VL-2B-Instruct 기반)
2. System 1 (Action Expert): 로봇의 정밀한 관절 제어를 담당하는 흐름 기반 (flow-based) 액션 전문가입니다. (MM-DiT 기반)
3. System 0 (Lower-Body Controller): RL 기반의 하체 제어 정책으로, 상체 동작에 맞춰 하체의 균형과 이동을 담당합니다. (AMO 정책 사용)

B. 3 단계 학습 레시피 (Training Recipe)

1. 1 단계: 인간 1 인칭 시점 (Egocentric) 비디오 사전 학습 (Pre-training)

   • 데이터: 대규모 고품질 인간 1 인칭 조작 비디오 (EgoDex, 약 829 시간) 및 일부 휴머노이드 데이터.
   • 목표: 인간 데이터에서 작업 의미 (task semantics) 와 시각적 표현을 학습합니다.
   • 기법: VLM 백본을 인간 - 로봇 통합 액션 공간 (task space) 에서 다음 액션 토큰을 예측하도록 사전 학습합니다. 이때 복잡한 액션 청크가 아닌 단일 단계 액션만 예측하게 하여 계산 효율성을 높이고, FAST 토크나이저를 사용하여 연속적인 액션을 이산 토큰으로 변환합니다.

2. 2 단계: 교차 작업 휴머노이드 데이터 후 학습 (Post-training)

   • 데이터: 다양한 작업의 고품질 휴머노이드 로봇 데이터 (Humanoid Everyday, 약 31 시간).
   • 목표: VLM 에서 추출된 시각 - 언어 특징을 조건으로 받아, 로봇 관절 공간 (joint space) 에서 정밀한 액션 시퀀스를 예측하는 액션 전문가를 학습합니다.
   • 기법: MM-DiT(Multi-Modal Diffusion Transformer) 아키텍처를 사용하여 시각 - 언어 특징과 액션 특징을 효율적으로 융합합니다.

3. 3 단계: 도메인 특화 미세 조정 (Fine-tuning)

   • 데이터: 소량의 특정 작업용 텔레오퍼레이션 데이터 (약 30 시간).
   • 목표: VLM 은 고정하고 액션 전문가만 미세 조정하여 특정 작업에 빠르게 적응합니다.

C. 실시간 액션 청킹 (Real-Time Action Chunking, RTC)

대규모 모델의 추론 지연 (latency) 으로 인한 제어 떨림 (jitter) 을 해결하기 위해 학습 시간 실시간 청킹 (Training-Time RTC) 을 도입했습니다.

• 학습 시에 무작위로 일부 토큰을 마스킹하고, 이전 청크의 액션에 조건부 (conditioned) 로 다음 청크를 예측하도록 훈련합니다.
• 이를 통해 추론 지연이 발생하더라도 이전 액션과 매끄럽게 연결되는 일관된 액션 청크를 생성하여 로봇의 부드러운 작동을 보장합니다.

D. 맞춤형 텔레오퍼레이션 파이프라인

• 상체 포즈 (VR 헤드셋, 손목 트래커) 와 정교한 손가락 조작 (MANUS 글러브) 을 분리하여 추적합니다.
• 하체 이동은 RL 기반 고수준 명령 (속도, 회전) 으로 제어하여 하체의 안정성을 확보합니다.
• 단일 운영자가 복잡한 전신 조작 작업을 안정적으로 수행할 수 있도록 설계되었습니다.

3. 주요 기여 (Key Contributions)

1. 효율적인 데이터 활용 전략: 인간 데이터와 로봇 데이터를 섞어 학습하는 기존 방식 대신, 고품질 인간 데이터로 '지식'을 학습하고, 소량의 고품질 로봇 데이터로 '구현'을 학습하는 분할 학습 전략을 증명했습니다.
2. 최신 아키텍처 도입: VLM 과 액션 전문가를 분리하고, MM-DiT 와 실시간 청킹 기법을 적용하여 정교한 전신 제어 성능을 달성했습니다.
3. 오픈 소스 생태계: 데이터 처리 파이프라인, 학습 코드, 사전 학습된 모델 가중치, 실시간 추론 엔진을 포함한 전체 생태계를 오픈 소스로 공개합니다.

4. 실험 결과 (Results)

Unitree G1 휴머노이드 로봇을 사용하여 8 가지의 복잡한 장기적 (long-horizon) 로코 - 매니퓰레이션 작업 (물건 옮기기, 컵 씻기, 카트 밀기, 냉장고 문 열기 등) 에서 평가했습니다.

• 성능: Ψ0 는 약 800 시간의 인간 비디오 데이터와 30 시간의 실제 로봇 데이터만으로 학습되었습니다.
• 비교: 10 배 이상 많은 데이터로 학습된 기존 최첨단 모델 (GR00T N1.6, π0.5 등) 보다 전체 성공률에서 40% 이상 우위를 보였습니다.
• 구체적 성과:
  • 8 가지 작업 중 대부분에서 70~100% 의 성공률을 기록했습니다.
  • 특히 정밀한 손가락 조작과 하체 이동이 동시에 필요한 작업에서 기존 모델들의 실패 (떨림, 균형 상실) 를 극복하고 안정적으로 수행했습니다.
  • ablation study 를 통해 사전 학습 (Pre-training) 과 후 학습 (Post-training) 의 분리, MM-DiT 구조, RTC 기법이 성능 향상에 결정적임을 입증했습니다.

5. 의의 및 결론 (Significance)

이 연구는 휴머노이드 로봇 학습의 새로운 패러다임을 제시합니다.

• 데이터의 양보다 질과 학습 방식이 중요함: 단순히 방대한 양의 텔레오퍼레이션 데이터를 수집하는 대신, 인간 데이터에서 얻은 보편적인 운동 사전 지식 (motion priors) 과 소량의 고품질 로봇 데이터를 결합하는 것이 더 효율적이고 효과적임을 증명했습니다.
• 실용성: 적은 비용과 데이터로도 복잡한 일상 작업을 수행할 수 있는 휴머노이드 로봇 개발의 가능성을 열었습니다.
• 오픈 소스 기여: 공개된 모델과 파이프라인을 통해 향후 휴머노이드 로봇 연구 커뮤니티의 발전 속도를 가속화할 것으로 기대됩니다.

결론적으로, Ψ0 는 올바른 데이터를 올바른 방식으로 확장 (Scaling) 하는 것이 휴머노이드의 범용성 달성에 핵심임을 보여주는 획기적인 연구입니다.