기술 요약: OMG: 범용 휴머노이드 제어를 위한 옴니-모달 모션 생성 (Omni-Modal Motion Generation for Generalist Humanoid Control)

문제 정의

강화 학습을 통해 휴머노이드 전신 제어 기술은 크게 발전했으나, 기존 방식들은 두 가지 주요 한계점에 가로막혀 있다:

1. 기술 특이성(Skill Specificity): 대부분의 정책(policy)이 특정 작업 및 보상 설계에 종속되어 있어, 범용적인 제어로 확장하기 어렵다.
2. 모달리티 경직성(Modality Rigidity): 모션 트래킹 시스템은 확장이 가능하지만, 주로 주어진 참조 동작을 재생하는 데 그치며, 명시적인 참조 데이터 없이 고차원의 다중 모달(multi-modal) 인간 의도(예: 언어, 오디오 또는 새로운 센서 입력)를 해석하는 자율성이 부족하다.

저자들은 범용 휴머노이드 제어를 달성하기 위해서는 생물학적 운동 신경계와 유사한 계층 구조가 필요하다고 주장한다. 즉, 다양한 컨디셔닝 모달리티를 통해 추론할 수 있는 확장 가능한 "뇌(brain)"가 반응형 "소뇌(cerebellum, 모션 트래커)" 위에 위치해야 한다는 것이다. 이를 실현하기 위한 핵심 과제는 고품질의 통합된 휴머노이드 모션 데이터의 부족과, 구성 가능하고 확장 가능한 다중 모달 입력을 지원하는 생성기를 구축하는 어려움이다.

방법론

본 논문은 대규모 데이터셋과 통합된 디퓨전 기반 모델로 구성된 프레임워크인 OMG(Omni-Modal Motion Generation)를 소개한다.

1. OMG-Data: 통합된 옴니-모달 코퍼스

데이터 부족과 이질성 문제를 해결하기 위해, 저자들은 Unitree G1 모션 공간으로 통일된 1,174시간 이상의 휴머노이드 모션 데이터 코퍼스인 OMG-Data를 구축하였다. 파이프라인은 다음과 같다:

• 데이터 수집(Aggregation): 그래픽 및 휴머노이드 도메인의 이질적인 데이터셋(예: AMASS, AIST++, BEAT2, MotionGV)을 결합한다.
• 리타겟팅(Retargeting): 일반 모션 리타겟팅(General Motion Retargeting, GMR)을 사용하여 다양한 인간 모션 표현(SMPL, SMPL-X, FBX)을 Unitree G1 골격 구조로 매핑한다.
• 주석 생성(Annotation): 모션 세그먼트에 주석이 없는 경우, Seed-1.8 시각-언어 모델을 활용하여 구조화된 텍스트 레이블(동작 및 스타일)을 생성한다.
• 루프 내 시뮬레이션 필터링(Simulation-in-the-Loop Filtering): PD 트래킹 컨트롤러와 함께 MuJoCo 시뮬레이터에서 리타겟팅된 모션을 실행한다. 루트 높이와 기울기 휴리스틱에 의해 정의된 낙하가 발생하거나 관절 제한을 위반하는 궤적은 제외함으로써, 데이터셋이 물리적으로 실행 가능하고 안전한 궤적만을 포함하도록 보장한다.

2. OMG-DiT: 통합 디퓨전 백본

핵-모델인 OMG-DiT는 다중 모달 조건을 로봇이 실행 가능한 미래 궤적으로 매핑하도록 설계된 Diffusion Transformer이다.

• 아키텍처: 학습된 모션 토크나이저 없이 Unitree G1 모션 공간(프레임당 125차원 특징 벡터)에서 직접 작동한다. 코사인 노이즈 스케줄을 사용하는 $x$-예측(x-prediction) 목적 함수를 사용한다.
• 컨디셔닝 메커니즘:
  • 글로벌 컨텍스트(Global Context): 언어(frozen T5 인코더를 통해)와 모션 히스토리가 크로스 어텐션(cross-attention)을 통해 글로벌 컨텍스트 토큰으로 주입된다.
  • 프레임 정렬 신호(Frame-Aligned Signals): 오디오와 인간 참조 모션은 FiLM (Feature-wise Linear Modulation) 어댑터를 통해 주입되며, 이는 특정 프레임의 특징을 변조한다.
  • 확장성(Extensibility): 새로운 모달리티(예: Pico 키포인트)는 **제로 초기화된 FiLM 어댑터(zero-initialized FiLM adapters)**를 통해 통합될 수 있으며, 이를 통해 사전 학습된 모션 프리어를 방해하지 않고 새로운 인터페이스를 학습할 수 있다.
• 학습 전략: 훈련 중에 컨디셔닝 모달리티를 무작위로 드롭하는 **분류기 없는 가이던스(Classifier-Free Guidance, CFG)**를 사용하여 학습한다. 이를 통해 추론 시 모달리티의 제로샷 구성(예: 텍스트와 오디오 명령의 결합)이 가능하다.

3. 제어 계층 구조(Control Hierarchy)

OMG는 계단식 시스템에서 고수준 생성기로 기능한다:

• 생성기($\pi_\phi$): OMG-DiT는 다중 모달 입력과 히스토리를 바탕으로 미래의 전신 참조 궤적을 예측한다.
• 트래커($\pi_\psi$): 사전 학습된 모션 트래커(HoloMotion)가 이러한 참조를 로봇에서 실행 가능한 관절 공간 액션으로 변환한다.

주요 기여

1. OMG 프레임워크: 언어, 오디오, 인간 참조 및 이들의 구성을 물리적으로 실행 가능한 Unitree G1 궤적으로 매핑하는 통합 옴니-모달 모션 생성 프레임워크를 제시한다.
2. OMG-Data: 엄격한 리타겟팅 및 필터링 파이프라인을 통해 단일 로봇 형상에 정렬된 1,000시간 이상의 옴니-모달 휴머노이드 모션 대규모 큐레이션 데이터셋을 구축하였다.
3. OMG-DiT: 확장 가능한 컨디셔닝을 지원하는 디퓨전 기반 백본이다. 새로운 모달리티를 경량 어댑터를 통해 추가하면서 공유된 모션 프리어를 재사용할 수 있음을 입증하였다.
4. 파운데이션 모델 특성: 본 연구는 휴머노이드 모션 생성이 모델 크기에 따른 예측 가능한 스케일링, 새로운 작업에 대한 샘플 효율적인 적응, 제어 신호의 제로샷 구성 가능성과 같은 파운데이션 모델과 유사한 행동을 보임을 확립하였다.

실험 결과

저자들은 세 가지 주요 모달리티와 여러 적응 시나리오에 대해 OMG를 평가하였다:

• 텍스트-투-모션(Text-to-Motion): OMG는 모션 품질(FID, Matching Score)과 트래킹 충실도(낙하율, 관절 제한 위반) 측면에서 GENMO, HYMotion, Kimodo와 같은 베이스라인을 크게 상회하였다. 예를 들어, OMG-XL은 HYMotion의 24.68 대비 6.03의 FID를 달성하였다.
• 오디오-투-모션(Audio-to-Motion): OMG는 LODGE 및 Bailando와 같은 전용 오디오-투-모션 모델에 비해 우수한 오디오 정렬(BeatAlign)과 모션 품질을 보여주었다.
• 인간 참조-투-모션(Human Reference-to-Motion): OMG는 모션 품질과 트래킹 충실도 모두에서 최적화 기반(GMR, PHC) 및 학습 기반(NMR, OmniRetarget) 리타겟팅 방식보다 월등한 성능을 보였다.
• 샘플 효율적 적응(Sample-Efficient Adaptation):
  • 퓨샷 텍스트(Few-Shot Text): 미학습 데이터(AMASS-CMU)에 대해 단 **1%**의 데이터로 미세 조정했을 때, 사전 학습된 OMG 모델은 **100%**의 데이터로 처음부터 학습한 모델과 대등한 성능을 달성하였다.
  • 새로운 모달리티: Pico 키포인트 텔레오퍼레이션에서, 사전 학습된 모델은 모든 데이터 예산(1%, 10%, 100%)에 걸쳐 처음부터 학습한 모델보다 일관되게 우수한 성능을 보였다.
• 스케일링 동작(Scaling Behavior): 모델 파라미터를 50M에서 500M으로 늘림에 따라 모션 품질(MPJPE)이 일관되게 향상되었으며, 이는 모션 생성이 모델 용량 증가의 이점을 얻음을 확인시켜 준다.
• 제로샷 구성성(Zero-Shot Compositionality): 시스템은 텍est와 오디오를 결합한 복잡한 명령(예: 특정 리듬을 따르면서 "손을 들어 올려"라고 지시)을 명시적인 훈련 없이도 성공적으로 수행하였다.

의의 및 주장

본 논문은 OMG를 휴머노이드 로봇을 위한 파운데이션 모델을 향한 구체적인 단계로 규정한다. 저자들은 범용 휴머노이드 제어가 단순히 저수준 컨트롤러를 개선하는 것뿐만 아니라, 인간의 의도를 물리적 실행으로 연결하는 모션 생성 브레인을 스케일링함으로써 발전할 수 있다고 주장한다.

주요 주장은 다음과 같다:

• 일반화 가능성: 프레임워크는 다양한 컨디셔닝 모달리티를 단일 백본 아래 성공적으로 통합하여, 작업 특화된 정책을 넘어선다.
• 데이터 효율성: 거대한 통합 코퍼스에서의 사전 학습은 최소한의 데이터로 새로운 작업 및 모달리티에 대한 빠른 적응을 가능하게 한다.
• 확장성: 시스템은 예측 가능한 스케일링 법칙을 보여주며, 이는 더 큰 모델과 데이터셋을 통해 추가적인 개선이 가능함을 시사한다.
• 실제 환경 적용 가능성: 시스템은 Unitree G1에 실시간으로 배포되어, 고수준 생성적 계획이 물리적 실행을 위한 반응형 트래킹과 효과적으로 결합될 수 있음을 입증하였다.

저자들은 현재 학습 데이터가 주로 평지 모션이라는 점과, 시스템이 완전한 조인트 최적화 엔드 투 엔드(end-to-end) 시스템보다는 모듈형 생성기-트래커 계층 구조를 사용한다는 점을 언급하며 한계를 인정하였다. 이들은 생성기와 트래커를 공동으로 적응시키거나 실행 피드백을 통합하는 것이 향후 연구 방향임을 시사하였다.