기술 요약: SceneBot – 접촉 프롬프트 기반의 범용 휴머노이드 전신 트래킹

문제 정의

현재의 휴머노이드 강화 학습(RL) 정책은 자유 공간 운동(예: 걷기, 달리기, 춤추기) 추적에는 상당한 성공을 거두었으나, **접촉이 빈번한 작업(contact-rich tasks)**에서는 어려움을 겪고 있습니다. 순수 기구학적 트래킹은 물리적 모호성을 해결할 수 없기 때문에 물체 및 불규착 지형과의 상호작용에 불충분합니다. 예를 들어, 손목을 상자 쪽으로 움직이는 것만으로는 로봇이 단순히 손을 뻗는 것인지, 만지는 것인지, 혹은 들어 올리는 것인지를 본질적으로 명시하지 못합니다. 마찬가지로 발을 계단 끝 근처에 두는 것이 계단을 오르기 위한 충분한 지면 반력을 생성한다는 것을 보장하지도 않습니다. 기존의 파이프라인은 긴 호라이즌(long horizons)에 걸쳐 물체 및 지형과의 상호작용을 조율하는 데 필요한 장면 인식 능력이 부족하며, 종종 고수준의 텔레오퍼레이션에 의존하거나 복잡한 로코-매니퓰레이션(loco-manipulation) 작업에 일반화하는 데 실패합니다.

방법론

SceneBot은 단일 정책 내에서 자유 공간 이동, 지형 횡단, 그리고 전신 조작을 모두 처리하도록 설계된 통합 모션 트래킹 프레임워크입니다. 이 방법론은 세 가지 주요 구성 요소로 이루어져 있습니다.

1. 사후 장면 재구성 (Hindsight Scene Reconstruction)

모션과 장면 상호작용 데이터가 쌍을 이루는 대규모 데이터셋의 부족 문제를 해결하기 위해, SceneBot은 사후 장면 재구성 파이프라인을 도입합니다.

• 입력: 리타겟팅된 인간 모션 궤적.
• 장면 상호작용 그래프 (Scene Interaction Graph): 시스템은 로봇의 주요 링크(손목, 발, 골반)와 장면 유형(지형, 물체) 사이의 시간적 상호작용을 포착하는 이종 그래프를 구축합니다. 에지는 낮은 상대 속도/가속도를 기준으로 추가되며, 충돌 또는 힘 폐쇄(force-closure) 제약을 위반하는 경우 제거됩니다.
• 에셋 생성 (Asset Generation): 상호작용 그래프를 바탕으로, 시스템은 지형을 위한 2.5D 고도 맵과 이동 가능한 물체를 위한 평행 판(parallel plate) 오브젝트를 재구성합니다. 이를 통해 일반적인 인간 모션 데이터를 학습에 적합한 접촉 풍부한 로봇-장면 상호작용 데이터로 변환합니다.

2. 접촉 조건부 정책 학습 (Contact-Conditioned Policy Training)

핵심 정책은 기구학적 참조 모션과 명시적인 접촉 레이블을 모두 추적하도록 **근사 정책 최적화(PPO)**를 사용하여 학습됩니다.

• 입력: 정책은 기구학적 명령($g_t$), 고유 수용성 상태($s_t$), 루트 상태 추정치($p_{root,t}$), 그리고 이진 접촉 레이블 벡터($c_t$)를 입력으로 받습니다. 접촉 레이블은 어떤 로봇 링크가 지형이나 물체와 접촉을 형성해야 하는지를 명시적으로 나타냅니다.
• 보상 구조: 학습 목표는 표준 모션 트래킹 보상에 두 가지 접촉 특화 항을 추가하여 구성됩니다.
  • 접촉 정확도 보상 ($r_{cr}$): 레이블이 1일 때 로봇이 접촉을 형성하도록 장려합니다. 이 보상은 비대칭적이며, 접촉이 원하는 상황에서만 활성화되어 자유 공간 시나리오에서의 의도치 않은 접촉에 대한 페널티를 방지합니다.
  • 접촉 지속 시간 보상 ($r_{dr}$): 안정적인 접촉 유지를 장려하며, 로봇이 물체를 놓는 것을 거부하는 것을 방지하기 위해 0.5초에서 클리핑(clipping)됩니다.
• 안정화: 초기 학습 단계에서는 재구성된 물체에 휴리스틱한 "매직 포스(magic force)"를 적용하여, 안정적인 파지(grasp)가 이루어질 때까지 물체가 궤적을 따르도록 함으로써 빈번한 파지 실패 종료 문제를 완화합니다.

3. 인프라 프리 상태 추정 (Infrastructure-Free State Estimation)

배포를 위해 SceneBot은 SuperOdometry와 온보드 센서를 결합하여 로봇의 글로벌 루트 상태(위치, 방향, 선속도)를 추정합니다.

• 센서 퓨전: 헤드 마운트 IMU(예: Livox)가 공격적인 동작 중에 골반 역학을 정확하게 표현하지 못할 수 있음을 인지하여, 시스템은 칼만 필터를 통해 골반 장착 IMU(피치/롤용)와 SuperOdometry의 요(yaw) 추정치를 융합합니다.
• 초기화: 루트 높이는 중력 정렬된 LiDAR 스캔의 하위 5% 지점을 사용하여 추정합니다.

주요 기여

1. 통합 프레임워크: SceneBot은 자유 공간 이동, 불균일 지형 횡단, 그리고 전신 물체 조작을 단일 정책 내에서 매끄럽게 통합할 수 있는 최초의 범용 모션 트래킹 프레임워크로 제시됩니다.
2. 접촉 조건화 (Contact Conditioning): 본 논문은 고수준 결정자가 참조 모션과 함께 접촉 레이블(어떤 링크가 장면과 접촉해야 하는지)을 제공하는 새로운 인터페이스를 도입합니다. 이를 통해 저수준 정책은 전체 비전 기반 작업 정책 없이도 물리적 모호성을 해결할 수 있습니다.
3. 데이터 합성 엔진: 제안된 사후 장면 재구성 방식은 기존의 인간 모션 데이터셋(AMHS, OMOMO, Bones, Lafan)으로부터 확장 가능한 접촉 풍부한 학습 데이터를 생성하여, 주석이 달린 상호작용 데이터의 부족 문제를 극복합니다.
4. 제로샷 일반화 (Zero-Shot Generalization): 시스템은 보지 못한 모션과 환경, 즉 바구니를 들고 계단을 오르는 것과 같은 복잡한 롱 호라이즌 작업에 대한 일반화 능력을 입증합니다.

실험 결과

실험은 Unitree G1 휴머노이드 플랫폼에서 MuJoCo sim-to-sim 환경을 통해 수행되었으며, 실세계 상태 추정으로 검증되었습니다.

• 성능 비교: SceneBot은 평탄한 지형 시나리오에서 최첨단 자유 공간 트래커(SONIC)와 대등한 성능을 보이지만, 장면 상호작용 작업에서는 이를 크게 능가합니다.
  • 지형 상호작용: 글로벌 루트 정보가 제거되었을 때 성공률이 100%(글로벌 상태 포함 시)에서 45%로 급감했습니다.
  • 물체 상호작용: 핸드 접촉 레이블이 없으면 파지 성공률이 거의 0에 가깝게 떨어집니다.
• 어블레이션 연구 (Ablation Studies):
  • 글로벌 상태: 글로벌 루트 위치와 속도를 포함하는 것이 매우 중요합니다. 로컬 트래킹만으로는 드리프트와 모션-지형 불일치가 발생합니다.
  • 접촉 레이블: 접촉 레이블을 사용한 학습은 성공을 위해 필수적입니다. 흥미롭게도, 레이블을 사용하여 학습된 모델은 테스트 시 레이블을 0으로 설정하더라도 (레이블 없이 학습된 모델의 성공률 45% 대비) 85%의 성공률을 유지하며 더 나은 성능을 보였습니다. 이는 접촉 조건화가 균형 메커니즘 학습을 단순화함을 시사합니다.
  • 재구성 vs 리타겟팅: 직접적인 장면 재구성이 장면 인식 리타겟팅(예: OmniRetarget)보다 우수한 성능을 보입니다. 이는 재구성이 생성된 장면이 모션에 대해 실행 가능함을 보장하는 반면, 리타겟팅은 물체 정렬 및 침투 제약 문제로 어려움을 겪기 때문입니다.
• 상태 추정: 제안된 상태 추정 파이프�라인은 OptiTrack 그라운드 트루스 대비 평균 루트 위치 오차 0.032 m, 방향 오차 0.018 rad, 선속도 오차 0.092 m/s를 달성하였으며, 실세계 시험에서 80%의 작업 성공률을 기록했습니다.

의의 및 주장

본 논문은 SceneBot이 자유 공간 모션 트래킹과 복잡한 접촉 풍부 장면 상호작용 사이의 간극을 효과적으로 메우는 강력한 인터페이스로서 접촉 조건화를 확립한다고 주장합니다. 사후 재구성을 통해 학습 데이터를 합성함으로써, 이 프레임워크는 단일 정책으로 다양한 롱 호라이즌 작업(예: 바구니를 집어 들고, 계단을 오르고, 내려놓는 것)을 별도의 작업별 튜닝 없이 수행할 수 있게 합니다. 저자들은 이 연구를 로봇이 지지 및 조작을 위해 의도적으로 접촉을 활용할 수 있는 물리적 지능(physical intelligence)을 향한 기초적인 단계로 포지셔닝합니다. 모든 코드와 데이터는 오픈 소스로 공개될 예정입니다.