Learning a Unified Latent Space for Cross-Embodiment Robot Control

기술 요약: 교차 체형 로봇 제어를 위한 통합 잠재 공간 학습

문제 정의
다양한 휴머노이드 플랫폼을 통일된 인터페이스를 통해 제어하는 것은 형태학적 차이, 자유도(DoF), 운동학적 제약 조건의 막대한 가변성 때문에 로보틱스 분야에서 여전히 중요한 과제로 남아 있습니다. 교차 체형 제어에 대한 기존 방식들은 대개 작업 관련 도메인 불변 표현(domain-invariant representations)에 의존하거나, 인간과 특정 로봇 사이의 상당한 양의 쌍을 이룬 데모 데이터를 필요로 합니다. 이러한 방법들은 새로운 미학습 플랫폼으로 기술을 전이할 때 재학습이나 플랫폼별 미세 조정(fine-tuning)을 요구하기 때문에 확장성 측면에서 어려움을 겪는 경우가 많습니다. 저자들은 인간 데이터로 학습된 제어 정책이 여러 로봇 플랫폼에 직접 배포될 수 있는 하나의 통합된 공유 잠재 공간을 학습하는 것을 목표로 하며, 재학습 없이 다양한 로봇 체형을 운용할 수 있는 단일 제어 프레임워크를 개발하는 문제를 다룹니다.

방법론
제안된 프레임워크는 두 가지 별도의 단계로 작동합니다:

1. 통합 잠재 공간 학습 (단계 1):

   • 아키텍처: 저자들은 인간과 다양한 로봇 간의 공유된 잠재 표현을 구축하기 위해 대조 학습(contrastive learning) 접근 방식을 채택했습니다. 아키텍처에는 인간 인코더($E_h$), 교차 체형 인코더($E_X$), 교차 체형 디코더($D_X$), 그리고 다양한 관절 차원성을 처리하기 위한 로봇별 임베딩 레이어($E_r, D_r$)가 포함됩니다.
   • 분리된 잠재 구조: 형태학적 차이(예: 팔만 있는 로봇 vs 전체 휴머노이드)를 해결하기 위해, 잠재 공간을 다섯 가지 신체 부위에 해당하는 하위 공간으로 분리합니다: 왼팔(LA), 오른팔(RA), 몸통(TK), 왼다리(LL), 오른다리(RL).
   • 맞춤형 유사도 메트릭: 각 하위 공간 내에서 특정 유사도 메트릭이 적용됩니다. 팔의 경우, 회전 기반 거리와 정규화된 말단 장치(end-effector, EE) 위치를 결려한 하이브리드 메트릭을 사용합니다. 몸통 및 다리와 같은 다른 부위에는 회전 기반 메트릭이 사용됩니다. 이를 통해 국소적인 움직임 패턴을 정밀하게 정렬할 수 있습니다.
   • 학습 목적 함수: 모델은 대조 학습을 위한 Triplet Loss, 로봇 포즈 충실도를 위한 재구성 손실($L_{rec}$), 쌍을 이룬 데이터 없이 인간과 로봇 도메인을 정렬하기 위한 잠재 일관성 손실($L_{ltc}$), 그리고 말단 장치 속도를 정렬하기 위한 시간적 손실($L_{temporal}$)의 조합을 사용하여 학습됩니다.
   • 확장성: 핵심 네트워크($E_h, E_X, D_X$)를 고정한 상태에서 경량화된 로봇별 임베딩 레이어($E_r, D_r$)만을 학습함으로써 새로운 로봇을 통합할 수 있습니다.

2. 목표 조건부 잠재 공간 제어 (단계 2):

   • 정책 학습: 목표 조건부 제어 정책은 조건부 변이형 오토인코더(c-VAE) 프레임워크를 사용하여 오직 인간 동작 데이터만을 사용하여 학습됩니다.
   • 메커니즘: 정책은 사용자 지정 목표를 향한 평균 말단 장치 속도로부터 유도된 의도 신호에 따라 잠재 공간 변위($d_t$)를 예측합니다.
   • 배포: 학습된 정책은 공유된 잠재 공간 내에서 직접 작동합니다. 추론 시, 현재 로봇 포즈를 인코딩하고, 목표 지향적 속도를 계산하며, 디코더는 목표를 향해 로봇의 상태를 반복적으로 업데이트하기 위한 잠재 변위를 생성합니다. 이 과정은 서로 다른 로봇 체형에 대한 추가적인 미세 조정 없이 수행됩니다.

주요 기여

• 분리된 잠재 공간 아키텍처: 신체 부위를 독립적으로 모델링함으로써 다양한 형태학적 구조를 정밀하게 정렬하고, 부분적이거나 비대칭적인 사지 구조를 수용할 수 있는 모듈형 설계를 제공합니다.
• 모듈형 대조 학습 프레임워크: 맞춤형 유사도 메트릭(관절 회전과 말단 장치 위치의 결합)을 활용하여 인간과 다수의 로봇 체형으로부터 동작 표현을 공동으로 학습하는 시스템입니다.
• 목표 조건부 제어 정책: 공유된 잠재 공간에서 직접 작동하는 정책으로, 추가적인 미세 조정 없이 오직 인간의 시연만으로 정확한 다중 로봇 제어를 가능하게 합니다.
• 확장 가능한 프레임워크: 경량화된 로봇별 임베딩 레이어만을 학습함으로써 시스템에 새로운 로봇을 효율적으로 추가할 수 있는 메커니즘을 제공하며, 이는 전체 모델 재학습을 피할 수 있게 합니다.

실험 결과
저자들은 TIAGo++, H1, NAO, JVRC, ATLAS, G1, Kinova Gen3를 포함한 여러 플랫폼에서 프레임워크를 평가했습니다.

• 동작 리타겟팅: 분리된 잠재 공간 방식은 말단 장치 위치 및 속도 정확도(정규화된 거리 유사도 및 정규화된 속도 유사도) 측면에서 단일(결합된) 잠재 공간 및 베이스라인인 ImitationNet보다 크게 우수한 성능을 보였습니다. 공유 공간은 초기에 회전 정확도가 감소했으나, 분리된 설계는 높은 궤적 충실도를 유지하면서도 이 성능을 회복했습니다.
• 확장성: 임베딩 레이어만을 학습하여 새로운 로봇(ATLAS, G1, Kinova)을 추가했을 때, 성능은 엔드 투 엔드(end-to-end)로 학습된 로봇과 일치했으며, 학습 시간은 몇 시간에서 약 15분으로 단축되었습니다.
• 제어 성능: 잠재 공간 제어 정책은 테스트된 모든 로봇에서 목표 위치 도달 시 센티미터 미만의 정확도를 달립했습니다(목표 거리 오차 범위 0.13 cm ~ 1.14 cm). 시스템은 약 100 Hz의 제어 주파수를 지원합니다.
• 하드웨어 검증: TIAGo-SEA 및 Kinova Gen3 로봇을 이용한 실제 실험에서 오직 RGB 카메라만을 입력으로 사용하여 픽 앤 플레이스(pick-and-place) 작업 및 로봇 간 동작 리타겟팅을 위한 성공적인 텔레오퍼레이션(teleoperation)을 입증했습니다.

의의 및 주장
본 논문은 로봇 제어를 위한 확장 가능하고 체형 불가지론적인(embodiment-agnostic) 솔루션을 제공한다고 주장합니다. 통합된 잠재 공간을 학습함으로써, 저자들은 인간 데이터로 학습된 제어 정책이 재학습 없이 다양한 로봇 플랫폼에 원활하게 배포될 수 있음을 보여주었습니다. 이 연구는 단일 정책이 서로 다른 운동학적 구조를 가진 여러 로봇을 제어할 수 있는 효율적인 다중 로봇 시스템 관리의 가능성을 강조합니다. 저자들은 현재 구현에 SMPL 모델(손 동작 데이터가 명시적으로 없는 모델)을 사용하고 있지만, 프레임워크가 거친 신체 및 팔의 움직임을 성공적으로 처리하고 있음을 언급하며, 이는 통합 제어를 향한 유망한 경로를 제시합니다. 이 방법은 체형 격차를 좁히고 로봇이 인간의 시연으로부터 학습하여 최소한의 계산 오버헤드로 새로운 플랫폼에 기술을 전이할 수 있도록 하는 단계로 제시됩니다.