OpenHEART: Opening Heterogeneous Articulated Objects with a Legged Manipulator

이 논문은 다양한 관절형 물체의 개폐를 위해 핸들 및 패널 기하학을 저차원 특징으로 인코딩하는 SAFE 와 관절 정보를 추정하는 ArtIEst 를 도입하여, 보행형 매니퓰레이터의 이종 관절형 물체 조작을 위한 강인하고 샘플 효율적인 프레임워크를 제안합니다.

핵심

OpenHEART: 다리가 달린 로봇이 '다양한' 문을 여는 법

이 논문은 **"OpenHEART"**라는 프로젝트로, 네 발로 걷는 로봇 (예: 개 모양 로봇) 에 팔을 달아서 도어, 서랍장, 캐비닛 등 모양과 구조가 제각각인 다양한 물체들을 스스로 열어보내는 기술을 소개합니다.

기존의 로봇들은 "똑같은 문"만 열 수 있었지만, 이 연구는 "모양도 다르고, 손잡이도 다르고, 열리는 방향도 다른" 현실 세계의 복잡한 상황에서도 로봇이 잘 작동하도록 만들었습니다.

이 복잡한 기술을 쉽게 이해할 수 있도록 세 가지 핵심 비유로 설명해 드리겠습니다.

---

1. 문제 상황: "모든 문이 똑같은 열쇠로 열리지 않는다"

상상해 보세요. 로봇이 아파트 복도에 서 있습니다.

• A 문은 손잡이가 아래로 내려가 있고, 오른쪽으로 열립니다.
• B 문 (서랍) 은 손잡이가 가로로 길고, 앞으로 당겨야 열립니다.
• C 문은 손잡이 모양이 동그랗고, 위로 당겨야 합니다.

기존의 로봇 학습법 (강화 학습) 은 이 모든 문을 열기 위해 고해상도 카메라로 모든 디테일 (무늬, 색상, 그림자 등) 을 다 기억하려고 했습니다. 하지만 이는 마치 모든 문고리의 미세한 흠집까지 외우려고 노력하는 학생과 같습니다. 학습 시간이 너무 오래 걸리고, 실제 세상에 가면 낯선 문이 나오면 당황해서 못 엽니다.

2. 해결책 1: SAFE (핵심 특징만 추려내는 '요약 노트')

이 연구팀은 로봇에게 "모든 디테일을 외우지 말고, 열쇠 구멍과 손잡이의 모양만 기억하라"고 가르쳤습니다.

• 비유: 복잡한 책 내용을 다 외우는 대신, 핵심 키워드만 적힌 요약 노트를 만드는 것과 같습니다.
• 기술적 설명: 로봇은 손잡이와 문판의 복잡한 3D 모양을 복잡한 점 (Point Cloud) 으로 보지 않고, 간단한 직육면체 (상자) 모양으로 추상화합니다. 그리고 이 상자 안의 점들을 무작위로 섞어서 로봇에게 보여줍니다.
• 효과: 이렇게 하면 로봇은 "문의 구체적인 무늬"에 집착하지 않고, **"손잡이가 어디에 있고, 문이 어떤 방향으로 열리는지"**라는 핵심 정보만 학습하게 됩니다. 덕분에 새로운 모양의 문이 나와도 당황하지 않고 잘 적응합니다.

3. 해결책 2: ArtIEst (눈과 손이 협력하는 '감각 융합')

로봇이 문을 열 때 가장 중요한 것은 **"어떤 방향으로 힘을 주어야 할지"**를 아는 것입니다. 하지만 눈 (카메라) 만으로는 헷갈릴 때가 많습니다.

• 눈의 한계 (시각적 혼란): 예를 들어, 서랍장 손잡이가 가로로 길다면, "왼쪽으로 당길까? 오른쪽으로 당길까? 아니면 아래로 당길까?"라고 눈만으로는 판단하기 어렵습니다. (비유: 눈이 가려진 상태에서 방향을 찾는 것)
• 손의 도움 (촉각): 로봇이 손잡이를 잡은 후, 약간의 힘을 주면 "아, 이쪽이 헐거워지네? 그럼 이 방향으로 당겨야겠다!"라고 깨닫습니다.

이 연구팀은 ArtIEst라는 시스템을 만들어 눈 (시각) 과 손 (촉각) 을 상황에 따라 똑똑하게 섞어서 사용하게 했습니다.

• 접촉 전: 눈 (카메라) 정보를 주로 믿습니다.
• 접촉 후: 손이 잡은 느낌 (촉각) 정보를 더 많이 믿습니다.
• 비유: 안개 낀 날 운전할 때를 생각해 보세요. 처음엔 안개 (시각) 를 보고 방향을 잡지만, 차가 진동하거나 핸들이 돌아가는 느낌 (촉각) 을 느끼면 그 정보를 더 신뢰하며 방향을 수정합니다. 이 시스템은 로봇이 그런 '감각의 전환'을 스스로 할 수 있게 해줍니다.

4. 결과: "한 번 배운 기술로 모든 문을 연다"

이 기술을 적용한 로봇은 다음과 같은 성과를 냈습니다.

1. 하나의 정책으로 모든 것: 별도의 모델 없이, **단 하나의 두뇌 (정책)**로 회전하는 문, 미끄러지는 서랍, 다양한 손잡이 모양을 모두 처리했습니다.
2. 실제 세상에서도 성공: 시뮬레이션 (가상 현실) 에서만 훈련한 것이 아니라, 실제 로봇에 적용해서 낯선 서랍장과 캐비닛을 성공적으로 열었습니다.
3. 실수해도 다시 시도: 만약 첫 번째 잡기가 불안정하면, 로봇이 스스로 "아, 안 잡혔네"라고 판단하고 다시 잡아서 성공적으로 문을 엽니다. (기존 모델 기반 방식은 이런 유연한 대처가 어렵습니다.)

요약

이 논문은 로봇에게 **"모든 것을 다 외우지 말고, 핵심 특징만 추려내고 (SAFE), 눈과 손을 상황에 따라 똑똑하게 섞어 쓰라 (ArtIEst)"**는 지혜를 가르쳤습니다. 그 결과, 로봇은 이제 낯설고 복잡한 현실 세계의 문들도 두려움 없이 스스로 열어젖힐 수 있게 되었습니다.

기술 요약

1. 문제 정의 (Problem Definition)

• 배경: 4 발 보행 로봇에 조작 팔 (Manipulator) 을 결합한 'Legged Manipulator'는 이동성과 조작 능력을 모두 갖추고 있어 일상 환경에서 다양한 작업을 수행할 수 있습니다. 특히 문, 서랍, 캐비닛 등 다양한 형태의 이질적인 관절형 객체 (Heterogeneous Articulated Objects) 를 여는 작업은 핵심 과제입니다.
• 도전 과제:
  • 다양성: 객체의 관절 유형 (회전형, 직선형), 핸들 모양, 패널 형태 등이 매우 다양하여 단일 전략으로 대응하기 어렵습니다.
  • 복잡한 동역학: 로봇 자체가 높은 자유도 (DoF) 와 부유 기저 (Floating Base) 구조를 가지며, 물체와의 접촉 (Contact-rich) 이 빈번하게 발생하여 동역학이 복잡합니다.
  • 샘플 비효율성: 기존 강화학습 (RL) 기반 방법들은 고차원의 감각 입력 (점구름, 이미지 등) 을 사용하는 경향이 있어, 학습에 필요한 데이터 양이 많고 샘플 효율성이 낮습니다. 또한, 특정 객체 유형에 과적합 (Overfitting) 되어 새로운 객체로 일반화하기 어렵습니다.

2. 제안 방법론 (Methodology)

저자들은 이질적인 관절형 객체를 여는 데 특화된 계층적 프레임워크를 제안하며, 크게 두 가지 핵심 기술 (SAFE, ArtIEst) 을 도입했습니다.

A. SAFE (Sampling-based Abstracted Feature Extraction)

• 목적: 객체의 기하학적 특징을 저차원 (Low-dimensional) 표현으로 압축하여 과적합을 방지하고 도메인 간 일반화 성능을 높이는 것.
• 작동 원리:
  • 핸들 (Handle) 과 패널 (Panel) 의 상세한 외형을 포함하는 직육면체 (Enveloping Cuboid) 로 추상화합니다.
  • 이 직육면체의 모서리 점을 무작위로 샘플링하여 내부 점들을 생성합니다.
  • KL 발산 (KL Divergence) 감소: 훈련 데이터와 테스트 데이터 간의 분포 차이를 줄이기 위해, 점의 위치를 무작위 샘플링하고 순서를 정렬하는 과정을 통해 정보 손실을 최소화하면서도 분포의 균일성을 확보합니다.
  • 이를 통해 고차원 점구름 대신 간결한 특징 벡터를 RL 정책의 입력으로 제공합니다.

B. ArtIEst (Articulation Information Estimator)

• 목적: 객체의 관절 방향 (Opening Direction) 과 운동 범위 (Range of Motion) 를 정확하게 추정하는 것.
• 구조:
  1. 외부 감각 기반 추정기 (Exteroception-based Estimator): 객체의 기하학적 특징 (핸들 위치, 패널 형태) 을 기반으로 접촉 전 (Pre-contact) 에 관절 정보를 추정합니다.
  2. 고유 감각 증강 추정기 (Proprioception-augmented Estimator): 로봇이 객체와 접촉한 후, 로봇의 관절 각도, 속도 등 고유 감각 (Proprioception) 정보를 활용하여 시각적 모호성 (Visual Ambiguity) 을 해결하고 추정 정밀도를 높입니다.
  3. 신뢰 게이트 (Belief Gating Mechanism): 접촉 상태에 따라 두 추정기의 출력을 적응적으로 혼합합니다.
     • 접촉 전: 외부 감각 기반 추정치에 높은 가중치.
     • 접촉 중: 고유 감각 기반 추정치에 높은 가중치.
     • 이를 통해 시각적 모호성이 있는 경우에도 정확한 개구 방향을 파악할 수 있습니다.

C. 계층적 제어 구조

• 고수준 계획기 (High-level Planner): SAFE 와 ArtIEst 를 통해 얻은 정보를 바탕으로 엔드 이펙터 (EE) 의 자세, 보행 로봇의 속도, 그리퍼 제어 명령을 생성합니다.
• 저수준 제어기 (Low-level Controller): RL 로 사전 학습된 모델로, 고수준 명령을 따라 로봇의 관절을 제어합니다.

3. 주요 기여 (Key Contributions)

1. 이질적 객체 조작의 자동화: 정밀한 객체 모델 없이도 Legged Manipulator 를 통해 다양한 형태의 관절형 객체 (회전형/직선형, 다양한 핸들 모양) 를 자율적으로 여는 최초의 접근법 제안.
2. ArtIEst 아키텍처: 외부 감각과 고유 감각을 접촉 상태에 따라 적응적으로 융합하여, 단일 센서 모드나 일괄적 융합 방식보다 낮은 추정 오차를 달성.
3. SAFE 를 통한 일반화 향상: 샘플링 기반의 특징 추출을 통해 훈련 데이터와 테스트 데이터 간의 분포 차이를 줄이고, 과적합을 방지하여 높은 도메인 간 일반화 성능을 입증.

4. 실험 결과 (Results)

• 시뮬레이션 환경: Isaac Gym 에서 41 가지 이상의 이질적인 객체 (PartManip 데이터셋 기반) 로 학습 및 평가 수행.
• 성능 비교:
  • 학습 효율성: 제안된 방법 (Ours) 은 기존 방법 (Center-based teacher, Point cloud-based policy) 보다 더 높은 개구 보상 (Opening Reward) 을 달성하며 빠르게 수렴했습니다.
  • 추정 정확도: ArtIEst 는 전체 에피소드 동안 평균 추정 오차가 가장 낮았으며, 특히 접촉 시 고유 감각을 활용함으로써 시각적 모호성을 효과적으로 해결했습니다.
  • 일반화 능력: 훈련 세트와 테스트 세트 간 성공률 비율 (Test/Train ratio) 이 99.35% 로 매우 높게 나타났습니다. 이는 SAFE 의 샘플링 과정이 객체의 외형적 세부 사항에 과적합되지 않도록 하여 강력한 일반화 능력을 제공함을 의미합니다.
• 실제 로봇 적용 (Real-world Demonstration):
  • Unitree Go2 로봇과 ViperX 300 팔을 사용하여 실제 환경에서 캐비닛 (회전형) 과 서랍 (직선형) 을 성공적으로 열었습니다.
  • 훈련 데이터에 없던 실제 객체에서도 작동했으며, 초기 그리핑 실패 시 로봇이 스스로 핸들을 재파악 (Auto-regrasp) 하여 작업을 완료하는 적응형 행동을 보여주었습니다.

5. 의의 및 결론 (Significance)

이 논문은 Legged Manipulator가 복잡한 일상 환경에서 다양한 형태의 문과 서랍을 여는 과제를 해결할 수 있음을 입증했습니다.

• 샘플 효율성: 고차원 입력 대신 저차원 추상화 특징을 사용하여 학습 효율성을 극대화했습니다.
• 강건성: 시각적 모호성과 접촉 불확실성을 극복하기 위해 감각 융합 (Sensor Fusion) 전략을 도입하여 실제 환경 적용 가능성을 높였습니다.
• 미래 전망: 현재는 에피소드 시작 시 객체 위치가 고정되어 있지만, 향후 온보드 객체 위치 추정 기술과 통합하여 완전한 자율 조작 시스템을 구축할 수 있는 기반을 마련했습니다.

요약하자면, OpenHEART는 로봇이 다양한 형태의 물체를 보고, 만지고, 적응적으로 조작할 수 있는 지능적인 프레임워크를 제시하여, 로봇의 일상 생활 진입 장벽을 낮추는 중요한 진전을 이루었습니다.