Contact-Grounded Policy: Dexterous Visuotactile Policy with Generative Contact Grounding

이 논문은 시뮬레이션과 실제 로봇에서 수집한 원격 조작 데이터를 바탕으로, 예측된 로봇 상태와 촉각 피드백을 일관성 매핑을 통해 제어기 실행 가능 목표로 변환함으로써 정교한 다관절 조작을 가능하게 하는 '접촉 기반 정책 (Contact-Grounded Policy)'을 제안합니다.

핵심

로봇의 '촉각'을 깨우는 마법: 접촉 기반 정책 (CGP) 설명

이 논문은 로봇이 물건을 잡거나 만질 때, 단순히 "눈으로 보는 것"만으로는 부족하다는 사실에서 출발합니다. 마치 우리가 안대를 하고 물건을 잡으려 할 때, 손끝의 느낌 (촉각) 이 얼마나 중요한지 생각해보시면 됩니다. 이 연구는 로봇이 눈 (시각) 과 손끝의 느낌 (촉각) 을 동시에 활용하여, 마치 인간처럼 섬세하고 유연하게 물건을 다루는 새로운 방법을 제안합니다.

이 방법을 **'접촉 기반 정책 (Contact-Grounded Policy, CGP)'**이라고 부르는데, 이를 쉽게 이해할 수 있도록 몇 가지 비유로 설명해 드리겠습니다.

---

1. 기존 로봇의 문제: "눈만 믿는 맹수"

기존의 많은 로봇은 카메라 (눈) 로만 세상을 봅니다. "저기 사과가 있네, 잡아야지!"라고 생각해서 손을 뻗습니다. 하지만 사과가 미끄러지거나, 껍질이 너무 부드러워서 터질까 봐 걱정할 때는 어떻게 할까요?

• 기존 방식: 로봇은 "눈에 보이는 위치"만 보고 움직입니다. 손이 사과를 너무 세게 잡으면 터지고, 너무 약하게 잡으면 떨어집니다. 로봇은 손끝이 어떤 느낌을 받는지 모릅니다.
• 결과: 깨지기 쉬운 달걀을 잡거나, 접시를 닦을 때처럼 미세한 힘 조절이 필요한 작업에서는 실패하기 쉽습니다.

2. CGP 의 핵심 아이디어: "미래의 손끝 느낌을 미리 상상하는 능력"

이 논문이 제안한 CGP 는 로봇에게 두 가지 놀라운 능력을 가르칩니다.

비유 1: "예측하는 마법사" (Conditional Diffusion Model)

CGP 는 로봇이 앞으로 1 초, 2 초 뒤에 손끝이 어떤 느낌을 받을지 미리 상상합니다.

• 상황: 로봇이 접시를 닦는다고 칩시다.
• CGP 의 생각: "내가 지금 이렇게 손을 움직이면, 0.5 초 뒤에는 스펀지가 접시에서 미끄러질 거야. 그때 손끝은 '미끄러짐'이라는 느낌을 받을 거야."
• 핵심: 로봇은 단순히 "손을 저쪽으로 움직여라"라고 명령하는 게 아니라, **"손끝이 이런 느낌을 받도록 움직여야 해"**라고 목표를 설정합니다. 마치 마법사가 "미래의 결과를 보고 과거의 행동을 결정하는" 것과 같습니다.

비유 2: "현실과 연결하는 번역기" (Contact-Consistency Mapping)

미래를 상상하는 것만으로는 부족합니다. 로봇의 손이 실제로 그 느낌을 받을 수 있도록 구체적인 명령으로 바꿔줘야 합니다.

• 문제: "손끝이 미끄러지는 느낌을 받아"라고 말해도, 로봇의 모터는 "어떤 각도로 움직여야 미끄러지는 느낌을 받지?"를 모릅니다.
• 해결: CGP 는 전용 번역기를 가지고 있습니다. "미래의 느낌 (촉각) + 현재 손의 상태"를 입력으로 받아, "로봇 모터가 정확히 이 각도로 움직여야 그 느낌을 받을 수 있어"라고 **구체적인 명령 (목표 상태)**으로 바꿔줍니다.
• 효과: 로봇은 이 명령을 받으면, 마치 인간이 물체의 질감을 느끼며 자연스럽게 힘을 조절하듯, 부드럽고 유연하게 (Compliance) 움직입니다.

---

3. 실제 실험: 로봇이 무엇을 할 수 있게 되었나요?

연구팀은 이 기술을 실제 로봇 (4 개의 손가락을 가진 손) 과 시뮬레이션에서 테스트했습니다. 결과는 놀라웠습니다.

• 상자 뒤집기: 손 안의 상자를 뒤집는 복잡한 동작을 성공적으로 수행했습니다.
• 깨지기 쉬운 달걀 잡기: 달걀을 터뜨리지 않고 부드럽게 잡았습니다. (기존 로봇은 너무 세게 잡거나 놓쳐서 실패했습니다.)
• 접시 닦기: 스펀지로 접시를 닦을 때, 너무 세게 누르지 않고 적절한 힘으로 닦았습니다.
• 병 따기: 병뚜껑을 돌릴 때, 미끄러지지 않도록 적절한 마찰력을 유지했습니다.

이 모든 작업에서 CGP 는 기존 방식보다 훨씬 높은 성공률을 보였습니다. 특히 물체가 미끄러지거나, 형태가 변하거나, 힘이 변하는 상황에서 CGP 의 성능이 빛을 발했습니다.

---

4. 왜 이 기술이 중요한가요? (요약)

이 기술은 로봇이 "눈으로 보고, 손끝으로 느끼며, 미래를 예측해서 행동하는" 진정한 다재다능한 로봇으로 가는 중요한 디딤돌입니다.

• 기존 로봇: "눈에 보이는 대로 움직인다." (경직됨, 실패率高)
• CGP 로봇: "손끝의 느낌을 상상하고, 그 느낌을 받기 위해 부드럽게 움직인다." (유연함, 실패率低)

마치 안경을 쓴 상태에서 장갑을 끼고 물건을 잡는 사람이, 장갑을 벗고 맨손으로 물건을 잡을 때의 섬세함을 되찾은 것과 같습니다. 이 기술 덕분에 로봇은 이제 깨지기 쉬운 물건, 미끄러운 물건, 복잡한 도구 사용까지 인간처럼 자연스럽게 할 수 있게 되었습니다.

결론

이 논문은 로봇에게 **"촉각의 언어"**를 가르쳤습니다. 단순히 데이터를 처리하는 것을 넘어, 로봇이 손끝의 느낌을 통해 세상을 이해하고, 그 느낌에 맞춰 부드럽게 움직이는 법을 배운 것입니다. 이는 앞으로 집안일을 돕는 로봇이나 수술용 로봇 등, 섬세한 작업이 필요한 모든 분야에서 혁신을 가져올 것입니다.

기술 요약

1. 문제 정의 (Problem)

다관절 로봇 손 (Dexterous Hands) 을 이용한 접촉이 풍부한 정교한 조작 (Contact-rich Dexterous Manipulation) 은 로봇공학의 주요 난제 중 하나입니다.

• 도전 과제: 다중 접촉점 (Multi-point contacts) 은 물체의 기하학적 구조, 마찰 상태 전이, 미끄러짐 (Slip) 등에 매우 민감하게 반응하며, 지속적으로 변화합니다.
• 기존 방법의 한계:
  • 그립 중심 (Grasp-centric) 접근: 안정적인 그립을 생성하는 데는 효과적이지만, 그립 형성 후의 지속적인 접촉 조절이나 도구 사용 등 복잡한 상호작용에는 제한적입니다.
  • 강화학습 (RL): 복잡한 접촉 전략을 학습할 수 있으나, 시뮬레이션에서 실제 환경으로의 전이 (Sim-to-Real) 가 어렵고 보상 함수 설계가 복잡합니다.
  • 모방학습 (Imitation Learning): 인간의 시연 데이터를 활용하지만, 대부분의 비전 - 모션 (Visuomotor) 정책은 접촉의 의미 (Contact Semantics) 를 명시적으로 모델링하지 않습니다. 촉각 신호를 단순히 추가 관측치로만 사용할 뿐, 제어기 동역학과 어떻게 상호작용하는지 고려하지 않아, 학습된 명령이 물리적으로 일관되지 않거나 미끄러짐을 유발할 수 있습니다.

2. 제안 방법: Contact-Grounded Policy (CGP)

저자들은 **Contact-Grounded Policy (CGP)**를 제안합니다. 이는 촉각 신호를 단순 관측치가 아닌, 접촉 상태 (Contact State) 를 grounding(현실화) 하는 핵심 요소로 활용하는 프레임워크입니다.

핵심 아이디어

CGP 는 고수준의 작업 의도를 저수준의 접촉 일관성 있는 제어 목표 (Controller-executable Targets) 로 변환하는 두 가지 주요 구성 요소를 가집니다.

1. 조건부 확산 모델 (Conditional Diffusion Model):
   • 과거 관측치 (비전, 촉각, 로봇 상태) 를 기반으로 **미래의 실제 로봇 상태 (Actual Robot State)**와 **예상되는 촉각 피드백 (Tactile Feedback)**의 결합된 궤적을 예측합니다.
   • 효율성을 위해 촉각 관측치를 **KL 정규화 변이형 오토인코더 (VAE)**를 통해 잠재 공간 (Latent Space) 으로 압축하여 생성합니다.
2. 학습된 접촉 일관성 매핑 (Learned Contact-Consistency Mapping):
   • 예측된 (예상 상태, 촉각) 쌍을 **실행 가능한 목표 로봇 상태 (Target Robot State)**로 변환합니다.
   • 이 매핑은 저수준의 **준수 제어기 (Compliance Controller, 예: PD 제어기)**의 동역학을 고려하여, 예측된 접촉이 실제로 구현되도록 목표 값을 조정합니다.
   • 잔차 매핑 (Residual Mapping): 목표 상태를 직접 회귀하는 대신, 현재 실제 상태에서의 오프셋 (Offset) 을 예측하여 학습의 안정성과 강건성을 높입니다.

작동 원리

• 접촉 Grounding: 로봇이 물체와 상호작용할 때, 목표 상태 ($a_t$) 와 실제 상태 ($x_t$) 간의 차이 (Tracking Error) 가 준수 제어기를 통해 토크로 변환되고, 그 결과로 촉각 센서 ($u_t$) 가 피드백을 받습니다. CGP 는 이 삼중체 $(x_t, u_t, a_t)$의 관계를 학습하여, 원하는 접촉 진화를 실현할 수 있는 $a_t$를 생성합니다.
• 실행: 정책은 미래 궤적을 예측하고, 이를 매핑을 통해 목표 값으로 변환한 후, 준수 제어기에 전달하여 실행합니다.

3. 주요 기여 (Key Contributions)

1. Contact-Grounded Policy 프레임워크: 다중 접촉점을 예측된 상태와 촉각 피드백의 결합된 궤적으로 Grounding 하고, 이를 실행 가능한 제어 명령으로 변환하는 새로운 정책 학습 프레임워크를 제시했습니다.
2. 접촉 Grounding 을 위한 효율적 촉각 예측:
   • 고차원 촉각 데이터를 잠재 공간으로 압축하고 확산 모델을 통해 예측함으로써 실시간 생성을 가능하게 했습니다.
   • KL 정규화를 통해 잠재 공간의 구조를 안정화시켜, 장기적인 촉각 예측의 정확도와 정책 성능을 향상시켰습니다.
3. 광범위한 검증: 밀집형 촉각 배열 (시뮬레이션) 과 비전 기반 촉각 센서 (Digit360, 실제 로봇) 모두에서 유효성을 입증했습니다.

4. 실험 결과 (Results)

저자들은 시뮬레이션 (Tesollo DG-5F 손, 밀집 촉각 배열) 과 실제 로봇 (Allegro V5 손, Digit360 센서) 환경에서 다양한 과제를 수행했습니다.

• 평가 과제: 상자 뒤집기 (In-hand Box Flipping), 깨지기 쉬운 달걀 잡기 (Fragile Egg Grasping), 접시 닦기 (Dish Wiping), 병 열기 (Jar Opening) 등.
• 성능 비교: CGP 는 비전 - 모션 확산 정책 (Visuomotor DP) 및 비전 - 촉각 확산 정책 (Visuotactile DP) 베이스라인보다 모든 과제에서 우수한 성공률을 보였습니다.
  • 특히 접촉이 지속되거나 정교한 조절이 필요한 과제 (접시 닦기, 병 열기 등) 에서 성능 차이가 두드러졌습니다.
  • 예: 접시 닦기 과제에서 CGP 는 58.4% 성공률, Visuotactile DP 는 43.6% 성공률을 기록했습니다.
• 접촉 Grounding 검증:
  • 예측된 촉각 피드백과 실행 후 관측된 실제 촉각 피드백이 시간적으로 정렬되어 높은 일치도를 보였습니다. 이는 CGP 가 단순히 촉각을 예측하는 것을 넘어, 예측된 접촉 진화를 실제로 구현할 수 있는 제어 명령을 생성함을 의미합니다.
• 효율성: 촉각 예측과 접촉 일관성 매핑을 수행함에도 불구하고, 추론 시간 (Inference Time) 은 기존 확산 정책 베이스라인과 유사한 수준을 유지하여 실시간 적용이 가능함을 확인했습니다.

5. 의의 및 의의 (Significance)

• 접촉 제어의 패러다임 전환: 촉각 정보를 단순한 '관측치'가 아닌, 제어기 동역학과 결합된 '실행 가능한 목표'로 변환하는 새로운 접근법을 제시했습니다.
• 실제 적용 가능성: 비전 기반 촉각 센서 (Digit360) 와 밀집형 촉각 배열 모두에서 작동하며, 실제 로봇 (Franka Panda + Allegro Hand) 에서 복잡한 조작 과제를 성공적으로 수행함을 입증했습니다.
• 신뢰성 있는 조작: 미끄러짐이나 과도한 강성 (Stiffness) 없이, 물체의 기하학적 구조와 마찰 상태를 고려한 정교한 접촉 조절이 가능해졌습니다.

6. 한계 및 향후 과제

• 전용성 (Specificity): Contact-Consistency Mapping 은 특정 센서와 준수 제어기 설정에 종속적입니다. 센서 유형이나 제어기 파라미터가 변경되면 재학습이 필요합니다.
• 범용성: 현재는 단일 작업 (Single-task) 학습에 국한되어 있습니다. 다양한 작업, 객체, 접촉 패턴에 걸친 지식 전이를 위해서는 교차 작업 (Cross-task) 학습 및 더 큰 아키텍처가 필요합니다.

이 논문은 로봇이 인간의 손처럼 유연하고 정교하게 물체를 조작하기 위해, 촉각을 통해 접촉 상태를 예측하고 이를 제어 명령으로 직접 연결하는 메커니즘을 성공적으로 구현했다는 점에서 중요한 의의를 가집니다.