DeCo: Task Decomposition and Skill Composition for Zero-Shot Generalization in Long-Horizon 3D Manipulation

1. 문제 정의 (Problem)

최근 모방 학습 (Imitation Learning, IL) 은 로봇 조작 분야에서 주류로 자리 잡았으나, 새로운 장기 계획 (Long-Horizon) 3D 조작 작업에 대한 Zero-shot 일반화 능력은 여전히 제한적입니다.

• 핵심 한계: 기존 다중 작업 IL 모델은 학습된 개별 작업 (예: "서랍 열기", "물건 넣기") 은 수행할 수 있지만, 이를 조합한 새로운 복잡한 지시 (예: "닫힌 서랍에 물건을 넣고 서랍을 닫기") 에는 실패합니다.
• 원인: 모델이 새로운 작업을 구성 요소로 분해 (Decomposition) 하거나, 학습된 기술을 적절히 검색하여 순차적으로 실행 (Scheduling) 하는 능력이 부족하기 때문입니다.
• 기존 접근법의 부족: 비전 - 언어 모델 (VLM) 을 사용하여 하위 작업을 생성하는 시도들이 있었으나, 고수준의 의미론적 계획과 저수준의 물리적 실행 (Skill Space) 간의 불일치로 인해 실제 조작의 연속성과 안전성을 보장하지 못합니다.

2. 제안된 방법론: DeCo (Methodology)

저자들은 DeCo (Task Decomposition and Skill Composition) 라는 모델 중립적 (Model-agnostic) 프레임워크를 제안합니다. 이는 학습된 IL 모델을 수정하지 않고도 새로운 조합형 장기 작업에 대한 Zero-shot 일반화를 가능하게 합니다. DeCo 는 세 가지 핵심 모듈로 구성됩니다.

가. 물리적 상호작용 기반 작업 분해 및 기술 학습 (Physical Interaction-based Task Decomposition)

• 개념: 인간의 손 - 물체 상호작용에서 영감을 받아, 그리퍼 (Gripper) 의 개폐 상태 변화를 기준으로 작업을 모듈화된 원자적 작업 (Atomic Tasks) 으로 분해합니다.
• 구현:
  • Full Interaction ($p_{full}$): 그리퍼가 열림 $\rightarrow$ 닫힘 $\rightarrow$ 열림의 한 사이클을 하나의 완전한 상호작용 단위로 정의합니다.
  • 데이터 재구성: 기존 시연 데이터를 분석하여 원자적 작업 단위로 분할하고, 각 작업에 자연어 지시와 목표 포즈 (Goal Pose) 를 매핑하여 새로운 학습 데이터셋을 구축합니다.
  • 효과: IL 모델이 다양한 원자적 기술 (예: 서랍 열기, 물건 넣기) 을 독립적으로 학습할 수 있도록 합니다.

나. VLM 기반 계획 및 기술 스케줄링 (VLM-Guided Planning and Skill Scheduling)

• 역할: 추론 단계에서 Vision-Language Model (VLM, 예: GPT-4o) 을 활용합니다.
• 프로세스:
  1. 새로운 고수준 지시와 시각 입력을 VLM 에 입력합니다.
  2. 학습된 원자적 기술 라이브러리에서 관련 기술을 검색 (Retrieve) 합니다.
  3. 작업 수행을 위한 실행 순서 (Skill Sequence) 를 생성합니다.
  4. IL 모델은 각 원자적 기술을 순차적으로 실행하며, DeCo 는 그리퍼 상호작용을 모니터링하여 작업 완료 시 다음 기술을 동적으로 스케줄링합니다.

다. 공간 인식 기술 체인링 (Spatially-Aware Skill Chaining)

• 문제: 연속된 원자적 기술 간에는 시작/목표 포즈가 달라 공간적 불연속성이 발생하며, 이는 충돌이나 정책 분포 편차 (Distribution Shift) 를 유발할 수 있습니다.
• 해결:
  • Cost Map 생성: Voxposer 를 기반으로 한 공간 인식 비용 지도 (Cost Map) 를 생성하여 충돌을 피하는 연결 포즈 (Chaining Poses) 를 계산합니다.
  • 안전한 전이: RRT 기반 모션 플래닝을 통해 이전 기술의 목표 포즈와 다음 기술의 시작 포즈 사이를 매끄럽고 충돌 없는 경로로 연결합니다. 이는 정책의 분포를 변경하지 않으면서도 안전한 전이를 보장합니다.

3. 주요 기여 (Key Contributions)

1. DeCo 프레임워크 제안: 다중 작업 IL 모델에 Zero-shot 일반화 능력을 부여하는 모델 중립적 아키텍처를 개발했습니다.
2. DeCoBench 벤치마크: RLBench 기반의 새로운 벤치마크를 구축하여, 다양한 도메인 (서랍, 찬장, 쓰레기 정리) 과 교차 도메인 (Cross-domain) 에서의 조합적 일반화 능력을 체계적으로 평가할 수 있도록 했습니다.
3. 실제 환경 검증: 시뮬레이션뿐만 아니라 실제 로봇 (Franka Emika Panda) 을 통한 실험을 통해 프레임워크의 실용성을 입증했습니다.

4. 실험 결과 (Results)

가. 시뮬레이션 결과 (DeCoBench)

• 성능 향상: RVT-2, 3DDA, ARP 세 가지 대표적인 IL 모델에 DeCo 를 적용한 결과, 12 개의 새로운 장기 작업에서 성공률이 크게 향상되었습니다.
  • RVT-2: 0.00% $\rightarrow$ 66.67% (66.67% 향상)
  • 3DDA: 0.00% $\rightarrow$ 21.53% (21.53% 향상)
  • ARP: 0.14% $\rightarrow$ 58.06% (57.92% 향상)
• 원자적 작업 vs 장기 작업: 기존 모델은 원자적 작업에서는 높은 성능을 보였으나, 조합된 장기 작업에서는 실패했으나 DeCo 는 이를 해결했습니다.

나. 실제 로봇 실험 (Real-world)

• 설정: 6 개의 원자적 작업 (600 초 내외의 키네스틱 테이칭 데이터) 으로만 학습.
• 결과: 학습에 사용되지 않은 9 개의 새로운 장기 작업을 Zero-shot 으로 수행했습니다.
  • Baseline (RVT-2) 성공률: 0%
  • DeCo 적용 모델 (RVT-2+DeCo) 성공률: 53.33%
• 내구성: 목표 포즈가 유지되는 작은 교란 (Object Replacement) 에는 강건하지만, 물체의 큰 이동 (Displacement) 에는 재계획 (Re-planning) 부재로 인해 실패하는 한계가 확인되었습니다.

다. 제거 실험 (Ablation Study)

• Full vs Half Interaction: 그리퍼의 완전한 상호작용 (Full Interaction) 을 기준으로 분해하는 것이 부분적 상호작용 (Half) 보다 일반화 성능이 우수함을 확인했습니다.
• Chaining Poses: 공간 인식 체인링 모듈을 제거할 경우 충돌로 인해 성능이 급격히 저하됨을 확인했습니다.

5. 의의 및 결론 (Significance)

이 논문은 물리적 상호작용 (Physical Interaction) 을 기준으로 작업을 분해하고, VLM 의 추론 능력과 공간적 안전성을 결합함으로써, 로봇이 학습된 기술을 새로운 상황에 유연하게 적용할 수 있는 길을 열었습니다.

• 핵심 통찰: 복잡한 장기 작업을 단순히 큰 단위로 학습하는 것이 아니라, 물리적으로 일관된 작은 단위 (Atomic Skills) 로 분해하고 이를 동적으로 조합하는 것이 Zero-shot 일반화의 핵심임을 입증했습니다.
• 향후 과제: VLM 의 시각 - 의미론적 착시 (Hallucination) 로 인한 오계획 문제와, 실제 환경에서의 재계획 (Re-planning) 메커니즘 부재, 그리고 다양한 그리퍼 형태 (Dexterous hands) 로의 확장 등이 향후 연구 과제로 제시되었습니다.

이 연구는 로봇이 인간의 지시를 이해하고, 학습된 기본 기술을 조합하여 복잡한 실세계 작업을 수행할 수 있는 일반화 가능한 로봇 에이전트 개발의 중요한 진전을 보여줍니다.