Language-Grounded Decoupled Action Representation for Robotic Manipulation

이 논문은 고수준의 언어 이해와 저수준의 로봇 제어 간의 간극을 해소하기 위해 번역, 회전, 그리퍼 제어라는 세 가지 해석 가능한 행동 원시 (primitives) 를 중간 계층으로 도입하고, 의미 기반 소프트 라벨 대비 학습 및 적응형 가중치 전략을 통해 새로운 작업에 대한 강력한 일반화 성능을 달성하는 'LaDA' 프레임워크를 제안합니다.

핵심

1. 문제점: "의사"와 "외과수술사"의 소통 부재

지금까지의 로봇 학습 방식은 크게 두 가지 문제가 있었습니다.

• 방식 A (완전 자동화): 로봇에게 "물컵을 들어"라고 하면, 로봇이 눈으로 보고 머릿속으로 계산해서 직접 손을 움직입니다. 하지만 이건 마치 의사 (고급 지능) 가 수술실 (저급 제어) 에 직접 들어가서 손수건을 잡는 것과 같습니다. 복잡한 생각과 손놀림이 뒤섞여 있어서, "물컵을 들어"는 잘해도 "병을 따라"는 못 할 때가 많습니다.
• 방식 B (숨겨진 코드): 로봇이 행동을 '잠재 코드 (Latent Code)'라는 암호로 저장합니다. 하지만 이 암호는 사람이 해석할 수 없는 숫자 나열이라서, 로봇이 "물컵을 들어"와 "병을 따라"는 서로 다른 암호를 따로따로 외워야 합니다. 결국 같은 동작 (잡기, 돌리기) 이 반복되어 비효율적입니다.

핵심 문제: 로봇은 "무엇을 할지 (의도)"와 "어떻게 손으로 할지 (동작)"가 따로 놀고 있어서, 새로운 일을 배우기 어렵습니다.

---

2. LaDA 의 해결책: "명령어"와 "동작"을 연결하는 통역사

저자들은 로봇에게 **자연어 (사람의 말)**를 중간에 끼워 넣는 '통역사' 역할을 시켰습니다.

🌉 비유: 요리 레시피와 손놀림

로봇이 요리를 한다고 상상해 보세요.

• 기존 방식: "요리해 줘"라고 하면 로봇이 모든 재료를 보고 직접 칼질부터 볶음까지 다 알아서 합니다. 실패하면 처음부터 다시 해야 합니다.
• LaDA 방식: 로봇은 **세 가지 기본 동작 (이동, 회전, 집기)**으로 이루어진 명확한 레시피를 먼저 받습니다.
  1. 이동 (Translation): "앞으로 10cm 이동"
  2. 회전 (Rotation): "오른쪽으로 90 도 회전"
  3. 집기 (Gripper): "손가락 닫기"

이제 로봇은 "물컵을 들어"라는 말을 들으면, 이를 **"앞으로 이동 + 회전 + 집기"**라는 구체적인 레시피로 변환합니다. 마치 요리사가 "소금 약간"이라는 말 (의미) 을 보고 "스푼 1/2"이라는 정확한 양 (동작) 으로 변환하는 것과 같습니다.

---

3. 핵심 기술: "유연한 학습"과 "균형 잡기"

이 방법의 두 가지 마법 같은 기술이 있습니다.

🧩 마법 1: "유연한 매칭" (Soft-Label Contrastive Learning)

기존에는 "A 와 B 는 같다", "A 와 C 는 다르다"라고 딱딱하게 가르쳤습니다. 하지만 LaDA 는 **"A 와 B 는 비슷해, C 와는 조금 달라"**라고 **점수 (유사도)**를 매겨줍니다.

• 비유: "사과"와 "배"는 완전히 다른 과일이지만, 둘 다 '과일'이라는 공통점이 있어 비슷합니다. LaDA 는 로봇에게 "물컵을 들어"와 "병을 따라"가 완전히 다른 게 아니라, '손을 잡는 동작'이라는 공통점이 있어 서로 연결되어 있다고 가르칩니다.
• 효과: 로봇이 '물컵'을 잡는 법을 배웠다면, '병'을 잡는 법도 금방 유추할 수 있게 됩니다.

⚖️ 마법 2: "스스로 조절하는 학습 속도" (Adaptive Weighting)

학습할 때 '의미 있는 연결 (언어)'과 '실제 행동 (모방)' 중 어느 쪽에 더 집중해야 할지 로봇이 스스로 판단합니다.

• 비유: 학생이 시험을 볼 때, 처음에는 **기본 개념 (이동, 회전)**을 확실히 익히는 데 집중하다가, 나중에는 **세부적인 문제 해결 (정확한 위치)**에 더 집중하도록 학습 계획을 스스로 조절하는 것입니다.
• 효과: 로봇이 헷갈리지 않고 안정적으로 배우게 됩니다.

---

4. 실험 결과: 시뮬레이션과 현실 모두 성공

이 방법을 실제로 테스트해 보니 놀라운 결과가 나왔습니다.

• 시뮬레이션 (가상 세계): 로봇이 전혀 보지 못한 새로운 물건이나 복잡한 순서 (예: "접시를 꺼내서 냄비 위에 올려줘") 를 맡겨도, 기존 로봇들보다 훨씬 잘 해냈습니다. 마치 레시피를 익힌 요리사가 새로운 재료로도 요리를 해내는 것 같습니다.
• 실제 로봇 (현실 세계): 실제 공장에서 로봇 팔을 움직여 상자를 옮기는 실험에서도 빛을 잘 받거나 물체 위치가 달라져도 안정적으로 성공했습니다.

---

5. 요약: 왜 이것이 중요한가요?

이 논문 (LaDA) 은 로봇에게 **"말 (언어)"**을 통해 **"손 (동작)"**을 가르치는 가장 효율적인 방법을 제시했습니다.

• 기존: 로봇이 모든 일을 처음부터 새로 외워야 함 (비효율적).
• LaDA: 로봇이 기본 동작 (이동, 회전, 집기) 을 언어로 이해하고, 이를 조합하여 새로운 일을 척척 해냄 (효율적, 일반화 가능).

결론적으로, 이 기술은 로봇이 인간과 더 자연스럽게 소통하고, 복잡한 일도 유연하게 처리할 수 있는 스마트한 로봇 시대의 문을 연 것이라고 볼 수 있습니다.

기술 요약

1. 문제 정의 (Problem)

로봇 조작 (Robotic Manipulation) 분야에서 고수준의 시각 - 언어 이해 (Vision-Language Understanding) 와 저수준의 구체적 행동 제어 (Low-level Action Control) 간의 불일치 (Heterogeneity) 는 근본적인 과제로 남아 있습니다.

• 기존 방법의 한계:
  • VLA (Vision-Language-Action) 모델: 엔드 - 투 - 엔드 방식으로 학습하지만, 지각과 제어가 서로 얽혀 있어 (Entangled) 해석 가능성과 공유된 운동 구조의 재사용이 어렵습니다.
  • 잠재 행동 학습 (Latent Action Learning): 행동을 잠재 공간에 인코딩하지만, 명시적인 의미 (Semantics) 가 부족하여 작업 간 전이 (Transfer) 가 어렵습니다.
  • 언어 조건부 정책: 자연어를 중간 표현으로 사용하지만, "앞으로 이동", "그립터 닫기"와 같은 거친 이산적 원시적 행동 (Coarse Discrete Primitives) 에 의존하여 이동 거리나 회전 축과 같은 정밀한 운동 매개변수를 포착하지 못합니다.
• 핵심 질문: 어떻게 고수준의 의미론적 이해와 저수준의 정밀한 제어를 연결하면서도, 작업 간에 공유되는 운동 원리를 효과적으로 일반화할 수 있는 행동 표현을 구축할 수 있을까요?

2. 제안 방법론 (Methodology: LaDA)

저자들은 LaDA (Language-Grounded Decoupled Action Representation) 프레임워크를 제안합니다. 이는 자연어를 의미적 다리 (Semantic Bridge) 로 활용하여 시각, 언어, 행동 표현을 통합합니다.

2.1. 언어 기반 행동 분해 (Language-Grounded Action Decomposition)

연속적인 7 자유도 (7-DoF) 엔드 이펙터 행동을 해석 가능하고 언어 기반인 세 가지 운동 원시 (Motion Primitives) 로 분해합니다.

1. 이동 (Translation): "방향 [dir] 으로 [거리] 미터 이동"과 같은 언어 템플릿으로 표현.
2. 회전 (Rotation): "[축] 을 중심으로 [각도] 도 회전"으로 표현.
3. 그립터 제어 (Gripper): "열기 (Open)" 또는 "닫기 (Close)"와 같은 이산 명령.

이 과정을 통해 연속적인 제어 궤적을 해석 가능한 의미 범주로 변환하고, 작업 간 공유된 운동 구조를 명시적으로 드러냅니다.

2.2. 의미 유도 소프트 라벨 대비 학습 (Semantic-Guided Soft-Label Contrastive Learning)

단순한 이진 (Positive/Negative) 쌍이 아닌, 연속적인 의미 친밀도 (Semantic Affinity) 를 기반으로 한 대비 학습을 수행합니다.

• 소프트 라벨 유사도 행렬 ($S$): 이동, 회전, 그립터 속성이 유사한 행동들 사이에 등급이 매겨진 가중치 (Graded Weights) 를 부여하여 유사도를 계산합니다.
• 이중 경로 (Dual-Path) 학습:
  1. 행동 - 행동 정렬: 유사한 원시적 속성을 가진 행동들이 임베딩 공간에서 가깝게 위치하도록 유도.
  2. 행동 - 원시 설명 정렬: 각 행동을 토큰화된 언어 설명 (Primitive Description) 에 고정하여 의미 해석 가능성을 유지.
• 이를 통해 부분적으로 관련된 행동들 사이에도 미세한 운동 대응 관계를 학습하고, 작업 간 공유된 의미를 보존합니다.

2.3. 적응형 가중치 전략 (Adaptive Weighting Strategy)

비교 학습 (Contrastive Loss) 과 모방 학습 (Imitation Loss) 간의 균형을 동적으로 조절합니다.

• 커리큘럼 학습 영감: 최근 반복 (Iterations) 의 이동 평균 (Moving Average) 을 기반으로 각 손실 함수의 가중치를 자동 조정합니다.
• 목적: 모방 신호에 의한 조기 과적합을 방지하고, 의미 정렬과 행동 실행 사이의 안정적인 수렴을 보장합니다.

3. 주요 기여 (Key Contributions)

1. LaDA 프레임워크: 연속적인 7-DoF 행동을 해석 가능한 언어 기반 원시 (이동, 회전, 그립터) 로 분해하여 고수준 이해와 저수준 제어를 통합하는 통일된 프레임워크를 제시했습니다.
2. 새로운 학습 목표: 운동 원시 간의 연속적인 친밀도를 포착하는 의미 유도 소프트 라벨 대비 학습과 이를 안정화하는 적응형 가중치 메커니즘을 개발했습니다.
3. 성능 입증: 시뮬레이션 (LIBERO, MimicGen) 과 실제 로봇 환경에서 최첨단 (SOTA) 성능을 달성했으며, 보지 못한 작업이나 의미적으로 관련된 작업에 대한 강력한 일반화 능력을 입증했습니다.

4. 실험 결과 (Results)

4.1. 시뮬레이션 벤치마크

• LIBERO: 4 가지 작업 스위트 (Spatial, Object, Goal, Long) 에서 평균 93.6% 의 성공률을 기록했습니다. 특히 장기 작업 (LIBERO-Long) 에서 86.4% 의 높은 성능을 보이며, 제안된 분해 방식이 장기 제어에서의 일반화에 효과적임을 입증했습니다.
  • 참고: CLIP-RT(1.3B 파라미터) 와 유사하거나 더 좋은 성능을 내면서 파라미터 수는 약 절반 (0.6B) 으로 줄였습니다.
• MimicGen: 접촉이 많은 (Contact-rich) 9 가지 조작 작업에서 평균 67% 의 성공률을 기록하여, 기존 방법들 (OpenVLA, Phoenix 등) 보다 압도적으로 높은 성능을 보였습니다. 특히 다단계 및 장기 작업에서 큰 개선을 보였습니다.

4.2. 일반화 평가 (Generalization)

• 새로운 작업 (Cross-task): 훈련 중 보지 못한 새로운 작업 지시 (예: "접시를 스토브 앞으로 밀기") 에 대해 기존 모델 (CLIP-RT*) 이 0% 성공률을 보인 반면, LaDA 는 12.3% 의 성공률을 기록하여 원시적 의미의 재사용 능력을 입증했습니다.
• 유사 작업 (Similar-task): 목표는 다르지만 운동 구조가 유사한 작업에서도 일관된 정렬을 유지했습니다.

4.3. 실제 로봇 실험 (Real-World)

• Franka Emika Panda 로봇을 사용하여 실제 환경에서 물체 집기 및 상자 넣기 (Pick-and-place) 작업을 수행했습니다.
• 조명 변화, 물체 위치/색상 변화, 상자 배치 변화 등 다양한 조건에서도 안정적인 그립과 정확한 배치를 성공적으로 수행하여 시뮬레이션에서 학습된 표현이 실제 환경으로 효과적으로 전이됨을 확인했습니다.

5. 의의 및 결론 (Significance)

이 논문은 자연어가 로봇의 지각과 제어를 연결하는 강력한 의미적 다리 역할을 할 수 있음을 입증했습니다.

• 해석 가능성: 블랙박스 형태의 엔드 - 투 - 엔드 모델과 달리, 이동/회전/그립터와 같은 명시적인 의미 구조를 제공하여 로봇의 행동을 해석할 수 있게 합니다.
• 일반화: 작업 간 공유된 운동 원리를 언어를 통해 추출하고 정렬함으로써, 보지 못한 새로운 작업이나 복잡한 장기 작업에도 효과적으로 대응할 수 있는 범용 로봇 학습 시스템의 기반을 마련했습니다.
• 효율성: 대규모 데이터와 파라미터에 의존하기보다, 의미 기반의 분해와 정렬을 통해 데이터 효율적이고 강력한 제어를 가능하게 합니다.

요약하자면, LaDA 는 로봇 조작의 핵심 난제인 '의미 이해'와 '정밀 제어' 간의 간극을 해소하고, 언어를 매개로 한 해석 가능하고 일반화 가능한 로봇 학습의 새로운 패러다임을 제시합니다.