기술 요약: 파운데이션 모델 시대의 체화된 로봇 조작 (Embodied Robot Manipulation)

1. 문제 정의

로봇 조작(Manipulation)은 체화된 지능(Embodied Intelligence) 분야에서 여전히 가장 도전적인 과제 중 하나이다. 로봇 자신의 움직임을 주로 조절하는 내비게이션이나 이동(Locomotion)과 달리, 조작은 객체의 상태를 의도적으로 변화시키는 접촉이 풍부한 상호작용을 포함한다. 이러한 복잡성은 인지, 의미론적 이해, 태스크 추론, 물리적으로 근거한 행동 생성, 그리고 신뢰할 수 있는 실행이라는 다층적인 루프를 폐쇄해야 하는 필요성에서 기인한다. 이러한 어려움은 기본적인 단일 팔 작업부터 정교한 다지(multi-fingered) 제어, 변형 가능한 물체 조작, 모바일 또는 휴머노이드 형태의 구현에 이르기까지 조작 환경의 다양성으로 인해 더욱 심화된다.

최근 시각, 언어 및 멀티모달 학습의 발전이 로봇 파운데이션 모델의 개발을 가속화했지만, 이러한 모델들이 조작의 설계 공간을 어떻게 재편하는지에 대한 체계적인 이해가 필요하다. 기존의 서베이들은 종종 특정 모델 제품군(예: 시각-언어-행동 모델, 확산 정책 등)에 따라 문헌을 정리하곤 하는데, 이는 계획-제어 계층 구조 전반에 걸친 다양한 구성 요소들의 기능적 역할과 상호작용을 모호하게 만들 수 있다.

2. 방법론 및 분류 체계

본 논문은 로봇 조작을 상위 수준 계획(High-Level Planning), 하위 수준 행동 모델링(Low-level Action Modeling), 그리고 **구동 수준 제어(Actuation-Level Control)**라는 세 가지 뚜렷한 계층으로 분해하는 통합된 추상화를 제안한다. 본 서베이는 파운데이션 모델이 가장 직접적인 영향을 미치는 첫 번째와 두 번째 계층에 주로 집중한다.

A. 상위 수준 계획 (High-Level Planning)

이 계층은 실행 가능한 모터 명령이 아닌, 구조화된 가이드(결과물)를 생성한다. 이는 행동 의도, 시간적 조직, 그리고 주의 집중의 대상을 결정한다. 본 논문은 상위 수준 계획 접근법을 다음과 같은 여섯 가지 주요 유형으로 분류한다:

• LLM 기반 태스크 계획: 대규모 언어 모델을 활용하여 의미론적 추론 및 태스크 분해를 수행한다 (예: SayCan, LLM-Planner). 추론 능력은 뛰어나지만, 이러한 계획은 종종 물리적 근거가 부족하며 기하학적 제약 조건을 충족하지 못할 수 있다.
• MLLM 기반 태스크 계획: 멀티모달 대규모 언어 모델을 사용하여 시각과 언어를 결합하여 추론함으로써, 별도의 시각 모듈 없이 엔드 투 엔드 태스크 추론이나 개선된 계획을 가능하게 한다 (예: PaLM-E, RoboBrain).
• 프로그래밍 방식의 계획 (Programmatic Planning): 상위 수준의 추론과 하위 수준의 제어를 연결하는 중간 추상화로서 코드 생성을 사용하며, 명시적인 구조와 조건부 로직을 제공한다 (예: Code as Policies, ProgPrompt).
• 기하학적 제약 기반 계획: 언어와 인지를 구조화된 공간적 목표나 관계적 제약으로 변환하여 고전적인 모션 플래너에 의해 최적화되도록 한다 (예: VoxPoser, ReKep).
• 어포던스(Affordance) 기반 계획: 기하학적, 시각적, 의미론적 또는 멀티모달 단서를 통해 행동 가능성(객체가 허용하는 행동)을 추론하여 인지와 조작 사이를 연결한다 (예: CLIPort, Ditto).
• 3D 표현 기반 계획: 3D 표현(예: Gaussian Splatting, Neural Descriptor Fields)을 중간 인터페이스로 사용하여 인지를 파악(grasp) 후보나 공간적 대응 관계와 같이 구조화된 행동 관련 표현으로 변환한다.

B. 하위 수준 행동 모델링 (Low-Level Action Modeling)

이 계층은 관측값과 태스크 사양을 실행 가능한 행동으로 변환한다. 본 논문은 이 계층의 학습 기반 접근법을 학습 파이프라인에 따라 정리한다:

1. 학습 전략:
   • 강화 학습 (RL): 모델 프리(trial-and-error) 방식과 모델 기반(역학 모델 사용) 방식을 포함한다.
   • 모방 학습 (IL): 행동으로부터의 행동 클로닝(Behavior Cloning)과 관찰로부터의 모방(Imitation from Observation, IfO)을 포함한다.
   • 보조 태스크를 통한 학습: 월드 모델링이나 목표 추출과 같은 자기 지도 학습 목적 함수를 통해 정책을 강화한다.
2. 입력 모델링: 멀티모달 입력을 어떻게 인코딩하는지 정의한다.
   • 시각-행동 모델 (Vision-Action Models): 시각적 관측을 모터 명령으로 직접 매핑한다 (2D 또는 3D 입력).
   • 시각-언어-행동 (VLA) 모델: 의미론적 근거 설정, 공간적 추론, 순차적 행동 생성을 통합한다. 본 서베이는 2D 대 3D 입력, 모델 중심 대 모델 불가지론적 전략, 그리고 촉각, 힘, 오디오 양식의 통합에 관한 트렌드를 상세히 다룬다.
   • 촉각 기반 모델: 접촉이 풍부한 조작을 위한 촉각 피드백의 통합을 구체적으로 다룬다.
3. 잠재 학습 (Latent Learning): 강건한 표현을 습득하는 데 집중한다.
   • 사전 학습된 잠재 학습: 일반적, 인간 중심적 또는 로봇 데이터셋으로부터 전이 가능한 시각적 표현을 학습한다.
   • 잠재 행동 학습: 태스크 관련 움직임을 압축하는 중간 표현을 학습하며, 여기에는 이산적(벡터 양자화) 및 연속적 잠재 행동이 포함된다.
4. 정책 학습: 표현을 어떻게 행동으로 디코딩하는지 명시한다.
   • 패러다임: MLP 기반, 트랜스포머 기반 (예: ACT), 확산 정책(Diffusion Policies, 반복적 노이즈 제거), 플로우 매칭(Flow Matching, 결정론적 수송), 그리고 기타 상태 공간 모델(State-Space Models)과 같은 패러다임을 포함한다.

3. 주요 기여

• 통합된 분류 체계: 본 논문은 로봇 조작 방법론을 단순히 모델 아키텍처가 아니라 기능적 역할(상위 수준 계획 vs 하위 수준 행동 모델링)에 따라 분류하는 구조화된 프레임워크를 도입한다. 이를 통해 서로 다른 모델 제품군 간의 공통된 설계 패턴을 밝혀낸다.
• 파운데이션 모델 역할의 추상화: 조작에서의 파운데이션 모델이 두 가지 주요 역할을 수행함을 명확히 한다: (1) 다운스트림 행동 생성을 위한 구조화된 계획 결과물(제약, 코드, 어포던스) 생성, 또는 (2) 실행 가능한 행동 및 궤적의 직접적인 모델링.
• 포괄적인 범위: 다양한 양식(시각, 언어, 촉각, 오디오, 힘)의 통합과 고전적 계획에서 학습 기반 및 파운데이션 모델 기반 접근법으로의 진화를 체계적으로 검토한다.
• **격차 식항:**emerging 트렌드를 합성하고 현재 접근 방식의 구체적인 한계점, 예를 들어 LLM 플래너의 물리적 근거 부족, 어포던스 예측의 모호성, VLA에서의 3D 인지 문제 등을 식별한다.

4. 결과 및 발견

본 논문은 새로운 실험 결과를 제시하는 대신, 기존 문헌의 결과들을 종합하여 몇 가지 결론을 도출한다:

• 상위 수준 계획: LLM과 MLLM은 강력한 의미론적 추론을 제공하지만, 순수하게 언어에 기반한 계획은 기하학적 또는 운동학적 제약을 만족하는 데 실패하는 경우가 많다. 기하학적 제약이나 코드를 생성하는 하이브리드 접근 방식이 실행에 더 견고하다.
• 하위 수준 행동 모델링: VLA 모델이 지배적인 패러다임이 되었으며, 의미론적 근거 설정과 행동 생성을 성공적으로 통합하고 있다. 그러나 상위 수준의 의미론적 추론과 정밀한 연속적 모터 실행 사이에는 여전히 격차가 존재한다.
• 멀티모달리티: 시각과 언어가 표준이지만, 촉각, 힘, 오디오 양식의 통합은 접촉이 풍부한 조작을 위해 필수적이며 여전히 활발히 개발 중인 영역이다.
• 잠재 표현: 잠재 공간(이산 및 연속 모두)의 사용이 전이 가능성, 효율성 및 장기 태스크 처리를 개선하기 위한 핵심 전략으로 부상하고 있다.

5. 의의 및 향후 방향

본 논문은 분야가 보다 범용적인 로봇 파운데이션 모델을 향해 나아가고 있지만, 상당한 장애물에 직면해 있다고 주장한다. 연구는 네 가지 핵심 과제를 식별한다:

1. 진정한 로봇 브레인 구축: 유연한 아키텍처와 평생 학습(lifelong learning)을 통해, 특정 태스크에 맞춘 적합(fitting)을 넘어 보지 못한 태스크, 객체, 구현체 전반에 걸쳐 일반화할 수 있는 시스템으로 나아가는 것.
2. 데이터 및 평가의 병목 현상: 실제 세계 데이터의 희소성과 다양한 환경 및 상호작용 복잡성을 포괄하는 표준화되고 재현 가능한 평가 프레임워크의 부재를 해결하는 것.
3. 멀티모달 물리적 상호작용: 다양한 감각 스트림(촉각, 오디오, 열)을 적응적으로 통합하고 복잡한 재질(변형 가능한 물체) 조작을 처리할 수 있는 통합 모델을 개발하는 것.
4. 안전 및 협업: 내재적 안전 메커니즘, 결함 탐지, 오픈 월드 환경에서의 안전한 다중 로봇 협업을 포함하여, 안전을 최우선 설계 제약 조건으로 보장하는 것.

본 서베이는 상당한 진전이 있었음에도 불구하고, 견고하고 범용적인 로봇 조작을 달성하기 위해서는 데이터, 평가, 인지의 병목 현상을 극돌하고 오픈 월드 설정에서의 안전성을 확보해야 한다고 결론짓는다. 제안된 추상화는 더 적응적이고 신뢰할 수 있는 로봇 시스템을 설계하기 위한 미래 연구를 안내하는 구조화된 관점을 제공한다.