🤖 AI

DIAL: Decoupling Intent and Action via Latent World Modeling for End-to-End VLA

이 논문은 고수준 의사결정과 저수준 동작 실행을 잠재적 의도 병목 구조를 통해 해리하고, VLM 기반의 잠재 세계 모델링과 2 단계 학습 전략을 통해 기존 VLA 모델의 한계를 극복하고 적은 데이터로도 뛰어난 성능과 일반화 능력을 달성한 DIAL 프레임워크를 제안합니다.

원저자: Yi Chen, Yuying Ge, Hui Zhou, Mingyu Ding, Yixiao Ge, Xihui Liu

게시일 2026-04-01

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Yi Chen, Yuying Ge, Hui Zhou, Mingyu Ding, Yixiao Ge, Xihui Liu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🤖 DIAL: 로봇의 '두뇌'와 '손발'을 완벽하게 연결하다

1. 기존 방식의 문제점: "지시만 듣고 바로 행동하는 로봇"

기존의 로봇 (VLA) 은 인간의 말을 듣고 바로 손발을 움직이도록 훈련되었습니다. 하지만 이는 마치 초보 운전자가 복잡한 도로 지도 (고차원 지식) 를 보지 않고, 오직 앞차의 움직임 (저수준 행동) 만 보고 운전하는 것과 같습니다.

문제: 로봇은 "왜" 그렇게 움직여야 하는지 깊이 생각하지 못해, 엉뚱한 행동을 하거나 새로운 상황 (예: 물체 모양이 조금 달라지면) 에는 완전히 당황해합니다.

2. DIAL 의 핵심 아이디어: "두뇌 (System-2)"와 "반사 신경 (System-1)"의 협업

DIAL 은 인간의 뇌 구조에서 영감을 받았습니다. 우리는 복잡한 일을 할 때 두 가지 시스템을 사용합니다.

System-2 (두뇌/비전 언어 모델): "병에 있는 물을 컵에 부어라"라는 지시를 듣고, 미래의 모습을 상상합니다. (예: "물이 컵에 차오르는 모습", "병이 기울어지는 모습")
System-1 (반사 신경/로봇 제어): 상상한 미래 모습을 보고, "지금 손이 어디에 있어야 그 미래를 만들 수 있을까?"를 계산해 손발을 움직입니다.

🌟 핵심 비유: "미래의 사진을 보고 현재를 조정하는 나침반"
DIAL 은 로봇에게 **미래의 '잠재적 이미지 (Latent Foresight)'**를 먼저 그리게 합니다.

로봇은 "물건을 집어라"라는 말만 듣고 바로 손을 뻗는 게 아니라, **"물건이 잡힌 미래의 모습"**을 먼저 머릿속 (데이터 공간) 에 그립니다.
그리고 현재 상황과 그 미래 모습 사이의 차이를 계산해서, "이만큼 움직여야 저 미래에 도달할 수 있구나!"라고 계산해냅니다.

3. 왜 이것이 획기적인가요? (3 가지 장점)

① "잠재적 의도 (Intent)"라는 강력한 연결고리
기존 방식은 두뇌와 손발이 따로 놀거나, 두뇌가 단순히 정보를 전달만 했습니다. 하지만 DIAL 은 **미래를 상상한 결과물 (잠재적 의도)**을 로봇이 반드시 따라야 하는 **'목표'**로 설정합니다.

비유: 건축가가 "이렇게 지어라"라고 말만 하는 게 아니라, 완성된 건물의 3D 모델을 먼저 보여주고, 시공팀이 그 모델을 보고 벽돌을 쌓는 것과 같습니다. 실수가 거의 없습니다.

② "두 단계 훈련법": 먼저 생각하게 하고, 그다음 움직이게 하기
로봇을 가르칠 때 한 번에 다 가르치면 혼란이 옵니다. DIAL 은 두 단계로 나눕니다.

1 단계 (따뜻한 준비): 로봇의 '두뇌'는 다양한 영상 (사람이 물건을 다루는 모습) 을 보며 "미래가 어떻게 변할지" 상상하는 법을 배웁니다. 동시에 '손발'은 정확한 미래 모습이 주어졌을 때 어떻게 움직여야 하는지 연습합니다.
2 단계 (완벽한 협업): 이제 두뇌가 상상한 미래 모습을 손발이 직접 보고 움직입니다. 이때 두뇌와 손발이 서로의 오차를 수정하며 함께 성장합니다.
효과: 이 덕분에 기존 로봇보다 10 배 적은 데이터로도 똑똑한 로봇을 만들 수 있습니다. (100 번만 봐도 1,000 번 본 로봇보다 잘합니다!)

③ "실제 세상"에서도 잘 통합니다
이론상뿐만 아니라, 실제 휴머노이드 로봇 (IRON-R01) 에 적용해 보았습니다.

새로운 상황: 훈련할 때 보지 못했던 물체 (예: 다른 모양의 병) 나 배경이 복잡해도, "미래의 목표"를 상상하는 능력이 있기 때문에 당황하지 않고 임무를 수행합니다.
비유: 길을 가다가 갑자기 비가 오거나 길이 막혀도, "목적지"만 기억하고 있다면 우회로를 찾아갈 수 있는 것과 같습니다.

📝 한 줄 요약

DIAL은 로봇에게 "지금 당장 손발을 움직여라"라고 시키는 대신, **"미래에 어떻게 될지 먼저 상상해보고, 그 상상을 현실로 만들기 위해 움직여라"**라고 가르치는 기술입니다.

이 덕분에 로봇은 적은 경험으로도 복잡한 일을 배우고, 새로운 상황에서도 유연하게 대처할 수 있게 되었습니다. 마치 "미래를 내다보는 나침반"을 가진 로봇이 된 셈입니다.

논문 개요: DIAL (Decoupling Intent and Action via Latent World Modeling)

이 논문은 비전 - 언어 - 행동 (VLA) 모델의 한계를 극복하고, 고수준 의사결정과 저수준 모터 제어를 안정적으로 통합하는 새로운 프레임워크 DIAL을 제안합니다. DIAL 은 사전 훈련된 대규모 언어 - 비전 모델 (VLM) 의 추론 능력을 로봇의 정밀한 물리적 행동으로 연결하기 위해 **잠재 의도 (Latent Intent)**를 매개체로 사용하는 구조적 해법과 이원 시스템 (Dual-System) 아키텍처를 도입합니다.

1. 문제 정의 (Problem Statement)

기존의 엔드 - 투 - 엔드 VLA 모델들은 다음과 같은 구조적 딜레마에 직면해 있습니다:

VLM 의 역할 축소: 대부분의 접근법은 VLM 을 단순한 멀티모달 인코더로만 사용하여, 고수준의 추상적 의도를 저수준의 행동으로 직접 매핑합니다. 이로 인해 VLM 이 가진 풍부한 의미적 표현 (Semantic Representations) 이 저하되거나, 행동 패턴에 과적합 (Overfitting) 되는 현상이 발생합니다.
계층적 접근의 한계: 텍스트나 코드 기반의 계층적 계획 (Hierarchical Planners) 은 해석 가능하지만, 비가분성 (Non-differentiable) 벽으로 인해 지연이 발생하고 하위 행동의 그래디언트가 VLM 을 개선하는 데 활용되지 못합니다.
학습 불안정성: 엔드 - 투 - 엔드 학습 시 VLM 의 사전 훈련 지식을 유지하면서 물리적 동역학을 학습하는 것은 어렵습니다. 보조 세계 모델링 (World Modeling) 과목이 있더라도, 의도와 행동 간의 **강제적인 구조적 연결 (Structural Bottleneck)**이 부재하여 모델이 물리적 이해 없이 표면적인 상관관계만 학습하는 '숏컷 러닝 (Shortcut Learning)'이 발생할 수 있습니다.

2. 방법론 (Methodology)

DIAL 은 인지 심리학의 **시스템 2 (의도적 추론)**와 시스템 1 (반사적 운동 제어) 개념을 차용하여 두 개의 하위 시스템으로 구성됩니다.

2.1 아키텍처: 이원 시스템 (Dual-System Architecture)

시스템 2 (System-2, "Brain"): 사전 훈련된 VLM 을 기반으로 합니다.
- 역할: 고수준의 추론을 수행하고 **잠재 세계 모델링 (Latent World Modeling)**을 통해 미래의 시각적 예지 (Latent Visual Foresight) 를 생성합니다.
- 작동: 현재 관찰 ( $o_t$ ) 과 언어 지시 ( $l_t$ ) 를 입력받아, $H$ 단계 후의 미래 상태 ( $o_{t+H}$ ) 에 해당하는 **잠재 의도 ( $x_t$ )**를 VLM 의 고유한 비전 트랜스포머 (ViT) 특징 공간 내에서 생성합니다. 이는 픽셀 생성이 아닌, 구조화된 잠재 공간에서의 예측입니다.
시스템 1 (System-1, "Cerebellum"): 경량화된 흐름 매칭 (Flow-matching) 기반 정책입니다.
- 역할: 시스템 2 가 예측한 잠재 의도 ( $x_t$ ) 와 현재 관찰 ( $o_t$ ) 을 비교하여 정밀한 모터 명령을 생성합니다.
- 작동: 잠재 역동역학 (Latent Inverse Dynamics) 모델로 작동합니다. 현재 상태와 목표 상태 (예측된 미래) 간의 차이를 해결하는 최적 수송 (Optimal Transport) 문제로 행동 생성을 정의하며, 고주파수 행동 토큰을 생성합니다.

2.2 핵심 설계 요소: 차분 가능한 잠재 병목 (Differentiable Latent Bottleneck)

시스템 2 가 생성한 잠재 의도 $x_t$ 는 시스템 1 로 가는 강제적인 병목 (Structural Bottleneck) 역할을 합니다.
시스템 1 은 $x_t$ 를 우회할 수 없으며, 반드시 현재 관찰과 예측된 미래 간의 불일치를 해결해야 행동을 생성할 수 있습니다. 이는 VLM 의 의도가 행동에 엄격하게 기반 (Grounding) 되게 하여, 모델이 물리적 인과관계를 학습하도록 강제합니다.

2.3 학습 전략: 분해된 워밍업에서 엔드 - 투 - 엔드까지

학습의 안정성을 위해 2 단계 학습 파이프라인을 사용합니다:

Stage 1: Decoupled Warmup (분리된 워밍업)
- 시스템 2: 실제 미래 관찰 ( $o_{t+H}$ ) 의 특징과 일치하도록 잠재 의도 ( $x_t$ ) 를 예측하는 세계 모델링 손실 ( $L_{world}$ ) 로만 학습합니다. (행동 데이터 없이도 물리적 동역학 학습 가능)
- 시스템 1: 실제 미래 관찰의 특징 (Ground-truth) 을 입력받아 최적의 센서 - 운동 제어 (Sensorimotor Control) 를 학습합니다.
- 목적: 두 시스템이 각각 안정적인 초기화를 수행하여 그래디언트 간섭과 표현 붕괴를 방지합니다.
Stage 2: End-to-End Training (엔드 - 투 - 엔드 최적화)
- 시스템 2 가 생성한 예측된 잠재 의도 ( $x_t$ ) 를 시스템 1 의 입력으로 사용합니다.
- 행동 생성의 그래디언스가 $x_t$ 를 통해 시스템 2 (VLM) 로 역전파됩니다. 이를 통해 VLM 의 사전 훈련 지식을 유지하면서, 행동에 민감한 (Action-aware) 표현으로 미세 조정됩니다.

3. 주요 기여 (Key Contributions)

새로운 VLA 아키텍처 (DIAL): VLM 의 고수준 추론과 저수준 실행 정밀도를 구조적으로 연결하는 엔드 - 투 - 엔드 프레임워크를 제안했습니다. 잠재 시각적 예시를 차분 가능한 병목으로 사용하여 행동이 VLM 의 의도에 엄격히 기반되도록 합니다.
분리 - 통합 학습 패러다임: VLM 이 물리적 동역학을 학습하고 정책이 센서 - 운동 제어를 학습하도록 하는 '분리된 워밍업' 전략을 도입하여, 엔드 - 투 - 엔드 학습의 안정성을 확보하고 표현 붕괴를 방지했습니다.
최고 수준의 성능 및 확장성:
- RoboCasa GR1 Tabletop 벤치마크에서 기존 최첨단 방법론보다 10 배 적은 데이터로 SOTA 성능을 달성했습니다.
- 이질적인 인간 데이터 (EgoDex) 를 활용하여 물리적 조작에 대한 사전 지식을 학습시켰으며, 실제 휴머노이드 로봇 (IRON-R01-1.11) 에서 제로샷 (Zero-shot) 일반화 능력을 입증했습니다.

4. 실험 결과 (Results)

성능 (RoboCasa Simulation):
- 전체 성공률: DIAL 은 평균 **70.2%**의 성공률을 기록하여, 기존 최강 베이스라인인 FLARE(55.0%) 보다 크게 우위를 점했습니다.
- 데이터 효율성: 각 태스크당 1,000 개의 시연 데이터 (Full Data) 를 사용하는 FLARE 보다, **100 개의 시연 데이터 (Few-shot, 10% 사용)**만으로도 더 높은 성능 (58.3% vs 55.0%) 을 달성했습니다.
일반화 능력 (Generalization):
- OOD (Out-of-Distribution): 보이지 않는 객체, 새로운 조합, 새로운 외관 (Unseen Appearance/Combinations/Objects) 에 대한 테스트에서 인간 데이터를 활용한 DIAL 이 기존 방법론보다 월등히 높은 일반화 성능을 보였습니다.
- 실제 로봇 배포: IRON-R01-1.11 휴머노이드 로봇에서 '컵케이크를 팬에 넣기', '병에서 컵에 따르기' 등의 복잡한 작업을 성공적으로 수행하며, 방해물 (Distractor) 이 있는 환경에서도 목표 객체를 정확히 식별하고 조작했습니다.
해석 가능성 (Interpretability):
- PCA 시각화를 통해 시스템 2 가 생성한 '잠재 예지 (Predicted Foresight)'가 실제 미래 상태와 의미적으로 정렬되어 있으며, 현재 상태와 물리적으로 변화가 예상되는 영역에서 명확한 차이를 보임을 확인했습니다. 이는 모델이 단순한 재구성이 아닌, 의미 있는 상태 전이를 예측하고 있음을 증명합니다.

5. 의의 및 결론 (Significance)

DIAL 은 로봇 학습 분야에서 인지 (Reasoning) 와 실행 (Execution) 의 간극을 효과적으로 해소하는 새로운 패러다임을 제시합니다.

구조적 안정성: VLM 을 단순한 인코더가 아닌, 미래 상태를 예측하는 '예측기 (Predictor)'로 재정의함으로써, 행동 생성이 VLM 의 추론 의도에 의해 엄격하게 통제되도록 했습니다.
확장성: 인간 데이터와 로봇 데이터를 효율적으로 융합하여, 소량의 로봇 데이터로도 대규모 인간 시연 데이터의 지식을 활용할 수 있게 했습니다.
미래 방향: 잠재 세계 모델링을 VLM 의 사전 훈련 단계에 통합함으로써, 행동 레이블이 없는 방대한 자연계 비디오 데이터만으로 물리적 직관을 학습할 수 있는 가능성을 열었습니다.

결론적으로 DIAL 은 데이터 효율성, 일반화 능력, 그리고 실제 물리적 실행의 안정성을 모두 갖춘 차세대 범용 로봇 에이전트 (Generalist Embodied Agent) 의 핵심 기술로 평가받습니다.