💻 computer science

Latent Cluster Analysis for Vision-Language-Action Models

이 논문은 GR00T N1.5 시각-언어-행동 모델에 대해 잠재 클러스터 분석을 수행하기 위해 교차 주의 기반 임베딩 가중치 방식을 사용하는 프레임워크인 LAVLA를 소개하며, 이를 통해 내부 표현이 언어 주도 로봇 시스템의 해석 가능성을 높이기 위해 시공간적 및 운동학적 특징을 어떻게 점진적으로 분리하는지 밝혀낸다.

원저자: Theodor Wulff, Sergio Lanza, Tamara Bila, Angelo Cangelosi, Stefan Wermter, Igor Farkas

게시일 2026-09-03

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Theodor Wulff, Sergio Lanza, Tamara Bila, Angelo Cangelosi, Stefan Wermter, Igor Farkas

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

로봇은 단순히 보는 것뿐만 아니라, 지시를 듣고 자신의 몸을 움직여 행동함으로써 세상을 이해하는 법을 배우고 있습니다. 시각-언어-행동(Vision-Language-Action) 모델로 알려진 이 새로운 세대의 인공지능은 카메라가 보는 것과 인간이 말하는 것을 결래하여 로봇 팔이 어떻게 도달하고, 움켜쥐고, 들어 올려야 하는지를 결정합니다. 이러한 시스템이 우리의 가정과 일터에서 안전하고 유용하게 사용되려면, 우리가 그들이 올바른 선택을 하고 있다고 신뢰할 수 있어야 합니다. 그러나 이 복잡한 시스템의 내부 논리는 종종 미스터리, 즉 데이터가 입력되고 명령이 출력되는 과정 사이에서 사고 과정이 명확히 보이지 않는 '블랙박스'로 남아 있습니다. 로봇이 이상하게 행동할 경우, 우리는 현재 왜 그런 행동을 했는지 이해할 수 있는 도구가 부족하며, 이는 실수가 심각한 결과를 초래할 수 있는 실제 상황에 로봇을 배치하는 데 있어 큰 장애물이 됩니다.

이 블랙박스에 빛을 비추기 위해 영국, 독일, 슬로바키아의 대학 연구진은 LAVLA라고 불리는 새로운 방법을 개발했습니다. 그들은 시각 및 언어 정보를 물리적 움직임으로 전환하도록 설계된 최첨단 로봇 두뇌인 GR00T N1.5에 초점을 맞추어 연구를 진행했습니다. 연구진은 이 모델이 행동을 계획할 때 어떻게 생각을 조직하는지 알아보고자 했습니다. 최종 결과물을 보는 대신, 그들은 로봇의 '생각'이 데이터 패턴으로서 존재하는 컴퓨터 프로그램의 은닉층(hidden layers)을 조사했습니다. 그들은 이 패턴들을 마치 사람들의 군중처럼 취급하여 유사성에 따라 그룹화하는 '클러스터링(clustering)'이라는 과정을 거쳤습니다. 이를 통해 로봇이 "컵을 집는 것"과 "문을 미는 것"처럼 유사한 상황을 함께 묶고 있는지, 아니면 혼란을 겪고 있는지를 확인할 수 있었습니다.

연구진은 모델의 내부 조직이 작업을 수행하는 과정에서 변화한다는 사실을 발견했습니다. 로봇이 움직임을 계획하기 시작할 때, 내부 데이터는 문장의 초안처럼 무질서하고 노이즈가 가득합니다. 하지만 계획 과정이 계속됨에 따라 데이터는 더욱 명확하고 구조적으로 변합니다. 연구진은 모델이 결정을 내리는 데 가까워질수록 서로 다른 유형의 정보를 자연스럽게 분리한다는 것을 발견했습니다. 모델은 사물이 공간의 어디에 있는지, 동작이 얼마나 걸리는지, 그리고 로봇의 관절이 어떻게 움직여야 하는지를 구분하기 시작합니다. 이러한 분리는 단계적으로 일어나며, 모델은 특정 계획에 안착할 때까지 층(layer)별로 이해를 정교화합니다.

그들의 발견 중 핵심적인 부분은 로봇의 지시 사항 중 가장 중요한 부분을 강조하는 기술을 포함했습니다. 모델은 비디오 프레임과 텍라 명령을 모두 받지만, 모든 단어나 이미지가 모든 움직임에 똑같이 중요한 것은 아닙니다. 연구진은 가장 관련 있는 단어와 시각적 세부 사항의 신호는 증폭시키고, 덜 유용한 것들은 줄이는 방법을 만들었습니다. 이 가중치 부여 방법을 적용했을 때, 유사한 생각들의 그룹은 훨씬 더 명확하고 뚜렷해졌습니다. 이 도움 없이는 로봇의 내부 데이터가 분석하기에 너무 흩어져 있었습니다. 이 방법을 통해 연구진은 모델이 당면한 과제를 해결하기 위해 적절한 특징들에 성공적으로 집중하고 있음을 확인할 수 있었습니다.

또한 이번 연구는 로봇의 시간과 공간에 대한 이해가 깊게 연결되어 있음을 보여주었습니다. 연구진이 식별한 데이터 그룹은 모델이 특정 시퀀스의 특정 순간을 추적하며, 특정 행동이 특정 시간에 일어난다는 것을 이해하고 있음을 보여주었습니다. 나아가 모델은 신체 부위별 움직임을 분리하는 법을 배웠습니다. 모델은 왼팔, 오른팔, 허리의 움직임을 각각 별개이면서도 하나의 과제를 수행하기 위해 조율된 요소로 구분할 수 있었습니다. 이는 모델이 단순히 하나의 경로를 암기하는 것이 아니라, 환경 속에서 자신의 몸이 어떻게 움직이는지에 대한 유연한 이해를 구축하고 있음을 시사합니다.

이러한 발견을 인간이 활용할 수 있도록 하기 위해, 연구진은 보이지 않는 데이터 그룹을 평이한 언어로 번역하는 방법을 개발했습니다. 그들은 각 그룹에서 가장 전형적인 사례들을 추출하여 별도의 강력한 언어 모델에게 그것들이 무엇을 공통적으로 가지고 있는지 설명하도록 요청했습니다. 이를 통해 "과일을 집기" 또는 "물체를 잡기"와 같이 인간이 읽을 수 있는 레이블을 로봇의 내부 클러스터에 부여할 수 있었습니다. 비록 그 설명들이 때로는 포괄적이긴 했지만, 이 과정은 로봇의 숨겨진 수학적 계산을 인간이 이해할 수 있는 개념과 연결하는 것이 가능하다는 것을 입증했습니다. 기계의 내부 상태와 인간의 언어 사이의 이러한 가교는 로봇 시스템을 투명하고 신뢰할 수 있게 만드는 데 있어 중요한 단계입니다.

연구진은 자신들의 발견이 특정 모델과 제한된 훈련 데이터에 기반하고 있으므로, 다른 시스템이나 더 긴 작업에서는 결과가 다르게 나타날 수 있다는 점을 주의 깊게 언급했습니다. 또한 그들의 방법론이 완벽하게 구형(spherical)이 아닌 형태의 데이터를 그룹화하는 것에 의존하고 있으며, 이는 그룹화의 정밀도에 영향을 미칠 수 있는 수학적 한계라는 점도 인정했습니다. 이러한 제약에도 불구하고, 이 연구는 로봇이 처음부터 끝까지 정보를 처리하는 방식에 대한 구체적인 지도를 제공합니다. 모델이 논리적이고 점진적인 방식으로 생각을 조직한다는 것을 보여줌으로써, 이 연구는 로봇이 실제 물체를 움직이기 전에 올바르게 생각하고 있는지 검증할 수 있는 새로운 방법을 제시합니다. 이러한 명확성은 우리 곁에서 안전하게 일할 수 있는 차세대 로봇을 구축하는 데 필수적입니다.

기술 요약: LAVLA – 시각-언어-행동 모델을 위한 잠재 클러스터 분석 (Latent Cluster Analysis for Vision-Language-Action Models)

문제 정의

시각-언어-행동(Vision-Language-Action, VLA) 모델은 다양한 환경과 구현체(embodiment)에 걸친 대규모 학습을 통해 언어와 지각을 물리적 행동으로 접지(grounding)할 수 있는 강력한 로봇 공학 도구로 부상했습니다. 그러나 성능이 향상되고 있음에도 불구하고, 행동을 구동하는 내부 표현(internal representations)은 여전히 제대로 이해되지 않고 있습니다. 이러한 해석 가능성의 결여는 로봇 공학에서 중요한 장벽이 됩니다. 왜냐나 미검증된 행동이 분포 외(out-of-distribution) 시나리오에서 치명적인 결과를 초래할 수 있기 때문입니다. 기존의 해석 가능성 연구는 주로 언어 모델이나 특정 활성화 방향(activation directions)에 집중해 왔으며, 특히 확산 기반 아키텍처(diffusion-based architectures) 내에서의 행동 디코딩 과정을 간과하는 경우가 많습니다.

방법론: LAVLA 프레임워크

저자들은 VLA 모델의 잠재 공간(latent space), 특히 행동 디코더(action decoder)를 분석하기 위해 설계된 프레임워크인 LAVLA(Latent Cluster Analysis for Vision-Language-Action Models)를 제안합니다. 이 방법론은 세 가지 주요 단계로 구성됩니다:

임베딩 수집 (Embedding Collection):
프레임워크는 최첨단 VLA 모델인 NVIDIA의 GR00T N1.5의 순전파(forward pass) 과정 중에 임베딩을 수집합니다. 데이터는 두 가지 핵심 소스에서 수집됩니다:
- 시각-언어 모델(VLM) 백본(Eagle VLM)의 마지막 레이어.
- 확산 트랜스포머(Diffusion Transformer, DiT) 행동 디코더의 모든 중간 크로스 어텐션(cross-attention) 레이어.
- 수집 과정은 확산의 반복적인 특성을 고려하여, 4개의 디노이징 타임스텝(denoising timesteps)에 걸쳐 임베딩을 포착합니다.
크로스 어텐션 기반 임베딩 가중치 부여 (Cross-Attention-Based Embedding-Weighting):
초기 확산 단계의 노이즈가 많은 잠재 공간 문제를 해결하기 위해, 저자들은 새로운 가중치 모듈을 도입합니다. 이 모듈은 각 시각-언어 소스 토큰에 할당된 집중도를 측정하기 위해 크로스 어텐션 레이어로부터 어텐션 가중치 행렬( $\alpha$ )을 추출합니다.
- 가중치는 타겟 토큰들에 대해 평균화되고 소프트맥스(softmax)를 통해 정규화되어 임팩트 점수 벡터를 생성합니다.
- 이 벡터는 하다마르드 곱(Hadamard product)을 통해 시각-언어 토큰에 적용되어, 행동 디코더가 우선시하는 특징은 증폭시키고 덜 유익한 특징은 억제합니다.
- 이 과정은 초기 확산 단계의 노이즈로 인한 방해를 줄이고 의미 있는 특징을 강조하는 것을 목표로 합니다.
클러스터링 및 개념 생성 (Clustering and Concept Generation):
- 클러스터링: 수집된 (선택적으로 가중치가 부여된) 임베딩은 병합 계층적 클러스터링(agglomerative hierarchical clustering)을 사용하여 레이어별로 클러스터링됩니다. 저자들은 실루엣 계수(Silhouette Coefficient), 칼린스키-하라바츠(Caliński-Harabasz, CH) 지수, 데이비스-볼딘(Davies-Bouldin, DB) 지수를 사용하여 클러스터 품질을 평가합니다.
- 개념 추출: 생성된 각 클러스터에 대해, 중심점(centroid)에서 가장 가까운 상위 $n$ 개의 샘플을 선택합니다. 외부 VLM(LLaVA-72B)이 이 샘플들을 요약하는 인간이 해석 가능한 개념 레이블을 생성하도록 프롬프트를 제공합니다.
- 평가: 생성된 개념은 클러스터 샘플의 비디오 프레임에 대해 CLIPSIM(CLIP 유사도)을 사용하여 평가됩니다.

주요 기여

본 논문은 네 가지 주요 기여를 설명합니다:

LAVLA 프레임워크: GR00T N1.5 모델에서 입증된, VLA의 임베딩을 분석하기 위한 새로운 클러스터 기반 프레임워크입니다.
임베딩 가중치 부여 모듈: 행동 디코더가 우선시하는 토큰의 영향력을 증폭시키도록 설계된 크로스 어텐션 기반 메커즘입니다. 이 모듈은 가중치를 적용하지 않은 베이스라인과 비교했을 때, 실루엣 점수에서 62.1%의 증가와 데이비스-볼딘 지수에서 8%의 개선을 보여주며 비지도 클러스터링 벤치마크 성능을 일관되게 향상시켰습니다.
개념 추출 파이프라인: 상위 인접 샘플로부터 도출되고 외부 VLM에 의해 레이블링된 클러스터에 인간이 해석 가능한 개념을 할당하는 방법이며, 이는 CLIP을 통해 평가됩니다.
잠재 공간 분석: 크로스 어텐션 레이어가 확산 타임스텝 전반에 걸쳐 VLM 백본의 특정 토큰에 지속적으로 집중한다는 것을 밝혀낸 조사입니다. 분석 결과, 잠재 클러스터가 시공간적 및 운동학적(kinematic) 특징을 점진적으로 분리(disentangle)하며, 표현이 중간 레이어에서 더 정교해지고 출력부로 갈수록 안정화됨을 보여줍니다.

실험 결과

저자들은 Open-X-Embodiment 데이터셋의 일부(24개 태스크, 태스크당 1,000개 임베딩)를 사용하여 GR00T N1.5 모델에 대한 실험을 수행했습니다.

클러스터링 성능: 임베딩 가중치 부여 메커니즘은 특히 임베딩 축소가 이루어지지 않은 시나리오에서 클러스터링 품질을 크게 향상시켰습니다. 가중치 부여와 PCA를 결합했을 때 가장 높은 실루엣 점수(0.1642)와 가장 관리 가능한 수준의 클러스터 수(약 7개)를 얻었습니다.
시간적 및 공간적 분리 (Temporal and Spatial Disentanglemet):
- 시간적(Temporal): 클러스터는 VLM 백본보다 행동 확산 헤드(action diffusion head)에서 더 높은 시간적 분리도를 보였으며, 이는 모델이 특정 간격에 따라 상태를 구별함을 시사합니다.
- 운동학적(Kinematic): 클러스터는 신체 부위 사용에서 뚜렷한 분리를 보였습니다. 특징 분포 간의 와서스타인 거리(Wasserstein distance)는 후기 레이어에서 팔 관절(좌우) 및 허리 변위에 대해 약 20%의 클러스터 내 거리 증가를 나타냈으며, 이는 모델이 특정 운동학적 특징에 따라 표현을 조직함을 시사합니다.
클러스터 일관성: 클러스터 할당은 동일한 레이어 내에서, 특히 임베딩의 노이즈가 적은 확산 프로세스의 후기 단계에서 안정적으로 유지되었습니다.
개념 생성: PCA 기반 및 가중치 적용 방식 모두 더 충실한 개념(높은 CLIPSIM 점수)을 생성했으나, 저자들은 짧은 클립의 지속 시간과 조작 데이터셋의 낮은 시각적 다양성이 달성 가능한 성능의 상한선을 설정했을 것이라고 언급했습니다. 생성된 개념은 "과일을 집는 것"과 같이 조작 동작과 관련된 의미론적으로 가까운 내용이었습니다.

의의 및 주장

본 논문은 LAVLA가 백본의 특징 추출과 행동 디코더의 반복적인 디노이징 과정 사이의 연결을 규명함으로써 언어 주도 로봇 시스템의 해석 가능성을 진전시킨다고 주장합니다.

신뢰 및 안전: VLA 잠재 공간을 더 투명하게 만듦으로써, 프레임워크는 추론 실패를 식출하고 사용자 신뢰를 높이는 데 기로하며, 이는 로봇이 실세계에서 미검증된 행동으로 인해 발생할 수 있는 재앙적인 상황을 방지하는 데 필수적입니다.
메커니즘 통찰: 분석은 크로스 어텐션 메커니즘이 시각-언어 문맥을 행동 확산 과정에 효과적으로 통합하며, 서로 다른 레이어가 서로 다른 특징(예: 색상 vs 객체 중심 특징)을 전문화한다는 것을 보여줍니다.
미래 활용성: 저자들은 임베딩 가중치 부여 메커니즘이 다른 해석 가능성 프레임워크(예: 희소 오토인코더, Sparse Autoencoders)에 긍정적인 영향을 미칠 수 있다고 보고 있으며, 향후 연구에 이를 포함할 것을 제안합니다.

저자들은 현재 결과가 단일 데이터셋과 모델에 국한되어 있고, 정답(ground-truth) 주석 없이 개념 생성이 어렵다는 점을 인정하며 겸허한 태도를 유지했습니다. 또한, 분석이 VLA의 짧은 입력 호라이즌(input horizon)에 의해 제한되어 있어, 장기적 행동(long-horizon behaviors)에 대한 통찰을 제한할 수 있음을 명시했습니다.