기술 요약: 컴팩트한 월드 모델에서의 공간 관계 접지(Grounding)

1. 문제 정의

본 논문은 체화된 제어(embodied control)를 위해 설계된 컴팩트한 목표 조건부(goal-conditioned) 월드 모델에서 발생하는 결정적인 실패 모드를 조사한다. JEPA(Joint-Embedding Predictive Architectures)를 기반으로 하는 이러한 모델들은 전역 잠재 상태(global latent state)와 명시적인 메트릭 참조 앵커(metric reference anchors)의 조합을 사용하여 공간 관계(예: "빨간 블록을 파란 블록의 왼쪽에 두어라")를 표현하는 것을 목표로 한다.

식별된 핵심 문제는 **지시문 누출(Instruction Leakage)**이다. 저자들은 월드 모델의 전이 역학(transition dynamics)이 평가되는 관계를 명시적으로 언급하는 언어 목표(예: "X를 Y의 왼쪽에 이동하라"라는 지시문에는 "왼쪽"이라는 단어가 포함됨)에 조건화될 때, 모델이 장면으로부터 공간 관계를 인지하는 법을 배우는 것이 아니라, 지시문을 예측된 앵커 좌표로 직접 **전사(transcribe)**하는 법을 배운다는 것을 입증한다.

이는 기만적인 환상을 만들어낸다:

• 높은 판독 정확도(High Readout Accuracy): 모델은 관계 판독에서 높은 정확도(예: 0.90)를 달enc한다.
• 취약성(Fragility): 이 정확도는 목표가 제공되지 않을 때 우연 수준(예: 0.27)으로 붕괴된다.
• 역사실적 실패(Counterfactual Failure): 실제 장면이 "왼쪽"을 나타내고 있음에도 불구하고 반사실적 지시(예: "X를 오른쪽에 이동하라")가 주어지면, 모델의 예측 앵커는 실제 장면을 무시하고 거짓 지시를 94.5%의 확률로 따른다.

저자들은 이러한 누출이 예측기가 지시문을 지름길(shortcut)로 이용할 수 있기 때문에 발생하며, 이로 인해 관계 판독이라는 특정 작업에 대해 지시문 이외의 입력(상태, 행동)을 무의미하게 만들기 때문이라고 주장한다.

2. 방법론

실험 설정

저자들은 통제된 2D 관계형 테이블탑 환경(CLEVR에서 영감을 받음)을 활용한다:

• 장면(Scenes): $N=4$개의 색상 도형을 포함한다.
• 작업(Task): 대상 물체를 앵커 물체에 상대적으로 이동시킨다 (관계: 왼쪽, 오른쪽, 위, 아래).
• 모호성(Ambiguity): 참조적 모호성을 테스트하기 위해 중복된 방해 요소의 수($a \in \{0, \dots, 4\}$)를 조절할 수 있다.
• 모델 아키텍처 (PrismWM): 상태를 다음과 같이 분리하는 JEPA 기반 모델이다:
  • 전역 잠재 변수 $z$ (ViT-tiny로 인코딩됨).
  • 희소 메트릭 포인트 앵커 $p$ (패치 특징에서 읽어옴).
  • 목표 임베딩 $g$.
  • $(z, p)$를 순방향으로 롤링(roll)하는 행동 조건부 트랜스포머 예측기.

탐지 프로토콜

저자들은 실제 지각과 지시문 전사를 구분하기 위해 훈련 렌더링 분포에 두 가지 특정 제어를 적용한다:

1. 목표 제외 제어(Goal-Withheld Control): 판독 단계에서 목표 토큰을 제로(zero) 처리한다. 진정한 지각 모델이라면 정확도를 유지해야 하지만, 전사 모델은 우연 수준으로 붕과될 것이다.
2. 역사실적 제어(Counterfactual Control): 실제 장면과 다른 관계를 명명하는 지시문을 모델에 입력한다. 진정한 모델은 장면을 따르지만, 전사 모델은 거짓 지시를 따른다.

모델 변형 (Model Variants)

저자들은 원인을 격리하기 위해 여러 변형 모델을 훈련하고 비교한다:

• GoalDyn: 목표가 역학(dynamics)에 입력됨.
• GoalDyn+Read: 역학에 목표가 포함되며, 관찰된 앵커에 대한 지도 학습 경로(supervised read path)가 추가됨.
• GoalFree (해결책): 목표가 역학에서 제거되며(예측기는 목표를 보지 못함), 플래너의 비용 함수에서만 사용된다. 판독 경로는 지도 학습된다.
• NoGoal: 목표 조건화가 없는 베이스라인.
• 외부 벤치마크: 이 현상은 BabyAI (MiniGrid) 및 Language-Table (Google)에서 지시문이 관계를 명명하는지 아니면 단순히 참조 대상만을 명명하는지에 따라 검증된다.

3. 주요 기여

1. 지시문 누출의 특성화: 본 논문은 누출이 **전사 가능성(transcribability)**에 의해 지배된다는 것을 확립한다. 누출은 지시문이 점수화된 양(관계)을 명명할 때 발생하며, 이는 지시문 이외의 입력(상라/행동)의 예측 강도와는 본질적으로 독립적이다. 이는 세 가지 설정(Tabletop, BabyAI, Language-Table)과 행동 제거 용량-반응(action-ablation dose-response)을 통해 검증되었다.
2. 검증된 탐지 프로토콜: 저자들은 지각과 전사를 명확히 구분하는 엄격한 테스트 프로토콜(목표 제외 및 역사실적 프로브)을 제안한다. 그들은 목표 조건부 모델의 높은 정확도가 "순수 전사"의 결과물임을 보여준다.
3. 아키텍처적 해결책 (Goal-Free Dynamics): 저자들은 해결책을 제시하고 검증한다: 역학에서 목표를 제거하라. 예측기가 장면으로부터만 관계를 추론하도록 강제하고(목표를 보지 않고), 앵커 판독 경로를 지도 학습함으로써 모델은 지시문 독립적인 진정한 접지를 달성한다.
4. 제어 분석: 연구는 목표 조건화가 제어 성능을 능동적으로 저하시킨다는 것을 밝혀낸다. 목표를 역학에서 제거하면 제어 성능이 가장 단순한 "NoGoal" 베이스라인 수준으로 회복되며, 이는 목표가 성능 저하의 원인이었음을 확인시켜 준다.

4. 결과

표현 및 접지 (Representation and Grounding)

• 누출: 표준 목표 조건부 모델(GoalDyn)은 목표가 있을 때 약 0.90의 예측 앵커 정확도를 달성하지만, 목표가 제외되면 약 0.27(우연)로 떨어집니다. 역사실적 지시 하에서, 이 모델은 94.5%의 확률로 거짓 지시를 따릅니다.
• 진정한 접지: GoalFree 모델(역학에서 목표가 제거됨)은 목표 존재 여부와 관계없이 동일한 높은 정확도(~0.88)를 달성합니다. 이는 앵커가 지시문 전사가 아닌 지각에 기반하여 관계를 인코딩함을 증명합니다.
• 모호성 경계: 진정한 접지는 낮은 및 중간 정도의 모호성에서는 존재하지만, 최대 모호성($a=4$)에서는 우연 수준으로 붕괴됩니다. 이는 학습된 접지가 일반적인 관계 지각자가 아니라 훈련 분포의 단서에 좁게 튜닝되어 있음을 나타냅니다.
• 외부 검증:
  • BabyAI: 관계를 명명하는 지시문은 누출을 유발한다 (역사실적 점수 1.00).
  • Language-Table: 참조 대상만을 명명하는 지시문은 누출을 보이지 않는다. 이 지시문에 방향을 명명하는 내용을 추가하면 누출이 유발된다.

제어 성능 (Control Performance)

• 단조적 저하: 목표가 역학에 미치는 영향력이 커질수록 제어 성공률은 단조 감소한다:
  • NoGoal / GoalFree: ~0.30
  • GoalDyn (예측기에 목표 포함): ~0.14
  • GoalDyn (롤아웃에 목표 포함): ~0.03 (무작위 하한선)
• 해결책의 성과: GoalFree 모델은 제어 성능에서 "NoGoal" 베이스라인과 대등한 수준을 보인다. 논문은 이 모델이 베이스라인보다 제어 성능을 향상시킨다고 주장하는 것이 아니라, **진정한 지각(grounded perception)**을 회복하고 목표 조건화로 인한 능동적인 해악을 제거했다는 점에 가치를 둔다.
• 잔여 격차: 모든 변형 모델은 오라클(Oracle, 실제 역학)보다 성능이 현저히 낮으며, 저자들은 이를 표현이나 접지 메커니즘보다는 역학 충실도(dynamics fidelity)(다단계 롤아웃 드리프트)의 문제로 돌린다.

5. 의의 및 주장

본 논문의 의의는 지시문이 스코어링되는 양을 명명할 때, 지시문이 시각적 지각을 우회하는 허위 신호(spurious signal)로서 작용하는 목표 조건부 월드 모델의 미묘하지만 만연한 "지름길"을 식별했다는 데 있다.

• 방법론적 교훈: 목표 조건부 모델에서 높은 관계 판독 정확도는 지시문이 관계를 명명하는 경우 접지의 증거가 될 수 없다. 반드시 목표 제외 및 역사실적 제어를 통해 검증되어야 한다.
• 아키텍처적 교훈: 목표는 플래너의 비용 함수에 속해야 하며, 전이 역학에 속해서는 안 된다. 역학을 언어에 조건화하는 것은 모델이 장면을 예측하는 대신 정답을 복사하게 만드는 경로를 만든다.
• 범위: 저자들은 자신들의 주장에 대해 겸허한 태도를 취한다. 3D 접지나 실제 로보틱스를 해결했다고 주장하지 않는다. 대신, 지시문이 관계를 명명하는 작업에 대해 현재의 "레시피(역학을 언어에 조건화하는 것)"가 안전하지 않음을 입증한다. 해결책(Goal-Free 역학)은 진정한 지각을 회복하지만, 이것이 근본적으로 가장 단순한 베이스라인 이상의 제어 성능 향상을 보장하는 것은 아니다. 남은 병목 현상은 학습된 역학의 충실도이다.

결론적으로, 이 논문은 예측기를 언어에 조건화하는 설계가 지시문이 평가되는 양을 명명할 때 이러한 누출을 유발한다는 구조적 문제를 다루며, 제안된 탐지 및 해결책이 그러한 모든 목표 조건부 월드 모델에 적용 가능함을 보여준다.