Out of Sight, Out of Mind? Evaluating State Evolution in Video World Models

이 논문은 카메라 시선, 가림막, 조명 제어 등을 통해 관찰 여부와 관계없이 상태가 진화하는지 평가하는 벤치마크 'STEVO-Bench'를 제안하여, 현재 비디오 월드 모델이 관찰과 상태 변화를 분리하는 데 한계가 있음을 규명합니다.

핵심

"보이지 않으면 생각도 안 나?" 비디오 세계 모델의 숨겨진 약점 찾기

이 논문은 최근 화제가 되는 **'비디오 세계 모델 (Video World Models)'**이라는 인공지능의 진짜 실력을 시험하는 흥미로운 실험을 소개합니다.

간단히 말해, **"인공지능이 화면에서 사라진 물체의 상태 변화도 제대로 기억하고 예측할 수 있을까?"**를 묻는 연구입니다.

---

1. 핵심 질문: "눈에 안 보이면, 멈추는 걸까?"

우리가 살아가는 세상은 우리가 보고 있든, 눈을 감고 있든, 혹은 커튼 뒤에 숨어 있든 계속해서 변합니다.

• 컵에 물을 붓고 커튼을 치고 10 분 뒤, 물을 다시 보면 컵은 여전히 차 있습니다.
• 불을 끄고 방을 나가면, 방 안의 시계는 계속 돌아가고 있습니다.

하지만 이 논문은 **"현재의 AI 비디오 생성 모델들은 이런 '보이지 않는 동안의 변화'를 제대로 이해하지 못한다"**고 지적합니다. AI 는 화면에 물체가 안 보이면, 마치 그 물체가 존재하지 않거나 상태가 멈춘 것처럼 만들어버립니다.

2. 실험 도구: 'StEvo-Bench' (시각적 기억력 테스트)

연구진은 이 문제를 찾기 위해 **'StEvo-Bench'**라는 새로운 시험지를 만들었습니다. 이 시험지는 AI 에게 다음과 같은 미션을 줍니다.

1. 시작: "물이 컵에 차오르는 장면"을 보여줍니다.
2. 장애물 (Obscuration): "이제 커튼을 치거나, 카메라를 돌려 물이 보이지 않게 해라"라고 지시합니다.
3. 복귀: "다시 커튼을 치거나 카메라를 돌려 물이 보이게 해라"라고 합니다.
4. 판단: "물이 계속 찼을까, 아니면 멈췄을까?"

이것은 마치 아이에게 장난감을 보여주고 커튼으로 가린 뒤, "장난감이 어디로 갔을까?"라고 물어보는 것과 비슷합니다. 아이는 장난감이 커튼 뒤에서도 계속 움직일 수 있다는 것을 알지만, AI 는 "보이지 않으니까 멈췄다"고 생각하는 경향이 있습니다.

3. 주요 발견: AI 가 저지르는 실수들

이 시험지를 통해 AI 모델들이 겪는 두 가지 큰 문제를 발견했습니다.

① "보이지 않으면 멈춰버려요" (Evolution Stopping)

• 상황: 공기 침대를 펴고 불을 끄거나 커튼을 쳤습니다.
• AI 의 반응: 커튼을 치는 순간, 공기 침대의 바람 빠지는 과정이 갑자기 멈춥니다. 다시 커튼을 열면, 바람이 빠진 상태가 아니라 아까 그 자리에 그대로 멈춰 있습니다.
• 비유: 요리사가 냄비를 덮고 잠시 자리를 비웠는데, 덮개를 열었을 때 냄비 안의 국물이 끓지 않고 얼어있는 것처럼 보이는 상황입니다.

② "무엇이 변했는지 기억 못 해요" (Incoherence)

• 상황: 스펀지가 물에 젖어 모양이 변하는 장면을 보여주고 커튼을 쳤습니다.
• AI 의 반응: 커튼을 열었을 때, 스펀지가 물에 젖어 둥글게 변해있어야 하는데, 갑자기 네모난 스펀지로 바뀌거나 아예 다른 물건이 되어 있습니다.
• 비유: 친구가 커튼 뒤에서 옷을 갈아입고 나왔는데, 커튼을 열었을 때 그 친구가 아닌 전혀 다른 사람이 나와 있는 것과 같습니다.

4. 카메라를 움직여도 똑같은 문제

카메라를 직접 조종할 수 있는 더 똑똑한 AI 모델들도 이 문제를 피하지 못했습니다.

• 시나리오: "카메라를 오른쪽으로 돌려 공이 떨어지는 걸 안 보이게 해라."
• 결과: 카메라가 돌아간 동안 공이 떨어지는 게 아니라, 카메라가 돌아갈 때 공이 공중에 멈춰 있거나, 아예 카메라가 움직이지 않고 정지해 버립니다.
• 원인: 이 AI 들은 훈련 데이터를 볼 때, 카메라가 움직이는 장면은 주로 '정지된 배경'을 보여주는 경우가 많았기 때문에, **"카메라가 움직이면 세상은 멈춰야 한다"**는 잘못된 습관을 들인 것입니다.

5. 결론: AI 는 '픽셀 (화소)'만 보고 있을 뿐

이 논문의 결론은 매우 명확합니다.
현재의 AI 비디오 모델들은 세상의 물리 법칙이나 인과관계를 이해하는 '세계 모델 (World Model)'이 아니라, 단순히 화면의 픽셀을 이어 붙이는 '영상 편집기'에 가깝습니다.

• 우리의 기대: AI 가 세상의 법칙을 이해해서, 보이지 않아도 물이 차오르고, 불이 타오르고, 시계가 돌아갈 것이라고 예측하는 것.
• 현실: AI 는 "보이지 않으면, 그 순간은 존재하지 않는 것"으로 처리해버립니다.

6. 이 연구가 왜 중요할까요?

이 연구는 AI 가 단순히 "예쁜 영상을 만드는 것"을 넘어, 실제 로봇이나 자율주행차처럼 '보이지 않는 상황'에서도 안전하게 판단하고 행동할 수 있는 진정한 인공지능으로 발전하기 위해 무엇을 고쳐야 하는지 보여줍니다.

마치 눈을 감고도 길을 찾을 수 있는 능력이 필요한 것처럼, AI 도 화면에서 사라진 물체의 상태를 기억하고 예측할 수 있어야만 진정한 '세계의 이해자'가 될 수 있다는 메시지를 전달합니다.

기술 요약

1. 문제 제기 (Problem Statement)

현재의 비디오 생성 모델 (Video World Models) 은 관찰된 프레임들을 기반으로 '세계'를 시뮬레이션하는 능력을 갖추고 있습니다. 그러나 현실 세계에서는 관찰 여부와 상관없이 상태 변화 (예: 물이 차오르는 것, 얼음이 녹는 것) 가 지속적으로 발생합니다.

이 논문은 **"비디오 세계 모델이 관찰이 중단되었을 때 (예: 카메라가 시선을 돌리거나 가려졌을 때), 물리적 상태의 진화 (State Evolution) 를 올바르게 유지하고 예측할 수 있는가?"**라는 근본적인 질문을 던집니다.

• 핵심 문제: 기존 모델들은 관찰이 끊기는 순간 상태 진화를 멈추거나 (Evolution Stopping), 관찰이 다시 시작되었을 때 물리적으로 불가능하거나 일관성 없는 (Incoherence) 결과를 생성합니다.
• 한계: 기존의 벤치마크는 관찰이 완전한 상태에서의 물리 법칙 준수나 일관성만 평가할 뿐, 관찰이 중단된 상황에서의 상태 진화 능력을 평가하지 못했습니다.

2. 방법론 (Methodology)

저자들은 이 문제를 해결하기 위해 StEvo-Bench라는 새로운 벤치마크와 자동화된 검증 프로토콜을 제안했습니다.

가. StEvo-Bench 벤치마크

• 구성: 225 개의 고유한 태스크로 구성되며, 6 가지 자연 발생 진화 카테고리 (연속적 과정, 운동학, 관계적 변화, 인과적 변화, 상태 변환, 인간/동물의 예상 행동) 를 다룹니다.
• 작동 방식:
  1. 초기 프레임 및 프롬프트: 초기 이미지와 진화를 시작하는 행동 (Action Control) 을 제공합니다.
  2. 관찰 중단 (Observation Control): 진화 과정에서 관찰을 중단시키는 지시를 내립니다.
     • 가려짐 (Occlusion): 장면 내에 가리개 (카드보드, 커튼) 를 넣거나 조명을 끄는 방식.
     • 시선 돌리기 (Lookaway): 카메라를 회전시켜 주체를 프레임 밖으로 보내는 방식.
  3. 재관찰 및 평가: 관찰이 중단된 후 다시 주체를 보았을 때, 상태가 관찰 중단 기간 동안 올바르게 진화했는지 확인합니다.

나. 자동화된 검증기 (Automatic Verifiers)

생성된 비디오의 성공 여부를 판단하기 위해 VLM(Video Language Model, Gemini 3.1 Pro 기반) 을 활용한 5 가지 전문 검증기를 구축했습니다.

1. 관찰 제어 검증기 (Observation Control): 장면이 실제로 가려졌거나 카메라가 시선을 돌렸는지 확인.
2. 행동 제어 검증기 (Action Control): 요청된 행동 (예: 물 붓기) 이 실제로 시작되었는지 확인.
3. 상태 진전 검증기 (State Progress): 관찰 중단 기간 동안 의도된 상태 변화가 실제로 발생했는지 확인 (정적 정지 여부 확인).
4. 물리적 타당성 검증기 (Physical Plausibility): 중력, 충돌, 변형 등 물리 법칙 위반 여부 확인.
5. 일관성 검증기 (Coherence): 관찰 중단 전후로 객체의 모양, 위치, 배경이 급격히 변하거나 사라지지 않았는지 확인.

3. 주요 기여 (Key Contributions)

1. StEvo-Bench 제안: 비디오 세계 모델이 관찰과 상태 진화를 분리 (Decouple) 할 수 있는지 평가하는 최초의 벤치마크.
2. 자동 검증 파이프라인 구축: 다양한 실패 모드 (진행 정지, 물리 위반, 일관성 상실 등) 를 자동으로 식별하고 분리하는 전문 검증기 개발.
3. SOTA 모델에 대한 심층 분석: 현재 최첨단 비디오 모델들의 근본적인 한계와 편향을 규명.

4. 실험 결과 (Results)

Veo 3, Sora 2 Pro, Genie 3 등 다양한 오픈/클로즈드 소스 모델을 평가한 결과는 다음과 같습니다.

• 발견 1: 관찰과 진화의 분리 실패

  • 일반 비디오 모델과 카메라 제어 모델 모두 관찰 중단 상황에서 상태 진화에 성공할 확률이 10% 미만으로 매우 낮았습니다.
  • 일부 모델 (Veo 3 등) 은 진전이 일어나기도 했으나, 물리적 타당성이나 일관성을 유지하지 못했습니다.

• 발견 2: 비디오 모델의 주요 실패 모드

  • 진행 정지 (Evolution Stopping): 관찰이 중단되면 (예: 조명 끄기) 물리적 과정이 멈추는 현상 (예: 방풍이 더 이상 펑퍼짐).
  • 일관성 상실 (Incoherence): 가리개가 사라졌을 때 객체의 모양이나 재질이 급격히 변하거나 (예: 직사각형 스펀지가 원형으로 변함), 물체가 사라지는 현상.

• 발견 3: 카메라 제어 모델의 정적 편향 (Static Bias)

  • 카메라가 시선을 돌리도록 지시받았을 때, 카메라 제어 모델 (Genie 3, WorldPlay 등) 은 동적 과정을 멈추고 장면을 정지 (Freeze) 시키는 경향이 강했습니다.
  • 상태 진전이 일어나는 경우, 오히려 카메라 제어 명령을 무시하고 카메라를 고정시키는 모순된 현상이 발생했습니다.

• 발견 4: 메모리 모듈의 한계

  • 메모리 기반 아키텍처 (VMem 등) 는 객체의 외관을 기억하는 데는 뛰어나지만, 관찰이 중단된 동안의 상태 진화 (Evolution) 를 모델링하는 데는 도움이 되지 않았습니다. 오히려 정적 장면에 대한 편향을 강화했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 데이터 및 아키텍처 편향 규명: 현재 비디오 모델들이 관찰이 끊긴 상황을 처리하지 못하는 이유는 학습 데이터 (주로 정적 장면의 3D 렌더링이나 게임 데이터) 와 아키텍처 (단순한 모든 - 대 - 모든 어텐션 메커니즘) 에 기인한 것으로 분석됩니다.
• 향후 방향: 진정한 '세계 모델'을 만들기 위해서는 픽셀 생성뿐만 아니라, 관찰되지 않는 상태에서도 물리 법칙에 따라 진화하는 능력을 학습해야 합니다. 이를 위해 새로운 데이터 전략 (관찰 중단이 포함된 역동적 데이터) 과 아키텍처 설계가 필요함을 강조합니다.
• 기여: StEvo-Bench 는 비디오 생성 모델이 단순히 일관된 픽셀을 생성하는 것을 넘어, 실제 세계의 과정을 모델링할 수 있는지에 대한 엄격한 평가 기준을 제시했습니다.

이 논문은 비디오 생성 모델이 '시각적 환상'을 넘어 '물리적 세계의 시뮬레이션'으로 발전하기 위해 해결해야 할 핵심 과제를 명확히 제시했다는 점에서 큰 의의를 가집니다.