🤖 AI

Why We Need World Models for AGI: Where LLMs Fail and How World Models May Outperform

본 논문은 대규모 언어 모델이 잠재적 환경 역학과의 목적 불일치로 인해 장기적 계획과 인과적 추론에 어려움을 겪는다고 주장하며, 'Flux' 환경을 통해 잠재 상태 전이에 명시적으로 접근하는 에이전트가 안정적이고 장기적인 의사결정에서 대규모 언어 모델보다 현저히 뛰어난 성과를 보임을 입증합니다.

원저자: Feisal Alaswad, Batoul Aljaddouh, Maher Alrahhal, Poovammal E, Talal Bonny

게시일 2026-05-26

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Feisal Alaswad, Batoul Aljaddouh, Maher Alrahhal, Poovammal E, Talal Bonny

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

이 논문은 간단한 언어와 일상적인 비유를 사용하여 설명합니다.

핵심 아이디어: 대본 읽기 대 게임 플레이하기

복잡한 보드게임을 배우려고 한다고 상상해 보세요. 배울 수 있는 두 가지 방법이 있습니다.

"대본 독자"(현재의 AI/LLM): 수천 명의 사람들이 게임을 플레이하는 대본을 읽습니다. 이야기에서 다음에 어떤 단어가 나올지 추측하는 데 매우 능숙해집니다. 누군가 "폰을 ...으로 이동했다"라고 말하면, 당신은 자신 있게 "...중앙 칸"이라고 예측할 수 있습니다. 언어의 패턴을 알고 있기 때문에 전문가처럼 들립니다.
"게임 마스터"(세계 모델): 당신은 단순히 대본을 읽는 것이 아니라, 머릿속에 실제 게임 보드를 구축합니다. 규칙, 모든 말의 위치, 그리고 말을 이동시킬 때 정확히 어떤 일이 일어나는지 이해합니다. 당신은 단순히 다음 단어를 추측하는 것이 아니라, 게임의 다음 상태를 시뮬레이션합니다.

논문의 주장:
현재의 AI(대형 언어 모델 또는 LLM) 는 놀라운 "대본 독자"입니다. 그들은 완벽한 것처럼 들리는 이야기, 코드, 답변을 작성할 수 있습니다. 하지만 저자들은 이러한 AI 들이 장기적인 계획이나 인과 추론(원인과 결과를 파악하는 것) 이 필요한 일을 시도할 때 실패하기 시작한다고 주장합니다. 그들은 실제 세계의 "상태"를 추적하는 것이 아니라 문장의 다음 단어만 예측하고 있기 때문에 길을 잃습니다.

이 논문은 진정한 지능을 갖춘 기계(AGI) 를 구축하기 위해서는 단순히 단어를 예측하는 것을 넘어, 시간이 지남에 따라 세계가 어떻게 변하는지 추적하는 "세계 모델"인 내부 시뮬레이션을 구축해야 한다고 제안합니다.

핵심 문제: "할루시네이션" 함정

저자들은 LLM 이 특정한 유형의 혼란을 겪는다고 설명합니다. 확률에 기반하여 다음 단어를 예측하도록 훈련되었기 때문에, 실제로 진실인 것보다 신빙성 있게 들리는 것을 우선시합니다.

비유: 도서관의 모든 책을 읽은 이야기꾼을 상상해 보세요. 만약 당신이 "유리잔을 떨어뜨리면 어떻게 될까?"라고 묻는다면, 그들은 보통 이야기에서 그렇게 일어나기 때문에 "유리잔이 깨질 것이다"라고 말할 수 있습니다. 하지만 "방금 무거운 상자를 떨어뜨리면서 유리잔을 떨어뜨리면 어떻게 될까?"라고 묻는다면, 이야기꾼은 혼란스러워할 수 있습니다. 그들은 물리적 상황 전체를 보는 것이 아니라 즉시의 단어만 보고 있기 때문에, 세 문장 전에 상자를 떨어뜨렸다는 사실을 잊어버릴 수 있습니다.
결과: AI 는 사실을 만들어내거나(할루시네이션), 보드에서 제거된 말이 있다는 사실을 잊는 등 게임 상태를 잃어버립니다. 이는 설명하는 현실에 대한 지속적인 "정신적 모델"을 유지하지 않기 때문입니다.

해결책: 잠재 역학 추론 (LDI)

저자들은 **잠재 역학 추론 (Latent Dynamics Inference, LDI)**이라는 새로운 사고 방식을 제안합니다.

비유: 언어를 실제 사건의 흐릿하고 낮은 해상도의 사진이라고 생각하세요.
- **사진 (언어)**은 자동차 사고를 보여줍니다. "자동차가 나무에 부딪혔다"고 알려줍니다.
- **현실 (잠재 상태)**은 실제 물리학입니다: 자동차의 속도, 충돌 각도, 구겨진 금속 등.
- 현재의 AI 는 사진을 연구하고 다음 문장을 추측하려 합니다.
- LDI는 사진을 보고 그 뒤에 있는 실제 물리학을 재구성하려 합니다. "이 사진을 만들어 내기 위해 자동차의 속도와 위치는 어떻게 되었어야 했을까?"라고 묻습니다.

단어 뒤에 숨겨진 "물리학"(잠재 상태) 을 재구성하려 함으로써, AI 는 원인과 결과에 대해 훨씬 더 잘 추론할 수 있습니다.

실험: "FLUX" 게임

이를 증명하기 위해 저자들은 FLUX라는 간단한 게임을 만들었습니다.

규칙: 게임 규칙은 모두 평범한 영어로 작성되었습니다 (예: "셀이 0 에 도달하면 제거됨").
설정: 그들은 이러한 영어 규칙을 엄격한 수학적 컴퓨터 시뮬레이터("세계 모델") 로 변환했습니다.
대결: 그들은 두 가지 유형의 플레이어를 서로 맞붙였습니다.
1. LLM 플레이어: 영어 규칙과 현재 게임 상태를 텍스트로 읽었습니다. 다음 단어를 예측하여 다음 수를 추측해야 했습니다.
2. RL 플레이어 (강화 학습): 수학적 시뮬레이터 내에서 직접 훈련되었습니다. 텍스트뿐만 아니라 실제 숫자와 상태 변화를 "보았습니다".

결과:

**RL 플레이어 (세계 모델)**은 약 **79%**의 게임에서 승리했습니다.
LLM 플레이어는 약 **11%**의 게임에서만 승리했습니다.

왜 LLM 이 졌을까요?
논문은 LLM 이 실패한 세 가지 구체적인 방식을 발견했는데, 이는 대본 독자의 "오류"와 같습니다.

합계 무지: LLM 은 누적 점수를 잊어버렸습니다. 점수가 한도를 초과하도록 움직임을 계속 만들어 즉시 패배하게 만들었습니다. 이는 숫자를 텍스트에서만 보고 머릿속에서는 추적하지 않았기 때문입니다.
행 길이 오산: 말이 제거됨에 따라 게임 보드가 줄어들었습니다. LLM 은 더 이상 존재하지 않는 말을 이동시키려 했습니다. 이는 보드의 현재 모양을 추적하는 것을 잃었기 때문입니다.
단시안: LLM 은 다음 턴에는 좋아 보이지만 10 턴 뒤에는 끔찍한 결과를 초래하는 움직임을 만들었습니다. 미래의 결과를 "볼" 수 없었습니다.

결론: 이것이 AI 에게 의미하는 바

이 논문은 다음 단어를 예측하는 것만으로는 진정한 지능을 갖춘 에이전트를 구축하기에 불충분하다고 결론지었습니다.

현재의 AI는 대본을 완벽하게 암송할 수 있지만 줄거리를 이해하지 못하는 뛰어난 배우와 같습니다.
**미래의 AI (세계 모델)**는 줄거리, 등장인물의 동기, 그리고 이야기가 어떻게 발전하는지 이해하는 감독과 같아야 합니다.

저자들은 **인공 일반 지능 (AGI)**에 도달하기 위해 AI 를 단순히 더 크게 만드는 것 (더 많은 데이터, 더 많은 매개변수) 이 아니라, 어떻게 학습하는지 바꿔야 한다고 주장합니다. 우리는 AI 에게 다음 단어만 추측하는 것을 멈추고, 그 단어들을 생성하는 숨겨진 "세계"를 추론하도록 가르쳐야 합니다.

간단히 말해: 똑똑해지기 위해서는 AI 가 대본을 읽는 것을 멈추고 게임을 플레이하기 시작해야 합니다.

기술적 요약: AGI 를 위해 세계 모델이 필요한 이유

문제 제기

대규모 언어 모델 (LLM) 이 시퀀스 예측, 지식 집약적 작업, 코드 생성 분야에서 놀라운 성과를 거두었음에도 불구하고, 인과적 추론, 지속적 상태 추적, 장기 계획이 필요한 영역에서는 체계적인 한계를 보입니다. 저자들은 이러한 한계가 근본적인 목표 수준의 불일치에서 비롯된다고 주장합니다. 즉, LLM 은 관찰 공간 ( $X$ ) 내의 관찰 (토큰 시퀀스) 을 예측하도록 최적화되어 있는 반면, 역동적인 환경에서의 견고한 지능은 잠재 상태 전이 ( $S$ ) 와 인과적 역학을 모델링하는 것을 필요로 합니다.

현재의 자기회귀적 목표는 사실적 근거나 인과적 일관성보다 통계적 가능성을 우선시합니다. 결과적으로 LLM 은 제한된 환경에서 세계 모델 행동을 근사할 수는 있지만, 진화하는 세계에 대한 일관된 내부 모델을 유지할 구조적 메커니즘이 부족합니다. 이로 인해 할루시네이션, 상태 추적 오류, 그리고 장기 작업에서의 "시야 단축 (horizon myopia)"과 같은 실패 양상이 발생합니다.

방법론: 잠재 역학 추론 (LDI) 과 FLUX

이 가설을 검증하기 위해 저자들은 **잠재 역학 추론 (Latent Dynamics Inference, LDI)**을 도입했습니다. 이는 언어와 멀티모달 관찰을 고립된 기호 시퀀스가 아닌, 하위 환경 역학에 대한 부분적이고 손실된 증거로 해석하는 개념적 프레임워크입니다. LDI 하에서 학습 목표는 다음 토큰을 예측하는 것 ( $P(x_t | x_{<t})$ ) 에서 관찰을 생성한 잠재 상태 궤적 ( $S$ ) 과 전이 함수 ( $f_\theta$ ) 를 추론하는 것으로 전환됩니다.

관찰 공간 ( $X$ ) 과 잠재 상태 공간 ( $S$ ) 에서의 추론 간 차이를 경험적으로 검증하기 위해 저자들은 다음과 같은 특성을 가진 새로운 순차적 추론 환경인 FLUX를 구축했습니다:

명세: 게임 규칙은 관찰 공간 $X$ 를 나타내는 자연어로 완전히 정의됩니다.
메커니즘: 정수 셀 열에서 두 명이 대결하는 게임으로, "AMPLIFY"( $\times 2$ ) 와 "DRAIN"( $\lfloor \div 2 \rfloor$ ) 연산이 포함됩니다. 비대칭 승리 조건 (Shrinker 는 열이 하나의 셀로 줄어들면 승리, Amplifier 는 합계가 20 을 초과하면 승리) 과 15 번째 수에서의 무승부 Tie-breaker 가 존재합니다.
컴파일: 자연어 규칙은 LLM 에 의해 결정론적이고 명시적인 상태 전이 시뮬레이터 (세계 모델) 로 컴파일되었으며, 이는 잠재 상태 공간 $S$ 와 전이 함수 $f_\theta$ 를 정의합니다.

실험 설계

이 연구는 동일한 FLUX 환경 내에서 작동하는 두 가지 유형의 에이전트를 비교합니다:

LLM 에이전트: 순수하게 $X$ 에서 작동합니다. 현재 상태에 대한 자연어 설명을 받고 다음 토큰 예측을 통해 행동을 선택합니다. 상태 추적을 위해 대화 컨텍스트에 의존합니다.
강화 학습 (RL) 에이전트: 직접 $S$ 에서 작동합니다. 표 형식 Q-러닝 에이전트가 컴파일된 시뮬레이터 내에서 훈련되며, 명시적 전이 역학과 상호작용하여 최적의 정책을 학습합니다.

평가에는 베이스라인 비교 (무작위 vs 휴리스틱 vs RL) 를 위한 1,000 회 에피소드와 훈련된 RL 에이전트 대비 각 모델 (GPT-4o, DeepSeek-R1, Gemini 1.5 Pro 사용) 당 200 게임이 포함되었습니다.

주요 기여

불일치의 형식화: 이 논문은 자기회귀 시퀀스 모델링 (관찰에 대한 분포 근사) 과 잠재 상태 세계 모델링 (잠재 상태에 대한 역학 근사) 을 형식적으로 구분하며, 이를 단순한 규모 기반의 한계가 아닌 구조적 한계로 규명합니다.
잠재 역학 추론 (LDI): 언어를 잠재 역학 과정의 압축된 관찰 채널로 취급하는 새로운 관점이며, 학습을 $X \to S$ 간의 공간 추론 문제로 재정의합니다.
FLUX 환경: 자연어로 명세되었으나 명시적 세계 모델을 통해 실행되는 개념 증명 환경으로, 관찰 공간 추론과 잠재 상태 계획 간의 통제된 비교를 가능하게 합니다.
경험적 증거: 명시적 잠재 상태 전이에 접근하는 에이전트가 순전히 시퀀스 예측에 의존하는 에이전트보다 훨씬 더 안정적인 장기 행동을 보인다는 통제된 사례 연구 결과를 제시합니다.

결과

실험 결과는 $S$ 와 $X$ 에서 작동하는 에이전트 간의 극명한 성능 차이를 강조합니다:

승률: 전체적으로 세계 모델 (RL) 에이전트는 LLM 에이전트 대비 79% 의 승률을 기록한 반면, LLM 은 **11%**만 승리했습니다. 나머지 약 10% 는 LLM 의 무효한 행동으로 귀결되었습니다.
베이스라인 성능: 세계 모델에서 훈련된 RL 에이전트는 무작위 플레이 대비 승률을 46.2% 포인트 향상시켰습니다 (Shrinker 역할 기준 89.5% 대 43.3%).
실패 양상: LLM 실패에 대한 정성적 분석은 세 가지 일관된 패턴을 드러냈습니다:
- 합계 무감각 (Sum Blindness): 지속적인 누적 합계를 유지하지 못해 즉각적인 패배 조건으로 이어짐.
- 열 길이 오산 (Row-Length Miscounting): 열 축소 후 더 이상 존재하지 않는 셀 인덱스를 참조하여 잠재 상태 추적의 붕괴를 나타냄.
- 시야 단축 (Horizon Myopia): 장기 승리 조건 (예: 두 턴 후 Shrinker 의 승리 조건을 유발) 을 예측하지 못하는 국소적 최적 행동을 취함.
무효한 행동: LLM 은 약 10% 의 비율로 무효한 행동 (범위 밖 인덱스, 잘못된 형식의 연산) 을 생성했는데, 이는 유지된 세계 상태를 조회하는 대신 대화 패턴에서 외삽하는 "잠재 상태 붕괴"와 일치하는 행동입니다.

중요성과 주장

저자들은 이 작업을 LLM 의 열등성에 대한 일반적 증명보다는 통제된 사례 연구로 위치시킵니다. 주요 중요성은 다음을 입증하는 데 있습니다:

추출의 가능성: 순수한 자연어 명세 ( $X$ ) 에서 기능적이고 명시적인 세계 모델 ( $S$ ) 을 추출하는 것이 가능합니다.
아키텍처적 필요성: 성능 차이는 지속적 상태 추적과 다단계 인과적 추론이 필요한 작업의 경우, 명시적 상태 진화를 위한 메커니즘 없이는 시퀀스 예측만으로는 불충분함을 시사합니다.
학습의 재방향: 이 논문은 AI 연구를 다음 토큰 예측 최적화에서 잠재 역학 회복 최적화로 전환해야 한다고 주장합니다. 향후 지능 시스템은 세계 역학에 대한 간접적 증거로서 코퍼스를 취급하고, 지각 인코더, 명시적 세계 모델 (잠재 역학), 상태 공간에서 작동하는 계획 모듈을 포함하는 하이브리드 아키텍처를 활용해야 한다고 제안합니다.

저자들은 LLM 이 세계 지식의 강력한 인코더이지만, 그 지식을 역동적으로 실행할 "물리 엔진"이 부족하다고 결론 내립니다. 그들은 AGI 로 가는 길은 언어의 폭을 세계 모델의 인과적이고 상태가 있는 구조와 통합하는 것이라고 제안합니다.