💻 computer science

A Unifying Perspective on Causal World Models: From Observations to Representations to Structure

본 논문은 에이전트가 훈련 분포를 넘어 강건한 예측, 계획 및 의사결정을 수행할 수 있도록 관측에서 구조적 표현에 이르기까지 다층적 추상화를 통합하여 엔티티의 속성과 상호작용을 포착하는 인과 세계 모델(Causal World Models)을 위한 공식적인 프레임워크를 제안한다.

원저자: Avinash Kori, Fabrizio Russo

게시일 2026-08-14

📖 6 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Avinash Kori, Fabrizio Russo

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 로봇에게 구슬치기 게임을 가르치려 한다고 상상해 보십시오. 당신은 그저 구슬이 굴러가는 영상 백만 개를 보여주며 다음에 무슨 일이 일어날지 추측하기를 바랄 수도 있습니다. 이것이 많은 현대 AI 시스템이 작동하는 방식입니다. 이들은 마치 다음 프레임을 예측할 수 있는 아주 똑똑한 앵무새와 같아서, 왜 구슬이 굴러갔는지, 혹은 다르게 밀었을 때 어떤 일이 벌어질지에 대해서는 실제로 이해하지 못한 채 그저 다음 장면을 예측할 뿐입니다. 이 과학 분야를 인공지능(Artificial Intelligence), 특히 "세계 모델(World Models)"에 초점을 맞춘 분야라고 부릅니다. 세계 모델이란 에이전트(로봇이나 소프트웨어 프로그램 같은 것)가 자신의 환경이 어떻게 작동하는지 이해하기 위해 구축하는 일종의 정신적 지도입니다. 연구자들이 던지는 핵심 질문은 이것입니다: 어떻게 하면 기계가 단순히 미래를 추측하는 수준을 넘어 사건의 '원인'을 이해하게 만들 수 있을 것인가? 이를 위해서는 몇 가지 핵심 개념을 이해해야 합니다. 첫째, "인과관계(Causality)"가 있습니다. 이는 수탉이 울고 나서 해가 뜨는 것(상관관계)과 수탉의 울음이 해를 뜨게 만든 것(인과관계)의 차이를 아는 것입니다. 둘째, "표상 학습(Representation Learning)"은 무질서하고 구조화되지 않은 데이터 더미(예: 카메라 이미지의 가공되지 않은 픽셀)를 깔끔하고 이해 가능한 개념(예: "빨간 블록", "파란 블록", 또는 "그리퍼")으로 정리하는 기술입니다. 마지막으로, "개입(Intervention)"은 "만약 내가 저것 대신 이것을 했다면 어떻게 되었을까?"라고 물을 수 있는 능력입니다.

"인과적 세계 모델에 관한 통합적 관점(A Unifying Perspective on Cusal World Models)"이라는 제목의 이 논문은, AI가 진정으로 똑똑하고 안전해지려면 단순히 미래를 예측하는 수정구슬이 되는 것을 멈추고, 세상의 메커니즘을 이해하는 탐정이 되어야 한다고 주장합니다. 임페리얼 칼리지 런던의 아비나쉬 코리(Avinash Kori)와 파브리치오 루소(Fabrizio Russo)는 이러한 정신적 지도를 구축하는 새로운 방법을 제안합니다. 그들은 좋은 세계 모델이 하나의 거대하고 혼란스러운 블랙박스가 되어서는 안 된다고 제안합니다. 대신, 그것은 가공되지 않은 관찰을 받아들여 특정 객체와 그 속성들의 목록으로 변환하고, 이 객체들이 어떻게 상호작용하는지 파악하며, 그 구조를 사용하여 행동을 계획하는 구조화된 조립 라인이 되어야 합니다. 그들은 이를 "인과적 세계 모델(Causal World Model, CWM)"이라고 부릅니다. 이 논문은 아직 이를 완벽하게 수행할 수 있는 로봇을 만들었다고 주장하는 것이 아니라, 우리가 이러한 모델을 어떻게 생각해야 하는지에 대한 공식적인 청사진과 일련의 규칙을 제공하는 것입니다. 이 논문은 모델의 정확히 어느 부분이 데이터로부터 학습될 수 있고, 어느 부분이 인간의 지도나 특정 가정을 필요로 하는지를 명확히 합니다.

탐정의 사다리: 픽셀에서 계획까지

당신이 장난감이 가득한 방에서 미스터리를 풀려는 탐정이라고 상상해 보십시오. 당신에게는 매초 방의 사진을 찍는 카메라가 있습니다. 이것이 당신의 "관찰(observation)"입니다. 기존의 방식에서는 AI가 단순히 픽셀을 보고 "좋아, 다음 초에는 빨간 공이 아마 여기에 있을 거야"라고 말할 것입니다. 좋은 추측이지만, 만약 당신이 "내가 파란 블록을 밀었다면 어땠을까?"라고 묻는다면, AI는 파란 블록이 빨간 공을 움직이게 만든 '원인'임을 실제로 이해하지 못했기 때문에 혼란에 빠질 수 있습니다.

저자들은 AI가 진정으로 지능적이 되기 위해 올라야 할 네 단계의 사다리(또는 "인과적 사다리")로 시각화된 새로운 접근 방식을 제안합니다.

1단계: 원시 감각 (지각, Perception)
사다리의 맨 아래에서 AI는 가공되지 않은 세상을 봅니다. 이것은 빨간 블록, 파란 블록, 로봇 팔이 놓인 테이블의 흐릿하고 혼란스러운 사진을 보는 것과 같습니다. AI의 첫 번째 임무는 유능한 편집자처럼 행동하는 것입니다. 무질서한 사진을 가져와서 "여기에 빨간 블록이 있다", "여기에 파란 블록이 있다", "여기에 그리퍼가 있다"와 같이 뚜렷한 조각들로 나누어야 합니다. 논문은 이를 "엔티티 수준의 특징(entity-level features)"이라고 부릅니다. AI는 단순히 추측하는 것이 아니라, 이야기 속의 구체적인 등장인물들을 식별하는 법을 배우는 것입니다.

2단계: 관계 지도 (표상, Representation)
AI가 등장인물들을 식별했다면, 이제 그들이 서로 어떻게 관계를 맺고 있는지 이해해야 합니다. 이것이 두 번째 칸입니다. AI는 구조화된 지도를 구축합니다. 단순히 빨간 블록이 존재한다는 것을 아는 것을 넘어, 빨간 블록이 파란 블록에 기대어 있다는 것을 압니다. 그리퍼가 목표물에 닿아 있다는 것도 압니다. 논문은 이를 "구조적 관계 상태(structured relational state)"라고 설명합니다. 테이블 위의 객체들을 위한 소셜 네트워크 그래프라고 생각하십시오. AI는 블록들을 점으로, 그리고 상호작용(예: "기대어 있음" 또는 "닿아 있음")을 이 점들을 연결하는 선으로 하는 도표를 만듭니다. 이것은 엄청난 도약입니다. 이제 AI는 단순히 그림을 보는 것이 아니라 장면의 '구조'를 이해하게 되기 때문입니다.

3단계: "만약에" 기계 (개입, Intervention)
이제 AI는 누가 누구와 연결되어 있는지에 대한 지도를 가졌으므로, "만약 ~라면?"이라는 질문을 던지기 시작할 수 있습니다. 이것이 세 번째 칸입니다. 만약 AI가 빨간 블록을 목표 지점으로 옮기고 싶다면, 머릿속에서 그 행동을 시뮬레이션할 수 있습니다. AI는 "내가 빨간 블록을 밀면, 파란 블록이 미끄러지고, 그리퍼가 벽에 부딪힐 것이다"라고 말할 수 있습니다. 인과적 연결(지도상의 선들)을 이해하고 있기 때문에, 실제로 행동을 수행하지 않고도 자신의 행동에 따른 결과를 예측할 수 있습니다. 이것이 저자들이 말하는 "개입"입니다. 이는 자동차 사고를 목격하는 것과 사고의 '원인'이 속도였음을 이해하여 사고를 예방하기 위해 속도를 줄이기로 결정하는 것의 차이와 같습니다.

4단계: 상상력 (반사실적 추론, Counterfactuals)
사다리의 맨 꼭대기에는 결코 일어나지 않았던 시나리오를 상상하는 능력이 있습니다. "만약 빨간 블록이 파란색이었다면?" 또는 "만약 내가 두 배로 세게 밀었다면?" 이것을 반사실적 추론(counterfactual reasoning)이라고 합니다. 이를 통해 AI는 아직 저지르지 않은 실수로부터 배울 수 있으며, 이는 훨씬 더 안전하고 적응력이 높게 만듭니다.

청사진: 기계를 만드는 방법

이 논문의 주요 기여는 이 "인과적 세계 모델"에 대한 공식적인 정의를 내리는 것입니다. 저자들은 이러한 모델을 단일한 거대한 코드 덩어리로 취급하는 것을 멈춰야 한다고 주장합니다. 대신, 자동차 엔진이 변속기, 연료 시스템, 스티어링 휠로 구성된 것처럼, 모델을 구체적이고 관리 가능한 부분들로 나누어야 한다고 말합니다. 각 부분은 자신만의 역할과 얼마나 신뢰할 수 있는지에 대한 규칙을 가집니다.

그들은 모델을 일련의 사건 체인으로 정의합니다:

추론 (Inference): AI는 가공되지 않은 이미지( $x_t$ )를 보고 숨겨진 엔티티( $v_t$ )를 찾아냅니다.
조립 (Assembly): 추출된 엔티티들을 결합하여 상호작용을 보여주는 구조적 상태( $r_t$ )를 만듭니다.
전이 (Transition): 행동( $a_t$ )이 취해졌을 때 상태가 어떻게 변할지 예측합니다.
예측 (Prediction): 새로운 상태를 다시 예측된 이미지( $x_{t+1}$ )로 변환하여, AI가 무엇이 일어날 것이라고 생각하는지 우리가 볼 수 있게 합니다.
효용 (Utility): 목표(예: "블록을 목표 지점으로 옮기기")에 따라 그 결과가 좋은지 나쁜지 결정합니다.

저자들은 우리가 처음부터 모든 것을 완벽하게 학습할 수 있을 것이라고 기대해서는 안 된다는 점을 매우 주의 깊게 지적합니다. 그들은 "식별 가능성(Identifiability)"이라는 개념을 도입합니다. 이는 "우리가 배운 것이 유일한 참된 설명이라고 확신할 수 있는가?"라고 묻는 데 쓰이는 멋진 용어입니다.

논문은 우리가 AI가 사용하는 정확한 숫자나 이름에 대해 100% 확신할 수 없는 경우가 많다고 제안합니다. 예를 들어, 어떤 AI는 빨간 블록을 "엔티티 A"라고 부르고 파란 블크를 "엔티티 B"라고 부를 수 있고, 다른 AI는 이 둘을 바꿀 수도 있습니다. 하지만 관계(A가 여전히 B에 닿아 있음)가 동일하다면 이름은 중요하지 않습니다. 저자들은 이러한 "동등성(equivalences)"을 수용해야 한다고 주장합니다. 우리는 AI가 우리와 똑같은 레이블을 사용하기를 바라는 것이 아니라, 올바른 결정을 내릴 수 있도록 구조를 정확하게 이해하기만을 바라는 것입니다.

이 논문이 배제하는 것들

이 논문이 하지 말아야 한다고 명시적으로 말하는 부분도 중요합니다. 저자들은 세계 모델이 단순히 "예측기"라는 생각에 반대합니다. 만약 모델이 비디오의 다음 프레임만을 추측할 수 있고 그 밑바탕에 깔린 원인(엔티티와 그 상호작용)을 이해하지 못한다면, 그것은 진정한 세계 모델이 아니라고 말합니다. 또한 AI가 사용할 적절한 변수를 자동으로 찾아낼 것이라고 가정하는 것에 대해서도 경고합니다. 때때로 AI는 도움이 필요합니다. 데이터가 너무 무질서하거나, AI가 볼 수 없는 숨겨진 요인(예: 블록을 움직이는 숨겨진 자석)이 있는 경우, AI는 인과적 이야기를 잘못 이해할 수 있습니다. 논문은 이럴 때 AI가 마법처럼 해결해주기를 기대하기보다, 인간의 지식을 도입하거나 불확실성을 처리할 수 있도록 시스템을 설계해야 한다고 제안합니다.

결론

요약하자면, 코리와 루소는 AI를 바라보는 새로운 방식을 제시하고 있습니다. 그들은 진정으로 계획하고 안전하게 행동할 수 있는 지능형 에이전트를 구축하려면 "인과적 세계 모델"을 만들어야 한다고 제안합니다. 이러한 모델은 탐정의 사건 파일처럼 구조화되어야 합니다. 즉, 등장인물을 식별하고, 그들의 관계를 매핑하며, 행동의 결과를 시뮬레이션해야 합니다.

이 논문은 오늘날 이러한 모델을 만드는 문제를 해결했다고 주장하는 것이 아닙니다. 대신, 연구자들이 모델의 어떤 부분이 데이터로부터 학습될 수 있고 어떤 부분이 정교하게 설계되어야 하는지를 이해하도록 돕는 엄격한 프레임워크—일련의 정의와 규칙—를 제공합니다. 문제를 더 작은 단위(추론, 구조, 전이, 효용)로 나눔으로써, 우리는 단순히 미래를 추측하는 것이 아니라 자신이 살아가는 세상을 진정으로 이해하는 AI 시스템을 구축할 수 있다는 것입니다. 이 접근 방식은 AI를 더 신뢰할 수 있고, 해석 가능하며, 현실 세계에서 발생하는 예상치 못한 변화에 대처할 수 있도록 만드는 것을 목표로 합니다.

기술 요약: 인과적 세계 모델(Causal World Models)에 대한 통합적 관점

문제 정의

본 논문은 현대 인공지능에서 "세계 모델(World Model, WM)"이라는 용어를 둘러싼 모호함을 다룬다. 세계 모델은 에이전트가 훈련 분포를 넘어 계획하고 행동할 수 있게 하는 기초로 널리 인용되지만, 기존 문헌들은 서로 다른 모델링의 책무를 혼용하고 있다:

예측기(Predictors): 다음에 무엇이 일어날 가능성이 높은지를 명시하는 모델 (예: 다음 관측치 예측기).
표현(Representations): 비정형 관측치를 구조화된 변수로 압축하는 모델.
인과 모델(Causal Models): 개입 분석을 가능하게 하는 메커니즘을 명시하는 모델.

현재의 접근 방식들은 세계 모델을 (Dreamer와 같은) 구조화되지 않은 블랙박스로 취급하거나, 변수가 미리 지정되어 있다고 가정하는 경우가 많다. 인과적 표현 학습(관측으로부터 잠재 변수를 회복하는 것), 인과 발견(원인-효과 관계를 회복하는 것), 그리고 모델 기반 의사결정(이러한 구조를 제어된 행동에 사용하는 것)을 연결하는 통합된 프레임워크가 부족한 실정이다. 핵심적인 문제는, 어떻게 원시 관측치를 인과적 추론, 개입, 그리고 반사실적 분석을 지원하는 **인과적 세계 모델(Causal World Model, CWM)**로 변환할 것인지, 그리고 그 구성 요소들의 식별 가능성(identifiability)을 어떻게 명확히 할 것인지 정의하는 것이다.

방법론 및 형식적 프레임워크

저자들은 지각(perception)에서 표현(representation), 구조(structure), 그리고 마지막으로 개입(intervention)으로 나아가는 "인과적 사다리(Causal Ladder)" 단계(Pearl의 계층 구조에서 영감을 얻음)에 기반하여 CWM의 공식적인 정의를 제안한다.

1. 인과적 세계 모델(CWM)의 정의

본 논문은 CWM을 단순한 단일 예측기가 아니라, 다음과 같이 정의된 구조화된 의사결정 모델인 튜플 $\mathcal{W} = (\mathcal{X}, \mathcal{A}, \{\mathcal{R}_O\}_O, P, U)$ 로 정식화한다:

$\mathcal{X}$ : 관측 공간 (예: 원시 픽셀).
$\mathcal{A}$ : 행동 공간.
$\mathcal{R}_O$ : 엔티티 집합 $O$ 에 대한 관계적 잠재 상태 공간.
$P$ : 전이 및 예측 분포.
$U$ : 행동 및 상태에 대한 효용 함수.

이 모델은 1단계 의사결정 분포의 특정 인수분해를 통해 작동한다:
$P(x_{t+1} | x_t, a_t) = \int P(x_{t+1} | r_{t+1}) P(r_{t+1} | r_t, a_t) P(r_t | x_t) \, dr_t dr_{t+1}$

이 인수분해는 CWM을 다섯 가지 뚜렷한 구성 요소로 분해한다:

추론 모델 ( $P(r_t | x_t)$ ): 원시 관측 $x_t$ $x_{t}$ 를 엔티티 인덱스가 지정된 잠재 변수 $v_t$ $v_{t}$ 로 매핑하며, 이들은 구조화된 관계적 상태 $r_t$ $r_{t}$ 로 조립된다. 이는 두 단계로 이루어진다:
- $\phi$ : $x_t$ 를 엔티티 특징 $v_t$ 로 매핑한다.
- $\psi_O$ : $v_t$ 를 $r_t$ 로 조립하며, 여기서 대각 블록은 엔티티의 속성을 나타내고 비대각 블록은 엔티티 간의 상호작용을 인코딩한다.
전이 모델 ( $P(r_{t+1} | r_t, a_t)$ ): 행동이 주어졌을 때 관계적 상태의 역학을 모델링한다.
행동 모델: 행동이 전이에 어떻게 영향을 미치는지 명시한다.
예측 모델 ( $P(x_{t+1} | r_{t+1})$ ): 다음 관계적 상태를 다시 관측치로 디코딩한다.
효용 함수 ( $U$ ): 에이전트의 목표와 관련하여 행동과 상태를 평가한다.

2. 관계적 변수 및 구조

본 논문은 엔티티의 속성과 상호작용을 모두 포착하기 위해 **관계적 변수(Relational Variables)**를 도입한다. 엔티티 집합 $O$ 에 대해, 상태 $r_t$ 는 블록 $r_{i,j}^t$ 로 구성된다:

대각 성분 ( $i=j$ ): 엔티티 $i$ 의 속성을 나타낸다 ( $v_i^t$ ).
비대각 성분 ( $i \neq j$ ): 상호작용(예: "블록 A가 블록 B에 기대어 있음")을 나타내며, 함수 $g_{i,j}(v_i^t, v_j^t)$ 로 정의된다.

이러한 구조를 통해 모델은 엔티티의 고유한 특성과 그들의 상호작용을 규정하는 인과적 메커니즘을 구분할 수 있다.

3. 식별성 분석

본 논문은 CWM에 대한 "식별성"이 단일한 전역적 속성이 아니라 **구성 요소별(component-wise)**로 이해되어야 한다고 주장한다. 저자들은 다음을 구분한다:

강한 식별성 (Strong Identifiability): $W_1 = W_2$ (정확한 파라미터 회복).
동등성까지의 식별성 (Identifiability up to Equivalence): $W_1 \sim W_2$ (모델이 의미론적 의미와 다운스트림 효용을 보존하는 변환에 의해서만 서로 다름).

저자들은 각 구성 요소에 대한 허용 가능한 동등성을 정의한다 (논문의 표 1 참조):

잠재 상태 ( $v_t$ ): 가역적 아핀 변환(순열, 스케일링, 이동)까지 식별 가능하다.
엔티티 블록: 엔티티 인덱스의 순열까지 식별 가능하다.
관계적 블록: 상호작용의 구조가 보존되는 한, 인덱스의 순열 및 요소별 아핀 변환까지 식별 가능하다.
인과 그래프 ( $G_r$ ): 마르코프 동등 클래스(MEC)까지 식별 가능하다.
효용 ( $U$ ): 상태에 적용된 변환 $T$ 에 대해 보존되어야 한다.

결정적으로, 본 논문은 구성 요소별 동등성이 유효한 정책 보증을 제공하기 위해서는 이러한 변환들이 전체 파이프라인(인코더, 전이, 디코더, 효용) 전반에 걸쳐 교환 가능(commute)해야 함을 강조한다. 저자들은 만약 인코더와 디코더가 국소적 역관계 일관성(local inverse consistency)을 만족하고 전이 모델이 상태 정렬(state alignment)과 교환 가능하다면, 결과적인 정책들이 동일할 것이라고 주장한다. 이는 이러한 보증이 달성되었음을 입증하는 경험적 증거가 아니라, 그러한 보증이 성립하기 위한 이론적 조건을 설정하는 것이다.

주요 기여

CWM의 공식적 정의: 본 논문은 관측, 잠재 관계 표현, 인과 구조, 그리고 효용을 명시적으로 연결하는 마르코프 결정 과정으로서 CWM에 대한 엄격한 정의를 제공한다. 이는 표현 학습, 인과 발견, 그리고 의사결정 사이의 간극을 메운다.
구성 요소별 식별성 프레임워크: "올바른" 식별성의 개념이 정확한 회복이 아니라, 다운스트림 추론 과제를 보존하는 동등성까지의 회복임을 확립한다. 논문은 잠재 상태, 관계적 구조, 그리고 효용 함수에 대한 구체적인 동등 클래스를 상세히 설명한다.
구조적 분해: 이 연구는 인퍼런스 모델(지각에서 표현으로), 인과 발견 과제(표현에서 구조로), 그리고 의사결정 모델(구조에서 개입으로)의 구별되는 역할을 명확히 한다. 또한 이들이 결합되어 있으면서도 서로 다른 문제를 요구한다는 점을 강조한다.
인과적 충분성(Causal Sufficiency)의 명확화: 본 논문은 관찰되지 않은 혼란 변수(unobserved confounders)의 문제를 다루는 대신, 잠재 구조의 식별성에 집중하기 위해 인과적 충분성 가정을 명시적으로 채택한다.

결과 및 주장

본 논문은 경험적 실험이나 새로운 알고리즘을 제시하는 것이 아니라 이론적 통합과 개념적 명료화를 제공한다:

이론적 결과: CWM이 각 구성 요소가 특정 유형의 식별성(예: 엔티티의 순열 불변성, 그래프의 마르코프 동등성)을 갖는 학습 가능한 구성 요소로 분해될 수 있음을 보여준다.
정책 보증 조건: 저자들은 만약 구성 요소 간의 인터페이스(인코더, 전이, 디코더, 효용)가 특정 변환 $T$ 하에서 호환 가능하다면, 서로 다르지만 동등한 CWM으로부터 도출된 최적 정책들이 정렬된 궤적 분포를 유도하고 동일한 기대 누적 효용을 산출할 것임을 이론적으로 보여준다. 이는 입증된 결과라기보다 향후 알고리즘 개발을 위한 조건으로서 기능한다.
기존 접근 방식의 한 한계: 세계 모델을 단순히 전이 모델이나 다음 예측 모델로만 취급하는 것은 인과적 추론에 불충분하다고 주장한다. 명시적인 관계적 구조와 인과 발견 없이는 에이전트가 신뢰할 수 있는 개입 분석이나 반사실적 추론을 수행할 수 없다.

의의

본 논문의 주요 의의는 세계 모델에 대한 관점을 "블랙박스 예측기"에서 "구조화된 의사결정 모델"로 전환하는 데 있다. CWM을 인과적 표현 학습 및 인과 발견에 접목함으로써, 저자들은 다음과 같은 능력을 갖춘 에이전트를 구축하기 위한 로드맵을 제공한다:

개입에 대한 추론 (내가 X를 한다면 어떻게 될까?).
반사실적 추론 수행 (만약 내가 Y를 했다면 어떻게 되었을까?).
단순한 통계적 상관관계가 아닌 근저에 깔린 인과적 메커니즘을 이해함으로써 분포 변화(distribution shifts)에 대한 일반화.

이 연구는 견고한 CWM을 구축하기 위해서는 더 나은 예측뿐만 아니라, 엔티티의 속성, 상호작용, 그리고 인과적 메커니즘에 대한 명시적인 모델링과 함께, 데이터로부터 학습할 수 있는 부분과 구조적 가정 또는 도메인 지식이 필요한 부분 사이의 명확한 경계를 설정하는 것이 필요함을 밝힌다.