기술 요약: 보존 법칙은 학습된 표현(Learned Representations)에서 언제 생존하는가?

문제 정의

현대의 월드 모델(World Models)은 관측 공간이 아닌 잠재 공간(Latent Space)에서 표현을 학습하고 이를 전방향으로 롤아웃(Roll forward)함으로써 확장성을 달병합니다. 그러나 이러한 전환은 물리적 신뢰성(Physical Trust)의 인증을 복잡하게 만듭니다. 보존 법칙(예: 에너지 보존)은 물리 시스템에 대한 신뢰를 제공하는 자연스러운 통화 역할을 하지만, 잠재 모델은 물리적 좌표를 학습된 좌표로 대체합니다. 결과적으로, 모델은 학습된 내부 스칼라(잠재 해밀토니안 또는 위트니스)는 완벽하게 보존할 수 있지만, 실제 물리적 에너지는 크게 드리프트(Drift)될 수 있습니다.

본 논문이 다루는 핵심 질문은 다음과 같습니다: 모델이 잠재 표현을 학습한 후에도 보존 법칙이 언제 인증 가능한 상태로 남아 있는가? 구체적으로, 본 논문은 측정 가능한 모델 결함으로부터 얼마나 많은 스텝 동안 롤아웃이 물리적 불변량의 레벨 셋(Level set) 내에 존재할 것인지를 사전에 증명 가능한 방식으로 경계 짓고자 합니다. 여기서 결정적인 과제는 무엇을 인증할 것인가를 정의하는 것입니다: 즉, 학습된 잠재량이 아니라 **디코딩된 물리적 불변량(Decoded Physical Invariant)**을 인증하는 것입니다.

방법론

인증 대상 (The Certified Object)

본 논문은 인증 대상을 $\Psi(z) = H^*(\Pi D_\psi z)$로 정의된 디코딩된 물리적 불변량으로 고정합니다.

• $z$: 잠재 상태(Latent state).
• $D_\psi$: 잠재 공간을 관측 공간으로 매핑하는 디코더(Decoder mapping).
• $\Pi$: 관측을 물리적 좌표 $(q, p)$로 매핑하는 리드아웃(Readout mapping).
• $H^*$: 알려진 물리적 불변량 (예: 실제 역학적 에너지).

결정적으로, 본 논문은 학습된 잠재 해밀토니안 $H_\theta$나 학습된 스칼라 위트니스 $C_\omega$를 직접 인증하지 않습니다. 이들은 "위트니스(Witnesses)" 또는 프록시(Proxies)로 취급됩니다. 모델은 이러한 내부 양들을 보존하면서도 디코딩된 물리적 불변량은 드리프트될 수 있습니다. 인증은 상태 파이프라인과 잠재-디코딩 파이프라인이 $H^*$에서 수렴하는 곳에서만 유효합니다.

인증 프레임워크 (Certificate Framework)

저자들은 롤아웃이 에너지 쉘(Energy shell)의 허용 오차 $\epsilon$ 내에 머무는 스텝 수 $T$를 제한하는 "쉘-호라이즌 인증서(Shell-horizon certificates)"를 도출합니다. 이 호라이즌의 예산은 세 가지 별개의 결함 소스로 분해됩니다:

1. 표현 결함 ($\epsilon_0$): 임베딩/인코딩의 초기화 오류.
2. 리드아웃 결함 ($\epsilon_{\Pi, \text{num}}$): 디코더와 리드아웃 매핑에 의해 도입된 오류 (픽셀 관측에서 지배적임).
3. 잠재 역학 결함 ($\delta_{\text{tube}}^{\text{phys}}$): 잠재 역학 내에서 디코딩된 불변량의 스텝당 드리프트.

호라이즌은 다음과 같이 계산됩니다:
$$T = \left\lfloor \frac{m_{c,\rho}\epsilon - \text{initialization defects}}{\text{per-step drift}} \right\rfloor$$
여기서 $m_{c,\rho}$는 쉘의 민감도(최소 그래디언트 노름)입니다.

정렬 브릿지 (Alignment Bridge - Soft Witnesses)

학습된 "소프트" 불변량(잠재 공간에서 보존되도록 학습된 스칼라 위트니스 $C_\omega$)을 활용하기 위해, 본 논문은 **제어된 리프시츠 정렬 브릿지(Controlled-Lipschitz alignment bridge)**를 도입합니다.

• 소프트 위트니스는 본질적으로 물리적 에너지가 아닙니다. 이는 교정 함수(Calibration function) $g_C$를 통해 정렬되어야 합니다.
• 유효한 인증을 위한 조건은 바이-리프시츠 교정(Bi-Lipschitz calibration) ($0 < \kappa \le g'_C \le L_g$)입니다.
• 이 브릿지는 소프트 위트니스를 정리 형태의 링크(Theorem-shaped link)를 통해 디코딩된 불변량으로 변환합니다. 본 논문은 단순한 단조성(Monotonicity)만으로는 불충분하며, 제어되지 않은 단조성(예: 등적 회귀/Isotonic regression)은 무한한 리프시츠 상수를 가질 수 있어 인증 호라이즌을 0으로 붕괴시킬 수 있음을 보여줍니다.

실험 설정

본 프레임워크는 세 가지 보존계(Conservative systems)에 대해 테스트되었습니다: 단순 진자, 조화 진동자, 그리고 케플러 이체 문제(특이 시스템).

• 표현(Representations): 연구는 인증 대상을 고정한 채 입력 표현을 변화시킵니다:
  1. 상태(State): 정준 좌표 $(q, p)$가 입력되며, 리드아웃은 항등 함수(Identity)입니다.
  2. 리프트(Lift): 저차원 관측이 학습된 잠재 차트로 인코딩되며, 리드아웃은 깨끗합니다.
  3. **픽셀(Pixel): 고차원 이미지가 입력되며, 학습된 디코더/리드아웃이 상당한 오류를 도입합니다.
• 모델 변형(Model Variants):
  • Plain: 제약 없는 잔차 잠재 맵(Unconstrained residual latent map).
  • Hard Symplectic: 심플렉틱(Symplectic) 구조를 갖도록 제약된 잠재 적분기 (Störmer–Verlet, SympNet).
  • Soft (B-self): 잠재 공간에서 불변하도록 학습된 자기 지도 방식의 스칼라/벡터 위트니스이며, 브릿지를 통해 정렬됩니다.

주요 결과

1. 상태 공간 (정준 좌표)

알려진 위상 좌표에서는 하드 심플렉틱 구조가 명확한 승자입니다.

• 케플러 시스템에서, 하드 심플렉틱 모델은 3/3개 시드에서 비공백(Non-vacuous) 공동 불변량 인증을 달성한 반면, Plain 모델은 0/3개를 달성했습니다.
• 스텝당 불변량 드리프트는 심플렉틱 모델이 약 $7.6\times$ 더 작았습니다.
• 결론: 하드 프라이어(Hard priors)는 차트(Chart)가 알려져 있고 물리적 심플렉틱 형식과 일치할 때 효과적으로 작동합니다.

2. 학습된 리프트 (잠재 좌표)

모델이 저차원 관측으로부터 잠재 차트를 학습할 때, 하드 심플렉틱 프라이어는 붕괴하지만, 소프트 불변량은 생존합니다.

• 하드 심플렉틱 모델(Verlet, SympNet)은 일반적인 Plain 베이스라인과 통계적으로 구별할 수 없을 정도가 되었습니다. 심플렉틱 제약은 흐름(Flow)의 형태는 보존하지만, 임의의 학습된 차트 아래에서 물리적 에너지와 관련된 스칼라의 정체성은 보존하지 못합니다.
• 소프트 B-self 불변량은 학습된 차트를 성공적으로 가로질러, 구조 이득 비율(Structure-gain ratio) $\approx 1.30$ 및 8개 시드에 대한 승률 $P(\text{soft} > \text{plain}) = 0.88$을 달성했습니다.
• 결론: 하드 기하학적 프라이어는 좌표에 민감하여 표현 학습 과정에서 자동으로 생존하지 못하는 반면, 바이-리프시츠 브릿지를 통해 정렬된 소프트 불변량은 더 견고합니다.

3. 픽셀 관측

픽셀 입력을 통한 인증은 가능하지만, 리드아웃이 안정적인 서브-튜브(Sub-tube) 내로 제한됩니다.

• 디코더/리드아웃 항이 오류 예산에서 지배적인 역할을 하는 경우가 많습니다.
• "고정된 리드아웃 안정 규칙(Frozen readout-stable rule)"을 적용하여(리드아웃 리프시츠 점수가 너무 높은 지점을 제외), 안정화된 소프트 위트니스는 비공백 인증을 회복했습니다.
• 결과: 10개 시드 중 9개가 비공백이었던 반면(Plain은 10개 중 4개), 제외된 분율은 $\le 2.3\%$였습니다.
• 결론: 픽셀 인증은 지각(Perceptual) 문제입니다. 이는 디코딩된 불변량이 충실하게 유지되는 서브 튜브를 찾기 위해 리드아웃을 안정화해야 합니다.

4. 케플러 기하학적 경계

케플러 리프트는 내재적인 기하학적 한계를 드러냈습니다.

• 잠재 용량을 변경하고 합법적인 메트릭 재차팅(Metric re-charting)을 적용했음에도 불구하고, 디코딩된 공동 불변량 인증은 근일점(Periapsis) 부근에서 실패($T=0$)했습니다.
• 이 실패는 역제곱 포텐셜(Inverse-square potential)의 근일점 근처 강성(Near-periapsis stiffness) 때문이며, 이는 작은 $(q, p)$ 오류를 증폭시킵니다.
• 결론: 이것은 모델의 표현 학습이나 용량 확장이 해결할 수 없는, 시스템 고유의 기하학적 경계입니다.

의의 및 주장

본 논문의 주요 기여는 **보존 인증에 대한 표현-강건성 프레이밍(Representation-robustness framing)**입니다. 저자들은 다음과 같이 주장합니다:

1. 인증 대상이 중요하다: 인증서는 잠재 해밀토니안이나 정렬되지 않은 위트니스가 아니라, 디코딩된 물리적 불변량에 부착되어야 합니다. 모델은 자신의 내부 프록시는 보존하면서도 물리적으로는 실패할 수 있습니다.
2. 하드 vs 소프트 프라이어: 하드 정준 심플렉틱 구조는 좌표에 민감합니다. 알려진 위상 좌표에서는 가장 긴 호라이즌을 제공하지만, 학습된 차트를 통과할 때는 실패합니다. 반대로, 잠재 공간에서 보존되도록 학습되고 제어된 리프시츠 브릿지를 통해 정렬된 소프트 불변량은 표현 변화 속에서도 살아남습니다.
3. 단조성만으로는 불충분하다: 소프트 위트니스를 물리적 에너지와 정렬하려면 바이-리프시츠(Bi-Lipschitz) 교정이 필요합니다. 단순한 단조성은 너무 느슨하며, 이는 공백(Vacuous) 인증으로 이어집니다.
4. 기하학적 한계: 보존 정렬 인증은 아무리 많은 표현 학습이나 용량 확장을 적용하더라도 극복할 수 없는 내재적 기하학적 특이점(예: 케플러 근일점)으로 인해 실패할 수 있습니다.

저자들은 이 연구를 장기 호라이즌 비전 월드 모델을 위한 벤치마크가 아니라, 학습된 표현을 통해 물리적 불변량을 평가할 때 무엇을 인증할 수 있는가에 대한 방법론적 연구로 포지셔닝합니다. 이 결과는 학습된 월드 모델의 경우, 심플렉틱 형식이 물리적인 좌표에서 인증을 수행하거나, 구조적 프라이어를 보존 스칼라의 명시적 정렬과 결합해야 함을 시사합니다.