기술 요약: 기계 지능을 위한 인지의 기하학적 이론

문제 정의

현재의 인공지능 시스템은 표현(representation), 기억(memory), 적응(adaptation), 그리고 예측(prediction)을 단일한 계산 프레임워크 내에서 통합하는 데 어려움을 겪고 있다. 기존의 접근 방식들은 대개 확률적 추론, 순환 신경 역학(recurrent neural dynamics), 또는 기호 기반 규칙 구조와 같은 서로 구별되는 계산 전통에 의존한다. 이러한 방법들은 빠른 직관적 반응과 느린 숙고적 추론을 별개의 모듈형 구성 요소(이중 프로세스 이론)로 취급하며, 이들이 어떻게 공유된 기저 원리로부터 발현되는지에 대해서는 설명하지 못한다. 또한, 기존 이론들은 내부 정신적 표현에 대해 서로 양립할 수 없는 가정을 부과함으로써, 비정상성(non-stationary) 환경에서 적응적 지능 행동을 위한 통일된 수학적 기술을 개발하는 것을 저해한다. 핵심 과제는 이러한 다양한 인지 능력이 명시적인 아키텍처 분할이 아닌, 공통된 기하학적 원리로부터 발현될 수 있는지 여부를 결정하는 것이다.

방법론

저자들은 에이전트의 내부 인지 상태를 $\eta$로 표기하고, 이를 미분 가능한 다양체(manifold) $\mathcal{M}$ 위에서 진화하는 것으로 정의하는 기하학적 프레임워크를 제안한다. 이 프레임워크는 세 가지 핵심 요소로 정의된다:

1. 리만 계량 (Riemannian Metric, $G(\eta)$): 다양체는 학습된 상태 의존적 리만 계량을 갖는다. 이 계량은 표현적 제약, 계산 비용, 그리고 인지 변수 간의 구조적 의존성을 인코딩한다. 이는 인지 공간의 국소적 기하학을 정의하며, 서로 다른 방향으로 이동하는 데 드는 "비용"을 결정한다.
2. 인지 포텐셜 (Cognitive Potential, $J(\eta)$): 스칼라 포텐셜 함수는 예측 정확도, 표현 경제성, 과업 효용, 그리고 규범적 요구사항과 같은 다중 행동 동기들을 하나의 양으로 통합한다. 이 포텐셜은 다양체 위의 경관(landscape) 역할을 한다.
3. 리만 경사 흐름 (Riemannian Gradient Flow): 인지 역학은 계량에 대한 포텐셜의 경사 흐름에 의해 지배된다:
   $$\frac{d\eta}{dt} = -G(\eta)^{-1}\nabla_\eta J(\eta)$$
   표준 유클리드 경사 하강법과 달리, 이 정식화는 $G(\eta)$의 국소적 기하학에 따라 유효 학습률과 좌표 간의 결합(coupling)이 가변적으로 변할 수 있게 한다.

창발적 시간 척도 분리 (Emergent Time-Scale Separation):
본 프레임워크는 이중 프로세스 현상(빠른 직관 vs 느린 숙고)이 학습된 계량의 이방성(anisotropy)으로부터 자연스럽게 발현된다고 가정한다.

• 빠른 역학 (Fast Dynamics): $G(\eta)$의 고윳값(eigenvalues)이 작은 방향은 기하학적 비용이 낮아, 빠른 어트랙터(attractor) 기반 업데이트(직관적/습관적 반응)를 허용한다.
• 느린 역학 (Slow Dynamics): $G(\eta)$의 고윳값이 큰 방향은 기하학적 비용이 높아, 보수적이고 느린 진화(숙고적 추론)를 초래한다.
  이러한 분리는 시스템의 명시적인 모듈형 분해 없이 기하학에 내재되어 있다.

알고리즘 구현:
저자들은 강화 학습(RL) 환경에서 평가된 세 가지 특정 알고리즘을 통해 이 이론을 구현하였다:

• Riemannian PPO: Proximal Policy Optimization 내에 메타 학습된 계량을 사용한다.
• Riemannian Continual Learning: 온라인, 비정상 환경에 적용된다.
• Riemannian World Model: 잠재 역학(latent dynamics)에 대한 예측 코딩을 기반으로 한다.

실험 결과

본 프레임워크는 관찰 마스킹, 장기적 감각 차단, 과업 전환 조건이 포함된 부분 관측 강화 학습 환경(MiniGrid 및 Ant-v5)에서 평가되었다.

1. 비정상성에 대한 강건성 (MiniGrid):

   • 주기적인 목표 전환 과업에서, Riemannian 에이전트는 피드포워드(CNN) 및 순환(RNN) 베이스라인에 비해 더 작은 "리턴 쇼크(return shocks, 즉각적인 성능 저하)"를 보였다.
   • 그러나 Riemannian 에이전트는 일부 사례에서 더 높은 "미회복률(non-recovery rate)"을 보였는데, 이는 초기 쇼크에 대한 강건성과 회복 속도 사이의 트레이드오프를 시사한다.
   • 내부 진단: Riemannian 에이전트는 훈련 전반에 걸쳐 더 매끄러운 계량 컨디셔닝(고윳값의 분산이 낮음)과 더 높은 유효 차원을 유지하였으며, 이는 표현이 베이스라인만큼 쉽게 저차원 부분 공간으로 붕괴되지 않음을 나타낸다.

2. 부분 관측성 및 블랙아웃 (Ant-v5):

   • 관찰 마스킹 및 장기적 감각 블랙아웃(최대 500 스텝) 조건 하에서, Riemannian 에이전트(표현 및 역학 변형 모두)는 강력한 PPO-GRU 베이스라인과 대등한 성능을 유지했으며, 피드포워드 PPO-MLP를 유의미하게 능가했다.
   • 표현 분석: PPO-GRU는 전체 물리적 상태를 재구성하는 선형 프로브(linear-probe) 정확도는 더 높게 달성했으나, Riemannian 표현은 특정 변수(예: 속도)에 대한 재구성 점수가 더 낮았다. 이는 Riemannian 에이전트가 전체 상태를 명시적으로 인코딩하기보다 과업 관련 구조를 선택적으로 보존함을 시사하며, 그럼에도 불구하고 견고한 제어를 달부터냈다.

3. 월드 모델 예측 가능성:

   • 잠재 공간 예측 과업에서, Riemannian 표현은 매우 예측 가능한 잠재 역학을 보여주었다.
   • Riemann-Rep는 가장 낮은 재귀적 롤아웃 오차(recursive rollout error)와 장기 호라이즌에 걸친 거의 완벽한 예측 정확도를 달면서, 장기적 일관성 측면에서 PPO-MLP 및 PPO-GRU를 모두 능가했다.
   • 이는 학습된 다양체 구조가 명시적인 순환 메모리 없이도 모델 기반 추론에 적합한 규칙적이고 안정적인 잠재 궤적을 유도함을 나타낸다.

주요 기여

• 통합된 기하학적 프레임워크: 본 논문은 표현, 기억, 적응, 그리고 예측을 통합하는 단일 수학적 원리인 리만 경사 흐름(Riemannian gradient flow)을 도입한다.
• 창발적 이중 프로세스 역학: 학습된 계량의 이방성으로부터 빠르고 느린 인지 모드가 어떻게 창발될 수 있는지를 이론적, 경험적으로 입증하여, 직관적 시스템과 숙고적 시스템의 명시적 아키텍처 분리 필요성을 제거한다.
• 명시적 순환 구조 없는 강건성: 기하학적 잠재 조직이 명시적인 순환 메모리 메커니즘 없이도 시간적 일관성을 위한 효과적인 대안이 될 수 있음을 보여줌으로써, 순환 구조의 필요성에 도전한다.
• 안정성-가소성 트레이드오프: 잠재 공간 자체의 기하학을 통해 적응과 보존 사이의 트레이드오프를 조절하는 원리적인 메커니즘을 제공한다.

의의 및 주장

본 논문은 인지 계산을 위한 기하학적 토대를 구축한다고 주장하며, 동역학계, 표현 학습, 그리고 월드 모델 기반 지능을 연결한다.

• 이론적 통합: 다양한 인지 과정에 대한 공유된 수학적 기술을 제공하며, "안정성-가소성 딜레마"가 잠재 공간의 기하학에 의해 자연스럽게 해결됨을 시사한다.
• 순환 구조의 대안: 학습된 잠재 기하학이 메모리와 예측을 위한 기질(substrate) 역할을 할 수 있음을 보여주며, 명시적인 순환 메모리 메커즘에 대한 효과적인 대안을 제시한다.
• 학제 간 가교: 이 접근법은 인지 과학(이중 프로세스 이론)과 현대 AI를 연결하며, 인지 체계가 모듈형 분해가 아닌 기저 기하학의 기능적 결과임을 제안한다.

저자들은 현재의 평가가 RL 환경의 중간 차원 잠재 공간에 국한되어 있다는 점을 언급하며 연구 범위를 겸손하게 제한하였다. 또한 고차원 환경에서 조밀한 메트릭 텐서(metric tensor)를 역행렬 계산하는 데 따르는 계산 비용이 여전히 과제로 남아 있음을 인정하며, 기하학적 메모리가 명시적 순환 구조보다 우수한 성능을 보이는 조건에 대해서는 추가적인 이론적 조사가 필요함을 밝히고 있다. 그럼에도 불구하고, 본 연구는 여러 시간 척도에 걸쳐 작동하는 견고하고 적응적인 기계 지능을 향한 원리적인 경로를 제공한다.