Constructed Reality, Contested Priors: Decoupling and the Architecture of Cognitive Relapse Under the Free Energy Principle

기술 요약: 구성된 현실, 경합하는 사전 확률(Constructed Reality, Contested Priors)

문제 정의
자유 에너지 원리(Free Energy Principle, FEP) 하에서 예측 시스템은 현실을 직접 관찰하는 것이 아니라, 자신의 생성 모델이 도출한 최선의 현재 가설을 경험한다. 이는 살아있는 시스템에서 매우 중요한, 테스트 불가능한 질문을 제기한다: 인공적인 환경이 시스템의 기본 생성 사전 확률(default generative prior)로서 기존의 기저 환경을 영구적으로 대체할 수 있을 만큼 충분한 내부 일관성을 갖추도록 구축될 수 있는가? 본 논문은 이러한 상태를 **존재론적 역전(ontological inversion)**이라 정의한다.

생물학적 신경계에서 이를 직접 테스트하는 것은 윤리적, 기술적으로 불가능하다. 따라서 본 논문은 이 문제를 대리 시스템(proxy system)을 사용하여 계산적 문제로 조사한다. 핵심적인 이론적 과제는 시스템이 새로운 환경을 단순히 하나의 가설로서 표현하는 것을 넘어, 이를 자신의 "진리(ground truth)"(기본 상태)로 취급하도록 유도할 수 있는지 여부를 결정하고, 이러한 채택을 방해하는 구조적 실패 모드(failure modes)를 이해하는 것이다.

방법론
본 연구는 계산적 대리 모델인 V+M 모델(Convolutional Variational Autoencoder(VAE)와 Recurrent Latent Predictor(GRU)의 결합)을 사용한다.

• 수학적 대응: VAE는 증거 하한(Evidence Lower Bound, ELBO)을 최소화하도록 훈련되며, 이는 FEP에서 정의된 변분 자유 에너지(variational free energy)와 수학적으로 동일하다(부호 제외). 따라서 훈련 과정은 단순한 시뮬레이션이 아니라 자유 에너지의 직접적인 최소화 과정이다.
• 환경:
  • $I_0$ (기저 환경): MNIST 데이터셋.
  • $I_s$ (대상 환경): FashionMNIST 데이터셋.
• 훈련 프로토콜:
  1. 1단계: 강력한 기저 사전 확률을 확립하기 위해 $I_0$(MNIST)로만 모델을 사전 훈련한다.
  2. 2단계 (리허설): $I_0$와 $I_s$가 혼합된 스트림에 대해 훈련을 지속한다. **리허설 비율($r$)**은 각 배치 내 $I_0$ 데이터의 비율을 제어한다 ($r \in \{0.0, 0.2, 0.3, 0.4, 0.5, 1.0\}$).
• 주요 지표:
  • $w_{proxy}$ (표상 능력): 실제 입력으로부터 추출된 잠재 벡터를 분류하는 선형 프로브(linear probe)의 정확도. 이는 환경 간을 구별하는 시스템의 능력을 측정한다.
  • $dmn_{proxy}$ (기본 행동): 시스템의 제약 없는 자가 생성 출력(free-running GRU 롤아웃)이 대상 환경($I_s$)과 유사할 확률. 이는 외부 입력에 의해 제약받지 않을 때 시스템이 무엇을 기본값으로 삼는지 측정한다.
  • $F_{proxy}$: 현재 훈련 혼합물에 대한 적합도를 측정하는 ELBO.

주요 기여 및 이론적 프레임워크
본 논문은 학습(표상 능력)과 수용(기본 상태 채택)을 구분하는 프레임워크를 도입한다. 또한 존재론적 역전에 대한 두 가지 구체적인 실패 모드를 제안한다:

1. 디커플링(Decoupling): 시스템이 새로운 환경에 대해 거의 완벽한 표상 정확도($w_{proxy}$)를 달성하면서도, 그 기본 행동($dmn_{proxy}$)은 여전히 기저 환경에 의해 지배될 수 있다는 가설.
2. 인지적 회귀(Cognitive Relapse): 시스템이 기본 행동을 타겟 방향으로 이동시키더라도, (동시적인 대조를 통해) 기저 환경에 계속 노출되면 새로운 기본 상태로 안정화되는 대신 기저 환경으로 부분적으로 되돌아갈 수 있다는 가설.

본 논문은 **인지적 경직성(cognitive rigidity)**을 단순히 느린 학습(느린 업데이트 속도)이 아니라, 두 개의 독립적인 축(디커플링: 기본 상태 포착의 상한선, 그리고 회귀: 달성된 변화가 불안정해지는 경계)을 가진 구조적 속성으로 재정의한다.

결과
90회의 실험 실행(15개 시드 $\times$ 6개 비율)을 통해, 본 연구는 세 가지 주요 결과를 도출했다:

1. 학습과 수용의 디커플링:

   • 표상 정확도($w_{proxy}$)는 모든 조건(대상 환경을 한 번도 보지 못한 $r=1.0$ 포함)에서 천장 효과(0.97–0.998) 근처를 유지했다.
   • 기본 행동($dmn_{proxy}$)은 $r=1.0$일 때 0.011에서 $r=0.0$일 때 0.999까지 극적으로 변화했다.
   • 결론: 높은 표상 능력은 존재론적 역전을 위한 필요조건이지만 충분조건은 아니다. 시스템은 새로운 현실을 완벽하게 구별하면서도 이를 자신의 기본 상태로 채택하지 않을 수 있다.

2. 인지적 회귀 (오버슈트 및 퇴행):

   • 중간 단계의 비율($r=0.2$ ~ $0.5$)에서, 시스템의 기본 행동은 초기에 대상 환경을 향해 이동하여 종종 천장 값($dmn_{proxy} \approx 1.0$)에 도달했다.
   • 그러나 동일한 혼합 조건 하에서 훈련이 계속됨에 따라, 기본 행동은 기저 환경으로 부분적으로 회귀했다.
   • 이 회귀의 크기는 리허설 비율 $r$에 따라 규모가 달라졌다. $r=0.4$와 $r=0.5$에서 시스템은 뚜렷한 "상승, 정점, 하락" 궤적을 보였으며, 이는 경직성을 단순히 느린 학습으로 보는 모델(단조롭고 느린 상승을 예측함)과 모순된다.

3. 임계 효과:

   • $r=0.5$에서 대다수의 시드(15개 중 8개)가 15 에포크(epoch) 창 내에 기본 상태 포착을 위한 0.90 임계값을 넘지 못했으며, 결과의 분산이 급격히 증가했다. 이는 시스템 역학의 잠재적 분기점(bifurcation point)을 시사한다.
   • $r=1.0$에서는 변화가 일어나지 않았으며, 이는 대상 노출이 없으면 기저 사전 확률이 지배적임을 확인시켜 준다.

의의 및 주장 범위
본 논문은 자신의 기여를 생물학적 검증이 아닌 **계산적 존재 증명(computational existence proof)**으로 명시적으로 규정한다.

• 입증하는 것: 자유 에너지 최소화라는 제1원리로부터 유도된 메커니즘이 특정 아키텍처의 가정과 무관하게 디커플링(높은 표상, 낮은 수용)과 회귀(일시적 채택 후 퇴행)라는 구조적 속성을 나타낼 수 있음을 입증한다.
• 주장하지 않는 것: 본 논문은 인간의 생물학적 신경계, 주관적 경험, 또는 디폴트 모드 네트워크(DMN)에 대해 어떠한 주장도 하지 않는다. "인지적 회귀"나 "존재론적 역전"이라는 용어는 엄격하게 인공 신경망에서 관찰된 곡선 형태를 지칭하는 라벨로 사용되었다.
• 한계점: 결과는 15 에포크 창에 국한되어 있으며(장기적 안정성은 미지수), 동시적 대조(고정된 배치 비율)의 조작이 거칠며, 현실 세계의 복잡한 경쟁 환경을 반영하기에는 너무 분리도가 높은 데이터셋(MNIST vs. FashionMNIST)에 의존하고 있다.

결론
본 연구는 모델 교체에 대한 저항이 단순히 학습 속도의 문제가 아님을 확립한다. 대신, 이는 표상 능력과 기본 생성 행동이 분리될 수 있고, 원래의 사전 확률에 대한 지속적인 부분 노출 하에서 달성된 기본 행동의 변화가 불안정해질 수 있다는 구조적 현상이다. 이는 구성된 현실을 자신의 기본 상태로 채택할 수 있는지(또는 그렇지 않은지)에 대한 조건을 이해하기 위한 공식적이고 테스트 가능한 프레임워크를 제공한다.