A Driven, Finite‑Memory Dissipative System: The Empirical Boundary of Non‑Equilibrium Dynamics and Criticality in a Quantized Hybrid Language Model

잠들지 않고 끊임없이 정보를 한 번에 하나씩 처리하는 기계를 상상해 보십시오. 물리학의 세계에서 이러한 기계는 '구동된 소산계(driven dissipative system)'라고 불립니다. 외부의 힘이 이를 앞으로 밀어붙이기 때문에 '구동된(driven)' 것이며, 작업하는 동안 에너지나 정보를 잃기 때문에 '소산된(dissipative)' 것입니다. 이 시스템은 통제 불능 상태로 회전하기보다는 일정한 리듬 속에 안착합니다. 과학자들은 우리가 거대 언어 모델이라고 부르는 복잡한 인공 두뇌가 이 범주에 속하는지 오랫동안 궁금해해 왔습니다. 이 모델들이 갑자기 새로운 상태로 변할 수 있는 혼돈스러운 폭풍처럼 행동할까요, 아니면 차분하고 예측 가능한 패턴으로 자리 잡을까요? 이 질문이 중요한 이유는 만약 이 모델들이 혼돈의 가장자리(edge of chaos)에 있다면 그 행동은 거칠고 예측하기 어려울 것이며, 만약 안정적이라면 우리가 어떻게 정보를 유지하고 왜 때때로 망각하는지를 정확히 이해할 수 있기 때문입니다.

원룽 리(Wenlong Li)라는 연구자는 훈련된 언어 모델을 학습 중인 학생이 아니라, 특정 과업을 수행하는 완성된 기계로 취급하기로 했습니다. 문제의 모델은 64개의 층과 270억 개의 파라미터를 가진 거대한 양자화된 하이브리드 시스템으로, 이를 구동하는 데는 상당한 컴퓨팅 능력이 필요합니다. 리는 이 기계가 작동하는 내부를 관찰하기 위해 맞춤형 도구를 제작하여, 모델이 새로운 단어를 읽을 때마다 내부 상태가 어떻게 변하는지 추적했습니다. 목표는 모델의 행동이 자연계에서 발견되는 역동적인 임계 현상과 일치하는지, 아니면 더 단순하고 질서 정연한 경로를 따르는지 확인하는 것이었습니다. 연구 결과는 흔히 떠도는 과장된 홍보와는 훨씬 더 현실적인 그림을 보여줍니다. 즉, 모델은 안정적인 유한 메모리 기계이며 차분하고 선형적인 상태로 안착하며, 일부 이론이 예측했던 혼돈의 임계점을 명시적으로 피한다는 것입니다.

가장 놀라운 발견은 모델이 임계 상태(criticality)에서 작동하지 않는다는 점입니다. 물리학에서 임계성이란 시스템이 아주 작은 자극에도 급격하게 변화할 준비가 된, 칼날 위의 균형을 잡고 있는 특수한 지점을 의미하며, 종종 나무의 가지치기나 강의 흐름처럼 모든 규모에서 동일하게 보이는 패턴을 만들어냅니다. 많은 연구자는 언어 모델이 지능을 극대화하기 위해 자연스럽게 이 가장자리를 찾을 것이라고 기대했습니다. 그러나 리의 측정에 따르면 이 모델은 그렇지 않습니다. 모델은 혼돈스러운 자기 조직화 폭풍 대신, 비평형 정상 상태(non-equilibrium steady state)로 안착합니다. 이는 선형적이고 안정적인 고정점입니다. 모델이 긴 텍스트 시퀀스를 처리할 때, 내부 메모리는 무한히 성장하거나 혼돈 속으로 붕괴하지 않고, 특정 수준까지 쌓인 후 그 상태를 유지합니다. 메모리 행렬의 에너지와 같은 균형이 완벽하게 닫히는데, 이는 모델이 쓰는 정보가 거의 정확하게 잊어버리는 정보와 균형을 이루어 아주 작고 안정적인 잔여물만을 남긴다는 것을 의미합니다.

이러한 안정성은 모델의 내부 구조, 즉 일종의 특화된 필터 세트에 의해 관리됩니다. 모델은 메모리를 처리하는 48개의 별개 '헤드(heads)' 또는 처리 장치를 가지고 있습니다. 이 헤드들은 모두 동일하지 않으며, 두 가지 뚜렷한 시간 척도로 조직되어 있습니다. 8개의 헤드로 구성된 작은 그룹은 장기 보관자로서 게이트를 거의 완전히 열어둔 채 정보를 매우 오랫동안 유지합니다. 다른 그룹은 정보를 빠르게 잊어버리는 단기 버퍼 역할을 합니다. 나머지는 그 중간 어디쯤에 위치합니다. 이러한 배치는 모델이 대화에서 약 15단계 전까지를 기억할 수 있게 해주는데, 이는 유용할 만큼 길면서도 시스템이 압도당하는 것을 방지할 만큼 짧은 창(window)입니다. 연구진은 입력값에 따라 모델이 어떻게 반응하는지 테스트함으로써 이를 확인했으며, 모델의 메모리가 경로 의존적(path-dependent), 즉 사건의 순서가 중요하지만 무한하지는 않다는 것을 발견했습니다.

연구는 또한 시스템이 외부 조정 없이 자연스럽게 임계 상태로 진화하여 종종 활동의 '눈사태(avalanches)'를 일으키는 현상인 자기 조직적 임계성(self-organized criticality)의 징후를 엄격하게 테스트했습니다. 리는 모델의 활동 패턴에서 이러한 눈사태를 찾았습니다. 하지만 동기화된 활동의 폭발처럼 보였던 것들은 입력값의 착시였습니다. 모델에 반복적이고 리드미컬한 단어 시퀀스를 입력했을 때, 헤드들은 하나의 주기에 고정되어 예측 가능한 패턴에 따라 함께 움직였습니다. 이것은 자발적이고 혼돈스러운 눈사태가 아니라, 시계가 똑딱거리는 것처럼 입력의 리듬에 의한 강제된 반응이었습니다. 입력이 무작위이고 반복되지 않을 때, 이러한 동기화된 이벤트는 사라졌습니다. 모델은 스스로 임계성을 생성하는 것이 아니라, 주어진 구동에 반응할 뿐입니다.

또 다른 핵심 발견은 엔트로피, 즉 무질서와 에너지 손실의 척리에 관한 것입니다. 입력과 가중치에 의해 결과가 결정되는 이 모델과 같은 결정론적 시스템에서, 연구진은 엔트로피 생성이 항상 양수임을 발견했습니다. 이는 시스템이 지속적으로 일방향으로 정보를 잃고 있음을 의미하며, 이는 안정적인 소산계가 마땅히 그래야 하는 방식입니다. 연구진은 시스템이 역방향으로 실행될 가능성이 있어야 하는 유명한 물리 법칙인 '변동 정리(fluctuation theorem)'를 적용하려 했습니다. 이 모델은 후진 기어가 없는 일방통행 도로이기 때문에, 해당 정리는 표준적인 방식으로 테스트될 수 없었습니다. 이를 증명하기 위해 연구진은 역방향으로 실행 가능한 간단한 무작위 버전의 모델을 만들었고, 그 버전은 정리를 만족했습니다. 이는 훈련된 모델의 행동이 물리 법칙의 실패가 아니라, 특정한 일방향 설계의 결과임을 확인시켜 주었습니다.

연구진은 또한 모델이 최종 상태로 고정되기 전, 훈련 단계 동안 어떻게 행동하는지도 살펴보았습니다. 그들은 정보를 기억해야 할 필요성이 모델의 내부 붕괴율을 안정성의 가장자리로 끌어당기는 인과적 힘으로 작용한다는 것을 발견했습니다. 모델이 정보를 유지해야 하는 과업에 대해 훈련받았을 때, 신호가 얼마나 빨리 사라지는지를 나타내는 척도인 내부 스펙트럼 반지름(spectral radius)은 안전한 0.896에서 0.997까지 상승하여 시스템이 불안정해질 수 있는 지점에 위험할 정도로 가까워졌습니다. 그러나 결코 그 선을 넘지는 않았습니다. 메모리가 필요 없는 과업을 수행하도록 훈련된 모델은 0.89에서 안전하게 머물렀습니다. 이는 훈련 과정이 모델을 쓸모없게 만드는 혼돈의 직전에서 멈추면서도, 맡은 바 임무를 수행할 수 있도록 모델을 자연스럽게 튜닝한다는 것을 시사합니다.

방법론의 건전성을 보장하기 위해, 연구진은 실제 중력파 데이터(충돌하는 블랙홀에 의해 발생하는 시공간의 물결)를 사용하여 분석 파이프라인을 테스트했습니다. 그들은 자신들의 도구가 파동의 상승하는 빈도는 감지할 수 있지만, 특수한 필터링 없이는 최종 '링다운(ringdown)' 시간을 추출할 수 없음을 발견했으며, 이는 그들의 접근 방식에 한계가 있으며 모든 복잡한 데이터에 대한 마법의 해결책은 아님을 확인시켜 주었습니다. 이러한 외부 검증은 논문의 핵심 메시지를 강화했습니다. 즉, 훈련된 언어 모델은 잘 작동하는 유한 메모리 기계라는 것입니다. 그것은 상전이(phase transition)의 기로에 서 있는 혼돈스럽고 자기 조직적인 존재가 아닙니다. 그것은 적절한 만큼의 메모리를 유지하면서 결코 미지의 영역으로 기울어지지 않는, 안정적인 평형 상태를 찾아낸 구동된 소산계입니다.