Machine Learning the H-theorem

시간의 일방통행로에 숨겨진 미스터리

유리잔이 바닥에 떨어져 산산조각 나는 영상을 보고 있다고 상상해 보세요. 매우 혼란스럽고 무질서해 보일 것입니다. 이제 그 영상을 거꾸로 재생한다고 상상해 보세요. 파편들이 위로 솟구치고, 서로 딱 맞게 끼워지며, 테이블 위에 완벽하게 안착합니다. 당신은 즉시 그 역재생 영상이 가짜라는 것을 알게 됩니다. 왜 그럴까요? 우리 우주에서 시간은 특정한 방향을 가지고 있기 때문입니다. 사물은 질서 있는 상태에서 무질서한 상태로 변하는 경향이 있습니다. 마치 정돈된 방을 그대로 두면 서서히 엉망이 되는 것처럼 말이죠. 이것이 바로 우주의 '무질서함'(또는 엔트로피)은 항상 증가한다는 법칙인 열역학 제2법칙의 핵심입니다.

하지만 기묘한 점은 이겁니다. 만약 개별 원자와 분자를 지배하는 아주 작은 규칙들을 들여다본다면, 그것들은 시간에 대해 신경 쓰지 않는다는 것입니다. 두 개의 당구공이 서로 부딪히는 장면을 촬영하여 거꾸로 재생한다면, 그것은 원래 장면과 똑같이 보일 것입니다. 물리 법칙은 '시간 가역적'입니다. 그렇다면 모든 단계가 양방향 통행인데, 어떻게 시간이라는 일방통행로가 생겨나는 것일까요? 이 난제는 한 세기 넘게 과학자들을 괴롭혀 왔습니다. 과학자들은 이를 '시간의 화살'이라고 부릅니다. 이를 해결하기 위해 그들은 보통 'H-정리(H-theorem)'라고 불리는 복잡한 수학적 도구를 사용하는데, 이는 시스템이 평형 상태로 정착함에 따라 항상 수치가 낮아지는 점수판과 같은 역할을 합니다. 하지만 만약 우리가 게임의 규칙을 모른다면 어떨까요? 만약 컴퓨터에게 데이터 뭉치를 건네주며 시간이 어느 방향으로 흐르는지 알아내라고 요청한다면 어떻게 될까요?

논문의 탐구: 로봇에게 시간을 느끼는 법을 가르치기

이 논문에서 저자들은 머신러닝 모델이 정답을 듣지 않고도 스스로 이 '시간의 화살'을 재발견할 수 있는지 확인하고자 했습니다. 그들은 컴퓨터에게 H-정리의 공식을 알려주거나 물리학 교과서를 주지 않았습니다. 대신, 1,000개의 단단한 원반(작고 완벽한 당구공 같은 것)이 정사각형 상자 안에서 튀어 다니는 가상의 세계를 만들었습니다. 연구진은 이 원반들을 모두 같은 속도로 움직이지만 방향은 제각각인 혼란스럽고 무작위적인 상태에서 시작했습니다. 그런 다음 시뮬레이션을 실행하며 매 순간 모든 원반의 위치와 속도를 기록했습니다.

컴퓨터의 임무는 단순하지만 까다로웠습니다. 이 튀어 다니는 기체의 두 스냅샷(하나는 이전 시간, 하나는 이후 시간의 모습)을 보고 어떤 것이 먼저 발생했는지 맞히는 것이었습니다. 컴퓨터에게 주어진 유일한 규칙은 "나중 스냅한이 이전 스냅샷보다 더 높은 점수를 받아야 한다"는 것이었습니다. 이를 위해 연구진은 '딥셋츠(DeepSets)'라고 불리는 특수한 종류의 신경망(AI의 일종)을 구축했습니다 입자들의 이름을 서로 바꾼다고 해서 컴퓨터의 답이 변하지 않도록 하는 '치환 불변성(permutation-invariant)'을 갖추도록 설계되었습니다. 이는 실제 물리 법칙에서 원자의 이름을 바꾼다고 해서 물리 현상이 변하지 않는 것과 같습니다.

모델은 틀린 순서를 예측했을 때 벌점을 주는 '랭킹 손실(ranking loss)' 함수를 사용하여 학습되었습니다. 컴퓨터가 모든 답에 아주 작은 숫자만을 부여하여 속임수를 쓰지 못하도록, 연구진은 각 데이터 배치 내에서 점수가 표준화되도록 강제했습니다. 모델은 120번의 '에포크(epoch, 데이터를 한 번 훑는 주기)' 동안 학습되었습니다. 처음에는 컴퓨터가 그저 추측만 할 뿐이었습니다. 하지만 60번째 에포크 즈음에 흥미로운 일이 일indent 발생했습니다. 컴퓨터가 갑자기 업무를 훨씬 더 잘 수행하게 된 것입니다. 랭킹 오차가 급격히 떨어졌고, 컴퓨터는 '이전' 상태와 '이후' 상태를 명확하게 구분하기 시작했습니다.

거대한 발견: 그것은 H-범함수를 찾아냈는가?

이 논문에서 가장 흥orous한 부분은 컴퓨터가 실제로 무엇을 배웠는가 하는 점입니다. 연구진은 컴퓨터가 스냅샷에 부여한 '점수'를 1872년 볼츠만이 시스템이 평형에서 얼마나 떨어져 있는지를 측정하기 위해 발명한 유명한 수학 공식인 'H-범함수(H-functional)'와 비교했습니다. 그 결과, 컴퓨터가 학습한 점수는 단순한 척도와 위치 이동을 조정한 후 H-범함수와 거의 완벽하게 일치한다는 것을 발견했습니다.

즉, 단지 "나중이 이전보다 크다"라는 명령만 받은 AI가 H-정리와 똑같이 작동하는 수학적 함수를 독립적으로 찾아낸 것입니다. AI는 기체가 이완되고 입자들이 속도를 고르게 분산시켜 매끄럽고 예측 가능한 패턴(맥스웰-볼츠만 분포)을 만들어감에 따라, 이 함수의 값이 매우 특정한 방식으로 단조롭게 변화한다는 사실을 발견했습니다. 이 논문은 시스템의 역학 자체가 모델을 이 구조로 안내하기에 충분하다는 것을 보여줍니다.

하지만 저자들은 이 결과가 탄성 충돌이 일어나는 1,000개의 단단한 원반 시뮬레이션에서 나온 것임을 주의 깊게 언급합니다. 그들은 이것이 우주의 모든 가능한 시스템에 대해 H-정리를 증명한다고 주장하는 것이 아닙니다. 그들은 이 접근 방식이 모델이 공식 없이도 평형을 향한 이완 과정을 추적하는 법을 배운 이 특정 설정에서 잘 작동한다고 제안합니다. 또한 그들은 학습 손실의 '온도(temperature)' 파라미터가 매우 중요하다는 것을 발견했습니다. 낮은 온도(0.1)는 모델의 출력을 매끄럽고 신뢰할 수 있게 만들었지만, 높은 온도(1.0)는 마지막 단계에서 출력을 요동치고 진동하게 만들었습니다.

결론적으로, 이 논문은 시간이 왜 한 방향으로 흐르는지에 대한 깊은 철학적 미스터리를 해결하지는 못했지만, 가공되지 않은 데이터와 단순한 순서 규칙만을 입력받은 기계가 인간 물리학자들이 수십 년간 유도해 낸 것과 동일한 수학적 시간의 화살을 '학습'할 수 있음을 보여줍니다. 이는 평형을 향한 경로가 매우 강력하고 구조적이어서, 신경망조차도 단순히 입자들이 튀어 다니는 모습을 관찰하는 것만으로도 그 경로를 찾아낼 수 있음을 시사합니다.