Notes on algebraic perspective on neural network conformal theories

현대 물리학의 광활한 풍경 속에서, 우주의 근본적인 규칙들이 수없이 많은 미세한 구성 요소들의 행동으로부터 어떻게 발현되는지를 이해하려는 지속적인 노력이 이어지고 있습니다. 물리학자들이 이러한 규칙을 연구하는 강력한 방법 중 하나는 공형 장론(conformal field theory)이라 불리는 프레임워크를 사용하는 것인데, 이는 얼마나 확대하거나 축소하더라도 동일하게 보이는 시스템을 설명합니다. 이러한 이론들은 대개 '힐베르트 공간(Hilbert space)'이라는 개념 위에 구축됩니다. 이는 모든 가능한 상태가 물리적 대상이 양(+)의 질량을 갖는 것처럼, 양(+)의 측정 가능한 크기를 갖는 수학적 무대입니다. 이러한 양의 성질은 이론이 현실 세계에서 타당하게 작동하도록 보장하며, 확률이 음수가 되거나 터무니없어지는 것을 방지합니다. 그러나 자연계는 때때로 이러한 표준 규칙을 깨뜨리는 시스템을 제시하며, 이는 '비유니터리(non-unitary) 이론'으로 알려져 있습니다. 수십 년 동안 이러한 시스템은 표준적인 수학적 도구들이 양의 크기에 대한 보증 없이 붕괴해 버리기 때문에 연구하기가 매우 어려웠습니다.

최 최근, 이 추상적인 물리 세계와 실용적인 인공지능 세계 사이에 새로운 가교가 건설되었습니다. 연구자들은 매우 단순한 신경망들—인간의 뇌에서 영감을 얻은 컴퓨터 모델—의 거대한 집합을 가져와 그 행동을 평균화하면, 그 결과 나타나는 패턴이 이러한 이색적인 물리 이론들의 행동을 모사한다는 사실을 발견했습니다. '신경망-장론 대응(neural network-field theory correspondence)'이라고 알려진 이 연결 고리는, 신경망의 내부 설정에 대한 통계적 특성이 복잡한 양자 장과 정확히 동일한 수학적 구조를 생성할 수 있음을 시사합니다. 이는 물리 법칙의 일반적인 운동 방정식에 의존하는 대신, 신경망 파라미터의 통계에 기반하여 물리학을 연구하는 새롭고 비전통적인 방법을 제공합니다.

한 연구팀은 이 연결 고리에 대해 더욱 면밀히 조사하였으며, 특히 비유니터리 공형 장론을 생성하는 이러한 신경망 이론의 한 부류에 초점을 맞추었습니다. 이들은 양의 성질에 대한 표준 규칙이 실패하고 일반적인 수학적 무대가 사라지는 듯 보이는 까다로운 시스템들입니다. 연구진은 이 이론들의 기저 구조, 즉 시스템의 서로 다른 부분들이 서로 어떻게 관계를 맺는지, 그리고 표준적인 양의 규칙이 깨졌을 때도 여전히 일관된 수학적 프레임워크를 구축할 수 있는지 이해하고자 했습니다. 그들은 특히 이전 연구에서 제기되었던 난제, 즉 이론이 입자 간의 상호작용에 대한 일관된 패턴을 생성함에도 불구하고, 구별하기 어려운 동일하거나 '퇴화된(degenerate)' 상태를 무수히 많이 포함하고 있는 것처럼 보이는 문제에 주목했습니다. 이것이 모델의 결함인지, 아니면 물리학의 진정한 특징인지가 불분명했습니다.

이를 해결하기 위해 팀은 시스템의 서로 다른 부분들이 서로 얼마나 겹치는지를 측정하는 도구인 수학적 '그람 행렬(Gram matrix)'을 검토했습니다. 표준적인 이론에서 이 행렬은 반드시 양의 정치성(positive definite)을 가져야 하며, 이는 항상 양의 값을 산출하여 상태들이 서로 구별되고 잘 정의되어 있음을 보장합니다. 연구진은 자신들의 신경망 이론의 경우, 신경망의 파라미터 공간 내에서 측정했을 때는 이 행렬이 실제로 양의 정치성을 가진다는 것을 발견했습니다. 이는 신경망의 맥락 안에서는 모든 연산자가 구별 가능하고 잘 정의되어 있음을 의미합니다. 그러나 시공간의 관점에서 이론을 바라보았을 때, 이 양의 성질은 사라졌습니다. 파라미터 공간에서 구별되었던 상태들은 시공간 기술에서는 혼합되고 음수가 되었으며, 이는 이들이 표준적인 힐베르트 공간으로는 설명될 수 없는 비유니터리 이론임을 확인시켜 주었습니다.

연구팀은 이러한 이론들을 설명하기 위해 새로운 대수적 프레임워크를 구축했습니다. 모든 상태에 대해 양의 크기를 요구하는 표준 힐베르트 공간에 의존하는 대신, 그들은 특정 방식으로 균형을 이루는 한 양(+)과 음(-)의 크기를 모두 허용하는 더 유연한 수학적 무대인 '크레인 공간(Krein space)'을 기반으로 한 구조를 구축했습니다. 그들은 엄격한 양의 성질이 없는 상황에서도, 시공간의 서로 다른 지점들 사이의 상관관계가 여전히 공형 장론의 대칭성을 따른다는 것을 보여주었습니다. 또한, 이전 연구에서 발견된 무수히 많은 퇴화된 연산자들의 타워가 단순한 인위적 오류가 아니라, 신경망 파라미터들이 평균화되는 과정에서 나타나는 자연스러운 결과임을 입증했으며, 이는 수치적 경향과 무한 극한에 대한 추측에 의해 뒷받침되었습니다. 연구진은 이 연산자들이 서로 정밀한 방식으로 연관되어 있으며, 공형 군(conformal group)의 대칭성을 사용하여 설명할 수 있는 일관된 대수적 구조를 형성하고 있음을 보여주었습니다. 다만, 이 구조의 완전한 크레인 양의 성질(Krein positivity)을 증명하는 것은 도출된 사실이라기보다 하나의 가정임을 언급했습니다.

가장 중요한 발견 중 하나는 '혼합된' 상호작용에 관한 난제를 해결한 것이었습니다. 이전 연구들에서는 퇴화된 연산자들 사이의 상호작용을 어떻게 계산할지가 불분명했습니다. 연구팀은 단순히 연산자들을 곱하는 표준적인 방식이 여기서는 작동하지 않는다는 것을 보여주었습니다. 대신, 이 상호작용을 이해하는 올바른 방법은 이를 '루트(root)' 연산자들의 주변 전개로 보는 것이며, 서로 다른 상태들 사이의 연결은 신경망 파라미터의 특정 통계적 분포에 의해 매개된다는 것입니다. 그들은 신경망 파라미터의 통계적 모멘트에 대한 제약 조건이 이론의 일관성과 깊게 연결되어 있음을 발견했습니다. 만약 파라미터의 분포가 올바르게 선택된다면, 이론은 표준적인 물리적 힐베르트 공간의 양의 성질이 결여되어 있음에도 불구하고 일관성을 유지할 수 있습니다.

연구진은 또한 '장(field)의 대수'와 '상관함수의 대수' 사이의 구분을 명확히 했습니다. 신경망 구축 과정에서 평균화되기 전의 장들은 단순한 곱셈 규칙을 따릅니다. 그러나 물리적 예측을 얻기 위해 평균화를 수행하고 나면, 결과적인 상관관계는 훨씬 더 풍부하고 복 복잡한 구조를 드러냅니다. 이 구조는 공형 대칭성과 신경망 파라미터가 분포되는 특정한 방식에 의해 정의됩니다. 연구팀은 이 대수적 구조가 견고하며, 표준 힐베르트 공간의 존재를 가정하지 않고도 정의될 수 있음을 보여주었습니다. 대신, 그들은 공형 장론의 근본 원리인 상태-연산자 대응(state-operator correspondence)을 사용하여 상관함수로부터 직접 대수를 정의했습니다.

결론에서 저자들은 이 이론들이 표준적인 유니터리 양자 장론의 틀에는 맞지 않지만, 수학적으로 망가진 것은 아니라고 강조했습니다. 이들은 표준 힐베르트 공간 없이도 연구되고 이해될 수 있는 유효한 대수적 구조로서 존재합니다. 이 연구는 표준 힐베르트 공간을 필요로 하지 않고 상관함수로부터 직접 이 이론들의 대수를 구성하는 레시피를 제공합니다. 이는 이전에 다루기 너무 어렵다고 여겨졌던 더 넓은 범위의 물리 시스템들을 연구할 수 있는 문을 열어줍니다. 연구진은 이 대수적 구조의 존재를 확립했지만, 이 시스템들이 국소적인 시공간 측면에서 어떻게 행동하는지에 대한 전체적인 세부 사항은 여전히 탐구 중이라고 언급했습니다. 그들은 신경망의 수가 매우 많아지는 '대-N 극한(large-N limit)'이 이러한 아이디어들을 테스트할 수 있는 깨끗한 환경을 제공한다고 제안했습니다.

궁극적으로, 이 작업은 인공지능의 도구가 표준적인 물리학의 경계를 벗어난 복잡한 물리 이론을 구축하고 분석하는 데 사용될 수 있음을 보여줍니다. 신경망 파라미터를 근본적인 재료로 취급함으로써, 연구진은 비유니터리 공형 장론에 대한 일관된 수학적 설명을 구축할 수 있었습니다. 그들은 겉으로 보이는 퇴화와 양의 성질 결여가 오류가 아니라, 크레인 공간을 사용하여 설명될 수 있는 새로운 종류의 물리 이론의 특징임을 보여주었습니다. 이 발견은 가능한 물리 이론의 지평이 생각보다 훨씬 넓다는 것을 시사하며, 머신러닝과 이론 물리학의 교차점이 자연의 근본 법칙을 탐구하는 강력한 새로운 방법을 제공한다는 것을 보여줍니다. 이 연구는 표준적인 양의 성질이 없는 상황에서도 신경망의 통계로부터 일관되고 구조화된 이론이 발현될 수 있음을 확인시켜 주며, 복잡한 시스템 속에 물리 법칙이 어떻게 인코딩될 수 있는지에 대한 새로운 관점을 제공합니다.