⚛️ quantum physics

Quantum Tensor Network Learning with DMRG

이 논문은 행렬 곱 상태(Matrix Product States)를 머신러닝을 위한 양자 상태로 구성하기 위해 전역 정규화 조건을 도입하며, 결과물인 텐서 네트워크를 최적화하는 데 있어 경사 하강법과 변형된 밀도 행렬 재정규화 군(DMRG) 알고리즘의 효과를 비교한다.

원저자: Gustav J L Jäger, Martin B Plenio, Hans-Martin Rieser

게시일 2026-08-20

📖 3 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Gustav J L Jäger, Martin B Plenio, Hans-Martin Rieser

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

물리학의 조용한 구석에서 과학자들이 거대한 집단 속에서 입자들이 어떻게 함께 행동하는지를 연구할 때, 불가능을 이해하기 위한 강력한 도구가 등장했습니다. 텐서 네트워크(tensor network)라고 알려진 이 도구는 원래 양자 입자의 복잡한 춤을 시뮬레이션하기 위해 설계되었으며, 연구자들이 물질이 어떻게 가장 안정적인 상태로 정착하는지를 이해하도록 돕습니다. 이것을 컴퓨터 메모리에 모든 세부 사항을 저장하려 하기보다, 방대한 규모의 복잡한 시스템을 관리 가능한 수준의 구성 블록들로 설명하는 방법이라고 생각하면 됩니다. 최근 과학자들은 이러한 아이디어를 머신러닝에 빌려와, 양자 세계를 지배하는 것과 동일한 효율적인 논리를 사용하여 컴퓨터가 패턴을 인식하도록 가르치고자 노력하고 있습니다. 그 목표는 현재 우리가 사용하는 장치와는 다른 원리로 작동하는 미래의 양자 컴퓨터에서도 실행할 수 있을 뿐만 아니라 강력하기까지 한 학습 시스템을 만드는 것입니다. 그러나 중요한 장애물이 존재합니다. 양자 시스템에는 가능한 모든 결과의 총 확률이 항상 1이 되어야 한다는 엄격한 규칙이 있는데, 표준적인 학습 방식은 종종 이 조건을 무시한다는 점입니다.

한 연구팀은 밀도 행렬 재규격화 군(Density Matrix Renormalization Group, DMRG)이라 불리는 특정 최적화 기법을 머신러닝에 적용하여 이 간극을 메우기 위해 나섰습니다. 양자 물리학의 핵심적인 기둥으로 오랫동안 자리 잡은 이 방법은 시스템의 구성 요소들을 하나씩 조정함으로써 최적의 구성을 찾아내는 것으로 잘 알려져 있습니다. 연구진은 이 접근 방식을 행렬 곱 상태(matrix product states)에 기반한 신경망 구조, 즉 데이터를 사슬 형태의 구조로 배열하는 일종의 텐서 네트워크에 적용했습니다. 그들의 주요 혁신은 양자 역학의 엄격한 정규화 규칙을 학습 과정에 직접 강제한 것이었습니다. 이는 컴퓨터가 데이터로부터 학습하기 위해 내부 파라미터를 조정할 때, 자연이 요구하는 것처럼 시스템의 수학적 표현이 완벽하게 균형을 유지하도록 강제했음을 의미합니다. 그들은 이를 실현하기 위해 두 가지 다른 방법을 테스트했습니다. 하나는 경사 하강법을 사용하여 시스템을 단계별로 조정하는 표준적인 방법이고, 다른 하나는 최적의 해를 찾기 위해 더 정교한 수학적 지름길을 사용하는 그들의 새로운 수정된 DMRG 알고리즘입니다.

자신의 아이디어가 효과가 있는지 확인하기 위해, 팀은 유명한 MNIST 데이터셋—컴퓨터가 0부터 9까지의 숫자를 식별하는 법을 배우는 표준 벤치마크—을 사용하여 필기체 숫자를 인식하도록 이 시스템들을 훈련시켰습니다. 그들은 5,000개의 이미지 하위 집합을 사용하였고, 이를 49픽셀의 작은 격자로 크기를 조정하였으며, 훈련 그룹과 테스트 그룹으로 나누었습니다. 결과는 양자 제약 조건 하에서 시스템이 어떻게 다르게 행동하는지를 극명하게 보여주었습니다. 정규화 제약 없이 표준 최적화 방법을 사용했을 때, 시스템은 94.7%의 테스트 정확도를 달양했습니다. 그러나 시스템의 내부 수학적 상태는 너무 커지고 불균형해져서 더 이상 유효한 양자 상태를 나타내지 못했습니다. 논문은 이 상태의 노름(norm)이 약 390만에 달했다고 언급했습니다. 연구진이 이 불균형한 상태를 규칙에 맞게 정규화하도록 강제했을 때, 손실 함수에서의 중첩은 매우 작아졌으며 약 0.5라는 사소한 손실로 이어졌습니다. 이는 비제약 방식이 높은 정확도 수치를 만들어냈을지라도, 결과적으로 생성된 모델은 유효한 양자 상태가 아니며, 학습된 특성을 잃지 않고는 양자 하드웨어에 직접 배포될 수 없음을 나타냅니다.

반면, 정규화 조건을 처음부터 강제한 방법들은 다르게 행동했습니다. 수정된 경사 하강법과 새로운 DMRG 방식 모두 양자 규칙을 준수하는 시스템을 만들어냈지만, 표준 방식만큼 높은 정확도를 달성하지는 못했습니다. 정규화된 경사 하강법과 수정된 DMRG는 모두 약 73%의 테스트 정확도에 도달했으며, 손실 값은 0.36 근처에서 머물렀습니다. 이 수치들은 비제약 방식보다 낮지만, 이는 실제로 양자 컴퓨터에서 실행될 수 있는 진정하고 안정적인 학습 과정을 나타냅니다. 연구진은 최적화 문제를 해결하기 위해 특정 수학적 압축 기술을 사용하는 수정된 DMRG 알고리즘이 정규화된 경사 하강법과 거의 동일하게 작동한다는 것을 발견했으며, 이는 양자에서 영감을 받은 지름길이 실행 가능한 대안임을 확인시켜 주었습니다.

연구는 현재의 형태로는 표준적인 고전적 방법들에 비해 덜 강력할지라도, 양자 규칙을 따르도록 강제하는 것이 미래를 위한 필수적인 단계라고 결론짓습니다. 비제약 방식의 높은 정확도는 양자 세계의 근본적인 법칙을 무시함으로써 달성된 것이며, 그 결과로 생성된 모델은 유효한 양자 상태가 아닙니다. 현재의 낮은 정확도를 수용함으로써, 연구진은 수학적으로 건전하며 양자 하드웨어에 준비된 토대를 구축했습니다. 그들은 성능을 개선하고 이러한 제약을 다루는 더 복잡한 방법들을 개발하기 위해 더 많은 작업이 필요하다는 점을 인정하지만, 나아갈 길은 명확합니다. 머신러닝을 양자 컴퓨터로 가져오기 위해서는, 알고리즘이 먼저 양자 영역의 엄격한 규칙을 존중하는 법을 배워야 합니다.

기술 요약: DMRG를 이용한 양자 텐서 네트워크 학습

문제 정의
텐서 네트워크(TN), 특히 행렬 곱 상태(Matrix Product States, MPS)는 양자 다체 물리학에서 영감을 받은 유망한 머신러닝 아키텍처로 부상했습니다. 표준적인 TN 접근 방식은 종종 최적화를 위해 경사 하강법을 활용하지만, 물리적 양자 상태에 요구되는 엄격한 정규화 조건을 충족하지 못하는 경우가 많습니다. 양자 역학에서 확률 보존 법칙은 양자 상태와 채널이 반드시 정규화되어야 함을 규정합니다. 본 논문은 이러한 정규화 제약 조건을 만족시키기 위해 TN 기반 머신러닝을 조정하는 과제를 다룹니다. 저자들은 국소 최적화 기법, 특히 밀도 행렬 재규격화 그룹(DMRG)과 그 기초가 되는 란초스(Lanczos) 방법론을 정규화된 양자 머신러닝의 맥락으로 전이하는 데 있어 발생하는 간극을 식정하였습니다.

방법론
저자들은 MPS 안사츠(ansatz)가 수축 시 정규화된 벡터를 생성하도록 제약하여, 결과적으로 유효한 양자 상태를 나타내도록 하는 프레임워크를 제안합니다. 이들의 핵심 접근 방식은 표준 최적화 알고리즘이 단위 노름(unit norm) 제약 조건( $\langle \Psi | \Psi \rangle = 1$ )을 준수하도록 수정하는 것입니다.

손실 함수 및 제약 조건:
저자들은 분류 작업을 위한 평균 제곱 오차 손실 함수 $L$ 을 정의합니다. 최적값이 $A^{-1}|b\rangle$ 가 될 수 있는 비제약 최적화와 달리, 정규화 제약 조건은 해가 힐베르트 공간의 단위 구(unit sphere) 위에 존재할 것을 요구합니다. 손실 함수는 다음과 같이 공식화됩니다:
$L = \frac{1}{2} + \frac{1}{2N} \sum_{i=1}^N \left[ \langle \Psi | (|d_i\rangle\langle d_i|_D \otimes 1_B) | \Psi \rangle - 2\text{Re}(\langle \Psi |_{DB} (|d_i\rangle_D \otimes |l_i\rangle_B)) \right]$
여기서 $|d_i\rangle$ 는 입력 데이터이고 $|l_i\rangle$ 는 레이블입니다.
정규화를 고려한 경사 하강법:
저자들은 정규화 제약 조건을 처리하기 위해 경사 하강법 알고리즘을 적응시켰습니다. 단순한 업데이트 대신, 이들은 투영 경사 하강법(projected gradient descent) 접근 방식을 사용합니다. 그래디언트 단계 $|n\rangle = |\Psi\rangle - \alpha |g\rangle$ 를 계산한 후, 상태를 정규화합니다: $|\Psi'\rangle = |n\rangle / \sqrt{\langle n|n\rangle}$ . 효율성을 최적화하기 위해, 저자들은 손실에 대한 $\alpha$ 의 미분을 0으로 설정하여 최적의 스텝 사이즈 $\alpha$ 에 대한 조건을 도출하고, 뉴턴 반복법(Newton iterations)을 사용하여 $\alpha$ 를 구합니다.
수정된 DMRG 알고리즘:
크릴로프 부공간(Krylov subspace) 방법(예: DMRG)이 단순 경사 하강법보다 일반적으로 더 효과적이라는 점을 인식하여, 저자들은 수정된 DMRG 알고리즘을 개발했습니다. 표준 DMRG는 에너지 기대값을 최소화하지만, 머신러닝 손실 함수(식 3)의 선형 항을 본질적으로 고려하지는 않습니다.

후처리 단계: 란초스 알고리즘이 국소 유효 해밀토니안 $A_s$ 를 삼각 행렬 형태인 $A'_s$ 로 압축한 후, 저자들은 정규화된 상태의 그래디언트가 단위 구에 수직이 되도록 하는 스케일링 인자 $x$ 를 구하는 후처리 단계를 도입합니다.
해석적 해법: 문제를 압축된 행렬의 고유기저(eigenbasis)로 분해함으로써, 저자들은 정규화 제약 조건이 충족되도록 하는 $x$ 에 대한 방정식(식 6)을 도출합니다. 이들은 $x < 0$ 인 경우 유일한 전역 최솟값이 존재함을 증명하고, 수렴을 보장하기 위해 신중하게 초기화된 뉴턴 반복법을 사용하여 이를 해결합니다.

주요 기여

정규화 조건: MPS 안사츠에 전역 정규화 조건을 도입하여, 결과 벡터가 유효한 양자 상태로 매핑될 수 있도록 보장했습니다.
알고리즘 적응: 정규화 제약 조건 하에서 작동하도록 경사 하강법과 DMRG/란초스 알고리즘을 모두 수정했습니다.
비교 분석: 표준 켤레 경사 하강법, 정규화된 경사 하강법, 그리고 제안된 수정된 DMRG 방법 간의 직접적인 비교를 수행했습니다.

실험 결과
방법론의 타당성은 MNIST 데이터셋의 일부(5,000개 이미지, 7x7로 재조정)를 통해 검증되었습니다(훈련용 4,000개, 테스트용 1,000개). 모델은 최대 결합 차원(bond dimension) 20으로 세 번의 전체 2-사이트 스윕(two-site sweeps) 동안 최적화되었습니다.

성능: 표준 **켤레 경사 하강법(conjugate gradient descent)**은 가장 높은 정확도(테스트 정확도 94.70%)와 가장 낮은 손실(0.08680)을 달성했습니다. 그러나 결과로 나온 MPS의 노름은 $\approx 3.9 \times 10^6$ 이었습니다. 사후에 정규화했을 때, 이는 소멸하는 중첩(vanishing overlaps)과 $\approx 0.5$ 의 사소한 손실을 초래하여, 양자 배포에 있어 모델을 무용지물로 만들었습니다.
정규화된 방법들: 정규화된 경사 하강법과 수정된 란초스(DMRG) 방법은 동일한 훈련 및 테스트 손실( $\approx 0.36$ )과 정확도( $\approx 73\%$ )를 나타냈습니다.
관찰 사항: 정규화 조건의 도입은 결과에 상당한 영향을 미쳤으며, 비제약 켤레 경사 방법과 비교하여 정확도를 감소시켰으나, 모델이 물리적으로 유효(정규화됨)하도록 보장했습니다.

의의 및 주장
본 논문은 정규화 조건을 구현하는 것이 텐서 네트워크 알고리즘을 양자 컴퓨터에 배포하기 위해 필요한 단계라고 주장합니다. 저자들은 이 연구를 보다 효율적인 양자 머신러닝을 위해 텐서 네트워크 방법론을 적응시키는 과정으로 위치시킵니다.

그러나 저자들은 현재의 성능에 대해 겸허한 태도를 보입니다. 그들은 결과적으로 이러한 정규화된 방법들의 성능이 "다른 현대적인 알고리즘들과 경쟁할 수 있을 만큼 높아져야 한다"고 명시적으로 밝히고 있습니다. 또한, (엄격한 정규화를 동일한 방식으로 강제하지 않는) 고전적 텐서 네트워크 방법들과의 동등한 수준에 아직 도달하지 못했음을 인정합니다. 논문은 양자 컴퓨터로 머신러닝을 효과적으로 가져오기 위해, 양자 채널과 같은 더 복적인 정규화 조건에 대한 연구와 평가 방법의 개선을 포함한 추가 연구가 필요하다고 결론짓습니다.

유사한 논문