Free entropy and quantum minimum description length

정보 과학의 광활한 풍경 속에는 우리가 시스템에 대해 알고 있는 것과 그것을 저장하는 데 필요한 공간 사이의 근본적인 긴장이 존재합니다. 수십 년 동안 과학자들은 이 현상을 측정하기 위해 엔트로피라는 개념에 의존해 왔습니다. 고전적인 세계에서 엔트로피는 동전 던지기나 주사위 굴리기와 같은 무작위적인 사건을 기술하는 데 얼마나 많은 정보가 필요한지를 알려줍니다. 물리학자들이 입자가 여러 상태로 동시에 존재할 수 있는 양자 영역으로 들어갔을 때, 그들은 이 아이디어를 '폰 노이만 엔트로피(von Neumann entropy)'라고 불리는 새로운 형태로 변형하여 적용했습니다. 이 양자 버전은 알려진 양자 상태로부터 생성된 데이터를 압축하는 데 필요한 메모리가 얼마인지 이해하는 데 있어 골드 스탠다드가 되었습니다. 이는 상태가 완전히 알려져 있을 때는 완벽하게 작동하지만, 상태를 부분적으로만 알 때, 즉 시스템의 에너지 준위는 알지만 내부 구조의 방향(orientation)은 모를 때 벽에 부딪힙니다. 이 간극은 다음과 같은 질문을 남겼습니다: 만약 시스템의 내부 정렬이 미스터리일 때, 양자 시스템을 기술하는 비용을 측정하는 다른 종류의 엔트로피가 존재할까?

한 연구팀이 순수 수학과 양자 물리학 사이의 간극을 메움으로써 이 질문에 답했습니다. 그들은 추상적인 대수적 구조를 연구하기 위해 처음 발명된 수학적 도구인 '자유 엔트로피(free entropy)'를 가져와, 이것에 처음으로 구체적인 물리적 의미를 부여했습니다. 연구진은 특정 시나리오에 집중했습니다: 당신이 알려진 에너지 준위를 가진 양자 시스템을 가지고 있지만, 그 준위들이 공간상에서 어떻게 정렬되어 있는지는 모르는 상황을 가정해 봅시다. 당신은 이 시스템을 나중에 재현할 수 있도록 많은 복사본을 저장해야 합니다. 연구진은 이 작업을 수행하는 데 필요한 메모리 양이 표준 양자 엔트로피에 의해 결정되는 것이 아니라, 이 새롭게 정의된 '물리적 자유 엔트로피'에 의해 결정된다는 것을 발견했습니다. 그들은 메모리 비용이 시스템이 다양한 방향으로 회전할 때 취할 수 있는 '궤도(orbit)'의 크기와 직접적으로 연결되어 있으며, 자유 엔트로피가 놀라운 정밀도로 이 궤도의 크기를 측정한다는 것을 증명했습니다.

이야기는 고전 정보 이론의 친숙한 개념인 '전형적 집합(typical set)'에서 시작됩니다. 만약 당신이 무작위적인 글자들로 이루어진 긴 문자열을 적는다면, 글자의 구체적인 순서가 다르더라도 대부분의 생성된 문자열은 전체적인 구성 면에서 매우 유사해 보일 것입니다. 이러한 유사한 문자열의 개수는 데이터를 저장하는 데 얼마나 많은 공간이 필요한지를 알려줍니다. 양자 세계에서도 유사한 논리가 적용되지만, 여기서 '문자열'은 양자 상태로 대체됩니다. 표준적인 접근 방식은 상태에 대한 정확한 레시피를 알고 있다고 가정합니다. 그러나 실제 상황에서는 성분(고윳값, 즉 에너지 준위)은 알지만, 혼합 순서(고유 기저, 즉 방향)는 모를 수 있습니다. 이것이 연구진이 해결하고자 했던 퍼즐입니다. 그들은 다음과 같이 물었습니다: 만약 양자 상태의 에너지 준위는 알지만 그 방향은 모른다면, 대량의 양자 상태 복사본을 완벽하게 재구성할 수 있도록 저장하는 데 얼마나 많은 양자 메모리가 필요할까?

답을 찾기 위해 연구진은 비가환 변수를 다루는 '자유 확률론(free probability)'이라는 수학적 프레임워크를 활용했습니다. 이 프레임워크에는 '자유 엔트로피'라고 불리는 양이 존재합니다. 오랫동안 이 양은 대수학의 추상적인 문제를 해결하는 데 유용한 순수 수학적 대상이었으며, 명확한 물리적 해석이 결여되어 있었습니다. 연구진은 이 양을 '유한 해상도(finite resolution)'의 관점에서 바라봄으로써, 즉 얼마나 많은 서로 다른 양자 상태가 특정 오차 범위 내에 들어맞는지를 질문함으로써, '물리적 자유 엔트로피'를 정의할 수 있다는 것을 깨달았습니다. 이 새로운 정의는 타겟 상태와 유사해 보이는 행렬 구성(matrix configuration)의 개수를 계산합니다. 이는 동일한 에너지 준위를 공유하는 가능한 상태들의 공간의 부피를 측정하는 방법입니다.

연구팀은 이 아이디어를 테스트하기 위해 사고 실험을 설계했습니다. 인코더가 알려진 에너지 준위를 가졌으나 방향은 알 수 없는 양자 상태의 복사본들을 많이 받는다고 상상해 봅시다. 인코더는 이 복사본들을 더 작은 메모리 공간으로 압축해야 합니다. 그 후 디코더는 압축된 데이터를 받아 원래의 상태를 높은 정확도로 재구성해야 합니다. 연구진은 복사본의 수가 매우 커짐에 따라 이 작업에 필요한 최소 메모리 양을 계산했습니다. 그들은 메모리 비용이 복사본의 수에 따라 로그 함수적으로 증가하며, 이 증가율은 가능한 방향들의 공간의 차원에 의해 결정된다는 것을 발견했습니다. 결정적으로, 그들은 필요한 정확한 메모리 양이 새로 정의된 물리적 자유 엔트로피에 직접 비례한다는 것을 보여주었습니다. 그 관계는 매우 정밀하여, 물리적 자유 엔트로피를 2로 나누고 여기에 시스템의 크기에만 의존하는 작은 상수를 더함으로써 메모리 비용을 계산할 수 있습니다.

이 발견은 자유 엔트로피에 새로운 운영적 의미를 제공합니다. 표준 폰 노이만 엔트로피가 상태를 완전히 알 때의 압축 한계를 알려주는 것처럼, 이 물리적 자유 엔트로피는 방향을 모를 때의 한계를 알려줍니다. 연구진은 뚜렷한 에너지 준위를 가진 시스템의 경우, 메모리 비용이 에너지 준위 사이의 '척력(repulsion)'에 의해 주도된다는 것을 보여주었는데, 이는 자유 엔트로피의 수학적 공식에서 자연스럽게 나타나는 특징입니다. 이 척력은 에너지 준위가 서로 멀리 떨어져 있는 상태일수록 방향을 모를 때 이를 설명하기 위해 더 많은 메모리가 필요함을 의미하는데, 이는 그들을 배치할 수 있는 서로 다른 방식이 더 많기 때문입니다. 또한 연구팀은 이 결과가 외부 참조 시스템과의 연결을 보존하는 작업이 아니라, 상태 자체를 저장하는 작업에 특화되어 있다는 점을 명확히 하여, 기존의 양자 압축 방법들과 차별화했습니다.

이 연구의 함의는 단순히 메모리 비트를 세는 것을 넘어섭니다. 연구진은 이 새로운 이해가 양자 설정에서 시간이나 방향을 측정하는 데 필수적인 '양자 참조 프레임(quantum reference frames)'을 설계하는 데 도움이 될 수 있다고 제안합니다. 만약 우리가 '양자 스톱워치'나 보편적인 방향 참조를 저장하고 싶다면, 가능한 모든 방향에 대해 그것을 프로그래밍하는 데 필요한 메모리가 얼마인지 알아야 합니다. 물리적 자유 엔트로피는 이 비용에 대한 정확한 공식을 제공합니다. 나아가, 이 작업은 기존의 이론을 보완하는 더 넓은 양자 정보 이론의 가능성을 암시합니다. 표준 양자 엔트로피가 단일 상태 내에 포함된 정보에 초점을 맞춘다면, 자유 엔트로피는 특히 혼돈스럽거나 시간에 따라 진화하는 시스템에서 서로 다른 상태들 사이의 관계에 포함된 정보를 포착하는 것처럼 보입니다.

연구진은 자신들의 발견이 알려진 뚜렷한 에너지 준위를 가진 상태들에 국한된다는 점을 주의 깊게 명시했습니다. 그들은 에너지 준위가 알려지지 않았거나 준위가 겹치는 퇴화(degenerate) 상태와 같은 모든 가능한 양자 상태에 대해 문제를 해결했다고 주장하지 않았습니다. 그러나 연구 대상이 된 상태 클래스에 대해서는, 메모리 비용과 자유 엔트로피 사이의 연결이 수학적으로 엄격합니다. 그들은 메모리 비용의 주항(leading term)이 정확히 물리적 자유 엔트로피의 절반임을 입증했으며, 나머지 항들은 복사본의 수가 증가함에 따라 무시할 수 있는 작은 보정치임을 보여주었습니다. 이 결과는 자유 엔트로피가 단순한 수학적 호기심이 아니라, 우리의 지식이 불완전할 때 양자 정보를 어떻게 저장하고 처리하는지를 지배하는 근본적인 양이라는 것을 확인시켜 줍니다.

결국, 이 논문은 단순히 숫자를 계산하는 것을 넘어 두 개의 분리된 세계를 연결합니다. 추상 수학의 도구를 가져와 그것이 양자 정보 처리에서의 실제적인 물리적 한계를 설명한다는 것을 보여주었습니다. 연구진은 양자 시스템의 방향을 모를 때, 그것을 저장하는 비용은 시스템의 가능한 회전들의 기하학적 구조에 의해 지배되며, 자유 엔트로피가 이 기하학을 완벽하게 측정한다는 것을 보여주었습니다. 이러한 통찰은 새로운 종류의 정보 이론, 즉 방향의 불확실성을 고려하고 양자 프로그래밍의 메모리 비용을 설명하는 정밀한 언어를 제공하는 이론으로 가는 문을 열어줍니다. 이 연구는 대수적 문제를 해결하기 위해 발명된 개념이 어떻게 양자 우주의 저장 한계를 이해하는 열쇠가 될 수 있는지를 보여주는 학제 간 사고의 힘을 입증하는 증거입니다.