The parliament of observers - Against the observable axiom of quantum mechanics

현대 물리학은 우주의 가장 작은 것들의 행동을 기술하는 수학적 토대 위에 세워져 있습니다. 거의 한 세기 동안, 이 미시 세계에 대해 우리가 가진 가장 성공적인 이론은 양자 역학이었습니다. 양자 역학은 원자와 입자의 행동을 상상할 수 없을 정도로 정밀하게 예측하며, 이를 통해 우리는 레이저, 컴퓨터, 의료 영상 장치 등을 만들 수 있었습니다. 이 이론의 핵심에는 우리가 측정할 수 있는 물리적 세계와 우리가 그것을 기술하기 위해 사용하는 추상적 수학을 연결하는 특정한 규칙이 있습니다. 이 규칙은 전자의 스핀이나 광자의 에너지와 같이 우리가 측정할 수 있는 모든 물리량이 '자기 수반 연산자(self-adjoint operator)'라고 불리는 특정한 유형의 수학적 대상과 직접적으로 대응된다고 명시합니다. 표준적인 관점에서 이러한 수학적 대상들은 실험실에서 우리가 관찰하는 물리적 실체들의 완벽하고 일대일인 대표자입니다.

하지만 물리학자 마르쿠스 프렘스(Markus Frembs)와 안드레아스 되링(Andreas Döring)의 새로운 분석은 이 근본적인 규칙이 깨졌을 수도 있음을 시사합니다. 그들은 양자 역학의 수학이 예측을 하는 데는 놀라울 정도로 잘 작동하지만, 이러한 수학적 대상들이 우리가 측정할 수 있는 모든 것을 나타내는 일관되고 통일된 목록으로서 기능할 수 있다는 생각은 사실 불가능하다고 주장합니다. 그들의 연구는 양자 역학의 예측이 틀렸다고 주장하는 것이 아니라, 오히려 물리적 측정 행위와 우리가 사용하는 수학적 기호 사이의 연결 방식을 우리가 현재 이해하는 방식이 결함이 있다고 주장하는 것입니다. 만약 그들의 주장이 타당하다면, 이는 우리가 의미를 잃지 않고는 담아낼 수 없는 일련의 물리적 절차들에 대해 하나의 단일하고 경직된 수학적 구조를 강요해 왔음을 의미합니다.

이 문제를 이해하려면 먼저 현실 세계에서 측정이 실제로 무엇인지 살펴보아야 합니다. 과학자가 실험을 수행할 때, 그들은 특정 장비의 배치를 설정하고, 결과를 읽는 특정한 방법을 선택하며, 데이터를 기록합니다. 이 전체적인 설정이 바로 저자들이 '실험적 맥락(experimental context)'이라고 부르는 것입니다. 결정적으로, 과학자는 이 설정을 다른 사람들에게 전달할 수 있습니다. 그들은 결과에 어떻게 라벨을 붙였는지, 어떻게 기기를 교정했는지, 그리고 한 측정에서 다른 측정으로 어떻게 옮겨갔는지를 명확하게 기록할 수 있습니다. 이러한 실험의 세부 사항을 명확하고 일관된 언어로 기록하고 소통할 수 있는 능력은 '일관된 기록 가능성(consistent recordability)'이라 불리는 것으로, 저자들이 말하는 물리 이론의 기본 요구 사항입니다. 만약 우리가 무엇을 측정하고 있는지, 그리고 어떻게 측정하고 있는지에 대해 합의할 수 없다면, 우리는 일관된 과학을 구축할 수 없습니다.

양자 역학의 표준 규칙은 이 복잡한 현실을 단순화하여, 이 모든 서로 다른 실험적 설정들을 단일한 수학적 연산자 집합으로 직접 매핑할 수 있다고 말합니다. 이 관점에서는 만약 두 가지 서로 다른 실험이 동일한 물리량을 측정하도록 설계되었다면, 사용된 구체적인 장비와 상관없이 수학적으로는 동일하게 취급됩니다. 저자들은 이러한 단순화가 너무 공격적이라고 주장합니다. 그들은 가능한 모든 측정의 전체 집합을 이러한 수학적 구조로 매핑하려고 할 때 논리적 모순에 직면하게 된다는 것을 보여줍니다. 수학적 대상들을 모두 합쳐 놓으면, 실제 과학자들이 수행해야 하는 것과 같은 일관된 라벨링과 소통이 불가능해집니다.

연구진은 이러한 모순이 시스템이 3차원 이상의 복잡성을 가질 때, 즉 거의 모든 흥미로운 양자 시스템에서 발생한다는 것을 입증했습니다. 그들은 만약 표준 규칙이 참이라고 가정한다면, 어떤 수학적 대상이 어떤 물리적 측정을 나타내는지 더 이상 확신할 수 없는 지점에 도달하게 된다는 것을 증라했습니다. 이는 마치 도서관에 책들이 배치되어 있는데, 그 이야기 자체는 완벽하게 명확함에도 불구하고 어떤 책이 어떤 이야기인지 알 수 없는 상황과 같습니다. 수학적 구조는 서로 다른 실험적 맥락들을 병합하여 각 측정의 고유한 정체성을 지워버리는 방식으로 작동합니다. 이는 '관측 가능량의 대수(algebra of observables)', 즉 우리가 측정할 수 있는 모든 것의 수학적 목록이 물리적 세계를 충실히 나타내는 단일하고 일관된 실체로서 존재할 수 없음을 의미합니다.

이 발견은 양자 역학의 성공을 어떻게 해석할 것인가에 대한 재평가를 요구합니다. 이 이론은 100년 동안 믿기 힘들 정도로 정확했지만, 저자들은 이러한 정확성이 기초의 더 깊은 불일치를 숨기고 있을 수 있다고 제안합니다. 문제는 계산이나 예측에 있는 것이 아니며, 그것들은 여전히 유효합니다. 문제는 그 계산들이 무엇을 나타내는지에 대한 해석에 있습니다. 표준적인 관점은 수학적 연산자가 그 대상 자체라고 가정하지만, 저자들은 연산자가 제한된 맥락 내에서는 잘 작동하지만 이를 완전하고 통일된 묘사로 보려고 할 때는 실패하는 도구일 뿐이라고 주장합니다. 수학적 구조는 실제 물리적 측정의 유동적이고 맥락 의존적인 성격을 수용하기에는 너무 경직되어 있습니다.

이 연구의 함의는 양자 이론의 초기 시절과 그 창시자들 사이의 논쟁으로 거슬러 올라갑니다. 저자들은 자신들의 결과가 우리가 수학적 형식주의와 그것이 기술하는 물리적 실체 사이에 항상 명확한 구분을 두어야 한다는 아이디어를 뒷받침한다고 제안합니다. 그들은 수학이 실험실에서 일어나고 있는 일의 전체 이야기를 말해준다고 단순히 가정할 수 없다고 주장합니다. 대신, 우리는 실험적 맥락의 모든 구체적인 세부 사항과 그 세부 사항을 소통할 수 있는 능력이 우선적임을 인정해야 합니다. 수학적 대상은 부차적인 것이며, 계산에는 유용하지만 물리적 세계를 비추는 완벽한 거울은 아닙니다. 이러한 관점은 비록 기저의 이론은 기이할지라도 실험 결과는 항상 명확한 고전적 용어로 설명되어야 한다고 주장했던 초기 물리학자들의 견해와 일맥상통합니다.

궁극적으로, 이 논문은 양자 역학을 뒤엎는 것이 아니라, 우리가 그 기본 구성 요소를 생각하는 방식을 도전하는 것입니다. 이는 물리적 측정과 수학적 연산자를 연결하는 규칙인 '관측 가능량 공리(observable axiom)'가 완벽한 다리가 아님을 시사합니다. 다리는 존재하며 이론에서 실험으로 건너갈 수 있게 해주지만, 그것은 단단하고 변하지 않는 구조가 아닙니다. 그것은 실용적인 목적을 위해 충분히 잘 작동하는 구조이지만, 우리가 측정하는 전체 범위를 이해하려고 할 때 면밀한 조사 아래에서 무너지는 구조입니다. 저자들은 우리가 수학과 기계 사이의 관계에 대해 새로운 방식으로 생각해야 한다고 결론짓습니다. 즉, 실험적 맥락을 지우려 하기보다 그 맥락을 존중하는 방식이 필요합니다. 이것은 이론의 실패가 아니라, 그 이론이 실제 현실에 대해 실제로 무엇을 말하고 있는지에 대한 우리의 이해를 정교화하라는 부름입니다.