Unbounded Operators, Physicality, and Modality in Quantum Theories

물리학자들이 양자 세계를 설명하는 표준적인 방식에서, 모든 것은 힐베르트 공간(Hilbert space)이라 불리는 거대하고 추상적인 수학적 풍경 위로 매핑됩니다. 이 공간을 양자 시스템이 가질 수 있는 모든 가능한 구성을 담고 있는 거대한 용기라고 생각해 보십시오. 이 용기 안에서 게임의 규칙은 공리로서 기술됩니다. 즉, 시스템의 모든 가능한 상태는 이 공간의 한 점이며, 위치나 에너지와 같이 측정 가능한 모든 물리량은 그 점들에 작용하는 특정한 수학적 도구로 표현됩니다. 수십 년 동안 이 프레임워크는 양자 역학의 근간이 되어, 원자와 입자의 행동을 놀라울 정도로 정확하게 예측할 수 있게 해주었습니다. 그러나 이 수학적 용기의 구석에는 오랫동안 끈질긴 문제가 도사리고 있었습니다. 입자가 어디에 있는지 또는 에너지가 얼마인지와 같은 가장 근본적인 것들을 측정하는 데 사용되는 도구들은 '유계가 아닙니다(unbounded)'. 쉽게 말해, 이 도구들은 이 용기 안의 모든 점에 적용될 때 파괴되지 않고 적용될 수 없다는 것을 의미합니다. 공간 내의 어떤 점들은 이러한 특정 도구들로 측정하려고 하면 결과값이 무한대로 치솟거나 정의되지 않게 됩니다. 이는 일부 연구자들로 하여금 이 용기 자체가 너무 커서, 자연이 결코 실현할 수 없는 '비물리적인(unphysical)' 상태들로 가득 차 있는 것이 아닌지, 그리고 진정한 물리적 세계는 이 장대한 수학적 공간의 훨씬 더 작고 제한된 부분집합이 아닌지 의문을 갖게 만들었습니다.

이 질문은 최근 물리적 실재의 본질에 대한 논쟁을 다시 불러일으켰습니다. 만약 수학적 형식주의가 실험실에서 구현하는 것이 불가능해 보이거나 무한한 값을 초래하는 상태들을 포함하고 있다면, 우리는 그것들을 버려야 할까요? 뮌헨 루드비히 맥시밀리언 대학교의 물리학자 쭝하오 루(Zhonghao Lu)의 최근 논문은 우리가 더 크고 '순수한' 물리적 상태의 집합을 전체 수학적 구조로부터 단순히 깎아낼 수 있다는 생각에 정면으로 도전하며 이 문제를 다룹니다. 루는 무엇이 물리적이고 무엇이 물리적이지 않은지에 대해 명확한 선을 긋고자 하는 시도가 함정이라고 주장합니다. 그는 만약 우리가 특정하고 더 작은 그룹의 상태만을 유일한 '실제' 상태로 식별하려고 한다면, 피할 수 없는 혼란과 임의적인 선택에 직면하게 된다고 제안합니다. 예를 들어, 평균 위치가 무한대이기 때문에 어떤 상태가 비물리적이라고 결정한다면, 우리는 딜레마에 빠집니다. 상태를 비물리적으로 만드는 것이 바로 그 무한한 값 자체인가요, 아니면 단지 수학적인 특이 현상일 뿐인가요? 루는 현실 세계에서 우리는 결-코 무한한 값을 관찰하지 못하며, 아무리 큰 값이라도 항상 유한한 숫자만을 본다는 점을 지적합니다. 수학적 평균이 무한대로 발산한다는 사실이 그 상태 자체가 불가능하다거나 자연이 그것을 금지한다는 것을 의미하지는 않습니다.

이 논문은 더 나아가 일부 표준 형식주의 비판자들 사이에서 인기를 얻었던 구체적인 제안을 해체합니다. 이 비판자들은 진정으로 물리적인 상태의 집합이 슈바르츠 공간(Schwartz space)이라 알려진 특수한 수학적 구조로 제한되어야 한다고 주장했습니다. 이 공간은 우주의 가장자리에서 빠르게 감쇠하는 '잘 다듬어진(well-behaved)' 파동 함수만을 포함합니다. 그들은 이것이 문제가 되는 무한한 상태들을 걸러낼 것이라고 주장했습니다. 루는 이 해결책이 결함이 있음을 보여줍니다. 만약 당신이 우주를 오직 이러한 '잘 다듬어진' 상태들로만 제한한다면, 양자 시스템이 시간에 따라 진화하는 규칙을 즉각적으로 깨뜨리게 된다는 것을 그는 보여줍니다. 완벽하게 '잘 다듬어진' 상태에서 시작한 시스템은 전자의 전기적 인력과 같은 힘의 영향 아래서 움직임으로써 자연스럽게 이 제한된 그룹 밖의 상태로 진화할 수 있습니다. 만약 당신이 이러한 결과 상태들을 금지한다면, 당신은 사실상 시스템의 자연스러운 진화 자체를 금지하는 셈이 됩니다. 더욱이, 어떤 수학적 도구가 충분히 '물리적'이어서 허용될 수 있는지를 결정하는 것은 임의적인 게임이 됩니다. 만약 당신이 위치 연산자는 허용하면서 그 지수 형태의 버전은 금지한다면, 이는 동일한 실험 장치에 의해 측정되는 두 도구 사이에 깊은 물리적 근거가 없는 선택을 하는 것입니다.

용기를 줄이려고 노력하는 대신, 루는 무엇이 '물리적'인지에 대한 새로운 사고방식을 제사합니다. 그는 '물리성의 계층적 관점(hierarchical view)'을 도입합니다. 물리성이 단순히 켜짐 또는 꺼짐의 스위치처럼 상태가 실재하거나 가짜인 것이 아니라, 층 구조를 가진 단계와 같다고 보는 것입니다. 동심원을 상상해 보십시오. 가장 바깥쪽 고리는 무한한 평균을 가진 기이한 상태들을 포함하여 수학적으로 허용되는 모든 상태를 포함합니다. 안쪽으로 이동할수록, 당신은 실제 세계와 점점 더 유사해지는 층들을 발견하게 됩니다. 가장 중심부에 있는 상태들은 유한한 에너지를 가지고 결정론적으로 행동하는 것과 같은 우리 현실의 특징들을 가장 많이 공유하기 때문에 가장 '물리적'입니다. 하지만 바깥쪽 고리의 상태들이 반드시 불가능한 것은 아닙니다. 단지 우리 세계와 덜 닮았을 뿐입니다. 이 접근 방식은 양자 이론의 수학적 완전성을 존중하면서도, 일부 상태들이 우리의 특정한 현실에 더 관련성이 높다는 점을 인정합니다. 이는 물리적 경계가 딱딱한 벽이 아니라, 우리가 실제로 관찰하는 세계와의 유사성에 따른 그래디언트(gradient)임을 인식함으로써, 가능성과 불가능성 사이의 경계를 임의로 잘라내는 것을 피합니다.

이 미묘한 관점은 규칙이 급격하게 변하는 훨씬 더 복잡한 영역인 양자장론(quantum field theory)에 적용될 때 특히 강력한 힘을 발휘합니다. 이 영역에서는 단일하게 합의된 수학적 용기가 존재하지 않습니다. 대신, 동일한 물리적 시스템을 나타내는 서로 호환되지 않는 여러 가지 방식이 존재하는데, 이를 '불가역적 표현(inequivalent representations)' 문제라고 합니다. 전통적으로 물리학자들은 이러한 여러 수학적 표현 중 어떤 것이 '진정한' 것인지 결정하는 데 어려움을 겪어 왔습니다. 루의 계층적 관점은 이 혼란에 대한 해결책을 제시합니다. 그는 서로 다른 표현들이 물리적 가능성의 서로 다른 층에 대응한다고 제안합니다. 한 표현에서는 불가능해 보이는 상태가, 당신이 관찰하고 있는 '층'에 따라 다른 표현에서는 완벽하게 정상적일 수 있습니다. 이는 무엇이든 다 허용된다는 뜻이 아닙니다. 오히려 물리적으로 가능한 상태의 집합이 단일하고 단일한 목록이 아니라, 실제 세계의 맥락에 따라 달라지는 가능성들의 집합이라는 것을 의미합니다. 우리는 물리성이 단계와 층을 가지고 있음을 받아들임으로써, 양자장론의 기이하고 불가역적인 표현들을 오류로서 폐기하지 않고도 이를 수용할 수 있습니다. 우리는 그것들을 우리가 살고 있는 세계는 아닐지라도, 물리적으로 가능한 세계들에 대한 유효한 묘사로 이해할 수 있습니다.

궁극적으로, 이 논문은 물리적 상태에 대한 단일하고 완벽한 정의를 찾는 것은 막다른 길이라고 주장합니다. 우주는 수학자들이 선호할 법한 깔끔하고 날카로운 경계에는 관심이 없는 듯합니다. 대신, 이 논문은 물리성의 개념이 본질적으로 층을 이루고 있으며, 가능성의 정도를 허용한다고 제안합니다. 이러한 관점은 물리학의 기초를 가능성의 철학적 연구와 더 밀접하게 연결해 줍니다. 거기서 '가능성'은 종종 어떤 시나리오가 우리의 실제 현실과 얼마나 가까운지에 의해 정의됩니다. 이 계층 구조를 수용함으로써, 물리학자들은 양자 이론의 풍부하고 거대한 수학적 기제 전체를 온전히 유지하면서도, 광대한 가능성의 풍경을 묘사하는 동시에 우리가 실제로 측정하고 거주하는 구체적이고 유한하며 잘 다듬어진 세계와의 명확한 연결을 유지할 수 있습니다. 그 결과, 이는 자연의 복잡성을 인정하면서도 그것을 인위적으로 작은 상자 안에 가두지 않는, 더 유연하고 견고한 양자 세계에 대한 이해를 제공합니다.