Benchmarking Non-Markovianity Measures in Digital Quantum Simulation of Open Quantum Systems

매우 시끄러운 방에서 속삭임을 들으려고 노력한다고 상상해 보세요. 양자 물리학의 세계에서 그 "속삭임"은 아주 작은 입자(전자나 광자 같은)가 자신의 비밀을 지키려 하는 것이고, "시끄러운 방"은 그 주변의 환경입니다. 보통 우리는 환경이 망각하는 거인과 같아서, 입자로부터 정보를 삼켜버리고 다시는 돌려주지 않는다고 가정합니다. 이것을 "마르코프적(Markovian)" 과정이라고 하며, 모델링하기 쉽습니다. 하지만 때때로 환경은 수다스러운 이웃처럼 행동하기도 합니다. 정보를 붙잡았다가 잠시 간직한 뒤, 곧바로 입자에게 다시 뱉어내는 것이죠. 이러한 "기억" 효과를 **비마르코프적(non-Markovianity)**이라고 부릅니다.

우리는 왜 이것에 관심을 가질까요? 미래의 양자 컴퓨터는 완벽한 진공 상태에서만 사는 것이 아니라, 현실 세계와 소통해야 할 것이기 때문입니다. 만약 우리가 에너지를 효율적으로 전달하거나 복잡한 분자를 시뮬레이션하는 기계를 만들고 싶다면, 이 "수다"가 정확히 어떻게 작동하는지 이해해야 합니다. 그러나 양자 컴퓨터에서 이러한 기억 효과를 시뮬레이션하는 것은 마치 고장 난 테이프 녹음기로 속삭임을 녹음하려는 것과 같습니다. 기계 자체가 노이즈를 유발하고, 신호의 일부를 잘라내며, 소리를 덩어리째로 셉니다. 여기서 큰 질문은, 우리가 녹음본을 보고 있을 때 들리는 그 "메아리"가 환경으로부터 온 진짜 기억인지, 아니면 우리 기계의 결함으로 인한 글리치(glitch)인지 어떻게 구별할 수 있느냐는 것입니다.

이 논문은 그러한 글리치를 찾아내는 탐정 이야기입니다. 디지털 시뮬레이터(양자 컴퓨터인 척하는 강력한 고전 컴퓨터)를 활용하여 저자들은 과학자들이 이러한 양자 기억을 측정하는 데 사용하는 도구들을 스트레스 테스트하기로 했습니다. 그들은 단순히 더 나은 녹음기를 만든 것이 아니라, 측정 자체를 위한 "거짓말 탐지기"를 만들었습니다. 그들은 표준적인 양자 기억 측정 방식들이 놀라울 정도로 취약하다는 것을 발견했습니다. 조건에 따라, 이 도구들은 무(無)에서 진짜 기억을 창조해내거나, 혹은 진짜 기억을 완전히 지워버릴 수도 있습니다.

저자들이 발견한 세 가지 주요 함정은 다음과 같습니다.

1. "너무 작은 방" 함정 (절단 오차 - Truncation Errors)
양동이의 물을 컵에 담으려고 한다고 상상해 보세요. 만약 컵이 너무 작으면 물이 넘쳐흐를 것입니다. 양자 시뮬레이션에서 과학자들은 종종 복잡한 환경을 표현하기 위해 "이준위(two-level)" 시스템(단 한 방울만 담을 수 있는 컵과 같은)을 사용합니다. 저자들은 이 "컵"이 종종 너무 작다는 것을 발견했습니다.

• 가짜 기억: 입자와 환경 사이의 연결이 매우 강해지면, "컵"이 너무 가득 차서 물이 입자로 다시 넘쳐흐르기 시작합니다. 시뮬레이션은 이것을 실제 기억의 메아리로 착각하지만, 사실은 그저 넘친 물일 뿐입니다. 이런 경우, 시뮬레이션은 기억이 실제보다 2.6배 더 강하게 보이도록 만들 수 있습니다.
• 지워진 기억: 환경이 뜨거워지면(더운 날씨처럼), 컵 안의 물이 끓어 올라 증발하기 시작합니다. 시뮬레이션은 기억이 사라졌다고 생각하지만, 사실은 컵이 열을 담기에 너무 작았기 때문에 발생한 현상입니다.
• 해결책: 그들은 "컵"(또는 포크 차원, Fock dimension)의 크기가 얼마나 커야 하는지에 대한 새로운 규칙을 만들었습니다. 단순히 물의 평균량을 보는 것이 아니라, 물이 얼마나 격렬하게 요동치는지(fluctuation)를 봐야 합니다. 물이 끓고 있다면(열적 상태), 단순히 출렁이는 상태보다 훨씬 더 큰 양동이가 필요합니다. 저자들은 평균값과 입자의 "흔들림(wobble)"을 이용한 간단한 공식을 통해, 거짓말을 피하기 위해 필요한 레벨 수를 정확히 알 수 있다는 것을 밝혀냈습니다.

2. "계산 실수" 함정 (유한한 횟수 - Finite Shots)
실제 양자 컴퓨터는 시뮬레이션을 단 한 번 실행해서 완벽한 답을 얻지 않습니다. 대신 수천 번(이를 '샷(shots)'이라 부름) 실행하고 결과를 셉니다. 마치 동전을 던져서 공정한지 확인하는 것과 같습니다. 문제는 기억을 측정하는 도구(BLP 척도)가 "상승"하는 움직임만을 세고 "하강"하는 움직임은 무시한다는 점입니다.

• 글리치: 이 때문에 무작위적인 통계적 노이즈가 "기억의 메아리"로 계산됩니다. 저자들은 현실적인 노이즈 환경에서, 가공되지 않은 단순한 카운트가 실제 기억을 거의 두 배 가까이 부풀릴 수 있다는 것을 발견했습니다. 이는 마치 정전기 소리를 듣고 그것이 비밀 암호라고 생각하는 것과 같습니다.
• 해결책: 그들은 "편향 제거(de-biased)" 추정기를 개발했습니다. 이는 "잠깐, 저 소리가 진짜인가, 아니면 그냥 무작위 노이즈인가?"라고 묻는 필터와 같습니다. 또한 "영점 바닥(null floor)" 테스트를 제안했습니다. 즉, 기억이 존재하지 않는다는 것을 이미 알고 있는 시뮬레이션(마르코프적 대조군)을 실행해 보는 것입니다. 만약 당신의 "기억" 측정값이 그 대조군의 노이즈 바닥보다 낮다면, 당신은 그저 정전기 소리를 듣고 있는 것임을 알 수 있습니다. 이 방법은 완벽한 참조 모델 없이도 실제 하드웨어에서 사용할 수 있습니다.

3. "가짜 메아리" 함정 (상관된 노이즈 - Correlated Noise)
실제 양자 장치에는 노이즈가 "상관되어(correlated)" 있습니다. 즉, 한 순간의 글리치가 다음 순간의 글리치를 일으킬 가능성이 높다는 뜻입니다. 이는 마치 리듬감 있게 건너뛰는 레코드판과 같습니다. 표준 모델들은 노이즈가 무작위적이고 망각하는 성질을 가졌다고 가정합니다.

• 혼란: 저자들은 양자 기억을 측정하는 도구가 환경으로부터 오는 실제 기억과 기계 자체의 리듬감 있는 노이즈를 구분하지 못한다는 것을 발견했습니다. 리듬감 있는 노이즈는 무작위 노이즈보다 신호를 더 오래 보존하기 때문에, 도구가 실제보다 더 많은 기억이 있는 것처럼 착각하게 만듭니다.
• 경고: 만약 당신이 기계의 노이즈가 무작위라고 가정한다면, 당신은 새로운 기억 효과를 발견했다고 믿을 수도 있지만, 실제로는 당신의 기계에 있는 글리치를 발견한 것일 뿐입니다.

최종 대결: 두 가지 방법, 하나의 결과
이 논문은 또한 이러한 환경을 시뮬레이션하는 두 가지 방법, 즉 "의사 모드(Pseudomode)" 방식(특수한 수학적 트릭 사용)과 "충돌 모델(Collision Model)"(보조 입자들의 행렬 사용)을 비교했습니다. 특정 유형의 환경에 대해, 저자들은 두 방법이 모두 동일하게 우수하며 소모되는 컴퓨터 자기도 같다는 것을 발견했습니다. 이는 과학자들에게 안도감을 주는 결과인데, 이는 어떤 도구가 비밀리에 더 우월하지 않으므로 선택의 자유가 있음을 의미하기 때문입니다.

핵심 요약
저자들은 매우 명확하게 밝히고 있습니다. 그들은 고전 컴퓨터를 이기는 양자 컴퓨터를 만들었다고 주장하는 것이 아닙니다. 오히려, 이를 충실히 수행하기 위해 필요한 회로가 현재의 실제 양자 하드웨어에는 너무 깊다는 점을 인정합니다. 대신, 그들은 진단 도구 세트를 제공했습니다. 그들은 측정이 어디서 깨지는지, 얼마나 깨지는지, 그리고 우리가 실제 기계에서 실험을 수행할 때 우리 자신의 도구에 속지 않으려면 수학을 어떻게 수정해야 하는지를 보여주었습니다. 그들은 양자 시뮬레이션이라는 "블랙박스"를, 우리가 듣는 속삭임을 마침내 신뢰할 수 있는 투명한 과정으로 바꾸어 놓았습니다.