기술 요약: 확산 기반 양자 상태 토모그래피를 위한 밀도 행렬 파라미터화의 디자인 공간 연구

1. 문제 정의

양자 상태 토모그래피(QST)는 미지의 양자 상태(밀도 행렬 $\rho$)를 측정 통계로부터 재구성하는 것을 목표로 한다. 재구성된 상태는 엄격한 물리적 제약 조건을 만족해야 한다: 즉, 양의 준정부호(positive semidefinite, PSD)여야 하며 단위 트레이스(unit trace)를 가져야 한다. 이러한 제약 조건은 복잡한 기하학적 매니폴드를 형성한다.

최근 확산 기반 생성 모델이 QST에서 최첨단 성능을 보여주고 있지만, 기존 방법들은 체계적인 평가 없이 대개 **촐레스키 분해(Cholesky factorization)**라는 단일 파라미터화 전략에 암묵적으로 의존하고 있다. 저자는 촐레스키 파라미터화가 구조적으로 물리적 제약을 보장함에도 불구하고, 심각한 **좌표 이방성(coordinate anisotropy)**을 유발한다는 핵심적인 격차를 식별하였다. 이는 서로 다른 좌표가 밀도 행렬에 불균등하게 기여하게 만들어, 확산 모델의 학습 역학을 저해할 수 있는 악조건(ill-conditioned)의 최적화 지형을 생성한다. 본 연구의 핵심 질문은 과연 대안적인 파라미터화가 확산 기반 QST의 성능을 개선할 수 있는지, 그리고 이를 어떻게 체계적으로 평가할 것인가 하는 점이다.

2. 방법론

본 논문은 자코비안 그람 행렬(Jacobian Gram matrix, $G = J^\top J$)을 기반으로 밀도 행렬 파라미터화를 평가하기 위한 기하학적 프레임워크를 도입한다. 여기서 $J = \partial\rho/\partial y$는 파라미터 좌표 $y$에서 밀도 행렬 $\rho$로의 매핑에 대한 자코비안이다.

2.1 기하학적 지표

프레임워크는 $G$의 고윳값(eigenvalues)과 대각 성분(diagonal elements)으로부터 유도된 두 가지 상충하는 기준을 사용하여 파라미터화의 품질을 정량화한다:

1. 스펙트럼 동적 범위 (Spectral Dynamic Range, SDR, $\kappa_{spec}$): 최대 고윳값과 최소 고윳값의 비율 ($\lambda_{max}/\lambda_{min}$). 이는 전체적인 조건수(condition number)를 측정하며, 값이 낮을수록(1.0에 가까울수록) 더 나은 등방성(isotropy)을 나타낸다.
2. 대각 이방성 (Diagonal Anisotropy, DA, $\kappa_{diag}$): 최대 대각 성분과 최소 대각 성분의 비율 ($\max G_{ii} / \min G_{ii}$). 이는 좌표별 민감도 변화를 측정하며, 값이 낮을수록 균일한 좌표 스케일을 의미한다.

2.2 캘리브레이션 프로토콜

저자는 2-큐비트($d=4$) 및 3-큐비트($d=8$) 규모에서 7가지 대표적인 파라미터화에 대한 수치적 캘리브레이션을 수행하였다:

• Cholesky: $\rho = LL^\dagger / \text{Tr}(LL^\dagger)$
• Hermitian direct: 제약 없는 $\rho$ (16개 파라미터)
• Hermitian trace-norm: $\rho / \text{Tr}(\rho)$
• Hermitian fix-trace: 트레이스 제약을 만족하기 위해 하나의 대각 성분을 고정 (15개 파라미터)
• Bloch/Gell-Mann: $\rho = (I + \sum r_i \lambda_i)/d$
• Expmap: $\rho = e^H / \text{Tr}(e^H)$ (트레이스가 0인 $H$ 사용)
• Log-Cholesky: 촐레스키 대각 성분의 로그 스케일링

캘리브레이션은 다양한 물리적 영역(Haar-pure, mixed, thermal 등)에서 30개의 무작위 상태를 샘플링하여 진행되었으며, 근접 순수 상태(near-pure state)의 퇴화에 대한 견고성을 확보하기 위해 중앙 유한 차분법(central finite differences)을 통해 자코비안을 계산하고 중앙값 통계(median statistics)를 통해 결과를 집계하였다.

2.3 실험적 검증

기하학적 발견을 검증하기 위해, 서로 다른 컨디셔닝 프로파일을 가진 세 가지 파라미터화(Bloch - 최적의 등방성, Hermitian direct - 중간 수준의 등방성, Cholesky - 베이스라인)에 대해 동일한 확산 모델(EDM 아키텍처)을 훈련시켰다.

• 훈련: 50,000개의 상태, 300 에포크, 파라미터화별로 캘리브레이션된 노이즈 스케줄($\sigma_{data}$) 적용.
• 평가: 6개의 샷 레벨(10–300 샷)에 걸쳐 100개의 상태를 대상으로 분류기 없는 가이드(Classifier-Free Guidance, CFG) 적용 여부에 따라 테스트.
• 대조군: 측정 일관성 손실($\lambda_{meas}$)과 학습률의 효과를 파라미터화 선택 자체의 효과와 분리하기 위해 2x2 교차 검증을 수행하였다.

3. 주요 기여 및 결과

3.1 세 가지 엔지니어링 휴리스틱

캘리브레이션 결과, 디자인 공간에 관한 세 가지 주요 통찰을 얻었다:

1. 기준의 직교성: 등거리 컨디셔닝(Isometric conditioning)과 물리적 제약 만족은 서로 직교하는 목적이다. 단일 파라미터화가 두 가지를 모두 최적화할 수는 없다. 구조적으로 제약을 보장하는 파라미터화(예: Cholesky, Expmap)는 종종 심각한 이방성을 겪는 반면, 우수한 등방성을 가진 파라미터화(예: Bloch)는 내장된 제약 보장이 부족할 수 있다.
2. 기하학적 품질의 예측 불가능성: 이론적 "우아함"이 기하학적 품질을 예측하지는 않는다. Exponential map은 수학적 매력에도 불구하고 2-큐비트에서 149배, 3-큐비트에서 75,658배의 스펙트럼 범위를 보였다. 마찬가지로 Log-Cholesky도 차원이 높아짐에 따라 크게 저하되었다. 반면, Bloch나 Hermitian direct와 같은 더 단순한 파라미터화는 차원이 증가해도 우수한 컨디셔닝을 유지했다.
3. Fix-Trace 트레이드오프: Hermitian fix-trace 파라미터화는 컨디셔닝과 제약 만족 사이에서 최적의 절충안을 제공한다. 이는 완벽한 대각 이방성(1.0×)을 유지하면서 차원이 증가함에 따라 완만한 스펙트럼 성장(4배~8배)만을 보이며, 동시에 트레이스를 자동으로 보존한다.

3.2 스케일링 동작

큐비트 수가 2에서 3으로 증가함에 따라 세 가지 스케일링 클래스를 식별하였다:

• 스케일 불변(Scale-Invariant): Bloch/Gell-Mann 및 Hermitian direct는 일정한 컨디셔닝을 유지한다.
• 완만한 성장(Moderate Growth): Fix-trace와 trace-norm은 완만한 저하를 보인다.
• 심각한 저하(Severe Degradation): Cholesky, Expmap, Log-Cholesky는 심각하게 악조건이 된다 (예: Cholesky의 SDR은 33배에서 1,265배로 악화; Expmap은 149배에서 75,658배로 악화).

3.3 엔드 투 엔드 성능 결과

• CFG 미사용 시: 더 잘 컨디셔닝된 파라미터화(특히 Hermitian direct)가 매우 등거리적인 Bloch 파라미터화보다 더 빠르게 수렴하고 더 높은 최종 충실도(fidelity)를 달로 달성했다. 이는 완벽한 등측성이 최상의 성능을 낼 것이라는 기대와 상충하며, 경계 효과(boundary effects)나 원시 출력 품질과 같은 다른 요인이 작용하고 있음을 시사한다.
• CFG 사용 시: 성능 순위가 역전되었다. 강력한 CFG 하에서는 Bloch가 Hermitian direct보다 우수한 성능을 보였다. 저자는 이를 경계 효과의 증폭으로 설명한다. 즉, CFG는 경계가 없는 파라미터화(Hermitian)를 유효 영역 밖으로 더 밀어내어, 유계(bounded)인 Bloch 구체에 비해 더 높은 투영 비용을 발생시킨다.
• CFG 가중치: 최적의 CF_W 가중치($w$)는 샷 수에 따라 달라진다. 저샷(low-shot) 환경에서는 강한 가이드($w \approx 3\text{--}4$)가 유리한 반면, 고샷(high-shot) 환경에서는 사전 확률(prior)을 과도하게 강조하지 않도록 완만한 가이드($w \approx 2$)가 선호된다.

4. 의의 및 주장

본 논문은 확산 기반 QST를 위한 밀도 행렬 파라미터화 디자인 공간을 최초로 체계적으로 정량화했다고 주장한다. 본 연구의 의의는 다음과 같다:

• 현상 유지에 대한 도전: 커뮤니티 표준인 촐레스키 파라미터화가 확산 모델에서 스케일링 성능이 떨어지며 최적이 아님을 입증하였다.
• 실행 가능한 가이드라인 제공: 제약 자동 보장 대 등방성 필요성에 따른 결정 트리(decision tree)를 제공하며, 확장 가능한 QST($n \ge 3$)를 위한 기본값으로 fix-trace를 권장한다.
• 미묘한 역학 관계 규명: 기하학적 컨디셔닝만으로는 경계 효과와 CFG가 상호작용할 때의 엔드 투 엔드 성능을 완전히 예측할 수 없음을 밝혀냈다.
• 방법론적 도구: 밀도 행렬 매니폴드 상의 역문제(inverse problems)에서 좌표 컨디셔닝을 평가하기 위한 실용적인 진단 도구로서 자코비안 그람 행렬을 도입하였다.

저자는 "Hermitian의 이점"(CFG 미사용 시 더 나쁜 컨디셔닝을 가진 파라미터화가 더 나은 성능을 보이는 현상)에 대한 메커니즘에 대해, 경계 효과가 CFG 유도 역전을 설명한다는 점을 언급하며 향에 대한 설명은 조심스럽게 남겨두었으며, 이는 향후 연구 과제로 남겨두었다. 또한 특정 훈련 프로토콜에 의존했다는 점과 더 높은 큐비트 수에서의 추가 검증 필요성 등 한계점도 인정하였다.