Formulation and evaluation of ocean dynamics problems as optimization problems for quantum annealing machines

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 해양 및 대기 순환은 기후 시스템을 형성하는 핵심 요소이나, 현재 고전적 고성능 컴퓨팅 (HPC) 을 이용한 시뮬레이션은 하위 그리드 스케일 (subgrid-scale) 파라미터화의 한계로 인해 모든 관련 스케일을 동시에 해결하는 데 어려움을 겪고 있습니다. 또한 무어의 법칙의 한계로 인해 기존 하드웨어의 성능 향상만으로는 한계가 명확해졌습니다.
• 문제: 양자 컴퓨팅, 특히 **양자 어닐링 (Quantum Annealing, QA)**은 조합 최적화 문제를 해결하는 데 특화되어 있어 해양 및 대기 역학 문제를 최적화 문제로 변환하여 풀 수 있는 잠재력을 가집니다. 그러나 해양 역학 방정식 (편미분 방정식) 을 양자 어닐링이 처리할 수 있는 이징 (Ising) 모델로 변환하는 적절한 프레임워크는 아직 탐구되지 않았습니다.
• 목표: 본 연구는 단순한 선형 편미분 방정식 (Stommel 문제) 을 대상으로 양자 어닐링 (QA) 과 고전적인 시뮬레이션 어닐링 (Simulated Annealing, SA) 을 비교 평가하고, 해양 역학 문제에 양자 어닐링을 적용하기 위한 형식화 방법과 한계를 규명하는 것입니다.

2. 방법론 (Methodology)

2.1 문제 형식화 (Formulation)

해양 및 대기 역학의 선형 편미분 방정식 $L[f](x) = 0$을 **최소자승법 (Least-squares method)**을 사용하여 최적화 문제로 변환합니다.

• 비용 함수 (Cost Function): $H = \|L[f]\|^2$를 최소화하는 함수 $f$를 찾습니다.
• 이산화 (Discretization) 방법:
  1. 유한 차분법 (Finite Difference): 도메인을 격자로 나누어 선형 방정식 세트를 생성하고, 이를 이징 해밀토니안 형태로 변환합니다.
  2. 절단된 스펙트럼 전개 (Truncated Spectral Expansion): 해를 직교 기저 함수 (예: 푸리에 사인 급수) 의 선형 결합으로 근사화하고, 전개 계수를 최적화 변수로 설정합니다.

2.2 변수 매핑 및 최적화 알고리즘

• 이징 모델 변환: 실수 값 변수 ($w_i$) 를 양자 어닐링의 이진 스핀 변수 ($\sigma_i \in \{-1, 1\}$) 로 근사화합니다.
  • 직접 이진 확장: 하나의 실수 변수를 여러 개의 스핀으로 표현 (고정밀도 필요 시 스핀 수 급증).
  • 반복 절차 (Iteration Procedure): 초기에 낮은 정밀도로 해를 구한 후, 스케일 팩터를 조정하며 "줌인 (zoom-in)" 방식으로 정밀도를 높여가는 방법 (본 논문에서 제안된 효율적 방법).
• 알고리즘 비교:
  • 시뮬레이션 어닐링 (SA): 고전적 컴퓨터에서 열적 요동을 모방하여 전역 최적해를 탐색.
  • 양자 어닐링 (QA): D-Wave 장치를 사용하여 양자 요동 (Transverse field) 을 통해 전역 최적해를 탐색.

2.3 그래프 임베딩 (Graph Embedding)

D-Wave 하드웨어는 제한된 연결성 (Pegasus 그래프) 을 가지므로, 문제의 이징 모델 연결성 (전체 연결 또는 장거리 상호작용) 을 하드웨어 연결성에 매핑하기 위해 그래프 임베딩이 필수적입니다. 이 과정에서 추가적인 스핀 (Chains) 이 필요하며, 이는 하드웨어 노이즈와 계산 오차의 원인이 됩니다.

3. 주요 연구 결과 (Key Results)

3.1 Stommel 문제 (풍력 구동 해양 순환) 적용

• SA 의 성능: 적절한 하이퍼파라미터 (스케일 팩터 $S$, 스핀 수 $n_{spin}$) 를 선택할 때, SA 는 유한 차분법과 스펙트럼 전개법 모두에서 기대되는 정확한 해를 성공적으로 복원했습니다. 특히 반복 절차 (Iteration) 를 사용하면 적은 수의 스핀으로도 높은 정확도를 달성할 수 있었습니다.
• QA 의 성능 (D-Wave 장치):
  • 고해상도 격자 (11x11): QA 는 실패했습니다. 하드웨어의 제한된 연결성으로 인한 그래프 임베딩의 복잡성 증가와 하드웨어 노이즈가 정확한 해를 방해했습니다. 비용 함수가 수렴하지 않거나 잘못된 해에 갇혔습니다.
  • 저해상도 격자 (5x5): 해상도를 낮추면 QA 가 비교적 정확한 해를 얻을 수 있었으나, 여전히 고전적 방법보다 정확도가 낮았습니다.
  • 스펙트럼 전개법: 모드 간 상호작용이 많아 연결 그래프가 조밀해지므로, 임베딩 시 추가 스핀이 급증하여 QA 성능이 더욱 저하되었습니다.

3.2 비선형 문제 확장

• 간단한 비선형 미분 방정식에 대해 스펙트럼 전개법을 적용했습니다.
• SA 는 정확한 해를 복원했으나, QA 는 비용 함수가 $10^{-4}$ 수준으로 수렴하는 등 정확도가 낮았습니다. 이는 4 차 상호작용 항을 2 차로 축소하는 과정에서 발생하는 오차와 하드웨어 한계 때문입니다.

3.3 반복 절차 vs 대용량 스핀

• 하나의 변수를 많은 스핀으로 직접 표현하는 방식 (대용량 스핀) 은 QA 에서 실패했습니다. 스핀 수가 증가하면 어닐링 시간과 그래프 임베딩의 복잡도가 기하급수적으로 늘어나 노이즈의 영향을 받아 전역 최적해를 찾지 못했습니다.
• 반면, 반복 절차를 사용한 SA 는 성공적이었으며, 이는 QA 가 실용화되기 위해서는 하드웨어 개선이 필수적임을 시사합니다.

4. 주요 기여 (Key Contributions)

1. 최적화 문제 형식화: 해양 역학의 편미분 방정식을 양자 어닐링이 처리 가능한 이징 모델 (Ising Model) 로 변환하는 두 가지 구체적인 방법 (유한 차분, 스펙트럼 전개) 을 제시하고 검증했습니다.
2. 정확도 향상 기법: 기존 연구의 한계였던 실수 근사의 정확도 문제를 해결하기 위해, **반복 절차 (Iteration Procedure)**를 도입하여 적은 수의 스핀으로도 고정밀 해를 얻을 수 있음을 보였습니다.
3. 현실적 한계 규명: D-Wave 와 같은 현재의 양자 어닐링 기계는 하드웨어 연결성 (Connectivity) 의 제한과 노이즈로 인해 해양 역학 문제와 같은 대규모/복잡한 문제를 직접 해결하기 어렵다는 것을 실증적으로 증명했습니다. 특히 그래프 임베딩의 비효율성이 주요 병목 현상임을 강조했습니다.

5. 의의 및 결론 (Significance)

• 현실적 평가: 양자 어닐링이 해양 및 대기 모델링에 혁신을 가져올 잠재력은 있으나, 현재 하드웨어 수준 (제한된 연결성, 노이즈) 에서는 실용적인 적용이 어렵습니다.
• 미래 전망:
  • 하드웨어: 더 높은 연결성을 가진 양자 어닐링 기계 개발이 필요합니다.
  • 알고리즘: 그래프 임베딩 알고리즘의 개선이 필수적입니다.
  • 전망: 이러한 기술적 장벽이 극복된다면, QA 는 특정 대규모 최적화 문제에서 고전적 슈퍼컴퓨터보다 더 빠르고 에너지 효율적인 해법을 제공할 수 있을 것입니다.
• 결론: 본 연구는 양자 어닐링을 지구물리 유체 역학 문제에 적용하기 위한 첫걸음으로, 방법론적 가능성을 보여주었으나 동시에 현재 기술의 한계를 명확히 제시하여 향후 연구 방향 (하드웨어 및 임베딩 알고리즘 개선) 을 제시했습니다.