기술 요약: 반도체 수율을 향한 양자 컴퓨팅 패러다임의 가교 구축

문제 정의

반도체 공정 노드가 단일 나노미터 영역에 접근함에 따라, 웨이퍼 맵(WM) 상의 결함 패턴은 점점 더 복잡해지고 있습니다. 정확한 자동 결함 분류는 근본 원인 분석 및 수율 개선에 필수적이며, 특히 단 하나의 결함 있는 다이(die)가 전체 패키지를 손상시킬 수 있는 고대역폭 메모리(HBM) 스택에서 그 중요성이 더욱 커집니다. 양자 머신러닝(QML)이 이러한 작업을 위한 잠재적인 대안적 기질을 제공할 수 있지만, 현재 이 분야에는 두 가지 지배적인 양자 패러다임인 이산 변수(Discrete-Variable, DV) 회로(큐비트)와 연속 변수(Continuous-Variable, CV) 회로(큐모드) 사이의 통제된 비교 연구가 부족한 실정입니다. 기존 연구들은 종종 양자 헤드의 성능과 클래식 백본(backbone)의 용량을 혼동하여, 특정 양자 아키텍처의 구체적인 기여도를 불분명하게 만들었습니다.

방법론

저자들은 산업용 WM-811K 데이터셋(8가지 결함 클래스에 걸친 811,000개 이상의 웨이퍼 맵)을 사용하여 엄격하게 통제된 평가 프로토콜을 제안합니다. 핵심 실험 설계는 양자 회로를 유일한 구조적 변수로 격리합니다:

1. 공유 백본: 모든 모델은 512차원 벡터까지 특징을 추출하기 위해 동일한 합성곱 신경망(CNN) 백본(~428만 개의 파라미터)을 사용합니다. 이를 통해 성능 차이가 오직 다운스트림 분류 헤드에 의해서만 발생하도록 보장합니다.
2. 교체 가능한 헤드: 동일한 특징 벡터에 대해 세 가지 유형의 헤드를 테스트했습니다:
   • 클래식 베이스라인: 표준 밀집층(dense layer).
   • CV-QNN 헤드: Killoran 등(2019a)의 프레임워크를 기반으로 하며, 신경망 층을 모사하기 위해 가우시안 및 비가우시안 게이트(Squeezing, Beamsplitter, Rotation, Displacement, Kerr)를 활용합니다.
   • DV-QNN 헤드: 매개변수화된 회전($R_Y, R_Z$)과 CNOT 인탱글러(entangler)를 사용하는 데이터 재업로딩(data re-uploading) 방식의 일반적인 하드웨어 효율적 안사츠(ansatz)를 사용합니다.
3. 스케일링 및 시뮬레이션: 양자 헤드는 세 가지 크기(3, 4, 8 큐모드/큐비트)로 테스트되었습니다. CV 모델은 Fock cutoff $d=2$를 사용했습니다(하나의 $d=3$ 변형 제외). 시뮬레이션은 PennyLane(CV를 위한 Strawberry Fields, DV를 위한 state-vector)을 사용하여 수행되었습니다.
4. 하드웨어 검증: 훈련된 DV-QNN 회로는 실제 NISQ 노이즈 조건에서의 성능을 검증하기 위해 IBM Eagle r3 프로세서(ibm_yonsei)에서 실행되었습니다.
5. 강건성 테스트: 입력 노이즈(가우시안)를 주입하여 민감도를 테스트하였으며, 특히 미세한 공간적 구별이 필요한 "Edge-Loc"과 "Scratch" 클래스 간의 구분에 주의를 기울였습니다.

주요 기여

1. 통제된 패러다임 비교: 본 연구는 산업용 웨이퍼 맵 데이터셋에서 CV와 DV 헤드를 분리하여 비교한 첫 사례로, 기존 연구에서 나타났던 지배적인 클래식 백본에 의한 "마스킹(masking)" 효과를 제거했습니다.
2. CV의 우월성 입증: CV 헤드는 일관되로 DV 헤드보다 우수한 성능을 보였습니다. 4-큐모드/큐비트 스케일에서 CV는 **79.7 ± 1.8%**의 정확도를 달ian 반면, DV는 **61.6 ± 1.4%**를 기록하여 18포인트의 겹치지 않는 격차를 보였습니다.
3. 공간적 클래스 해상도: CV 패러다임은 공간적으로 국소화된 Edge-Loc 클래스에서 DV를 결정적으로 압도했습니다(재현율 0.66 대 DV ≤0.05). DV 헤드는 Edge-Loc 결함을 지속적으로 "Scratch"로 오분류하여, 올바른 근본 원인 진단에 필요한 미세한 공간적 구분을 포착하는 데 실패했습니다.
4. 이론적 명확화: 저자들은 사용된 Fock cutoff($d=2$)에서 CV의 이점이 무한 차원의 힐베르트 공간이나 비가우시안 자원에서 기인하는 것이 아님을 명확히 했습니다(Kerr 게이트가 $d=2$에서 가우시안 위상 회전으로 작용하기 때문). 대신, 이 이점은 구조화된 신경망 유사 층 설계와 연속적인 위상 공간 인코딩에서 비롯됩니다.
5. 하드웨어 및 인터페이스 통찰:
   • DV 훈련 가능성: 성공적인 DV 훈련을 위해서는 결정론적 클래식-양자 인터페이스(인코딩 전 드롭아웃 없음, 샘플별 정규화)가 필요했습니다. 표준적인 확률적 정규화는 훈련 붕괴를 초래했습니다.
   • 하드웨어 깊이: IBM 하드웨어에서 DV 정확도는 얕은 깊이(최대 12개의 2-큐비트 게이트)에서는 유지되었으나, 깊은 회로(28개 게이트)에서는 크게 저하되었습니다.

결과

• 전체 정확도: 클래식 베이스라인은 85.0%에 도달했습니다. CV 헤드는 이에 근접(79.7%)했으나, DV 헤드는 큐비트 수(3, 4, 8)와 관계없이 60% 근처에서 정체되어, 이는 최적화 실패가 아닌 표현 능력의 한계(capacity ceiling)임을 나타냈습니다.
• 훈련 역학: DV 훈련 정확도는 약 0.73(손실 ~1.0)에서 포화된 반면, CV는 약 0.99(손실 ~0.14)에 도달하여, DV의 한계가 배런 플레이토(barren plateau)나 학습 부족 문제가 아닌 구조적 문제(데이터 표현 능력 부족)임을 확인시켜 주었습니다.
• 노이즈 강건성: CV 헤드는 입력 노이즈 하에서 성능이 급격히 떨어지는 "절벽" 현상을 보였습니다(노이즈 $\sigma$가 0.10에서 0.20으로 증가함에 따라 0.77에서 0.05로 급락). 반면, 더 작은 규모의 DV 헤드는 낮은 베이스라인으로부터 더 완만하게 저하되었습니다. 두 패러다임 모두 일률적으로 강건하지는 않았습니다.
• 하드웨어 성능: IBM 하드웨어 상의 DV-QNN은 얕은 회로(3q, 4q)에서는 시뮬레이션 결과와 일치했으나, 8-큐비트 깊이에서는 게이트 수 증가 및 노이즈와 상관관계가 있는 7포인트의 정확도 저하를 보였습니다.

의의 및 주장

본 논문은 미세한 공간적 구별을 요구하는 산업용 웨이퍼 맵 분류 작업에 있어, 연속 변수(CV) 아키텍처가 이산 변수(DV) 아키텍처보다 뚜렷한 실질적 이점을 제공한다고 주장합니다. 이는 비가우시안 자원이 없는 낮은 Fock cutoff에서도 마찬가지입니다.

그 의의는 이 이점을 주도하는 구조적 특성을 식별하는 데 있습니다:

1. 구조화된 설계: CV 층의 명시적인 클래식 신경망 대응 관계(아핀 맵 + 비선형성)는 일반적인 DV 안사츠가 갖지 못한 안정적인 귀납적 편향(inductive bias)을 제공합니다.
2. 연속적 인코딩: 연속적인 값의 특징 진폭을 위상 공간 좌표로 직접 매핑하는 CV의 능력은, 이산적인 각도 인코딩이 평탄화하기 쉬운 미세한 공간적 단서(예: Edge-Loc vs Scratch 구분)를 보존합니다.

저자들은 비록 현재의 양자 헤드가 클래식 최첨단 기술(state-of-the-art)을 능가하지는 못하지만, 통제된 환경을 통해 구조화된 양자 헤드가 이미 어디에서 가치를 제공하는지를 분리하여 보여주었다고 결론짓습니다. 이들은 노이즈와 규모가 개선됨에 따라, 공간적 연속성이 의사결정에 결정적인 산업용 이미징 작업에서 CV 패러다임이 실질적인 이점을 전달할 수 있는 더 나은 위치에 있다고 제안합니다. 또한 본 연구는 특히 DV의 훈련 가능성에 있어 클래식-양자 인터페이스 설계의 결정적인 중요성을 강조합니다.