🧬 biology

CG-QRNN: A Conditional Gated Quantum Recurrent Neural Network with Recurrent Temporal Attention

본 논문은 자원 효율적인 게이팅을 위해 회로 중간 측정(mid-circuit measurements)을 활용하고 장기 의존성을 포착하기 위한 시간적 어텐션 메커니즘을 사용하는 새로운 구조인 순환 시간적 어텐션이 결합된 조건부 게이트형 양자 순환 신경망(CG-QRNN)을 제안하며, 이를 통해 기존 방법들과 비교하여 상미분 방정식 벤치마크에서 현저히 향상된 성능과 안정성을 달성한다.

원저자: Haibin Wang, Tianjiao Li, Wenjie Liu, Qingshan Wu

게시일 2026-10-08

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Haibin Wang, Tianjiao Li, Wenjie Liu, Qingshan Wu

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ⚕️ 이것은 동료 심사를 거치지 않은 프리프린트의 AI 생성 설명입니다. 의학적 조언이 아닙니다. 이 내용을 바탕으로 건강 관련 결정을 내리지 마세요. 전체 면책 조항 읽기

시간은 단절된 스냅샷의 연속이 아니라, 과거가 끊임없이 현재를 형성하는 흐르는 강물과 같습니다. 이러한 흐름을 이해하기 위해 과학자들은 오랫동안 순환 신경망(recurrent neural network)이라 불리는 유형의 컴퓨터 프로그램에 의존해 왔습니다. 이 프로그램들은 방금 전 일어난 일을 기억하고 그 기억을 사용하여 다음에 올 일을 예측하도록 설계되었으며, 기상 예측, 주식 시장 분석, 또는 행성의 움직임을 추적하는 데 필수적입니다. 그러나 이 프로그램들이 더 먼 과거의 사건들을 기억하려고 시도할 때, 종종 맥락을 놓치며 먼 시간과 현재를 연결하는 데 어려움을 겪곤 합니다. 최근 몇 년 동안 연구자들은 새로운 개척지인 양자 컴퓨팅을 탐구하기 시작했습니다. 양자 물리학의 기이하고 직관에 어긋나는 규칙을 사용함으로써, 이 기계들은 고전적 컴퓨터가 할 수 없는 방식으로 정보를 처리할 것을 약속합니다. 과제는 복잡한 패턴을 학습할 만큼 강력하면서도, 오늘날의 취약하고 실험적인 양자 하드웨어에서 실행될 수 있을 만큼 효율적인 메모리 보유 프로그램을 구축하는 것이었습니다.

난징 정보기술대학교(Nanjing University of Information Science and Technology)의 한 연구팀은 이 특정 문제를 해결하기 위한 새로운 설계를 제안했습니다. 그들은 자신들의 창조물을 조건부 게이티드 양자 순환 신경망(Conditional Gated Quantum Recurrent Neural Network), 즉 CG-QRNN라고 부릅니다. 그들이 직면한 핵심적인 어려움은 이전의 양자 메모리 프로그램 구축 시도가 기능을 수행하기 위해 너무 많은 물리적 구성 요소, 즉 큐비트(qubit)를 필요로 했다는 점이었습니다. 양자의 세계에서 큐비트를 추가하는 것은 이미 너무 작아서 난방하기 힘든 집에 방을 더 추가하는 것과 같으며, 이는 시스템을 불안정하고 관리하기 어렵게 만듭니다. 더욱이, 기존의 설계들은 과거를 역동적인 영향의 흐름이 아닌 정적인 사실의 목록으로 취급하는 경우가 많아, 시스템이 긴 시간의 흐름으로부터 학습하는 것을 어렵게 만들었습니다. 연구진은 추가적인 하드웨어 없이도 과거를 효과적으로 기억할 수 있는 시스템을 만들기 위해 착수했습니다.

그들의 해결책은 단일하고 컴팩트한 양자 회로 내부에서 함께 작동하는 두 가지 영리한 기술을 포함합니다. 첫 번째 기술은 그들이 '조건부 게이팅(conditional gating)'이라고 부르는 방법입니다. 보안 요원이 신호를 받아 문으로 들어올 사람을 허용할지 결정하는 상황을 상상해 보십시오. 이 양자 시스템에서 연구자들은 계산 중간 단계에서 컴퓨터 상태의 작은 부분을 측정합니다. 그 측정 결과가 신호 역할을 합니다. 만약 신호가 "예"라고 하면, 컴퓨터는 메모리를 업데이트하기 위해 특정 연산을 수행하고, "아니오"라고 하면 그 단계를 건너뜁니다. 이를 통해 시스템은 결정을 내리기 위해 별도의 큐비트 세트를 필요로 하는 대신, 동일한 물리적 큐비트를 사용하여 무엇을 기억하고 무엇을 잊을지에 대한 결정을 내릴 수 있습니다. 이 접근 방식은 귀중한 공간을 절약하고 시스템을 안정적으로 유지합니다.

두 번째 기술은 그들이 '순환적 시간 주의(recurrent temporal attention)'라고 명명한, 과거에 주목하는 메커니즘입니다. 많은 컴퓨터 프로그램에서 시스템은 앞으로 나아가기 전 가장 최근의 정보만을 살펴봅니다. 이 새로운 설계는 시스템이 과거의 전체 숨겨진 상태(hidden states)를 되돌아볼 수 있게 해줍니다. 이는 마치 독자가 현재의 줄거리를 설명하는 가장 중요한 장들을 찾기 위해 책을 훑어보는 것처럼, 각 과거의 순간이 현재 상황과 얼마나 관련이 있는지 계산합니다. 이 모든 역사를 새로운 별도의 메모리 뱅크에 저장하는 대신, 시스템은 방금 측정되고 비워진 바로 그 큐비트들을 재사용합니다. 시스템은 가장 중요한 역사적 통찰력을 이 재사용된 큐비트들에 인코딩하고 이를 현재 상태와 혼합합니다. 이를 통해 시스템은 단 하나의 추가 큐비트도 도입하지 않고도 장기적인 패턴을 학습할 수 있습니다.

이 설계가 실제로 작동하는지 테스트하기 위해, 연구진은 다섯 가지 다른 유형의 복잡하고 변화하는 시스템을 포함하는 일련의 엄격한 시뮬레이션을 수행했습니다. 여기에는 파동의 진동 예측, 포식자와 피식자의 개체 수 변동 모델링, 그리고 딱딱한 화학 반응의 추적이 포함되었습니다. 모든 경우에서, 새로운 시스템은 기존의 가장 우수한 양자 모델들과 심지어 일부 고전적 모델들보다 뛰어난 성능을 보였습니다. 장기 기억 효과로 알려진 분수 랏카-볼테라(fractional Lotka–Volterra) 시스템의 행동을 예측하는 작업에서, 새 모델은 차순위 모델에 비해 평균 예측 오차를 83.3% 감소시켰습니다. 어려운 화학 반응 속도론 문제인 로버트슨(Robertson) 벤치마크에서는 오차가 무려 97.5%나 떨어졌습니다. 또한 시스템은 관측된 데이터로부터 물리적 매개변수를 식별하는 작업, 예를 들어 스프링의 움직임으로부터 강성을 결정하는 작업에서 더 안정적이고 정확하다는 것을 입증했습니다.

결과는 이 새로운 아키텍처가 복잡한 학습의 필요성과 현재 양자 하드웨어의 엄격한 제한 사이에서 성공적으로 균형을 맞추고 있음을 시사합니다. 미드-서킷 측정(mid-circuit measurements)을 사용하여 연산을 제어하고 큐비트를 재사용하여 역사적 통찰력을 저장함으로써, 연구진은 양자 메모리 시스템이 자원 효율적이면서도 시간의 흐름을 이해하는 데 매우 효과적일 수 있음을 입증했습니다. 비록 이 연구가 양자 행동을 모델링하기 위해 고전적 컴퓨터를 통한 시뮬레이션으로 수행되었지만, 그 결과는 미래의 양자 기계가 순서와 시간에 대한 깊은 이해를 요구하는 문제를 해결하기 위해 어떻게 구축되어야 하는지에 대한 명확한 청사진을 제공합니다. 이 작업은 우리가 복잡한 순차적 문제를 해결하기 위해 거대하고 오류 없는 양자 컴퓨터를 기다릴 필요 없이, 이미 가지고 있는 큐비트를 더 똑똑하고 효율적으로 사용하는 방법을 설계함으로써 상당한 돌파구를 마련할 수 있음을 보여줍니다.

기술 요약: CG-QRNN

문제 정의

양자 순환 신경망(QRNN)은 매개변수화된 양자 회로(PQC)를 순환 구조와 결합함으로써 시퀀스 모델링을 위한 유망한 패러다임을 제시한다. 그러나 기존의 QRNN 접근 방식은 두 가지 주요 한계에 직면해 있다:

양자 자원 비효율성: QLSTM(Quantum Long Short-Term Memory) 및 QGRU(Quantum Gated Recurrent Units)와 같은 기존의 게이티드 양자 아키텍처는 별도의 게이팅 메커니즘(입력, 망각, 출력 게이트)을 구현하기 위해 추가적인 양자 자원(예: 추가 큐비트 또는 다수의 회로 실행)을 요구하는 경우가 많다. 이는 노이즈가 있는 중간 규모 양자(NISQ) 장치의 오버헤드를 증가시킨다.
장기 의존성 모델링의 한계: 고전적 RNN은 장기 의존성 모델링에 어려움을 겪으며, 기존의 QRNN 또한 주로 은닉 상태 전파에 의존한다. 최근의 경량화된 변형 모델들은 어텐션 메커니즘을 포함하기도 하지만, 이는 종종 양자 순환 업데이트 과정에 직접적으로 통합되기보다는 보조적인 구성 요소로 취급되어 복잡한 시간적 의존성을 효율적으로 포착하는 능력이 제한된다.

방법론

저자들은 **재귀적 템포럴 어텐션이 포함된 조건부 게이티드 양자 순환 신경망(CG-QRNN)**을 제안한다. 이 아키텍처는 입력 인코딩(Input Encoding), 조건부 게이팅(Conditional Gating, CG), 재귀적 템포럴 어텐션(Recurrent Temporal Attention, RTA)의 세 가지 순차적 단계로 작동한다.

1. 조건부 게이팅(CG) 전략

CG 모듈은 추가 큐비트를 도입하지 않고 게이팅을 구현함으로써 양자 자원 효율성 문제를 해결한다.

메커니즘: 중간 회로 측정(mid-circuit measurement) 결과를 제어 신호로 활용한다. 매개변수화된 양자 회로 $U_g(\theta_g)$ 는 현재 입력과 이전 은닉 상태의 결합 상태를 처리한다.
조건부 실행: 큐비트 0과 1을 중간 회로에서 측정한다. 측정 결과( $m_i \in \{0, 1\}$ $m_{i} \in {0, 1}$ )는 메모리 큐비트에 특정 학습 가능한 회전 연산( $RY(\alpha_i)$ $R Y (α_{i})$ )을 적용할지 여부를 결정한다.
- 만약 $m_i = 1$ 이면, 회전 연산이 적용된다.
- 만약 $m_i = 0$ 이면, 연산은 생략된다(항등 연산).
자원 재사용: 조건부 업데이트 후, 측정된 큐비트는 $|0\rangle$ 으로 리셋되어 후속 RTA 모듈에 의해 재사용된다. 이를 통해 모델은 단일 양자 레지스터 내에서 적응형 상태 업데이트를 수행할 수 있으며, 게이팅만을 위해 별도의 큐비트를 할당하는 것을 방지한다.

2. 재귀적 템포럴 어텐션(RTA) 메커니즘

RTA 모듈은 역사적 정보를 양자 업데이트에 직접 통합함으로써 장기 의존성 모델링을 강화한다.

고전적 어텐션: 고전적 셀프 어텐션 메커니즘이 과거 은닉 상태들의 시퀀스( $H_{0:t-1}$ )를 처리하여 템포럴 표현 벡터( $o_t$ )를 생성한다.
양자 인코딩: CG 단계에서 리셋된 큐비트(0 및 1)는 이 템포럴 정보를 인코딩하는 데 재사용된다. 어텐션 출력은 선형 투영과 하이퍼볼릭 탄젠트 활성화 함수를 통해 회전 각도로 매핑된 후, $RY$ 회전을 통해 큐비트에 인코딩된다.
통합: 두 번째 매개변수화된 회로 $U_f(\theta_f)$ 는 인코딩된 템포럴 정보(큐비트 0 및 1)와 CG로 업데이트된 은닉 상태(큐비트 2 및 3)를 공동으로 처리한다. 이를 통해 역사적 문맥이 양자 회로 내에서 현재의 순환 업데이트에 직접적인 영향을 미칠 수 있게 한다.

3. 훈련 및 최적화

모델은 평균 제곱 오차(MSE) 손실 함수를 사용하는 Adam 옵티마이저를 사용하여 엔드 투 엔드(end-to-end)로 훈련된다. 학습 가능한 파라미터에는 $U_g$ 의 변분 회로 가중치, 조건부 회전 파라미터, 그리고 어텐션을 위한 고전적 투영 레이어가 포함된다.

주요 기여

자원 효율적인 양자 게이팅: 조건부 게이팅 전략의 설계는 중간 회로 측정과 큐비트 재사용을 통해 양자 게이팅 기능을 가능하게 하며, 별도의 게이트 연산을 위해 일반적으로 필요한 추가 큐비트의 필요성을 제거한다.
통합된 템포럴 어텐션: 재귀적 템포럴 어텐션 메커니즘은 리셋된 큐비트를 재사용하여 셀프 어텐션 출력을 인코딩함으로써, 큐비트 수를 늘리지 않고도 역사적 시간 정보를 양자 순환 업데이트에 직접 통합한다.
실증적 성능: 5개의 상미분 방정식(ODE) 벤치마크에 대한 광범적인 실험을 통해, CG-QRNN이 최신 고전 및 양자 베이스라인 모델들에 비해 우수한 성능을 달성함을 입증했다.

실험 결과

모델은 5가지 ODE 벤치마크(Bessel 함수 예측, 표준 Lotka–Volterra, 분수형 Lotka–Volterra, 감쇠 진동자 파라미터 식별, Robertson 강성 화학 반응 속도론)에서 평가되었다.

성능 향상: 가장 성능이 좋은 베이스라인들과 비교했을 때, CG-QRNN은 평균 예측 오차를 크게 감소시켰다:
- Bessel: 59.1% 감소.
- Standard Lotka–Volterra: 69.6% 감소.
- Fractional Lotka–Volterra: 83.3% 감소.
- Robertson: 97.5% 감소.
- Damped Oscillator: 더 높은 $R^2$ 점수와 더 안정적인 예측을 달성함.
자원 효율성:
- 큐비트: CG-QRNN은 모든 작업에서 콤팩트한 4-큐비트 구성을 유지한다. 반면, QLSTM, QGRU, DM-QRNN과 같은 베이스라인들은 유사한 작업을 위해 6개의 큐비트를 필요로 했다.
- 실행 오버헤드: 중간 회로 측정과 큐비트 재사용을 활용함으로써, CG-QRNN은 재귀적 타임 스텝당 단 한 번의 회로 실행만을 요구한다. QLSTM 및 QGRU와 같은 베이스라인들은 서로 다른 게이트를 구현하기 위해 스텝당 여러 번의 회로 실행이 필요한 경우가 많다.
절제 연구(Ablation Studies): CG 또는 RTA 모듈 중 하나를 제거하면 성능 저하가 발생하였으며, 이는 두 구성 요소 모두 모델의 효과성에 필수적임을 확인시켜 준다.

의의 및 주장

본 논문은 CG-QRNN이 NISQ 제약 조건 하에서 순차적 예측을 위한 자원 효율적인 솔루션을 제공한다고 주장한다. 조건부 게이팅과 재귀적 템포럴 어텐션을 단일 4-큐비트 프레임워크로 통합함으로써, 모델은 낮은 양자 자원 소비와 높은 모델링 능력 사이의 균형을 달성한다.

저자들은 자신들의 접근 방식이 양자 자원 오버헤드와 장기 시간 의존성을 모델링하는 능력 사이의 트레이드오프를 효과적으로 해결한다고 주장한다. 결과는 중간 회로 측정과 큐비트 재사용이 복잡한 순환 로직을 현재의 양자 하드웨어에 구현하기 위한 유효한 전략임을 시사한다.

저자들은 현재의 평가가 시뮬레이션된 동역학 시스템에 국한되어 있다는 점과, 고전적 셀프 어텐션 구성 요소가 매우 긴 시퀀스에 대해 계산 오버헤드를 유발하여 확장성에 영향을 미칠 수 있다는 점을 언급하며 제한 사항에 대해 신중한 태도를 유지하고 있다. 향후 연구로는 더 효율적인 템포럴 추출 방법과 더 넓은 범위의 시퀀스 모델링 시나리오를 탐색하는 것이 제안되었다.