당신이 로봇에게 사진 속 고양이를 인식하는 법을 가르치려 한다고 상상해 보십시오. 고전적인 컴퓨터의 세계에서, 우리는 보통 수백만 장의 사진을 로봇에게 보여주고 수학적인 '역전파(backpropagation)' 기법을 사용합니다. 역전파를 미로 속을 거꾸로 걸어가는 선생님에 비유해 봅시다. 선생님은 로봇이 실수한 모든 길을 지적하며, 출구에 더 가까워지기 위해 어떻게 발걸음을 조절해야 하는지 정확히 알려줍니다. 이 방식은 매끄럽고 연속적인 도로에서는 아주 잘 작동합니다. 하지만 만약 로봇이 오직 '켜짐' 또는 '꺼짐' 상태만 존재하는 거대한 복잡한 조명판 같은 스위치들로 이루어진 세상에 살고 있다면 어떨까요? 이 세상에는 부드러운 도로는 없고, 오직 날카롭고 울퉁불퉁한 절벽뿐입니다. 당신은 스위치를 부드럽게 밀 수 없습니다. 반드시 켜거나 꺼야만 합니다. 이는 기존의 '선생님' 방식이 무용지물이 된다는 것을 의미합니다.

이것이 바로 양자 기계 학습(quantum machine learning)이라는 새로운 분야가 직면한 퍼즐입니다. 양자 컴퓨터는 매우 뛰어나지만, 종종 이러한 '온/오프' 스위치(이진 상태라고 불림)를 사용하며, 미분 가능한 매끄러운 수학을 깨뜨리는 측정 과정을 포함합니다. 과학자들은 이러한 양자 두뇌를 훈련시키는 데 어려움을 겪어 왔는데, 기존의 도구들이 여기에 맞지 않았기 때문입니다. 그들은 역전파라는 미분 계산법에 의존하는 대신, 물리 법칙, 특히 시스템이 항상 가장 낮은 에너지 상태(마치 공이 언덕 아래로 굴러 내려가듯)로 안착하려는 성질을 이용하는 새로운 방법을 필요로 했습니다. 이 논문은 바로 이 간극을 파고들며 다음과 같이 질문합니다. "양자 신경망을 미적분 문제를 푸는 학생이 아니라, 가장 편안한 휴식 지점을 찾는 물리적 시스템으로 취급함으로써 훈련할 수 있을까?"

양자 두뇌를 가르치는 새로운 방법

선옌 대학(Sun Yat-sen University)과 QBoson Quantum Technology 팀이 협력하여 개발한 이 연구의 연구진은 EPIC-CIM이라는 새로운 훈련 프레임워크를 구축했습니다. 이것은 '날카로운 절벽' 문제에 대한 영리한 해결책이라고 볼 수 있습니다. 존재하지도 않는 기울기를 계산하려고 애쓰는 대신, 시스템이 자연스럽게 균형(평형) 상태에 도달하게 하고, 두 가지 약간 다른 균형 사이의 차이를 이용하여 학습하는 방식입니다.

그들의 방식인 EPIC-CIM이 어떻게 작동하는지 재미있는 비유를 통해 설명해 보겠습니다:

수천 개의 전등 스위치(양자 기계의 '이진 상태')로 가득 찬 거대하고 혼란스러운 방을 상상해 보십시오. 당신의 목표는 이 스위치들을 배치하여 멀리서 보았을 때 "CAT(고양이)"이라는 단어가 나타나도록 만드는 것입니다.

1. 설정 단계: 당신은 방 안으로 손전등 빛(입력 이미지)을 비춥니다. 빛이 스위치에 닿으면, 스위치들은 켜지거나 꺼지려고 움직입니다.
2. '자유(Free)' 단계: 먼저, 방이 스스로 안정되도록 둡니다. 스위치들은 빛에 따라 편안한 패턴을 찾을 때까지 흔들리고 뒤집힙니다. 이것이 '자유 단계'입니다. 시스템은 그저 자연스러운 에너지 수준을 찾으며 쉬고 있는 상태입니다.
3. '넛지(Nudge)' 단계: 이제, 방이 "CAT"이라는 글자를 만들어야 합니다. 그래서 당신은 "CAT"을 위해 켜져 있어야 할 스위치들은 켜져 있도록, 그렇지 않은 것들은 꺼져 있도록 아주 살짝 건드립니다(이를 '약하게 고정된(weakly clamped)' 상태라고 합니다). 당신은 강제로 조작하는 것이 아니라, 아주 작고 부드러운 자극만 주어 다시 안정되게 합니다.
4. 학습 단계: 마법은 두 방을 비교할 때 일어납니다. 연구진은 '자유 상태의 방'과 '넛지 상태의 방'의 차이를 살펴봅니다. 만약 당신의 넛지 때문에 어떤 스위치가 다르게 움직였다면, 그것은 시스템에 "이봐, 네가 요청받았을 때 이 스위치가 켜져 있도록 설정을 조정해야 해!"라고 알려주는 신호가 됩니다. 그들은 복잡한 기울기를 계산하지 않고도 이 차이를 바탕으로 규칙(네트워크의 '가중치')을 업데이트합니다.

이 과정은 **평형 전파(Equilibrium Propagation)**라고 불립니다. 이는 개에게 공의 물리학을 설명하는 대신, 개가 앉아 있을 때 보상을 주고 제대로 하지 않을 때 부드럽게 교정해주면서, 반복과 피드백을 통해 패턴을 스스로 익히게 하는 것과 같습니다.

연구 결과

연구팀은 이 새로운 '평형 전파' 방법을 MNIST(손글씨 숫자), Fashion-MNIST(의류 아이템), CIFAR-10(다채로운 일상 사물)이라는 세 가지 유명한 이미지 데이터셋에 대해 테스트했습니다. 그들은 자신들의 EPIC-CIM 모델을 '변분 양자 회로(Variational Quantum Circuits, 라디오를 드라이버로 조율하는 것과 같음)'나 '양자 어닐링(Quantum Annealing, 공을 굴려 언덕 아래를 찾는 것과 같음)'을 사용하는 다른 양자 방식들과 비교했습니다.

결과는 꽤 유망했습니다:

• MNIST 데이터셋에서: EPIC-CIM은 **92.32%**의 테스트 정확도를 달랐습니다. 이는 표준 양자 합성곱 신경망(QCNN)이 기록한 **84.59%**와 양자 어닐링 방식이 기록한 **87.53%**보다 유의미하게 높은 수치입니다.
• Fashion-MNIST 데이터셋에서: 이 새로운 방식은 **79.62%**를 기록하여, QCNN(78.29%)과 양자 어닐링 방식(78.96%)을 앞질렀습니다.
• 까다로운 CIFAR-10 데이터셋에서: 복잡하고 다채로운 이미지에도 불구하고, EPIC-CIM은 **34.56%**의 정확도에 도달했습니다. 이는 일반적인 클래식 컴퓨터(40.22% 기록)보다는 낮지만, 다른 양자 모델들이 27.79%를 넘지 못했던 것에 비하면 명확한 개선입니다.

가장 흥-미로운 발견 중 하나는 이 모델이 '소량의 데이터'를 얼마나 잘 처리하는가였습니다. 보통 AI는 학습을 위해 수백만 장의 사진이 필요합니다. 하지만 EPIC-CIM은 단 몇 천 개의 샘플만으로도 효과적으로 학습할 수 있음을 보여주었습니다. 단 1,000장의 훈련 이미지만 사용했을 때도 잘 학습했으며, 데이터를 60,000장까지 늘리자 정확도가 **92.32%**까지 꾸준히 상승했습니다. 이는 이 방식이 매우 효율적이며 쉽게 혼란에 빠지지 않음을 시사합니다.

실제 기계에서도 작동하는가?

연구진은 컴퓨터 시뮬레이션에만 머물지 않았습니다. 그들은 실제 양자 하드웨어에서도 아이디어를 테스트했습니다. 실제 양자 컴퓨터는 노이즈가 많고 고정밀 숫자를 다루기 어려울 때가 많습니다. 때로는 표준적인 32비트 대신 14비트와 같은 낮은 정밀도로 작동해야 합니다.

이러한 하드웨어의 한계와 실제 세상의 '노이즈'에도 불구하고, EPIC-CIM 모델은 놀라울 정도로 잘 버텨냈습니다. 실제 하드웨어에서 이 모델은 **91%**의 테스트 정확도를 달성했습니다. 이는 완벽한 시뮬레이션에서 얻은 **92.32%**에 매우 근접한 수치입니다. 이는 이 방식이 매우 견고하며, 하드웨어가 완벽하지 않더라도 무너지지 않는다는 것을 보여줍니다.

이것이 의미하는 바

이 논문은 신경망 훈련을 에너지 균형을 찾는 물리적 과정으로 취급함으로써, 양자 컴퓨터 훈련의 수학적 난제를 우회할 수 있다고 제안합니다. 저자들은 이 접근 방식이 훈련 과정을 더 안정적이고 해석 가능하게 만든다고 주장합니다. 수학적인 블랙박스 대신, 물리적 객체가 제자리를 찾아 안착하는 것과 같은 시스템을 갖게 되는 것입니다.

이 모델이 아직 (특히 CIFAR-10과 같은 어려운 과제에서) 클래식 컴퓨터만큼 완벽하지는 않지만, 양자 영감을 받은 최적화가 강력한 도구가 될 수 있음을 보여줍니다. 이는 우리가 역전파라는 불가능한 수학 없이도 복잡한 양자 네트워크를 훈련할 수 있음을 증명하며, 향-후 더 안정적이고 확장 가능한 양자 인공지능의 문을 열어줍니다. 연구진은 이 프레임워크가 양자 컴퓨팅과 우리가 매일 사용하는 인공지능 사이의 간극을 메우는 통합적인 방법을 제공한다고 결론지었습니다.