Quantum Weighted Moving Average for Predicting Limit Order Book Trends

눈 깜짝할 사이에 부가 쌓이기도 하고 사라지기도 하는 고빈도 매매(high-frequency trading)의 분주한 세계에서, 시장은 주문이라는 언어로 말을 합니다. 주가가 움직이기 전, 그것은 리밋 오더 북(limit order book, 지정가 주문 장부)이라 불리는 디지털 장부를 통해 속삭입니다. 이 장부는 거래를 기다리는 모든 매수자와 매도자의 희망 가격과 원하는 주식 수를 나열하며 끊임없이 변화하는 기록입니다. 이것은 밀리초 단위로 진화하는 복잡한 데이터 포인트의 흐름이자, 공급과 수요 사이의 긴장감을 포착하는 다변량 시계열(multivariate time series)입니다. 수십 년 동안 인간 트레이더들과 고전 컴퓨터들은 수학적 도구를 사용하여 이 소음 속에서 패턴을 찾고, 가격이 상승할지, 하락할지, 혹은 그대로 머물지를 예측하며 혼돈을 완화하려 노력해 왔습니다. 그러한 도구 중 하나가 이동 평균(moving average)으로, 이는 최근의 데이터를 미래를 가늠하는 가이드로 삼아 과거의 가격 이력을 살펴 미래를 추측하는 단순한 방법입니다.

이제 한 연구팀이 대담한 질문을 던지고 있습니다. 양자 역학의 기묘하고 직관에 어긋나는 법칙들이 우리가 이 장부를 더 잘 읽도록 도와줄 수 있을까요? 서브아토믹(subatomic) 입자의 특성을 이용해 정보를 처리하는 양자 컴퓨터는 화학이나 암호학 같은 분야에서 가능성을 보여주었지만, 금융 시장에 대한 적용은 여전히 거의 검증되지 않은 상태입니다. 과제는 단순히 원시적인 속도의 문제가 아닙니다. 주식 시장의 무질서한 현실 세계 데이터를 양자 기계가 이해하고 학습할 수 있는 형식으로 변환하는 방법을 찾는 것입니다. 만약 성공한다면, 이는 금융 예측의 새로운 문을 열어 글로벌 자본의 복잡한 춤을 바라보는 새로운 렌즈를 제공할 수 있을 것입니다.

싱가포르와 취리히의 연구 센터에서 활동하는 연구진은 이러한 오더 북의 추세를 예측하기 위해 특별히 설계된 양자 모델을 구축하고자 했습니다. 그들은 단순히 양자 컴퓨터가 기존의 고전 컴퓨터가 이미 하는 일을 강제로 수행하게 하려 한 것이 아닙니다. 대신, '양자 가중 이동 평균(Quantum Weighted Moving Average)'이라는 새로운 아키텍처를 설계했습니다. 이것이 어떻게 작동하는지 이해하려면, 양자 컴퓨터를 동시에 많은 가능성을 보유할 수 있는 기계라고 상상해 보십시오. 연구진은 먼저 오더 북의 원시 데이터(시장 상위 10단계의 가격과 거래량)를 가져온 뒤, '이선형 정규화(bilinear normalization)'라는 기술을 사용하여 정제했습니다. 이 단계는 매우 중요합니다. 이는 마치 사진의 대비를 조절하여 세부 사항을 잘 보이게 만드는 것처럼, 양자 기계가 숫자의 엄청난 크기에 혼란을 겪지 않고 데이터를 처리할 수 있도록 규모를 조정하는 작업입니다.

데이터가 준비되면, 팀은 이를 양자 회로에 입력했습니다. 그들의 방법의 핵심은 '유니터리 선형 결합(linear combination of unitaries)'이라고 알려진 기술을 포함합니다. 쉽게 말해, 이는 양자 컴퓨터가 서로 다른 시점의 정보를 가져와 특정 방식으로 혼합한다는 것을 의미합니다. 각 과거의 순간은 별개의 퍼즐 조각으로 취급되며, 양자 기계는 각 조각에 가중치를 부여하여 과거와 현재 중 어느 쪽에 더 많은 중요성을 둘지 결정합니다. 연구진은 모델이 이러한 가중치를 자동으로 학습하도록 하여, 기계가 주식의 역사 중 어떤 순간이 미래를 가장 잘 예측하는지 스스로 파악하게 했습니다. 또한 그들은 최근 사건에는 더 많은 가중치를 주고 오래된 사건에는 적은 가중치를 주는 일반적인 지수 이동 평균(exponential moving average)을 모방한 모델을 포함하여 더 단순한 버전의 모델들도 만들었습니다.

그들의 창조물을 테스트하기 위해 연구진은 두 가지 실제 데이터셋을 사용했습니다. 첫 번째는 10일 동안 기록된 수백만 건의 거래 이벤트를 포함한 핀란드 주식 5종에 대한 잘 알려진 데이터 컬렉션이었습니다. 두로 번째는 중국 주식 데이터셋이었습니다. 그들은 수천 번의 시뮬레이션을 통해 양자 모델을 실행하며, 현재 사용 가능한 최고의 고전 머신러 러닝 모델들과 성능을 비교했습니다. 결과는 놀라운 균형을 보여주었습니다. 양자 모델이 고전 모델보다 뛰어난 성과를 내지는 못했습니다. 사실, 기존 기술보다 더 빠르거나 강력하다는 명확한 '양자 우위(quantum advantage)'를 보여주지도 않았습니다. 그러나 양자 모델은 매우 우수한 성능을 보였으며, 많은 시나리오에서 최고의 고전 모델들과 정확도가 일치했습니다. 이는 양자 접근 방식이 비록 엄청난 속도 향상이 없더라도, 데이터의 본질적인 패턴을 포착할 수 있는 실행 가능한 방법임을 시사합니다.

이 연구는 이러한 모델들이 어떻게 학습하는지에 대한 중요한 뉘앙스를 밝혀냈습니다. 연구진은 데이터가 정규화되는 방식이 양자 회로 자체의 복잡성보다 훨씬 더 중요하다는 것을 발견했습니다. 적절한 정규화 기술을 사용했을 때 양자 모델은 번창했습니다. 또한 그들은 양자 기계가 시계열의 가장 예측력 있는 부분에 집중하는 데 특히 뛰어나다는 것을 발견했습니다. 가중치가 지수적 감소(exponential decay)를 따르도록 고정된 모델, 즉 기계가 가장 최근의 데이터에 더 주목하도록 지시받은 단순한 버전의 경우, 가중치를 처음부터 스스로 학습해야 하는 더 복잡한 버전만큼이나 잘 수행되었습니다. 이는 단기 예측을 위해서는 가장 최근의 이력이 종종 가장 가치 있는 정보이며, 이 데이터를 가중하는 구조화된 접근 방식이 완전히 학습된 방식만큼이나 효과적일 수 있음을 의미합니다.

이러한 성공에도 불구하고, 연구진은 기대치를 조절하는 데 신중했습니다. 그들은 자신들의 작업이 현재 양자 컴퓨터가 이 작업에 대해 고전 컴퓨터보다 우월하다는 것을 증명하는 것이 아니라고 명시적으로 밝혔습니다. 실험은 실제 양자 하드웨어가 아닌 시뮬레이터에서 실행되었으며, 현재의 물리적 하드웨어는 여전히 초기 단계의 노이즈가 많은 상태입니다. 그들이 구축한 모델은 컴퓨터가 정답을 얻기 위해 많은 시도를 버려야 하는 '사후 선택(post-selection)' 과정을 필요로 하는데, 이는 현재의 물리적 기계에서는 매우 느린 단계가 될 것입니다. 더욱이, 그들이 사용한 데이터셋에는 한계가 있습니다. 데이터 샘-플링 및 레이블링 방식이 모델이 실제 거래에 얼마나 잘 일반화될 수 있는지에 영향을 미치는 편향을 초래할 수 있습니다. 연구진은 데이터셋이 종종 양자 알고리즘의 잠재력을 완전히 테스트하는 데 필요한 세밀함이 부족하며, 현재 세대의 하드웨어는 실시간 시장의 방대한 미세 데이터 스트림을 처리할 만큼 강력하지 않다고 언급했습니다.

논문은 양자 컴퓨터가 주식 거래를 혁신할 것이라는 꿈이 아직 현실은 아니지만, 나아갈 길은 더 명확해졌다고 결론짓습니다. 양자 가중 이동 평균 모델은 양자 방법이 금융 시장의 복잡한 다변량 시계열을 다루도록 맞춤화될 수 있음을 입증하는 디딤돌 역할을 합니다. 이는 적절한 전처리와 사려 깊은 설계가 있다면, 양자 기계가 고전 컴퓨터만큼이나 잘 시장의 속삭임을 읽을 수 있음을 보여줍니다. 저자들은 다음 단계로, 이러한 모델을 실제 양자 하드웨어에서 테스트하고 데이터 준비 과정을 이 새로운 기계들의 독특한 제약 조건에 더 잘 맞도록 정교화하는 것을 제안합니다. 현재로서 이 연구는 양자 컴퓨팅이 금융을 위한 이론적인 호기심에 그치는 것이 아니라, 거래의 소음이 가득하고 이해관계가 걸린 세계에서 발을 붙이기 시작한 실질적인 도구라는 점을 보여주는 견고한 증거로 남아 있습니다.