Hybrid Quantum-inspired Kolmogorov-Arnold Networks for Privacy-Aware Federated Biosignal Learning

당신의 심장 비밀 일기—가슴 속에서 뛰는 전기적 리듬—가 지역 병원의 금고, 웨어러블 시계 회사의 금고, 그리고 연구 클리닉의 또 다른 금고에 각각 잠겨 있는 세상을 상상해 보십시오. 이 일기들은 너무나 소중하고 사적인 것이어서 하나의 거대한 중앙 도서관으로 복사하여 붙여넣을 수 없습니다. 그렇게 하면 당신의 개인 건강 비밀이 노출될 위험이 있기 때문입니다. 이것이 바로 **연합 학습(Federated Learning)**의 문제입니다. 이는 컴퓨터들이 서로의 개인 데이터를 전혀 보지 않고도 함께 학습할 수 있는 영리한 방법입니다. 원시 심박수를 보내는 대신, 컴퓨터들은 오직 '학습된 교훈'(수학적 업데이트)만을 서로 주고받습니다.

하지만 문제가 하나 있습니다. 이러한 교훈을 보내는 데는 시간과 대역폭이 소요됩니다. 마치 작은 봉투에 무거운 백과사전을 담아 보내려는 것과 같습니다. 또한 데이터는 매우 불규칙합니다. 어떤 클라이언트는 수천 개의 심박수를 가지고 있는 반면, 어떤 클라이언트는 아주 적은 수만 가지고 있으며, 어떤 심장 질환은 '건더미 속의 바늘 찾기'처럼 매우 희귀한 사건이기도 합니다. 이를 해결하기 위해 과학자들은 양자 영감(Quantum-Inspired) 모델을 탐구하고 있습니다. 이 모델들은 실제 양자 컴퓨터(현재는 여전히 실험적이고 노이즈가 많음)에서 실행되는 것이 아니라, 양자 물리학의 수학적 기법을 빌려와 믿을 수 없을 정도로 작고 효율적인 모델을 구축하는 것입니다. 이것은 초경량 우주선의 설계도를 사용하여 여전히 하늘을 날 수 있는 자전거를 만드는 것과 같습니다. 큰 질문은 이것입니다. 이 작은 양자 영감 자전거가 우리가 흔히 사용하는 무거운 트럭보다 더 잘, 사적인 심장 데이터로부터의 학습이라는 무거운 짐을 실어 나를 수 있을까요?

---

문제의 핵심: 무거운 트럭과 양자 자전거의 경주

이 연구에서 연구진은 **하이브리드 양자 영감 콜모고로프-아르노프 네트워크(HQKAN)**라고 불리는 새로운 유형의 AI 모델이 부정맥(불규칙한 심박동)을 포착하는 작업에서 표준적인 작업용 모델인 **다층 퍼셉트론(MLP)**을 이길 수 있는지 확인하기 위해 고도의 승부가 걸린 경주를 설정했습니다.

이 경주는 "연합(Federated)" 아레나에서 진행되었습니다. 즉, 모델들은 원시 데이터가 이동하지 않은 채로 서로 다른 "클라이언트"(다양한 병원이나 기기를 시뮬레이션함)에 흩어져 있는 데이터로부터 학습해야 했습니다. 연구진은 두 가지 유명한 심장 데이터셋인 MIT-BIH(5가지 유형의 심박동 포함)와 INCART(3가지 유형 포함)를 사용하여 테스트를 진행했습니다. 목표는 데이터를 최대한 안전하게 유지하면서, 동시에 "봉투"(네트워크를 통해 주고받는 데이터)의 크기를 얼마나 작게 유지하며 정확하게 심박동을 분류할 수 있는지 확인하는 것이었습니다.

무거운 트럭 vs. 양자 자격

표준 모델인 MLP는 무겁고 신뢰할 수 있는 트럭과 같습니다. 잘 작동하지만 부피가 큽니다. 이 모델이 학습하게 하려면 서버와 클라이언트 사이에 방대한 양의 정보를 주고받아야 합니다.

도전자인 HQKAN은 "양자 자전거"입니다. 이 모델은 양자 역학에서 영감을 받은 특별한 구조, 구체적으로 **데이터 재업로드 활성화(DARUAN)**라고 불리는 기술을 사용합니다. 고정되고 경직된 기어를 사용하는 대신, 데이터에 완벽하게 들어맞도록 뒤틀리고 회전할 수 있는 유연하고 학습 가능한 함수를 사용합니다. 이러한 영리한 설계 덕분에 HQKAN은 믿을 수 없을 정도로 콤팩트합니다.

결과는 놀랍고 명확했습니다: 자전거가 경주에서 승리했습니다.

점수판: 더 작고, 빠르고, 똑똑하게

연구진이 8, 16, 32개의 서로 다른 클라이언트를 대상으로 시뮬레이션을 실행했을 때, HQKAN은 데이터가 불규칙하고 불균형한 상황(일부 클라이언트의 데이터가 다른 클라이언트와 매우 다른 'non-IID' 시나리오)에서도 일관되게 무거운 MLP 트럭을 능가했습니다.

HQKAN이 얼마나 더 뛰어났는지 논문의 수치에 따라 정확히 설명하면 다음과 같습니다:

• MIT-BIH 데이터셋의 경우:

  • HQKAN은 MLP보다 37.35% 적은 학습 가능한 파라미터를 사용했습니다.
  • 통신 비용(네트워크를 통해 전송되는 "봉투"의 크기)을 24.89% 줄였습니다.
  • 성능 측면에서는 희귀하고 까다로운 심박동(소수 클래스)을 포착하는 데 더 높은 점수를 기록했으며, 더 낮은 "브라이어 점수(Brier score, 예측의 확신도와 정확도를 측정하는 척도)"를 달성했습니다.

• INCART 데이터셋의 경우:

  • HQKAN은 훨씬 더 효율적이어서, 44.81% 적은 학습 가능한 파라미터를 사용했습니다.
  • 통신 비용을 36.41% 절감했습니다.
  • 다른 데이터셋과 마찬가지로, 클라이언트들의 데이터 분포가 매우 상이한 상황에서도 강력한 성능을 유지했습니다.

왜 자전거가 승리했는가

논문은 HQKAN의 비밀 무기가 데이터가 파편화되었을 때도 견고함을 유지하는 능력이라고 설명합니다. 클라이언트의 수가 증가함에 따라(데이터가 더 흩어짐에 따라) MLP의 성능은 흔들리기 시작했지만, HQKAN은 자리를 지켰습니다.

예를 들어, 32개의 클라이언트가 있는 MIT-BIH 데이터셋에서 HQKAN은 매크로-F1 점수(다양한 심박동 유형 간의 전반적인 균형을 측정하는 척도) 0.761을 달성한 반면, MLP는 0.698에 그쳤습니다. 이 격차는 클라이언트 수가 증가함에 따라 오히려 더 커졌으며, 이는 네트워크가 더 파편화될수록 HQKAN이 더욱 빛을 발한다는 것을 시사합니다.

또한 연구진은 "레이블 왜곡(label skew)" 상황, 즉 한 클라이언트는 주로 정상 심박동을 가지고 있고 다른 클라이언트는 주로 희귀하고 위험한 심박동을 가진 상황을 조사했습니다. 연구진은 다양한 집중 매개변수(예: $\alpha = 0.3$)를 가진 "디리클레 분포(Dirichlet distribution)"를 사용하여 이를 시뮬레이션했습니다. 이러한 어려운 왜곡 시나리오에서도 HQKAN은 MLP에 비해 일관되게 더 높은 AUROC 및 AUPRC(모델이 클래스를 얼마나 잘 구별하는지 측정하는 지표) 점수를 보여주었습니다.

결론

논문은 효율성과 견고함을 얻기 위해 속도를 희생할 필요는 없다고 결론짓습니다. HQKAN은 콤팩트하고 통신 효율적인 모델이 전통적인 육중한 모델보다 사적이고 흩어진 심장 데이터로부터 학습하는 데 실제로 더 나을 수 있음을 증명합니다.

이것은 마법 같은 만병통치약은 아니며, 이 결과는 기존 데이터셋을 사용한 시뮬레이션에 기반하고 있습니다. 하지만 이 발견은 유망한 새로운 방향을 제시합니다. 양자 영감 수학의 구조적 우아함을 빌림으로써, 우리는 개인 정보를 존중하면서도 대역폭을 절약하고, 여전히 예리한 눈으로 희귀하고 위험한 심박동을 포착할 수 있는 AI 시스템을 구축할 수 있을 것입니다. 무거운 트럭도 여전히 유용하지만, 프라이버시를 고려한 미래의 심장 모니터링을 위해서는 양자 자전거가 최적의 탈것으로 보입니다.