From hyperplanes to hyperellipsoids: characterizing the inherent interpretability of linear and single-qubit mixed-state binary classification models

스마트 머신의 비밀스러운 기하학

컴퓨터에게 빨간 구슬과 파란 구슬을 분류하는 것처럼 두 가지 유형의 사물을 구별하는 법을 가르치려 한다고 상상해 보세요. 이것이 바로 **머신 러닝(기계 학습)**의 핵심입니다. 머신 러닝은 컴퓨터가 엄격하게 미리 작성된 규칙을 따르는 대신, 데이터를 통해 패턴을 학습하는 분야입니다. 수십 년 동안 이를 수행하는 가장 대중적인 방법은 **선형 모델(linear models)**을 사용하는 것이었습니다. 이를 데이터의 두 그룹을 나누기 위해 직선(또는 고차원에서의 평평한 면)을 긋는 것으로 생각할 수 있습니다. 이는 단순하고 빠르며 이해하기 쉽습니다. 데이터 포인트가 선의 한쪽에 있으면 "빨간 구슬"이고, 반대편에 있으면 "파란 구슬"인 식입니다.

하지만 최근 과학자들은 **양자 머신 러닝(quantum machine learning)**이라는 훨씬 더 화려하고 신비로운 도구를 살펴보기 시작했습니다. 이는 아주 작은 세계의 법칙인 양자 물리학의 기묘한 규칙을 사용하여 정보를 처리합니다. 많은 이들에게 이것은 "큐비트(qubits)"나 "중첩(superpositions)"과 같은 용어를 포함하여, 마치 천재들만이 구사할 수 있는 비밀 언어나 마법처럼 들립니다. 그러나 핵심적인 질문은 이것입니다. 이 양자 모델들이 실제로 다르게 작동하는 것일까요, 아니면 그저 SF 의상을 입은 예전의 익숙한 기술일 뿐일까요? 우리가 이러한 모델이 어떻게 "생각하는지" 이해할 수 있다면, 더 나은, 더 신뢰할 수 있는 AI를 구축할 수 있기 때문에 이 질문은 매우 중요합니다. 만약 모델이 너무 복나서 이해할 수 없다면, 우리는 왜 모델이 실수를 저질렀는지 알 수 없게 되며, 이는 현실 세계에서 위험한 일이 될 수 있습니다.

직선에서 늘어나는 풍선까지

이 논문에서 QodeX Quantum의 케이틀린 길리(Kaitlin Gili)는 기존의 전통적인 선형 모델과 **단일 큐비트 혼합 상태 모델(single-qubit mixed-state model)**이라 불리는 특정 유형의 양자 모델을 깊이 있게 비교합니다. 목표는 무엇일까요? 혼란스러운 전문 용어를 걷어내고 이 두 모델이 실제로 서로 연관되어 있는지 확인하는 것입니다. 저자는 두 모델이 겉보기에는 매우 달라 보이지만, 양자 모델은 본질적으로 선형 모델의 "기하학적 업그레이드" 버전이라고 주장합니다.

여기 놀라운 사실이 있습니다: 선형 모델은 직선(초평면)을 학습하지만, 양자 모델은 하이퍼엘립소이드(hyperellipsoid, 초타원체)라고 불리는 늘어나는 3D 형태를 학습합니다.

이를 시각화하기 위해, 여러분이 뒤섞인 장난감 더미를 분리하려고 한다고 상상해 보세요.

• 선형 모델은 거대하고 평평한 판지를 들고 있는 것과 같습니다. 여러분은 판지를 기울이거나 움직여서 장난감을 두 더미로 나눌 수 있습니다. 하지만 장난감이 원형으로 배치되어 있다면, 평평한 판지는 일부 장난감을 가로지르지 않고서는 완벽하게 분리할 수 없습니다. 그것은 경직되어 있으며, 오직 직선의 절단만을 할 수 있습니다.
• 양자 모델은 방 한가운데에 놓인 거대하고 신축성 있는 풍선(타원체)을 들고 있는 것과 같습니다. 이 모델은 평평한 절단 대신, 중심으로부터 얼마나 멀리 떨어져 있는지에 따라 경계를 정의합니다. 만약 "빨간색" 장난감들이 중심에 밀집해 있고 "파란색" 장난감들이 더 멀리 있다면, 풍선은 "빨간색" 그룹을 감싸듯 팽창합니다. 이것은 유연하지만 한 가지 제약이 있습니다. 풍선의 중심은 반드시 원점(방의 중앙)에 고정되어 있어야 합니다. 풍선은 늘어나거나 줄어들 수는 있지만, 중심을 다른 곳으로 옮길 수는 없습니다.

논문은 이 양자 풍선의 "늘어남"이 **특성 중요도(feature importance)**에 의해 제어된다는 것을 보여줍니다. 선형 모델에서는 "이 특성은 매우 중요하며 선을 왼쪽으로 강하게 밀어낸다"라고 말할 수 있습니다. 또한 "이 특성은 음수이며 오른쪽으로 밀어낸다"라고도 할 수 있습니다. 숫자의 크기는 그 밀어내는 힘이 얼마나 강한지를 알려주는 절대적 특성 중요도를 제공합니다.

양자 모델에서는 방식이 조금 다릅니다. "가중치(확률)"는 모두 양수여야 하며 합계가 1이 되어야 합니다. 이는 모델이 "음수" 특성을 가질 수 없음을 의미합니다. 대신, 이 모델은 상대적 중요도를 기반으로 작동합니다. 이것은 마치 파이 차트와 같습니다. 한 조각이 커지면 다른 조각들은 반드시 작아져야 합니다. 모델은 어떤 특성이 파이의 "가장 큰 조각"인지를 학습합니다. 만약 어떤 특성이 매우 중요하다면, 풍선은 그 방향으로 길게 늘어납니다. 만약 어떤 특성이 중요하지 않다면, 풍선은 그 방향으로 완전히 납작해져서 사실상 해당 특성을 무시하게 됩니다.

이 논문이 실제로 말하는 것 (그리고 말하지 않는 것)

저자는 이 모델이 할 수 있는 것과 할 수 없는 것에 대해 매우 명확하게 밝히고 있습니다. 이 논문은 이 양자 모델이 모든 문제를 해결하는 마법의 탄환이라거나 기존 컴퓨터보다 빠르다고 주장하지 않습니다. 사실, 저자는 이것이 "단일 큐비트" 모델이기 때문에 일반 컴퓨터로도 쉽게 시뮬레이션할 수 있을 만큼 단순하다고 지적합니다. 즉, 실제 양자 하드웨어를 필요로 하기보다는 "양자에서 영감을 받은(quantum-inspired)" 모델입니다.

또한 이 논문은 이 모델이 신비롭고 설명 불가능한 블랙박스라는 아이디어를 명시적으로 배제합니다. 이 모델이 선형 모델의 "하이퍼엘립소이드 버전"임을 보여줌으로써, 저자는 이 모델이 특정 방식으로 오히려 더 해석 가능하다는 점을 주장합니다. 즉, 현대의 AI 트랜스포머가 작동하는 방식과 유사하게, 어떤 특성이 다른 특성보다 상대적으로 더 중요한지를 자연스럽게 강조해 준다는 것입니다.

하지만 논문은 한계점도 언급합니다. 풍선 모양은 직선보다 유연하지만, 여전히 중심에 고정되어 있습니다. 만약 데이터가 0(원점)에 중심을 두지 않은 형태의 모양으로 분리되어야 한다면, 이 특정 모델은 어려움을 겪을 수 있습니다. 저자는 실제로 "늘어남"이 무한대로 가지 않도록 주의해야 하며, 모델을 안정적으로 유지하기 위해 작은 안전 규칙을 추가한다고 제言합니다.

이것이 모두에게 중요한 이유

이 논문의 가장 흥-미로운 부분은 새로운 슈퍼컴퓨터나 풀리지 않은 미스터리를 제시하는 것이 아닙니다. 그것은 바로 '가교(bridge)'입니다. 저자는 우리가 이러한 모델을 이해하기 위해 양자 물리학자가 될 필요는 없다고 제안합니다. 직선이 어떻게 작동하는지 이해한다면, 여러분은 이미 이 양자 모델의 핵심을 이해하고 있는 것입니다. 단지 그 직선을 풍선이라고 상상하기만 하면 됩니다.

이는 교사와 학생들에게 매우 중요한 의미를 갖습니다. 우리가 친숙한 선형 분류 개념에서 시작하여, "이제 그 선을 늘어나는 풍선이라고 상상해 봅시다"라고 말함으로써, 무섭게 들리는 양자 머신 러닝의 세계를 일반 교실에 도입할 수 있다는 뜻이기 때문입니다. 이는 복잡하고 추상적인 주제를 생생하고 즐거운 것으로 바꿉니다.

논문은 결론적으로, 모델이 어떻게 생각하는지(그것의 "귀납적 편향(inductive bias)")를 이해하는 것이 얼마나 많은 컴퓨팅 파워를 사용하는가만큼 중요하다는 점을 상기시킵러 줍니다. 그것이 직선이든 양자 풍선이든, 결정의 모양을 아는 것은 우리가 기계를 신뢰하는 데 도움을 줍니다. 양자 AI가 진짜인지 아니면 그저 과장된 것인지 궁금해하는 호기심 많은 십 대들에게, 이 논문의 답은 이렇습니다. 그것은 실재하지만, 동시에 놀라울 정도로 친숙합니다. 그것은 단지 빨간 구슬과 파란 구슬 사이의 선을 긋는 또 다른 방식일 뿐입니다.