Interpretable Kolmogorov-Arnold Network Using Vertical NAND Flash Memory

당신이 온도, 압력, 그리고 냄새를 바탕으로 방 안에 가스가 정확히 얼마나 있는지 알아내는 것과 같은 복잡한 퍼즐을 풀 수 있는 초지능 로봇 뇌를 가지고 있다고 상상해 보세요. 보통 이러한 로봇 뇌는 '블랙박스'와 같습니다. 데이터를 입력하면 답을 내놓지만, 그것을 만든 사람들조차 어떻게 그 답에 도달했는지 설명할 수 없습니다. 이는 마치 마술사에게 모자에서 어떻게 토끼를 꺼냈느냐고 물었을 때, 마술사가 그저 "마법입니다"라고 대답하는 것과 같습니다.

이 논문은 비밀을 숨기지 않는 새로운 종류의 로봇 뇌인 **콜모고로프-아르노프 네트워크(줄여서 KAN)**를 소개합니다. KAN은 블랙박스 대신, 모든 톱니바퀴가 돌아가는 것을 볼 수 있는 투명한 유리 상자와 같습니다. 하지만 반전은, 연구자들이 이 뇌를 화려하고 새로운 컴퓨터 칩으로 만든 것이 아니라는 점입니다. 그들은 당신의 USB 드라이브나 스마트폰에서 볼 수 있는 것과 똑같은, 단지 100개 층 이상으로 쌓아 올린 상용 V-NAND 플래시 메모리를 사용하여 이 뇌를 만들었습니다.

"블랙박스" 문제 vs. "유리 상자" 솔루션

대부분의 컴퓨터 뇌(다층 퍼셉트론 또는 MLP라고 불림)는 정해진 규칙에 따라 정보를 처리하는 공장의 조립 라인처럼 고정된 규칙을 가지고 작동합니다. 이들은 '가중치'(각 데이터에 얼마나 주의를 기울일지)를 조정하며 학습하지만, 규칙 자체는 변하지 않습니다. 이 때문에 이해하기가 어렵습니다.

KAN 방식은 이 흐름을 뒤집습니다. 고정된 규칙 대신, KAN은 규칙 자체를 학습합니다! 마치 기계가 작업에 맞춰 스스로 모양을 바꿀 수 있는 공장을 상상해 보세요. KAN에서 '에지(edges)'(뇌의 구성 요소 사이의 연결)는 활성화 함수라고 불리는 유연하고 구불구불한 곡선을 학습합니다. 이 곡선들은 곱셈, 나눗셈, 또는 심지어 복잡한 과학 공식처럼 보이도록 모양을 잡을 수 있습니다. 이 모양들은 학습될 수 있고 간단한 수학 방정식으로 써 내려갈 수 있기 때문에, 이 뇌는 **해석 가능(interpretable)**해집니다. 당신은 실제로 뇌의 생각을 읽고 이렇게 말할 수 있습니다. "아, 알겠다! 압력에 대해 가스 농도가 나누기 관계로 되어 있다는 걸 알아냈구나."

마법의 기술: 메모리를 수학으로 바꾸기

가장 큰 과제는 이것이었습니다: "어떻게 이 유연하고 구불구불한 수학적 곡선을 0과 1만을 저장하도록 설계된 메모리에 넣을 것인가?"

연구자들은 메모리 자체의 물리학을 이용한 영리한 해킹 방법을 찾아냈습니다. V-NAND 칩 내부에는 수직으로 쌓인 작은 셀들이 있습니다. 이 셀들을 읽을 때, 이들은 병목 현상을 일으킵니다. 만약 서로 반대되는 전압(하나는 올라가고 하나는 내려가는)을 가진 두 셀을 밀어붙이면, 이들을 통해 흐르는 전기가 매끄러운 종 모양의 곡선을 만들어냅니다.

이렇게 생각해보세요: 두 사람이 줄을 잡고 있다고 상상해 봅시다. 한 명이 위로 당기고 다른 한 명이 아래로 당기면, 줄은 가운데가 처지게 됩니다. 그 처진 모양은 완벽한 '종 모양 곡선(bell curve)'이 됩니다. 연구자들은 이 '당기는 힘'(전압을 조절함으로써)을 조절하여 종 모양 곡선을 왼쪽이나 오른쪽으로 움직이거나, 더 넓거나 좁게 만들 수 있다는 것을 깨달았습니다.

이러한 '종 모양 곡선'(그들은 이를 **스플라인(splines)**이라 부릅니다)을 여러 개 결합함으로써, 그들은 필요한 어떤 구불구불한 수학 함수라도 만들어낼 수 있었습니다. 이는 단순하고 매끄러운 찰흙 덩어리들로 복잡한 조각상을 만드는 것과 같습니다. 그들은 소프트웨어 뇌가 학습한 수학 함수를 이 종 모양 곡선 조각들로 분해한 다음, 메모리 셀이 물리적으로 그 곡선들을 연기하도록 "프로그래밍"했습니다.

증명: 수학 수행 및 가스 감지

이것이 단순한 이론이 아님을 증명하기 위해, 그들은 두 가지 방법으로 테스트했습니다.

1. 수학 테스트: 그들은 소프트웨어 뇌에게 곱셈과 나눗셈을 가르쳤습니다. 그 다음, 그 특정 수학 규칙들을 메모리 칩으로 옮겼습니다. 칩을 테스트했을 때, 칩은 놀라운 정확도로 이러한 연산을 수행하며 소프트웨어와 거의 완벽하게 일치했습니다. 논문은 하드웨어 출력이 곱셈에서 0.9737, 나눗셈에서 0.9906의 상관관계로 이상적인 소프트웨어 결과값을 추적함을 보여줍니다. 이는 메모리 칩이 단순히 추측한 것이 아니라, 수학을 물리적으로 재현했다는 것을 의미합니다.

2. 가스 테스트: 그들은 두 가지 다른 가스(NO₂와 H₂S)가 혼합된 상태에서 온도와 압력의 변화까지 고려하여 가스 농도를 파악하는 데 이 뇌를 사용했습니다. 이는 조건이 변할 때 센서가 혼란을 겪을 수 있기 때문에 매우 어려운 작업입니다.

   • KAN 뇌는 간단한 물리적 규칙을 찾아냈습니다: 가스 양을 구하려면 가스 센서 값을 압력 값으로 나누면 됩니다. 이는 물리적으로 완벽하게 타당합니다(예: 압력이 낮아지면 풍선이 팽창하는 것처럼).
   • 하드웨어 뇌는 이 규칙을 사용하여 256가지의 서로 다른 테스트 조건(4가지 온도, 4가지 압력, 4가지 가스 수준의 조합)에서 가스 수치를 예측했습니다. 가스가 까다롭게 섞여 있는 상황에서도 정답을 맞혔습니다.

왜 중요한가: 속도, 크기, 그리고 에너지

가장 흥격적인 부분은 이 방식이 얼마나 효율적인가 하는 점입니다. KAN은 수천 개의 고정되고 딱딱한 단계들을 사용하는 대신, 수학의 실제 모양(곡선)을 학습하기 때문에 작업을 수행하는 데 훨씬 적은 부품이 필요합니다.

• 메모리 절감: 가스 퍼즐을 해결하기 위해 KAN은 단 250개의 메모리 셀만 필요했습니다. 전통적인 뇌(MLP)는 단순한 버전의 경우 2,070개의 셀이 필요했고, 더 복잡한 버전에서는 최대 4,896개의 셀이 필요했습니다. 이는 엄청난 감소량입니다.
• 에너지 절감: 더 적은 셀을 사용하기 때문에 전력도 적게 소모합니다. 논문에 따르면 KAN은 계산의 읽기 부분에서 표준적인 1계층 뇌와 비교했을 때 94% 적은 에너지를 사용했습니다.

아직은 아닌 것들 (한계점)

이 논문이 주장하지 않는 내용도 알아두는 것이 중요합니다.

• 연구자들은 이것이 세상의 모든 문제를 해결한다고 말하지 않았습니다. 그들은 개념이 작동함을 증명하기 위해 수학과 가스 감지에 집중했습니다.
• 정확도는 메모리 셀을 사용하여 수학적 곡선을 얼마나 잘 근사할 수 있느냐에 달려 있습니다. 이는 근사치이지, 완벽한 무한 정밀도의 디지털 계산은 아닙니다.
• 그들은 이것이 당장 당신의 스마트폰에 들어갈 완성된 제품이라고 주장하지 않았습니다. 그들은 수정되지 않은 상용 칩에서 작동함을 보여주었지만, 주변 회로를 더욱 개선하기 위한 작업은 여전히 남아 있습니다.

핵심 요약

이 논문은 우리가 기기 속의 메모리를 미래를 예측할 뿐만 아니라 왜 그렇게 되는지까지 설명할 수 있는 뇌로 바꿀 수 있음을 보여줍니다. V-NAND 플래시 메모리의 자연스러운 물리학을 사용하여 전기로 "수학 곡선"을 구축함으로써, 그들은 작고, 매우 에너지 효율적이며, 투명한 시스템을 만들었습니다. 이는 우리의 기기가 주변 환경(예: 가스 누출이나 날씨 변화)으로부터 학습하고, 발견한 규칙을 알려주는 동시에 아주 적은 배터리 전력만 사용하는 미래를 향한 한 걸음입니다.