당신이 로봇에게 세상을 이해하는 법을 가르치고 있다고 상상해 보세요. 현재 대부분의 로봇은 사진을 보고 단어를 읽으며, 그것들을 서로 연결하려고 노력하며 배웁니다. 보통 이들은 "평평한" 정신적 공간, 즉 거대하고 끝없는 모눈종이 같은 곳에서 학습합니다. 이 평평한 종이 위에서 모든 것은 그저 하나의 점일 뿐이며, 점들 사이의 거리는 로봇에게 두 대상이 얼마나 유사한지를 알려줍니다. 하지만 실제 세상은 평평하지 않습니다. 세상은 층(layer)으로 가득 차 있습니다. "개"는 "동물"의 한 종류이고, 동물은 다시 "생명체"의 한 종류입니다. 이러한 계층 구조—거대하고 일반적인 개념이 꼭대기에 있고, 작고 구체적인 세부 사항들이 그 아래로 가지를 치는 구조—는 평평한 종이 위에 그리려고 하면 모든 것이 찌그러지고 엉망이 되기 쉽습니다.

이를 해결하기 위해 과학자들은 "쌍곡 공간(hyperbolic space)"이라는 다른 종류의 기하학을 사용하기 시작했습니다. 이것을 평평한 종이가 아니라, 거대한 산호초나 멀리 갈수록 넓어지는 깔때기라고 생각해보세요. 이 형태 안에서는 복잡하고 층이 있는 방대한 양의 정보를 붐비지 않게 담아낼 수 있습니다. 이는 가장 일반적인 개념(예: 중심 근처의 "동물")에서부터 가장 구체적인 개념(예: 가장자리 멀리 있는 "지친 골든 리트리버")에 이르기까지 아이디어를 정리하는 데 완벽합니다. 하지만 까다로운 점은, 로봇이 시간이 흐름에 따라 새로운 것을 배울 때입니다. 만약 이 산호초에 계속해서 새로운 레슨을 추가한다면, 전체 모양이 뒤틀리고 변형되어 로봇이 어제 배웠던 것들을 모두 잊어버릴 수 있습니다. 이를 "파괴적 망각(catastrophic forgetting)"이라고 부르며, 이는 똑똑하고 끊임없이 학습하는 AI를 구축하는 데 있어 매우 큰 문제입니다.

이 논문은 바로 그 문제를 다룹니다. 연구자 리우 지항(Jiahong Liu)과 그의 팀은 다음과 같이 질문했습니다. "어떻게 하면 이 곡선 형태의 산호초 같은 세상에서 기존의 형태를 깨뜨리지 않고 로봇에게 새로운 것을 가르칠 수 있을까?" 그들은 로봇이 새로운 것을 배울 때 단순히 마음대로 업데이트해서는 안 된다는 것을 발견했습니다. 대신, 산호초의 형태를 온전하게 유지할 수 있는 매우 특정한, 엄격한 방식으로 지식을 이동시켜야 합니다. 그들은 HMCL(Hyperbolic Multimodal Continual Learning)이라는 새로운 방법을 개발했는데, 이는 마치 엄격한 건축가처럼 모든 새로운 레슨이 기존 구조를 왜곡하지 않고 완벽하게 들어맞도록 보장합니다. 그들의 실험 결과에 따르면, 이 방법은 기존 기술들보다 훨씬 더 효과적이며, 어떤 경우에는 망각을 최대 88%까지 줄이면서도 새로운 과제를 효과적으로 학습할 수 있음을 보여주었습니다.

곡선형 뇌의 이야기

설정: 깔때기 속에서 배우는 로봇
당신이 로봇을 위한 도서관을 짓고 있다고 상상해 보세요. 대부분의 도서관은 평평한 바닥에 지어져 책들이 그저 줄지어 놓여 있습니다. 하지만 우리의 로봇 도서관은 거대한 마법의 깔때기(그것이 바로 쌍곡 공간입니다) 안에 지어져 있습니다. 이 깔때기 안에서는 가장 중요하고 일반적인 책들(예: "과학" 또는 "예술")이 좁은 윗부분 근처에 위치하고, 아래로 내려가고 바깥으로 나갈수록 선반이 확장되어 수백만 권의 구체적인 책들(예: "양자 물리학" 또는 "인상주의 회화")을 담을 수 있습니다. 이 형태는 놀랍습니다. 왜냐하면 로봇이 모든 것의 연결 고리를 볼 수 있게 해주기 때문입니다. 특정 책은 항상 그 일반적인 카테고리 "아래"에 존재합니다.

로봇은 사진을 보고 텍스트를 읽으며, 이 깔때기 안에서 그것들을 서로 매칭시키려 노력하며 학습합니다. 하지만 삶은 멈추지 않습니다. 매일 새로운 책들이 도착합니다. 로봇은 이전의 책들을 다시 보지 않고도 하나씩 새로운 책들을 배워나가야 합니다. 이것이 "지속 학습(continual learning)"입니다.

문제: 뒤틀리는 깔때기
보통 발생하는 재앙은 다음과 같습니다. 로봇이 새로운 책을 배우려고 할 때, 공간을 만들기 위해 선반들을 밀어냅니다. 일반적인 평평한 도서관에서는 이것이 괜찮습니다. 하지만 우리의 마법 같은 깔때기에서는, 선반을 밀어내는 행위가 건물 전체의 모양을 변화시킵니다. "과학" 섹션이 찌그러질 수도 있고, "예술" 섹션이 너무 멀리 늘어날 수도 있습니다.

로봇의 기억은 사물을 파악하기 위해 전적으로 깔때기의 형태에 의존하기 때문에, 모양이 뒤틀리면 로봇은 혼란에 빠집니다. 개 사진을 보고 갑자기 고양이라고 생각하거나, "푸들"이 "개"의 일종이라는 사실을 잊어버릴 수도 있습니다. 오래된 지식은 단순히 사라지는 것이 아니라, 왜곡되고 파괴됩니다. 연구자들은 이를 "파괴적 망각"이라 부르며, 이는 마치 로봇이 새로운 것을 배울 때마다 기억 상실증에 걸리는 것과 같습니다.

발견: 움직임의 황금률
연구팀은 깔때기가 망가지는 이유가 로봇이 지식을 잘못된 방향으로 움직이기 때문이라는 것을 깨달았습니다. 그들은 심오한 질문을 던졌습니다. "어떤 종류의 움직임이 깔데기의 형태를 완벽하게 유지하는가?"

그들은 놀라운 답을 찾아냈습니다. 형태를 안전하게 유지하려면, 로봇이 지식을 무작위로 흔들어서는 안 됩니다. 대신, 새로운 것을 배울 때마다 로봇은 자신의 전체 기억 구조를 매우 특정한, 동기화된 방식으로 회전시켜야 합니다. 회전하는 지구본을 들고 있다고 상상해 보세요. 만약 지도(지형)를 찢지 않고 새로운 스티커를 붙이고 싶다면, 기존의 격자에 스티커가 완벽하게 들어맞도록 지구본 전체를 회전시켜야 합니다. 고무를 그냥 잡아 늘려서는 안 됩니다.

이 논문은 로봇이 모든 것을 기억하기 위해서는 모든 기억에 "공유된 회전(shared rotation)"을 적용해야 함을 증명합니다. 이는 사진과 설명(예: 개와 "개"라는 단어) 사이의 관계가 정확히 동일한 거리를 유지해야 하며, 계층 구조(동물 아래의 개)가 정확히 동일한 깊이를 유지해야 함을 의미합니다. 만약 로봇이 다른 방식으로 학습하려고 한다면, 깔때기는 깨지게 됩니다.

해결책: HMCL
이 발견을 바탕으로, 팀은 HMCL이라는 새로운 훈련 방법을 만들었습니다. HMCL을 로봇 뇌의 엄격한 문지기라고 생각하세요. 로봇이 새로운 과제를 배우려고 할 때마다, HMCL은 제안된 변경 사항을 검사합니다.

• "이봐, 지금 '개' 카테고리를 늘리려고 하는 거야? 안 돼, 그건 깔때기를 망가뜨려!"
• "전체를 완벽하게 회전시키려는 거야? 좋아, 그건 허용돼."

HMCL은 로봇이 오직 이러한 완벽한 회전처럼 작동하는 업데이트만을 수행하도록 강제합니다. HMCL은 단순히 추측하는 것이 아니라, 수학을 사용하여 로봇이 형태를 깨뜨리지 않고 학습할 수 있는 정확한 방향을 계산합니다. 이는 마치 로봇에게 깔때기의 기하학적 구조를 보존하는 방향으로만 움직일 수 있게 하는 보조 바퀴를 달아주는 것과 같습니다.

결과: 적은 망각, 더 많은 학습
팀은 실제 세계의 과제(사진 속 동물을 식별하거나 이미지를 문장과 매칭하는 등)를 사용하여 다양한 로봇 뇌(백본)에 대해 테스트를 진행했습니다. 그들은 새로운 HMCL 방법을 깔때기의 형태를 고려하지 않는 기존 방법들과 비교했습니다.

결과는 명확했습니다. 기존 방법들은 기억력이 형편없었습니다. 그들은 이전에 배웠던 거의 모든 것을 잊어버렸으며, "망각 점수"는 (0이 완벽한 상태인 척도에서) -6.46과 같이 매우 부정적이었습니다. 하지만 HMCL을 사용했을 때 망각은 극적으로 감소했습니다. 한 테스트에서 망각 점수는 -6.46에서 -0.74로 개선되었습니다. 이는 88.5%의 망각 감소입니다!

로봇은 단순히 더 잘 기억할 뿐만 아니라, 새로운 것을 더 빨리 배웠습니다. 깔때기의 형태가 안정적으로 유지되었기 때문에, 로봇은 도서관이 무너지지 않고도 계속해서 새로운 책을 추가할 수 있었습니다. 연구진은 이 방식이 다양한 유형의 로봇과 다양한 종류의 과제에서도 작동함을 보여주었으며, 기하학적 구조를 올바르게 유지하는 것이 똑똑하고 지속적으로 학습하는 AI의 핵심 비결임을 입증했습니다.

이것이 왜 중요한가
이 논문은 단순히 "이것이 작동한다"라고 말하는 데 그치지 않습니다. 그것이 "왜" 작동하는지를 설명합니다. 우리가 AI가 정신을 잃지 않고 영원히 학습하기를 원한다면, 단순히 데이터를 쏟아붓는 것만으로는 부족하다는 것을 알려줍니다. 우리는 그 지식의 형태를 존중해야 합니다. 로봇의 뇌를 평평한 종이가 아닌 곡선형의 확장하는 세계로 취급하고, 그 곡선을 존중하는 방식으로 움직이도록 강제함으로써, 우리는 과거를 기억하면서도 미래를 받아들이며 진정으로 성장하는 기계를 만들 수 있습니다.