당신에게 엄청나게 거대하고 똑똑한 로봇이 있다고 상상해 보세요. 이 로봇은 거의 모든 것이 기록된 도서관을 공부하여 읽고, 쓰고, 세상을 이해하는 법을 이미 배운 '파운데이션 모델'입니다. 이 로봇은 매우 영리하지만, 동시에 거대하고 무거운 기계입니다. 만약 당신이 이 로봇에게 새로운 기술(예를 들어, 재미있는 농담을 쓰거나 수학 문제를 푸는 법)을 가르치고 싶다면, 보통은 로봇의 내부 기어들을 미세하게 조정해야 합니다. 하지만 그 수많은 기어를 한꺼번에 돌리는 것은 비용이 많이 들고, 속도가 느리며, 때로는 로봇이 기존에 가진 기술을 잊어버리게 만들기도 합니다. 그래서 과학자들은 '매개변수 효율적 미세 조정(Parameter-Efficient Finetuning, PEFT)'을 발명했습니다. PEFT를 로봇 전체를 다시 만드는 대신, 로봇에 작고 맞춤 제작된 추가 모듈을 장착하는 것이라고 생각하면 됩니다. 이 방식은 로봇의 뇌를 얼려둔 채(freeze), 오직 이 작은 새로운 부분만을 학습시킵니다.

오랫동안 이러한 추가 모듈은 로봇의 내부 가중치를 변경하거나(마치 스프링의 장력을 조절하는 것처럼), 정보를 처리하기 위한 새로운 작은 상자들을 추가하는 방식으로 작동해 왔습니다. 하지만 로봇의 뇌에서 사람들이 손대지 않고 그대로 두었던 거대한 부분이 하나 있었습니다. 바로 '잔차 연결(residual connection)'입니다. 이 잔차 연결은 정보가 레이어의 시작부터 끝까지 이동하는 컨베이어 벨트와 같습니다. 이 벨트 옆에는 로봇이 정보를 정교하게 처리한 후 그 결과를 다시 벨트로 합치는 일종의 측로(side-path)가 존재합니다. 이 벨트는 매우 중요한데, 로봇이 점점 더 깊은 단계로 들어갈 때 혼란에 빠지지 않도록 도와주기 때문입니다. 이 논문이 던지는 질문은 이것입니다. "만약 우리가 이 벨트를 그냥 내버려 두지 않는다면 어떨까? 만약 우리가 이 벨트에 대한 스마트한 교통 제어기를 만들어, 서로 다른 정보의 흐름이 어떻게 섞이고 합쳐질지를 정확하게 결정할 수 있다면 어떨까?"

이 논문은 **매니폴드 제약 하이퍼 커넥션(Manifold-Constrained Hyper-Connections, mHC)**이라는 새로운 방법을 소개합니다. 연구진은 얼려진 로봇(구체적으로 OLMo-2 모델)을 이 스마트한 교통 제어기로 감싸서, 로봇에게 새로운 작업을 더 효율적으로 가르칠 수 있는지 실험했습니다. 그들은 이 제어기가 작동할 수는 있지만, 로봇을 처음부터 구축할 때와 '미세 조정(finetuning)' 설정에서 작동할 때 매우 다르게 행동한다는 것을 발견했습니다. 가장 놀라운 발견은 무엇이었을까요? 최고의 교통 제어기는 종종 스트림의 혼합에 아무것도 하지 않는 것이었습니다.

여기 반전이 있습니다. 연구진은 로봇이 컨베이어 벨트 위의 서로 다른 정보 스트림을 섞는 법을 배우게 하면, 오히려 상황을 악화시키거나 별로 도움이 되지 않는다는 것을 발견했습니다. 그러나 혼합하는 부분을 원래의 로봇과 똑같이 유지하도록 강제했을 때(즉, 흐름을 바꾸지 않는 '항등(identity)' 설정), 로봇은 더 잘 작동했고 더 적은 자원을 사용했습니다. 이미 많은 것을 알고 있는 로봇에게는, 자신의 생각을 섞는 법을 다시 배우는 것보다, 어디를 보고 어디에 새로운 아이디어를 쓸지를 배우는 것이 최선의 전략이라는 사실이 밝혀졌습니다.

이 새로운 방법(mHC)은 현재의 챔피언들(예: LoRA)을 단독으로 이기지는 못했지만, 이들과 결합했을 때는 흥미로운 모습을 보여주었습니다. 이 '스마트 교통 제로'를 기존의 '가중치 조절기'와 결합하자, 둘 중 어느 하나가 단독으로 수행할 때보다 더 뛰어난 팀이 탄생했습니다. 이는 우리가 로봇을 튜닝하는 완전히 새로운 방법, 즉 단순히 기어를 바꾸는 것이 아니라 생각이 흐르는 경로를 재설정하는 방식이 존재함을 시사하며, 이는 AI의 미래를 위한 강력한 도구가 될 수 있습니다.

스마트 교통 제어기의 이야기

연구진은 간단한 아이디어에서 시작했습니다. AI 모델의 컨베이어 벨트(잔차 연결)는 보통 직선 형태입니다. 정보가 들어가서 처리된 후, 원래의 입력값에 더해져서 나옵니다. 논문의 저자들은 "이 선을 더 똑똑하게 만들면 어떨까?"라고 의문을 품었습니다. 그들은 **하이퍼 커넥션(Hyper-Connections)**을 도입했는데, 이를 통해 로봇이 하나의 컨베이어 벨트 대신 여러 개의 평행한 정보 스트림(예를 들어 4개의 벨트)을 가질 수 있게 하고, 이들을 어떻게 섞을지도 학습할 수 있게 했습니다.

하지만 무작위로 섞는 것은 위험할 수 있습니다. 계획 없이 네 줄기의 물을 섞으면 홍수가 나거나 가뭄이 들 수 있기 때문입니다. 이를 해결하기 위해 그들은 **매니폴드 제약 하이퍼 커넥션(mHC)**을 사용했습니다. 이것을 교통 제어기에 대한 엄격한 규칙 책이라고 생각하면 됩니다. 이는 정보가 섞이는 방식에 상관없이, 전체 '신호'의 양이 일정하게 유지되도록 보장합니다. 즉, 데이터가 수백 개의 레이어를 통과하는 동안 로봇이 실수로 노이즈를 증폭하거나 중요한 정보를 잃어버리는 것을 방지합니다.

연구팀은 이를 10억 개의 매개변수를 가진 모델(중형 로봇)과 70억 개의 매개변수를 가진 모델(대형 로봇)에 대해 테스트했습니다. 그들은 새로운 mHC 방식을 업계 표준인 LoRA(로봇의 내부 가중치를 조정하는 방식) 및 다른 인기 있는 방식들과 비교했습니다.

큰 놀라움: 적게 섞을수록 더 좋다
처음에 mHC를 훈련할 때, 연구진은 로봇이 문제를 해결하기 위해 네 개의 정보 스트림을 섞는 복잡하고 독특한 방식을 배울 것이라고 예상했습니다. 하지만 결과를 살펴보았을 때, 그들은 이상한 점을 발견했습니다. 로봇의 더 깊은 레이어에서, '혼합 행렬(mixing matrix, 스트림을 섞는 방식을 결정하는 부분)'이 자연스럽게 **항등 행렬(identity matrix)**로 돌아가는 현상이 나타났습니다.

쉬운 말로 설명하자면, 로봇은 스트림을 처리하는 가장 좋은 방법은 그냥 아무런 변화 없이 그대로 통과시키는 것이라고 배우고 있었던 것입니다. 이는 마치 도로를 한참 관찰하던 교통 제로가 "알겠습니다, 차들이 목적지에 잘 도착하게 하는 가장 좋은 방법은 그냥 차선을 바꾸지 않고 똑바로 달리게 두는 것이군요"라고 결정한 것과 같습니다.

연구진은 이 이론을 검증하기 위해, 혼합하는 부분을 처음부터 항등 행렬로 고정(혼합 허용 안 함)하는 실험을 했습니다. 결과는 어땠을까요? 로봇은 더 나은 성능을 보이거나 비슷하게 수행하면서도, 훨씬 적은 수의 학습 가능한 매개변수를 사용했습니다.

• 10억 매개변수 모델 실험에서, 혼합을 항등 상태로 고정했을 때 테스트 손실(error의 척도)이 1.32에서 1.27로 감소했으며, 800만 개 이상의 매개변수를 절약했습니다.
• 이는 이미 사전 훈련된 로봇의 경우, 잔차 연결의 '혼합' 부분은 이미 완벽하다는 것을 시사합니다. 그것을 다시 배우려는 시도는 불필요할 뿐만 아니라 해로울 수도 있습니다. 진짜 힘은 '읽기'와 '쓰기' 게이트, 즉 어떤 스트림을 볼 것인지와 어디에 새로운 정보를 넣을지를 결정하는 부분에서 나옵니다.

팀워크의 힘
논문은 또한 다음과 같이 물었습니다. "이 새로운 방법이 기존의 방법들과 함께 작동할 수 있을까?"
그들은 mHC와 LoRA가 서로 다른 문제를 해결하는 서로 다른 도구와 같다는 것을 발견했습니다. LoRA는 기어(가중치)를 바꾸고, mHC는 교통 흐로(라우팅)를 바꿉니다.

• mHC(항등 혼합 규칙 적용)와 LoRA를 결합했을 때, 로봇은 더욱 강력해졌습니다.
• 예를 들어, 70억 매개변수 모델에서 작은 mHC 모듈을 LoRA와 결합했을 때, LoRA만 단독으로 사용했을 때보다 수학 및 추론 작업(GSM8K, HellaSwag 등)에서 더 높은 성능 향상을 보였습니다.
• 이 논문은 이 조합이 효과적인 이유가 두 방식이 서로 다른 각도에서 문제에 접근하기 때문이라고 설명합니다. 하나는 로봇이 '무엇을 아는지(가중치)'를 바꾸고, 다른 하나는 그 지식에 '어떻게 접근하는지(라우팅)'를 바꿉니다.

이것이 의미하는 바
이 논문은 mHC가 유망한 새로운 도구이지만, 모든 것을 대체하는 마법의 탄환은 아니라고 결론짓습니다.

• 단독 수행 시: 기존의 가장 뛰어난 방식인 LoRA를 일관되게 능가하지는 못합니다.
• 파트너로서: 다른 방식들과 결합될 때 빛을 발하며, 특정 작업에서 성능 향상을 제공합니다.
• 핵심 교훈: 미세 조정을 할 때, 우리는 잔차 스트림을 섞는 법을 다시 배우려고 노력하는 것을 멈춰야 합니다. '항등(identity)' 설정(원래의 흐름을 그대로 유지하는 것)이 바로 비법입니다.

저자들은 이 연구 결과가 특정 모델(OLMo-2)과 데이터셋에 기반하고 있으며, 이 '항등 규칙'이 모든 종류의 AI 로봇에 적용되는지는 아직 알 수 없다고 인정했습니다. 하지만 "때로는 가장 좋은 변화는 메인 고속도로를 건드리지 않고 더 나은 출구를 만드는 것"이라는 아이디어는, AI를 더 똑똑하고 효율적으로 만들기 위한 새롭고 흥미로운 방향을 제시합니다.