SLoPe: Double-Pruned Sparse Plus Lazy Low-Rank Adapter Pretraining of LLMs
SLOPE는 이중 프루닝된 N:M 희소 가중치와 훈련 반복의 마지막 1% 단계에만 적용되는 "게으른(lazy)" 저차원 어댑터 전략을 결합하여, 밀집 모델(dense models)과 대등한 모델 정확도를 유지하면서도 훈련 및 추론 과정 모두에서 상당한 속도 향상(최대 1.54배)과 메모리 절감(최대 0.63배)을 달성하는 대규모 언어 모델을 위한 새로운 사전 훈련 방법입니다.
현대 인공지능의 세계는 인간의 언어를 이해하고 생성하기 위해 방대한 텍스트 라이브러리로 학습된 거대한 디지털 두뇌인 대규모 언어 모델에 의해 점점 더 정의되고 있습니다. 이 시스템들은 강력하지만, 그에 따른 막대한 대가가 따릅니다. 즉, 학습을 위해 엄청난 양의 컴퓨터 연산 능력이 필요하며, 실행을 위해 방대한 양의 메모리가 필요합니다. 이러한 모델을 더 빠르고 저렴하게 사용하기 위해, 연구자들은 덜 중요해 보이는 내부 구조의 일부를 제거하여 모델을 단순화하려는 시도를 오랫동안 해왔으며, 이 과정을 프루닝(pruning)이라고 합니다. 자주 읽히지 않는 모든 책을 제거하기로 결정한 거대한 도서관을 상상해 보십시오. 건물은 더 작아지고 이동하기 쉬워지겠지만, 너무 많은 책이나 잘못된 책을 제거하면 도서관은 질문에 답하는 능력을 잃게 됩니다. 디지털 영역에서 이러한 단순화는 종종 정확도의 손실로 이어져, 모델의 신뢰성을 떨어뜨립니다. 더욱이, 데이터를 제거하면 공간은 절약되지만, 컴퓨터는 학습의 매 단계마다 어떤 부분을 유지하고 어떤 부분을 버릴지 확인하는 복잡한 작업을 여전히 수행해야 하므로, 종종 속도 측면의 이점이 상쇄되곤 합니다.
한 연구팀은 속도, 메모리, 그리고 정확도 사이의 이러한 지속적인 절충 문제를 해결하기 위해 SLOPE라고 불리는 새로운 접근 방식을 개발했습니다. 그들의 방법은 언어 이해 능력을 희생하지 않으면서도, 이 거대한 언어 모델들을 현저히 적은 자원으로 학습시키고 사용할 수 있게 해줍니다. 이 혁신의 핵심은 모델의 학습 과정을 다루는 방식에 있습니다. 처음부터 모델을 단순하게 유지하려고 노력하는 대신, 그들은 거의 전체 학습 기간 동안 표준화되고 단순화된 구조를 사용하여 학습하도록 합니다. 그런 다음, 학습 시간의 마지막 아주 작은 부분에서, 모델이 잃어버린 정밀도를 회복할 수 있도록 돕는 작고 유연한 요소를 도입합니다. 이 요소는 무겁고 전체 크기인 구성 요소가 아니라, 미세 조정 도구처럼 작동하는 가볍고 효율적인 레이어이며, 이를 통해 모델은 방대한 양의 추가 데이터를 저장하거나 처리할 필요 없이 예리함을 되찾을 수 있습니다.
연구진은 또한 이러한 모델을 단순화하려는 이전의 시도들을 늦추었던 특정 병목 현상을 해결했습니다. 표준적인 컴퓨터 연산에서 모델은 두 가지 서로 다른 방향으로 내부 데이터를 살펴봐야 합니다. 한 번은 다음 단어를 예측하기 위해서이고, 또 한 번은 실수를 수정하기 위해서입니다. 이전의 단순화 방법들은 첫 번째 방향에는 잘 작동했지만, 두 번째 방향으로 데이터를 살펴볼 때 컴퓨터가 추가적이고 느린 작업을 수행하도록 강제했습니다. 새로운 방법은 연산 순서를 변경하여 단순화가 두 방향 모두에서 동시에 효율적으로 작동하도록 합니다. 이를 통해 컴퓨터는 0과 0이 아닌 패턴을 처리하도록 설계된 특수 하드웨어를 활용하여 데이터를 훨씬 더 빠르게 처리할 수 있습니다. 수정 단계에서 데이터가 처리되기 전에 데이터가 어떻게 프루닝되는지를 재배열함으로써, 연구진은 모델이 훨씬 더 높은 속도로 데이터를 통과하면서도 동일하게 효과적으로 학습할 수 있도록 보장했습니다.
수억 개에서 수백억 개의 파라미터에 이르는 모델들을 대상으로 테스트했을 때, 결과는 상당했습니다. 새로운 방법은 학습 과정을 최대 1.25배 가속화했으며, 사용 중 최종 모델의 실행 속도를 최대 1.54배 빠르게 만들었습니다. 아마도 더욱 중요한 점은, 일부 경우에서 이 모델들을 실행하는 데 필요한 컴퓨터 메모리 양을 절반 이상 줄였다는 것입니다. 연구진은 학습의 맨 마지막 단계에서만 가볍고 유연한 레이어를 추가함으로써, 모델이 훨씬 더 크고 단순화되지 않은 버전의 정확도 수준에 매우 근접한 수치를 달alam 수 있다는 것을 발견했습니다. 이 접근 방식은 단순화된 모델이 다시 유용해지기 위해 전체 크기의 데이터로 재학습하는 비싼 최종 단계를 거쳐야 하는 흔한 함정을 피합니다. 대신, 모델은 학습을 시작하는 순간부터 사용자의 질문에 답하는 순간까지 전체 수명 주기 동안 효율성을 유지합니다.
이 연구는 단순화가 특정 전략과 함께 적용된다면 인공지능에서 효율성과 높은 성능을 모두 갖추는 것이 가능하다는 것을 보여줍니다. 연구진은 추가적인 역량을 언제 더하느냐가 매우 중요하다는 것을 보여주었습니다. 학습 과정의 맨 마지막에 적은 양의 유연성을 도입하는 것이 전체 여정 내내 그 유연성을 유지하려고 노력하는 것보다 더 나은 결과를 낳습니다. 이러한 발견은 모델이 완전히 복잡하거나 혹은 완전히 단순해야 한다는 가설에 도전하며, 대신 모델이 대부분 단순하지만 결승선에서 목표가 있는 부스트를 받는 하이브리드 방식이 두 세계의 장점을 모두 제공한다는 점을 시사합니다. 이 연구는 첨단 인공지능을 더욱 접근하기 쉽고, 더 빠르며, 이를 구동하는 하드웨어의 요구 사항을 줄일 수 있는 명확한 경로를 제시합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.