Local Credit Assignment for CPU Transformers: Readout Consensus and the Cost of Predictive Coding
이 논문은 CPU 기반 트랜스포머를 위한 국소 신용 할당(local credit assignment) 방법들을 평가하며, 비동기 판독 그래디언트 합의(asynchronous readout-gradient consensus)가 훈련 처리량을 개선하기는 하지만, 해당 방식과 예측 코딩(predictive coding) 접근 방식 모두 역전파(backpropagation)의 품질을 따라잡거나 품질을 보존하는 일반적인 가속 대안을 확립하는 데 실패한다는 것을 밝혀냈다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
인공지능의 세계에서 가장 강력한 시스템들은 각 층이 정보를 처리하고 다음 층으로 전달하는 깊은 논리의 탑처럼 구축됩니다. 이러한 탑에 사고하는 법을 가르치기 위해 과학자들은 전통적으로 역전파(backpropagation)라고 불리는 방법을 사용합니다. 이는 마치 교사가 건물 전체를 꼭대기 층부터 기초까지 걸어 내려오며, 최종 결과에 따라 모든 단계에서 실수를 바로잡는 것과 같습니다. 이는 전체 구조가 올바르게 학습되도록 보장하지만, 매우 느리고 순차적인 과정입니다. 교사는 현재 층의 작업이 끝나기 전에는 다음 층으로 이동할 수 없습니다. 이는 한 번에 하나의 긴 사슬 형태의 사건을 처리하도록 설계된 표준 컴퓨터 프로세서에서 이러한 거대한 시스템을 실행하려고 할 때 병목 현상을 일으킵니다.
연구자들은 오랫동안 이 사슬을 끊을 수 있을지 궁금해해 왔습니다. 만약 탑의 각 층이 교사가 건물 전체를 내려오기를 기다리지 않고, 자신의 국소적인 실수로부터 스스로 학습할 수 있다면 어떨까요? 로컬 러닝(local learning)이라고 알려진 이 아이디어는 현대 컴퓨터 칩의 전체 속도를 끌어올릴 것을 약속합니다. 하지만 함정이 있습니다. 만약 한 층이 자신의 즉각적인 오류만을 본다면, 자신의 작업이 최종 결과에 어떤 영향을 미치는지에 대한 더 큰 그림을 놓칠 수 있습니다. 컴퓨터 과학자들의 핵심 질문은 이 속도가 지능의 희생을 대가로 하는 것인지, 아니면 이 독립적인 작업자들이 여전히 올바른 교훈을 얻을 수 있도록 조정할 방법이 있는지에 관한 것입니다.
KarLex AI의 비크람 렉스(Vikram Lex)가 주도한 최근 연구는 실제 하드웨어에서 이 상충 관계를 테스트하기 위해 설정되었습니다. 연구팀은 24개의 층으로 구성된 디지털 탑을 구축하고, 표준 중앙 처리 장치(CPU)가 장착된 강력한 서버에서 실험을 진행했습니다. 그들은 탑 전체를 한꺼번에 가르치는 전통적이고 느린 방식과, 탑의 서로 다른 섹션들이 동시에 학습하는 새로운 접근 방식을 비교했습니다. 이를 구현하기 위해 그들은 리드아웃-그레이디언트 컨센서스(readout-gradient consensus)라고 불리는 시스템을 도입했습니다. 이 설정에서 탑의 모든 섹션은 자신의 특정 부분이 최종 출력에 어떻게 기여했는지 계산하고 그 정보를 중앙 조정자에게 보냅니다. 조정자는 이 보고들을 평균하여 모델의 최종 의사 결정 부분을 업데이트합니다. 이를 통해 서로 다른 섹션들이 병렬로 실행될 수 있으며, 이론적으로는 훈련 과정을 크게 가속화할 수 있습니다.
결과는 이 병렬 접근 방식이 실제로 더 빠르게 작동한다는 것을 보여주었습니다. 새로운 방법은 전통적인 방식보다 약 1.38배 빠른 속도로 데이터를 처리했습니다. 그러나 이 이득에는 무거운 대가가 따랐습니다. 병렬 시스템을 실행하는 데 필요한 메모리가 2기가바이트 미만에서 4기가바이트 이상으로 두 배 이상 급증했습니다. 더 중요한 것은, 이 속도가 동일한 품질을 보장하지 않는다는 점이었습니다. 연구진이 이전에 본 적 없는 데이터로 모델을 테스트했을 때, 더 빠른 방식은 엄격한 정확도 기준을 충족하지 못했습니다. 성능의 차이는 절대적인 수치로는 작았지만, 전통적인 방식을 직접 대체하기에는 통계적으로 유의미할 만큼 컸습니다. 연구는 병렬 시스템이 학습은 할 수 있지만, 느리지만 더 신중한 방식만큼의 정밀도를 유지하는 데 어려움을 겪는다는 것을 발견했습니다.
연구진은 또한 미래의 오류에 대한 정보를 초기 층으로 전달하는 메커니즘을 추가하여 손실된 품질을 회복할 수 있는지 조사했습니다. 그들은 최종 결과가 무엇이어야 하는지 예측하고 그 예측을 역방향으로 보내 초기 층을 안내하려는 시도인 예측 코딩(predictive coding) 기법을 시도했습니다. 12개 층의 탑을 이용한 별도의 작은 실험에서, 이 방법은 전통적인 방식의 품질에 매우 근접했습니다. 그러나 이 방식은 학습의 매 단계마다 시스템을 여러 차례 추론(inference), 즉 "사고" 과정을 거쳐야 했습니다. 이로 인해 훈련 과정은 표준 방식보다 거의 3배 더 느려졌습니다. 연구는 손실된 정확도를 회복하는 것이 가능하지만, 그에 따르는 계산 비용이 현재로서는 너무 높아 실용적이지 않다고 결론지었습니다.
연구의 핵심적인 발견은 시스템의 최종 부분이 어떻게 반응하는지를 아는 것만으로는 초기 부분의 학습 경로를 완벽하게 재구성하는 데 충분하지 않다는 것을 입증한 것이었습니다. 팀은 두 가지 서로 다른 내부 상태가 정확히 동일한 최종 출력과 동일한 최종 오류를 생성할 수 있음에도 불구하고, 초기 층에는 완전히 다른 교정이 필요하다는 것을 보여주었습니다. 이는 단순히 최종 보고를 공유하는 것만으로는 불충분하며, 시스템이 그곳에 도달하기 위해 거친 경로에 대한 더 깊고 복합적인 이해가 필요함을 의미합니다. 이 연구는 단순한 보고의 평균화가 품질이나 속도 면에서 상당한 비용을 치르지 않고 전통적인 단계별 교수법을 완전히 대체할 수 있다는 생각을 일축했습니다.
궁극적으로, 이 연구는 표준 컴퓨터 프로세서에서 인공지능을 훈련하기 위한 현재의 지형에 대한 명확한 지도를 제공합니다. 이는 병렬 학습이 속도 향상을 제공할 수 있지만, 공짜 점심은 아니라는 점을 확인시켜 줍니다. 속도의 이득은 상당한 메모리 사용량 증가와 쉽게 고칠 수 없는 측정 가능한 정확도 저하를 동반합니다. 이 연구는 표준 하드웨어에 의존하는 조직들에게 가장 신뢰할 수 있는 경로는 여전히 전통적인 순차적 방식이거나, 트레이드오프를 신중하게 조절하는 하이브리드 접근 방식임을 시사합니다. 이 연구는 훈련을 더 빠르고 더 좋게 만드는 마법 같은 해결책을 제시하지는 않지만, 그 목표를 달달성하기 위해 드는 비용을 정밀하게 측정해 줍니다. 이 방법이 어디에서 실패하는지, 그리고 그것을 고치려고 할 때 비용이 얼마나 드는지 정확하게 기록함으로써, 이 연구는 엔지니어들이 차세대 지능형 시스템을 구축하고 훈련하는 데 있어 정보에 입각한 결정을 내릴 수 있도록 돕습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.