기술 요약: MeMo – 연상 기억 메커니즘을 갖춘 언어 모델을 향하여

문제 정의

현재의 트랜스포머 기반 대규모 언어 모델(LLM)은 광범위한 학습을 통해 복잡한 순차적 의존성을 학습함으로써 높은 성능을 달나며, 여기서 암기는 가중치 최적화의 부산물로 나타나는 창발적 현상이다. 이러한 접근 방식은 일반화에는 뛰어나지만, 저장된 정보에 대한 투명성과 명시적 제어가 부족한 경우가 많다. 저자들은 기존의 패러다임이 학습을 주요 메커니즘으로, 암기를 부차적인 결과로 취급한다고 주장한다. 그러나 정확한 사실 회상, 질의응답, 정보 검색이 필요한 작업의 경우, 모델의 명시적인 데이터 암기 능력이 매우 중요하다. 기존의 LLM 편집 또는 제어 방법은 사후 개입에 의존하는 경우가 많으나, 저자들은 근본적인 변화를 제안한다: 즉, 암기가 학습에 앞서는 구조를 설계하는 것이다. 목표는 토큰 시퀀스를 투명하고 편집 가능한 방식으로 명시적으로 저장하여, 제어된 망각과 저장된 지식의 직접적인 조작을 허용하는 언어 모델을 만드는 것이다.

방법론

본 논문은 표준적인 트랜스포머의 가중치 기반 학습을 **계층적 상관 행렬 메모리(Correlation Matrix Memories, CMMs)**로 대체하는 새로운 언어 모델링 아키텍처인 MeMo를 소개한다. 이 아키텍처는 세 가지 핵심 이론적 기둥을 바탕으로 구축된다:

1. 다변량 가우시안 랜덤 벡터: 토큰과 시퀀스는 고차원 공간에서의 랜덤 벡터로 표현된다. **존슨-린덴스트라우스 정리(Johnson-Lindenstrauss Lemma)**를 활용하여, 이 벡터들은 거리 관계를 보존하면서 저차원 공간($R^d$)으로 매핑된다. 이는 서로 다른 토큰은 거의 직교하며($a \neq b$이면 $a^T b \approx 0$), 동일한 토큰은 매우 높은 상관관계를 가짐($a = b$이면 $a^T b \approx 1$)을 보장한다.
2. 상관 행렬 메모리(CMMs): MeMo는 가중치를 학습하는 대신, 키-값 쌍의 외적(outer product)의 합으로서 연상을 저장한다. CMM $C$는 $C = \sum k_i v_i^T$로 정의되며, 여기서 $k_i$는 시퀀스(key)를, $v_i$는 다음 토큰(value)을 나타낸다. 검색은 입력 시퀀스 벡터와 CMM 행렬을 곱함으로써 수행된다.
3. 존슨-린덴스트라우스 변환(JLT): 이 변환은 토큰 시퀀스를 대상 공간 $R^d$로 임베딩하는 데 사용되며, 이를 통해 입력 시퀀스와 출력 벡터가 동일한 차원 공간에 존재하도록 하여 연상 검색 프로세스를 용이하게 한다.

아키텍처 변형

논문은 두 가지 구성을 상세히 설명한다:

• 단일 계층 MeMo (Single-Layer MeMo): 고정된 길이의 토큰 윈도우($h$)를 암기하고 다음 토큰을 예측하기 위해 단일 CMM을 사용한다. 이는 하나의 행렬이 토큰의 중첩을 기반으로 부분 시퀀스에 대해 일반화할 수 있음을 보여준다.
• 다계층 MeMo (Multi-Layer MeMo): 더 긴 시퀀스를 처리하기 위해 여러 개의 CMM 계층을 쌓는다.
  • 암기 단계 (Memorization Phase): 하위 계층은 요소들의 시퀀스를 고유한 표현으로 인코딩한다. 이러한 표현들은 CMM의 키(key)로 저장되며, 값(value)은 인코딩된 시퀀스 전체가 된다. 최종 계층는 긴 시퀀스와 다음 토큰 사이의 관계를 저장한다.
  • 검색 단계 (Retrieval Phase): 중간 계층는 점진적으로 길어지는 시퀀스의 인코딩을 검색하며, 이들은 다음 토큰 예측을 위해 최종 계층을 쿼리하기 위해 합산된다.
  • 망각 (Forgetting): MeMo의 독특한 특징은 저장된 텍스트를 명시적으로 "잊는" 능력이다. 이는 CMM 행렬에서 시퀀스와 토큰의 외적을 빼는 방식으로 이루어지며, 재학습 없이 특정 연상을 효과적으로 삭제한다.

주요 기여

1. 패러다임 전환: 본 논문은 "암기를 위한 학습"에서 "학습을 위한 암기"로의 전환을 제안하며, 메모리가 암묵적인 가중치가 아닌 명시적이고 구조적인 아키텍처를 설계한다.
2. MeMo 아키텍처: 계층적 CMM과 랜덤 벡터 표현을 기반으로 한 언어 모델을 도입하여, 수학적으로 투명한 시퀀스 예측 메커니즘을 제공한다.
3. 편집 가능성 및 투명성: 설계 자체가 모델 편집을 내재적으로 지원하며, 특히 특정 텍스트를 지울 수 있는 망각 기능을 통해 데이터 유출 및 사회적 편향을 완화할 수 있는 메커니즘을 제공한다.
4. 명시적 지식 모델링: 이 아키텍처는 명시적 지식 모델링(예: 지식 그래프, 언어적 온톨로지)을 신경망 언어 모델에 직접 통합할 수 있는 가능성을 열어주며, 잠재적으로 데이터 갈증을 줄일 수 있다.

실험 결과

저자들은 단일 계층 및 다계층 구성의 암기 능력을 평가하기 위해 실험을 수행하였다:

• 단일 계층 용량: 무작위 심볼 시퀀스를 이용한 실험 결과, CMM의 총 파라미터 수와 높은 정확도(평균 정확도 > 0.9로 정의)로 저장할 수 있는 시퀀스 수 사이에 선형 관계가 있음이 나타났다. 이는 전통적인 트랜스포머에서 관찰되는 선형 스케일링 법칙과 일치하지만, 이를 명시적 암기에 적용한 것이다.
• 다계층 용량:
  • 차원 (Dimensionality): 내부 차원 $d$를 증가시키는 것이 암기 성능을 크게 향 향상시켰다. 단순 시퀀스에서 높은 정확도(>0.97)를 유지하기 위해서는 $d=4096$이 필요했으며, 높은 "디코이(decoy)" 비율(서로 다른 컨텍스트를 요구하는 반복된 토큰)을 가진 복잡한 시퀀스의 경우 $d=8192$가 필요했다.
  • 계층 깊이 (Layer Depth): 계층 수($l$)를 늘리면 더 긴 시퀀스를 암기하고 복잡한 컨텍스트를 처리하는 능력이 향상되었다. 예를 들어, 40개의 디코이가 있는 경우, 250,000개의 시퀀스에 대해 0.88 이상의 저장 용량을 달 achieve 하기 위해서는 최소 3개의 계층이 필요했다.
  • 일반화 (Generalization): 다계층 접근 방식은 단일 계층이 달성할 수 있는 것보다 성공적으로 암기 용량을 확장하였으며, 이는 쌓아 올린 CMM 방식의 유효성을 입증한다.

의의 및 주장

본 논문은 MeMo가 투명하고 편집 가능한 언어 모델을 향한 중요한 진전이라고 주장한다. 표준 트랜스포머의 불투명한 가중치 업데이트로부터 암기를 분리함으로써, MeMo는 다음과 같은 이점을 제공한다:

• 제어 (Control): 무엇을 암기할지, 어떻게 저장할지, 그리고 어떻게 접근할지에 대한 직접적인 제어권을 제공한다.
• 안전 (Safety): 명시적인 망각 메커니즘을 통해 데이터 유출 및 사회적 편향을 완화할 수 있는 능력을 제공한다.
• 통합 (Integration): 거대 언어 모델 시대 내에서도 전통적인 언어학 연구 및 명시적 지식 구조를 활용할 수 있는 잠재력을 제공한다.

저자들은 현재 구현이 기존 Hugging Face 생태계와 호환성 문제가 있어 표준 평가 도구를 사용하는 최첨단 트랜스포머와 직접 비교하기 어렵다는 한계를 인정한다. 그러나 이 점이 입증된 아키텍처의 암기 능력을 저하시키지는 않는다고 단언한다. 이 연구의 목적은 지식 전문가와 언어학자에게 통제권을 돌려주고, 메모리 메커니즘을 명시적이고 관리 가능하게 만듦으로써 LLM의 데이터 갈증을 줄이는 경로를 제시하는 것이다.