🤖 machine learning

Does RoPE Prevent or Degrade Retrieval Heads? A Mechanistic Analysis Across Model Families

이 논문은 여러 모델 패밀리에 걸친 기계론적 분석을 통해 회전 위치 임베딩(RoPE)이 검색 헤드(retrieval heads)의 형성을 방해하거나 그 기능을 저하시키지 않음을 입증하며, 긴 문맥 회상(long-context recall)의 인과적 요인이 어텐션 노름(attention norms)이 아닌 RoPE 주파수 차원임을 식별한다.

원저자: Cengizhan Bayram

게시일 2026-06-23

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Cengizhan Bayram

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

거대한 도서관(대규모 언어 모델)을 상상해 보세요. 이 도서관은 수백만 권의 책을 읽었습니다. 가끔 당신이 "5,000페이지 전에 언급된 비밀번호가 무엇이었지?"와 같은 질문을 던지면, 모델은 자신의 기억 속에 깊숙이 묻혀 있는 특정 정보를 찾아내야 합니다.

이 논문은 모델이 어떻게 그 정보를 찾아내는지, 그리고 RoPE(Rotary Position Embeddings)라는 특정 내부 규칙이 이 과정을 돕는지 혹은 방해하는지를 조사합니다.

다음은 쉬운 비유를 사용한 연구의 요약입니다:

1. "리트리벌 헤드(Retrieval Heads)" (사서들)

이 논문은 모델이 단순히 추측하는 것이 아니라, **"리트리벌 헤드"**라고 불리는 특정한 내부 작업자들을 가지고 있음을 확인했습니다.

비유: 모델에게 1,000명의 작은 사서들이 있다고 상상해 보세요. 대부분의 사서는 현재 테이블 위에 놓인 책(직전의 텍스트)만 봅니다. 하지만 소수의 그룹(약 5~8%)은 "특별 사서"입니다. 이들의 유일한 임무는 과거에 언급된 특정 단어를 찾기 위해 도서관 전체를 스캔하는 것입니다.
증거: 연구진은 이 "특별 사서"들의 손을 묶는(마스킹하는) 실험을 통해 이를 테스트했습니다. 그렇게 했을 때, 비밀번호를 찾는 모델의 능력은 100%에서 0%로 떨어졌습니다. 반면, 일반적인 사서들의 손을 묶었을 때는 모델이 완벽하게 작동했습니다. 이는 이 특정 헤드들이 모델이 장거리 정보를 기억할 수 있는 유일한 이유임을 증명합니다.

2. 핵심 질문: RoPE가 사서들을 망가뜨리는가?

RoPE는 모델이 문장 내에서 단어의 위치(페이지 번호와 같은 역할)를 이해하기 위해 사용하는 수학적 규칙입니다. 매우 긴 책을 처리하기 위해 과학자들은 종종 ** $\theta$ (세타)**라고 불리는 설정을 조정합니다.

우려 (가설 1): 사람들은 긴 책을 다루기 위해 $\theta$ 를 더 크게 만들면, 특별 사서들이 혼란을 겪거나 아예 형성되지 못할 수도 있다고 걱정했습니다.
우려 (가설 2): 또한 사람들은 RoPE가 사서들이 사용하는 "도구"를 덜 효과적으로 만들어, 그들이 고장 난 장비로 일하게 될까 봐 걱정했습니다.

결론: 이 논문은 두 가지 우려 모두에 대해 **"아니오"**라고 답합니다.

결과 1: "긴 책" 설정( $\theta$ )을 가진 모델은 특별 사서가 줄어드는 것이 아니라 오히려 더 많아집니다. 이 설정은 그들을 망가뜨리는 것이 아니라, 오히려 촉진하는 것으로 보입니다.
결과 2: "도구"가 단순하게 고장 나는 것은 아닙니다. 그 관계는 복잡하며 특정 모델 제품군(컴퓨터 브랜드와 같은)에 따라 다르지만, "RoPE가 리트리벌을 악화시킨다"는 보편적인 규칙은 존재하지 않습니다.

3. 진짜 발견: "주파수" vs "볼륨"

가장 중요한 발견은 특별 사서들이 실제로 RoPE 규칙의 어느 부분을 사용하는지에 관한 것입니다.

기존의 생각 (유틸리티/볼륨): 과학자들은 사서들이 규칙의 "크고 강한"(높은 유틸리티/노름) 부분을 사용할 것이라고 생각했습니다.
새로운 발견 (주파수/파장): 이 논문은 사서들이 실제로 규칙의 저주파(low-frequency) 부분에 의존한다는 것을 증명합니다.
- 비유: RoP 규칙이 라디오 방송국이라고 상상해 보세요.
  - 고주파: 이것은 빠르고 짧은 라디오 파동과 같습니다. 바로 옆에 있는 것을 듣기에는 좋지만, 먼 거리에서는 엉키기 쉽습니다.
  - 저주파: 이것은 느리고 긴 라디오 파동과 같습니다. 형태를 잃지 않고 수천 마일을 이동할 수 있습니다.
- 실험: 연구진은 고주파 파동과 "큰 소리" 부분을 꺼보았습니다. 모델은 여전히 잘 작동했습니다. 하지만 저주파(장거리) 파동을 껐을 때, 모델은 비밀번호를 완전히 잊어버렸습니다.
- 결론: 특별 사서들은 신호가 얼마나 "큰지"에는 관심이 없습니다. 그들은 신호가 얼마나 멀리 갈 수 있는지에 관심을 가집니다. 5,000페이지 뒤까지 도달하기 위해서는 느린, 긴 파장의 신호가 필요합니다.

4. 사서들은 어떻게 태어나는가

논문은 또한 모델이 학습(훈련)하는 동안의 모습도 관찰했습니다.

비유: 모델이 처음 학습을 시작할 때, 특별 사서는 없습니다. 그저 일반적인 독자들만 있을 뿐입니다.
사건: 갑자기, 약 2조 개의 단어를 읽은 후, 특별 사서들이 한꺼번에 "결정화"되거나 나타납니다. 이는 서서히 성장하는 과정이 아니라, 마치 전등 스위치를 켜는 것과 같습니다. 일단 그들이 나타나면, 그들은 필수적인 존재가 됩니다.

5. 왜 어떤 모델들은 다르게 보이는가

연구진은 네 가지 다른 모델(LLaMA, Qwen, OLMo, Mistral)을 테스트했습니다.

그들은 "저주파" 규칙이 모든 모델에 적용된다는 점은 확인했지만, 그 규칙이 주는 도움의 정도는 모델마다 크게 다르다는 것을 발견했습니다.
어떤 모델에서는 그 효과가 엄청나게 크지만, 다른 모델에서는 작습니다. 논문은 이것이 규칙이 고장 났기 때문이 아니라, 효과를 확인하기 위해 연구진이 각 모델에서 "패치(수정)"해야 했던 사서의 수가 달랐기 때문이라고 설명합니다. 이는 배의 구멍을 막는 것과 같습니다. 만약 구멍의 30%만 막는다면 배는 여전히 떠 있을 것입니다(아무 일도 일어나지 않은 것처럼 보일 것입니다). 물 수위가 떨어지는 것을 보려면 충분히 많은 구멍을 막아야 합니다.

요약

리트리벌 헤드가 존재하는가? 예, 존재하며 장기 기억에 절대적으로 필요합니다.
RoPE가 그들을 망가뜨리는가? 아니요. 사실, 긴 문맥을 위한 설정들이 그들이 형성되는 데 도움을 주는 것으로 보입니다.
그들은 어떻게 작동하는가? 그들은 RoPE 규칙의 "크고 강한" 신호가 아니라, "느리고 장거리 이동이 가능한" 신호(저주파)에 의존합니다.
핵-메시지: AI가 장거리에서 더 잘 기억하게 만들려면, 사서들을 고칠 필요가 없습니다. 단지 "장거리 라디오 파동"(저주파 RoPE 차원)이 가로막히거나 방해받지 않도록 유지하기만 하면 됩니다.

기술 요약: RoPE는 검색 헤드(Retrieval Heads)를 방해하는가, 아니면 퇴화시키는가?

문제 정의

긴 문맥(Long-context) 언어 모델은 '검색 헤드(retrieval heads)'라고 불리는 특정 어텐션 헤드 집합에 의존한다. 이들은 needle-in-a-haystack(NIAH) 회상과 같은 작업을 수행하기 위해 이전 문맥으로부터 정보를 복사한다. 동시에, 현대적 모델들은 쿼리 및 키 벡터의 회전 주파수를 결정하는 베이스 하이퍼파라미터 $\theta$ 를 사용하는 회전 위치 임베딩(Rotary Position Embeddings, RoPE)을 활용한다. $\theta$ 를 높이는 것은 문맥 길이를 확장하는 표준적인 방법이다.

본 논문은 RoPE와 검색 헤드 사이의 상호작용에 관한 두 가지 상충하는 가설을 조사한다:

방해(Prevention, H1): 더 큰 $\theta$ (더 느리게 감쇠하는 회전)가 검색 헤드의 형성을 방해하거나 그 수를 감소시킬 수 있다.
퇴화(Degradation, H2): RoPE가 검색 헤드가 의존하는 '저효율(low-utility)' 차원(쿼리 투영 노름(query-projection norms)으로 정의됨)을 유도할 수 있으며, 이 차원들을 제로화(zeroing)하면 회상이 저하되거나, 반대로 검색이 고효율 차원에 의존할 수 있다.

연구 방법론

본 연구는 두 가지 어텐션 체제(Multi-Head 및 Grouped-Query)를 아우르는 네 가지 오픈 웨이트 7–8B 모델(LLaMA-2, LLaMA-3.1, Qwen2.5, OLMo-2)을 대상으로 하며, 100배 범위의 RoPE 베이스( $\theta \in [10,000, 1,000,000]$ )에 걸친 기계적 분석을 수행한다.

주요 실험 프로토콜:

쌍을 이룬 시드 교차 모델 프로토콜(Paired-Seed Cross-Model Protocol): 공정한 비교를 위해, 저자들은 토크나이저와 독립적인 NIAH 사양을 생성하여 입력 분산을 제거함으로써 모델 간 동일한 샘플을 점수화한다.
검색 헤드 탐지: 단일 패스 어텐션-argmax 프록시를 사용하여 "니들(needle)" 토큰에 어텐션을 주는 헤드를 식별한다. 타당성은 인과적 넉아웃(causal knockout)과 엄격한 티처 포스드 카피 스코어(teacher-forced copy score)를 통해 확인된다.
레이어 클러스터 통계(Layer-Clustered Statistics): 레이어 내의 헤드들을 독립적인 것으로 취급하는 의사 복제(pseudoreplication)를 피하기 위해, 저자들은 레이어 클러스터링 순열 검정과 편상관관계(partial correlations)를 사용한다.
인과적 활성화 패칭(Causal Activation Patching):
- 헤드 넉아웃(Head Knockout): 탐지된 검색 헤드의 출력을 제로화하는 것을 무작위 헤드와 비교한다.
- 차원 패칭(Dimension Patching): 검색 헤드 집단 전체에서 특정 RoPE 차원(저주파 vs 고주파 vs 저효율/고효율)을 체계적으로 제로화하여 인과적 의존성을 테스트한다.
- 용량-반응(Dose-Response): 제로화된 차원의 수( $k$ )와 패칭된 헤드의 비율(커버리지)을 변화시켜 점진적인 효과를 측정한다.

주요 결과

1. 검색 헤드는 실재하며 인과적으로 필수적이다

검색 헤드는 모든 모델 제품군에 걸쳐 존재하며(전체 헤드의 4–9%를 구성), 이들의 인과적 마스킹은 NIAH 정확도를 1.00에서 0.00(OLMo의 경우)으로 무너뜨리거나(Qwen의 경우) 크게 감소시킨다. 반면, 동일한 수의 무작위 헤드를 마스킹하는 것은 아무런 영향을 미치지 않는다. 이러한 이중 해리(double dissociation)는 검색 헤드가 단순히 상관관계가 있는 것이 아니라, 긴 문맥 회상을 위해 인과적으로 요구되는 것임을 확인시켜 준다.

2. "방해(Prevention)" 가설은 지지되지 않는다

H1과 달리, 더 큰 RoPE 베이스 $\theta$ 는 검색 헤드의 수를 줄이지 않는다.

관찰: LLaMA-3.1 ( $\theta=500,000$ )은 47개의 검색 헤드를 갖는 반면, LLaMA-2 ( $\theta=10,000$ )는 42개를 갖는다. Qwen ( $\theta=1,000,000$ )은 59개를 갖는다.
결론: 추세는 헤드 수가 $\theta$ 와 함께 일치하거나 증가함을 보여주며, 이는 높은 $\theta$ 가 형성을 방해한다는 예측을 반박한다. 저자들은 $\theta$ 가 다른 구조적 및 데이터적 요인들과 공변(co-vary)한다는 점을 언급하며, 이는 모델 간의 방향성 있는 반박임을 명시한다.

3. 보편적인 "RoPE가 검색을 퇴화시킨다"는 법칙은 없다

차원 효용성(쿼리 투영 노름)과 검색 사이의 관계는 보편적이지 않고 이질적이며 모델 특이적이다.

반대되는 부호: Qwen의 검색 헤드는 비검색 헤드보다 유의미하게 낮은 효용성( $d = -0.49$ )을 보이는 반면, OLMo의 검색 헤드는 유의미하게 높은 효용성( $d = +0.50$ )을 보인다. LLaMA 모델들은 유의미한 효과를 보이지 않았다.
시사점: OLMo와 LLaMA-3.1이 동일한 $\theta$ 를 공유함에도 불구하고 서로 다른 동작을 보이기 때문에, 이 효과는 $\theta$ 에 의해 구동되는 것이 아니다. RoPE 기하학적 구조와 검색 효용성을 연결하는 단일한 단조 법칙은 존재하지 않는다.

4. 인과적 축은 노름(Norm)이 아니라 주파수(Frequency)이다

효용 축(노름)은 일관되지 않은 결과를 낳지만, RoPE의 주파수 축은 모델 전반에서 일관되게 인과적으로 중요하다.

주파수 특이성: 검색 헤드의 저주파(긴 파장) 차원을 제로화하면 회상이 용량 의존적으로 붕괴한다(예: 128개 차원 중 32개를 제로화했을 때 정확도가 0.18로 하락).
널 컨트롤(Null Controls): 동일한 수의 고주파 차원, 무작위 차원, 또는 최고 노름(고효용) 차원을 제로화하는 것은 회상을 온전히 유지했다(천장에 근접).
특이성: 이 효과는 헤드 특이적이며(비검색 헤드의 저주파 차원을 제로화하는 것은 효과가 없음), 주로 태스크 특이적이다(일반적인 퍼플렉서티에 미치는 영향은 NIAH 하락에 비해 미미함).
커버리지 의존성: 일부 모델(예: Mistral)에서의 "널(null)" 결과는 낮은 패칭 커버리지에 의한 인공물이었다. 커버리지를 맞추었을 때(탐지된 헤드의 50%를 패칭), 음의 주파수 효과는 5개 모델(OLMo, Qwen, Gemma, Mistral)에서 유의미하고 보편적으로 나타났다.

5. 훈련 역학(Training Dynamics)

OLMo-2에서 검색 헤드는 초기화 단계에는 존재하지 않는다. 이들은 약 2조 개의 토큰 이후 급격히 결정화(crystallize)되며, 개수가 약 3.5배 증가한다. 헤드 수가 증가함에 따라 평균 헤드 효용성이 떨어지는데, 이는 회로와 그 차원 사용 사이의 공진화(co-evolution)를 시사한다.

의의 및 주장

본 논문은 RoPE가 검색과 어떻게 상호작용하는지에 대한 탐지기 강건한(detector-robust) 기계적 설명을 제공한다고 주장한다:

직관적 이야기의 반박: "방해" 가설(큰 $\theta$ 가 검색 헤드를 막는다는 것)이나 보편적인 "퇴화" 가설(검색이 저효용 차원에 의존한다는 것)은 모두 성립하지 않는다.
부하를 담당하는 축으로서의 주파수: 본 연구는 차원 비효율성에 대한 이해를 정교화한다. 검색은 구체적으로 RoPE의 저주파, 긴 파장의 차원에 의존하며, 이 차원들이 장거리 위치 신호를 인코딩한다. 이는 베이스 스케일링(Base-scaling)이 왜 긴 문맥 성능을 향상시키는지에 대한 회로 수준의 설명을 제공한다. 즉, 베이스 스케일링은 검색 헤드가 의존하는 바로 그 채널을 재형성한다.
방법론적 엄밀성: 본 연구는 의사 복제를 피하기 위한 레이어 클러스터 통계와, 단일 헤드 절제가 효과를 보여주지 못하는 천장 효과(ceiling effects)를 극복하기 위한 집단 수준의 패칭의 필요성을 강조한다.
이질성: 저자들은 주파수 효과의 방향은 보편적이지만, 그 크기와 효용 관계는 구조, 데이터, 탐지 지표에 따라 모델 제품군마다 다르다고 겸허히 주장한다. 그들은 단일 보편 법칙을 확립했다고 주장하는 것이 아니라, 기존의 법칙이 존재하지 않음을 반박한 것이다.

결론적으로, 본 연구는 검색이 특정 헤드에 국한되어 있으나 RoPE의 저주파 대역에 중복되어 인코딩된, 창발적이고 인과적인 메커니즘임을 밝히며, 표준적인 베이스 스케일링 관행이 바로 이 특정 주파수 채널을 최적화함으로써 작동한다는 것을 보여준다.