기술적 요약: 트랜스포머의 위치 편향에 대한 구조적 이론

문제 제기

트랜스포머 모델은 선두 편향 (초기 토큰 선호), 최근성 편향 (최근 토큰 선호), 그리고 긴 문맥의 중앙에 있는 정보가 충분히 활용되지 않는 '중간 소실 (Lost-in-the-Middle, LiM)' 현상과 같은 체계적인 위치 편향을 나타냅니다. 경험적 증거는 이러한 편향이 의미론적 요인이 아닌 아키텍처적 기원임을 시사하지만, 그 이론적 기원은 여전히 잘 이해되지 않고 있습니다.

기존의 이론적 분석과 실제 트랜스포머 행동 사이에는 중요한 간극이 존재합니다. Wu 등 [2025] 의 최근 연구는 attention-only 인과적 트랜스포머에서 누적 어텐션이 깊이가 증가함에 따라 첫 번째 토큰으로 붕괴되어야 함을 보였습니다. 그러나 이 예측은 그러한 붕괴를 보이지 않는 현대의 깊은 트랜스포머에서의 경험적 관찰과 모순됩니다. 해당 논문은 이러한 불일치를 실제 아키텍처에서 중심적인 역할을 하는 **잔차 연결 (residual connections)**이 이전 이론적 프레임워크에서 누락되었기 때문이라고 귀결합니다.

방법론

저자들은 **잔차 인식 누적 어텐션 롤아웃 (residual-aware cumulative attention rollout)**을 기반으로 한 위치 편향의 구조적 이론을 개발했습니다. 이 프레임워크는 학습 목표, 데이터, 또는 최적화 역학과 무관하게 레이어 간 정보 전파를 분석합니다.

핵심 프레임워크

1. 잔차 인식 전이: 잔차를 고정된 볼록 결합 (예: $0.5I + 0.5A$) 으로 취급하는 이전 모델들과 달리, 저자들은 잔차 연결을 연속 시간 역학의 이산화로 모델링합니다. 그들은 어텐션 업데이트와 항등 경로 (identity path) 의 상대적 강도를 나타내는 레이어 및 입력 의존적 혼합 계수 $\lambda_t(x)$를 정의합니다:
   $$\lambda_t(x) := \frac{\| \text{Attn}(X^{(t-1)}) \|}{\| X^{(t-1)} \| + \| \text{Attn}(X^{(t-1)}) \|}$$
   전이 행렬은 $R^{(t)} = (1 - \lambda_t)I + \lambda_t A^{(t)}$로 정의되며, 여기서 $A^{(t)}$는 데이터셋 평균 어텐션 커널입니다.

2. 누적 롤아웃: 깊이 $T$까지의 정보 전파는 롤아웃 행렬 $P^{(T)} = R^{(T)} \cdots R^{(1)}$로 포착됩니다. 마지막 행의 분포 $p^{(T)}(j)$는 입력 토큰 $j$가 최종 출력에 미치는 누적 영향을 정량화합니다.

3. 네 가지 아키텍처적 힘: "확률적 단조 어텐션 커널" 가정 하에서 유한 깊이 분석은 롤아웃 분포를 형성하는 네 가지 힘을 분리합니다:

   • 인과적 마스킹: **선두 편향 (primacy drift)**을 유발합니다 (질량이 초기 위치로 이동).
   • 잔차 연결: 항등 경로를 보존함으로써 **최근성 편향 (recency drift)**을 유발합니다 (질량이 최근 위치로 이동).
   • 위치 인코딩: 최근 키를 선호하는 편향 (예: ALiBi) 이 누적되어 최근성 편향을 유발합니다.
   • 콘텐츠 기여: 상수 배경과 대각선 자기 어텐션 항으로 모델링되며, 이러한 요소는 편향을 조절합니다 (양의 대각선 콘텐츠는 최근성을 증가시키고, 음의 콘텐츠는 선두 편향을 증가시킵니다).

4. 무한 깊이 분석: 저자들은 분석을 무한 깊이 극한으로 확장하여 혼합 계수의 합 $\sum \lambda_t$에 기반한 이분법을 확립합니다.

주요 기여

1. 잔차 인식 어텐션 롤아웃

이 논문은 잔차 연결을 지속적인 항등 경로로 명시적으로 모델링하는 공식을 도입합니다. 이는 'attention-only'라는 제한적인 가정을 넘어 현대 트랜스포머 아키텍처와 전파 모델을 정렬시킵니다.

2. 위치 편향의 구조적 기원

저자들은 트랜스포머 아키텍처 단독이 광범위하고 종종 U 자형 영향 프로파일을 유도함을 증명합니다. 인과적 마스킹 (선두) 과 잔차 연결 (최근성) 간의 상호작용은 초기 및 최근 토큰이 중간 위치보다 상대적으로 높은 영향을 받는 구조적 사전 분포를 생성합니다. 이는 의미론적 콘텐츠가 부재한 상태에서도 중간 소실 현상에 대한 이론적 설명을 제공합니다.

3. 어텐션 붕괴 불일치 해결

이 논문은 Wu 등 [2025] 과 경험적 현실 사이의 불일치를 해결합니다. 이는 인과적 마스킹 단독 하에서 어텐션 붕괴가 필연적이지 않음을 보여줍니다. 대신, 붕괴는 누적 어텐션 혼합 강도 ($\sum \lambda_t$)에 달려 있습니다:

• 유한 총 혼합 ($\sum \lambda_t < \infty$): 어텐션이 첫 번째 토큰으로 붕괴하지 않습니다. 롤아웃 행렬의 대각선 항목은 엄격히 양수로 유지됩니다.
• 무한 총 혼합 ($\sum \lambda_t = \infty$): 붕괴가 발생하며, 어텐션 질량이 첫 번째 토큰에 집중됩니다.

4. 경험적 검증

이 이론은 사전 학습된 언어 모델 (BLOOM, MPT, Falcon) 에서 측정된 입력 토큰 영향력에 대해 검증되었습니다.

• 제어된 롤아웃: 시뮬레이션은 'attention-only'롤아웃이 첫 번째 토큰으로 붕괴하는 반면, '잔차 인식'롤아웃은 관찰된 U 자형 프로파일을 생성함을 보여줍니다.
• 정량적 일치: 잔차 인식 모델에서 예측된 영향 프로파일은 경험적으로 추정된 분포 (기반 그라디언트 귀속을 통해 측정됨) 와 밀접하게 일치하며, attention-only 모델에 비해 훨씬 낮은 Wasserstein 거리를 보입니다.

결과

• 유한 깊이: 인과적 마스킹과 잔차 연결의 결합은 U 자형 영향 프로파일을 산출합니다. 이 프로파일은 다양한 모델과 데이터셋에서 견고합니다.
• 무한 깊이: 이론적 분석은 잔차 연결이 깊은 어텐션 역학을 근본적으로 변경함을 증명합니다. 붕괴는 인과적 마스킹의 존재뿐만 아니라 혼합 강도의 누적에 조건부입니다.
• 경험적 정렬:
  • bloom-176b 및 mpt-7b와 같은 모델에서 이론적 롤아웃 (콘텐츠 없이) 은 측정된 영향의 지배적인 U 자형 구조를 재현합니다.
  • 거친 콘텐츠 추상화 (상수 + 대각선) 를 추가하면 적합도가 더욱 정교해지며, 질량을 최근 위치로 이동시켜 경험적 데이터와 밀접하게 정렬됩니다.
  • 'attention-only' 변형은 경험적 프로파일을 재현하지 못하여 잔차 모델링의 필요성을 확인시켜 줍니다.

중요성과 주장

이 논문은 위치 편향을 이해하기 위한 아키텍처 충실도 프레임워크를 제공한다고 주장합니다. 그 주요 중요성은 다음과 같습니다:

1. 이론과 실무의 연결: 이는 잔차 연결이 attention-only 이론이 예측한 필연적인 붕괴를 방지함을 보여줌으로써 Wu 등 [2025] 이 지적한 열린 문제를 해결합니다.
2. 중간 소실 설명: 이는 U 자형 영향 프로파일 (따라서 LiM 효과) 이 의미론적 또는 학습 역학이 아닌 트랜스포머 아키텍처에 내재된 구조적 사전 분포에서 비롯됨을 확립합니다.
3. 예측 능력: 이 이론은 특정 학습 데이터나 토큰 의미론에 접근할 필요 없이 아키텍처 매개변수 (마스킹, 잔차, 위치 인코딩 편향) 와 측정된 혼합 계수만을 사용하여 사전 학습된 모델의 영향 분포 형태를 정확하게 예측합니다.

저자들은 자신의 작업을 엔드투엔드 표현 학습이 아닌 정보 전파에서의 아키텍처적 사전 분포를 기술하는 것으로 한정하여 겸손한 범위를 유지합니다. 그들은 U 자형 사전 분포가 중간 소실 작업 성능 현상의 기저에 있을 가능성이 높지만, 구체적인 검색 스타일 작업 저하에 대한 루프를 닫는 것은 향후 연구 과제로 남겨두었다고 지적합니다.