기술 요약: 시퀀스 모델의 "유도 편향(Induction Bias)"에 대하여

문제 정의

트랜스포머 기반 언어 모델은 실질적인 측면에서 놀라운 성공을 거두었으나, 최근 문헌들은 이들의 근본적인 한계, 특히 길이 외삽(length extrapolation)과 같은 분포 외(OOD) 일반화에서의 상태 추적(state tracking) 능력을 지적하고 있습니다. 그러나 이러한 한계가 분포 내(in-distribution), 즉 데이터 효율성 및 훈련 분포 내의 서로 다른 시퀀스 길이에 대한 일반화 능력 측면에서 어느 정도까지 나타나는지는 여전히 명확히 밝혀지지 않았습니다.

본 연구는 핵심적인 문제가 아키텍처의 **귀납적 편향(inductive bias)**에 있다고 상정합니다. 트랜스포머는 컨텍스트 윈도우 내의 모든 이전 입력 및 출력에 어텐션을 수행함으로써 출력을 계산하며, 이는 이론적으로 상태의 전역적 재계산을 허용합니다. 반면, 순환 신경망(RNN)은 각 타임 스텝마다 모든 관련 과거 정보를 단일 은닉 상태 벡터로 인코딩해야만 합니다. 저자들은 이러한 제약이 RNN으로 하여금 "단계별" 상태 업데이트 메커니즘(수학적 증명의 귀납 단계와 유사함)을 촉진하며, 이를 **"유도 편향(induction bias)"**이라 명명한다고 주장합니다. 이 편향은 다양한 시퀀스 길이에 걸쳐 솔루션 메커니즘을 공유하는 것을 용이하게 하는 반면, 트랜스포머는 길이에 특화된 솔루션을 고립적으로 학습할 수 있습니다.

방법론

저자들은 합성 상태 추적 작업에 대해 트랜스포머와 순환 모델의 데이터 효율성을 정량화하기 위해 대규모의 체계적인 경험적 연구를 수행합니다.

작업(Tasks)

연구는 군론(group-theoretic) 프레임워크 내에서 일련의 업데이트에 따른 잠재 상태를 유지하는 것으로 상태 추적을 공식화합니다. 두 가지 전형적인 작업이 사용됩니다:

1. 모듈러 덧셈(Modular Addition): 순환 군 $\mathbb{Z}_m$ 상에서의 가환 연산.
2. 치환 합성(Permutation Composition): 대칭군 $S_5$ 상에서의 비가환 연산.

이러한 합성 작업들은 시퀀스 길이($n$)와 상태 공간 크기(모듈러스 $m$)를 독립적으로 제어할 수 있게 하여, 언어 이해나 암기 아티팩트로부터 상태 추적 계산을 분리해 냅니다.

감독 체제(Supervision Regimes)

감독 신호의 밀도를 변화시키기 위해 세 가지 작업 형식이 평가됩니다:

1. 결과 감독(Outcome Supervision): 모델이 최종 합계 또는 상태만을 예측합니다.
2. 생각의 사슬(Chain-of-Thought, CoT): 모델이 중간 부분 합계를 자기회귀적으로 생성합니다.
3. 정렬된 생각의 사슬(Aligned Chain-of-Thought, ACoT): 모델이 각 입력 토큰에 대응하는 부분 합을 출력합니다(토큰당 감독).

모델(Models)

연구는 다음을 비교합니다:

• 트랜스포머(Transformers): 다층 디코더 전용 아키텍처 (GPT-2 스타일, 6개 레이어).
• 순환 모델(Recurrent Models): 입력 의존적이고 조밀한 전이 행렬을 사용하는 LSTM 및 조밀 상태 공간 모델(Dense-SSMs).
• 선택적 SSM(Selective SSMs): 가중치 공유 분석을 위해 Mamba가 포함되었습니다.

지표(Metrics)

주요 지표는 수렴 임계값 미만의 검증 손실을 달 achieve 하기 위해 필요한 최소 데이터셋 크기($N^*$)로 정의되는 **샘플 효율성(sample efficiency)**입니다. 또한, 저자들은 교차 길이 메커니즘 공유를 정량화하기 위해 **공유 계수($\kappa$)**를 도입합니다:
$$\kappa = \frac{\sum_{n=2}^{L} N^*_n}{N^*_{joint}}$$
여기서 $N^*_n$은 고정된 길이 $n$에 필요한 샘플 수이며, $N^*_{joint}$는 모든 길이를 동시에 학습하는 데 필요한 샘플 수입니다.

• $\kappa > 1$: 분할 학습(amortized learning, 공유된 메커니즘)을 나타냅/니다.
• $\kappa \approx 1$: 고립된, 길이 특화 학습을 나타냅/니다.
• $\kappa < 1$: 파괴적 간섭(destructive interference)을 나타냅/니다.

주요 결과

1. 감독 방식에 따른 상이한 선호도

• 트랜스포머는 생각의 사슬(CoT) 감독 하에서 가장 효율적으로 작동합니다. 이들은 정렬된 CoT(ACoT) 및 결과 감독(Outcome Supervision)에서 크게 어려움을 겪으며, 비자명한 구성에서 수렴에 실패하는 경우가 많습니다.
• **순환 모델(LSTM/Dense-SSM)**은 정렬된 CoT(ACoT) 및 결과 감독에서 우수한 샘플 효율성을 보입니다. 이들은 전체 입력을 처리한 후 중간 계산을 펼쳐내야 하는 "회상 병목(recall bottleneck)" 현상 때문에 CoT 방식에서는 어려움을 겪습니다.

2. 데이터 효율성 및 시퀀스 길이

• 트랜스포머: 훈련에 필요한 데이터 양은 시퀀스 길이와 상태 공간 크기에 따라 급격히 증가합니다. 결정적으로, 트랜스포머는 CoT 형식에서 제공되는 추가적인 감독 신호를 활용하지 못하며, 시퀀스가 길어짐에 따라 예상되는 것처럼 샘플 복잡도가 감소하지 않습니다.
• 순환 모델: ACoT 체제에서 순환 모델은 최대 시퀀스 길이가 증가함에 따라 데이터 효율성이 향상되는데, 이는 이들이 증가된 감독 신호의 밀도를 효과적으로 활용하고 있음을 시사합니다. 결과 감독 체제에서 RNN은 긴 시퀀스보다 짧은 시퀀스가 더 강력한 학습 신호를 제공합니다.

3. 가중치 공유 및 유도 편향

• 트랜스포머는 모든 작업 형식에서 낮은 공유 계수($\kappa \approx 1$ 또는 $\kappa < 1$)를 보입니다. 이는 이들이 길이 특화된 솔루션을 고립적으로 학습함을 나타냅/니다. CoT 체제에서 트랜스포머는 혼합된 길이에 대해 훈련하는 것이 각 길이에 대한 별도의 모델을 훈련하는 것보다 덜 효율적인 파괴적 간섭($\kappa \ll 1$)을 보여줍니다.
• 순환 모델은 선호하는 체제(Outcome 및 ACoT)에서 높은 공유 계수($\kappa \gg 1$)를 나타냅/니다. 이는 이들이 재사용 가능한 전이 연산자를 내재화하여, 한 시퀀스 길이의 데이터가 다른 길이의 학습 비용을 분할(amortize)할 수 있게 함을 확인시켜 줍니다.
• OOD와의 상관관계: 논문은 높은 공유 계수와 보지 못한 시퀀스 길이에 대한 일반화 능력(OOD) 사이의 강한 상관관계를 발견했습니다. 낮은 공유 계수를 가진 모델은 외삽에 실패합니다.

의의 및 주장

저자들은 상태 추적이 훈련 및 평가 분포가 일치하는 경우에도 트랜스포머에게는 근본적인 과제로 남아 있다고 주장합니다. 본 연구는 다음을 입증합니다:

1. 트랜스포머는 단순한 상태 추적 작업에 대해, 심지어 분포 내(in-distribution)에서도 일반화하기 위해 엄청난 양의 훈련 데이터를 필요로 합니다.
2. 트랜스포머의 "유도 편향" 결여는 시퀀스 길이 간의 효과적인 가중치 공유를 방해하여, 길이 특화된 휴리스틱의 고립된 학습으로 이어집니다.
3. 트랜스포머의 데이터 효율성은 시퀀스 길이에 따라 열악하게 확장되며, 이는 긴 컨텍스트 윈도우에서의 "컨텍스트 부패(context rot)" 문제를 설명하는 데 도움이 될 수 있습니다.
4. 트랜서머가 특정 감독(CoT)을 통해 이러한 작업들을 학습할 수는 있지만, 이는 일반화 가능한 알고리즘을 학습하는 것이 아니라 각 길이에 대한 별개의 메커니즘을 학습하는 것입니다.

본 논문은 이러한 결과가 로보틱스, GUI 제어와 같이 긴 호흡의 상태 추적을 포함하는 "에이전트적(agentic)" 시나리오에서의 엔드 투 엔드 학습이 기존의 가정보다 트랜스포머에게 훨씬 더 어려울 수 있음을 시사한다고 결론짓습니다. 이는 트랜스포머가 다양한 시간 척도에 걸쳐 상태 업데이트 메커니즘을 효율적으로 공유할 수 있는 내재적 유도 편향이 부족하기 때문입니다.

한계점

저자들은 본 연구가 대표적인 합성 작업 및 모델 세트에 국한되어 있음을 인정합니다. 이러한 작업들은 상태 추적을 분리해 내지만, 실제 세계의 순차적 예측이 가진 모든 복잡성을 포착하지는 못합니다. 또한, 실험에 필요한 광범위한 탐색 공간으로 인해 직접 평가할 수 있는 아키텍처와 작업 군의 수가 제한되었습니다. 이러한 데이터 효율성 패턴을 실제 도메인(코드 실행, 체화된 제어 등)으로 전이하는 것은 향후 연구 과제로 남아 있습니다.