💬 NLP

Convergent Evolution: How Different Language Models Learn Similar Number Representations

본 논문은 다양한 언어 모델이 자연어 데이터나 덧셈 문제 등 서로 다른 학습 신호를 통해 주기적 특징을 공유하는 수렴 진화를 보이지만, 모듈로 연산에 대한 기하학적 분리가 가능한 특징을 학습하는지는 데이터, 아키텍처, 옵티마이저, 토크나이저 등의 요인에 따라 달라진다는 것을 규명합니다.

원저자: Deqing Fu, Tianyi Zhou, Mikhail Belkin, Vatsal Sharan, Robin Jia

게시일 2026-04-23

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Deqing Fu, Tianyi Zhou, Mikhail Belkin, Vatsal Sharan, Robin Jia

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

1. 핵심 발견: "모두가 같은 노래를 부르지만, 가사를 이해하는지는 별개"

연구진은 수많은 AI 모델 (Transformer, LSTM, 고전적인 단어 임베딩 등) 을 분석했습니다. 결과는 다음과 같았습니다.

모두가 가진 특징 (스펙트럼 수렴): 모든 모델이 숫자를 볼 때, 마치 **특정 주파수 (2, 5, 10 배수)**로 진동하는 '리듬'을 갖게 됩니다. 이는 마치 모든 모델이 숫자를 볼 때 "2, 5, 10 을 기준으로 딱딱 끊어지는 느낌"을 공유한다는 뜻입니다.
- 비유: 마치 모든 나라의 사람들이 "음식 먹을 때 숟가락을 쓴다"는 공통점을 가진 것처럼, AI 모델들도 숫자 처리 시 **리듬감 (Fourier spikes)**은 공유합니다.
하지만, 진짜 이해는 다름 (기하학적 수렴): 문제는 이 리듬을 가지고 실제로 숫자의 나눗셈 (나머지 연산, Modulo) 을 계산할 수 있는지입니다.
- 어떤 모델 (Transformer 등) 은 이 리듬을 이용해 "10 으로 나눴을 때 나머지가 3 인 숫자들끼리 모여 있다"고 정확히 구분해 냅니다. (진짜 이해)
- 반면, 어떤 모델 (LSTM 등) 은 리듬은 아주 크게 가지고 있지만, 막상 나눗셈 문제를 풀면 **완전 무작위 (동전 던지기 수준)**로 맞힙니다. (겉모습만 비슷함)

2. 왜 이런 일이 일어날까? (두 가지 길)

논문은 이 현상을 설명하기 위해 두 가지 비유를 제시합니다.

A. "소음"과 "신호"의 문제 (Theorem 1)

리듬 (Fourier 스파이크) 이 있다고 해서 무조건 숫자를 잘 구분하는 건 아닙니다.

비유: 어떤 방에 "10 초마다 종소리가 울리는 리듬"이 있다고 칩시다.
- 좋은 경우 (Transformer): 종소리가 울릴 때마다 사람들이 "아, 지금 10 초가 지났구나!"라고 정확히 알아차리고 제자리에 앉습니다.
- 나쁜 경우 (LSTM): 종소리는 아주 크게 울리지만, 사람들은 그 소리를 듣고도 "아니, 지금 몇 시지?"라며 혼란스러워합니다. 소리가 너무 크고 시끄러워서 (내부 노이즈가 너무 커서) 정작 중요한 신호를 못 듣는 것입니다.
- 결론: 리듬이 있다고 해서 무조건 숫자를 잘 계산하는 건 아닙니다. 리듬이 '신호'로 작용할지, 아니면 '소음'에 묻힐지가 중요합니다.

B. 두 가지 진화 경로 (데이터와 토크나이저의 역할)

모델이 이 '진짜 이해'를 얻는 두 가지 길이 있습니다.

자연스러운 언어 학습 (Complementary Signals):
- 모델이 책, 뉴스, 대화 등 자연스러운 텍스트를 읽을 때, 숫자가 문맥과 어떻게 어울리는지, 다른 숫자와 어떻게 함께 쓰이는지를 배우면서 자연스럽게 나눗셈 구조를 깨우칩니다.
- 비유: 아이가 "100 원, 200 원, 300 원"이라는 동전 이야기를 들으며, 자연스럽게 "100 단위"라는 개념을 익히는 것과 같습니다.
덧셈 문제 풀이 (Arithmetic Task Pressure):
- 모델에게 덧셈 문제를 직접 풀게 했을 때, 결과가 달라집니다.
- 멀티 토큰 (Multi-token): 숫자가 여러 조각 (예: 1, 2, 3) 으로 나뉘어 입력되면, 모델은 각 자리수에서 '올림 (Carry)'을 처리해야 하므로 강제적으로 나눗셈 규칙을 배웁니다. (진짜 이해 획득)
- 싱글 토큰 (Single-token): 숫자가 한 덩어리로 입력되면, 모델은 나눗셈 규칙 없이도 문제를 풀 수 있는 다른 방법을 찾습니다. 이때는 모델마다 결과가 제각각이 되어, 어떤 모델은 규칙을 배우고 어떤 모델은 배우지 못합니다.

3. 요약: 우리가 무엇을 배웠나?

이 연구는 AI 를 볼 때 **"겉모습 (리듬/패턴) 만 보고 능력을 판단하면 안 된다"**는 교훈을 줍니다.

겉모습 (Fourier Spikes): 거의 모든 AI 가 숫자에서 같은 리듬을 보입니다. 이는 데이터의 통계적 특성 때문일 뿐, 진짜 지능이 아닐 수 있습니다.
실제 능력 (Geometric Separability): 숫자를 실제로 계산하고 분류할 수 있는지는 데이터의 종류, 모델의 구조 (아키텍처), 학습 방법이 얼마나 잘 맞느냐에 달려 있습니다.

한 줄 요약:

"모든 AI 가 숫자를 볼 때 같은 '박자'를 치지만, 그 박자에 맞춰 '춤 (계산)'을 잘 추는지는 모델이 어떤 환경에서 어떻게 훈련받았는지에 따라 천차만별이다."

이 발견은 우리가 AI 가 무엇을 '진짜'로 이해하고 있는지, 아니면 단순히 통계적 패턴만 흉내 내고 있는지 구별하는 중요한 기준을 제시합니다.

1. 연구 문제 (Problem)

기존 연구 (Zhou et al., 2024 등) 에 따르면 Transformer 기반 언어 모델은 정수 토큰 임베딩에서 주기적인 특징 (Fourier 스파이크) 을 학습하며, 특히 주기 $T=2, 5, 10$ 에서 뚜렷한 피크를 보입니다. 이는 모델이 숫자의 모듈러 산술 (modular arithmetic) 구조를 학습했음을 시사합니다.

그러나 본 논문은 다음과 같은 핵심 의문을 제기합니다:

Fourier 스파이크의 보편성 vs 기능성: Fourier 스파이크가 존재한다고 해서 모델이 실제로 숫자의 모듈러 구조를 선형적으로 분류할 수 있는 기능적 표현을 학습했는지는 불분명합니다.
아키텍처 간 차이: Transformer, LSTM, 선형 RNN 등 다양한 아키텍처가 모두 Fourier 스파이크를 보이지만, 실제 모듈러 분류 (probing) 성능은 아키텍처에 따라 극단적으로 다릅니다.
원인 규명: 어떤 요인 (데이터, 아키텍처, 옵티마이저, 토크나이저) 이 Fourier 스파이크의 존재를 결정하고, 어떤 요인이 기능적인 기하학적 구조 (선형 분리 가능성) 를 결정하는지 규명해야 합니다.

2. 방법론 (Methodology)

저자들은 3 억 파라미터 규모의 모델을 다양한 조건에서 학습시키고, 숫자 임베딩의 특성을 분석하기 위해 다음 방법들을 사용했습니다.

데이터 및 설정: FineWeb-Edu 데이터셋 (10B 토큰) 을 사용하며, Llama-3 토크나이저를 통해 0~999 까지의 숫자를 단일 토큰으로 매핑합니다 ( $N=1000$ ).
측정 지표:
1. Fourier 스펙트럼: 토큰 인덱스 방향으로 이산 푸리에 변환 (DFT) 을 수행하여 주기 $T$ 에서의 전력 (power) 을 측정합니다.
2. 선형 프로빙 (Linear Probing): 임베딩에서 $n \pmod T$ 를 예측하는 선형 분류기 (로지스틱 회귀) 를 훈련하여 Cohen's $\kappa$ 점수를 계산합니다.
이론적 분석 (Theorem 1): Fourier 스파이크의 존재 ( $\Phi_T > 0$ ) 가 선형 분리 가능성의 필요조건이지만 충분조건이 아님을 수학적으로 증명합니다. 이는 클래스 간 분산 ( $S_B$ ) 과 클래스 내 분산 ( $S_W$ ) 의 관계, 특히 $S_W$ 의 조건수 (condition number) 가 분리 가능성에 결정적임을 보여줍니다.
통제된 실험 (Controlled Experiments):
- 데이터 교란 (Data Perturbation): 문맥 길이, 숫자 간 상호작용, 텍스트 - 숫자 공출현 (co-occurrence) 등을 제거하거나 변형하여 데이터 신호의 영향을 분석합니다.
- 아키텍처 비교: Transformer, Gated DeltaNet, Mamba-2, LSTM 등을 동일한 데이터로 학습시켜 비교합니다.
- 옵티마이저 비교: AdamW 와 Muon 옵티마이저를 비교합니다.
- 산술 작업 학습: 일반 언어 학습과 달리, 덧셈 (Addition) 작업만을 학습시키는 실험을 통해 토크나이저 (단일 토큰 vs 멀티 토큰) 의 영향을 분석합니다.

3. 주요 기여 및 결과 (Key Contributions & Results)

A. 두 단계의 수렴 계층 (Two-tiered Hierarchy)

논문은 숫자 표현 학습을 두 단계로 구분합니다:

스펙트ral 수렴 (Spectral Convergence): Fourier 스파이크 ( $T=2, 5, 10$ ) 의 존재. 이는 거의 모든 시스템 (Transformer, LSTM, 고전적 Word Embedding, 심지어 원시 토큰 빈도 분포) 에서 관찰되는 보편적 현상입니다.
기하학적 수렴 (Geometric Convergence): 임베딩 공간에서 $n \pmod T$ 클래스가 선형적으로 분리 가능한 구조. 이는 데이터, 아키텍처, 옵티마이저가 특정 조건을 만족할 때만 발생하는 선택적 현상입니다.

B. Fourier 스파이크는 충분조건이 아님 (Theorem 1 & Empirical Evidence)

이론적 증명: Fourier 스파이크가 크더라도 클래스 내 분산 ( $S_W$ ) 이 방향에 따라 비등방성 (anisotropic) 이거나 노이즈가 크면, 선형 분류기는 무작위 추측 수준 (Chance level) 의 성능만 냅니다.
실증 결과: LSTM 은 Transformer 보다 더 큰 Fourier 스파이크를 보이지만, 모듈러 프로빙 성능은 무작위 수준에 머무릅니다. 반면 Transformer 와 Gated DeltaNet 은 높은 프로빙 성능을 보입니다.

C. 기하학적 수렴의 결정 요인

기하학적 수렴 (기능적 구조 학습) 은 다음 세 가지 요소의 정렬에 의해 결정됩니다:

데이터 신호 (Data Signals):
- 텍스트 - 숫자 공출현 (Text-Number Co-occurrence): 숫자가 주변 텍스트와 어떻게 연결되는지가 중요합니다.
- 숫자 간 상호작용 (Cross-Number Interaction): 한 시퀀스 내에서 여러 숫자가 함께 등장하는 경우 (예: "10 + 20 = 30") 학습이 촉진됩니다.
- 문맥 길이 (Context Length): 긴 문맥은 더 풍부한 공출현 통계를 제공하여 성능을 향상시킵니다.
- Unigram Replace 실험 (숫자 토큰을 무작위로 치환) 은 Fourier 스파이크는 유지되지만 기하학적 수렴은 완전히 붕괴됨을 보여줍니다.
아키텍처 (Architecture):
- Transformer, Gated DeltaNet, Mamba-2 는 강력한 기하학적 수렴을 보입니다.
- LSTM 은 동일한 데이터에서도 기하학적 수렴에 실패합니다. 이는 용량 (Capacity) 문제가 아니라 아키텍처의 구조적 한계로 판단됩니다.
옵티마이저 (Optimizer):
- Transformer 의 경우 Muon 옵티마이저가 AdamW 보다 성능이 좋습니다.
- Mamba-2 의 경우 AdamW 가 Muon 보다 약간 더 좋은 성능을 보일 수 있어, 옵티마이저의 효과는 아키텍처에 의존적입니다.

D. 산술 작업 학습에서의 수렴 (Convergent Evolution in Arithmetic)

멀티 토큰 덧셈 (9-digit Addition): 각 자리수가 별도의 토큰으로 처리될 때, 모델은 캐리 (carry) 전파를 통해 모듈러 하위 문제 ($mod 1000$) 를 해결해야 합니다. 이 경우 옵티마이저와 무관하게 스펙트ral 및 기하학적 수렴이 모두 발생합니다.
단일 토큰 덧셈 (3-digit Addition): 모든 숫자가 단일 토큰으로 처리되면 모듈러 제약이 사라집니다. 이 경우 학습된 표현은 옵티마이저와 시드 (seed) 에 따라 무작위적으로 변하며, 수렴이 발생하지 않거나 Grokking 현상만 관찰됩니다.

4. 의의 및 결론 (Significance & Conclusion)

수렴 진화 (Convergent Evolution) 의 발견: 서로 다른 아키텍처와 학습 신호 (자연어 vs 산술) 를 가진 시스템들이 동일한 제약 조건 (토크나이저, 데이터 분포) 하에서 유사한 Fourier 특징을 학습한다는 점을 "수렴 진화"로 설명합니다.
표현 진단의 한계 경고: 단순히 Fourier 스펙트럼이나 시각적 패턴을 관찰하는 것만으로는 모델이 실제 기능적 구조 (예: 모듈러 산술) 를 학습했는지 판단할 수 없습니다. **기하학적 분리 가능성 (Geometric Separability)**을 확인하는 프로빙이 필수적입니다.
데이터와 아키텍처의 중요성: 모델이 숫자의 구조를 이해하려면 단순한 빈도 통계가 아니라, 데이터 내의 상호작용 신호와 이를 처리할 수 있는 아키텍처 (Transformer 등) 가 결합되어야 합니다.
일반화: 이 연구는 숫자 표현뿐만 아니라 요일, 월 등 다른 주기적 개념 (Cyclical Concepts) 에 대한 모델의 학습 메커니즘을 이해하는 데도 중요한 프레임워크를 제공합니다.

요약하자면, 이 논문은 언어 모델이 숫자를 어떻게 "이해"하는지에 대한 메커니즘을 해부하며, 표면적인 주기성 (Fourier 스파이크) 과 기능적인 구조 (선형 분리성) 는 별개의 현상이며, 후자의 학습은 데이터의 구조적 상호작용과 아키텍처의 적합성에 크게 의존함을 증명했습니다.