기술 요약: 언어 모델은 산술의 상징적 학습자이다

문제 정의

대규모 언어 모델(LM)이 산술을 수행하는지에 대한 지배적인 논쟁은, 이 모델들이 진정한 알고리즘을 계산하는 법을 배우는 것인지 아니면 단순히 표면적인 패턴 매칭을 숙달하는 것인지에 집중되어 있다. 최첨단 모델들이 GSM8K와 같은 벤치마크에서 포화 상태에 도달했음에도 불구하고, 이들이 진정한 수치적 추론 능력을 갖추고 있는지, 아니면 그들의 성공이 훈련 데이터의 통계적 패턴으로부터 짜인 "정교한 환상"에 불과한지는 여전히 불분명하다. 본 논문은 후자의 입장을 취하며, 언어 모델이 곱셈의 추상적 알고리즘을 학습하기보다는 데이터셋의 통계를 맞추기 위해 가능한 가장 단순한 지름길을 우선시하는 "탐욕적 상징 학습자(greedy symbolic learners)"라고 주장한다.

방법론: 하위 그룹 귀납 (Subgroup Induction)

이 가설을 조사하기 위해 저자들은 **솔로모노프 귀납(Solomonoff Induction, SI)**에서 채택한 실용적인 프레임워크인 하위 그룹 귀납을 도입한다. SI는 계산 가능성과 베이지안 원칙을 결합하여 콜모고로프 복잡도(Kolmogorov complexity)를 통해 더 단순한 가설을 선호하는 최적 예측을 위한 이론적 프레임워크이다.

저자들은 산술 학습이라는 구체적인 설정에 SI의 원칙을 적용하여, **하위 그룹(subgroup)**을 분석의 기본 단위로 정의한다. 하위 그룹 $s$는 입력 숫자들($A, B$)의 부분 집합에서 단일 출력 숫자($C$)로 가는 최소 매핑이다. 이 프레임워크는 산술 문제를 이러한 하위 그룹들로 분해함으로써 언어 모델이 활용하는 "지름길"을 식별한다.

지름길의 복잡도를 측정하기 위해 두 가지 상호 보완적인 메트릭이 제안된다:

1. 하위 그룹 품질 ($Q(s)$): 특정 입력 토큰 집합만을 사용하여 출력 숫자를 예측하는 정확도를 계산함으로써(다른 토큰들을 0으로 마스킹함) 지름길의 생존 가능성을 측정한다. 높은 $Q(s)$는 신뢰할 수 있는 저토큰(low-token) 지름길임을 나타낸다.
2. 하위 그룹 엔트로피 ($H(s)$): 하위 그룹의 레이블 공간 내에서 출력 레이블의 내재적 모호성이나 가변성을 측정한다. 이는 오류 추정과 추론 경로를 분석하기 위한 계산 효율적인 도구 역할을 한다.

저자들은 LM의 입력 토큰 선택을 가설 선택 과정으로 간데본다. 이들은 LM이 고품질의 저토큰 지름길을 먼저 학습하고, 학습 목표에 의해 강제될 때만 점진적으로 더 복렴한 다중 토큰 패턴을 통합하는 "토큰 예산 트리(token-budget tree)" 탐색을 따른다고 가설을 세운다.

주요 결과

1. U자형 정확도 패턴

Gemma-2-2B 및 Llama-3.1-8B를 사용한 다자릿수 곱셈(3~5자리) 실험은 뚜렷한 U자형 정확도 곡선을 드러낸다.

• 관찰: 모델은 첫 번째(가장 유의미한) 숫자와 마지막(가장 덜 유의미한) 숫자를 빠르게 숙달하여 95% 이상의 정확도를 달성한다. 반대로, 시퀀스의 중간 숫자들에 대한 정확도는 급격히 떨어져 약 10%에 머문다.
• 상관관계: 이 U자형 패턴은 우연이 아니며, 가장 단순한 하위 그룹들의 **하위 그룹 품질 ($Q(s)$)**을 완벽하게 반영한다.
  • 양 끝(Edges): 가장 덜 유의미한 숫자는 마지막 입력 숫자들에 의존하며(예: $A_2 \times B_2$), 가장 유의미한 숫자는 선행 숫자를 이용한 크기 추정에 의해 제약된다. 이들은 적은 토큰($k$)을 필요로 하며 높은 $Q(s)$를 가진다.
  • 중간(Middle): 중간 숫자들은 많은 입력 숫자들로부터 교차 항(cross-terms)과 올림(carry) 연산을 통합해야 한다. 이 위치를 위한 저토큰 하위 그룹은 낮은 $Q(s)$를 가지며, 이로 인해 모델은 훈련 과정에서 더 많은 토큰을 사용하는 더 복잡한 매핑을 나중에 학습하도록 강제된다.

2. 트리 탐색으로서의 학습 역학

저자들은 훈련 역학을 "토큰 예산 트리"를 향한 탐색으로 해석한다.

• 단계 1: 모델은 최소한의 토큰을 사용하여 트리의 "쉬운" 잎(양 끝 숫자)을 빠르게 맞춘다.
• 단계 2-n: 잔여 오류가 지속됨에 따라, 그래디언트는 모호성을 해결하기 위해 더 큰 하위 그룹(더 많은 토큰)을 포함하도록 모델을 유도한다.
• 결론: LM은 곱셈의 알고리즘 전체를 학습하는 것이 아니라, 가장 저항이 적은 경로부터 시작하여 일련의 심볼 대 심볼(symbol-to-symbol) 매핑 계층을 학습한다.

3. 하위 그룹 엔트로피와 사고 사슬 (Chain-of-Thought, CoT)

본 논문은 이 프레임워크를 사고 사슬(CoT) 추론으로 확장한다:

• 오류 추정: 하위 그룹 엔트로피($H(s)$)는 모델 성능과 강한 상관관계를 갖는다. 총 엔트로피가 낮은 작업(예: 더 작은 모듈러를 가진 모듈러 산술)은 더 높은 정확도를 보인다.
• CoT 최적화: CoT 설정에서 곱셈 문제를 단계별로 분해하는 것(예: 이집트 곱셈법 vs 표준 곱셈법)은 성능에 영향을 미친다. 연구 결과, 가장 낮은 총 하위 그룹 엔트로피를 가진 CoT 경로가 일관되게 최고의 정확도를 달로 달성함을 발견했다. 이는 LM이 가장 쉬운 일련의 상징적 지름길들로 구성된 추론 전략을 선호함을 시사한다.

주요 기여

1. 하위 그룹 귀납 프레임워크: 문제를 최소 입력-출력 매핑으로 분해함으로써 LM의 산술 학습 메커니즘을 분석하기 위해 솔로모노프 귀납에서 유도된 새로운 실용적 프레임워크를 제시하였다.
2. U자형 정확도의 발견: 다자릿수 곱셈에서 일관된 U자형 정확도 패턴을 식별하였으며, 이는 LM이 복잡한 중간 숫자 간의 상호 의존성을 어려워하는 반면 양 끝 숫자는 단순한 지름길을 통해 숙달한다는 경험적 증거를 제공한다.
3. 메커니즘 설명: U자형 패턴이 "토큰 예산" 계층 구조의 직접적인 결과임을 입증하였다. 즉, 모델은 복잡한 패턴을 학습하기 전에 저토큰, 고품질의 지름길을 우선시한다.
4. 메트릭으로서의 엔트로피: 오류 경계를 추정하고 CoT 설정에서 추론 경로의 복잡성을 평가하기 위한 계산 효율적인 도구인 하위 그룹 엔트로피를 도입하였다.

의의 및 주장

본 논문은 LM의 산술 숙달로 가는 길은 추상적 알고리즘의 발견이 아니라, **단순하고 계층적으로 학습된 상징적 지름길의 폭포(cascade)**로 이루어져 있다고 주장한다.

• 신뢰성에 대한 시사점: 이러한 발견은 LM이 진정한 수치적 추론을 발달시키는 것이 아니라, 단순한 지름길이 실패하는 분포 외(out-of-distribution) 시나리오(예: 복잡한 곱셈에서의 중간 숫자 계산)에 취약한 정교한 패턴 매칭 능력을 갖추고 있음을 시사한다.
• 이론적 가교: 이 연구는 이론적 보편 예측(솔로모노프 귀납)과 현대적 신경망 구조를 연결하여, LM이 무엇을 달성하는가뿐만 아니라 어떻게 학습하는지를 이해하는 렌즈를 제공한다.
• 실용적 유용성: 이 프레임워크는 학습 병목 현상을 진단하고, 중간 숫자에 필요한 토큰을 드러내도록 데이터를 큐레이션하거나, 상징적 복잡성을 최소화하는 CoT 경로를 설계하는 등의 훈련 전략을 최적화하기 위한 도구를 제공한다.

저자들은 LM을 탐욕적 상징 학습자로 이해하는 것이 신뢰할 수 있는 AI 추론을 개발하는 데 매우 중요하다고 결론짓는다. 이는 현재의 모델이 단순한 저토큰 매핑으로 분해할 수 없는 작업을 처리할 때 갖는 한계를 명확히 보여주기 때문이다.