📊 statistics

Algebraic Representability as the Limiting Regime of Grokking: An Exactly Solvable Model with Holomorphic Activations

이 논문은 모듈로 산술 연산으로 학습된 홀로모픽 단항식 활성화 함수를 가진 2층 신경망에서, 표현 가능한 함수 클래스가 유한 차원의 대수적 다양체로 붕괴하며, 이로 인해 네트워크가 즉각적인 일반화 또는 확실한 학습 실패라는 이진적 결과를 나타내어 용량-그로킹 관계가 한계 영역에 도달함에 따라 그로킹 현상을 완전히 제거한다는 것을 입증한다.

원저자: Chon-Fai Kam, Xavier Cadet, Miloud Bessafi, Frederic Cadet

게시일 2026-07-16

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Chon-Fai Kam, Xavier Cadet, Miloud Bessafi, Frederic Cadet

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 로봇에게 수학 퍼즐을 푸는 법을 가르치고 있다고 상상해 보세요. 보통 우리는 이런 로봇(이를 신경망이라고 부릅니다)을 훈련시킬 때, 연습을 많이 할수록 더 잘하게 될 것이라고 기대합니다. 하지만 가끔 아주 이상한 일이 일어납니다. 로봇이 정답을 완벽하게 암기하여 숙제에서 만점을 받지만, 정작 비슷하지만 새로운 문제를 주면 처참하게 실패하는 것입니다. 로봇은 수천 단계 동안 '암기 모드'에 갇혀 머물러 있습니다. 그러다 어느 순간, 아무런 예고 없이 새로운 모드로 급격히 전환되며 새로운 문제들을 올바르게 풀기 시작합니다. 이 기묘하고 지연된 각성을 '그로킹(grokking)'이라고 부릅니다. 이는 마치 시험 공부를 위해 벼락치기를 해서 시험은 잘 봤지만, 다음 날 모든 것을 잊어버렸다가 일주일 뒤에 갑자기 개념을 깨우친 학생과 같습니다.

과학자들은 왜 이런 지연이 발생하는지 알아내기 위해 노력해 왔습니다. 그들은 로봇의 뇌 크기(용량)가 중요하다는 것을 알고 있습니다. 뇌가 너무 작으면 영영 배우지 못할 수도 있습니다. 뇌가 매우 크다면 즉시 배울 것입니다. 그렇다면 그 중간 단계에서는 어떤 일이 벌어질까요? 뇌가 커질수록 지연 시간이 짧아질까요? 아니면 로봇의 뇌가 너무 기이하게 설계되어 있어서, 아무리 오래 기다려도 결코 정답을 배울 수 없는 지점이 존재할까요? 이 논문은 수학적으로 완벽한 특수 로봇을 구축하여, 학습의 규칙이 극한까지 밀려났을 때 어떤 일이 발생하는지 탐구함으로써 이 질문에 답합니다.

하나의 열쇠로 모든 것을 해결하는 뇌를 가진 로봇

이 논문의 저자들은 추측하는 대신 직접 구축하기로 했습니다. 일반적이고 복잡한 로로봇의 뇌를 사용하는 대신, 그들은 매우 엄격한 규칙을 가진 특수한 종류의 네트워크를 만들었습니다. 이 로봇은 오직 '홀로모픽 모노미얼(holomorphic monomial)'이라 불리는 특정 유형의 수학적 패턴으로만 생각할 수 있습니다.

이 로봇의 뇌를 매우 구체적인 열쇠 세트를 가진 열쇠공이라고 생각해 보세요.

표준 로봇 (보편적 근사 도구): 대부분의 AI 모델은 거대한 공구 상자를 가진 열쇠공과 같습니다. 어떤 자물쇠를 주더라도, 충분한 시간과 도구가 있다면 결국 따낼 수 있습니다. 정답을 찾는 데 시간이 오래 걸릴 수는 있지만(암기), 결국에는 해냅니다(일반화).
이 논문의 로봇: 이 로봇은 단 하나의 특정한 열쇠 모양만을 가지고 있습니다. 오직 그 모양과 일치하는 자물쇠만 열 수 있습니다. 만약 그 모양과 맞지 않는 자물쇠를 준다면, 단순히 여는 데 시간이 오래 걸리는 것이 아니라, 결코 열 수 없습니다. 이것은 "연습이 부족한 것"의 문제가 아니라 "도구가 잘못된 것"의 문제입니다.

연구진은 이 로봇을 모듈로 산술 작업(숫자가 시계처럼 순환하는 수학 문제)에 테스트했습니다. 그들은 물었습니다. 만약 로봇의 뇌가 정답을 표현할 수 없을 정도로 제한적이라면, 여전히 '그로킹'을 할 수 있을까?

거대한 발견: "전부 아니면 전무(All-or-Nothing)" 스위치

그들이 찾아낸 답은 놀라울 정도로 단순하고 이분법적이었습니다. 중간 지점도, 느린 지연도, 그로킹도 없었습니다.

"예"의 경우: 로봇에게 주어진 수학 문제가 우연히 로봇이 가진 열쇠의 특정 모양과 일치한다면, 로봇은 즉시 문제를 해결합니다. 훈련 데이터와 새로운 데이터를 동시에 학습합니다. 기다리는 기간은 없습니다. 마치 열쇠공에게 그가 태어날 때부터 가졌던 바로 그 열쇠를 건네준 것처럼, 문은 즉시 열립니다.
"아니오"의 경우: 문제가 열쇠의 모양과 일치하지 않으면, 로봇은 완전히 실패합니다. 정답을 암기하지도 못하고, 루프에 빠지지도 않습니다. 그저 무작위로 추측하는 수준에 영원히 머물러 있습니다. 훈련 손실(정답에서 얼마나 벗어났는지 나타내는 척도)은 하한선에 부딪혀 더 이상 낮아지지 않으며, 로봇의 뇌를 아무리 넓히거나 오랫동안 훈련시켜도 변화가 없습니다.

저자들은 이를 수학적으로 증명했습니다. 그들은 이 특정 유형의 로봇에게 있어 해결 가능한 문제의 집합은 전체 가능한 문제 중 아주 작은 고정된 조각임을 보여주었습니다. 만약 당신의 문제가 그 조각 안에 없다면, 로봇은 수학적으로 데이터를 맞추는 것이 불가능합니다. 이것은 최적화의 문제가 아니라 구조적인 불가능성입니다.

실험: 585번의 진실 검증

이것이 단지 이론이 아님을 증명하기 위해, 팀은 585번의 실험을 수행했습니다. 그들은 5가지의 서로 다른 '열쇠 모양'(활성화 차수)과 39가지의 서로 다른 수학 문제를 사용하여 로봇을 테스트했습니다.

결과: 로봇의 행동은 수학적 예측과 99.8%의 정확도로 일치했습니다.
패턴: 결과는 완벽한 '계단형'을 형성했습니다. 문제의 숫자들이 올바른 합계를 이루면 로봇은 즉시 성공했습니다. 그렇지 않으면 즉시 실패했습니다.
사라진 중간 지대: 585번의 실행 중, '그로킹'(지연된 성공) 사례도, '일반화 없는 암기'(숙제는 맞혔지만 시험은 틀리는 현상) 사례도 단 한 건도 없었습니다. 로봇은 즉시 승리하거나 즉시 패배했습니다.

비교: "일반적인" 로봇

이것이 단지 특수 로봇만의 기이한 특징이 아님을 확인하기 위해, 연구진은 동일한 테스트를 표준적인 "일

일반적인 로봇: 이 로봇은 모든 문제를 풀 수 있었습니다. 모든 것을 암기했습니다. 하지만 어려운 문제의 경우, 전형적인 그로킹 행동을 보였습니다. 즉, 훈련 세트를 암기한 후 수천 단계를 머물러 있다가 갑자기 일반화에 성공했습니다.
대조: 특수 로봇을 완전히 실패하게 만든 문제들은 일반적인 로봇이 그로킹을 일으켰던 문제들과 정확히 일치했습니다. 이는 그로킹의 '지연'이 단순히 문제가 어렵기 때문이 아니라, 로봇의 뇌가 거의 충분하지만 아주 조금 모자란 상태일 때 발생한다는 것을 증명합니다. 특수 로봇은 뇌가 너무 작아서 경주를 시작조차 할 수 없을 때 어떤 일이 벌어지는지를 보여주었습니다.

"병목(Bottleneck)" 테스트: 간극 메우기

연구진은 "즉각적인 실패"와 "즉각적인 성공" 사이의 매끄러운 경로가 있는지 알고 싶었습니다. 그들은 일반적인 로봇을 가져와 뇌를 "병목"을 통해 점점 더 좁게 압착했습니다.

넓은 병목: 로봇은 그로킹을 합니다 (지연된 성공).
중간 병로: 로봇은 암기는 하지만 결코 일반화하지 못합니다 (정체됨).
작은 병목: 로봇은 암기조차 하지 못합니다 (즉각적 실패).

이 실험은 점들을 연결해 주었습니다. 이는 특수 로봇의 "즉각적 실패" 영역이 그로킹이 발생하는 동일한 스펙트럼의 극단적인 끝단임을 보여주었습니다. 로봇의 용량을 줄일수록 지연 시간은 점점 길어지다가, 마침 Finally, 로봇이 데이터를 암기하는 것조차 불가능해지면 지연 시간은 무한대가 됩니다.

열쇠를 배울 수 있다면?

누군가는 이렇게 물을 수 있습니다. "만약 로봇이 자신의 열쇠를 스스로 배울 수 있다면 어떨까?" 저자들은 로봇에게 고정된 "단위근(roots of unity)" 인코딩을 주는 대신, 로봇이 자신의 입력 인코딩을 학습하도록 하여 이를 테스트했습니다.

결과: 즉각적 성공과 실패의 "계단"이 사라졌습니다. 이제 로봇은 거의 모든 선형 문제를 즉시 풀 수 있었습니다.
예외: 로봇이 풀 수 없는 문제가 하나 남아 있었습니다: 바로 곱셈 작업( $a \times b$ )입니다. 학습된 뇌를 가지고 있더라도, 로봇의 구조는 곱셈의 복잡성을 포착하기에는 너무 단순했습니다. 이는 실패가 단순히 로봇에게 입력된 특정 수학의 문제가 아니라, 로봇의 구조적 한계였음을 확인시켜 주었습니다.

시사점

이 논문은 AI 훈련에 대한 근본적인 진실을 드러냅니다. 그로킹은 암기와 일반화 사이의 경주입니다. 하지만 이 경주가 일어나려면, 주자가 먼저 신발 끈을 묶을 수 있어야 합니다.

만약 신경망의 뇌가 너무 작거나 경직되어 정답을 표현할 수 없다면(즉, "신발 끈을 묶을 수 없다면"), 경주는 시작조차 되지 않습니다. 지연도, 고통도, 갑작스러운 깨달음도 없습니다. 오직 단호한 멈춤만이 있을 뿐입니다. "언제 그로킹할 것인가?"라는 질문은 "그것이 정답을 표현할 능력이 있는가?"라는 더 근본적이고 원초적인 질문으로 변합니다.

저자들은 네트워크를 수학적 한계까지 밀어붙였을 때, 그로킹이라는 혼란스럽고 복잡한 행동이 사라지고, 명확하고 이분법적인 현실—수학이 맞으면 즉시 승리하고, 아니면 즉시 패배한다—이 나타난다는 것을 보여주었습니다. 이는 우리가 AI가 어떻게 배우는지 논하기 전에, 우리가 요구하는 것을 배울 수 있는 능력이 실제로 있는지 먼저 확인해야 한다는 점을 상기시켜 줍니다.

기술 요약: 그로킹(Grokking)의 극한 영역으로서의 대수적 표현 가능성

문제 정의
모듈러 산술 과업에서 신경망이 암기(memorization)에서 일반화(generalization)로 전환되는 데 상당한 지연이 발생하는 현상인 "그로킹"에 관한 최근 문헌들은 모델의 용량(capacity)이 이 전환 시기를 결정한다는 점을 확립했다. 그러나 기존 프레임워크(예: Song and Ye 2026)는 네트워크가 결국 훈련 데이터를 암기할 수 있을 만큼 충분히 크다는 것을 가정한다. 본 논문은 네트워크가 표현할 수 있는 함수 클래스가 너무 제한적이어서 이론적으로 타겟 함수를 아예 표현할 수조차 없는 극한 영역을 조사한다. 핵심 질문은 다음과 같다: 네트워크의 용량이 단순히 학습 속도가 느린 것이 아니라, 구조적으로 훈련 세트를 적합(fit)시키기에 불충분할 때, 암기와 일반화의 역학 관계는 어떻게 변하는가?

연구 방법론
저자들은 구체적이고 정확하게 풀 수 있는 아키텍처인, 홀로모픽 단항식 활성화 함수 $\sigma(z) = z^k$ 를 사용하는 2층 복소수 신경망을 연구한다. 이 네트워크는 모듈러 산술 과업 $f: \mathbb{Z}_p \times \mathbb{Z}_p \to \mathbb{Z}_p$ ( $p$ 는 소수)에 대해 훈련되며, 입력 $(a, b)$ 는 $(\omega^a, \omega^b)$ 로 매핑되는 단위근 인코딩( $\omega = e^{2\pi i/p}$ )을 사용한다.

주요 방법론적 선택 사항은 다음과 같다:

대수적 트랙터빌리티(Algebraic Tractability): $\sigma(z) = z^k$ 의 선택은 네트워크 출력이 차수가 $k$ 인 다항식이 되도록 보장한다. 단위근 인코딩 상에서, 이는 네트워크의 출력을 군 $(\mathbb{Z}_p)^2$ 의 캐릭터(character)들의 특정 부분 공간으로 제한한다.
푸리에 분석: 저자들은 유한 가환군(finite abelian groups) 상의 조화 해석을 활용하여 "표현 가능한 클래스" $\mathcal{F}_k$ 를 규명한다. 은닉 폭(hidden width) $H$ 에 관계없이, 네트워크 출력은 $0 \le \ell \le k$ 인 주파수 레이블 $(\ell, k-\ell)$ 을 가진 캐릭터들에 의해 생성되는 $(k+1)$ 차원 부분 공간에 갇혀 있음을 증명한다.
이론적 경계값: 비표현 대상(non-representable targets)에 대한 훈련 손실(training loss)의 하한을 도출하여, 손실이 은닉 폭과 무관하게 엄격하게 양수임을 증 proves한다.
실험적 검증: 이 이론은 39개의 과업(35개 선형 위상, 4개 비선형 위상)과 5개의 활성화 차수( $k=2$ ~ $6$)를 포함하는 585회의 실험 실행을 통해 테스트된다.
비교 절제 실험(Comparative Ablations): 범용 근사기(universal approximator)인 ReLU 베이스라인과, ReLU 네트워크에 "병목(bottleneck)" 절제를 적용하여 표현 실패에서 그로킹으로의 전이를 추적한다.

핵심 기여

표현 가능성에 대한 정확한 대수적 규명:
본 논문은 어떤 모듈러 과업이 표현 가능한 클래스 $\mathcal{F}_k$ 내에 존재하는지를 완벽하게 규명한다.
- 선형 위상 대상 ( $f(a,b) = ma + nb \mod p$ ): 과업이 표현 가능하려면 $m + n = k$ 여야 한다(단, $m+n \le k$ 가정). 이 조건이 충족되지 않으면, 타겟은 전체 표현 부분 공간과 직교한다.
- 비선형 위상 대상 (예: $ab$, $a^2+b^2$ ): 이러한 과업은 대각선 $u+v \equiv k \pmod p$ 를 넘어 확장되는 푸리에 지지(Fourier support)를 갖는다. 본 논문은 이들이 임의의 유한한 $k < p$ 에 대해 표현 불가능함을 증명한다.
- 인코딩 독립성: Proposition 1을 통해, 저자들은 학습된 임베딩을 사용하더라도 타겟 행렬의 랭크(rank)에 의해 과업의 표현 가능성이 제약됨을 보여준다. 즉, 과업 $ab$(전체 랭크를 갖는 DFT 행렬에 대응)는 입력 인코딩과 관계없이 $k < p-1$ 인 모든 경우에 표현 불가능하다.
"암기 없음(No Memorization)" 영역:
저자들은 비표현 대상의 경우 네트워크가 훈련 세트를 암기할 수 없음을 증명한다. 출력이 타겟을 포함하지 않는 대수적으로 제한된 부분 공간 내에 갇혀 있기 때문에, 훈련 손실은 양수의 상수(스펙트럼 갭)보다 낮아질 수 없다. 결과적으로, 암기 단계도, 그로킹 지연도, 점진적인 개선도 발생하지 않으며, 네트워크는 단순히 데이터를 적합시키는 데 실패하여 찬스 수준(chance-level)의 정확도에 머물게 된다.
이진 결과의 실험적 검증:
585회의 실행 결과, 대수적 예측은 99.8%의 정확도로 관찰된 결과와 일치했다. 결과는 엄격하게 이진적이었다:
- 표현 가능한 과업: 거의 즉각적으로 학습되었으며(INST: Instant Generalization), 훈련 정확도와 테스트 정확도 사이의 간극이 없었다.
- 비표현 과업: 완전한 실패(FAIL)를 보였으며, 훈련 정확도는 찬스 수준에 고착되었다.
- 홀로모픽 네트워크에서는 그로킹이나 암기 후 일반화 현상이 단 한 건도 발생하지 않았다.
용량 스펙트럼과의 연결:
본 논문은 "언제 네트워크가 그rok할 것인가"라는 질문이 "표현 가능성"이라는 일차적 조건을 전제로 하는 이차적인 질문임을 밝힌다.
- ReLU 베이스라인: 표준 ReLU 네트워크는 모든 과업을 암기하며, 어려운 비선형 과업에서 과업 복잡도에 따라 지연이 발생하는 그로킹을 보여준다.
- 병목 절제 실험: 선형 병목을 통해 ReLU 네트워크를 압축함으로써, 저자들은 FAIL(병목이 데이터를 적합시키기에 너무 좁을 때)에서 MEM(암기 후 일반화 실패)을 거쳐, GROK(용량이 증가함에 따라 간극이 줄어듦)으로 이어지는 연속적인 경로를 추적한다. 이는 홀로믹 모델에서 관찰된 "FAIL" 영역이 용량-그로킹 스펙트럼의 구조적 한계임을 입증한다.

의의 및 주장
본 논문은 "네트워크가 언제 그rok할 것인가"라는 질문은 표현 가능성이라는 일차적 조건을 전제로 하는 부차적인 질문이라고 주장한다.

극한 영역: 홀로믹 네트워크는 표현 가능한 클래스가 고정된 대수적 객체로 붕괴되는 극한 사례를 나타낸다. 이 영역에서는 암기와 일반화 속도 사이의 경쟁(그로킹의 메커니즘)이 시작조차 되지 않는데, 왜냐하면 암기 단계 자체가 구조적으로 불가능하기 때문이다.
최적화 vs 구조적 제약: 결과는 표준 네트워크에서 그로킹 지연을 일으키는 최적화의 어려움과, 제한된 네트워크에서 발생하는 표현 불가능성(representational impossibility)을 구분한다.
방해 요소의 보편성: 과업 $ab$의 실패는 고정된 단위근 인코딩의 산물이 아니라, 아키텍처의 랭크 제약에 의한 본질적인 특성임을 보여준다.

저자들은 본 연구가 그로킹의 역학이 표현 가능성이라는 이진 질문으로 해소되는 영역을 정의한다고 결론짓는다. 구체적인 대수적 결과는 이 홀로모픽 설정에 적용되지만, 병목 실험은 FAIL $\to$ MEM $\to$ GROK의 3단계 구조가 용량 스펙트럼의 일반적인 특징임을 보여준다. 즉, 홀로믹 모델은 이 스펙트럼의 "FAIL" 끝단에 대한 엄밀하고 분석적으로 풀 수 있는 경계 조건을 제공한다.