🤖 AI

Form Follows Function: Recursive Stem Model

이 논문은 학습 중 히든 상태의 과거를 분리하고 최종 단계에서만 손실을 적용하며 확률적 심층 구조를 도입한 '재귀적 스템 모델 (RSM)'을 제안하여, 기존 재귀 모델 대비 20 배 이상 빠른 학습 속도와 5 배 낮은 오류율을 달성하면서도 추론 시 추가적인 '사고' 단계를 통해 정확도를 극대화할 수 있음을 보여줍니다.

원저자: Navid Hakimi

게시일 2026-03-18

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Navid Hakimi

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🧠 "Recursive Stem Model (RSM)": 작지만 똑똑한 '생각하는' 모델 이야기

이 논문은 **RSM(Recursive Stem Model)**이라는 새로운 인공지능 모델을 소개합니다. 기존에 복잡한 퍼즐이나 문제를 풀기 위해 거대한 뇌 (모델) 가 필요하다고 생각했는데, RSM 은 **"작은 뇌가 반복해서 생각하면 더 똑똑해질 수 있다"**는 아이디어를 증명합니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

1. 핵심 아이디어: "한 번에 해결하려 하지 말고, '생각'을 반복하자"

기존의 인공지능 (LLM 등) 은 문제를 받으면 한 번에 정답을 말하려고 합니다. 마치 시험지 앞에서 "아, 이거 답은 A 야!"라고 바로 외치는 것과 비슷하죠. 하지만 문제가 어렵다면 한 번에 틀릴 확률이 높습니다.

RSM 의 방식은 다릅니다.

비유: "한 번에 정답을 맞히려는 게 아니라, 초안 → 수정 → 다시 수정 → 최종 완성의 과정을 거치는 작가가 되는 것"

RSM 은 작은 네트워크 (작은 뇌) 를 가지고 있습니다. 하지만 이 작은 뇌가 문제를 풀 때, **한 번에 끝내지 않고 수천 번, 수만 번을 '생각' (반복 계산)**합니다. 처음엔 엉망인 답을 내놓지만, 매번 스스로를 다듬어 나갑니다.

2. RSM 의 비밀 무기 3 가지

이 모델이 왜 그렇게 잘 작동하는지, 세 가지 비유로 설명해 드릴게요.

① "훈련은 짧게, 실전은 길게" (Detached Warm-up)

기존 방식: 학생이 시험을 볼 때, 선생님이 "1 단계, 2 단계, 3 단계... 모든 과정이 다 맞아야 점수를 준다"고 가르칩니다. (Deep Supervision)
- 문제점: 학생이 중간 단계에 너무 집착해서, 전체적인 흐름을 망칠 수 있습니다.
RSM 의 방식: "중간 과정은 그냥 워밍업이야. 중요한 건 최종 답안이 맞는지야!"라고 가르칩니다.
- 비유: 요리사를 가르칠 때, "채를 썰고, 볶고, 간을 보는 모든 과정이 완벽해야 해"라고 매번 지적하는 대신, **"최종 요리가 맛있으면 OK!"**라고만 합니다.
- 효과: 모델은 중간 단계의 실수를 두려워하지 않고, 최종적으로 정답에 도달하는 '흐름'을 배우게 됩니다. 그래서 훈련 시간은 20 배 이상 빨라지고 정확도는 훨씬 높아집니다.

② "빠른 생각 (Z_L) 과 느린 기록 (Z_H)"

RSM 은 두 가지 '생각 모드'를 동시에 사용합니다.

Z_L (빠른 생각): "아, 이쪽도 가능하고 저쪽도 가능해!"라고 빠르게 아이디어를 쏟아내는 고양이 같은 상태입니다. (고에너지, 탐색)
Z_H (느린 기록): "자, 지금 나온 아이디어 중 가장 그럴듯한 걸 메모장에 적어보자."라고 조용히 정리하는 상태입니다. (저에너지, 안정화)
비유: **생각하는 사람 (Z_L)**과 **기록하는 사람 (Z_H)**이 팀을 이뤄,前者가 아이디어를 쏟아내고后者가 그것을 다듬어 최종 보고서로 만드는 과정입니다. 이 두 명이 번갈아 가며 일하면, 혼란스러운 생각도 차분한 정답으로 변합니다.

③ "생각할 시간을 늘려라" (Test-time Scaling)

기존 모델: 훈련할 때 10 번만 생각하게 가르쳤으면, 시험 때도 10 번만 생각할 수 있습니다.
RSM: 훈련할 때는 20 번만 생각하게 가르쳤지만, 시험 때는 20,000 번까지 생각할 수 있습니다.
- 비유: 훈련할 때는 "10 분간 문제를 풀어봐"라고 했지만, 실제 시험장에서는 "네가 원하면 10 시간 동안이나 고민해도 돼"라고 허용하는 것입니다.
- 결과: 아주 어려운 문제 (예: 30x30 미로, 난이도 최상위 스도쿠) 가 나오면, 모델이 더 많은 시간을 써서 스스로 정답을 찾아냅니다. 훈련 비용은 그대로인데, 성능은 폭발적으로 늘어납니다.

3. 왜 이 모델이 특별한가요? (생물학적 비유)

논문에서는 이 모델을 생물학에 비유하기도 합니다.

모든 세포는 같은 DNA 를 가졌지만, 위치에 따라 다른 일을 합니다.
- RSM 의 '작은 뇌'는 한 번만 학습됩니다 (같은 DNA). 하지만 이 뇌가 문제를 풀 때, 처음 1 단계와 100 번째 단계는 서로 다른 '상황 (맥락)'에 놓이게 됩니다.
- 마치 줄기세포가 처음엔 미분화되어 있다가, 시간이 지나고 주변 환경 (이전 단계의 결과) 에 따라 뇌세포가 되거나 피부세포가 되는 것처럼, RSM 도 반복될수록 더 성숙한 상태로 변합니다.
안정성 신호 (Convergence):
- RSM 이 정답을 찾으면, 더 이상 답이 변하지 않습니다 (고정점).
- 비유: "아, 이제 답이 더 이상 안 바뀌네? 그럼 이거 맞겠군!"이라고 스스로 판단할 수 있습니다. 반대로, 답이 계속 요동친다면 "아직 해결되지 않은 문제구나"라고 알 수 있어 허위 정보 (Hallucination) 를 막는 방패가 됩니다.

4. 요약: RSM 이 우리에게 주는 메시지

크기보다 '생각의 깊이'가 중요하다: 거대한 모델이 아니더라도, 작은 모델이 반복해서 생각하면 슈퍼컴퓨터 못지않은 퍼즐 해결 능력을 가질 수 있습니다.
훈련과 시험은 다르게: 훈련할 때는 가볍고 빠르게 가르치고, 실제 문제 해결 때는 시간과 에너지를 마음껏 쓸 수 있게 해주는 것이 핵심입니다.
스스로 멈추는 법을 배운다: 정답에 도달하면 스스로 멈추는 능력을 키워, 틀린 답을 계속 말하지 않게 됩니다.

한 줄 요약:

"RSM 은 작지만, '생각을 반복하는' 습관을 통해 아주 어려운 퍼즐도 스스로 해결하고, 정답을 찾으면 스스로 멈추는 똑똑한 인공지능입니다."

이 모델은 앞으로 복잡한 수학 문제, 코딩, 혹은 논리적 추론이 필요한 분야에서 적은 비용으로 높은 성능을 내는 새로운 표준이 될 것으로 기대됩니다.

1. 문제 정의 (Problem)

기존의 대규모 언어 모델 (LLM) 은 복잡한 추론 문제 (수도쿠, 미로 찾기 등) 를 해결하기 위해 체인 오브 씽킹 (Chain-of-Thought) 이나 테스트 시간 계산 (Test-time Compute) 전략을 사용하지만, 이는 단일 단계 예측에 의존하거나 외부적인 검색 과정에 의존하는 한계가 있습니다.

최근 **계층적 추론 모델 (HRM)**과 **작은 재귀 모델 (TRM)**과 같은 재귀적 모델은 작은 파라미터 수로도 복잡한 문제를 해결할 수 있음을 보였으나, 다음과 같은 훈련의 병목 현상이 존재했습니다:

깊은 감독 (Deep Supervision) 및 긴 언롤 (Long Unrolls): 중간 단계까지 손실을 계산하거나 긴 시퀀스를 역전파하는 방식은 훈련 비용을 급격히 증가시키고, 모델이 중간 단계에서 탐욕적 (Greedy) 인 행동을 학습하도록 유도하여 전체적인 수렴을 방해합니다.
훈련 - 추론 불일치: 훈련 시의 재귀 깊이와 추론 시의 깊이가 일치해야 하므로, 더 깊은 추론을 위해 훈련 비용을 다시 증가시켜야 하는 문제가 있었습니다.

2. 방법론 (Methodology)

저자들은 **재귀적 스템 모델 (Recursive Stem Model, RSM)**을 제안합니다. 이는 TRM 의 아키텍처를 유지하되, 훈련 계약 (Training Contract) 을 근본적으로 변경하여 안정적이고 깊이에 무관한 전이 연산자 (Transition Operator) 를 학습하도록 설계되었습니다.

핵심 아키텍처 및 메커니즘

이중 잠재 상태 (Dual Latent States):
- $z_L$ (Fast/Inner): 빠른 계산 상태. 내부적으로 가설을 탐색하고 변환하는 '작업 공간' 역할을 합니다.
- $z_H$ (Slow/Outer): 느린 안정화 상태. $z_L$ 에서 발견된 정보를 축적하고 안정화하여 다음 반복의 맥락이나 최종 출력으로 제공하는 '스크래치패드/답변' 역할을 합니다.
- 이 두 상태는 공유된 전이 연산자 $F_\theta$ 를 통해 반복적으로 업데이트됩니다.
훈련 전략의 혁신:
- 최종 단계 손실 (Terminal Loss) 및 전체 분리 (Full Detachment): 훈련 중에는 모든 중간 단계의 역전파를 차단합니다. 초기 단계들은 '워밍업 (Warm-up)'으로 간주되어 상태만 업데이트되고, 최종 단계에서만 손실 (Loss) 을 계산합니다. 이는 모델이 특정 깊이의 궤적을 외우는 것이 아니라, 임의의 초기 상태에서 시작해 올바른 고정점 (Fixed Point) 으로 수렴하는 안정된 전이 규칙을 학습하도록 유도합니다.
- 독립적인 깊이 성장 (Independent Depth Growth): 외부 재귀 깊이 ( $H$ ) 와 내부 계산 깊이 ( $L$ ) 를 훈련 과정에서 독립적으로 점진적으로 증가시킵니다. 이를 통해 훈련은 얕고 안정적으로 시작하되, 추론 시에는 훨씬 더 깊은 계산을 수행할 수 있습니다.
- 확률적 외부 전환 (Stochastic Outer Transition): $H$ 가 증가할 때 발생하는 훈련 불안정성을 완화하기 위해, 마지막 단계 직전의 전환 단계 ( $H-1$ ) 에 대해 그래디언트 흐름을 확률적으로 차단 (Stochastic Depth) 합니다.
추론 확장 (Test-time Scaling):
- 훈련 시의 최대 깊이 ( $H_{train}$ ) 와 무관하게 추론 시에는 임의의 깊이 ( $H_{test} \gg H_{train}$ ) 까지 반복을 수행할 수 있습니다. 이는 추가적인 '생각 (Thinking)' 시간을 할당하여 정확도를 높이는 것을 가능하게 합니다.

3. 주요 기여 (Key Contributions)

효율적인 훈련 계약 변경: 긴 언롤이나 깊은 감독 없이, 분리된 워밍업과 최종 손실만 사용하는 방식으로 훈련 시간을 20 배 이상 단축하면서도 정확도를 크게 향상시켰습니다.
테스트 시간 계산의 유연성: 훈련 깊이를 넘어선 임의의 재귀 깊이를 추론 시 적용할 수 있게 하여, 문제 난이도에 따라 계산 자원을 동적으로 할당하는 것을 가능하게 했습니다.
수렴 기반 신뢰성 신호: 모델이 해답에 도달하면 상태가 더 이상 변하지 않는 '고정점 (Fixed Point)'에 도달합니다. 이 수렴 행동은 모델이 해답을 찾았는지, 아니면 아직 불안정한 상태인지 판단하는 내재적인 신뢰성 지표 (Guard against hallucination) 로 활용될 수 있습니다.
생물학적/열역학적 은유: $z_L$ 과 $z_H$ 의 상호작용을 '계산 (Exploration)'과 '결정 (Commitment/Cooling)'의 과정, 혹은 다세포 생물의 분화와 안정화 과정에 비유하여 재귀적 추론의 작동 원리를 이론적으로 설명했습니다.

4. 실험 결과 (Results)

Sudoku-Extreme: 단일 A100 GPU 에서 약 1 시간 훈련으로 **97.5%**의 정확한 해답률을 달성했습니다. (기존 SOTA 인 TRM 은 12 시간 훈련에 약 87% 정확도).
Maze-Hard (30x30): 약 40 분 훈련으로 **약 80%**의 정확도를 달성했습니다.
성능 비교: TRM 대비 오류율 약 5 배 감소, 훈련 시간 20 배 이상 단축 효과를 보였습니다.
확장성: 훈련 시 최대 20 단계까지만 학습했으나, 추론 시 20,000 단계까지 확장하여 성능이 저하되지 않고 오히려 향상되는 것을 확인했습니다.

5. 의의 및 결론 (Significance)

RSM 은 재귀적 추론 모델의 훈련 병목 현상을 해결하고, 훈련 비용과 추론 계산량을 분리하는 새로운 패러다임을 제시합니다.

효율성: 적은 파라미터와 짧은 훈련 시간으로 복잡한 알고리즘적 문제를 해결할 수 있습니다.
신뢰성: 모델이 스스로 수렴 여부를 판단할 수 있게 하여, 할루시네이션을 방지하고 검증 가능한 솔루션을 제공하는 데 기여합니다.
미래 지향성: 이 접근법은 고정점 솔버 (Fixed-point solver) 와 신경 ODE(Neural ODE) 등의 이론적 배경과 연결되며, 추론 단계에서 계산 자원을 유연하게 할당하는 '테스트 시간 컴퓨팅'의 표준으로 자리 잡을 잠재력을 가집니다.

결론적으로, RSM 은 "형태는 기능을 따른다 (Form Follows Function)"는 원칙에 따라, 재귀적 구조를 단순한 반복이 아닌 안정적인 상태 전이 연산자 학습으로 재정의함으로써 효율적이고 강력한 추론 모델을 구현했습니다.