Recursive Inference Machines for Neural Reasoning

이 논문은 고전적 추론 엔진에서 영감을 받은 재귀적 추론 메커니즘을 명시적으로 통합한 신경 추론 프레임워크인 '재귀적 추론 기계 (RIM)'를 제안하여, 기존 Tiny Recursive Models(TRM) 의 성능을 향상시키고 ARC-AGI 및 Sudoku Extreme 등 다양한 복잡한 추론 및 분류 작업에서 최첨단 결과를 달성했음을 보여줍니다.

핵심

이 논문은 **"복잡한 문제를 해결하는 인공지능의 두뇌를 어떻게 더 똑똑하게 만들까?"**에 대한 새로운 아이디어를 제시합니다.

기존의 인공지능 (AI) 은 문제를 풀 때, 한 번에 모든 답을 찾으려 하거나 단순히 패턴만 기억하는 데 그치는 경우가 많았습니다. 하지만 이 논문은 **"인공지능이 문제를 풀 때, 인간처럼 '생각을 정리하고', '오류를 수정하며', '과거의 실수를 참고'하는 과정을 반복하도록 설계하자"**고 제안합니다.

이 새로운 방식을 **'재귀적 추론 기계 (RIM, Recursive Inference Machine)'**라고 부릅니다.

이 복잡한 개념을 이해하기 쉽게 세 가지 비유로 설명해 드리겠습니다.

---

1. 비유: "수학 문제를 풀 때의 '초안'과 '교정' 과정"

기존의 AI 모델은 수학 문제를 풀 때, 한 번에 정답을 쓰려다가 틀리면 다시 처음부터 시작하는 경우가 많습니다. (이걸 '단순 반복'이라고 합니다.)

하지만 RIM은 다음과 같이 작동합니다:

1. 초안 작성 (Solver): 문제를 보고 대략적인 답안 (초안) 을 적습니다.
2. 검토 (Reweighter): "잠깐, 이 부분은 너무 급하게 쓴 것 같아. 과거의 경험이나 다른 가능성을 고려해볼까?"라고 스스로에게 질문합니다. 이때 **중요도 (가중치)**를 매겨서, 좋은 생각은 유지하고 나쁜 생각은 버립니다.
3. 수정 (Generator): 검토 결과를 바탕으로 답안을 다시 고칩니다.
4. 반복: 이 과정을 몇 번이고 반복하며 답을 다듬어 나갑니다.

핵심 차이점: 기존 AI 는 "생각을 멈추지 않고 계속 앞으로만 갔다면" (Reweighter 가 없거나 단순한 경우), RIM 은 "생각을 멈추고, "이게 맞을까?"라고 되돌아보며 (Reweighter), 더 나은 답을 찾아냅니다."

2. 비유: "명예로운 탐정단 (The Detective Team)"

문제를 해결하는 AI 를 한 명의 탐정으로 생각해보겠습니다.

• 기존 방식 (TRM 등): 탐정이 사건 현장을 보고 "아마 범인은 A 일 거야!"라고 바로 결론을 내립니다. 만약 틀리면 다시 처음부터 조사해야 합니다.
• RIM 방식:
  • 조사관 (Solver): 새로운 단서를 찾아옵니다.
  • 검증관 (Reweighter): "잠깐, A 가 범인이라는 증거가 정말 확실한가? 과거의 유사한 사건 (데이터) 과 비교해보자. A 보다 B 가 더 의심스러운 것 같은데?"라고 의심과 재검토를 합니다.
  • 수사관 (Generator): 검증관의 의견을 받아들여 새로운 결론을 내립니다.

이 논문은 **"검증관 (Reweighter)"**이라는 직책을 새로 만들어, AI 가 자신의 생각을 스스로 비판하고 수정할 수 있게 했을 때, 훨씬 어려운 퍼즐 (스도쿠, 복잡한 추리 문제) 을 잘 풀 수 있음을 증명했습니다.

3. 비유: "흐린 안개 속 나침반 (Tabular Data & Noise)"

의료 데이터나 금융 데이터처럼 **잡음 (Noise)**이 많은 데이터를 다룰 때의 상황입니다.

• 기존 AI: 안개 (잡음) 가 자욱한 길에서 나침반을 보고 "저기 북쪽이겠지!"라고 바로 가려다 길을 잃습니다.
• RIM (TabRIM):
  • "이 나침반이 흔들리는 건 안개 때문일 거야."라고 생각합니다.
  • 여러 번 나침반을 확인하고 (샘플링), 흔들리는 정도를 계산하여 (가중치 부여) **"아, 진짜 북쪽은 이쪽이구나"**라고 안개를 걷어낸 후 방향을 잡습니다.

이 방식은 TabPFN이라는 기존 모델보다 의료 진단 같은 복잡한 데이터에서 훨씬 정확한 결과를 냈습니다.

---

이 논문이 왜 중요한가요? (한 줄 요약)

이 논문은 AI 가 단순히 "패턴을 외우는 것"을 넘어, "생각을 정리하고, 실수를 인정하며, 다시 생각하는 (Recursive)" 과정을 체계적으로 설계할 수 있는 **새로운 청사진 (RIM)**을 제시했습니다.

• 기존: "한 번에 많이 생각해서 맞히자!" (실패 시 재시작)
• RIM: "생각을 정리하고, 중요한 건 살리고, 잘못된 건 고쳐서 점진적으로 완벽하게 만들자!"

이 덕분에 ARC-AGI(고난이도 추리 퀴즈), 스도쿠, 의료 데이터 분석 등 기존 AI 가 힘들어하던 분야에서 새로운 기록을 세웠습니다. 마치 AI 에게 **"스스로를 성찰하는 능력"**을 심어준 것과 같습니다.

기술 요약

1. 문제 정의 (Problem)

• 신경 추론의 한계: 기존 신경망 기반 추론 모델 (Tiny Recursive Models, TRM 등) 은 훈련 데이터의 복잡도 수준까지는 잘 수행하지만, 더 긴 시간 범위 (long-horizon) 가 필요한 문제나 훈련 데이터와 다른 복잡도를 가진 문제로 일반화하는 데 어려움을 겪습니다.
• 고정된 계산 깊이: 표준 피드포워드나 트랜스포머 아키텍처는 고정된 계산 깊이를 가지므로, 단일 순전파 (forward pass) 에서 복잡한 알고리즘적 논리가 필요한 작업을 정확하게 해결하기 어렵습니다.
• 추론 과정의 불투명성: 체인 오브 씽킹 (Chain-of-Thought) 이나 자기 검증 (Self-verification) 과 같은 최근의 테스트 시간 확장 (test-time scaling) 기법들은 경험적으로 성공적이지만, 이를 설명하는 통일된 형식적 프레임워크가 부족합니다. 또한, 이러한 방법들이 왜 작동하는지 체계적으로 구성하거나 확장하기 어렵습니다.
• 확률적 추론과의 단절: 확률적 추론 (Probabilistic Inference) 분야에서는 베이지안 추론, 깁스 샘플링 (Gibbs Sampling), 순차 몬테 카를로 (SMC) 등을 통해 불확실성 하의 추론을 체계적으로 다루어 왔으나, 이러한 원리가 현대 신경 추론 시스템에 명시적으로 통합되지 않았습니다.

2. 방법론 (Methodology)

저자들은 재귀적 추론 기계 (Recursive Inference Machines, RIMs) 라는 새로운 신경 추론 프레임워크를 제안합니다. 이는 고전적인 추론 엔진에서 영감을 받아 재귀적 추론 메커니즘을 명시적으로 통합한 구조입니다.

2.1 RIM의 핵심 구조

RIM 은 문제를 해결하기 위해 Solver(해결사), Generator(생성자), Reweighter(가중치 부여자) 세 가지 구성 요소를 순환적으로 사용합니다.

• 입력: 문제 설명 $x$, 초기 해 $y^{(0)}$, 초기 상태 $z^{(0)}$.
• 작동 원리:
  1. Solver: 현재 해와 이전 상태를 기반으로 상태 업데이트 후보 $\tilde{z}$를 제안합니다.
  2. Reweighter: 제안된 상태와 기존 상태/해의 가중치를 비교하여 실제 업데이트된 상태 $z$와 해 $y$를 결정합니다. 이는 확률적 추론에서의 '중요도 재샘플링 (Importance Reweighting)'과 유사합니다.
  3. Generator: 업데이트된 상태들을 기반으로 새로운 해 후보 $\tilde{y}$를 생성합니다.
  4. 반복: 이 과정이 $N$번 반복되어 최종 해 $y^{(N)}$을 도출합니다.

이 과정은 추론 공간에서의 순차 몬테 카를로 (Sequential Monte Carlo, SMC) 를 일반화한 것으로 해석할 수 있습니다. 여기서 신경망의 잠재 상태 (latent states) 는 단순한 특징 벡터가 아니라, 추론 상태에 대한 정규화되지 않은 믿음 분포 (belief distribution) 를 파라미터화하는 충분 통계량 (sufficient statistics) 으로 간주됩니다.

2.2 RIM의 변형 (Instantiations)

기존 모델들을 RIM 프레임워크 내에서 재해석하고 새로운 모델을 제안합니다.

• SimRIM (Simple RIM): 기존 TRM과 HRM을 포함합니다. 여기서 Reweighter 는 항등 함수 (Identity function) 로, 제안된 업데이트를 그대로 적용합니다.
• RIMA: Reweighter 로 지수 이동 평균 (Exponential Moving Average, EMA) 을 도입합니다. 과거 정보와 현재 정보를 균형 있게 반영하여 추론의 드리프트 (drift) 를 방지하고, 학습 가능한 가중치 계수 ($\alpha$) 를 통해 적응력을 높입니다.
• RIMformer: Transformer 블록을 Reweighter 로 사용합니다. $k$-lookback 메커니즘을 통해 전체 추론 역사 (history) 에 대한 의존성을 자기 주의 (self-attention) 를 통해 명시적으로 포착합니다.
• TabRIM: TabPFN(사전 학습된 테이블 데이터 모델) 을 기반으로 합니다. 노이즈가 있는 입력 데이터를 처리하기 위해 깁스 샘플링 (Gibbs Sampling) 접근법을 사용합니다. Solver 는 TabPFN 을 사용하여 잠재적인 깨끗한 특징 (denoised features) 을 샘플링하고, Reweighter 는 관측된 증거에 기반하여 이 샘플들에 가중치를 부여합니다.

3. 주요 기여 (Key Contributions)

1. 통일된 프레임워크 제안: 신경 추론 아키텍처를 위한 일반화된 프레임워크인 RIM 을 제시하여, 기존 모델 (TRM, HRM 등) 을 포함하고 확장할 수 있는 이론적 토대를 마련했습니다.
2. Reweighter 의 중요성 규명: 기존 모델들이 생략했던 '가중치 부여 (Reweighting)' 단계가 추론 성능에 결정적임을 증명했습니다. 이는 SMC 에서의 중요도 재샘플링과 유사하게, 제안된 추론 경로의 편향을 수정하고 최적의 경로를 찾도록 돕습니다.
3. 성능 향상 및 확장:
   • 심볼릭 추론: ARC-AGI-1/2, Sudoku Extreme, Maze-Hard 등 복잡한 추론 벤치마크에서 기존 TRM 을 능가하는 성능을 달성했습니다.
   • 표 (Tabular) 데이터 추론: TabPFN 을 RIM 프레임워크 (TabRIM) 에 적용하여, 심한 관측 노이즈가 있는 의료 진단 데이터셋에서 TabPFN 단독 사용보다 우수한 성능을 보였습니다.
4. 형식적 해석: 신경 추론 과정을 확률적 추론 (SMC, Gibbs Sampling) 의 관점에서 해석하여, 신경망의 '생각' 단계를 사후 확률 (posterior) 을 근사하는 샘플로 해석할 수 있는 기반을 제공했습니다.

4. 실험 결과 (Results)

• 심볼릭 추론 벤치마크 (Table 3):

  • ARC-AGI-1: RIMformer (43.25%) 와 RIMA (42.5%) 가 기존 SimRIM/TRM (40.5%) 보다 pass@1 에서 더 높은 정확도를 기록했습니다.
  • ARC-AGI-2: RIMA 가 pass@1 에서 9.9% (SimRIM 대비 +5.30%p) 로 가장 큰 개선을 보였습니다.
  • Sudoku Extreme: RIMA 가 89.34% 정확도로 SimRIM (87.16%) 을 상회했습니다.
  • Maze-Hard: RIMformer 가 87.7% 로 SimRIM (85.3%) 보다 우세했습니다.
  • 결론: 단순한 항등 함수 Reweighter 를 가진 모델보다, 동적 가중치 (RIMA) 나 Transformer 기반 가중치 (RIMformer) 를 가진 모델이 일관되게 우수한 성능을 보였습니다.

• 표 데이터 추론 (Table 2):

  • 의료 진단 (Cleveland Heart Disease, Ljubljana Breast Cancer): 25% 의 특징 값이 무작위로 변형된 노이즈 데이터셋에서 TabRIM 이 TabPFN 보다 AUC-ROC 및 AUC-PR 에서 더 높은 성능을 보였습니다. 이는 TabRIM 이 깁스 샘플링을 통해 노이즈를 제거하고 진정한 특징 분포를 추론하기 때문입니다.

• Ablation Study:

  • 동적 vs 정적 가중치: 학습 가능한 동적 가중치 (Dynamic Reweighting) 가 고정된 상수 가중치보다 성능이 뛰어났습니다.
  • Lookback 크기: Maze-Hard 와 같이 백트래킹이 필요한 작업에서는 긴 히스토리 (Lookback) 가 유리했으나, Sudoku 와 같이 최근 정보가 충분한 작업에서는 오히려 과적합 (Overfitting) 으로 인해 성능이 저하되기도 했습니다.

5. 의의 및 결론 (Significance)

• 신경 추론의 패러다임 전환: 신경망 기반 추론을 단순한 패턴 매칭을 넘어, 확률적 추론 원리를 따르는 명시적인 재귀적 과정으로 재정의했습니다.
• 모듈성과 확장성: Solver, Generator, Reweighter 를 분리함으로써 다양한 신경 아키텍처 (Transformer, LSTM, TabPFN 등) 를 쉽게 결합하고, 추론 전략을 체계적으로 개선할 수 있는 모듈식 접근법을 제공합니다.
• 실용적 가치: 노이즈가 많은 실제 환경 (의료 데이터 등) 에서도 강건한 추론이 가능함을 보여주어, 신뢰할 수 있는 AI 시스템 개발에 기여합니다.
• 미래 방향: RIM 프레임워크는 Tree-of-Thoughts(생각의 나무) 방식의 병렬 추론이나, xLSTM 과 같은 최신 메모리 메커니즘을 Reweighter 로 활용하는 등 향후 더 정교한 추론 엔진 설계의 기반이 될 것으로 기대됩니다.

요약하자면, 이 논문은 RIM을 통해 신경 추론의 '블랙박스'적인 재귀 과정을 확률적 추론의 원리로 해석하고, 가중치 부여 (Reweighting) 메커니즘을 도입함으로써 기존 모델들의 성능 한계를 극복하고 다양한 도메인에서 뛰어난 추론 능력을 입증했습니다.