💬 NLP

Recursive Concept Evolution for Compositional Reasoning in Large Language Models

이 논문은 사전 훈련된 언어 모델이 추론 과정에서 고정된 잠재 표현 공간의 한계를 극복하기 위해, 필요 시 새로운 추상화를 동적으로 생성하고 통합하는 '재귀적 개념 진화 (RCE)' 프레임워크를 제안하여 구성적 추론 성능을 획기적으로 향상시킨다는 내용입니다.

원저자: Sarim Chaudhry

게시일 2026-02-18

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Sarim Chaudhry

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🧠 1. 문제: "고정된 지도"를 가진 탐험가

지금까지의 AI 모델들은 **엄청나게 방대한 도서관 (사전 지식)**을 가지고 태어납니다. 하지만 이 도서관의 **책장 구조 (내부 표현 공간)**는 태어날 때부터 딱 정해져 있고, 그 이후로는 절대 변하지 않습니다.

비유: imagine(상상해 보세요) 어떤 탐험가가 오직 '산'과 '바다'만 그려진 고정된 지도를 들고 있습니다.
상황: 만약 이 탐험가가 갑자기 '우주선'이나 '시간 여행' 같은 새로운 개념을 만나야 한다면 어떨까요?
결과: 지도에 그런 것이 없기 때문에, 그는 이미 있는 '산'이나 '바다'를 억지로 끼워 맞추려고 애씁니다. ("아, 이 우주선은 산처럼 생겼네?"라고 말하며 엉뚱한 답을 내놓습니다.)
기존 방법의 한계: 기존에는 "생각을 더 많이 해봐 (Chain-of-Thought)"라고 하거나, "정답이 나올 때까지 여러 번 시도해봐 (Self-Consistency)"라고 했습니다. 하지만 지도 자체는 여전히 '산과 바다'만 그려져 있는 상태라, 아무리 많이 생각해도 새로운 길을 찾을 수 없습니다.

🚀 2. 해결책: "살아 움직이는 지도"를 만드는 RCE

이 논문이 제안한 **RCE(재귀적 개념 진화)**는 AI 에게 새로운 개념을 스스로 만들어내고, 지도에 그릴 수 있는 능력을 부여합니다.

🌱 단계 1: "어? 내가 이거 못 풀겠다!" (개념 생성)

AI 가 문제를 풀다가 "내가 지금 가진 지식으로는 이걸 설명할 수 없어!"라고 느끼면 (실수 확률이 높을 때), 새로운 개념을 즉석에서 만들어냅니다.

비유: 탐험가가 새로운 지형 (예: '공중 도시') 을 발견했을 때, 기존 지도에 없으면 즉석에서 그 지형을 그리는 펜을 꺼내서 지도에 직접 그려 넣습니다.

⚖️ 단계 2: "이게 진짜 쓸모 있을까?" (최소 설명 길이 선택)

무작위로 다 그리면 지도가 지저분해집니다. 그래서 RCE 는 **"이 새로운 개념이 정말 문제를 해결하는 데 도움이 되는가?"**를 엄격하게 따집니다.

비유: "이 새로운 지형 그림이 너무 복잡하고, 실제로는 별 쓸모가 없다면? 그냥 지워버려."라는 원칙입니다. 오직 간단하면서도 확실하게 문제를 해결하는 개념들만 지도에 남깁니다.

🧩 단계 3: "함께 쓰면 더 강력해!" (개념 통합)

서로 다른 두 개념이 자주 함께 쓰인다면, 이 둘을 합쳐서 더 높은 수준의 개념으로 만듭니다.

비유: '산'과 '비'라는 개념이 자주 함께 쓰인다면, 이 둘을 합쳐서 **'우산'**이라는 새로운 개념을 만들어냅니다. 이렇게 개념들이 계층적으로 쌓여가며 복잡한 추론이 가능해집니다.

💎 단계 4: "영구 기록" (결정화)

자주 쓰이고 유용한 개념들은 영구적으로 지도에 각인됩니다. 다음에 비슷한 문제가 나오면 처음부터 다시 그릴 필요 없이, 이미 만들어진 개념을 바로 꺼내 씁니다.

📊 3. 실제 효과: 얼마나 좋아졌나요?

이 방법을 Mistral-7B 라는 AI 모델에 적용해 실험했습니다. 결과는 놀라웠습니다.

성능 향상: 복잡한 수학 문제, 논리 퍼즐, 과학 퀴즈 등에서 기존 방법보다 성능이 10~18% 포인트나 급상승했습니다.
효율성: 다른 방법들은 정답을 찾기 위해 "수십 번의 시도를 해보는" 방식이라 컴퓨터 성능을 많이 썼지만, RCE 는 단 한 번의 시도로도 훨씬 더 똑똑한 답을 냈습니다. (컴퓨터 비용은 거의 그대로인데 성능은 대폭 향상!)
강건함: 문제가 조금 변형되어도 (예: 색상이 바뀌거나 방향이 틀어져도) RCE 는 본질적인 규칙을 파악했기 때문에 실수를 거의 하지 않았습니다.

💡 4. 핵심 요약

이 논문의 핵심 메시지는 **"AI 가 정해진 지식만 반복하는 것이 아니라, 새로운 문제를 마주할 때마다 스스로 새로운 사고 도구를 만들어낼 수 있어야 한다"**는 것입니다.

기존 AI: 고정된 레고 블록으로만 무언가를 만듦. (새로운 모양이 나오면 못 만듦)
RCE 적용 AI: 필요할 때마다 새로운 레고 블록을 3D 프린터로 찍어내어 조합함.

이처럼 AI 가 추론하는 과정 자체를 고정된 것이 아니라, 진화하는 과정으로 바꾼 것이 이 연구의 가장 큰 의의입니다. 앞으로 AI 는 더 이상 "배운 것만" 말하는 것이 아니라, 새로운 상황에 맞춰 스스로 성장하는 지능을 갖게 될 것입니다.

1. 문제 정의 (Problem)

현재의 거대 언어 모델 (LLM) 은 다양한 복잡한 추론 작업에서 높은 성능을 보이지만, **구성적 추론 (Compositional Reasoning)**이 필요한 벤치마크 (ARC-AGI-2, GPQA, MATH, BBH, HLE 등) 에서는 성능이 급격히 저하됩니다.

근본적인 한계: 기존 모델의 추론은 고정된 잠재 표현 공간 (Fixed Latent Geometry) 내에서만 발생합니다. 사전 학습 (Pretraining) 동안 학습되지 않은 추상화나 새로운 개념이 필요한 경우, 모델은 기존 패턴 간의 보간 (Interpolation) 에 의존하여 구조적으로 틀린 답변을 생성합니다.
기존 방법의 부족: Chain-of-Thought (CoT), Tree-of-Thought (ToT), 강화 학습 (RL) 등의 방법은 토큰 수준의 탐색을 확장하거나 기존 공간 내에서 경로를 최적화할 뿐, 모델의 내부 표현 공간 자체를 변경하거나 새로운 차원을 생성하지는 못합니다. 즉, 잘못된 지도 (Representation) 를 가지고 더 열심히 탐색하는 것과 같습니다.

2. 제안 방법: 재귀적 개념 진화 (RCE)

저자들은 사전 학습된 LLM 이 추론 과정에서 내부 표현 기하학을 동적으로 수정할 수 있도록 하는 재귀적 개념 진화 (Recursive Concept Evolution, RCE) 프레임워크를 제안합니다.

핵심 메커니즘

RCE 는 모델의 가중치는 동결 (Frozen) 시키고, 중간 레이어의 표현에 저랭크 (Low-rank) 개념 부분 공간 (Subspace) 을 주입하여 작동합니다.

개념 서브스페이스 (Concept Subspaces):
- 각 개념 $C_i$ 는 저랭크 기저 행렬 $B_i \in \mathbb{R}^{d \times r}$ ( $r \ll d$ ) 과 게이트 함수 $g_i(x)$ 로 구성됩니다.
- 이 개념들은 잔류 스트림 (Residual Stream) 에 주입되어 $h' = h + \sum g_i(x) B_i B_i^\top h$ 와 같이 표현을 업데이트합니다.
- 기본 모델의 가중치는 변경되지 않으며, 후속 레이어가 받아들이는 중간 표현만 수정됩니다.
진화 사이클 (4 단계):
- 생성 (Spawning): 모델의 예측 엔트로피가 높고 토큰 간 마진이 낮은 경우 (표현 불충분 신호), MLP 기반 생성기가 새로운 저랭크 기저 행렬을 생성합니다.
- 선택 (Selection - MDL): 생성된 후보 개념은 최소 설명 길이 (Minimum Description Length, MDL) 기준에 따라 평가됩니다. 작업 표현을 압축하는 이득이 모델 복잡도 증가 비용을 상회할 때만 라이브러리에 수용됩니다. 이는 과적합을 방지하고 오컴의 면도날 원리를 적용합니다.
- 병합 (Merging): 지속적으로 함께 활성화되며 시너지 효과를 내는 개념들은 절단된 SVD 를 통해 더 높은 차원의 추상 개념으로 병합됩니다. 이는 인간이 기본 연산을 조합하여 복잡한 전략을 만드는 과정과 유사합니다.
- 결정화 (Crystallization): 안정적으로 유지되고 유용한 개념들은 체크포인트 저장 또는 제약 최적화 (Fisher 정보 행렬 기반) 를 통해 영구적인 구조로 고정됩니다.
정규화 및 안정성:
- 개념 간 직교성 (Orthogonality), 기저 내 중복 방지, 희소 게이트 활성화 등을 통해 라이브러리의 무질서한 성장을 억제합니다.

3. 주요 기여 (Key Contributions)

동적 표현 진화의 필요성 규명: 고정된 잠재 기하학이 구성적 추론의 병목 현상임을 이론적으로 규명하고, 추론을 토큰 경로 최적화에서 표현 수준 적응으로 전환해야 함을 주장합니다.
RCE 프레임워크 도입: 추론 시간에 새로운 개념을 생성, 평가, 병합, 결정화하는 메커니즘을 제시하여, 사전 학습된 모델이 새로운 추상화를 구성할 수 있게 합니다.
실증적 검증: Mistral-7B 를 기반으로 한 실험을 통해 ARC-AGI-2, GPQA 등 주요 벤치마크에서 기존 방법론 대비 일관된 성능 향상을 입증했습니다.

4. 실험 결과 (Results)

Mistral-7B 모델을 기준으로 한 주요 결과는 다음과 같습니다.

성능 향상:
- ARC-AGI-2: 기존 최강 베이스라인 (DisCO) 대비 8.3%p 향상 (19.7% → 28.0%).
- GPQA: 7.2%p 향상 (34.2% → 41.4%).
- MATH, BBH, HLE: 각각 6.1%, 5.7%, 4.9% 의 개선.
- Llama-3-8B 와 Qwen-2.5-14B 모델에서도 유사한 개선 추세를 보였습니다.
분포 외 (OOD) 강건성:
- 색상 치환, 공간 회전, 방해 요소 추가 등 ARC-AGI-2 의 분포 이동 테스트에서 RCE 는 91% 이상의 성능을 유지한 반면, 기존 방법론들은 68~80% 로 급감했습니다. 이는 RCE 가 표면적 특징이 아닌 **구조적 불변성 (Structural Invariants)**을 학습했음을 시사합니다.
계산 효율성:
- RCE 는 토큰 생성 수를 늘리는 CoT 나 ToT 와 달리, **기저 모델의 계산 비용 대비 약 4% 만 추가 (1.04 배)**하여 가장 높은 정확도를 달성했습니다. (Self-consistency 는 16 배, ToT 는 24.5 배의 비용 증가).

5. 의의 및 결론 (Significance)

표현 공간의 확장: RCE 는 LLM 이 추론 과정에서 새로운 개념 도구를 '발명'할 수 있게 함으로써, 사전 학습의 표현 한계를 극복합니다.
점진적 학습 (Cumulative Learning): 개념 라이브러리가 경험에 따라 점진적으로 성장하고 계층화됨으로써, 시스템의 추론 능력이 고정되지 않고 진화할 수 있음을 보여줍니다.
미래 방향: 현재는 단일 레이어 주입과 외부 메모리 부재 등의 한계가 있으나, 다중 레이어 주입 및 외부 메모리 통합을 통해 더 복잡한 추론 (예: 긴 증명 과정) 으로 확장 가능한 잠재력을 가집니다.

이 논문은 거대 언어 모델의 추론 능력을 향상시키기 위해 단순한 프롬프트 엔지니어링이나 출력 최적화를 넘어, 모델 내부의 표현 구조 자체를 동적으로 진화시키는 것이 필수적임을 강조하는 중요한 연구입니다.