Evolve: A Persistent Knowledge Lifecycle for Small Language Models
이 논문은 소형 언어 모델(SLM)의 성능을 높이기 위해 교사 모델이 정제한 지식 저장소를 활용하고, 수면 중 통합(sleep consolidation) 및 사용 기반 갱신 과정을 통해 지식을 지속적으로 관리함으로써 적은 비용으로도 높은 정확도와 효율성을 달성하는 'Evolve' 프레임워크를 제안합니다.
기존의 작은 AI 모델(Small Language Model)은 마치 **'시험 공부는 엄청 많이 했지만, 책을 한 번 읽으면 내용을 조금씩 왜곡해서 기억하는 천재 학생'**과 같습니다.
문제 1 (지식의 한계): 공부한 시점 이후의 최신 정보는 전혀 모릅니다.
문제 2 (환각 현상): 모르는 게 나와도 아는 척하며 그럴싸한 거짓말(환각)을 합니다.
문제 3 (단편적인 기억): 기존의 방식(RAG)은 정보를 찾을 때 책의 페이지를 무작위로 찢어서 가져오는 것과 같아서, 문맥이 끊겨 전체 내용을 이해하기 어렵습니다.
2. Evolve의 해결책: "공부하는 뇌와 똑똑한 비서의 협업"
Evolve는 AI를 두 부분으로 나눕니다.
작은 AI (로컬 모델):'두뇌(IQ)' 역할을 합니다. 논리적으로 생각하고 말을 예쁘게 하는 능력은 뛰어나지만, 세부적인 사실(Fact)은 외우지 않습니다.
지식 저장소 (Knowledge Store):'백과사전(지식)' 역할을 합니다. 아주 똑똑한 '선생님 AI(Teacher Model)'가 정리해둔 완벽한 요약 노트입니다.
💡 핵심 비유: "학습-수면-정리"의 사이클
Evolve는 우리 뇌가 잠을 자며 기억을 정리하는 방식(수면 응고화)을 그대로 따라 합니다.
낮 시간 (학습과 활용): 새로운 질문이 들어오면, AI는 먼저 자기 노트(저장소)를 뒤집니다. 만약 모르는 내용이라면, **'엄청나게 똑똑한 과외 선생님(Teacher AI)'**을 불러서 그 주제에 대해 아주 완벽하고 깔끔한 **'백과사전식 요약 노트(Section)'**를 새로 만들게 합니다. 이 노트는 단순히 문장을 찢어놓은 게 아니라, 주제별로 아주 정갈하게 정리된 '완성된 글'입니다.
밤 시간 (잠자는 동안의 정리): AI가 쉬는 동안(오프라인 단계), 시스템은 낮에 모은 어지러운 메모들을 검토합니다. 중복된 내용은 합치고, 쓸모없는 내용은 버리고, 주제별로 다시 예쁘게 분류합니다. 마치 **'어질러진 책상을 자고 일어나서 깔끔하게 정리하는 것'**과 같습니다.
유통기한 관리 (신선도 유지): 모든 지식에는 '유통기한(TTL)'이 있습니다. 예를 들어 '오늘의 날씨'는 유통기한이 짧고, '지구의 반지름'은 유통기한이 아주 깁니다. 유통기한이 지난 정보는 질문이 들어올 때 선생님에게 다시 물어봐서 최신 정보로 업데이트합니다.
3. 이 방식이 왜 대단한가요? (결과)
연구 결과, 이 시스템을 사용했더니 놀라운 변화가 나타났습니다.
정확도가 폭발적으로 상승: 원래 2030%밖에 못 맞히던 작은 AI가, Evolve라는 '완벽한 노트'를 갖게 되자 **6084%까지 정답률이 올라갔습니다.**
가성비 끝판왕: 처음에는 선생님(비싼 AI)을 계속 불러야 해서 돈이 들지만, 한 번 노트를 만들어두면 다음부터는 그 노트를 계속 재사용합니다. 시간이 지날수록 선생님을 부르는 횟수가 절반 이하로 줄어들어 매우 경제적입니다.
똑똑한 요약: 단순히 글자를 잘라 붙이는 게 아니라, 주제별로 '완성된 글' 형태로 저장하기 때문에 AI가 훨씬 더 정확하게 이해합니다.
🌟 요약하자면!
Evolve는 작은 AI에게 **"모든 걸 다 외우려고 애쓰지 마. 대신, 똑똑한 선생님이 정리해준 완벽한 백과사전을 옆에 두고, 밤마다 그 백과사전을 스스로 정리하며 공부하렴!"**이라고 가르쳐준 시스템입니다.
덕분에 작은 AI도 마치 거대한 백과사전을 통째로 머릿속에 넣고 있는 것처럼, 아주 정확하고 똑똑하게 대답할 수 있게 된 것입니다.
[기술 요약] Evolve: 소형 언어 모델을 위한 지속 가능한 지식 라이프사이클
1. 문제 정의 (The Problem)
기존의 대규모 언어 모델(LLM)과 검색 증강 생성(RAG) 방식은 다음과 같은 근본적인 한계가 있습니다.
매개변수 지식의 한계: 모델의 지식은 학습 시점에 고정되어 있어 최신 정보를 반영하기 어렵고, 환각(Hallucination) 현상이 발생하며, 특정 도메인에 대한 지식을 선택적으로 업데이트하기 어렵습니다.
기존 RAG의 문제점:
청크 경계 불일치: 고정된 크기로 텍스트를 자르다 보니 의미 단위가 끊겨 문맥이 손실됩니다.
정적 코퍼스: 미리 인덱싱된 문서에만 의존하므로, 문서 외의 질문에는 대응하지 못합니다.
검색 노이즈: 단순 유사도 기반 검색은 의미적으로 관련 없는 파편을 가져올 위험이 큽니다.
지식의 비지속성: 매 쿼리마다 새로 검색하고 잊어버리는 'Stateless(상태 비저장)' 방식이어서 지식이 축적되지 않습니다.
2. 방법론 (Methodology)
Evolve는 생물학적 기억 구조(해마와 대뇌 피질)에서 영감을 얻어, **추론 엔진(Local Model)**과 **지식 저장소(External Knowledge Store)**를 완전히 분리한 아키텍처를 제안합니다.
핵심 아키텍처 구성 요소
Local Model (2B~7B 파라미터): 추론 전용 엔진입니다. 질문 분류(Classify)와 답변 생성(Generate)을 담당하며, 지식은 외부 저장소에서 가져옵니다.
Teacher Model (Large LLM): 지식의 '작성자'입니다. 질문에 답하는 것이 아니라, 관련 주제에 대해 백과사전식의 밀도 높은 **'섹션(Section)'**을 컴파일하여 저장소에 기록합니다.
Two-Tier Memory (이중 메모리 구조):
Staging Store (해마 역할): 새로 습득하거나 갱신된 지식이 임시로 머무는 곳입니다.
Canonical Store (대뇌 피질 역할): '수면 단계(Sleep Consolidation)'를 거쳐 정제, 통합, 중복 제거된 권위 있는 지식 베이스입니다.
지식 라이프사이클 (Knowledge Lifecycle)
Classify: 로컬 모델이 질문 유형(사실적, 코딩, 대화형)을 분류하고 도메인 카테고리를 지정합니다.
Retrieve: 지정된 카테고리 내에서 Staging과 Canonical 저장소를 모두 검색합니다.
Acquire/Refresh: 캐시 미스 시 Teacher가 새 섹션을 만들고(Acquire), 만료된(TTL 기반) 섹션은 Teacher가 최신 정보로 업데이트(Refresh)합니다.