💬 NLP

LiveMem: Maintaining Memory State Continuity in Long-Running LLM Inference

이 논문은 사전 학습된 풀 어텐션(full-attention) LLM을 위한 내재적 메모리 방법인 LiveMem을 소개하며, 이는 활성 컨텍스트 창과는 독립적인 지속적이고 부하를 견딜 수 있는 메모리 상태를 유지함으로써, 역사적 증거가 즉각적인 컨텍스트에 더 이상 존재하지 않는 장기 실행 추론 시나리오에서 상태 연속성과 장기 정보 보유를 가능하게 한다.

원저자: Zhichen Liu, Ruihan Sun, Hengjie Yang, Zipeng Wu, Zhaohan Chen, Xiaofan Zhang, Yang Xu

게시일 2026-08-04

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zhichen Liu, Ruihan Sun, Hengjie Yang, Zipeng Wu, Zhaohan Chen, Xiaofan Zhang, Yang Xu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 모든 것을 기억하는 아주 똑똑한 친구와 대화하고 있다고 상상해 보세요. 인공지능의 세계에서 이 친구는 '대규모 언어 모델(LLM)'입니다. 보통 이러한 모델들은 시험을 치르는 학생과 같습니다. 특정 지침과 이야기를 읽고, 질문에 답한 뒤, 시험이 끝나면 상황도 종료됩니다. 하지만 만약 당신이 이 AI 친구가 수년 동안 당신과 대화하며 여행 계획을 세우고, 당신이 좋아하는 노래를 기억하고, 수백 번의 대화를 통해 문제를 해결해 주는 평생의 동반자가 되기를 원한다면 어떨까요?

문제는 이 AI 친구들의 '작업 기억(working memory)'이 놀라울 정도로 작다는 점입니다. 이것은 교실의 화이트보드와 같습니다. 선생님(AI)은 지금 보드에 적혀 있는 내용만 볼 수 있습니다. 수업이 너무 길어지면, 선생님은 새로운 내용을 적기 위해 오래된 메모를 지워야 합니다. 일단 지워지면, 그 오래된 메모들은 보드에서 사라집니다. 전통적인 AI 시스템은 이 문제를 해결하기 위해 지금까지 말한 모든 것을 담은 거대한 공책을 보관하고, 질문이 나올 때마다 그것을 뒤적거리는 방식을 사용합니다. 하지만 이는 느리고 번거롭습니다. 마치 대화 도중에 사실을 확인하기 위해 도서관에서 자료를 찾아보느라 대화를 멈춰야 하는 것과 같습니다. 과학자들이 던지는 핵심 질문은 이것입니다. "AI가 특정 단어들이 지워진 후에도 과거의 '느낌'이나 '요약'을 화이트보드 위에 남겨두어, 대화의 맥락을 놓치지 않게 할 방법이 있을까?"

이것이 바로 'LiveMem'이라는 논문이 다루는 내용입니다. 저자들은 AI가 정신을 잃지 않고 긴 대화를 처리할 수 있는 새로운 방법을 제안합니다. 그들은 LiveMem이라 불리는 시스템을 소개하는데, 이는 AI의 생각들을 위한 마법 같고 영구적인 '배낭' 역할을 합니다.

작동 방식은 이렇습니다. AI에게는 두 가지 방식의 사고가 있다고 상상해 보세요. 첫 번째는 현재 대화 내용을 화이트보드에서 바라보는 AI의 '주 뇌(Main Brain)'입니다. 이 화이트보드는 크기가 제한되어 있습니다. 보드가 가득 차면, 새로운 공간을 만들기 위해 가장 오래된 메모가 지워집니다. 이것은 정상적인 현상입니다. 하지만 LiveMem은 두 번째 요소인 '측면 뇌(Side Brain)' 또는 **재귀적 메모 상태(Recurrent Memory State)**를 추가합니다. 이 측면 뇌는 AI가 항상 메고 다니는 배낭과 같습니다. AI가 새로운 단어들을 읽을 때마다, 이 배낭을 업데이트합니다. 화이트보드가 가득 차서 오래된 메모가 지워질 때, 지워진 메모의 중요한 정보는 사라지지 않고 배낭 속으로 차곡차곡 담깁니다.

연구진은 이 시스템을 특별한 기술로 훈련시켰습니다. 그들은 단순히 AI에게 긴 이야기를 읽게 한 것이 아니라, 화이트보드를 '망각'하면서도 배낭은 가득 채우도록 강제로 연습시켰습니다. 그들은 '컨텍스트 터노버(context turnover)'라는 방법을 사용했는데, 이는 긴 대화를 가져와 AI에게 앞부분을 보여준 뒤, 화이트보드에서 그 앞부분을 지우고 AI에게 그 내용에 관한 질문을 던지는 방식입니다. 만약 AI가 오직 화이트받에만 의존했다면, 메모가 사라졌기 때문에 실패했을 것입니다. 하지만 LiveMem은 핵심적인 세부 사항들을 배낭에 담아두었기 때문에, 여전히 정답을 맞힐 수 있었습니다.

논문은 LiveMem이 매우 뛰어나다는 것을 보여줍니다. 테스트 결과, 질문에 대한 근거가 AI의 즉각적인 시야(화이트보드)에서 완전히 지워졌을 때도, LiveMem은 높은 정확도로 질문에 답할 수 있었습니다. 예를 들어, 'LongMemEval'이라는 테스트에서 지지 근거가 현재의 대화창에서 멀리 밀려났을 때, LiveMem은 다른 방법들보다 성능이 월등히 높았습니다. 배낭(재귀적 메모)이 없는 모델들(표준 Qwen3-4B 등)은 정확도가 극도로 낮아진 반면, LiveMem은 10퍼센트 포인트 이상의 더 높은 결과를 달랐습니다. 이는 AI가 단순히 추측하는 것이 아니라, 실제로 자신의 메모 상태에 역사를 실어 나르고 있음을 시사합니다.

하지만 저자들은 이 '배낭'이 완벽한 녹음실은 아니라는 점을 주의 깊게 명시합니다. 이 시스템은 말했던 모든 단어를 토씨 하나 틀리지 않고 그대로 저장하지는 않습니다. 만약 당신이 며칠 전에 지워진 특정 문장을 읊어보라고 한다면, 100% 똑같이 말하지 못할 수도 있습니다. 그것은 일어났던 일에 대한 요약이나 '느낌'에 가깝습니다. 논문은 이 시스템이 모든 토큰을 손실 없이 보관하는 완벽한 아카이브라는 생각을 명시적으로 부정합니다. 대신, 유용한 기억의 핵심을 살려두는 '손실이 있는(lossy)' 상태입니다.

연구팀은 또한 AI를 어떻게 훈련시키느냐가 매우 중요하다는 것을 발견했습니다. 만약 온갖 종류의 데이터를 그냥 섞어서 학습시킨다면, AI는 배낭을 효과적으로 사용하는 법을 배우지 못할 수도 있습니다. 그들은 특정한 훈련 일정—메모의 측면을 '깨우기' 위해 긴 이야기로 시작하여, 그 후 다양한 작업이 섞인 데이터로 전환하는 방식—이 가장 효과적이라는 것을 발견했습니다. 이를 통해 AI는 자신의 배낭에 쓰고 읽는 법을 효율적으로 학습할 수 있었습니다.

요약하자면, LiveMem은 AI 어시스턴트가 진정으로 자신의 역사를 기억할 수 있는 새로운 길을 제시합니다. 도서관에서 오래된 노트를 찾아보거나 작은 화이트보드에 의존하는 대신, LiveMem은 AI에게 대화와 함께 진화하는 지속적인 상태를 부여합니다. 비록 모든 단어를 완벽하게 보관하는 아카이브는 아닐지라도, LiveMem은 상호작용의 '이야기'를 살아있게 유지함으로써, 구체적인 과거의 세부 사항이 즉각적인 시야에서 사라진 후에도 AI가 일관성을 유지하며 도움을 줄 수 있게 합니다. 이는 우리가 AI 에이전트가 시간의 흐름 속에서도 연속적인 자아와 역사를 유지하며 진정한 평생의 동반자가 될 수 있는 단계로 한 걸음 더 다가갔음을 의미합니다.

기술 요약: LiveMem

문제 정의: 컨텍스트 교체 상황에서의 상태 연속성 (State Continuity)

장기 실행되는 AI 어시스턴트 및 에이전트는 대규모 언어 모델(LLM)의 고정된 컨텍스트 창을 필연적으로 초과하는 상호작용 라이프사이클을 거칩니다. RAG(Retrieval-Augmented Generation)나 외부 메모리 시스템과 같은 기존 솔루션들은 "역사적 접근(historical access)"(요청 시 과거의 특정 기록을 검색)을 제공하지만, **상태 연속성(state continuity)**을 제공하지는 못합니다. 이러한 시스템은 지속적인 저장소(메모장과 같은 역할)로서 작동할 뿐, 작업 컨텍스트가 변화함에 따라 진화하는 매끄럽고 연속적인 계산 상태를 유지하지는 못합니다.

식별된 핵심 문제는 작업 컨텍스트가 교체될 때(즉, 새로운 토큰을 위한 공간을 만들기 위해 오래된 토큰이 축출될 때) 어떻게 추론의 연속성을 유지할 것인가 하는 점입니다. 기존 방식들은 활성 컨텍스트와 독립적인 수명을 가진 고정 용량의 상태를 통해 계산을 앞으로 전달하는 데 어려움을 겪습니다. 본 논문은 외부 검색이 "역사적 접근"을 처리하는 반면, 모델의 전체 라이프사이클 동안 지속되는 "상태 연속성"—즉, 온라인으로 업데이트되는 연속적인 메모리 상태—을 위한 별도의 메커니즘이 필요하다고 주장합니다.

방법론: LiveMem 아키텍처 및 학습

LiveMem은 사전 학습된 풀 어텐션(full-attention) LLM에 병렬 순환 메모리 브랜치를 추가하여 증강하는 내재적 메모리 방법론으로 소개됩니다. 이 시스템은 엄격한 컨텍스트 교체 제약 조건 하에서 작동하도록 설계되었습니다.

1. 아키텍처

LiveMem은 표준 디코더 트랜스포머를 수정하여 각 어텐션 레이어에 병렬 순환 메모리 브랜치인 사이드 패스(side-path)를 추가합니다:

메인 경로 (Attention): 정밀한 단기 접근을 위해 유한한 작업 컨텍스트(KV 캐시)를 유지합니다. 컨텍스트 제한에 도달하면 오래된 키-값(Key-Value) 항목이 축출됩니다(컨텍스트 교체).
사이드 경로 (Recurrent Memory): 메인 경로와 동일한 은닉 표현(hidden representations)으로부터 고정된 크기의 메모리 상태( $S_t$ )를 지속적으로 읽고 업데이트하기 위해 **Gated DeltaNet-2 (GDN2)**를 백본으로 사용합니다.
통합: GDN2 브랜치의 출력( $r_t$ )은 모든 디코더 레이어에서 어텐션 출력( $a_t$ )에 직접 더해집니다 ( $o_t = a_t + r_t$ ).
메커니즘: GDN2 상태 업데이트에는 학습된 감쇠(decay), 삭제(erase), 쓰기(write) 게이트가 포함됩니다. 결정적으로, 토큰 덩어리가 메인 어텐션 경로에서 축출될 때, 그 정보는 순환 메모리 상태에 보존됩니다. 시스템은 구조적 안정성을 보장하기 위해 시스템 프롬프트를 "어텐션 싱크(attention sink)"로 유지합니다.

2. 컨텍스트 교체 및 추론 일관성

시스템은 훈련과 추론 과정 모두에서 엄격한 "오래된 것 우선(oldest-first)" 축출 정책을 강제합니다.

훈련 (Training): 동적 어텐션 마스크를 사용하여 컨텍스트 교체를 시뮬레이션함으로써, 모델이 활성 윈도우에서 제거된 정보에 대해 메모리 상태에 의존하도록 강제합니다.
추론 (Inference): 축출된 KV 페이지는 메모리에서 해제되어 어텐션 메커니즘이 접근할 수 없게 됩니다. 순환 상태는 해당 역사적 정보를 보유하는 유일한 매개체가 됩니다.

3. 메모리 지향 포스트 트레이닝 (Memory-Oriented Post-Training)

단순히 순환 모듈을 추가하는 것만으로는 효과적인 메모리를 운반할 수 있다는 보장이 없습니다. LiveMem은 메모리가 실제로 "살아있는(living)" 상태(즉, 소스 토큰이 사라진 후에도 미래의 예측에 실질적인 영향을 미치는 상태)가 되도록 보장하기 위해 특정 포스트 트레이닝 과정을 채택합니다:

지도 미세 조정 (SFT): 모델은 히스토리가 어텐션 윈도우에서 잘려 나가는 장문 문서 QA 및 멀티홉 추론 태스크를 통해 훈련됩니다. 손실(loss)은 답변 토큰에만 적용되어, 모델이 정답을 생성하기 위해 메모리 상태를 활용하도록 강제합니다.
강화 학습 (RL): 모델은 답변 정확도에 기반한 보상 신호를 사용하는 GRPO 알고리즘을 통해 추가 최적화됩니다. 이는 특히 여러 질문이 동일한 역사적 배경을 공유하는 시나리오에서 모델이 메모리 상태로부터 정보를 더 잘 보존하고 검색하도록 독려합니다.
학습 전략: 모델이 사이드 브랜치를 활성화할 수 있도록 장문 텍스트 데이터로 먼저 "웜업(warm-up)"한 다음, 메모리 유지를 정교화하기 위해 재균형 잡힌 혼합 데이터셋으로 훈련하는 커리큘럼을 사용합니다.

주요 기여

상태 연속성의 공식화: 본 논문은 "컨텍스트 교체 하의 상태 연속성"을 외부 검색 메커니즘과 구별되는 별개의 추론 능력으로 정의합니다. 이를 활성 컨텍스트와 독립적으로 지속되는 고정 용량 메모리 상태로서의 라이프사이클 규모 요구사항으로 모델링합니다.
LiveMem 아키텍처: GDN2 기반의 순환 사이드 브랜치를 풀 어텐션 LLM에 통합하여, 메인 어텐션 윈도우가 회전하는 동안 모델이 연속적인 상태를 유지할 수 있게 하는 엔드 투 엔드 설계를 제안합니다.
학습 패러다임: 기원 토큰이 더 이상 어텐션 메커니즘에 보이지 않는 상황에서도 모델이 메모리 상태에 쓰고, 보존하고, 읽는 법을 배우도록 설계된 메모리 지향 포스트 트레이닝 태스크(SFT 및 RL)를 제안합니다.
실증적 검증: 메모리 상태가 증거가 완전히 축출된 상황에서도 활성 윈도우 너머로 태스크 관련 정보를 운반할 수 있음을 보여주는 종합적인 평가를 수행했습니다.

실험 결과

성능 개요:
LiveMem은 Wiki QA, Conversation QA, Test-Time Learning (TTL), Long Document QA 태스크에 대해 Qwen3-4B를 대상으로 평가되었으며, 컨텍스트 윈도우는 8k 또는 32k 토큰으로 제한되었습니다.

전반적인 성능: LiveMem(특히 RL 변형)은 RAG, Context2LoRA, $\delta$ -Mem, 그리고 Recurrent 베이스라인을 능가하며 선도적인 전반적 성능을 달 기록했습니다.
다중 질문 (MQ) 태스크: RAG 및 $\delta$ -Mem을 포함한 다른 방법들이 멀티홉, 다중 질문 태스크에서 급격한 성능 저하를 보인 반면, LiveMem은 선두를 유지하며 지속적인 상태를 통해 여러 논리 체인을 동시에 처리하는 탁월한 능력을 입증했습니다.
장문 QA: LiveMem은 장문 문서 태스크 전반에 걸쳐 균형 있고 강력한 점수를 획득한 반면, 다른 방법들은 특정 부분에 특화된 모습을 보였습니다.

상태 연속성 분석 (LongMemEval):

증거 축출 (Evidence Eviction): 실험 결과, 지지 증거가 활성 컨텍스트 윈도우에서 완전히 제거되었을 때, LiveMem은 베이스라인보다 현저히 높은 정확도를 유지했습니다 (예: 완전히 축출된 시나리오에서 Qwen3-4B 기준 약 16.5% vs 약 3.1%).
거리 분석 (Distance Analysis): 증거와 현재 윈도우 사이의 거리가 멀어짐에 따라 LiveMem의 정확도는 약간 감소했으나 안정적이고 측정 가능한 수준을 유지했으며, 이는 메모리 상태가 여러 번의 교체 구간을 넘어 정보를 보유하고 있음을 증명합니다.
절제 연구 (Ablation): 사이드 패스를 풀 파라미터로 훈련하는 것이 LoRA보다 더 나은 안정성을 보였으며, 이는 어텐션과 GDN2 사이의 분포 차이로 인해 전체 적응이 필요함을 시사합니다.

한계점:
논문은 LiveMem의 메모리 상태가 **손실적(lossy)**이라는 점을 명시합니다. Needle-in-a-Haystack (NIAH) 테스트에서 나타나듯, 일단 축출되면 임의의 미세한 토큰(예: 건초더미 속의 특정 바늘)을 신뢰성 있게 재구성할 수는 없습니다. 이 시스템은 정확한 아카이브적 회상이 아닌, 태스크 관련 영향력을 목적으로 설계되었습니다.

의의 및 주장

본 논문은 LiveMem이 지속적인 LLM 추론을 위한 별개이며 상호 보완적인 추상화로서 상태 연속성을 확립한다고 주장합니다.

상호 보완성: "역사적 접근"(검색)과 "상태 연속성"(순환 메모리)은 서로 직교(orthogonal)한다고 주장합니다. 검색이 과거의 어떤 정보를 읽을지를 결정한다면, 순환 상태는 읽은 후 라이프사이클 동안 정보의 일관성이 어떻게 유지될지를 결정합니다.
실용성: 컨텍스트 교체에서 살아남는 쿼리 독립적인 메모리 상태를 유지함으로써, LiveMem은 제한된 용량의 어텐션과 외부 검색 사이의 중요한 간극을 메우며, 단순히 과거 기록을 다시 불러오는 것에만 의존하지 않고 모델의 내부 상태가 지속적으로 진화하는 실질적인 무한 컨텍스트 추론을 향해 나아갑니다.
겸허함: 저자들은 LiveMem이 보편적으로 최적인 것은 아니라고 명시합니다. 검색과 파라미터 메모리는 여전히 강점을 가집니다. 그러나 결과는 내재적 메모리 상태가 작업 컨텍스트 너머로 역사적 정보를 운반할 수 있음을 충분히 입증하며, 이는 기존의 엔지니어링 기반 메모리 패치로는 해결되지 않았던 능력입니다.