💬 NLP

SelfMem: Self-Optimizing Memory for AI Agents

이 논문은 AI 에이전트가 환경 피드백을 통해 자신의 메모리 전략을 자율적으로 탐색하고 개선할 수 있게 하여 다양한 롱 컨텍스트 작업에서 기존의 고정형 메모리 베이스라인들을 크게 능가하는 자기 최적화 메모리 프레임워크인 SelfMem을 소개한다.

원저자: Shu Yang, Junchao Wu, Derek F. Wong, Di Wang

게시일 2026-07-07

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Shu Yang, Junchao Wu, Derek F. Wong, Di Wang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신은 아주 똑똑한 친구와 대화를 나누려고 한다고 상상해 보세요. 이 친구는 도서관 한 채 분량의 책을 다 읽었을 만큼 박학다식합니다. 하지만 문제는, 이 친구에게는 한 번에 몇 페이지 정도만 담을 수 있는 '단기 기억력'이 있다는 점입니다. 당신이 몇 시간 동안 이야기를 하면, 친구는 대화 초반에 했던 말을 잊어버리거나, 모든 세부 사항을 머릿속에 다 집어넣으려다 혼란에 빠지곤 합니다.

현재의 AI 어시스턴트들은 바로 이런 친구와 같습니다. 이들은 긴 텍스트를 읽는 능력은 점점 좋아지고 있지만, 매우 긴 대화에서 초반의 중요한 세부 사항을 기억해 내는 데에는 여전히 어려움을 겪으며, 과부하가 걸리거나 실수를 하기도 합니다.

기존 방식: 경직된 서류 보관함

오늘날 대부분의 AI 메모리 시스템은 고정된 규칙을 따르는 엄격한 사서처럼 작동합니다.

작동 방식: 당신이 무엇에 대해 이야기하든 상관없이, 사서는 자동으로 모든 대화를 특정 유형의 폴더에 밀어 넣고, 정해진 공식에 따라 요약하며, 미리 설정된 기준에 따라 "가장 중요한" 페이지들을 뽑아냅니다.
문제점: 이것은 마치 혼란스러운 주방을 오직 한 종류의 서랍만을 사용하여 정리하려는 것과 같습니다. 때로는 양념통이 필요하고, 때로는 깊은 냉동고가 필요하며, 때로는 그냥 포스트잇 한 장이 필요할 수도 있습니다. 경직된 시스템은 모든 것을 동일한 상자에 강제로 집어넣게 만들며, 이는 종종 중요한 세부 사항을 놓치거나 쓸모없는 쓰레기를 남기는 결과로 이어집니다.

새로운 방식: SelfMem (에이전트에게 낚시하는 법을 가르치기)

이 논문은 게임의 판도를 바꾸는 SelfMem을 소개합니다. 연구진은 AI에게 고정된 규칙을 주는 대신, 도구 상자와 거울을 쥐여줍니다.

SelfMem을 단순히 물고기를 주는 것이 아니라, AI에게 "낚시하는 법"을 가르치는 것이라고 생각해보세요.

가공되지 않은 진실: AI는 전체 대화 기록(전사 데이터)을 데이터베이스에 안전하게 보관합니다. 이는 전체 채팅을 녹음해 둔 것과 같으며, 원본 소스를 절대 삭제하지 않습니다.
도구 상자: AI에게는 다음과 같은 일련의 도구들이 주어집니다.
- 읽기: 특정 사실을 찾기 위해 기록을 스캔합니다.
- 쓰기: 무엇이 중요한지에 대한 요약본이나 "컨닝 페이퍼"를 만듭니다.
- 검토: 자신의 컨닝 페이퍼가 정확한지, 혹은 빠진 내용이 없는지 확인합니다.
- 수정: 만약 컨닝 페이퍼가 틀렸거나 시대에 뒤떨어졌다면, AI는 이를 편집할 수 있습니다.
피드백 루프: AI는 "이 요약은 너무 길다", "날짜를 빠뜨렸다", "이 사실은 여전히 유용하다"와 같은 신호를 받습니다. 이러한 신호를 바탕으로 AI는 무엇을 남기고, 무엇을 버릴지, 그리고 어떻게 정리할지를 스스로 결정합니다.

실제 적용 사례

당신이 며칠에 걸쳐 운동화 구매에 대해 이 AI와 이야기하고 있다고 가정해 봅시다.

기존 방식: 시스템은 모든 대화를 "사용자는 신발을 좋아함"이라고 자동으로 요약할 수 있습니다. 이 과정에서 당신이 구체적으로 사이즈 11을 원했다거나 예산이 100달러라는 점을 잊어버릴 수 있습니다.
SelfMem:
- AI는 대화 기록을 읽고 당신이 "사이즈 11"과 "예산"을 언급했음을 확인합니다.
- AI는 "사용자: 사이즈 11, 예산 100달러"라는 구체적인 노트를 작성하기로 결정합니다.
- 나중에 당신이 새로운 신발에 대해 말하면, AI는 자신의 노트를 확인하여 예산을 파악하고, 그 신발이 너무 비싸다는 것을 알아차립니다.
- 만약 당신이 마음을 바꿔 "사실, 이제 150달러까지 쓸 수 있어"라고 말한다면, AI는 즉시 노트를 업데이트합니다.
- 만약 어떤 세부 사항이 (예: "오늘 빨간 차를 봤어") 일회성 정보라면, AI는 공간을 아끼기 위해 이를 적지 않기로 결정합니다.

결과: 더 뛰어나고, 더 저렴하며, 더 똑똑하게

연구진은 10만 단어에서 100만 단어에 이르는 방대한 대화(책 여러 권을 한 번의 채팅으로 읽는 수준)를 시뮬레이션하는 BEAM이라는 거대 벤치마크를 통해 이를 테스트했습니다.

성능: SelfMem은 다른 모든 방법보다 현저히 높은 점수를 기록했습니다. 백만 단어의 대화가 진행된 후에도 사실, 타임라인, 선호도에 관한 질문에 답변하는 능력이 훨씬 뛰어났습니다.
효율성: 단순히 더 잘 작동할 뿐만 아니라, 더 저렴하게 작동했습니다. 다른 방식들은 복잡한 알고리즘으로 모든 단어를 스캔하는 등 더 많은 컴퓨터 자원과 값비싼 도구를 사용하여 문제를 해결하려 했습니다. 반면 SelfMem은 무엇을 스캔할지 더 똑똑하게 판단하여 시간과 비용을 절약했습니다.
유연성: 단 한 가지 유형의 질문에만 특화된 것이 아닙니다. "어제 내가 뭐라고 했지?"와 같은 질문부터 "내가 제일 좋아하는 색깔은 뭐야?"와 같은 질문까지, 전 분야에서 성능이 향상되었습니다.

핵심 요약

SelfMem은 AI에게 모든 것을 기억하라고 강요하거나, 혹은 아무것도 기억하지 말라고 하지 않습니다. 대신, AI에게 자신의 메모리를 관리하는 법을 배울 수 있는 자유를 줍니다. AI가 과거를 검토하고, 스스로 노트를 작성하며, 자신의 실수를 바로잡을 수 있게 함으로써, 기존의 경직되고 미리 프로그래밍된 메모리 시스템보다 더 적응력이 높고, 정확하며, 효율적인 시스템을 만들어냅니다.

요약하자면: AI에게 무엇을 기억하라고 말하지 마세요. 대신 어떻게 기억하는 것이 최선인지 알아낼 수 있는 도구를 주세요.

기술 요약: SelfMem: AI 에이전트를 위한 자기 최적화 메모리

1. 문제 정의

AI 에이전트가 긴 컨텍스트, 다단계 계획, 도구 사용 능력을 갖추게 됨에 따라, 장기적인 상호작용 과정에서 사용자 선호도, 프로젝트 배경, 사실적 세부 사항을 유지해야 하는 요구가 증가하고 있습니다. 기존의 메모리 프레임워크(예: LoCoMo, MemGPT, MemoryBank, A-Mem)는 일반적으로 고정된 저장, 검색 및 요약 메커니즘에 의존합니다. 이러한 시스템은 대개 수동으로 지정된 전략을 사용하여 과거의 지식을 구축, 업데이트 및 검색합니다.

식별된 핵심 한계점은 이러한 사전 정의된 구조가 서로 다른 작업에 대해 경직되어 있다는 점입니다. A-Mem과 같은 방법들이 에이전트가 메모리를 쓰고 인덱싱할 수 있도록 허용하긴 하지만, 근본적인 과제는 여전히 남아 있습니다. 즉, 서로 다른 작업과 대화 이력은 서로 다른 메모리 행동을 필요로 하지만, 에이전트가 수동 튜닝 없이 특정 작업 요구사항과 환경 피드백에 따라 어떻게 자신의 전략을 적응시켜야 하는지는 불분명하다는 것입니다. 현재의 접근 방식들은 모델이 특정 컨텍스트에 최적화된 전략을 학습하게 하기보다는, 모델이 사전에 정의된 메모리 형식을 따르도록 강제하는 경우가 많습니다.

2. 방법론: SelfMem

저자들은 "물고기를 주는 대신 물고기 잡는 법을 가르치는 것"이라는 원칙에서 영감을 받은 자기 최적화 메모리 프레임워크인 SelfMem을 제안합니다. 고정된 메모리 전략을 규정하는 대신, SelfMem은 에이전트가 탐색, 평가, 개선을 통해 적응적으로 메모리를 관리하는 법을 배우는 환경을 조성합니다.

핵심 아키텍처

SelfMem은 프레임워크의 제약 조건과 메모리 전략을 분리합니다. 프레임워크는 도구와 피드백을 제공하고, 에이전트는 구체적인 메모리 액션을 결정합니다.

불변의 트랜스크립트 저장소 (Source of Truth): 가공되지 않은 대화 이력은 읽기 전용 SQLite 데이터베이스(turns 테이블)로 저장됩니다. 에이전트는 이를 직접 수정할 수 없지만, 특정 턴, 엔티티 또는 통계를 검색하기 위해 읽기 전용 도구(예: conversation_manifest, conversation_sql_query)를 사용하여 검사할 수 있습니다.
메모리 워크스페이스 (Memory Workspace): 에이전트가 대화의 압축된 표현을 구축하는 모델 관리형 워크스페이스( $M_i$ )입니다. 여기에는 사용자 프로필, 선호도 목록, 타임라인 또는 정책 노트 등이 포함될 수 있습니다.
액션 공간 ( $A$ ): 에이전트는 트랜스크립트 및 워크스페이스와 상호작용하기 위해 일련의 도구 세트 중에서 선택합니다:
- 트랜스크립트 읽기 도구 (Transcript-read tools): 불변의 이력을 검사합니다.
- 메모리 읽기 도구 (Memory-read tools): 중복을 피하거나 최신성 저하를 감지하기 위해 현재 워크스페이스를 검사합니다.
- 메모리 쓰기 도구 (Memory-write tools): 메모리 콘텐츠를 추가, 교체, 병합, 정제 또는 아카이브합니다.
- 메모리 검토 도구 (Memory-review tools): 메모리를 변형하지 않고 메모리 품질(예: 소스 지원 여부, 모순, 검색 위험 등)을 진단합니다.
- 셀프 테스트 도구 (Self-test tools): 메모리 조직이 향후 발생 가능한 질문들을 지원하는지 테스트하기 위해 내부 프로브(probe)를 생성합니다.
피드백 신호 ( $F$ ): 에이전트는 단일 스칼라 보상이나 골드 라벨이 아닌, 관찰 가능한 신호로서 피드백을 받습니다:
- 트랜스크립트 및 메모리 읽기 관측값.
- 검토 및 쓰기 작업으로부터의 진단 피드백.
- 운영 신호 (토큰 사용량, 지연 시간, 캐시 재사용, 비용).
- 이 설계는 에이전트가 자연어로 트레이드오프(예: 더 많은 정보를 저장하는 것 vs 컨텍스트 비용을 높이는 것)에 대해 추론할 수 있게 합니다.

최적화 루프

메모리 구축은 모델이 제어하는 루프입니다:

검사 (Inspect): 에이전트가 트랜스크립트와 현재 메모리를 읽습니다.
결정 (Decide): 에이전트는 현재 상태와 피드백을 바탕으로 액션(쓰기, 수정, 검토)을 선택합니다.
정제 (Refine): 에이전트는 초안 메모리를 검토하고, 진단 피드백(예: "오래된 사실 감지됨")을 받아 워크스페이스를 수정할 수 있습니다.
답변 (Answer): 쿼리 $q$ 에 대해, 시스템은 최적화된 메모리 워크스페이스( $M^*$ )를 기반으로 관련 트랜스크립트 조각( $E_q$ )을 검색하여 최종 답변을 위해 LLM에 전달합니다.

3. 주요 기여

자기 최적화 프레임워크: 메모리 관리를 고정된 파이프라인에서 에이전트 제어형 최적화 프로세스로 전환하여, 에이전트가 작업별 특화된 메모리 전략을 발견할 수 있게 하는 새로운 접근 방식을 제시했습니다.
도구 기반 액션 공간: 에이전트가 자신의 메모리 표현을 반복적으로 구축, 감사 및 정제할 수 있도록 하는 세밀한 도구 세트(읽기, 쓰기, 검토, 셀프 테스트)를 도입했습니다.
피드백 기반 적응: 에이전트가 외부 감독이나 모델 파라미터 업데이트 없이도 메모리 품질과 효율성의 균형을 맞출 수 있도록 다차원적 피드백 신호(비용, 정확도, 최신성 저하)를 사용하는 메커즘을 구축했습니다.
포괄적 평가: BEAM 벤치마크에서 세 가지 규모(100K, 500K, 1M 토큰)에 걸쳐 엄격한 평가를 수행하여 다양한 질문 유형에 대한 견고함을 입증했습니다.

4. 실험 결과

저자들은 RAG, Full Context, Compression, LoCoMo, MemoryBank, MemGPT, A-Mem, Mem0를 포함한 베이스라인들과 함께 BEAM 벤치마크(Tavakoli et al., 2025)에서 SelfMem을 평가했습니다.

성능 향상: SelfMem은 모든 토큰 규모에서 모든 베이스라인을 일관되게 능가했습니다.
- 100K 토큰: 가장 강력한 베이스라인인 RAG 대비 공식 점수를 48.7% 개선했습니다.
- 500K 토큰: 공식 점수를 40.8% 개선했습니다.
- 1M 토크: 공식 점수를 41.9% 개선했습니다.
- 절대적인 수치로, SelfMem은 가장 우수한 비(非) SelfMem 베이스라인과 비교했을 때 100K에서 0.165, 500K에서 0.141, 1M에서 0.134만큼 점수를 높였습니다.
견고성: SelfMem은 100K에서 9/10개 질문 유형, 500K에서 8/10개, 1M에서 7/10개 질문 유형에서 최고 점수를 기록하며 정보 추출, 시간적 추론, 멀티 세션 추론에 대한 폭넓은 적응력을 보여주었습니다.
효율성: 높은 정확도에도 불구하고, SelfMem은 유리한 품질-비용 트레이드오프를 유지했습니다. 1M 토큰에서 SelfMem은 비용 $2.004와 임베딩 요청 0회로 0.454의 점수를 달却한 반면, 경쟁 모델인 Mem0는 더 낮은 점수(0.292)를 기록하면서도 $18.830의 비용과 25,779회의 임베딩 요청이 필요했습니다.
전략 정제: 최적화 연구에 따르면, 종합적인 피드백을 바탕으로 에이전트가 자신의 메모리 전략 노트를 반복적으로 정제하도록 허용했을 때 성능이 더욱 향상되어, 점수가 Iteration 0의 0.472에서 관찰된 최고치인 0.510까지 상승했습니다.

5. 의의 및 주장

본 논문은 SelfMem이 메모리 동작이 언어로 최적화될 수 있음을 보여준다고 주장합니다. 메모리 관리 결정을 에이전트 자신에게 노출함으로써, 경직되고 사전 정의된 전략에 의존하는 대신 에이전트가 특정 작업 요구사항에 더 잘 적응된 원칙과 트레이드오프를 학습할 수 있습니다.

저자들은 다음을 강조합니다:

적응성이 핵심이다: 고정된 메모리 구조는 관련 정보가 희소하고 분산되어 있는 장기 호라이즌 작업에서 성능을 제한합니다.
비용 효율성: 높은 정확도가 반드시 비싸고 무거운 메모리 파이프라인을 필요로 하는 것은 아닙니다. 에이전트에 의한 선택적 구축과 수정은 더 낮은 계산 비용으로 더 나은 결과를 낳습니다.
최적화 표면: SelfMem은 장기 메모리 관리를 위한 유용한 최적화 표면을 노출하며, 이는 모델의 기본 가중치를 업데이트하지 않고도 모델 가이드형 전략 정제가 에이전트 성능을 크게 향 향상시킬 수 있음을 시사합니다.

이 연구는 에이전트가 수동으로 설계된 메모리 아키텍처의 한계를 넘어, 메모리를 효과적으로 관리하기 위해 "스스로를 가르칠 수 있는" 단계로 나아가는 발걸음으로 자리매김하고 있습니다.