🤖 AI

Human-Inspired Memory Architecture for LLM Agents

본 논문은 여섯 가지 인지 메커니즘과 합성 보정 방법론을 특징으로 하는 LLM 에이전트를 위한 생물학적 기반의 기억 아키텍처를 제시하며, 대규모 이슈 추적 및 개인 채팅 벤치마크에서 유지 정밀도와 저장 효율성의 상당한 개선을 입증합니다.

원저자: Doga Kerestecioglu, Alexei Robsky, Clemens Vasters, Anshul Sharma, Yitzhak Kesselman

게시일 2026-05-12

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Doga Kerestecioglu, Alexei Robsky, Clemens Vasters, Anshul Sharma, Yitzhak Kesselman

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

상상해 보세요. 매우 똑똑하지만 매우 건망증이 심한 로봇 비서를 당신의 삶을 기억하도록 가르치려 한다고요. 만약 당신이 과거에 나눈 모든 대화를 그대로 그 로봇의 뇌에 쏟아부으면, 결국 중요한 것을 찾아낼 수 없을 정도로 압도당하게 될 것입니다. 반면 모든 것을 요약하려 한다면 세부 사항은 사라지게 됩니다.

이 논문은 인공지능 에이전트를 위한 새로운 형태의 '뇌'를 제시하며, 이는 인간의 뇌와 더 유사하게 작동합니다. 단순히 데이터를 저장하는 대신, 이 시스템은 여섯 가지 생물학적 기법을 활용해 기억을 관리합니다. 그 작동 원리를 간단히 설명해 드리겠습니다.

큰 문제: 'hoarding'(저장광) 로봇

현재의 AI 비서들은 자신이 소유한 모든 영수증, 티켓 스텁, 장바구니 목록을 거대한 더미 속에 쌓아두는 사람들과 같습니다. 질문을 받으면 그들은 그 messy 한 더미 전체를 뒤져야 합니다. 무엇을 버려야 할지 결정하지도 못하고, 무엇을 보관할지 정리하지도 못합니다.

해결책: 생물학적 기억 시스템

저자들은 인간의 수면, 망각, 학습 방식을 모방한 시스템을 구축했습니다. 그들은 이를 '인간 영감을 받은 기억 아키텍처'라고 부릅니다. 그들이 사용하는 여섯 가지 주요 기법은 다음과 같습니다.

수면 중 정리 (정리):
인간이 수면 중에 기억을 처리하듯, 이 시스템에도 '야간 근무'가 있습니다. 몇 시간마다 하루의 사건들을 검토합니다. 모든 것을 그대로 저장하는 것이 아니라, 중복된 내용 (예: 두 사람이 같은 말을 하는 경우) 을 찾아 통합합니다. 중요한 것은 보관하고 노이즈는 제거합니다.
- 비유: 매일 밤 새로운 책들을 모두 가져와서 동일한 복사본을 찾아내고, 여분을 파쇄하여 책장이 정리되도록 하는 사서라고 상상해 보세요.
스마트한 망각 (간섭 기반 망각):
인간은 유용하지 않거나 다른 것과 혼동되는 것을 잊습니다. 이 시스템도 마찬가지입니다. 두 기억이 너무 유사하여 서로 방해가 된다면, 시스템은 더 약한 것을 삭제합니다. 또한 오랫동안 사용되지 않은 오래된 기억은 서서히 희미해지도록 합니다.
- 비유: 냉장고 정리와 같습니다. 같은 소스 두 병이 있다면 하나를 버립니다. 몇 달 동안 열어보지 않은 병이 있다면 상하기 전에 버립니다.
'침묵' 단계 (엔그램 성숙):
새로운 기억이 형성될 때는 '신선'하고 접근하기 쉽습니다. 하지만 시간이 지남에 따라 시스템은 이를 즉시 보이지는 않지만 여전히 존재하는 '침묵' 상태로 전환합니다. 시간이 지나 기억이 중요하다고 판단되면, 이는 '성숙'하여 견고한 장기 기억 사실로 변합니다.
- 비유: 새로운 아이디어를 씨앗이라고 생각해 보세요. 처음에는 약합니다. 시간이 지나 물을 주면 (사용하면) 튼튼한 나무로 자라납니다. 무시하면 씨앗으로 남거나 죽습니다.
오래된 기억 업데이트 (재통합):
무언가를 기억할 때, 뇌는 실제로 그 기억을 약간 변경합니다. 새로운 정보가 오래된 사실과 모순된다면, 이 시스템은 두 가지 상충되는 버전을 유지하는 대신 오래된 기억을 업데이트합니다.
- 비유: 친구의 생일이 5 월이라고 생각했는데, 그들이 6 월이라고 말한다면 두 날짜를 모두 유지하지 않습니다. 6 월로 마음속 캘린더를 업데이트합니다.
연결의 지도 (개체 지식 그래프):
단순한 문장 목록 대신, 시스템은 누가 무엇을 알고 있으며 사물들이 어떻게 관련되어 있는지 지도를 구축합니다. '사과'를 '과일'과, '존'을 '사과'와 연결합니다.
- 비유: 인덱스 카드 뭉치 대신, 모든 정보가 관련 정보들과 연결된 거대한 거미줄을 상상해 보세요.
찾는 여러 가지 방법 (하이브리드 검색):
질문을 받으면 시스템은 정확한 단어 일치만 찾지 않습니다. 최근 사건 (핫 캐시와 같은) 을 찾아내고, 동시에 장기 연결 지도도 확인합니다.
- 비유: 친구에게 도움을 요청하는 것과 같습니다. 그들은 "어, 어제가 너가 그거 말해줬지!" (최근 기억) 라고 하거나, "네가 그걸 좋아한다는 걸 알아요. 그 가게에서 항상 사니까요..." (장기 패턴) 라고 말할 수 있습니다.

(속임수 없이) 어떻게 테스트했는지

일반적으로 과학자들이 AI 를 테스트할 때, 시험 문제를 이용해 시스템을 조정합니다. 이는 시험 전에 정답지를 공부하는 것과 같습니다. 이 논문은 다른 방식을 취했습니다: 가상의 세계를 만들어 가짜 대화를 설정 규칙으로 사용했습니다. 그들은 마지막 순간까지 실제 시험 문제를 보지 않았습니다. 이는 결과가 정직함을 보장합니다.

결과: 무슨 일이 일어났나요?

그들은 이 시스템을 두 가지 매우 다른 세계에서 테스트했습니다.

1. 소프트웨어 엔지니어 세계 (VSCode 이슈):
그들은 시스템에 13,000 개의 실제 소프트웨어 버그 보고서를 입력했습니다.

결과: 시스템은 정리 작업에 놀라울 정도로 뛰어났습니다. 58% 의 데이터 (지루하고 중복된 내용) 를 버렸지만, 중요한 정보의 97% 를 유지했습니다. 모든 것을 저장하는 시스템보다 올바른 버그 보고서를 찾는 데 훨씬 더 뛰어났습니다.

2. 채팅 세계 (LongMemEval):
그들은 긴 대화 (최대 500 세션, 약 540,000 회 채팅 턴) 에서 이를 테스트했습니다.

결과: 방대한 양의 데이터에도 불구하고, 시스템은 '모두 저장' 방식과 동일한 성능을 발휘했습니다.
절충점: 멋진 점은 조정할 수 있다는 것입니다. 컴퓨터 저장 공간을 절약하고 싶다면 시스템이 망각에 더 공격적이 되도록 지시할 수 있습니다. 여전히 잘 작동하지만, 약간 더 작은 기억을 갖게 됩니다. 이는 공간을 절약하면서도 질문에 정확하게 답할 능력을 잃지 않는 '적정 지점'을 찾았습니다.

결론

이 논문은 AI 에이전트가 똑똑해지기 위해 '저장광'이 될 필요가 없음을 보여줍니다. 인간의 수면, 망각, 기억 업데이트 방식을 모방함으로써 AI 는 조직을 유지하고 공간을 절약하며 실제로 중요한 것을 기억할 수 있습니다. 이 시스템은 혼란 없이 방대한 양의 데이터를 처리할 수 있음을 입증하여, 수개월 또는 수년에 걸쳐 기억해야 하는 실제 세계의 AI 비서를 위한 강력한 후보가 되었습니다.

기술 요약: LLM 에이전트를 위한 인간 영감 기억 아키텍처

문제 정의

현재의 대규모 언어 모델 (LLM) 에이전트는 기업 환경에서 지속적이고 적응적인 기억의 부재라는 근본적인 한계에 직면해 있습니다. 기존 접근 방식은 다음과 같은 특정 실패 모드를 겪고 있습니다:

상태 비저장 에이전트는 세션 간 모든 컨텍스트를 상실하여 사용자가 반복적으로 컨텍스트를 재설정하도록 강요합니다.
컨텍스트 창 확장은 에이전트가 과거를 우선순위화하거나, 잊거나, 학습할 수 없기 때문에 지능이 확장되지 않은 채 비용만 증가시킵니다.
롤링 요약은 기록이 늘어남에 따라 정보 손실이 누적되는 고통을 겪습니다.
벡터 데이터베이스 (RAG) 접근 방식은 모든 정보를 동등하게 취급하며, 새로운 정보에 기반한 통합, 망각, 진화를 위한 메커니즘이 부족합니다.

이 논문은 단순한 기억 축적이 장기간의 상호작용 구간 전반에 걸쳐 지속적 기억을 관리하기 위한 원칙 있는 메커니즘이 부재하기 때문에 실패한다고 주장합니다.

방법론 및 아키텍처

저자들은 생물학적 기반의 기억 아키텍처를 제안하며, 이는 여섯 가지 인지 메커니즘을 시스템 구성 요소에 매핑합니다. 이 시스템은 기업급 확장성과 거버넌스를 위해 세 가지 저장 계층 전반에 걸친 통합 데이터 계층을 활용하도록 설계되었습니다:

단기 (핫 캐시): 전두엽을 모방한 메모리 내 저장소로, TTL(수 분에서 수 시간)을 가집니다.
중기 (웜 에피소드 저장소): 해마를 모방한 풀-정밀도 벡터 저장소로, TTL(수 일에서 수 주)을 가집니다.
장기 (지식 그래프): 대뇌 피질을 모방한 시맨틱 영구 저장소입니다.

여섯 가지 인지 메커니즘

수면 단계 통합: 중요한 기억을 장기 저장소로 식별, 검증, 승격시키는 오프라인 배치 프로세스 (기본값: 6 시간마다) 입니다. 이는 근접성, 빈도, 베이지안 놀라움, 엔티티 중요도, 결과라는 다섯 가지 요인에 기반한 중요도 점수 함수 ( $S(e)$ ) 를 사용합니다. 이벤트는 승격 (상위 20%), 유지 (중간 60%), 또는 제거 (하위 20%) 로 분류됩니다. 핵심적으로, 통합은 정보 손실을 피하기 위해 요약을 아닌 중복 제거에 초점을 맞춥니다.
간섭 기반 망각: 특징을 공유하는 기억들 (유사한 내용, 겹치는 엔티티) 은 검색 간섭을 생성합니다. 시스템은 간섭 점수를 계산하여 고간섭 저가치 기억을 선택적으로 망각시킵니다.
엔그램 성숙: 통합 시, 지식 그래프에 요약된 시맨틱 버전이 생성되며 초기 활성화 강도는 0.0("침묵") 입니다. 활성화 강도는 시그모이드 함수를 통해 진화하며, 약 1 주일 후 검색 임계값에 도달하고 2 주 후 완전한 성숙에 이릅니다. 이는 오직 안정적인 지식만이 장기 추론에 영향을 미치도록 보장합니다.
재통합: 검색된 기억은 새로운 정보가 모순되거나 보충되는 것으로 감지될 경우 업데이트될 수 있는 불안정 상태 (기본값: 60 분) 에 진입합니다.
엔티티 지식 그래프: 장기 기억을 엔티티 관계별로 조직화하는 시맨틱 계층으로, 멀티 홉 탐색 쿼리를 가능하게 합니다.
하이브리드 다단서 검색: 에피소드 (벡터) 와 시맨틱 (그래프) 경로를 결합한 검색 시스템입니다. 이는 현재 세션을 위해 단기 핫 캐시를, 최근 기억을 위해 웜 벡터 저장소를, 성숙한 시맨틱 기억을 위해 지식 그래프 탐색을 우선시합니다.

합성 보정

평가 누출 (기준 데이터로 임계값이 조정되는 일반적인 문제) 을 제거하기 위해, 저자들은 합성 보정 방법론을 도입합니다. 모든 파이프라인 임계값 (유사도, 중요도 가중치, 간섭) 은 실제 평가 기준에 노출되지 않은 고정 사양에서 생성된 LLM 생성 코퍼스로부터 도출됩니다.

평가 프로토콜

이 논문은 통합 파이프라인이 과거 세션에만 접근할 수 있는 현실적인 에이전트 배포를 시뮬레이션하는 시간 순서대로 세션을 순차적으로 처리하는 스트리밍 평가 프로토콜을 사용합니다.

주요 기여

생물학적 기반 아키텍처: 통합, 망각, 성숙, 재통합, 그래프 검색, 하이브리드 검색에 대한 상세 명세와 함께 여섯 가지 인지 메커니즘을 시스템 구성 요소에 매핑한 시스템.
합성 보정: 기준 데이터 노출 없이 모든 파이프라인 임계값을 도출하여 편향 없는 평가를 보장하는 방법론.
스트리밍 평가: 실제 세계의 기억 축적 및 관리를 시뮬레이션하기 위해 시간 순서대로 세션을 처리하는 프로토콜.
결손 연구: 부트스트랩 95% 신뢰 구간을 갖춘 LongMemEval S-티어에서 수행된 9 가지 구성 결손 연구로, 특정 메커니즘의 기여도를 분리합니다.
M-티어 평가: 고부하 조건에서 파이프라인의 동작을 입증하는 첫 번째 공개된 스트리밍 M-티어 평가 (475 세션, 약 54 만 개 고유 턴).

실험 결과

VSCode 이슈 추적 데이터셋

데이터셋: 13,127 개 이슈, 120,000 개 이벤트.
지표: 미래 활동에서 참조된 이벤트를 정확히 식별하는 유지 정밀도.
결과: 중복 제거 기반 통합은 58% 저장소 감소와 함께 97.2% 유지 정밀도를 달성했습니다. 이는 모든 것을 유지하는 기준선 (75.4%) 대비 +21.8 퍼센트 포인트 (pp) 향상입니다.
관찰: 입력 볼륨과 관계없이 기억 저장소는 300~500 개 이벤트 수준에서 자체 조절됩니다.

LongMemEval (S-티어: 50 세션)

기준선: 원시 RAG 는 전체 정확도 78.4% 를 달성했습니다.
중간 구성: 중복 제거와 적응형 임계값을 사용한 구성들은 기준선과 겹치는 전체 정확도 (예: 76.8% 대 78.4%) 를 달성하여 파이프라인이 통계적으로 비파괴적임을 입증했습니다.
선호도 회상: 중복 제거 전용 및 중복 제거 + 재통합 구성은 단일 세션 선호도 회상을 56.7% 에서 70.0% (+13.3 pp) 로 방향성 개선을 보였으나, 카테고리별 샘플 크기가 작아 신뢰 구간이 넓었습니다.
공격적 구성: 공격적 클러스터링 (요약) 은 파괴적이어서 정확도를 48.4% 로 낮추는 것으로 나타났습니다. 이는 통합이 요약을 아닌 중복 제거를 해야 함을 확인시켜 줍니다.
재통합: 벤치마크 설계상 세션 간 모순이 부족하여 S-티어 규모에서는 미미한 영향을 보였습니다.

LongMemEval (M-티어: 475 세션)

맥락: 총 원시 기록은 GPT-4o 의 128K 컨텍스트 창을 초과합니다.
200K 토큰 예산 결과: 파이프라인은 70.1% 전체 정확도를 달성하여 71.2% 의 원시 RAG 기준선과 일치했습니다 (겹치는 95% CI).
운영 곡선: 파이프라인은 조정 가능한 정확도 대 저장소 크기 곡선을 노출합니다. 낮은 예산 (25K~50K 토큰) 에서 정확도는 원시 RAG 대비 현저히 하락하여 예산 부족이 사실적 회상을 파괴함을 확인시켜 줍니다.
방향성 이득: 통합된 기록에 대한 추론이 원시 턴 검색보다 더 유용한 다중 세션 (+1.2 pp) 및 시간적 추론 (+3.0 pp) 카테고리에서 파이프라인은 방향성 개선을 보였습니다.

중요성 및 주장

이 논문은 제안된 아키텍처가 상태 비저장, 컨텍스트 창, 그리고 단순한 RAG 접근 방식의 한계를 해결하는 LLM 에이전트를 위한 완전한 기억 수명 주기를 성공적으로 구현했다고 주장합니다.

비파괴적 압축: 주요 중요성은 충분한 예산 (예: 200K 토큰) 이 제공된다면, 기억 수명 주기 관리 시스템이 원시 검색 대비 성능 저하 없이 저장소를 압축 (최대 58% 감소) 하고 장기간을 관리할 수 있음을 입증한 점입니다.
요약 대신 중복 제거: 결과는 중복 제거가 품질 향상을 위한 지배적인 메커니즘임을 강력히 시사하는 반면, 요약 (공격적 통합) 은 정보 손실과 성능 저하로 이어집니다.
운영 관련성: 저자들은 VSCode 결과 (높은 정밀도, 높은 감소) 가 반복적 이벤트 스트림이라는 의도된 운영 시나리오를 반영하는 반면, LongMemEval 결과는 구조적 중복이 최소화된 벤치마크 (설계에 대한 적대적 사례) 에서의 "비파괴 한계"를 나타낸다고 지적합니다.
메커니즘에 대한 겸손한 주장: 이 논문은 현재 실험에서 성숙 및 재통합 메커니즘이 벤치마크의 구조적 한계 (반복된 검색 기록 및 세션 간 모순 부재) 로 인해 경험적으로 분리되지 않았다고 명시적으로 밝힙니다. 이들의 포함은 설계 논리와 생물학적 영감에 기반하며, 더 긴 상호작용 구간을 가진 운영 환경에서 그 가치가 증가할 것으로 기대됩니다.

이 작업은 아키텍처가 정확도 대 저장소 크기에 대한 조정 가능한 운영 곡선을 제공하며, 요약의 누적 오류나 무한 컨텍스트 창 비용 없이 기업용 LLM 에이전트를 위한 지속적이고 적응적인 기억을 위한 실현 가능한 경로를 제시한다고 결론지었습니다.