Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory

당신이 거대한 미스터리를 풀려고 노력 중이지만, 오직 작은 수첩 하나만을 가지고 단서들을 적어 내려가야 한다고 상상해 보세요. 이것이 바로 '언어 에이전트(language agents)'—우리와 대화하고, 문제를 해결하며, 결정을 내리는 거대 언어 모델(LLM) 기반의 똑똑한 컴퓨터 프로그램—가 마주한 일상의 현실입니다. 이 에이전트들은 정답을 맞히기 위해 자신이 보고, 듣고, 읽은 모든 것을 기억해야 하는 탐정과 같습니다. 하지만 문제는 그들의 '수첩'(컨텍스트 윈도우라고 불리는)에는 엄격한 페이지 제한이 있다는 점입니다. 만약 너무 많은 단서를 억지로 집어넣으려 하면 수첩이 찢어지거나, 탐정이 과부하에 걸려 실수를 하기 시작합니다. 게 것이 더 나쁜 것은, 페이지가 늘어날 때마다 비용과 시간이 추가로 든다는 사실입니다.

그래서 이 디지털 탐정들에게는 아주 중요한 질문이 생깁니다. 어떻게 하면 핵심적인 세부 사항을 놓치지 않으면서 가장 중요한 단서들을 이 좁은 공간에 다 담아낼 수 있을까요? 당신에게는 두 가지 주요 선택지가 있습니다. 단서를 있는 그대로 유지하거나(보존, Retention), 내용을 다시 쓰고 결합하여 짧은 요약본으로 만드는 것(통합, Consolidation)입니다. 첫 번째 방법은 안전하지만 부피가 큽니다. 두 번째 방법은 효율적이지만, 공간을 아끼려다 중요한 사실을 실수로 버릴 수도 있다는 위험이 따릅니다. 오랫동안 과학자들은 어떤 전략이 더 나은지, 혹은 언제 전환해야 하는지 확신하지 못했습니다.

"Retain or Consolidate? Budget-Dependent Operator Selection for Language Agent Memory"라는 제목의 이 논문은 바로 그 딜레마를 다룹니다. 연구진은 단 하나의 '최선'의 방법은 존재하지 않는다는 것을 발견했습니다. 대신, 올바른 선택은 전적으로 '예산'(공간 제한)이 얼마나 타이트한지에 달려 있습니다. 그들은 흥미로운 '티핑 포인트(전환점)'를 찾아냈습니다. 예산이 극도로 적을 때는 요약하고 단서들을 병합하는 것이 생명줄이 되어, 정보를 누락시키는 대신 정확도를 최대 48%까지 높여줍니다. 하지만 예산이 충분하여 원본 단서들을 편하게 담을 수 있을 정도가 되면, 요약은 오히려 중요한 세부 사항을 흐릿하게 만들어 성능을 저하시킵니다. 저자들은 OAS(Offline Abstraction-Safety)라고 불리는 스마트하고 가벼운 도구를 만들었습니다. 이는 상황을 살피고 무언가를 기록하기 전에 결정하는 교통 경찰처럼 작동하며, "압축해야 할까, 아니면 원본을 유지할까?"를 판단합니다. 그들의 실험은 이 스마트한 전환 방식이 단순히 하나의 규칙을 고수하는 것보다 더 효과적임을 보여주며, '어떻게' 요약하느냐만큼 '언제' 요약하느냐가 중요하다는 것을 입증했습니다.

탐정의 딜레마: 유지할 것인가, 요약할 것인가?

당신이 사건을 해결하려는 탐정인데 수첩이 점점 줄어들고 있다고 상상해 보세요. 당신에게는 목격자 진술, 사진, 영수증 같은 증거 더미가 있습니다. 만약 사진 전체를 수첩에 붙이려 한다면, 들어가지 않을 수도 있습니다. 만약 들어가지 않는다면, 당신은 증거를 잃게 됩니다. 만약 사진을 한 문장으로 설명하려고 한다면, 공간은 차지하지 않겠지만 용의자의 모자 색깔 같은 아주 작은 디테일을 놓칠 수도 있습니다.

AI의 세계에서 이것은 **보존(Retention)**과 통합(Consolidation) 사이의 싸움입니다.

• 보존은 증거를 복사해서 테이프로 붙이는 것과 같습니다. 완벽해서 아무것도 잃어버리지 않지만, 공간을 많이 차지합니다.
• 통합은 요약본을 쓰는 것과 같습니다. 공간을 절약하고 열 페이지의 노트를 한 페이지로 합칠 수 있지만, 위험이 따릅니다. 요약본이 사건을 해결할 결정적인 단서 하나를 놓칠 수도 있기 때문입니다.

오랫동안 AI 시스템은 하나의 전략을 선택해 그것만 고수해 왔습니다. 어떤 시스템은 항상 요약했고, 어떤 시스템은 항상 원본 텍스트를 유지했습니다. 하지만 이 논문의 연구진은 더 똑식한 질문을 던졌습니다. 남은 공간이 얼마나 되는지에 따라 어떤 전략을 사용할지 결정하는 스마트한 조수가 있다면 어떨까?

"티핑 포인트"의 발견

연구진은 수첩의 크기를 바꿀 때 어떤 일이 일어나는지 확인하기 위해 두 가지 유명한 퍼즐 세트(벤치마크)를 사용하여 일련의 실험을 진행했습니다. 그들은 32 토큰부터 256 토큰까지 다양한 예산을 테스트했습니다.

결과는 다음과 같았으며, 이는 마치 시소와 같습니다:

1. 예산이 매우 적을 때 (32 또는 64 토키): 원본 증거가 들어갈 공간이 아예 없습니다. 원본 텍스트를 유지하려고 하면 대부분의 내용을 버려야 하며, AI의 점수는 거의 0점에 수렴합니다. 하지만 통합(특히 "Abstract" 또는 "Merge"라고 불리는 방식)을 사용하면, AI는 단서들을 요약하여 모두 담을 수 있고, 정확도가 무려 **48%**나 급증합니다. 이 구역에서 요약은 영웅 역할을 합니다.
2. 예산이 넉넉할 때 (256 토큰): 원본 증거가 완벽하게 들어갑니다. 이 경우, 요약은 악당이 됩니다. 요약은 세부 사항을 흐릿하게 만들기 시작하며, AI의 정확도는 원본 텍스트를 그대로 유지했을 때보다 약 8%에서 11% 정도 떨어집니다. 여기서는 "적을수록 좋다"가 아니라 "많을수록 좋다"가 정답입니다.

논문은 이를 **예산 교차점(Budget Crossover)**이라고 부릅니다. 이는 최선의 전략이 고정된 것이 아니라, 압박을 받는 정도에 따라 뒤바뀐다는 것을 증명합니다.

스마트한 교통 경찰: OAS

그렇다면 AI는 언제 전환해야 할지를 어떻게 알 수 있을까요? 연구진은 OAS(Offline Abstraction-Safety)라는 도구를 만들었습니다. OAS를 "유지"와 "요약"의 교차로에 서 있는 아주 똑똑한 교통 경찰이라고 생각해 보세요.

AI가 요약을 시작하기도 전에, OAS는 몇 가지 단서를 살펴봅니다:

• 남은 공간은 얼마인가?
• 단서의 개수는 몇 개인가?
• 단서들이 얼마나 무질서하거나 반복적인가?

이 미리 작성된 노트들을 바탕으로, OAS는 각 옵션의 점수를 예측합니다. 그리고 묻습니다: "내가 요약을 한다면, 새로운 정보를 포함함으로써 얻는 이득이 클까, 아니면 세부 사항을 망쳐서 잃는 손해가 클까?"

• 예측된 이득이 높으면, OAS는 **"가세요! 요약하세요!"**라고 말합니다.
• 예측된 이득이 낮거나 음수라면, OAS는 **"멈추세요! 원본을 유지하세요!"**라고 말합니다.

연구진은 이 "교통 경찰"을 퍼즐 세트에 테스트했습니다. 그 결과, OAS는 적절한 순간에 전략을 바꾸는 법을 성공적으로 학습했음을 발견했습니다. 예산이 타이트할 때는 요약을 선택해 점수를 높였고, 예산이 넉넉할 때는 원본 텍스트를 유지하여 정확도 하락을 방지했습니다.

어떤 요약 방식이 가장 좋은가?

논문은 또한 요약하는 세 가지 다른 방식, 즉 서로 다른 글쓰기 스타일을 테스트했습니다:

1. Merge (병합): 여러 개의 노트를 하나의 큰 덩어리로 합치는 것.
2. Abstract (추상화): 핵심 아이디어를 포착하는 높은 수준의 요약을 작성하는 것.
3. Rewrite (재작성): 각 노트를 더 짧게 만들기 위해 개별적으로 다시 쓰는 것.

연구진은 공간이 부족할 때 Merge와 Abstract가 주로 승자라는 것을 발견했습니다. 이 방식들은 공간을 절약하기 위해 서로 다른 노트의 정보를 결합하는 데 더 능숙합니다. 반면 Rewrite는 각 노트를 개별적으로 취급하기 때문에 공간을 충분히 절약하지 못해 효과가 떨어지는 경우가 많았습니다. 그러나 논문은 모든 상황에 통용되는 하나의 "완벽한" 요약 방식은 없으며, 이는 특정 단서들에 따라 달라진다고 언급했습니다.

이 논문이 말하지 않는 것

이 논문이 주장하지 않는 바를 아는 것도 중요합니다. 저자들은 요약이 항상 더 좋다거나, 항상 더 나쁘다고 말하는 것을 매우 경계했습니다. 그들은 모든 사람에게 적용되는 단 하나의 "마법의 숫자(단어 수)"가 존재한다는 아이디어를 명시적으로 배제했습니다. 대신, 그 "마법의 숫자"는 상황에 따라 변한다는 것을 보여주었습니다.

또한 그들은 자신들의 도구(OAS)가 완벽하다거나 세상의 모든 AI에서 작동한다고 주장하지도 않았습니다. 특정 데이터셋에서 테스트하여 잘 작동함을 확인했지만, 실제 환경에서는 상황이 더 복잡할 수 있음을 인정했습니다. 또한 요약 과정 자체를 완벽하게 만드는 방법을 찾은 것이 아니라, 요약을 사용하는 '최적의 타이밍'을 찾아낸 것뿐입니다.

핵심 요약

이 논문의 핵심 교훈은 유연성이 중요하다는 것입니다. 인간 탐정이 동네 절도 사건을 다룰 때와 거대한 국제적 음모를 다룰 때 똑같은 전략을 쓰지 않는 것처럼, AI 역시 모든 질문에 대해 동일한 메모리 전략을 사용해서는 안 됩니다.

연구진은 "예산 압박"을 관찰함으로써, AI가 원본 노트를 유지할지 아니면 압축할지를 결정할 수 있다는 것을 보여주었습니다. 공간이 부족할 때 압축은 생명줄이 됩니다. 공간이 넉넉할 때 원본의 세부 사항을 유지하는 것이 가장 안전한 방법입니다. 그들의 도구인 OAS는 이 전환을 자동으로 수행하는 두뇌 역할을 하여, AI가 공간을 낭비하거나 중요한 사실을 놓치지 않고 최상의 점수를 얻을 수 있도록 보장합니다. 이는 AI 탐정을 더 똑똑하고, 효율적이며, 중요한 단서를 잊어버리지 않도록 만드는 작지만 강력한 진전입니다.