당신이 갓 입사한 열정적인 견습생에게 복잡한 기계를 고치는 법을 가르치려 한다고 상상해 보십시오. 당신 곁에는 몇 초 만에 어떤 문제든 해결할 수 있는 숙련된 정비사가 있습니다. 하지만 당신의 견습생은 체구가 작고 경험이 부족하며 실수를 저지르기 쉽습니다. 인공지능의 세계에서 이 '견습생'들은 소형 언어 모델(small language models)입니다. 똑똑하긴 하지만 한계가 있는 존재들이죠. 이들은 API나 코드와 같은 디지털 도구를 사용하여 작업을 수행하려고 노력하지만, 종종 길을 잃거나, 단계를 잊어버리거나, 잘못된 도구를 호출하곤 합니다. 이들을 돕기 위해 연구자들은 과거의 성공과 실패를 되돌아볼 수 있는 노트, 즉 '메모리'를 제공하는 시도를 해왔습니다. 하지만 여기에는 함정이 있습니다. 견습생이 너무 신참이라 그들의 노트는 대부분 "여기서 실패했다"라거나 "저기서 길을 잃었다"라는 페이지들로 채워져 있다는 점입니다. 그들은 배울 수 있는 성공적인 이야기들을 충분히 가지고 있지 않습니다. 이것이 바로 과학자들이 풀고자 하는 퍼즐입니다: 어떻게 하면 거대한, 혼란스러운 교과서를 책상 위에 쏟아붓는 대신, 작은 학생에게 거장의 경험이라는 혜택을 줄 수 있을 것인가?

여기서 '에이전트 메모리 디스틸레이션(Agent Memory Distillation, AMD)'이라는 논문이 등장합니다. 태일 김(Taeil Kim)과 KAIST 연구진이 이끄는 연구팀은 강력한 '교사' AI로부터 작은 '학생' AI로 지식을 전달하는 영리한 새로운 방법을 제안합니다. 그들은 이 방법을 **에이전트 메모리 디스틸레이션(AMD)**이라고 부릅니다. 교사의 성공적인 여정을 단순히 학생에게 거대하고 지저분한 메모리 더미로 건네주는 대신, AMD는 마치 숙련된 편집자처럼 행동합니다. 교사의 성공 사례를 세 가지 구체적이고 소화하기 쉬운 유형의 메모리로 분해합니다: 고차원의 워크플로우(Workflow)(큰 계획), 서브태스크(Subtask) 가이드(일을 완수하기 위한 구체적인 단계), 그리고 함수(Function) 참조 시트(도구를 올바르게 사용하는 법)입니다. 논문은 교사의 지식을 이와 같이 구조화함으로써, 작은 학생이 원시 데이터를 읽으려고 할 때보다 훨씬 더 잘 이해하고 사용할 수 있다고 제안합니다.

문제점: 큰 격차를 가진 작은 학생

소형 AI 에이전트를 기술 기업의 신입 인턴이라고 생각해 보십시오. 그들이 "이 앱에 로그인해서 메시지를 보내라"와 같은 일을 하려고 할 때, 종종 실패하곤 합니다. 만약 당신이 그들에게 일기를 쓰라고 한다면, 그들의 일기는 대부분 "로그인을 시도했지만 에러가 났다"라거나 "잘못된 버튼을 클릭했다"라는 내용으로 가득 찰 것입니다. 너무 자주 실패하기 때문에, 그들에게는 "어떻게 성공하는가"에 대한 좋은 라이브러리가 부족합니다.

연구자들은 간단한 해결책을 시도했습니다: "숙련된 정비사의 일기를 인턴에게 주자!" 그들은 거대하고 매우 똑똑한 AI(교사)의 성공적인 기록을 가져와 작은 AI(학생)에게 주었습니다. 하지만 이는 잘 작동하지 않았습니다. 그것은 마치 아이에게 고급 물리학 교과서를 주는 것과 같았습니다. 아이는 그 복잡한 언어를 이해할 수도, 어떻게 적용해야 할지도 알 수 없었습니다. '역량 격차(capability gap)'가 너무 컸던 것입니다. 학생은 교사의 크고 추상적인 아이디어를 이해하기에는 너무 작았습니다.

해결책: 3단계 구성의 메모리 도시락

저자들은 이 격차를 메우기 위해서는 교사의 메모리를 그냥 쏟아부어서는 안 된다는 것을 깨달았습니다. 그들은 그것을 '증류(distill)'해야 했습니다. 마치 복잡한 스프를 농축된, 삼키기 쉬운 육수로 만드는 것처럼 말이죠. 그들은 교사의 성공 사례를 세 가지 뚜렷한 층위로 조직하는 시스템을 만들었습니다. 각 층위는 서로 다른 목적을 가집니다:

1. 워크플로우 메모리 (지도): 이것은 큰 그림입니다. 학생이 작업을 시작하기도 전에, 시스템은 그들에게 고차원의 지도를 주입합니다. "먼저 로그인을 해야 합니다. 그다음 데이터를 찾으세요. 마지막으로 메시지를 보내세요." 이것은 코드를 주는 것이 아니라 전략을 주는 것입니다. 이는 견습생에게 "엔진을 고치려면 먼저 오일을 체크하고, 그다음 스파크 플러그, 그다음 배터리를 확인하라"고 말하는 것과 같습니다. 이는 학생이 길을 잃기 전에 작업 순서를 알 수 있게 도와줍니다.
2. 서브태스크 메모리 (레시피): 일단 학생이 계획을 알게 되면, 각 단계를 어떻게 수행해야 하는지 알아야 합니다. 이 메모리는 교사가 특정 부분들을 어떻게 처리했는지에 대한 구체적인 예시를 제공합니다. 만약 작업이 "아이템 목록 가져오기"라면, 서브태스크 메모리는 학생에게 교사가 목록을 가져오기 위해 코드를 정확히 어떻게 작성했는지(페이지네이션, 즉 1페이지를 가져온 뒤 2페이지를 가져오는 방식 포함)를 보여줍니다. 이는 견습생에게 단순히 "케이크를 구워라"라고 말하는 대신, "밀가루 2컵과 설탕 1컵을 섞으세요"라고 적힌 레시피 카드를 건네주는 것과 같습니다.
3. 함수 메모리 (도구 매뉴얼): 이것은 안전망입니다. 학생이 도구(특정 함수 호출 등)를 사용하려다 에러가 발생하면, 시스템은 즉시 해당 에러와 관련된 '함수 메모리' 항목을 불러와 학생에게 보여줍니다. 이 항목은 해당 특정 도구를 사용하는 교사의 올바른 방법과 필요한 정확한 인자(arguments)를 보여줍니다. 이는 정비사가 렌치를 거꾸로 들고 있다는 것을 깨닫는 순간 매뉴얼을 보는 것과 같습니다.

실제 작동 방식

이 과정은 스마트한 과외 수업과 비슷합니다.

• 선제적 주입 (Proactive Injection): 작업의 아주 시작 단계에서, 학생은 워크플로우와 서브태스크 메모리를 자신의 '두뇌'(시스템 프롬프트)에 주입받습니다. 학생은 첫 발을 떼기도 전에 지도와 레시피를 보게 됩니다.
• 반응적 주입 (Reactive Injection): 만약 학생이 실수를 하여 에러가 발생하면, 시스템은 즉시 해당 에러와 관련된 함수 메모리를 가져와 힌트로 학생에게 보여줍니다. 이는 일이 잘 진행될 때는 일어나지 않으며, 오직 필요할 때만 발생하여 학생이 정보에 압도되지 않도록 합니다.

결과: 큰 폭의 성장을 보이는 소형 모델들

연구진은 네 가지 서로 다른 소형 학생 모델(40억에서 80억 파라미터 범위)과 강력한 GPT-5-mini를 교사로 사용하여 세 가지 벤치마크(AppWorld, BFCL V3, ToolSandbox)에서 이 방법을 테스트했습니다.

결과는 인상적이었습니다. 계층적 메모리를 갖춘 소형 학생들은 엄청난 향상을 보였습니다:

• AppWorld에서 정확도가 평균 27.2 퍼센트 포인트 상승했습니다.
• BFCL V3에서 11.2 퍼센트 포인트 개선되었습니다.
• ToolSandbox에서 3.4 퍼센트 포인트 이득을 얻었습니다.

어떤 경우에는 소형 학생들이 단순히 좋아지는 것을 넘어, 거대한 교사 모델만큼 혹은 그보다 더 나은 성능을 보이기도 했습니다! 예를 들어, AppWorld 벤치마크에서 AMD를 사용한 40억 파라미터 규모의 학생은 **49.40%**를 기록했는데, 이는 교사의 **50.00%**와 거의 동일한 수치였습니다.

데이터가 말해주는 것

논문은 왜 이 방식이 그렇게 잘 작동했는지 이해하기 위해 더 깊이 파고듭니다.

• "서브태스크"가 핵심이다: 연구진은 서브태스크 메모리(구체적인 예시)가 가장 중요한 부분임을 발견했습니다. 이것이 가장 큰 상승폭을 제공했습니다. 이는 소형 모델들이 단순히 무엇을 해야 하는지가 아니라, 어떻게 해야 하는지를 실제로 봐야 한다는 것을 시사합니다.
• 크기가 중요하다 (하지만 너무 과하지는 않다): 40억 파라미터 모델들이 가장 많은 혜택을 받았습니다. 이들은 교사의 메모리를 이해할 만큼 똑똑하면서도 여전히 개선할 여지가 충분했습니다. 더 큰 80억 파라미터 모델들은 이미 스스로 꽤 잘하고 있었기에 상승 폭은 더 작았지만, 여전히 긍정적이었습니다.
• 교사는 호환되어야 한다: 흥로도 있게도, 반드시 가장 강력한 교사를 가진다고 해서 항상 학생에게 최선의 결과를 가져다주는 것은 아니었습니다. 때로는 약간 덜 강력하더라도 학생의 스타일과 더 '호환'되는 교사가 더 효과적이었습니다. 단순히 천재적인 교사를 갖는 것이 문제가 아니라, 학생이 실제로 배울 수 있는 스타일을 가진 교사를 갖는 것이 중요합니다.
• 적은 것이 더 낫다 (Less is More): 학생에게 더 많은 메모리를 제공했을 때(1개가 아닌 5개를 검색했을 때), 성능이 오히려 떨어졌습니다. 소형 모델들은 너무 많은 정보에 혼란을 느꼈습니다. 그들에게는 데이터의 홍수가 아니라, 딱 적절한 고품질의 힌트가 필요했습니다.

이것이 의미하는 바 (그리고 그렇지 않은 것)

이 논문은 우리가 이러한 소형 모델들을 더 똑똑하게 만들기 위해 처음부터 다시 훈련시키거나 값비싼 컴퓨팅 파워를 사용할 필요가 없음을 시사합니다. 대신, 우리는 더 큰 모델의 경험을 소형 모델이 실제로 사용할 수 있는 구조화된 메모리 시스템으로 "증류"할 수 있습니다. 이것은 "훈련이 필요 없는(training-free)" 접근 방식으로, 학생 모델의 내부 가중치가 변하는 것이 아니라, 외부 메모리를 더 잘 사용하는 법을 배우는 것입니다.

하지만 저자들은 한계점도 주의 깊게 언급했습니다. 이 방법은 코드와 구조화된 도구 사용(API 호출 등)을 포함하는 작업에서 테스트되었습니다. 이 방식이 이미지 처리를 요구하거나 창의적인 이야기를 처음부터 쓰는 작업에도 작동할지는 아직 확실하지 않습니다. 또한, 이 메모리는 교사의 과거 성공으로부터 구축된 "고정된(frozen)" 것이며, 학생이 새로운 것을 배움에 따라 실시간으로 업데이트되지는 않습니다.

결론적으로, 에이전트 메모리 디스틸레이션은 공평한 경쟁의 장을 만드는 유망한 새로운 방법을 제시합니다. 이는 소형의 제한적인 AI 에이전트라도, 교사의 지혜를 그들이 이해할 수 있는 형식으로 정리하여 전달한다면 강력한 문제 해결사가 될 수 있음을 보여줍니다. 이는 때때로 학습의 최선책이 백과사전 전체를 읽는 것이 아니라, 똑똑한 가이드가 적절한 순간에 적절한 페이지를 건네주는 것임을 상기시켜 줍니다.