당신은 아주 똑똑하고 박학다식하며, 온갖 분야에 대해 조금씩은 다 알고 있는 아주 친한 친구와 대화하고 있다고 상상해 보세요. 당신은 그 친구에게 베이킹(예를 들어 사워도 빵 만들기) 같은 특정 주제에 대해 조언을 구하기 위해 전화를 겁니다. 만약 당신이 그 친구와 백 번 정도 대화를 나눴다면, 그 친구는 당신이 효모를 싫어하고, 바삭한 겉면을 좋아하며, 항상 토스트를 태운다는 사실을 기억할 것입니다. 그들은 오직 당신만을 위해 맞춤형 조언을 건넵니다. 이것이 바로 대규모 언어 모델(LLM) 개인화의 꿈입니다. 즉, AI가 당신을 너무 잘 알게 되어 당신의 언어로 말하고, 당신의 독특한 습관을 기억하며, 마치 가장 친한 친구가 준 것 같은 답변을 내놓도록 가르치는 것입니다.

하지만 여기에는 함정이 있습니다. 사람은 정지된 존재가 아닙니다. 우리는 변합니다. 아마도 당신은 갑자기 효모는 싫어하지만 사워도 빵은 좋아하는 사람이 되었을 수도 있고, 혹은 새 오븐을 사서 더 이상 토스트를 태우지 않게 되었을 수도 있습니다. 만약 당신의 AI 친구가 1년 전의 '당신'을 계속 사용한다면, 그 조언은 어색하게 느껴질 것입니다. 이것이 바로 선호도 표류(preference drift) 문제입니다. 당신의 취향은 진화하지만, AI의 기억은 얼어붙은 채 그대로 머물러 있는 현상입니다.

이를 해결하기 위해 과학자들은 두 가지 주요 기술을 시도했습니다. 하나는 **검색(retrieval)**으로, 이는 AI가 당신이 말했던 모든 것을 담은 거대한 노트에서 지금 당장 당신이 원하는 단서를 찾기 위해 미친 듯이 페이지를 넘기는 것과 같습니다. 다른 하나는 **적응(adaptation)**으로, AI가 자신의 내부 파라미터(두뇌)를 재작성하여 당신의 새로운 습관을 영구적으로 학습하는 것입니다. 하지만 두 방법 모두 결함이 있습니다. 검색 방식은 노트가 너무 무겁고 지저분해져서 빠르게 검색하기 어렵고, 두뇌를 재작성하는 방식은 과거의 중요한 기억을 실수로 지워버릴 수 있습니다(이를 '파괴적 망각'이라 부릅니다). 또한 일시적인 기분에 의해 혼란을 겪을 수도 있습니다. 문제는 이것입니다. 어떻게 하면 우리가 변함에 따라 배우면서도, 과거의 우리를 잊지 않고, 혹은 나쁜 날의 기분에 휘둘리지 않는 AI를 만들 수 있을까요?

---

여기, 김서연 연구원과 김재형 연구원이 제안한 새로운 방법론인 SPRING이 등장합니다. SPRING을 단순한 도구가 아니라, 당신의 완벽한 친구로 영원히 남고 싶어 하는 AI를 위한 영리한 두 부분 전략이라고 생각해보세요. 이름은 Selective Parametric adaptation and Retrieval-Interbolated Generation의 약자입니다. 입에 착 붙지는 않지만, 아이디어는 놀라울 정도로 단순하고 유쾌합니다.

문제점: "나쁜 날" vs "새로운 당신"

당신이 AI 친구에게 "나 이제부터 초록색 음식만 먹을 거야"라고 말했다고 가정해 봅시다. 만약 당신이 일주일 동안 임시로 다이어트를 하기 위해 이 말을 한 것이라면, AI가 당신이 피자를 좋아했다는 사실을 영구적으로 잊어서는 안 됩니다. 하지만 만약 당신이 진심으로 라이프스타일을 바꾼 것이라면, AI가 그것을 기억해주길 원할 것입니다.

기존의 방식들은 마치 대형 해머와 같았습니다. 당신이 새로운 것을 말할 때마다 AI의 두뇌를 업데이트하거나, 아니-면 당신의 전체 기록을 검색창에 그냥 쏟아부었습니다. 이로 인해 AI는 당신의 일시적인 기분(예: 기분이 안 좋은 날) 때문에 혼란에 빠지거나, 당신의 깊이 뿌리박힌 선호도를 잊어버리곤 했습니다. 연구진들은 현실 세계를 다루기 위해서는 AI가 단순히 기록하는 자가 아니라, 탐정이 되어야 한다는 점을 깨달았습니다. AI는 다음과 같이 판단해야 합니다: 이것이 나의 진정한 변화인가, 아니면 그저 노이즈(잡음)인가?

해결책: SPRING의 2단계 댄스

SPRING은 **학습(Training)**과 추론(Inference) 사이의 영리한 분리를 통해 이 문제를 해결합니다.

1. 학습: "표류 탐정" (선택적 적응)

당신이 AI와 대화할 때, SPRING은 단순히 맹목적으로 두뇌를 업데이트하지 않습니다. 대신, '차이점 찾기' 게임을 수행합니다.

• 성적표(The Scorecard): AI는 '기존의 두뇌'(기본 모델)를 사용하여 질문에 답할 때와 '현재의 두뇌'(당신을 아는 부분)를 사용하여 답할 때가 어떻게 다른지 비교합니다. 만약 답변이 완전히 다르다면, 이는 **높은 신규성(high-novelty)**을 가진 상호작용입니다. 이는 당신이 새로운 선호를 보여주고 있을 가능성을 시사합니다.
• 필터(The Filter): 하지만 잠깐! 만약 당신이 그냥 횡설수설한 것이라면 어떡할까요? AI는 **품질(Quality)**을 체크합니다. 새로운 내용이 언어적으로 의미가 있는지 확인합니다.
• 선택(The Selection): 새롭고(이전과 다름) 동시에 품질이 높은(의미 있는 문장) 상호작용만이 AI의 두뇌를 업데이트할 자격을 얻습니다. 이를 **표류 기반 선택적 적응(Drift-Driven Selective Adaptation)**이라고 합니다. 이는 마치 AI가 "좋아요, 당신이 오늘 매운 음식을 좋아한다고 말했고, 그것은 오타가 아닌 실제 문장이군요. 당신이 매운 음식을 좋아한다는 것을 기억하도록 제 기억을 업데이트하겠습니다"라고 말하는 것과 같습니다.
• 안전망(The Safety Net): 배우기 어려웠던 것들은 어떻게 될까요? 예를 들어 당신이 특정 브랜드의 핫소스를 딱 한 번 언급했는데 AI의 두뇌가 이를 제대로 포착하지 못했을 수도 있습니다. SPRING은 이러한 까다로운 순간들을 특별한 **리플레이 버퍼(Replay Buffer)**에 저장합니다. 이것을 '포스트잇' 상자라고 생각하세요. AI는 이들을 위해 두뇌 전체를 다시 쓰지는 않지만, 나중에 필요할 때를 대비해 메모를 손에 쥐고 있습니다. 이를 통해 AI가 내면화하기 어려운 작고 구체적인 세부 사항들을 잊어버리는 것을 방지합니다.

2. 추론: "이중 경로" 답변 (검색-보간 생성)

이제 당신이 AI에게 질문을 던집니다. AI는 어떻게 답할까요? 단순히 두뇌에만 의존하거나, 단순히 메모만 찾아보는 것이 아닙니다. 두 가지를 동시에 수행합니다!

• 경로 A (두뇌): AI는 업데이트된 두의(파라미터 지식)를 사용하여 답변을 생성합니다. 이는 빠르고 자연스럽습니다.
• 경로 B (메모): AI는 또한 자신의 리플레이 버퍼(포스트잇)를 살펴보고, 당신의 질문과 일치하는 과거의 대화가 있는지 확인합니다.
• 문지기(The Gatekeeper): 여기서 마법 같은 기술이 나옵니다. 메모를 보기 전에, AI는 스스로에게 묻습니다. "이 메모가 정말 관련이 있는가?" 만약 당신이 피자에 대해 묻는데 메모가 수학 문제에 관한 것이라면, AI는 이를 무시합니다. 이것이 **관련성 게이팅(Relevance Gating)**입니다. 이는 AI가 무관한 과거 기록 때문에 주의가 분산되는 것을 막아줍니다.
• 혼합(The Blend): 만약 메모가 관련이 있다면, AI는 두뇌로부터 나온 답변과 메모로부터 나온 답변을 섞습니다. 단순히 하나를 고르는 것이 아니라, 두 가지 색의 물감을 섞듯이 답변을 블렌딩합니다. 이것이 **로짓 보간(Logit Interpolation)**입니다. 그 결과는 장기 기억(두뇌)에서 나온 것처럼 자연스러우면서도, 구체적인 세부 사항을 방금 확인했기에 매우 정확한 답변이 됩니다.

연구 결과

연구진은 두 가지 실제 작업인 과학 논문의 초록(Abstracts) 작성과 제품 리뷰(Product Reviews) 작성을 통해 SPRING을 테스트했습니다. 그들은 단순히 두뇌를 업데이트하거나, 메모만 찾아보거나, 혹은 두 가지를 서투르게 섞으려 했던 다른 방법들과 비교했습니다.

결과는 명확했습니다: SPRING의 승리였습니다.

• 초록 작성에서 SPRING은 차순위 방법보다 훨씬 큰 격차(주요 점수에서 약 15.85% 더 우수)로 앞섰습니다.
• 제품 리뷰 작성에서는 표준 방식보다 18.12% 향상된 성능을 보였습니다.

논문은 그 비결이 바로 **선택성(selectivity)**에 있다고 제안합니다. 진짜 '표류'(진정한 변화)가 있을 때만 두뇌를 업데이트하고, 메모가 관련이 있을 때만 신중하게 섞어줌으로써, SPRING은 오래된 선호를 잊거나 일시적인 소음 때문에 혼란을 겪는 함정을 피합니다.

왜 중요한가

이것은 단순히 더 나은 에세이나 리뷰를 쓰는 것에 관한 문제가 아닙니다. 이것은 우리와 함께 성장할 수 있는 AI를 구축하는 것에 관한 것입니다. 만약 당신이 2020년에는 재즈를 좋아했고, 2022년에는 싫어했으며, 이제 2024년에는 다시 재즈를 좋아하게 된 것을 기억하는 AI 비서를 원한다면, 당신은 그러한 흐름을 처리할 수 있는 시스템이 필요합니다. SPRING은 개인용 AI의 미래가 더 큰 두뇌나 더 큰 노트를 갖는 것이 아니라, 언제 배워야 하고 언제 찾아봐야 하는지를 아는 영리함에 있다는 것을 시사합니다.

연구진은 트레이드오프(절충점)가 있음을 인정합니다. 이 "이중 경로" 체크를 수행하는 것은 단순히 답변하는 것보다 약간 더 많은 컴퓨팅 자원을 소모합니다. 하지만 그들은 '문지기'를 사용하여 필요한 경우에만 메모를 확인하게 함으로써, 그 추가적인 노력을 상당 부분 절약할 수 있다는 것을 발견했습니다.

요컨대, SPRING은 AI가 더 나은 친구가 되도록 가르치는 새로운 방법입니다. 주의 깊게 듣고, 적절한 시기에 올바른 것을 배우며, 당신을 '당신'답게 만드는 작은 세부 사항들을 절대 잊지 않는 그런 친구 말입니다.