Can a Language Model Learn Facts Continually in Its Weights?
이 논문은 광범위한 학습 데이터가 언어 모델로 하여금 단순한 진술보다 가중치 내에 새로운 사실을 더 효과적으로 저장할 수 있게 해주지만, 연속적인 가중치 기반 학습은 필연적으로 파괴적 망각과 간섭을 유발하여, 맥락(context)을 순차적 업데이트 과정에서 지식을 보존하고 구성하는 유일하게 신뢰할 수 있는 채널로 만든다는 점을 입증한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신에게 아주 똑똑한 로봇 친구가 있다고 상상해 보세요. 이 친구는 아는 것이 정말 많습니다. 당신은 매일 새로운 가공의 사실들을 이 로봇에게 가르치고 싶습니다. 예를 들어 "조르바틴(Zorvathine)은 차가워지면 녹는 금속이다" 같은 것이죠. 여기서 큰 질문이 생깁니다. 우리가 이 사실들을 로봇의 뇌(즉, '가중치')에 직접 써넣어서, 백 가지의 새로운 것을 더 배우더라도 영원히 기억하게 만들 수 있을까요?
이 논문은 Qwen3라는 모델을 사용해 "쓰고, 잊고, 확인하기"라는 게임을 하며 이 질문에 답하려고 노력합니다. 여기 그들이 발견한 내용을 재미있는 비유를 들어 설명합니다.
로봇을 가르치는 두 가지 방법
연구진은 로봇을 어떻게 가르치느냐가 얼마나 많이 반복하느냐보다 더 중요하다는 것을 발견했습니다.
- "단순 진술" 방식 (나쁜 방법): 로봇에게 사실을 딱 한 번 속삭여준다고 상상해 보세요. "조르바틴은 -10°C 미만에서 녹는다." 그리고 이 과정을 계속 반복합니다. 로봇은 그 정확한 문장을 암송하는 데는 매우 능숙해집니다. 이는 마치 문장의 의미는 이해하지 못한 채 문구만 완벽하게 따라 하는 앵무새와 같습니다.
- "학습" 방식 (좋은 방법): 로봇에게 교과서 전체를 사용하여 가르친다고 상상해 보세요. 사실을 알려준 뒤, 질문을 던지고, 같은 사실을 다르게 표현하는 여러 방식을 보여주며, 그 사실이 로봇이 기존에 알고 있던 생각과 어떻게 충돌하는지도 보여줍니다. 로봇은 단어 자체가 아니라 그 사실 뒤에 숨겨진 개념을 배웁니다.
결과:
로봇이 "학습" 방식을 통해 배웠을 때, 로봇은 새로운 퍼즐을 풀기 위해 그 사실을 실제로 사용할 수 있었습니다. 반면 "단순 진술" 방식으로 배웠을 때는 그저 문장을 읊을 수 있을 뿐이었습니다. 만약 당신이 "조르바틴을 식히면 어떻게 될까?"라는 까다로운 질문을 던진다면, "학습"한 로봇은 "녹습니다!"라고 답할 것입니다. 하지만 "단순 진술"을 한 로봇은 문장을 완벽하게 외웠음에도 불구하고, 멍하니 바라보거나 틀린 답을 내놓을 것입니다.
"덮어쓰기" 문제: 사라진 책들의 도서관
이제, 까다로운 부분이 등장합니다. 연구진은 로봇에게 20개, 혹은 100개의 새로운 사실을 차례대로 가르쳤습니다. 그리고 예전에 배운 사실들이 살아남는지 확인하고 싶었습니다.
- "단순 진술" 사실들: 이들은 거의 즉시 사라졌습니다. 새로운 레슨이 20번 진행된 후, 로봇은 기존 사실의 99%를 잊어버렸습니다. 이는 마치 포스트잇에 메모를 적고 그 위에 바로 더 크고 새로운 포스트잇을 붙여버린 것과 같습니다. 예전 메모는 물리적으로는 그 자리에 있지만, 더 이상 보이지 않게 된 것입니다.
- "학습" 사실들: 이들은 더 끈질겼습니다. 20개의 새로운 레슨 후에 약 **46%**가 여전히 사용 가능했습니다. 100개의 레슨 후에는 25~28% 선에서 정체되었습니다. 완전히 사라지지는 않았지만, 찾아내기가 점점 더 어려워졌습니다.
놀라운 발견:
연구진은 로봇이 사실을 잊어버린 것처럼 보일 때도 로봇의 뇌(그 "가중치")를 조사했습니다. 그 결과, 사실의 "기억"은 여전히 남아 있다는 것을 발견했습니다! 로봇이 데이터를 지운 것이 아니라, 그 데이터를 찾기 위한 주소를 잃어버린 것이었습니다.
도서관을 생각해 보세요. 책(사실)들은 여전히 서가에 있습니다. 하지만 사서(로봇)는 새로운 책들을 가리키는 새로운 지도(map)를 받았습니다. 당신이 예전 책을 달라고 요청하면, 사서는 새 지도를 보고 예전 책이 있는 자리가 이제 "최신 사실"이라고 표시된 것을 확인한 뒤, 엉뚱한 책을 가져다주는 것입니다. 예전 책은 여전히 그곳에 있지만, 로봇은 그곳에 도달할 수 없습니다.
왜 그냥 "주소"를 고칠 수는 없을까요?
연구진은 새로운 것을 배우는 동안 예전의 사실들을 기억하도록 돕기 위해 여러 가지 영리한 기술들을 시도했습니다.
- 로봇이 잊어버릴 경우 "벌칙"을 주는 방법을 시도했습니다.
- 새로운 레슨이 기존의 것들과 멀어지도록 "투영(project)"하는 방법을 시도했습니다.
- "얼어붙은 스승(frozen teacher)"(학습을 시작하기 전의 완벽한 로봇 복사본)을 사용하여 새로운 레슨을 안내하도록 했습니다.
효과가 있었던 것:
**"얼어붙은 스승"**을 사용하는 것은 로봇의 일반적인 지능(수학이나 논리 등)이 나빠지지 않도록 돕는 데 효과적이었습니다. 이는 로봇이 이상해지는 것을 막아주었습니다. 하지만 이것은 예전의 사실을 찾는 문제를 해결해주지는 못했습니다. 예전의 사실들은 여전히 혼란 속에 길을 잃었습니다.
효과가 없었던 것:
새로운 사실과 예전 사실 사이의 "충돌"을 얼마나 세밀하게 측정하더라도, 새로운 레슨이 예전의 것을 가로막는 것을 막을 수 없었습니다. 이 논문은 국소적인 측정(다음 단계만을 보는 것)이 직후의 상황은 예측할 수 있지만, 긴 시리즈의 레슨이 지난 후의 결과는 예측하는 데 실패한다고 제안합니다. 이는 마치 눈앞의 자동차만 보고 교통 체증을 예측하려는 것과 같습니다. 도로 3마일 뒤에서 발생하고 있는 사고는 볼 수 없는 것과 같습니다.
최종 결론: 맥락(Context)이 왕이다
그렇다면, 우리는 로봇의 뇌에 사실을 써넣고 그것을 영원히 간직할 수 있을까요?
- *만약 로봇이 그 사실을 사용하기를 원한다면:* 단순히 반복하는 것이 아니라, 폭넓고 다양한 예시를 통해 가르쳐야 합니다 ("학습" 방식).
- 만약 그 사실이 100번의 새로운 레슨 후에도 살아남기를 원한다면: 이 논문은 뇌에 쓰는 것 자체가 잘못된 도구라고 시사합니다. 가장 좋은 방법이라 해도 20번의 업데이트 후에 절반 이상의 사실을 잃게 됩니다.
사실을 사용 가능하게 유지하는 가장 확실한 방법은 그것을 로봇에게 프롬프트(prompt)로 주는 것입니다.
로봇 옆에 화이트보드가 있다고 상상해 보세요. 당신이 질문을 던질 때마다 그 사실을 화이트보드에 적어준다면, 로봇은 100가지 다른 것을 배운 후에도 그 사실을 완벽하게 사용할 수 있습니다. 화이트보드는 덮어씌워지지 않고, 그저 업데이트될 뿐입니다.
핵-심 요약:
로봇의 뇌는 콘텐츠를 저장하는 데는 뛰어나지만, 새로운 업데이트가 일어나도 살아남을 수 있는 영구적인 "주소"를 만드는 데는 서툽니다. 만약 어떤 사실이 조합되거나, 다른 지식과 결합되거나, 많은 새로운 레슨 후에도 기억되어야 한다면, 그것을 뇌(가중치)가 아닌 맥락(프롬프트)에 두십시오. 뇌는 '무엇(what)'을 저장하지만, 맥락은 '어디(where)'를 제공합니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.